Avvocato USA sanzionato per testimoni inventati da ChatGPT in un caso di omicidio
La Corte Suprema del New Mexico ha multato l’avvocato Stephen Aarons con 5.000 dollari e lo ha condannato per ostruzione alla giustizia.
Aarons aveva citato in un ricorso per un cliente condannato per omicidio le dichiarazioni di diversi testimoni, che secondo il tribunale non sono mai esistiti, tra cui presunti agenti di polizia.
Secondo le sue dichiarazioni, Aarons aveva inserito un verbale di processo generato al computer in ChatGPT, aspettandosi un riassunto affidabile senza verificare i risultati.
La giudice C. Shannon Bacon lo ha criticato aspramente, chiedendogli se non avesse seguito i numerosi resoconti sugli errori dell’IA nei procedimenti giudiziari.
Aarons ha dichiarato di non sapere quanto i sistemi di IA possano inventare fatti e ha definito l’accaduto un errore in buona fede.
Il tribunale ha annullato tutti gli atti presentati finora, ha nominato un nuovo difensore d’ufficio per il cliente e ha deferito Aarons a un organo disciplinare per avvocati.
Casi simili con documenti giudiziari inventati dall’IA si stanno moltiplicando negli Stati Uniti, come dimostrano sanzioni precedenti contro altri studi legali.
PERCHÉ È IMPORTANTE
Il caso dimostra che i sistemi di IA possono generare informazioni convincenti ma completamente false anche in contesti professionali di grande rilevanza.
COSA PUOI FARE ORA
- Controlla sempre le risposte dell’IA Confronta nomi, numeri e dichiarazioni importanti da un testo generato dall’IA con una fonte indipendente e affidabile. Non basarti mai solo su ciò che produce l’IA.
- Usa l’IA solo come strumento di supporto Considera i testi generati dall’IA come una prima bozza che devi rileggere personalmente. In ambiti legali, medici o finanziari, l’IA non sostituisce un professionista.
- Chiedi il parere di un esperto per documenti importanti Fai controllare documenti importanti come contratti o domande da un vero professionista. In questo modo puoi notare se l’IA ha inventato contenuti.
- Rimani scettico di fronte a riassunti perfetti Se un riassunto generato dall’IA sembra troppo fluido e completo, non è una prova di correttezza. In questi casi, vale la pena fare un controllo più approfondito.