Avocat din SUA sancționat pentru martori inventați de ChatGPT într-un caz de omor
Curtea Supremă din New Mexico l-a amendat pe avocatul Stephen Aarons cu 5.000 de dolari și l-a condamnat pentru nerespectarea instanței.
Aarons a citat, într-un memoriu de apel pentru un client condamnat pentru omor, declarațiile a mai multor martori care, potrivit instanței, nu au existat niciodată, inclusiv pretinși polițiști.
Potrivit propriilor declarații, Aarons a introdus un proces-verbal generat de calculator în ChatGPT și s-a așteptat la un rezumat de încredere, fără a verifica rezultatele.
Judecătoarea C. Shannon Bacon l-a criticat aspru și l-a întrebat dacă nu a urmat numeroasele raportări despre erorile IA în procedurile judiciare.
Aarons a declarat că nu știa cât de mult pot inventa sistemele de IA fapte și a calificat incidentul drept o greșeală onestă.
Instanța a anulat toate memoriile depuse până în acel moment, a desemnat o nouă apărătoare din oficiu pentru client și l-a trimis pe Aarons în fața unui organism disciplinar pentru avocați.
Cazuri similare, cu documente judiciare inventate de IA, se înmulțesc în SUA, așa cum arată sancțiunile anterioare împotriva altor cabinete de avocatură.
DE CE ESTE IMPORTANT
Cazul arată că sistemele de IA pot genera, chiar și în contexte profesionale cu consecințe grave, informații care sună convingător, dar sunt complet false.
CE POȚI FACE ACUM
- Verifică întotdeauna răspunsurile IA Compară numele, numerele și declarațiile importante dintr-un text generat de IA cu o sursă independentă și de încredere. Nu te baza niciodată doar pe ceea ce produce IA.
- Folosește IA doar ca instrument auxilar Consideră textele generate de IA ca un prim draft pe care trebuie să-l revizuiești personal. Mai ales în domenii precum dreptul, medicina sau finantele, IA nu înlocuiește un specialist.
- Consultă experți pentru documente importante Lasă documentele importante, cum ar fi contractele sau cererile, să fie verificate de un specialist adevărat. Astfel, vei observa dacă IA a inventat conținut.
- Rămâi sceptic în fața rezumatelor perfecte Dacă un rezumat generat de IA pare foarte fluid și complet, asta nu înseamnă că este corect. Tocmai atunci merită o a doua privire atentă.