Američki odvjetnik kažnjen zbog izmišljenih svjedoka generiranih ChatGPT-om u slučaju ubojstva
Vrhovni sud Novog Meksika kaznio je odvjetnika Stephena Aarona novčanom kaznom od 5.000 američkih dolara i osudio ga za nepoštivanje suda.
Aarons je u žalbenom pismu za klijenta osuđenog za ubojstvo citirao izjave nekoliko svjedoka koji, prema sudu, nikada nisu postojali, uključujući navodne policijske službenike.
Prema vlastitim izjavama, Aarons je unio računalno generirani zapis sjednice u ChatGPT i očekivao pouzdan sažetak, bez provjere rezultata.
Sudacica C. Shannon Bacon oštro ga je kritizirala i upitala je li pratio brojne izvještaje o pogreškama KI u sudskim postupcima.
Aarons je izjavio da nije znao koliko KI sustavi mogu izmišljati činjenice i nazvao je incident iskrenom greškom.
Sud je izbrisao sva dosadašnja pisma iz postupka, imenovao novu obvezatnu braniteljicu za klijenta i uputio Aarona disciplinskom vijeću za odvjetnike.
Slični slučajevi s izmišljenim sudskim dokumentima generiranim KI-jem sve su učestaliji u SAD-u, kao što pokazuju ranije kazne protiv drugih odvjetničkih ureda.
ZAŠTO JE TO VAŽNO
Ovaj slučaj pokazuje da KI sustavi mogu stvoriti uvjerljivo zvučne, ali potpuno netočne informacije čak i u važnim, profesionalnim kontekstima.
ŠTO MOŽEŠ SAD UČINITI
- Provjeravaj KI odgovore Usporedi važna imena, brojeve i izjave iz KI teksta s nezavisnim i pouzdanim izvorom. Nikada se ne oslanjaj isključivo na ono što KI generira.
- Koristi KI samo kao pomoćno sredstvo KI generirane tekstove tretiraj kao prvi nacrt koji morate sami provjeriti. Posebno kod pravnih, medicinskih ili financijskih tema, KI ne može zamijeniti stručnu osobu.
- Pitaj stručnjake za važne dokumente Neka važna pisma kao ugovori ili zahtjevi provjere prava stručna osoba. Tako će se uočiti ako je KI izmislio sadržaj.
- Budi skeptičan prema savršenim sažetcima Ako KI sažetak djeluje vrlo glatko i potpuno, to nije dokaz točnosti. Upravo onda vrijedi detaljnije pogledati.