USA advokaat karistati ChatGPT poolest välja mõeldud tunnistajate eest mõrvaasjas
New Mexico Ülemkohus mõistis advokaadile Stephen Aaronsile 5000 USA dollari trahvi ja tunnistas ta kohtuvastaseks.
Aarons viitas apellatsioonikirjas mõrvas süüdi mõistetud kliendi nimel mitmete tunnistajate väidetega, keda kohtu sõnul kunagi ei olnud, sealhulgas oletatavate politseinike väited.
Aarons ise väitis, et ta sisestas arvutiga loodud kohtuprotokolli ChatGPT-sse ja ootas usaldusväärset kokkuvõtet, ilma tulemusi kontrollimata.
Kohtunik C. Shannon Bacon kritiseeris teda teravalt ja küsis, kas ta pole järginud paljusid teateid KI veadest kohtuprotsessides.
Aarons väitis, et ta ei teadnud, kui tugevalt KI-süsteemid võivad fakte välja mõelda, ja nimetas juhtumit ausaks veaks.
Kohus tühistas kõik senised kirjalikud avaldused protsessist, määrati kliendile uus kohustuslik kaitsja ja suunas Aaronsi advokaadide distsiplinaarkomiteesse.
Sarnased juhtumid KI poolt välja mõeldud kohtudokumentidega on USA-s sagedamaks muutumas, nagu näitavad varasemad sanktsioonid teistele advokaadibüroodele.
MIKS SE ON OLULINE
Juhtum näitab, et KI-süsteemid võivad ka olulistes, professionaalsetes kontekstides veenvad, kuid täielikult valed teavet luua.
MIDA SA NÜÜD TEHA VÕID
- Kontrolli KI vastuseid alati Võrdle olulisi nimesid, numbreid ja väiteid KI tekstist sõltumatute ja usaldusväärsete allikatega. Ära toetu ainult sellele, mis KI väljastab.
- Kasuta KI ainult abivahendina Pidage KI loodud teksteid esimeseks visandiks, mida pead ise läbi vaatama. Eriti õiguslike, meditsiiniliste või finantsalaste teemade puhul ei asenda KI spetsialisti.
- Küsi oluliste dokumentide puhul eksperte Lase olulised kirjalikud dokumendid nagu lepingud või taotlused päris spetsialisti poolt kontrollida. Nii avastad, kui KI on sisu välja mõelnud.
- Püsi skeptiline perfektse kokkuvõtte suhtes Kui KI kokkuvõte tundub väga sile ja täielik, ei ole see tõestus õigsuse kohta. Just siis väärib see hoolikas teine vaatus.