JAV advokatas nubaustas už ChatGPT sugalvotus liudijus žmogžudystės byloje
Naujosios Meksikos Aukščiausiasis Teismas nubaudė advokatą Stephen Aarons 5 000 JAV dolerių bauda ir pripažino jį kalto už teismo negerbimą.
Aarons savo apeliaciniame rašte, skirtame klientui, nuteistam už žmogžudystę, citavo kelių liudijų, kurie, teismo nuomone, niekada neegzistavo, įskaitant išgalvotus policijos pareigūnus.
Pats Aarons teigė, kad įvedė į ChatGPT kompiuteriu sugeneruotą teismo protokolą ir tikėjosi patikimos santraukos, nepatikrinęs rezultatų.
Teisėja C. Shannon Bacon jį griežtai pasmerkė ir paklausė, ar jis nesekė daugybės pranešimų apie KI klaidų teisminėse procedūrose.
Aarons paaiškino, kad nežinojo, kaip stipriai KI sistemos gali sugalvoti faktus, ir pavadino įvykį sąžininga klaida.
Teismas pašalino visus ankstesnius raštus iš bylo, paskyrė naują privalomąją gynėją klientui ir nukreipė Aaronso į advokatų disciplininį organą.
Panašių atvejų su KI sugalvotais teisminiais dokumentais JAV daugybė, kaip rodo ankstesni sankcijos kitoms kontoroms.
KODĖL TAI SVARBU
Šis atvejis parodo, kad KI sistemos gali kurti įtikinamai skambančią, bet visai neteisingą informaciją net tokiose svarbiose, profesionaliose srityse.
KĄ DABAR GALI PADARYTI
- Visada patikrink KI atsakymus Palygink svarbius vardus, skaičius ir teiginius iš KI teksto su nepriklausoma, patikima šaltiniu. Niekuomet nepasikliovėk tik tuo, ką pateikia KI.
- Naudok KI tik kaip pagalbinį įrankį KI sugeneruotus tekstus laikyk pirmajuoju juodraščiu, kurį turi pats peržiūrėti. Ypač teisinėse, medicininėse ar finansinėse temose KI negali pakeisti profesionalo.
- Konsultuokis su ekspertais svarbiems dokumentams Leisk svarbius dokumentus, pavyzdžiui, sutartis ar prašymus, patikrinti tikrai kompetetingai asmeniui. Taip bus aišku, jei KI sugalvojo turinį.
- Būk skeptiškas, kai santrauka atrodo pernelyg tobulai Jei KI santrauka atrodo labai lygi ir pilna, tai nereiškia, kad ji teisinga. Ypač tada verta atlikti antrinį, kruopštinį žvilgsnį.