Amerikansk advokat sanksjonert for ChatGPT-oppfunnede vitner i drapssak
Høyesterett i New Mexico har idømt advokaten Stephen Aarons en bot på 5 000 amerikanske dollar og dømt ham for forakt for retten.
Aarons hadde i et ankeskrift for en klient dømt for drap sitert utsagn fra flere vitner som, ifølge retten, aldri har eksistert, blant annet påståtte polititjenestemenn.
Ifølge egne opplysninger matet Aarons en datagenerert rettsprotokoll inn i ChatGPT og forventet en pålitelig oppsummering, uten å sjekke resultatene.
Dommer C. Shannon Bacon kritiserte ham skarpt og spurte om han ikke hadde fulgt med på de tallrike rapportene om KI-feil i rettssaker.
Aarons forklarte at han ikke visste hvor mye KI-systemer kan finne på fakta, og omtalte hendelsen som en ærlig feil.
Retten strøk alle tidligere skriftsmål fra saken, utnevnte en ny offentlig forsvarer for klienten og henviste Aarons til advokatenes disiplinærnemnd.
Lignende saker med KI-oppfunnede rettsdokumenter øker i USA, som tidligere sanksjoner mot andre advokatfirmaer viser.
HVORFOR DETTE ER VIKTIG
Saken viser at KI-systemer kan produsere overbevisende, men fullstendig feilaktig informasjon, også i alvorlige, profesjonelle sammenhenger.
HVA DU KAN GJØRE NÅ
- Sjekk alltid KI-svar Sammenlign viktige navn, tall og utsagn fra en KI-tekst med en uavhengig, pålitelig kilde. Stol aldri bare på det KI-en kommer med.
- Bruk KI bare som hjelpemiddel Se på KI-genererte tekster som et første utkast som du selv må lese igjennom. Spesielt innen juridiske, medisinske eller økonomiske temaer erstatter ikke KI en fagperson.
- Spør eksperter om viktige dokumenter La viktige skrifter som kontrakter eller søknader bli kontrollert av en ekte fagperson. Da oppdages det om KI har funnet opp innhold.
- Vær skeptisk til perfekte oppsummeringer Hvis en KI-oppsummering virker veldig glatt og fullstendig, er det ingen garanti for at den er riktig. Da lønner det seg å ta en grundig andre titt.