Amerikansk advokat sanktioneret for ChatGPT-opfundne vidner i mordretssag
Den Højesteret i New Mexico har idømt advokaten Stephen Aarons en bøde på 5.000 amerikanske dollars og dømt ham for foragt for retten.
Aarons havde i et ankeskrift for en klient, der var dømt for mord, citeret udsagn fra flere vidner, som ifølge retten aldrig har eksisteret, heriblandt påståede politibetjente.
Ifølge egne oplysninger indtastede Aarons et computergenereret retsreferat i ChatGPT og forventede en pålidelig opsummering, uden at kontrollere resultaterne.
Dommer C. Shannon Bacon kritiserede ham hårdt og spurgte, om han ikke havde fulgt med i de talrige rapporter om KI-fejl i retssager.
Aarons forklarede, at han ikke vidste, i hvilket omfang KI-systemer kan opfinde fakta, og betegnede hændelsen som en ærlig fejl.
Retten strøg alle tidligere skriftlige indlæg fra sagen, udpegede en ny forsvarer for klienten og henviste Aarons til et disciplinærudvalg for advokater.
Lignende sager med KI-opfundne retsdokumenter er blevet hyppigere i USA, som tidligere sanktioner mod andre advokatfirmaer viser.
HVORFOR DET ER VIGTIGT
Sagen viser, at KI-systemer også i alvorlige, professionelle sammenhænge kan frembringe overbevisende, men helt forkerte oplysninger.
HVAD DU KAN GØRE NU
- Kontroller altid KI-svar Sammenlign vigtige navne, tal og udsagn fra en KI-tekst med en uafhængig, pålidelig kilde. Stol aldrig udelukkende på det, KI’en udspyer.
- Brug KI kun som hjælpemiddel Betragt KI-genererede tekster som et første udkast, som du selv skal korrekturlæse. Især inden for juridiske, medicinske eller økonomiske emner erstatter KI ikke en fagperson.
- Spørg eksperter om vigtige dokumenter Lad vigtige dokumenter som kontrakter eller ansøgninger blive kontrolleret af en rigtig fagperson. Så opdager man, hvis KI har opfundet indhold.
- Vær skeptisk over for perfekte opsummeringer Hvis en KI-opsummering virker meget glat og fuldstændig, er det ingen garanti for, at den er korrekt. Især da er det værd at kigge nøje efter.