Amerikansk advokat sanktionerad för ChatGPT-påhittade vittnen i mordfall
Högsta domstolen i New Mexico har ålagt advokaten Stephen Aarons en böter på 5 000 US-dollar och dömt honom för förakt mot domstolen.
Aarons hade i ett överklagande för en klient som dömts för mord citerat uttalanden från flera vittnen som, enligt domstolen, aldrig har existerat, däribland påstådda poliser.
Enligt egen utsago matade Aarons in ett datorgenererat rättegångsprotokoll i ChatGPT och förväntade sig en tillförlitlig sammanfattning, utan att kontrollera resultaten.
Domaren C. Shannon Bacon kritiserade honom skarpt och frågade om han inte hade följt de många rapporterna om KI-fel i rättsprocesser.
Aarons förklarade att han inte visste hur starkt KI-system kan hitta på fakta och betecknade händelsen som ett ärligt misstag.
Domstolen strök alla tidigare skriftliga handlingar i ärendet, utsåg en ny offentlig försvarare för klienten och hänvisade Aarons till en disciplinnämnd för advokater.
Liknande fall med KI-påhittade rättsdokument blir allt vanligare i USA, som tidigare sanktioner mot andra advokatbyråer visar.
VARFÖR DET ÄR VIKTIGT
Fallet visar att KI-system även i allvarliga, professionella sammanhang kan producera övertygande, men helt felaktig information.
VAD DU KAN GÖRA NU
- Kontrollera alltid KI-svar Jämför viktiga namn, siffror och uttalanden från en KI-text med en oberoende, pålitlig källa. Lita aldrig enbart på det som KI:n genererar.
- Använd KI endast som hjälpmedel Se KI-genererade texter som ett första utkast som du själv måste granska. Särskilt inom juridiska, medicinska eller ekonomiska ämnen ersätter inte KI en expert.
- Rådfråga experter vid viktiga dokument Låt viktiga handlingar som avtal eller ansökningar granskas av en riktig expert. Då upptäcks det om KI:n har hittat på innehåll.
- Var skeptisk till perfekta sammanfattningar Om en KI-sammanfattning verkar mycket smidig och fullständig är det ingen garanti för korrekthet. Då lönar det sig att ta en noggrann andra titt.