Amerikaanse advocaat gesanctioneerd voor door ChatGPT verzonnen getuigen in moordzaak
Het Hooggerechtshof van New Mexico heeft advocaat Stephen Aarons een boete van 5.000 Amerikaanse dollar opgelegd en hem schuldig bevonden aan minachting van de rechtbank.
Aarons had in een beroepschrift voor een cliënt die was veroordeeld voor moord verklaringen van meerdere getuigen geciteerd die, volgens de rechter, nooit hebben bestaan, waaronder vermeende politieagenten.
Volgens eigen zeggen voerde Aarons een door de computer gegenereerd proces-verbaal in ChatGPT in en verwachtte een betrouwbare samenvatting, zonder de resultaten te controleren.
Rechter C. Shannon Bacon kritiseerde hem fel en vroeg of hij de talloze berichten over KI-fouten in gerechtelijke procedures niet had gevolgd.
Aarons zei dat hij niet wist hoe sterk KI-systemen feiten kunnen verzinnen en noemde het incident een oprechte fout.
De rechtbank schrapte alle eerdere stukken uit de procedure, wees een nieuwe toegewezen advocaat toe voor de cliënt en verwees Aarons door naar een tuchtcollege voor advocaten.
Soortgelijke gevallen met door KI verzonnen gerechtelijke documenten nemen in de VS toe, zoals eerdere sancties tegen andere kantoren aantonen.
WAAROM DIT BELANGRIJK IS
Deze zaak laat zien dat KI-systemen ook in belangrijke, professionele contexten overtuigend klinkende, maar volledig onjuiste informatie kunnen produceren.
WAT JE NU KUNT DOEN
- Controleer KI-antwoorden altijd na Vergelijk belangrijke namen, cijfers en beweringen uit een KI-tekst met een onafhankelijke, betrouwbare bron. Vertrouw nooit alleen op wat de KI uitspuwt.
- Gebruik KI alleen als hulpmiddel Zie KI-gegenereerde teksten als een eerste versie die je zelf moet nakijken. Vooral bij juridische, medische of financiële onderwerpen vervangt KI geen expert.
- Vraag bij belangrijke documenten experts Laat belangrijke stukken zoals contracten of verzoeken door een echte expert controleren. Zo val je op als de KI inhoud heeft verzonnen.
- Blijf sceptisch bij perfecte samenvattingen Als een KI-samenvatting heel soepel en volledig lijkt, is dat geen bewijs van juistheid. Juist dan loont het om nog eens goed te kijken.