US-Anwalt wegen ChatGPT-erfundener Zeugen in Mordfall sanktioniert
Der Oberste Gerichtshof von New Mexico hat den Anwalt Stephen Aarons mit einer Geldstrafe von 5.000 US-Dollar belegt und ihn wegen Missachtung des Gerichts verurteilt.
Aarons hatte in einem Berufungsschriftsatz für einen wegen Mordes verurteilten Mandanten Aussagen von mehreren Zeugen zitiert, die es laut Gericht nie gegeben hat, darunter angebliche Polizeibeamte.
Nach eigenen Angaben speiste Aarons ein computergeneriertes Prozessprotokoll in ChatGPT ein und erwartete eine zuverlässige Zusammenfassung, ohne die Ergebnisse zu überprüfen.
Richterin C. Shannon Bacon kritisierte ihn scharf und fragte, ob er die zahlreichen Berichte über KI-Fehler in Gerichtsverfahren nicht verfolgt habe.
Aarons erklärte, er habe nicht gewusst, wie stark KI-Systeme Fakten erfinden können, und bezeichnete den Vorfall als ehrlichen Fehler.
Das Gericht strich alle bisherigen Schriftsätze aus dem Verfahren, bestellte eine neue Pflichtverteidigerin für den Mandanten und verwies Aarons an ein Disziplinargremium für Anwälte.
Ähnliche Fälle mit von KI erfundenen Gerichtsdokumenten häufen sich in den USA, wie frühere Sanktionen gegen andere Kanzleien zeigen.
WARUM DAS WICHTIG IST
Der Fall zeigt, dass KI-Systeme auch in folgenreichen, professionellen Zusammenhängen überzeugend klingende, aber komplett falsche Informationen erzeugen können.
WAS DU JETZT TUN KANNST
- Prüfe KI-Antworten immer nach Vergleiche wichtige Namen, Zahlen und Aussagen aus einem KI-Text mit einer unabhängigen, verlässlichen Quelle. Verlass dich nie allein auf das, was die KI ausgibt.
- Nutze KI nur als Hilfsmittel Sieh KI-generierte Texte als ersten Entwurf, den du selbst gegenlesen musst. Besonders bei rechtlichen, medizinischen oder finanziellen Themen ersetzt KI keine Fachperson.
- Frage bei wichtigen Dokumenten Experten Lass wichtige Schriftstücke wie Verträge oder Anträge von einer echten Fachperson kontrollieren. So fällt es auf, wenn KI Inhalte erfunden hat.
- Bleib skeptisch bei perfekten Zusammenfassungen Wenn eine KI-Zusammenfassung sehr glatt und vollständig wirkt, ist das kein Beweis für Richtigkeit. Gerade dann lohnt sich ein genauer zweiter Blick.