Americký advokát sankcionován za vymyšlené svědky z ChatGPT v případu vraždy
Nejvyšší soud Nového Mexika uložil advokátovi Stephenu Aaronsovi pokutu 5 000 USD a odsoudil ho za pohrdání soudem.
Aarons v odvolacím podání pro klienta odsouzeného za vraždu citoval výpovědi několika svědků, kteří podle soudu nikdy neexistovali, včetně údajných policistů.
Sám Aarons uvedl, že do ChatGPT zadal počítačem generovaný zápis z jednání a očekával spolehlivé shrnutí, aniž by výsledky zkontroloval.
Soudkyně C. Shannon Bacon ho ostře kritizovala a ptala se, zda nesleduje četné zprávy o chybách KI v soudních řízeních.
Aarons prohlásil, že nevěděl, jak moc mohou systémy KI vymýšlet fakta, a označil incident za poctivou chybu.
Soud vymazal všechna dosavadní podání z řízení, jmenoval klientovi novou povinnou obhájkyni a postoupil Aaronsa k disciplinárnímu orgánu pro advokáty.
Podobné případy s vymyšlenými soudními dokumenty generovanými KI se v USA množí, jak ukazují dřívější sankce proti jiným advokátním kancelářím.
PROČ JE TO DŮLEŽITÉ
Případ ukazuje, že systémy KI mohou i v závažných profesních souvislostech vytvářet přesvědčivě znějící, ale zcela nepravdivé informace.
CO MŮŽETE UDĚLAT NYNÍ
- KI odpovědi vždy ověřuj Porovnej důležitá jména, čísla a tvrzení z textu KI s nezávislým a spolehlivým zdrojem. Nikdy se nespoléhej jen na to, co KI vygeneruje.
- Používej KI jen jako pomocníka Považuj texty generované KI za první návrh, který musíš sám zkontrolovat. Zvláště u právních, lékařských či finančních témat KI nenahradí odborníka.
- U důležitých dokumentů se ptej odborníků Nech důležité písemnosti, jako jsou smlouvy či žádosti, zkontrolovat skutečným odborníkem. Tak zjistíš, jestli KI něco vymyslela.
- Buď skeptický k dokonalým shrnutím Pokud se shrnutí od KI jeví velmi plynulé a úplné, není to důkazem správnosti. Právě tehdy se vyplatí důkladnější pohled.