Advokát v USA potrestaný za vymyslených sviedkov z ChatGPT v prípade vraždy
Najvyšší súd Nového Mexika uložil advokátovi Stephenovi Aaronsovi pokutu vo výške 5 000 dolárov a odsúdil ho za neúctu k súdu.
Aarons v odvolacom podaní pre klienta odsúdeného za vraždu citoval výpovede niekoľkých sviedkov, ktorí podľa súdu nikdy neexistovali, vrátane domnelých policajných dôstojníkov.
Podľa vlastných slov vložil Aarons do ChatGPT počítačom generovaný zápis z pohladavku a očakával spoľahlivé zhrnutie, pričom výsledky neoveril.
Súdkyňa C. Shannon Bacon ho ostro kritizovala a spýtala sa, či nesledoval početné správy o chybach KI v súdnych konaniach.
Aarons tvrdil, že nevedel, ako silno môžu KI systémy vymýšľať fakty, a označil incident za poctivú chybu.
Súd vymazal všetky predchádzajúce podania z konania, vymenoval klientovi novú obhajkyňu z povinnosti a odkázal Aaronsa na disciplinárny orgán pre advokátov.
Podobné prípady s vymyslenými súdnymi dokumentmi generovanými KI sa v USA hromadia, ako ukazujú predchádzajúce sankcie proti iným advokátskym kanceláriám.
PREČO JE TO DÔLEŽITÉ
Prípad ukazuje, že systémy KI môžu aj v dôležitých, profesionálnych súvislostiach vytvoriť presvedčivo zniejúce, ale úplne nesprávne informácie.
ČO MÔŽEŠ TERAZ UROBIŤ
- KI odpovede vždy skontroluj Porovnaj dôležité mená, čísla a tvrdenia z textu KI s nezávislým, spoľahlivým zdrojom. Nikdy sa nespoliehaj len na to, čo KI vygeneruje.
- Používaj KI len ako pomocný nástroj Texty generované KI ber ako prvý návrh, ktorý si musíš sám prečítať a skontrolovať. Obzvlášť v právnych, lekárskych alebo finančných témach KI nenahrádza odborníka.
- Pri dôležitých dokumentoch sa poraď s odborníkom Nechaj dôležité písomnosti ako zmluvy alebo žiadosti skontrolovať skutočným odborníkom. Tak odhalíš, ak KI niečo vymyslela.
- Buď skeptický k dokonalým zhrnutiam Ak sa zhrnutie od KI javí ako veľmi hladké a úplné, neznamená to, že je správne. Presne vtedy sa oplatí podrobnejšie preštudovať.