Адвокат от САЩ санкциониран за измислени от ChatGPT свидетели в дело за убийство
Върховният съд на Ню Мексико наложи глоба от 5000 щатски долара на адвоката Стивън Аарънс и го осъди за неуважение към съда.
Аарънс беше цитирал в апелативното си ходатайство за клиент, осъден за убийство, показания на няколко свидетели, които според съда никога не са съществували, включително предполагаеми полицаи.
Съгласно неговите думи, Аарънс въвел в ChatGPT компютърно генериран протокол от процеса и очаквал надеждна обобщаваща информация, без да провери резултатите.
Съдийката С. Шанън Бейкън го критикува остро и попита дали не е прочел многобройните доклади за грешки на ИИ в съдебни процеси.
Аарънс твърди, че не е знаел колко силно ИИ-системите могат да измислят факти, и нарича случая „честен грешка“.
Съдът анулира всички предишни документи от процеса, назначи нов задължителен адвокат за клиента и препрати Аарънс към дисциплинарна комисия за адвокати.
Случаи с измислени от ИИ съдебни документи се умножават в САЩ, както показват предишни санкции срещу други адвокатски кантори.
ЗАЩО Е ВАЖНО
Случаят показва, че ИИ-системите могат да генерират убедително звучаща, но напълно невярна информация дори в сериозни професионални контексти.
ЧЕ МОЖЕШ ДА НАПРАВИШ СЕГА
- Проверявай винаги отговорите на ИИ Сравнявай важни имена, числа и твърдения от ИИ-текст с независим и достоверен източник. Не разчитай само на това, което ИИ генерира.
- Използвай ИИ само като помощно средство Разглеждай текстовете, създадени от ИИ, като първа чернова, която трябва да прегледаш лично. Особено в правни, медицински или финансови въпроси ИИ не може да замени професионалист.
- Питай експерти за важни документи Остави важни документи като договори или молби да бъдат прегледани от истински професионалист. Така ще забележиш, ако ИИ е измислила съдържание.
- Остани скептичен към перфектни обобщения Ако една обобщаваща информация от ИИ изглежда много гладка и пълна, това не е доказателство за нейната вярност. Тогава си струва да хвърлиш по-внимателен поглед.