Адвоката з США оштрафували за вигаданих ChatGPT свідків у справі про вбивство
Верховний суд Нью-Мексико оштрафував адвоката Стівена Ааронса на 5 000 доларів США та визнав його винним у нехтуванні судом.
Ааронс у апеляційній скарзі для клієнта, засудженого за вбивство, посилався на свідчення кількох свідків, яких, за версією суду, ніколи не існувало, зокрема начебто поліцейських.
За його словами, він завантажив у ChatGPT комп’ютерний протокол судового засідання та очікував на надійне резюме, не перевіривши результати.
Суддя К. Шеннон Бейкон рішуче його критикувала та запитала, чи він не стежив за численними повідомленнями про помилки ШІ у судових процесах.
Ааронс стверджував, що не знав, наскільки ШІ може вигадувати факти, і назвав інцидент щирою помилкою.
Суд скасував усі попередні документи у справі, призначив клієнту нового обов’язкового захисника та передав справу Ааронса до дисциплінарної комісії для адвокатів.
Подібні випадки зі вигаданими ШІ судовими документами стають все частішими в США, як свідчать попередні санкції проти інших юридичних фірм.
ЧОМУ ЦЕ ВАЖЛИВО
Цей випадок показує, що системи ШІ можуть створювати переконливі, але повністю хибні дані навіть у відповідальних професійних контекстах.
ЩО ВИ МОЖЕТЕ ЗРОБИТИ ЗАРАЗ
- Завжди перевіряй відповіді ШІ Порівнюй важливі імена, цифри та твердження з тексту ШІ з незалежним надійним джерелом. Ніколи не покладайся лише на те, що видає ШІ.
- Використовуй ШІ лише як допоміжний засіб Сприймай тексти, згенеровані ШІ, як перший варіант, який ти маєш самостійно перевірити. Особливо у юридичних, медичних чи фінансових питаннях ШІ не замінить фахівця.
- Залучай експертів до важливих документів Доручай перевірку важливих документів, таких як договори чи заяви, справжньому фахівцю. Так буде помітно, якщо ШІ вигадала вміст.
- Будь скептичним до ідеальних резюме Якщо резюме ШІ здається надто гладким і повним, це не доказ його правильності. Саме тоді варто придивитися уважніше.