Адвокат из США наказан за вымышленных ChatGPT-свидетелей в деле об убийстве
Верховный суд штата Нью-Мексико оштрафовал адвоката Стивена Ааронса на 5000 долларов США и признал его виновным в неуважении к суду.
Ааронс в апелляционной жалобе для клиента, осуждённого за убийство, процитировал показания нескольких свидетелей, которых, по данным суда, никогда не существовало, включая якобы полицейских.
По его словам, он загрузил в ChatGPT компьютерный протокол процесса и ожидал надёжного резюме, не проверив результаты.
Судья К. Шеннон Бейкон резко раскритиковала его и спросила, не следил ли он за многочисленными сообщениями об ошибках ИИ в судебных процессах.
Ааронс заявил, что не знал, насколько сильно ИИ-системы могут выдумывать факты, и назвал инцидент честной ошибкой.
Суд отменил все предыдущие документы по делу, назначил клиенту нового адвоката по назначению и передал дело Ааронса в дисциплинарный комитет для адвокатов.
Подобные случаи с вымышленными ИИ-документами в судах становятся всё чаще в США, как показывают предыдущие санкции против других юридических фирм.
ПОЧЕМУ ЭТО ВАЖНО
Этот случай демонстрирует, что системы ИИ могут создавать убедительно звучащую, но полностью ложную информацию даже в ответственных профессиональных контекстах.
ЧТО ДЕЛАТЬ СЕЙЧАС
- Проверяйте ответы ИИ Сравнивайте важные имена, числа и утверждения из текста ИИ с независимым и надёжным источником. Никогда не полагайтесь только на то, что выдаёт ИИ.
- Используйте ИИ только как вспомогательное средство Воспринимайте тексты, созданные ИИ, как первый черновик, который нужно проверить самостоятельно. Особенно в юридических, медицинских или финансовых вопросах ИИ не заменяет специалиста.
- Обращайтесь к экспертам за проверкой важных документов Пусть важные документы, такие как договоры или заявления, проверяет реальный специалист. Так можно заметить, если ИИ что-то выдумала.
- Оставайтесь скептичными к идеальным резюме Если резюме от ИИ кажется слишком гладким и полным, это не доказательство его правильности. В таких случаях стоит внимательно проверить информацию ещё раз.