Advogado dos EUA sancionado por usar testemunhas inventadas pelo ChatGPT em caso de homicídio
O Supremo Tribunal do Novo México multou o advogado Stephen Aarons em 5.000 dólares e condenou-o por desrespeito ao tribunal.
Aarons citou, em um recurso para um cliente condenado por homicídio, depoimentos de várias testemunhas que, segundo o tribunal, nunca existiram, incluindo supostos policiais.
Segundo suas próprias declarações, Aarons inseriu um protocolo de processo gerado por computador no ChatGPT e esperava um resumo confiável, sem verificar os resultados.
A juíza C. Shannon Bacon criticou-o duramente e perguntou se ele não acompanhava os inúmeros relatos sobre erros de IA em processos judiciais.
Aarons declarou que não sabia o quanto os sistemas de IA podem inventar fatos e classificou o incidente como um erro honesto.
O tribunal excluiu todos os documentos anteriores do processo, nomeou uma nova defensora pública para o cliente e encaminhou Aarons a um órgão disciplinar para advogados.
Casos semelhantes, com documentos judiciais inventados por IA, têm se multiplicado nos EUA, como mostram sanções anteriores contra outros escritórios de advocacia.
POR QUE ISSO É IMPORTANTE
O caso mostra que sistemas de IA podem gerar informações convincentes, mas completamente falsas, até mesmo em contextos profissionais com consequências graves.
O QUE VOCÊ PODE FAZER AGORA
- Verifique sempre as respostas da IA Compare nomes, números e afirmações importantes de um texto gerado por IA com uma fonte independente e confiável. Nunca confie apenas no que a IA produz.
- Use a IA apenas como ferramenta auxiliar Considere textos gerados por IA como um primeiro rascunho, que você mesmo deve revisar. Especialmente em temas jurídicos, médicos ou financeiros, a IA não substitui um profissional.
- Peça ajuda a especialistas para documentos importantes Peça para um especialista real revisar documentos importantes, como contratos ou petições. Assim, é possível identificar se a IA inventou conteúdos.
- Mantenha-se cético em relação a resumos perfeitos Se um resumo gerado por IA parecer muito fluido e completo, isso não é prova de que está correto. Nesse caso, vale a pena analisar com mais atenção.