Abogado de EE.UU. sancionado por usar testigos inventados por ChatGPT en un caso de asesinato
El Tribunal Supremo de Nuevo México multó al abogado Stephen Aarons con 5.000 dólares estadounidenses y lo declaró culpable de desacato al tribunal.
Aarons citó en un escrito de apelación para un cliente condenado por asesinato declaraciones de varios testigos que, según el tribunal, nunca existieron, entre ellos supuestos agentes de policía.
Según sus propias declaraciones, Aarons introdujo un acta procesal generada por computadora en ChatGPT y esperaba un resumen fiable sin verificar los resultados.
La jueza C. Shannon Bacon lo criticó duramente y le preguntó si no había seguido los numerosos informes sobre errores de IA en procedimientos judiciales.
Aarons declaró que no sabía hasta qué punto los sistemas de IA pueden inventar hechos y calificó el incidente como un error honesto.
El tribunal anuló todos los escritos presentados anteriormente en el caso, nombró una nueva defensora de oficio para el cliente y remitió a Aarons a un comité disciplinario para abogados.
Casos similares con documentos judiciales inventados por IA se están multiplicando en EE.UU., como demuestran sanciones anteriores contra otros bufetes.
POR QUÉ ES IMPORTANTE
El caso demuestra que los sistemas de IA pueden generar información falsa, pero convincente, incluso en contextos profesionales con consecuencias graves.
QUÉ PUEDES HACER AHORA
- Verifica siempre las respuestas de la IA Compara nombres, números y declaraciones importantes de un texto generado por IA con una fuente independiente y fiable. Nunca confíes solo en lo que la IA produce.
- Usa la IA solo como herramienta de apoyo Considera los textos generados por IA como un primer borrador que debes revisar tú mismo. Especialmente en temas legales, médicos o financieros, la IA no sustituye a un profesional.
- Pide a expertos que revisen documentos importantes Haz que una persona especializada revise documentos importantes como contratos o solicitudes. Así podrás detectar si la IA ha inventado contenido.
- Mantente escéptico ante resúmenes perfectos Si un resumen generado por IA parece muy fluido y completo, no es prueba de que sea correcto. Precisamente en esos casos, vale la pena revisarlo con detalle.