Un avocat américain sanctionné pour avoir utilisé des témoins inventés par ChatGPT dans une affaire de meurtre
La Cour suprême du Nouveau-Mexique a infligé une amende de 5 000 dollars américains à l'avocat Stephen Aarons et l'a condamné pour outrage à la cour.
Dans un mémoire d'appel pour un client condamné pour meurtre, Aarons avait cité des déclarations de plusieurs témoins, qui, selon le tribunal, n'ont jamais existé, y compris des policiers supposés.
Selon ses propres déclarations, Aarons a introduit un procès-verbal généré par ordinateur dans ChatGPT et s'attendait à un résumé fiable, sans vérifier les résultats.
La juge C. Shannon Bacon l'a vivement critiqué et lui a demandé s'il n'avait pas suivi les nombreux rapports sur les erreurs de l'IA dans les procédures judiciaires.
Aarons a déclaré qu'il ne savait pas à quel point les systèmes d'IA pouvaient inventer des faits et a qualifié l'incident d'erreur honnête.
Le tribunal a retiré tous les mémoires précédents de la procédure, a désigné une nouvelle avocate commise d'office pour le client et a renvoyé Aarons devant un organe disciplinaire pour avocats.
Des cas similaires impliquant des documents judiciaires inventés par l'IA se multiplient aux États-Unis, comme le montrent les sanctions antérieures contre d'autres cabinets.
POURQUOI C'EST IMPORTANT
Ce cas montre que les systèmes d'IA peuvent produire des informations convaincantes mais totalement fausses, même dans des contextes professionnels aux conséquences graves.
CE QUE VOUS POUVEZ FAIRE MAINTENANT
- Vérifiez toujours les réponses de l'IA Comparez les noms, chiffres et déclarations importants d'un texte généré par l'IA avec une source indépendante et fiable. Ne vous fiez jamais uniquement à ce que l'IA produit.
- Utilisez l'IA uniquement comme outil d'aide Considérez les textes générés par l'IA comme une première ébauche que vous devez relire vous-même. Surtout pour les sujets juridiques, médicaux ou financiers, l'IA ne remplace pas un professionnel.
- Demandez l'avis d'experts pour les documents importants Faites vérifier les documents importants comme les contrats ou les demandes par un vrai professionnel. Cela permet de détecter si l'IA a inventé des contenus.
- Restez sceptique face aux résumés parfaits Si un résumé généré par l'IA semble très fluide et complet, ce n'est pas une preuve de justesse. C'est précisément dans ces cas qu'un examen attentif s'impose.