CHATGPT가 만든 가짜 증인으로 살인사건 변호사 제재

뉴멕시코 대법원은 스티븐 애런스 변호사에게 5,000달러의 벌금과 법정 모독죄를 선고했습니다.

애런스 변호사는 살인죄로 유죄 판결을 받은 의뢰인의 항소서류에 여러 증인의 진술을 인용했는데, 법정에 따르면 해당 증인들은 존재하지 않았으며, 그중에는 가상의 경찰관도 포함되어 있었습니다.

애런스 변호사 본인에 따르면, 그는 컴퓨터로 생성된 재판 기록을 CHATGPT에 입력하고 신뢰할 수 있는 요약문을 기대했지만, 결과를 검증하지 않았다고 합니다.

배컨 판사는 그를 강하게 비판하며, 법정 절차에서 KI 오류에 대한 수많은 보고서를 읽지 않았냐고 물었습니다.

애런스 변호사는 KI 시스템이 사실을 조작할 수 있는 정도를 몰랐다며, 이 사건은 순수한 실수였다고 설명했습니다.

법원은 모든 기존 소송서류를 삭제하고, 의뢰인에게 새로운 국선변호사를 선임했으며, 애런스를 변호사 징계위원회에 회부했습니다.

미국에서는 KI가 만든 가짜 법원 문서로 인한 유사 사례가 증가하고 있으며, 과거 다른 로펌들도 제재를 받은 바 있습니다.

왜 중요한가

이 사건은 KI 시스템이 중요한 전문적 맥락에서도 설득력 있게 들리지만 완전히 잘못된 정보를 생성할 수 있음을 보여줍니다.

KI 텍스트를 항상 검증하세요 KI 텍스트의 중요한 이름, 숫자, 진술 등을 독립적이고 신뢰할 수 있는 출처와 비교하세요. KI가 출력한 내용만 믿지 마세요.
KI를 보조 도구로만 사용하세요 KI가 생성한 텍스트는 자신이 직접 검토해야 하는 초안으로 생각하세요. 특히 법적, 의학적, 재정적 주제에서는 KI가 전문가를 대체할 수 없습니다.
중요 문서는 전문가에게 확인받으세요 계약서나 신청서와 같은 중요한 문서는 실제 전문가에게 검토를 받으세요. 그러면 KI가 내용을 조작했는지 확인할 수 있습니다.
완벽한 요약에도 의심하세요 KI가 만든 요약이 매우 매끄럽고 완전해 보인다고 해도 그것이 옳다는 증거는 아닙니다. 특히 그럴 때 더 꼼꼼히 살펴보세요.