美国律师因在谋杀案中使用ChatGPT虚构证人而受到制裁
新墨西哥州最高法院对律师Stephen Aarons处以5000美元罚款，并以藐视法庭罪判处其有罪。
Aarons在为一名因谋杀罪被定罪的当事人提交的上诉状中引用了多名证人的证言，但法院表示这些证人从未存在过，其中包括所谓的警官。
Aarons称，他将一份计算机生成的审判记录输入ChatGPT，期望获得可靠的摘要，但未对结果进行核实。
法官C. Shannon Bacon严厉批评了他，并质问他是否没有关注过关于人工智能在司法程序中出错的大量报道。
Aarons解释称，他不知道人工智能系统能够虚构事实到何种程度，并将此事件称为诚实的错误。
法院撤销了此前提交的所有法律文书，为当事人指派了一名新的公设辩护律师，并将Aarons移送律师纪律委员会处理。
类似人工智能虚构司法文件的案件在美国屡见不鲜，此前已有其他律师事务所因类似问题受到处罚。
为什么这很重要
此案表明，即使在专业且影响重大的场景中，人工智能系统也可能生成听起来合理但完全错误的信息。
你现在可以做什么
- 始终核实人工智能的回答 将人工智能文本中的重要姓名、数字和陈述与独立、可靠的来源进行对比。切勿仅依赖人工智能的输出。
- 仅将人工智能作为辅助工具使用 将人工智能生成的文本视为初稿，需由你自己审核。特别是在法律、医疗或财务等领域，人工智能无法替代专业人士。
- 在重要文件上咨询专家 让真正的专业人士检查合同、申请等重要文件。这样如果人工智能虚构内容，就能被发现。
- 对完美摘要保持怀疑 如果人工智能生成的摘要听起来非常流畅且完整，这并不代表其准确性。在这种情况下，更需要仔细检查。