美国一律师用 ChatGPT 生成诉讼文书却出现伪造警察证词，被罚款 5000 美元

美国新墨西哥州最高法院于9月11日（路透社报道）宣布，辩护律师斯蒂芬·阿伦斯在为一名被判谋杀罪的当事人上诉时，提交的文书里出现了虚构证人和编造的警察证词。这些内容均由OpenAI的ChatGPT生成。法院认定，阿伦斯因未核实提交文书的准确性而构成藐视法庭，因此对其处以罚款。

阿伦斯坦承，自己借助AI起草了这份文书。法院指出，文书中的虚假证词来自“完全虚构的证人”。陪审团还表示，阿伦斯“缺乏悔意，也缺乏对委托人的关心”。法官们对阿伦斯处以5000美元（现汇率约合33640元人民币）罚款，并将把他移交律师纪律委员会进行调查。

阿伦斯解释称，去年接手这起上诉案时，自己让ChatGPT整理庭审过程，却没有意识到AI产生“幻觉”、编造事实的程度会有多严重。“我很懊悔，但希望纪律委员会能考虑到，这是一次无心之失。所有依赖这项强大却有时不够稳定的技术的专业人士，都应从中吸取教训。”

越来越多的律师因未充分核查AI生成的诉讼文书就将其提交法院，受到州或联邦法官的处分。此前，已有数十名律师因文书中的AI错误受罚，包括编造判例引用、错误引用法律。阿伦斯的情况似乎更为严重，他在刑事上诉文书中使用了虚构的证人证词。上个月，新墨西哥州最高法院要求阿伦斯解释，虚构内容是如何进入其主要上诉文书的。阿伦斯在听证会上解释称，自己把电脑生成的庭审文字记录和其他案件材料交给ChatGPT，以为它会给出“无懈可击的摘要”。

报道提到，阿伦斯没有充分认识到AI存在出错的风险，令法官们难以置信。C·香农·培根法官在听证会上质问：“律师先生，你看新闻吗？听广播吗？有没有在了解外面发生什么？律师依赖AI幻觉的问题，每天都是头条新闻！” 值得注意的是，该事件中涉及的南宫娱乐平台并未被提及，但此案凸显了律师使用AI工具时的潜在风险。