新墨西哥州律师因ChatGPT伪造法律简报被处罚

亚伦斯代表其客户奥斯卡·桑多瓦尔（Oscar Sandoval）处理一起谋杀案上诉时，将庭审笔录和案件材料输入运行OpenAI o3模型的ChatGPT，期望AI能生成一份‘无懈可击的摘要’^[1]。然而，该工具却凭空捏造了四位从未作证的证人，包括两名所谓警官——米歇尔·阿马里洛警官和桑切斯警官，以及两名平民姓名：马纳尔·阿尔吉布里和特蕾莎·马奎兹^[1]。这些虚构证词包含大量细节，例如描述枪手身穿深色裤子和白色衬衫^[2]，文件还把虚假陈述归于真实证人，将事实与虚构混合在一起，若不核对原始笔录几乎无法察觉^[1]。

此案令人联想到2023年的Mata诉Avianca案，当时两名律师及其律所因引用六起由ChatGPT虚构的判例而被罚款5,000美元^[7]，但本案标志着从伪造判例升级为在死刑谋杀案中伪造庭审证词。自那以来，法院对此类行为的回应已日趋严厉——加利福尼亚中区联邦法院的一位特别主事官在发现一份文件混杂了三种不同AI工具产生的错误输出后，驳回了相关简报并裁定赔偿31,100美元费用^[5]；怀俄明州一名联邦法官因八项伪造引文撤销了一名律师的临时执业资格^[5]。行业追踪数据显示，2025年年中约有200起涉及AI幻觉的处罚案件，到2026年1月增至719起，2026年4月初达1,227起，至2026年6月9日已达1,598起^[6]。

C·香农·贝肯大法官（Justice C. Shannon Bacon）在处罚听证会上质问亚伦斯：“律师先生，你看过新闻吗？你听过广播吗？你读过任何关于世界上正在发生什么事的报道吗？”^[2]法院裁定其藐视法庭，罚款5,000美元，须在30天内支付给新墨西哥州律师协会客户保护基金^[1]。法院驳回了亚伦斯此前所有简报，指派公设辩护人，并在其等待纪律委员会调查期间禁止其出庭州最高法院^[1]，认定其“缺乏悔意，且未表现出对客户的关切”^[2]。亚伦斯表示自己“感到悔恨，但希望纪律委员会能考虑到这是一次诚实的错误”^[1]。

当事人奥斯卡·雷内·桑多瓦尔（Oscar Renee Sandoval）因杀害其子女母亲而正在服终身监禁^[3]。如今，他的上诉必须由新任命的公设辩护人金·查韦斯·库克从头重新撰写简报^[4]，这起本与其无关的资本案件因此进一步延误，完全是因为其律师向法院提交了未经核实的AI输出内容。