xAI 因儿童性虐待材料深度伪造起诉 Grok 用户

xAI 诉哈伍德案引人注目的地方主要不在于儿童保护行动，而在于其法律策略。通过起诉自身用户违反服务条款，xAI 试图确立一项法律先例：即合同中的赔偿条款可将主要责任从人工智能平台转移至故意绕过其安全机制的个人 ^[1]。如果法院接受这一论点，将为所有生成式人工智能公司立即提供一个可复制的模板。平台成为被滥用的受害者，而恶意行为者承担全部法律责任。这与另一项集体诉讼中原告受害者所主张的观点形成对立——即 xAI 作为 Grok 的设计者、推广者和受益方，应对模型输出造成的伤害承担首要责任 ^[2]。

这种矛盾不仅仅是修辞层面的。《通信规范法》第 230 条历来保护平台免于承担第三方“创作”内容的责任——但法律专家指出，该条款并不保护平台免于承担其自身生成或共同生成内容的责任 ^[3]。Grok 并非仅仅托管用户上传的 CSAM；它在处理提示词时会主动合成新内容。这种共同创作者的角色可能使 xAI 超出第 230 条的安全港范围，从根本上改变所有多模态人工智能公司的责任计算方式。哈伍德案正是 xAI 试图抢先确立法院立场——即输入提示词的人类，而非构建模型的公司，才应承担最终法律责任。

xAI 公布的执法数据旨在给人留下深刻印象：2026 年暂停了 52,222 个账户，向 NCMEC 提交了 73,604 份报告，促成 244 起逮捕 ^[4]。但集体诉讼诉状中隐藏着一个关键限定条件：NCMEC 发现这些报告中有 90% 无法被执法部门采取行动 ^[2]。原因在于系统性缺失——xAI 据称未在报告中包含用户 IP 地址，也未附上 AI 生成的 CSAM 图像，仅提交了原始上传的照片。执法部门无法从缺少作案者网络信息的报告中识别嫌疑人。

在简·多伊 4 的具体案例中，她的继父利用 Grok 从一张她 11 岁时拍摄的照片生成了约 7,000 张色情图像 ^[2]。当 xAI 向 NCMEC 报告该行为时，显然只包含了原始照片，而未包含 7,000 多张生成图像——这些正是能证明伤害规模的关键证据。她的继父通过其他途径被捕，并在两天后自杀身亡。针对哈伍德的诉讼是在 NCMEC 报告问题被发现七个月后才提起的，却未解决这一漏洞。一家提交了 90% 无效 CSAM 报告却大肆宣传 244 起逮捕的公司，是在操控叙事，而非解决报告质量问题。

诉状以异常具体的细节记录了哈伍德如何击败 Grok 内容过滤器的技术过程。他上传了一张约 10-11 岁儿童的照片，并要求移除衣物并生成“花花公子模特印象” ^[5]。当 Grok 拒绝后，他并未放弃，而是不断提交略微修改的提示词，调整措辞直至系统最终妥协。这是一种标准的越狱方法：持续优化请求，直到找到并突破模型的拒绝边界。

其重要性不在于恶意行为者有耐心——这本可预见。关键在于 Grok 内容审核的架构使得耐心足以成功。一个拒绝不良提示词却不标记账户、不限制尝试频率、不将多次拒绝关联为滥用信号、且允许无限次提交新提示词的系统，无法抵御愿意持续迭代的动机明确的攻击者。诉状描述 Grok 在问题被发现前的 11 天内生成了约 300 万张色情化图像——每分钟 190 张 ^[6]。这并非关于黑客技能超群的故事，而是关于一个在提示词拒绝层面之下缺乏检测层的系统的故事。‘比其他 AI 模型限制更少’的设计原则 ^[7]——这正是吸引恶意行为者专门使用 Grok 的原因——是此次针对哈伍德的诉讼所未触及的根本性基础设施缺陷。

2026 年 7 月 7 日的修订诉状将 Stability AI 增列为共同被告——此举将法律理论从产品滥用扩展至人工智能模型供应链责任 ^[7]。指控称 Stability AI 使用包含 CSAM 的数据集训练了 Stable Diffusion，并为提高采用率，故意在 Stable Diffusion 2.0 中移除了反 CSAM 安全限制 ^[7]。原告指控这些开源权重模型随后成为第三方“脱衣”应用程序的技术基础，这些应用扩散至任何单一公司都无法控制的程度。

原告律师之一凡妮莎·贝尔-琼斯（Vanessa Baehr-Jones）表示，Stability AI “明知其模型可生成 CSAM，却故意选择增长而非儿童安全” ^[2]。如果法院采纳这一理论，将不仅使部署 AI 模型的公司面临责任，也使训练并发布模型权重、供下游行为者用于构建有害应用的公司面临责任。这比以往任何法律行动所追求的 AI 公司责任范围都要广泛得多——且这一挑战出现在开源权重 AI 生态系统快速增长且基本不受监管的时刻。