欧盟人工智能法案标签义务与人工智能自我改进警告

欧盟人工智能法案第50条的透明度规则将于2026年8月2日生效 ^[1]，布鲁塞尔方面整个夏季都在细化“标注”在实践中究竟意味着什么。欧盟委员会最终发布的行为准则要求采用数字签名的元数据，并以可验证篡改的方式记录，同时在人工智能生成内容中嵌入不可见水印 ^[2]——而不是一个用户可以轻易裁剪掉的可见“AI生成”标签。对于在截止日期前已上线的生成式人工智能系统，企业享有合规改造的宽限期，但仅延至2026年12月2日 ^[1]。

容易被忽视的是这一要求的实际范围其实相当有限。由于监管机构认为当前人工智能文本检测技术尚不够成熟，无法可靠执行，因此文本内容基本被排除在强制标注之外；任何经人类审阅并承担编辑责任的AI生成文本则完全豁免 ^[3]。这意味着聊天机器人回复、AI起草的博客文章以及经过五分钟人工审阅的营销文案，都可以合理规避该规则，而合成图像、视频片段或语音克隆则不能。值得注意的是，即使今年人工智能法案其他部分的执行时间表有所调整，这一标签要求的截止日期也未被推迟——它并未成为任何宽限措施的一部分。同一天，欧盟委员会也将获得真正的执法权，对违规行为处以最高达1500万欧元或全球营业额3%的罚款 ^[4]。

在题为《人工智能指数级发展政策》的论文中 ^[5]，Anthropic公司首席执行官达里奥·阿莫代将政策制定者一直视为推测性的问题——人工智能何时开始自我改进——重新定义为一个已有答案的问题。在他看来，递归式自我改进并非未来某个需要跨越的门槛，而是模型“已能自主构建更优模型”的过程，这一过程已在前沿实验室内部持续运行 ^[5]。在接受深度访谈时被直接问及这一进程还有多远，阿莫代直言不讳：“我不认为这是一个时间点。我认为这是一个连续的过程。我们已经在某些方面看到，AI能够为下一代AI提出架构建议。”他指出，Anthropic公司的全要素生产率增益已从去年的约10%-15%上升至目前的20%-30%，并称这是一种加速的指数级增长。

这种表述实质上服务于他的政策诉求。如果自我改进是持续性的，而非在某个未来日期突然开启的开关，那么等待明确预警信号再进行监管本身就是一种范畴错误。阿莫代主张，前沿模型应像飞机一样接受强制性的第三方测试与审计 ^[5]，政府应有权阻止任何被认定存在不可接受风险的模型部署——不仅限于竞争对手的模型，也包括他自己的模型。“我们正在提议加强对该技术的监管，提议赋予政府以有限方式阻止不安全技术部署的能力，”他告诉ABC新闻 ^[6]。他同时谨慎地与相反立场保持距离，既反对对人工智能发展趋势的轻视，也拒绝“彻底关停”的冲动，主张应随着能力演进而持续重新评估控制措施。

合规并非廉价，且成本分布不均。大型企业预计在人工智能法案实施首年将面临800万至1500万欧元的合规成本 ^[7]，而据报道，大量组织在临近8月2日截止日期时仍未采取任何实质性举措 ^[7]。在执法层面，负责监督这一切的欧洲人工智能办公室——在截止日期到来时，其全部职能岗位仅有略超125名员工，远低于2030年前监督通用人工智能所需的约160名专家建议人数 ^[4]。

市场头部企业的准备不足也同样明显。OpenAI开发了一款专门针对欧盟标签要求的文本水印工具，却因担心影响用户留存率及水印可能被篡改的鲁棒性问题而暂缓发布 ^[8]——这提醒我们，“我们能够合规”与“我们选择推出合规功能”是两个不同的命题。一个由十一家科技行业协会组成的联盟也单独游说欧盟委员会，并成功将通用人工智能咨询截止日期延长至9月18日，理由是他们没有足够时间充分表达意见 ^[8]。追踪该进程的非政府组织“未来社会”（The Future Society）进一步指出，行业压力已实际影响了最终结果：“这一被削弱的准则使欧洲公民和企业处于不利地位” ^[9]。

阿莫代为应对持续自我改进世界所提出的保障机制明确是司法性质而非企业自治：他希望由“设计得当的法律审查小组或司法机构”掌握对前沿系统的“关机”权 ^[5]，并配合政府阻止任何被判断为存在不可接受风险的模型部署的权力 ^[10]。这与“信任构建模型的实验室”截然不同——阿莫代是在要求外部权力对其自身公司未来的发布施加控制，而不仅是针对竞争对手。

但这并不意味着这一构想已获得广泛接受。一项平行且独立的美国立法提案——《人工智能杀手机关法案》（AI Kill Switch Act）——将允许美国总统下令要求人工智能公司降低运行强度或关闭被判定可能造成灾难性危害的系统，但对此的反应更多是怀疑而非安心。批评者指出，包括Anthropic自身通过延迟模型发布所展现的那样，人工智能公司已具备自愿降低系统运行强度的技术能力，因此正式的“杀手机关”法律主要增加了一个新的攻击面，却未真正提升安全性。另一些人则警告，单方面削弱本国模型只会将优势让渡给不受限制的开源或外国替代品，可能反而提高整体风险而非降低。无论是欧盟的监管辩论还是美国的“杀手机关”讨论，贯穿其中的都是同一个未解问题：谁有权决定什么是“不可接受的风险”，以及此类决策是否真能完全摆脱政治影响。