运行在英伟达自家硬件上的‘独立’安全监督机构
表面上看,英伟达2.5亿美元的承诺似乎是英国科学界的一次纯粹慈善胜利:五年算力资源用于支持代理式人工智能安全与安全研究,部分资源指定用于牛津大学的BOLD实验室、伦敦大学学院的SOFAIR实验室和帝国理工学院,其余大部分将惠及更广泛的英国人工智能安全研究社区[1]。但关键在于执行细节。这些是算力而非现金,通过位于英国的英伟达云合作伙伴提供[1]——而英伟达生态中最突出的英国云合作伙伴之一是Nscale,英伟达据报持有该公司5亿英镑的股权,参与了其20亿美元C轮融资(估值达146亿美元),此后Nscale已提交了约30亿美元的纽交所IPO申请[5]。英伟达自己的公告也承认‘服务商选择、技术架构和商业条款均尚未确定’[5]——这意味着英国旗舰安全实验室将要研究的基础设施尚未敲定,而Nscale是潜在的候选者。
这种结构令分析师担忧的原因很具体:安全研究的质量取决于其所测试的配置。一份对该交易的独立分析指出,‘当安全研究在某一家公司的运行时环境和监控设计上进行时,那些出现在该设计之外配置中的问题就会被较少测量到’[5]。Forrester的英德拉尼尔·班迪奥帕德亚(Indranil Bandyopadhyay)也提出了类似观点——主要依赖单一供应商工具的研究人员,可能产出反映该供应商技术栈的基准;而少数战略性持股仍使英国人工智能企业依赖外国资本扩张[4]。他提出的解决方案是结构性的而非修辞性的:应由英国人工智能安全研究所和数字、文化、媒体与体育部(DSIT)强制要求公开发布成果,并将研究与英国控制的国家评估议程挂钩,‘从而使英国而非英伟达更多地决定‘安全代理’意味着什么’[4]。在商业条款、发布权利和退出条件真正确定之前,这一高调数字掩盖了一个更简单的问题:谁来决定什么才算安全失败,而谁的硬件可以避开这些检测。


