你的每一次纠正都是产品
Nadella 的论点基于一个大多数企业安全团队从未审计过的机制。模型通过他所谓的“废料”(exhaust)来提升性能——员工编写的提示词、代理调用的工具,尤其是当模型出错时人们做出的纠正 [1]。每一次纠正都悄然编码了某种专有信息:你们组织衡量什么、流程在哪里断裂、以及如何定义“好”。这种知识是竞争对手永远无法从市场上买到的,而 Nadella 的观点是,这些知识正通过一次又一次的纠正、一次又一次的评估,一点一点地泄露出去 [1]。
这种不对称性才是尖锐之处。正如 The Register 所总结的那样:你使用所购买的产品时,卖方对你了解得越来越多,而你对卖方学到了什么却知之甚少 [2]。由于这种泄露发生在模型废料层面,而非数据库导出层面,它处于大多数法律和安全审查机制无法触及的底层——这正是 Nadella 将其描述为“显而易见却隐藏的风险”,而非一次数据泄露头条事件的原因。


