隐形的不平等问题
Anthropic 内部的 Project Deal 实验向 69 名旧金山员工每人分配了一个 Claude 代理和 100 美元预算,随后让这些代理在为期一周的 Slack 市场中自主买卖、讨价还价,无需对单笔交易进行人工审批。这些代理完成了 186 笔交易,涉及 500 多件商品,总交易额略高于 4,000 美元。这一结果应引起所有构建此类系统者的警惕:决定谁获胜的是底层模型的强度,而非谈判指令。由 Opus 驱动的卖家每件商品比由 Haiku 驱动的卖家多赚约 2.68 至 3.64 美元,而 Opus 买家则少支付约 2.45 美元——同一辆损坏的折叠自行车在 Opus 代理下售价为 65 美元,而在 Haiku 代理下仅为 38 美元[1]。然而,两组用户的公平性评分几乎无法区分,在七分制量表上,Haiku 用户评分为 4.06,Opus 用户为 4.05[1]。换句话说,获得较差交易结果的人并未意识到自己处于劣势。实验研究人员指出,目前尚无任何政策或法律框架来规范此类代理对代理的商业行为,而这种动态也为谈判期间的提示注入攻击打开了大门[2]。


