开源的不只是模型权重,而是整个推理引擎,这才是关键
大多数所谓的“开源AI”公告仅意味着公司发布了模型权重。DeepSeek 做了一件更罕见的事:它发布了 DeepInfer,即为 DeepSeek-V4.1-Flash 提供实时服务的实际生产级软件栈 [1]。该项目的官方文档将其描述为“支撑 DeepSeek 大规模生产服务的框架” [2],而支撑这一说法的数据解释了为何竞争对手高度关注——据报道,一个生产集群每天可处理155万亿个token,非高峰时段的定价约为每GPU每小时38美元,推测性解码在生产负载下可带来4%-7%的吞吐量提升 [1]。DeepInfer 最初基于的开源项目 vLLM 公开感谢 DeepSeek 对社区的致谢,并表示计划将 DeepInfer 的技术整合回其代码库,这表明此次发布已开始反哺共享的推理工具生态,而非仅是一次孤立的公告。Reddit 上的讨论普遍表示难以置信,一家前沿实验室竟会免费放弃其成本优势,有用户将此举与 Anthropic、OpenAI 或 Meta 的可能反应进行对比——其核心论点是,仅靠模型权重无法实现低成本运行,真正的工程优势和利润空间在于服务栈本身。



