掘金 · 人工智能· moshuying·· 1 天前AI 评分56
DeepSeek DeepInfer 源码解读：每天 155 万亿 token 背后的开源边界
DeepSeek开源生产级推理框架DeepInfer：单集群一天处理155万亿token，这意味着什么？
AI 导读
DeepInfer 源码解读显示，DeepSeek 开源了面向 DeepSeek-V4.1-Flash-1017 的推理引擎，但未公开支撑完整线上服务的路由、跨实例 KV cache 存储及分离部署组件。
来源：掘金 · 人工智能 · juejin.cn