DeepSeek开源DeepInfer推理引擎，非完整线上服务

DeepSeek 开源了面向 DeepSeek-V4.1-Flash-1017 的 DeepInfer 推理引擎，但据 moshuying 的源码解读，开源范围不包括支撑完整线上服务的路由、跨实例 KV cache 存储及分离部署组件，不能据此复现完整线上服务。 moshuying 称，在 SM100 或 Ascend 950 上运行 V4.1-Flash、进行数据清洗、合成、评测等离线批量推理时，可直接使用该引擎。构建要求 Linux、Python 3.12 和 GCC 13 以上；NVIDIA 平台需 CUDA 13，昇腾平台需 CANN 9.2。

AI 根据报道生成 · 1 天前更新

还没有足够的连续观测数据，暂不绘制趋势。