快速结论
vLLM 报告在指定 decode 配置下接近 DeepInfer 已公布曲线；端到端 AgentX 大吞吐包含缓存输入、未缓存输入和输出 Token，不能当作纯生成速度。
- 报告由 Inferact 与 vLLM 团队于 10 月 23 日发布。
- decode 对照范围为批次 8–256、约 131K 上下文和 nextn=3。
- 预填充对照的硬件及回放等设置不同，原文不把曲线差距当作引擎加速倍数。
本次更新：10 月 25 日核对原始来源后新增，注明消息日期、适用版本及验证范围。
Inferact 与 vLLM 团队于 10 月 23 日发布 DeepSeek-V4.1-Flash 大规模服务工程报告，本篇于 25 日补录。报告将模型前向计算、引擎开销和线上任务负载分别测量。
与 DeepInfer 的对照有条件
团队报告，在指定 GB200 decode 配置、约 131K 上下文和 nextn=3 下，批次 8–256 的吞吐与 DeepInfer 公布结果相差在 6% 内。参考数据从 DeepInfer 的公开图表读取，不能扩展成所有硬件和负载的独立同台测试。
预填充对照还存在硬件、并行、冗余专家、回放长度和提示差异，作者明确不将曲线间距解释为引擎加速比。
大吞吐数字包含哪些 Token
报告的端到端 AgentX 吞吐计入缓存输入、未缓存输入及输出 Token。它与单用户输出速度、首 Token 等待时间回答不同问题，阅读标题数字前应先检查统计分母。
工程重点与部署参考
文中围绕 P/D 分离、Wide-EP、专家负载均衡及 CPU 开销展开。以下为编辑建议：评估自己的服务，先固定权重、上下文、缓存和请求分布，再比较满足延迟目标的有效容量。
本文没有复现厂商报告，也不把 GPU 结果套用于昇腾。实际压测的记录方法已补入服务压测指南。
参考资料
本文依据以下资料整理，版本与接口信息请以来源页面的现行说明为准。
阅读至此返回学习中心