Token驱动的大模型推理效能优化技术白皮书-中国联合（30页，2026年）

分类：人工智能

标签：大模型推理、Token、PD分离、预填充解码分离、KV缓存、MoE架构、AI智能体、算力调度、推理效能优化、微服务化、中国联通研究院、技术白皮书

摘要：本白皮书由中国联合网络通信有限公司研究院牵头，联合上海基流科技有限公司、北京航空航天大学、上海交通大学、联通智能制造科技产业（广东）有限公司共同编写，2026年发布，共30页。白皮书以Token为核心计量与优化对象，系统梳理大模型推理在应用形态、部署架构、平台体系与商业化运营四个层面的全链路效能优化方法。背景方面，大模型应用已由传统被动式单点问答、单轮内容生成，全面进入智能体自主任务推理、多智能体协同作业阶段。据IDC预测，全球活跃智能体数量将从2025年的2860万增长至2030年的22.16亿，年复合增长率达139%；智能体年执行任务数将从2025年的440亿次增长至2030年的415万亿次，年复合增长率达524%。智能体应用在任务处理机制智能化、任务执行模式自主化、交互链路多轮化、上下文承载长序化、优化迭代机制交互化五个维度呈现明确演进特征，对推理系统的动态资源调度、长序列缓存承载、混合负载适配与服务质量保障提出更严苛要求。调用量方面，传统对话应用单用户日均Token消耗量处于十万至百万量级，智能体范式下单用户日均Token消耗量可达千万至亿级，整体提升一个数量级；据国家数据局产

来源：zuudee | 日期：2026-10-29 | 格式：PDF | 页数：30