面向词元（Token）服务的智算基础设施发展研究报告（2026年）（45页）

分类：研究报告

标签：词元服务、Token、智算基础设施、算力工厂、推理算力、全国一体化算力网、算力互联互通、每瓦Token效率、昇腾A3、阿里云百炼、词元经济、中国信通院

摘要：本报告由中国信息通信研究院产业与规划研究所于2026年9月发布，系统梳理智算基础设施从“算力工厂”向“Token工厂”的范式重构进程。随着人工智能从技术突破迈向规模化应用，推理算力首次超越训练算力成为需求主体，Token（词元）取代FLOPS与GPU卡数，成为衡量AI产业价值的新标尺。报告提出，新范式以Token为计量单元、以每瓦Token产出为核心效率指标，正在重塑硬件选型、集群架构、调度系统与商业模式。 在效率指标方面，智能对话要求首Token延迟低于100毫秒，这对集群互联的低时延、高带宽及毫秒级动态调度能力提出严苛要求。头部云厂商加速推理引擎与调度系统创新：华为联合湖北移动完成全国运营商首个AI推理加速方案现网测试，基于昇腾A3超节点与UCM推理记忆数据管理技术，在长序列场景下实现首Token延迟优化26%至93%；阿里云百炼推理平台已服务全球500万用户、120万付费用户。 报告通过算力工厂与Token工厂范式对比表，从核心价值标尺、投入产出逻辑、核心效益指标、计费交付模式、调度粒度、适配场景六个维度阐明差异：传统模式以峰值算力与GPU卡数为标尺、按机柜上架率考核；Token

来源：zuudee | 日期：2026-10-12 | 格式：PDF | 页数：45