大模型词元服务性能监测报告（2026年）（42页）

分类：人工智能

标签：大模型、Token服务、词元、MaaS、性能监测、吞吐量、首词时延、开源模型、中国信通院、选型参考

摘要：本报告由中国信通院联合人工智能大模型及软硬件评测工信部重点实验室、中国人工智能产业发展联盟发布，基于 2026 年 1 月至 8 月对国内外主流公有云大模型 Token（词元）服务的实测监测，围绕调用成功率、吞吐速度、首词时延、稳定性、价格与上下文窗口等维度，系统呈现大模型服务性能走势，为用户选型与产业优化提供参考。监测覆盖国内外原厂模型及 DeepSeek、Qwen、GLM、Kimi 四款开源模型在第三方平台的性能，采用流式输出与默认上下文，节点分布在北京、广州与海外等地。 核心观察显示，国内日均 Token 消耗量持续攀升，2026 年 6 月约 500 万亿，为 2025 年 12 月的近 4 倍。性能方面，8 月国内各模型平均 TPS 达 78.23 个/秒，较 2025 年均值 38.25 增至约两倍，但仍低于国外典型模型均值 112.82 个/秒；平均调用成功率 8 月达 99.18%，每月均值高于 99%。首词时延（TTFT）国内外同步上升，国内 8 月均值 1.26 秒（2025 年为 0.78 秒），国外达 2.08 秒，主要因模型参数量、上下文与调用量增加而非单纯性

来源：zuudee | 日期：2026-10-26 | 格式：PDF | 页数：42