中国信息通信研究院人工智能研究所、人工智能大模型及软硬件评测工业和信息化部重点实验室与中国人工智能产业发展联盟于10月23日联合发布《大模型词元服务性能监测报告(2026年)》。报告指出,随着大模型技术快速迭代,词元(Token)服务已成为技术落地应用的关键环节,国内日均词元调用量持续走高。
从调用规模看,2026年6月国内词元日均消耗量约500万亿,达到2025年12月的近4倍。供给端方面,越来越多MaaS(模型即服务)平台厂商通过公有云API方式提供大模型词元服务。但报告同时指出,用户对词元服务性能缺乏直观判断依据,在选型上面临困难。
报告基于2026年1至8月的监测数据,围绕调用成功率、吞吐速度、首词时延、稳定性、价格、上下文窗口等维度展开分析,并将原厂大模型官方平台与DeepSeek、Qwen、GLM、Kimi四款开源模型在第三方平台上的表现进行对比,以梳理影响词元服务性能的关键因素。
性能方面,报告显示8月国内各模型平均TPS(每秒输出词元数)达到78.23,较2025年翻倍,但仍低于国外水平。价格方面,2026年国内大模型均价较此前翻倍。报告旨在为用户选型提供参考,并为产业界优化服务能力提供方向指引。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家 ↗