全国首个Token服务性能监测平台发布

cnofor

    在6月16日举行的“高质量Token服务研讨会”上，全国首个Token服务性能监测平台发布，该平台由中国信通院发起建立，实时对国内外30多个平台上百余款大模型Token服务的调用成功率、输出速度（TPS）、首词时延（TTFT）等几十项核心指标，开展每日多时、多地持续性监测。
    据悉，该平台可为行业应用提供选型指引、为词元（Token）服务商能力提升提供标尺、为政府机构提供平台部署及词元（Token）监测服务。
    数据显示，截至2026年3月，我国日均词元调用量已超过140万亿次。此外，我国公有云企业级Token消耗量增长显著，根据中国信通院监测，2025年我国公有云企业级Token调用量达到2000万亿，相较于IDC发布的2024年114万亿，增长超过16倍；2026年一季度公有云企业级Token调用量预测达到约2000万亿。
    中国信通院人工智能研究所所长魏凯表示，全球领先的开源模型和闭源模型的智能差距在不断缩小，但不同模型输出的词元“智能含金量”相差甚远，需要持续挖掘模型自身能力，提升模型的智能水平是Token高质量发展的根本支撑，业界对Token服务的关注视角已从“调用量”向“高质量”转变。提升Token服务性价比，既要关注调用量和成本，也要关注用户体验、绿色能耗、应用价值等能力维度，按场景选择适配的Token服务。
    下一步，Token服务性能监测平台将推动行业完善能力评价体系、加强性能监测、健全安全保障、提升运营效能，以进一步释放Token服务的技术价值、产业价值和经济价值。

来源：经济参考报