跳到正文
掘金· 公众号_计算机魔术师·· 1 天前AI 评分58

信通院报告:国内日均词元消耗达500万亿,TPS翻倍但首词时延升至1.26秒

日均500万亿词元,国内推理速度翻倍却仍落后国外——差距卡在哪

AI 导读

信通院2026年词元服务监测报告显示,国内日均词元消耗半年涨4倍至500万亿,TPS翻倍到78.23。同期首词时延从0.78秒拉长到1.26秒,价格从6.8元涨到13.46元,报告将这一反差概括为量上去了质没跟上。

来源:掘金 · juejin.cn