港科、CMU与岩山科技开源KV Cache压缩模型
热点事件持续更新
港科、CMU与岩山科技开源KV Cache压缩模型
1 篇报道1 个报道来源6 小时前更新
先了解这件事
AI 综述
香港科技大学、卡内基梅隆大学与岩山科技联合开源一款新模型，称可将 KV Cache 减少99%、单卡吞吐提升6倍，单卡可同时运行512路长推理。 上述数字来自发布方在报道中的说法，报道未给出模型名称、技术细节与评测条件，因此这些效果尚未有可核对的依据。
AI 根据报道生成 · 51 分钟前更新
最新进展10月26日 14:45
港科与CMU联手岩山科技开源新模型，KV Cache 减少99%、单卡吞吐提升6倍报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- 量子位港科与CMU联手岩山科技开源新模型，KV Cache 减少99%、单卡吞吐提升6倍
港科、CMU 与岩山科技联合开源一款新模型，标题称其可将 KV Cache 减少99%，单卡吞吐提升6倍。材料仅提供摘要，未给出模型名称、技术细节与评测条件，仅提到单卡可同时运行512路长推理。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。