港科与CMU联手岩山科技开源新模型，KV Cache 减少99%、单卡吞吐提升6倍

港科、CMU 与岩山科技联合开源一款新模型，标题称其可将 KV Cache 减少99%，单卡吞吐提升6倍。材料仅提供摘要，未给出模型名称、技术细节与评测条件，仅提到单卡可同时运行512路长推理。