本地大模型跑Agent实测：电费8分、API七毛

B站UP主用二手特斯拉P100、P40、V100计算卡实测本地大模型跑Agent任务：处理500万token时，P100耗时25分41秒、电费不到8分钱，同量走线上API约7毛；V100仅9分钟、电费不到3分。 什么值得买文章称，评论区指出本地部署的真实价值在合规、隐私和7×24小时常驻，而非省钱；12GB显存笔记本已能跑27B模型，但长上下文KV缓存和带宽仍是瓶颈。 该文据此称，只有数据敏感、需常驻跑任务或愿意折腾时，本地部署的价格才合理；认真写代码、追顶级能力，API依然是正解。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。