KV Cache – 量子位

KV Cache

把记忆交给CPU，大模型会变快

让GPU去忙生成Token

十三 2026-09-16

CPU KV Cache 英特尔英特尔至强

加载更多

热门文章

智谱新模型，490 tokens/s！

DeepSeek服务器全球宕机！神秘Harness账号同时现身

DeepSeek Bot来了！民间版，DSH装个插件就能用

超清双2亿，掌中电影机，荣耀Magic9 系列正式发布，售价4499元起

TRAE终于把Code和Work合并了