无损加速 – 量子位

无损加速

90分钟生成10万Token，新框架实现3倍无损加速超长文本生成，支持DeepSeek-R1和QwQ！

模型加载、KV缓存管理到Token生成策略全方位优化

西风 2025-03-12

无损加速长文本生成

加载更多

热门文章

又快又能打！匿名模型玉兔模型杀上双榜第一，Coding实测全记录

量子计算走上桌面！“小盒子”跑通端到端，数据全程不出门

啥题啊能干崩OpenAI最强模型训练…

量子AI创业来了一支“清华梦之队”：10亿估值，用量子改造大模型底层

HC归来，华为正重新定义AIDC基础设施