无损加速 – 量子位

无损加速

90分钟生成10万Token，新框架实现3倍无损加速超长文本生成，支持DeepSeek-R1和QwQ！

模型加载、KV缓存管理到Token生成策略全方位优化

西风 2025-03-12

无损加速长文本生成

加载更多

热门文章

「Claude Code之父」其实是野路子来的……

36.4万超声图文对！中国团队构建首个大规模超声专属数据集，让AI真正读懂临床诊断语义丨CVPR’26

HTML-in-Canvas引爆前端！AI时代互联网视觉效果完全不一样了

别养龙虾了，硅谷Agent新潮流是「爱马仕」

超越人手！中国第一家脑机接口独角兽，要把仿生手带给机器人