"无损加速"最新资讯 | 量子位

无损加速

90分钟生成10万Token，新框架实现3倍无损加速超长文本生成，支持DeepSeek-R1和QwQ！

模型加载、KV缓存管理到Token生成策略全方位优化

西风 2025-03-12

无损加速长文本生成

加载更多

热门文章

老黄发布新核弹B300，英伟达：B200已破DeepSeek-R1推理世界纪录

7499拿下纯血鸿蒙+DeepSeek，华为“小宽折叠”手机：帮接电话，眼动翻页

AI驱动下，品牌高质增长成破局关键丨阿里妈妈未来商业奖颁奖盛典落幕

OpenAI加码写作赛道？阿里最新大模型通用写作能力基准来了

8张GPU训出近SOTA模型，超低成本图像生成预训练方案开源