长文本生成 – 量子位

长文本生成

90分钟生成10万Token，新框架实现3倍无损加速超长文本生成，支持DeepSeek-R1和QwQ！

模型加载、KV缓存管理到Token生成策略全方位优化

西风 2025-03-12

无损加速长文本生成

匿名论文提出奇招！增强大模型长文本能力居然还能这么做

长度外推等办法，太费算力了

丰色 2024-02-02

大模型长文本生成

加载更多

热门文章

智谱新模型，490 tokens/s！

DeepSeek Bot来了！民间版，DSH装个插件就能用

超清双2亿，掌中电影机，荣耀Magic9 系列正式发布，售价4499元起

特斯拉FSD，在欧洲被打回原形

何恺明团队发布多模态Harness框架