长文本生成 – 量子位

长文本生成

90分钟生成10万Token，新框架实现3倍无损加速超长文本生成，支持DeepSeek-R1和QwQ！

模型加载、KV缓存管理到Token生成策略全方位优化

西风 2025-03-12

无损加速长文本生成

匿名论文提出奇招！增强大模型长文本能力居然还能这么做

长度外推等办法，太费算力了

丰色 2024-02-02

大模型长文本生成

加载更多

热门文章

AI看图一本正经胡说八道？「一拉一推」让模型看得全又准｜微软x清华

中国第一批没有论文的工科博士毕业了

1分钱部署OpenClaw！不挑设备4步搞定，全图形界面10分钟跑通专属AI助理

教科书《性能之巅》作者入职OpenAI！迷弟总裁亲自欢迎

AI编程节省95% token，工具调用上限狂飙20倍，开源记忆系统登顶GitHub热榜