长文本生成 – 量子位

长文本生成

90分钟生成10万Token，新框架实现3倍无损加速超长文本生成，支持DeepSeek-R1和QwQ！

模型加载、KV缓存管理到Token生成策略全方位优化

西风 2025-03-12

无损加速长文本生成

匿名论文提出奇招！增强大模型长文本能力居然还能这么做

长度外推等办法，太费算力了

丰色 2024-02-02

大模型长文本生成

加载更多

热门文章

刚刚，国产AI自己造了AI，全球首例！

卡帕西Anthropic最新头衔：技术员工（MTS）

7B打败o3、GPT-5！医学AI智能体让模型学会“看哪里、怎么看”

什么！你说胡彦斌也在苦修Vibe Coding

DeepSeek V4芯模协同背后，国产算力生态开始飞轮加速