长文本生成 – 量子位

长文本生成

90分钟生成10万Token，新框架实现3倍无损加速超长文本生成，支持DeepSeek-R1和QwQ！

模型加载、KV缓存管理到Token生成策略全方位优化

西风 2025-03-12

无损加速长文本生成

匿名论文提出奇招！增强大模型长文本能力居然还能这么做

长度外推等办法，太费算力了

丰色 2024-02-02

大模型长文本生成

加载更多

热门文章

字节Seed：大概念模型来了，推理的何必是下一个token

B站开启AI创作大赛，首次开放《三体》改编权，奖金总计超300万

让欧美老外彻底“真香”，这家中国割草机器人品牌正在定义一个行业新标准

给AI打个分，结果搞出17亿估值独角兽？？？

董事长稚晖君发布上纬新材首款机器人！能塞书包还能骑机器狗