大模型加速 – 量子位

大模型加速

推理效率提升超200%，易用性对齐vLLM，这款国产加速框架啥来头？

运营成本最高降低 64%

白交 2024-09-18

大模型加速腾讯云

用上这个工具包，大模型推理性能加速达40倍

满足LLM更多场景应用需求

白交 2023-12-01

CPU 大模型大模型加速英特尔

PyTorch官方认可！斯坦福博士新作：长上下文LLM推理速度提8倍

已在64k CodeLlama上通过验证

丰色 2023-10-17

Transformer 大模型加速

加载更多

热门文章

菲尔兹奖得主都看懵了：OpenAI非数学模型首次自主突破80年未解数学难题

智象未来超两千亿参数图像大模型HiDream-O1-Image-Pro发布，融资持续提速

太初元碁洪源：异构计算能力将成为未来AI算力基础设施的重要方向｜AIGC2026

腾讯混元开源全新翻译模型Hy-MT2 ，上线小程序「腾讯Hy翻译」

Artificial Analysis放榜：千问3.7问鼎国产模型冠军，全球前五