推理加速 – 量子位

推理加速

3140亿参数Grok-1推理加速3.8倍，PyTorch+HuggingFace版来了

明敏 2024-03-26

开源推理加速

用BigDL-LLM 即刻加速百亿级参数LLM推理 | 最“in”大模型

英特尔开源LLM加速库，可快速启动并充分利用英特尔CPU AI加速能力

十三 2023-09-01

BigDL-LLM 大语言模型推理加速英特尔

加载更多

热门文章

感谢用GPT-6搓3D的！燃烧自己的token换来一次全体重置

深度智控获宁德时代、沙特阿美战投等重磅加码，加速打造物理AI时代算力与能源底座

深入马来西亚AI现场！WAIC CONNECT MALAYSIA首日亮点全速递

刚刚，苹果首款折叠屏发布！15999元起，AI参与设计

蚂蚁百灵发布首个金融增强模型，AI开始进入真实投研工作流