"推理加速"最新资讯 | 量子位 - Part 2

推理加速

3140亿参数Grok-1推理加速3.8倍，PyTorch+HuggingFace版来了

明敏 2024-03-26

开源推理加速

用BigDL-LLM 即刻加速百亿级参数LLM推理 | 最“in”大模型

英特尔开源LLM加速库，可快速启动并充分利用英特尔CPU AI加速能力

十三 2023-09-01

BigDL-LLM 大语言模型推理加速英特尔

加载更多

热门文章

谷歌智能体发力：增强版Gemini Deep Research和专属API都来了

中国机器人比赛应急救援，美国网友Reddit破防：我们还在给机器狗化妆拍段子

钉钉又发新版本！把 AI 搬进每一次对话和会议

MEET2026挤爆了，AI圈今年最该听的20+场演讲&对谈都在这

马斯克霸气回怼Waymo：连对抗特斯拉的机会都没有