推理加速 – 量子位

推理加速

3140亿参数Grok-1推理加速3.8倍，PyTorch+HuggingFace版来了

明敏 2024-03-26

开源推理加速

用BigDL-LLM 即刻加速百亿级参数LLM推理 | 最“in”大模型

英特尔开源LLM加速库，可快速启动并充分利用英特尔CPU AI加速能力

十三 2023-09-01

BigDL-LLM 大语言模型推理加速英特尔

加载更多

热门文章

捅破具身智能天花板！极佳视界新VLA大模型登场，复杂长时程任务近100%成功率

从Seedance 2.0到AI天团！海淀何以“生成”全球爆款——

“产业出题·科技答题” 2026全球开发者先锋大会正式启动

最强开源大模型除夕登场！397B参数千问3.5超越Gemini 3，百万Tokens低至8毛

鲁棒RL赋能AI编程！破局企业数据噪声难题，同等算力训出更好模型