推理加速 – 量子位

推理加速

3140亿参数Grok-1推理加速3.8倍，PyTorch+HuggingFace版来了

明敏 2024-03-26

开源推理加速

用BigDL-LLM 即刻加速百亿级参数LLM推理 | 最“in”大模型

英特尔开源LLM加速库，可快速启动并充分利用英特尔CPU AI加速能力

十三 2023-09-01

BigDL-LLM 大语言模型推理加速英特尔

加载更多

热门文章

2026年世界人工智能大会，7月17-7月20上海举办

在联合国，这家中国公司给AI“减负”：不堆算力，而是给机器人装了个“类脑”

极简方案刷新扩散模型推理纪录，阿里清华论文入选ICML杰出论文

50FPS、成本打掉70%，魔芯MoWorld把世界模型带进产业时代

征程赶超｜WAIC 2026模型与智能体：后Scaling时代范式重构，迈入智能体生产力时代