推理加速 – 量子位

推理加速

3140亿参数Grok-1推理加速3.8倍，PyTorch+HuggingFace版来了

明敏 2024-03-26

开源推理加速

用BigDL-LLM 即刻加速百亿级参数LLM推理 | 最“in”大模型

英特尔开源LLM加速库，可快速启动并充分利用英特尔CPU AI加速能力

十三 2023-09-01

BigDL-LLM 大语言模型推理加速英特尔

加载更多

热门文章

Claude版Manus只用10天搓出，代码全AI写的！网友：小扎140亿并购像冤大头

国产GPU又杀出一匹黑马！成立不到一年，两款芯片量产落地

清华新研究，Nature+Science双杀！

刚刚，智谱和华为搞波大的：中国首个国产芯片训练出的SOTA多模态模型！

“每卖一辆问界，13.6万流向华为”，赛力斯最新披露来了