"推理加速"最新资讯 | 量子位

推理加速

3140亿参数Grok-1推理加速3.8倍，PyTorch+HuggingFace版来了

明敏 2024-03-26

开源推理加速

用BigDL-LLM 即刻加速百亿级参数LLM推理 | 最“in”大模型

英特尔开源LLM加速库，可快速启动并充分利用英特尔CPU AI加速能力

十三 2023-09-01

BigDL-LLM 大语言模型推理加速英特尔

加载更多

热门文章

吴恩达开源大模型套件：11个模型平台一种方式调用，不到半天获1.2k星

PC产业驶入创新超车道，英特尔蓉城撬动AI新引擎

联想创新开放日：2024最全面AI产品组合来了

空间智能新进展：教机器人组装宜家家具，首次实现操作步骤与真实视频对齐 | NeurIPS

昆仑万维「天工大模型4.0」o1版（Skywork o1）正式启动邀请测试