"推理加速"最新资讯 | 量子位

推理加速

3140亿参数Grok-1推理加速3.8倍，PyTorch+HuggingFace版来了

明敏 2024-03-26

开源推理加速

用BigDL-LLM 即刻加速百亿级参数LLM推理 | 最“in”大模型

英特尔开源LLM加速库，可快速启动并充分利用英特尔CPU AI加速能力

十三 2023-09-01

BigDL-LLM 大语言模型推理加速英特尔

加载更多

热门文章

上线4天下载破百万，蚂蚁CTO：灵光要做AGI时代的“支付宝”

开源模型叫板Nano Banana Pro！Stable Diffusion原班人马杀回来了

Claude Opus 4.5发布！2小时工程测试超人类，前代Sonnet搞不定的活它轻松拿捏

超越Gemini3、GPT5.1，阿里千问登顶空间推理全球冠军

国内最大AI“学术-产业-人才”盛会来了！20位院士+50位院长+300位专家集结北京海淀