"推理加速"最新资讯 | 量子位

推理加速

3140亿参数Grok-1推理加速3.8倍，PyTorch+HuggingFace版来了

明敏 2024-03-26

开源推理加速

用BigDL-LLM 即刻加速百亿级参数LLM推理 | 最“in”大模型

英特尔开源LLM加速库，可快速启动并充分利用英特尔CPU AI加速能力

十三 2023-09-01

BigDL-LLM 大语言模型推理加速英特尔

加载更多

热门文章

李飞飞和LeCun的世界模型之争

52个人用AI做PPT，年赚7个亿

奇瑞发布「安徽版享界S9」，世界模型加持，携手Momenta挑战云南山路68弯

垃圾信息刷多了AI也会变蠢！“年度最令人不安的论文”

议程公布！2025人工智能+大会，图灵奖得主姚期智来啦！