"模型推理"最新资讯 | 量子位

模型推理

比C语言还快20%！Mojo首个大模型开放下载，性能达Python版250倍

作者：还能进一步提升

明敏 2023-09-12

Llama2 Mojo 大语言模型模型推理

推理加速GPT-3超越英伟达方案50%！最新大模型推理系统Energon-AI开源，来自Colossal-AI团队

打通大模型落地关键路径

明敏 2022-05-31

AI大模型模型推理

让Transformer的推理速度提高4.5倍，这个trick还能给你省十几万

大多数Transformer模型“开箱可用

丰色 2021-12-30

Transformer 机器学习模型推理

加载更多

热门文章

突发！谷歌发布史上最强大模型Gemini，打爆GPT-4

AI震撼材料学！谷歌DeepMind新研究登Nature，一口气预测220万种新材料

微软仅凭「提示工程」让GPT-4成医学专家！超过一众高度微调模型，专业测试准确率首次超90%

PyTorch造大模型“加速包”，不到1000行代码提速10倍！英伟达科学家：minGPT以来最好的教程式repo之一

突破分辨率极限，字节联合中科大提出多模态文档大模型