分布式推理 – 量子位

分布式推理

DeepSeek让英伟达H20都被疯抢，但AI推理爆发不只靠囤卡

超大规模集群不再是必需，小集群甚至单机，将是未来AI Infra的主要特性。

明敏 2025-03-18

AI推理 AI计算分布式推理

加载更多

热门文章

Agent、多模态、应用、算力一天看尽，峰会亮点在此｜5.20日，来现场一起AI

一只机器狗，把英伟达的算力王座拱翻了

AI水论文封一年，署名连坐！arXiv最严新规来了，陶哲轩附议

openJiuwen社区开源新招：重磅发布JiuwenSwarm，拉开群体智能“养蜂”序幕

智象未来超两千亿参数图像大模型HiDream-O1-Image-Pro发布，融资持续提速