分布式推理 – 量子位

分布式推理

DeepSeek让英伟达H20都被疯抢，但AI推理爆发不只靠囤卡

超大规模集群不再是必需，小集群甚至单机，将是未来AI Infra的主要特性。

明敏 2025-03-18

AI推理 AI计算分布式推理

加载更多

热门文章

「天线宝宝」机器人上门做保洁，200元/小时，纯·人工·智能

获奖之后，王虹最想感谢的人

李飞飞World Labs收购SceniX，物理AI训练正从“采数据”走向“造世界”

OpenAI前员工刚跑路就喊话：要套现就赶紧套，别等IPO！

奥特曼也逃不过刷TikTok上瘾，Sora背后最抓马的一段来了