分布式推理 – 量子位

分布式推理

DeepSeek让英伟达H20都被疯抢，但AI推理爆发不只靠囤卡

超大规模集群不再是必需，小集群甚至单机，将是未来AI Infra的主要特性。

明敏 2025-03-18

AI推理 AI计算分布式推理

加载更多

热门文章

2026智源大会开幕：推动AI、物理世界和生命科学“三体互动”

Agent终于长出了身体：Jiuwen Symbiosis背后的思考与实践

马斯克远程敲钟穿了老黄的皮衣！SpaceX员工集体穿上绿鞋

HuggingFace CEO力荐，Bengio团队也押注：这个1500美元训出的HRM模型，凭什么火了？

智源大会 | 天工AI重新定义世界模型，公布Matrix-Game 3.5 最新技术突破