"推理框架"最新资讯 | 量子位

推理框架

2080 Ti就能跑70B大模型，上交大新框架让LLM推理增速11倍

充分利用模型和硬件特点

克雷西 2023-12-20

上海交大大模型推理框架

加载更多

热门文章

支付宝悄悄上线智能助理，我们也偷偷测了下

苹果首个AI平板曝光：新iPad Pro直接上M4芯片

特斯拉FSD国内封印解除，推送只差临门一脚！马斯克宣布700亿投资加码AI

商汤CVPR「最佳论文」上车！数千行代码实现端到端智驾，“留给传统自动驾驶公司时间不多了”

消费级显卡轻松跑AI，英伟达RTX领跑AI PC竞争