"MixQ"最新资讯 | 量子位

MixQ

清华开源混合精度推理系统MixQ，实现大模型近无损量化并提升推理吞吐

端到端吞吐比AWQ最大提升6倍

西风 2024-10-21

LLM混合精度推理 MixQ

加载更多

热门文章

大模型首次拥有“脖子”！纽大团队实现360度类人视觉搜索

NeurIPS 2025放榜：阿里Qwen门控注意力获最佳论文，何恺明Faster R-CNN获时间检验奖

对话韩旭：双重上市后，英才校招300万起步

中国唯一！阿里千问斩获全球AI顶会最佳论文

国产家庭机器人终于落地！连人带床推你去上班，小五位数价格明年开卖