MixQ – 量子位

MixQ

清华开源混合精度推理系统MixQ，实现大模型近无损量化并提升推理吞吐

端到端吞吐比AWQ最大提升6倍

西风 2024-10-21

LLM混合精度推理 MixQ

加载更多

热门文章

突发，Jeff Dean离职创业！谷歌股价应声蒸发1.34万亿

阿里Qwen3.8正式发布，编程与办公再进化，推理更快更稳定

刚刚，阿里Qwen3.8-Max来了！冲进全球第一梯队，模型表现直逼Claude

等等，MiniMax H3不是刚发布吗？怎么就卷到几分钱的价格了……

Artificial Analysis榜单：阿里Qwen3.8Agentic能力得分全球第一