MixQ – 量子位

MixQ

清华开源混合精度推理系统MixQ，实现大模型近无损量化并提升推理吞吐

端到端吞吐比AWQ最大提升6倍

西风 2024-10-21

LLM混合精度推理 MixQ

加载更多

热门文章

苹果官方App误打包了Claude.md，这么大的公司也Vibe Coding啊？

突破视觉仿真算力瓶颈！新一代具身智能仿真框架开源：高吞吐并行高保真渲染助力规模化训练

不好！1930年的AI都来抢程序员饭碗了

太抓马了！马斯克OpenAI开庭，硅谷巨富互揭老底像极了村口吵架

DeepSeek V4最大的遗憾