首页
资讯
数码
智能车
智库
活动
MEET大会
AIGC
扫码关注量子位
LLM混合精度推理
清华开源混合精度推理系统MixQ,实现大模型近无损量化并提升推理吞吐
端到端吞吐比AWQ最大提升6倍
西风
2024-10-21
LLM混合精度推理
MixQ
加载更多
热门文章
2mm芯片植入视网膜,盲人重获阅读能力还能打牌,马斯克老部下创业成果来了
2024-11-02
3B模型打通机器人任督二脉!冲咖啡叠衣服都能干,7种形态适配,OpenAI也投了
2024-11-02
大模型玩你画我猜:Claude6局3胜,GPT-4o表现迷惑
2024-11-03
微软清华改进Transformer:用降噪耳机原理升级注意力,一作在线答疑
2024-11-03
时代变了!英伟达纳入道琼斯指数,英特尔被取代
2024-11-02