< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">

如何优化ChatGLM-6B？一行代码就行 | 最“in”大模型

量子位 2024-03-15 14:41:17 来源：量子位

GPU之外的另一种解法

版权所有，未经授权不得以任何形式转载及使用，违者必究。

Intel 最inAI 最in实战

CPU加速AlphaFold2更上一层楼！第四代至强® 可扩展平台带来3.02倍通量提升2024-02-21
一图解析英特尔® AMX 如何显著提升 OCR 推理性能2024-02-21
用上这个工具包，大模型推理性能加速达40倍2024-03-15
用BigDL-LLM 即刻加速百亿级参数LLM推理 | 最“in”大模型2024-03-15

相关阅读

大有可为，CPU流畅演绎AI推理

CPU也可以跑稳百亿级大模型

量子位2024-04-08

CPU Intel

我们为最“in”大模型，找到了另外一条解题思路

最Intel的创新解决方案

十三2023-08-19

CPU Intel 大模型英特尔

一图解析英特尔® AMX 如何显著提升 OCR 推理性能

大模型时代的OCR，“CPU” 的味道更重了

量子位2024-02-21

Intel 最inAI 最in用例

一个简单模型就让ChatGLM性能大幅提升 | 最“in”大模型

本文提供了一种使用 OpenVINO™ opset 重构该模型架构的便捷方法。

量子位2023-08-16

AI大模型 Intel 英特尔

一个简单模型就让ChatGLM性能大幅提升 | 最“in”大模型

OpenVINO™了解一下

量子位2024-03-15

Intel 最inAI 最in实战

十亿参数，一键瘦身！「模型减重」神器让大模型狂掉3/4 | 最“in”大模型

“瘦身”依旧很惊艳

量子位2024-03-15

Intel 最inAI 最in实战

热门文章

刚刚，Anthropic公开335页招股书：史上最大IPO，史上最亏AI公司

刚刚，Gemini 4 Carbon全面超越Opus 5.5！首发Token半价

KV Cache砍掉99%，单卡吞吐飙6倍，港科CMU联手岩山科技开源新模型

Physical RSI第一站！便利店打工“人”自己进化，物理AI飞轮启动了

Personal Agent走向真实任务，蚂蚁百灵开源 Ling-3.1-flash-1019