吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界
甚至出现了token文学……
明敏 杨净 发自 凹非寺
量子位 | 公众号 QbitAI
没想到时至今日,ChatGPT竟还会犯低级错误?
吴恩达大神最新开课就指出来了:
ChatGPT不会反转单词!
比如让它反转下lollipop这个词,输出是pilollol,完全混乱。
![吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界](/wp-content/uploads/replace/5397bf7499b1001a3b76770f432ecba6.jpeg)
哦豁,这确实有点大跌眼镜啊。
以至于听课网友在Reddit上发帖后,立马引来大量围观,帖子热度火速冲到6k。
![吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界](/wp-content/uploads/replace/4e526d785a052ec81be8e594d77b68fc.png)
而且这不是偶然bug,网友们发现ChatGPT确实无法完成这个任务,我们亲测结果也同样如此。
![吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界](/wp-content/uploads/replace/59e4e45e09d21e16b302ec37493c7072.png)
![吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界](/wp-content/uploads/replace/0ce719af0883bc98a7474cc678f8da49.png)
△实测ChatGPT(GPT-3.5)
甚至包括Bard、Bing、文心一言在内等一众产品都不行。
![吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界](/wp-content/uploads/replace/2e91d19cdc9d9c37ad312c7f49f7fa2c.png)
△实测Bard
![吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界](/wp-content/uploads/replace/fb420bfcbdd70e3f9e00d4d7501b713b.jpeg)
△实测文心一言
还有人紧跟着吐槽, ChatGPT在处理这些简单的单词任务就是很糟糕。
比如玩此前曾爆火的文字游戏Wordle简直就是一场灾难,从来没有做对过。
![吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界](/wp-content/uploads/replace/55be4e6e9b5aa022a8c58c05d6bf80fd.png)
诶?这到底是为啥?
关键在于token
之所以有这样的现象,关键在于token。token是文本中最常见的字符序列,而大模型都是用token来处理文本。
它可以是整个单词,也可以是单词一个片段。大模型了解这些token之间的统计关系,并且擅长生成下一个token。
因此在处理单词反转这个小任务时,它可能只是将每个token翻转过来,而不是字母。
![吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界](/wp-content/uploads/replace/98b3389e514f91e796325eda253473a7.png)
这点放在中文语境下体现就更为明显:一个词是一个token,也可能是一个字是一个token。
![吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界](/wp-content/uploads/replace/fbc3b852a636692e6aa64231b1cc38c1.jpeg)
针对开头的例子,有人尝试理解了下ChatGPT的推理过程。
![吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界](/wp-content/uploads/replace/0805a35e4f3ac7388ec43491edd6da60.png)
为了更直观的了解,OpenAI甚至还出了个GPT-3的Tokenizer。
![吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界](/wp-content/uploads/replace/ef0cab42f57cd30ea832797cd3613d42.png)
比如像lollipop这个词,GPT-3会将其理解成I、oll、ipop这三个部分。
根据经验总结,也就诞生出这样一些不成文法则。
- 1个token≈4个英文字符≈四分之三个词;
- 100个token≈75个单词;
- 1-2句话≈30个token;
- 一段话≈100个token,1500个单词≈2048个token;
单词如何划分还取决于语言。此前有人统计过,中文要用的token数是英文数量的1.2到2.7倍。
![吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界](/wp-content/uploads/replace/a5a1f22b1864b8f65afd16780fcab03b.png)
token-to-char(token到单词)比例越高,处理成本也就越高。因此处理中文tokenize要比英文更贵。
可以这样理解,token是大模型认识理解人类现实世界的方式。它非常简单,还能大大降低内存和时间复杂度。
但将单词token化存在一个问题,就会使模型很难学习到有意义的输入表示,最直观的表示就是不能理解单词的含义。
当时Transformers有做过相应优化,比如一个复杂、不常见的单词分为一个有意义的token和一个独立token。
就像annoyingly就被分成“annoying”和“ly”,前者保留了其语义,后者则是频繁出现。
这也成就了如今ChatGPT及其他大模型产品的惊艳效果,能很好地理解人类的语言。
至于无法处理单词反转这样一个小任务,自然也有解决之道。
最简单直接的,就是你先自己把单词给分开喽~
![吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界](/wp-content/uploads/replace/6e351d8957195732f38b156552f66876.png)
或者也可以让ChatGPT一步一步来,先tokenize每个字母。
![吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界](/wp-content/uploads/replace/bc81ccadc378c753bea995145dd64212.png)
又或者让它写一个反转字母的程序,然后程序的结果对了。(狗头)
![吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界](/wp-content/uploads/replace/9efffccb85b6d515cc753fc648741463.png)
不过也可以使用GPT-4,实测没有这样的问题。
![吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界](/wp-content/uploads/replace/c616f6f77fc759b7eb4bc0167bc2064e.jpeg)
△实测GPT-4
总之,token就是AI理解自然语言的基石。
而作为AI理解人类自然语言的桥梁,token的重要性也越来越明显。
它已经成为AI模型性能优劣的关键决定因素,还是大模型的计费标准。
甚至有了token文学
正如前文所言,token能方便模型捕捉到更细粒度的语义信息,如词义、词序、语法结构等。其顺序、位置在序列建模任务(如语言建模、机器翻译、文本生成等)中至关重要。
模型只有在准确了解每个token在序列中的位置和上下文情况,才能更好正确预测内容,给出合理输出。
因此,token的质量、数量对模型效果有直接影响。
今年开始,越来越多大模型发布时,都会着重强调token数量,比如谷歌PaLM 2曝光细节中提到,它训练用到了3.6万亿个token。
以及很多行业内大佬也纷纷表示,token真的很关键!
今年从特斯拉跳槽到OpenAI的AI科学家安德烈·卡帕斯(Andrej Karpathy)就曾在演讲中表示:
更多token能让模型更好思考。
![吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界](/wp-content/uploads/replace/8bc06eb13ca1d35f222dec1167de28c1.png)
而且他强调,模型的性能并不只由参数规模来决定。
比如LLaMA的参数规模远小于GPT-3(65B vs 175B),但由于它用更多token进行训练(1.4T vs 300B),所以LLaMA更强大。
![吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界](/wp-content/uploads/replace/c7c583d7afccff3faafba4cba59d25ba.png)
而凭借着对模型性能的直接影响,token还是AI模型的计费标准。
以OpenAI的定价标准为例,他们以1K个token为单位进行计费,不同模型、不同类型的token价格不同。
![吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界](/wp-content/uploads/replace/f2843e3e8b8d966a8310aacadaf4e4aa.png)
总之,踏进AI大模型领域的大门后,就会发现token是绕不开的知识点。
嗯,甚至衍生出了token文学……
![吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界](/wp-content/uploads/replace/0d384bed50141bee9b297345479f41bb.png)
不过值得一提的是,token在中文世界里到底该翻译成啥,现在还没有完全定下来。
直译“令牌”总是有点怪怪的。
GPT-4觉得叫“词元”或“标记”比较好,你觉得呢?
![吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界](/wp-content/uploads/replace/06bc2610ac56534695cf186d18d0fb74.png)
参考链接:
[1]https://www.reddit.com/r/ChatGPT/comments/13xxehx/chatgpt_is_unable_to_reverse_words/
[2]https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them
[3]https://openai.com/pricing
- 12h订单破万,卖爆了的国产AR眼镜公司什么来头?2024-07-26
- 联想CTO换帅!芮勇转任新集团总裁,瞄准新兴技术2024-07-26
- ICML最佳论文曾被ICLR拒稿,Pika联创参与,一作已入职OpenAI2024-07-25
- 北大刘若川教授获拉马努金奖,中国学者4次获此殊荣2024-07-24