作者把ChatGPT类比为压缩解压程序：

• 大量语料训练模型：压缩互联网上的知识
• 对话框回答问题：解压互联网上的知识

并且这个压缩是有损的。本文基调大致是对当下ChatGPT热浇浇冷水。

这个类比非常有意思，但仔细想想，这不会成为ChatGPT的问题。

事实上，人类大脑理解世界也一样，输入记录是压缩，表达是解压。人类关注并记忆的也是重点信息，在表达时也是对信息进行扩展陈述，没有谁日常表达是一字不漏的背诵。

在学校时，很多知识都学过，但考试仍然会做错，像不像有损压缩后解压失败？

PS：了解了下本文作者姜峯楠（Ted Chiang），挺厉害的，华裔科幻作家，2016年的科幻电影「降临」改编自他的作品。

其中提到的第二个误解：「ChatGPT 是统计模型，所以它的一切认知都是来自于它的语料。」

我也有，并且当大家讨论ChatGPT的时候，经常会从这个基础数学原理的角度得出「当前的AI并没有质变」的结论。

我不知道有没有质变，但给我的感受，是产生了质变。

但让我更意外的是，原来学术界也不知道在这样基础的原理下，为什么产生如此意外的结果/能力。（就是目前处于它做到了但我们并不确切知道它为什么能做到的状态）-- 关于这一点，木遥附上了两个论文链接，一个来自Google，一个来自微软：

• What learning algorithm is in-context learning? Investigations with linear models
• Why Can GPT Learn In-Context? Language Models Secretly Perform Gradient Descent as Meta-Optimizers

Twitter Thread：OpenAI的创始人Sam 19岁的他05年成立了位置服务提供商Loopt，12年4300万美元估值被收购，14年上任YCombinator总裁，19年正式上任他和马斯克共同创立的OpenAI，也正是这年他写下了一篇博客 - how to Be Successful，整理了一下他的13点分享和我的思考。

博客原文：How to Be Successful（英文）。

13点：指数增长、自信、独立思考、销售自己、习惯风险、保持专注、努力工作、大胆决定、执拗一点、差异化竞争、人际网络、资产决定财富、内驱力。