一个感想:生成式 AI 最不擅长的可能是生成。https://blog.farmostwood.net/1276.html
非常有意思的角度。人们使用AI常用的两类任务:
- 给一段内容,让AI评估、点评
- 给一个想法,让AI生成
点评是要理解存量内容的分布,而创造则需要打破分布才能得到好的东西。显然,AI在原理上,更擅长前者,不擅长后者。
对任何智能来说,这两类任务都是相关但不相同的。比如一个人可能是个美食家,但炒个鸡蛋也会炒糊。可能有极好的文字品味,但写出来的小说很幼稚。可以在评论别人的方案的时候充满洞见,但自己一上手就磕磕绊绊。
(甚至也有反过来的情形,一个人可以完全不擅长评论,但自己做就做得很好。当然这是比较罕见的例子。
这个区别当然一方面是因为知易行难,但还有一个根本问题在于这两者追求的不是一回事。前者追求的是对数据分布的深刻理解,希望达到全局上的客观综摄。后者追求的则是在这个分布里试图获得一个不平凡的结果,换句话说,是对这个分布的一个抵抗而非服从。没有诗人,哪怕乾隆,写诗是为了想写出一首平庸的诗。大家想写的是传颂千秋的诗——虽然每个人都这么想的结果仍然是大家写出来的是都很平庸,但那是不得已。
也就是说,评估需要的是理解分布,而创造追求的是打破分布,或者说,是在另一个自己内心的理想分布中做采样。一个人才华越高,这个自己内心的理想分布同现实分布之间的 distortion 就越大,自己也就越能强行逃脱现实的引力。正是因为一代一代有天赋有才华的人的不懈努力和接力,投入自己的 ego 去扭曲这个分布,去把它拉向和推向边缘,这个代表人类综合水平的整体分布才会随着时间变化。