“Ilya究竟看到了什么?”泄密被OpenAI解雇的前员工长文爆料:2030年超级人工智能将至-36氪
36Kr这个summary有点乱。
原文在这里: https://situational-awareness.ai/ ,有个完整的很长的PDF,非常长。
Infq也有一篇评论:AI “奸商”的崛起
2023人工智能现状报告
干货,150多而ppt
【英文】大模型的10个挑战
本文总结了大模型的10个挑战。
介绍每个挑战时,也提供了很多外部资料,方便进一步了解。
Artificial Intelligence Lawsuit: AI-Generated Art Not Copyrightable – The Hollywood Reporter
人工智能诉讼:人工智能生成的艺术不受版权保护 – 好莱坞报道
The opinion stressed, “Human authorship is a bedrock requirement.”
该意见强调,“人类作者身份是一项基本要求。”
今年三月,版权局确认人工智能生成的大多数作品不受版权保护,但澄清人工智能辅助材料在某些情况下有资格受到保护。声明称,如果人类以“足够创造性的方式选择或安排”人工智能创作的作品,从而使所得作品构成原创作品,则申请人工智能创作的作品可以支持版权主张。【这一点和相机类似,拍照已经非常智能化了,但人仍然是深度控制和参与的】
AI 大模型的下一步,或许是 Google 早年的那种便宜的方案
思路很有趣。
一个历史映射:
Google发明了分布式计算三件套,从而解决了大量计算的问题,降低了Google服务的硬件成本。
大模型现在动辄数千上万张A100,技术上有没有别的路径,通过软件大量降低大模型计算成本呢?
在这周时代广场的好莱... - @木遥的微博 - 微博
工业革命初期,机器替代人工的时候,工人反应也一样。
参考:卢德运动 - 维基百科,自由的百科全书
AI 狂飙的时代,人还有价值吗? - 遥遥无期 (podcast) | Listen Notes
木遥播客更新了,距上一期超过1年了。
Moore's Law for Everything
OpenAI CEO Sam Altman关于AI普及替代大部分人类劳动力后,关于社会制度的畅想。作者用一个独立域名放这篇文章,而没有发在博客(blog.samaltman.com)内,可见它在作者眼中的特殊性。
当AI成为主要生产力,AI又能自己再生产AI,商品成本将无限低,唯一的约束只是地球资源。世界会怎么样?作者给出了一个有点大同社会的观点,但真的如此吗?还是人口会增长至地球承受的极限,最终还是瓦解,又或者有其它可能?
附翻译版:万物摩尔定律
Introducing your copilot for the web: AI-powered Bing and Microsoft Edge - YouTube
微软new Bing发布会,结合ChatGPT的Bing搜索和Edge浏览器。
了解功能演示,直接从13分钟开始,Yusuf Introduction部分。网上很多文字介绍,还是不如视频来的惊艳。
Yusuf把搜索需求分三类:导航(找到amazon网站)、信息(查天气、股价)、其它(这些都比较复杂),前两类传统搜索满足的很好,但第三类满足的一般,第三类是new Bing要够颠覆的领域。(前两类ChatGPT也能和传统搜索做的一样好,只是谈不上颠覆)
注意到new Bing的Chat模式下,左边是创建话题(New Topic)的按钮,未来的搜索是围绕某一主题的持续对话。发布会上旅游行程规划的例子非常完美。
这场发布会规模不大,但其在科技史上的意义,将不亚于2007年苹果初代iPhone的发布会。
附:中文字幕版
拿到ChatGPT版Bing搜索的内测后,我觉得所有大厂都该慌了。
应该是国内的首测,两点值得注意:
1、仍然是对话式问答,但Bing版ChatGPT回答时,给了数据来源引用。这意味着,它很大程度上能够替代搜索引擎了,直接提供答案,但又能让你基于来源去确定答案的可靠性。
2、关于纠错,非常强:
2.1、提示ChatGPT答案可能错误时,它会尝试寻找更好的答案,如果有更新、更准的数据,它会承认错误并返回最新结果。
2.2、但如果没有更新、更准的答案,它会坚持自己的结果是正确的,甚至置疑用户。但,这里有可能是ChatGPT对用户输入问题的意图理解错误,如果用户能够进一步解释问题中一些概念的定义,ChatGPT能够承认自己对问题理解有误,并基于新的理解寻找答案。--- 这点太恐怖了。
文章已被删,提供一个临时链接:https://cubox.pro/share/HXXG2M
ChatGPT Is a Blurry JPEG of the Web | The New Yorker(英文)
作者把ChatGPT类比为压缩解压程序:
- 大量语料训练模型:压缩互联网上的知识
- 对话框回答问题:解压互联网上的知识
并且这个压缩是有损的。本文基调大致是对当下ChatGPT热浇浇冷水。
这个类比非常有意思,但仔细想想,这不会成为ChatGPT的问题。
事实上,人类大脑理解世界也一样,输入记录是压缩,表达是解压。人类关注并记忆的也是重点信息,在表达时也是对信息进行扩展陈述,没有谁日常表达是一字不漏的背诵。
在学校时,很多知识都学过,但考试仍然会做错,像不像有损压缩后解压失败?
PS:了解了下本文作者姜峯楠(Ted Chiang),挺厉害的,华裔科幻作家,2016年的科幻电影「降临」改编自他的作品。
木遥:解释一些关于大语言模型的常见误解。
其中提到的第二个误解:「ChatGPT 是统计模型,所以它的一切认知都是来自于它的语料。」
我也有,并且当大家讨论ChatGPT的时候,经常会从这个基础数学原理的角度得出「当前的AI并没有质变」的结论。
我不知道有没有质变,但给我的感受,是产生了质变。
但让我更意外的是,原来学术界也不知道在这样基础的原理下,为什么产生如此意外的结果/能力。(就是目前处于它做到了但我们并不确切知道它为什么能做到的状态)-- 关于这一点,木遥附上了两个论文链接,一个来自Google,一个来自微软:
木遥:苏格拉底的猴子
近期看到的非常好的关于ChatGPT的评论。
最后的比喻非常形象:「当你抱怨 ChatGPT 鬼话连篇满嘴跑火车的时候,这可能有点像你看到一只猴子在沙滩上用石头写下1+1=3。它确实算错了,但这不是重点。它有一天会算对的。」
毫无疑问,ChatGPT是AI领域一个质的飞跃,ChatGPT表现出非常强的围绕文本的归纳、总结、推理能力,能替代很多咨询类工作,没想到最先被AI替代的是传统上被认为高知的工作。
并且,它已经达到可商业化的程度,将会有大量资本涌入,推动这个行业以更快的速度发展,拭目以待。
Kagi - Universal Summarizer
Kagi出的智能摘要工具:给一个内容链接,它能输出内容摘要。Youtube视频也能输出摘要,非常强大。
测试下来,貌似不支持中文。
Kagi本身是一个搜索引擎,它有付费版本,付费搜索的商业模式能不能行的通,这是个很好的标本。
20种ChatGPT在SEO的应用 附带中文指令
生成摘要、提取关键词、寻找外链网站,等等,非常的强。
也好理解,ChatGPT是处理文本,SEO也是在处理文本,非常贴合的应用场景。
本文主要参考了两篇英文文章:
AIGC – 图片与文字分享 | 代码家
真格基金的分享,40多分钟音频 + 90多页PPT,很完整的梳理和介绍了图像生成模型,ChatGPT以及人工智能发展史。
说到历史,Google在整个AI发展中,绝对的中流砥柱呀。
ChatGPT is a ‘code red’ for Google’s search business | Hacker News
纽时发了一篇「ChatGPT对Google来说是红色预警」的报道,Google有资源也有能力做一个同样的聊天机器人,事实上内部已经有了。报道中提到两个问题:
- 通过引导,机器人会说些政治不正确的话,这对Google这样的大公司来说,是危险的。但对OpenAI这样的小公司来说,市场能够容忍。
- 机器人的商业模式与当前Google广告模式是冲突的。对于上市的大公司,革自己的命,阻力很大。
这个链接是Hacker News上大家的讨论。
作为「它者」的算法 – 一天世界
现代电脑与博弈论的重要创始人冯诺伊曼,曾说过:「到底有什么是电脑做不了的?只要你把被认为是电脑无法解决的问题描述清楚,电脑总能找到一种方法解决它。」也就是说,如果我们能把什么是「创作」和好的「作品」定义清楚,人工智能就可能实现你所想要的。
Sam Altman:十年很短,一日很长
OpenAI CEO的鸡汤。
最后大火的ChatGPT就是OpenAI公司的作品。