• 拾月收藏夹
  • My links
  • 标签
  • 每天
  • RSS
  • 登录
过滤出没有标签的链接
4 条结果 标签 NLP

ChatGPT Is a Blurry JPEG of the Web | The New Yorker(英文)https://www.newyorker.com/tech/annals-of-technology/chatgpt-is-a-blurry-jpeg-of-the-web

  • 人工智能
  • AIGC
  • NLP
  • type:article
  • 人工智能
  • AIGC
  • NLP
  • type:article

作者把ChatGPT类比为压缩解压程序:

  • 大量语料训练模型:压缩互联网上的知识
  • 对话框回答问题:解压互联网上的知识

并且这个压缩是有损的。本文基调大致是对当下ChatGPT热浇浇冷水。

这个类比非常有意思,但仔细想想,这不会成为ChatGPT的问题。

事实上,人类大脑理解世界也一样,输入记录是压缩,表达是解压。人类关注并记忆的也是重点信息,在表达时也是对信息进行扩展陈述,没有谁日常表达是一字不漏的背诵。

在学校时,很多知识都学过,但考试仍然会做错,像不像有损压缩后解压失败?

PS:了解了下本文作者姜峯楠(Ted Chiang),挺厉害的,华裔科幻作家,2016年的科幻电影「降临」改编自他的作品。

永久链接
February 11, 2023 10:02:57 PM GMT+08:00

木遥:解释一些关于大语言模型的常见误解。https://m.weibo.cn/status/4867504348334485

  • 人工智能
  • AIGC
  • NLP
  • type:article
  • 人工智能
  • AIGC
  • NLP
  • type:article

其中提到的第二个误解:「ChatGPT 是统计模型,所以它的一切认知都是来自于它的语料。」

我也有,并且当大家讨论ChatGPT的时候,经常会从这个基础数学原理的角度得出「当前的AI并没有质变」的结论。

我不知道有没有质变,但给我的感受,是产生了质变。

但让我更意外的是,原来学术界也不知道在这样基础的原理下,为什么产生如此意外的结果/能力。(就是目前处于它做到了但我们并不确切知道它为什么能做到的状态)-- 关于这一点,木遥附上了两个论文链接,一个来自Google,一个来自微软:

  • What learning algorithm is in-context learning? Investigations with linear models
  • Why Can GPT Learn In-Context? Language Models Secretly Perform Gradient Descent as Meta-Optimizers
永久链接
February 11, 2023 09:38:47 PM GMT+08:00

木遥:苏格拉底的猴子https://weibo.com/1644684112/MrRNy8lOk?pagetype=groupfeed

  • AIGC
  • 人工智能
  • 科技
  • openai
  • NLP
  • type:article
  • AIGC
  • 人工智能
  • 科技
  • openai
  • NLP
  • type:article

近期看到的非常好的关于ChatGPT的评论。

最后的比喻非常形象:「当你抱怨 ChatGPT 鬼话连篇满嘴跑火车的时候,这可能有点像你看到一只猴子在沙滩上用石头写下1+1=3。它确实算错了,但这不是重点。它有一天会算对的。」

毫无疑问,ChatGPT是AI领域一个质的飞跃,ChatGPT表现出非常强的围绕文本的归纳、总结、推理能力,能替代很多咨询类工作,没想到最先被AI替代的是传统上被认为高知的工作。

并且,它已经达到可商业化的程度,将会有大量资本涌入,推动这个行业以更快的速度发展,拭目以待。

微信链接备份:https://mp.weixin.qq.com/s/8gWpFG0k_vbgy_yUOg6R0g

永久链接
February 7, 2023 10:44:01 AM GMT+08:00

Kagi - Universal Summarizerhttps://labs.kagi.com/ai/sum

  • type:tool
  • 人工智能
  • NLP
  • 搜索推荐
  • type:tool
  • 人工智能
  • NLP
  • 搜索推荐

Kagi出的智能摘要工具:给一个内容链接,它能输出内容摘要。Youtube视频也能输出摘要,非常强大。

测试下来,貌似不支持中文。

Kagi本身是一个搜索引擎,它有付费版本,付费搜索的商业模式能不能行的通,这是个很好的标本。

永久链接
February 6, 2023 11:30:50 AM GMT+08:00
每页链接数
  • 20
  • 50
  • 100
Shaarli 376 条记录 · Shaarli · 个人、超快、极简、掌握数据库的书签服务 由 Shaarli 社区提供 · 文档 · Theme : Stack · Font : DINish
折叠 全部折叠 展开 全部展开 确定删除此链接? 确定删除此标签? The personal, minimalist, super-fast, database free, bookmarking service 由 Shaarli 社区提供