Weekly Pocket（第9期）

朋友，你好：

很高兴见面，过去一周我收藏了下列内容，希望对你有帮助。也欢迎将本Newsletter分享给更多朋友，感谢你的关注与支持。

文章 

拿到ChatGPT版Bing搜索的内测后，我觉得所有大厂都该慌了。
Source: mp.weixin.qq.com

应该是国内的首测，两点值得注意：

1、仍然是对话式问答，但Bing版ChatGPT回答时，给了数据来源引用。这意味着，它很大程度上能够替代搜索引擎了，直接提供答案，但又能让你基于来源去确定答案的可靠性。
2、关于纠错，非常强：
2.1、提示ChatGPT答案可能错误时，它会尝试寻找更好的答案，如果有更新、更准的数据，它会承认错误并返回最新结果。
2.2、但如果没有更新、更准的答案，它会坚持自己的结果是正确的，甚至置疑用户。但，这里有可能是ChatGPT对用户输入问题的意图理解错误，如果用户能够进一步解释问题中一些概念的定义，ChatGPT能够承认自己对问题理解有误，并基于新的理解寻找答案。— 这点太恐怖了。

文章已被删，提供一个临时链接：https://cubox.pro/share/HXXG2M

ChatGPT Is a Blurry JPEG of the Web | The New Yorker（英文）
Source: www.newyorker.com

作者把ChatGPT类比为压缩解压程序：

• 大量语料训练模型：压缩互联网上的知识
• 对话框回答问题：解压互联网上的知识

并且这个压缩是有损的。本文基调大致是对当下ChatGPT热浇浇冷水。

这个类比非常有意思，但仔细想想，这不会成为ChatGPT的问题。

事实上，人类大脑理解世界也一样，输入记录是压缩，表达是解压。人类关注并记忆的也是重点信息，在表达时也是对信息进行扩展陈述，没有谁日常表达是一字不漏的背诵。

在学校时，很多知识都学过，但考试仍然会做错，像不像有损压缩后解压失败？

PS：了解了下本文作者姜峯楠（Ted Chiang），挺厉害的，华裔科幻作家，2016年的科幻电影「降临」改编自他的作品。

木遥：解释一些关于大语言模型的常见误解。
Source: m.weibo.cn

其中提到的第二个误解：「ChatGPT 是统计模型，所以它的一切认知都是来自于它的语料。」

我也有，并且当大家讨论ChatGPT的时候，经常会从这个基础数学原理的角度得出「当前的AI并没有质变」的结论。

我不知道有没有质变，但给我的感受，是产生了质变。

但让我更意外的是，原来学术界也不知道在这样基础的原理下，为什么产生如此意外的结果/能力。（就是目前处于它做到了但我们并不确切知道它为什么能做到的状态）– 关于这一点，木遥附上了两个论文链接，一个来自Google，一个来自微软：

• What learning algorithm is in-context learning? Investigations with linear models
• Why Can GPT Learn In-Context? Language Models Secretly Perform Gradient Descent as Meta-Optimizers

How to Be Successful
Source: twitter.com

Twitter Thread：OpenAI的创始人Sam 19岁的他05年成立了位置服务提供商Loopt，12年4300万美元估值被收购，14年上任YCombinator总裁，19年正式上任他和马斯克共同创立的OpenAI，也正是这年他写下了一篇博客 – how to Be Successful，整理了一下他的13点分享和我的思考。

博客原文：How to Be Successful（英文）。

13点：指数增长、自信、独立思考、销售自己、习惯风险、保持专注、努力工作、大胆决定、执拗一点、差异化竞争、人际网络、资产决定财富、内驱力。

时代计划 – DemoChen’s Clip
Source: clip.demochen.com

本文是翻译，英文原文：The TIME Project。

作者用5年的时间把1923年至2000年每一期《时代》杂志读完，写的一些感想。摘两段：

1、在短期内，政策是重要的。 从长远来看，科学很重要。1999年，《时代》杂志提名阿尔伯特·爱因斯坦为世纪风云人物。 这是个完美的选择。 最后入围的三位是罗斯福、甘地和爱因斯坦，但该杂志最终选择了爱因斯坦，因为最终”政治是暂时的。”方程式是永恒的。

2、任何一个长寿的人都可能对什么重要、什么不重要得出类似的结论，我觉得在相对年轻的时候就被赋予了这样的观点是一种天赋。——我将用我的余生珍惜我在这里与我所爱的人在一起的每一刻。 我将利用我的工作时间建立和支持促进人类理解的强大机构。

王川: 出钱最多者的视角，才是上帝视角
Source: chuan.us

在经济世界里，凡事从利益角度出发。

比如，互联网大部分产品免费，付费的是广告主。很多普通投资者，没有以广告主的视角看互联网产品。

木遥：苏格拉底的猴子
Source: weibo.com

近期看到的非常好的关于ChatGPT的评论。

最后的比喻非常形象：「当你抱怨 ChatGPT 鬼话连篇满嘴跑火车的时候，这可能有点像你看到一只猴子在沙滩上用石头写下1+1=3。它确实算错了，但这不是重点。它有一天会算对的。」

毫无疑问，ChatGPT是AI领域一个质的飞跃，ChatGPT表现出非常强的围绕文本的归纳、总结、推理能力，能替代很多咨询类工作，没想到最先被AI替代的是传统上被认为高知的工作。

并且，它已经达到可商业化的程度，将会有大量资本涌入，推动这个行业以更快的速度发展，拭目以待。

微信链接备份：https://mp.weixin.qq.com/s/8gWpFG0k_vbgy_yUOg6R0g

视频 

Introducing your copilot for the web: AI-powered Bing and Microsoft Edge – YouTube
Source: www.youtube.com

微软new Bing发布会，结合ChatGPT的Bing搜索和Edge浏览器。

了解功能演示，直接从13分钟开始，Yusuf Introduction部分。网上很多文字介绍，还是不如视频来的惊艳。

Yusuf把搜索需求分三类：导航（找到amazon网站）、信息（查天气、股价）、其它（这些都比较复杂），前两类传统搜索满足的很好，但第三类满足的一般，第三类是new Bing要够颠覆的领域。（前两类ChatGPT也能和传统搜索做的一样好，只是谈不上颠覆）

注意到new Bing的Chat模式下，左边是创建话题（New Topic）的按钮，未来的搜索是围绕某一主题的持续对话。发布会上旅游行程规划的例子非常完美。

这场发布会规模不大，但其在科技史上的意义，将不亚于2007年苹果初代iPhone的发布会。

附：

工具 

memos – An open-source, self-hosted memo hub with knowledge management and socialization
Source: usememos.com

开源版Flomo，像素级模仿。除了Flomo的功能，一些不错的特性：

• 支持公开笔记，可作为没有评论功能的微博使用。
• 支持多用户，比如小情侣共用一个记录日常。

我搭建了一个demo：https://memos.skyue.com

Kagi – Universal Summarizer
Source: labs.kagi.com

Kagi出的智能摘要工具：给一个内容链接，它能输出内容摘要。Youtube视频也能输出摘要，非常强大。

测试下来，貌似不支持中文。

Kagi本身是一个搜索引擎，它有付费版本，付费搜索的商业模式能不能行的通，这是个很好的标本。

​Read More