AI 将改变一切！

​

【编者按：你会打造一种有可能会清除人类的技术吗？我们可能正在这样做。从ChatGPT到GPT-4，AI技术的快速发展更迭让人目不暇接，使得人类必须考虑怎样与这个新的物种共存。但我们慢不下来；我们没有时间认真考虑这些问题，更不用说准备好了。我们开始习惯通过自然语言的对话式接口，方便地让这些AI模型帮助我们生成内容或获得各种资源，让工作和生活变得越来越容易和有趣。我们可能一厢情愿地怀着美好愿望，希望像ChatGPT 这样的大模型AI会一直是人类的朋友或助手。但它能否会引领人类认知世界和科学进步的新时代？它可能会变成我们的伙伴、情人、甚至敌人吗？它会让我们亿万人失业吗？它会使得恐怖分子更容易地拥有更多致命的武器吗？它会控制人类的关键公共资源和设施吗？我们是否应该或者怎样控制 AI 技术发展的节奏… 《纽约时报》 “观点（Opinion）”专栏作家 Ezra Klein，常驻当今 AI 圣地 ——硅谷，采访了不同的 AI 从业者和使用者。他提出了一系列引人深思的问题，特别是当AI变得越来越像人类时，我们如何应对这种“未来的怪异感”？新一代 AI 技术将改变一切，我们不可能简单地忽视这些新技术，也不能被它们的思维和行为越来越像人类所迷惑。本文试图从不同的角度切入这些问题，以便我们更深入理解我们的技术、社会和未来。我们特将该内容编译出来和各位客户、合作伙伴朋友分享。如需转载，请联系我们（ID：15937102830）】

2018年，Google首席执行官 Sundar Pichai 表示:“人工智能可能是人类有史以来最重要的事情，我认为它比电或火更深刻。” 该话语背后意味深长，Sundar Pichai并非是一个喜欢夸大其词的技术高管。

试着活在他是对的可能性下几分钟。没有比期望明天与今天相似更深刻的人类偏见了。它是一种强大的启发式工具，因为它几乎总是正确的。明天很可能和今天一样。明年很可能和今年一样。但请将您的目光投向10年或20年后。在人类历史上，这是可能的。我认为现在不可能了。

“人工智能”是一个宽泛的术语，我用它代指广义上的意义。我所描述的不是智能的灵魂，而是一个由类似 ChatGPT 的程序组成的世界的结构，这些程序在我们看来似乎是智能的，并且在很大程度上塑造或治理着我们的生活，这样的系统在很大程度上已经存在了。但即将发生的事情会让它们看起来像玩具。在人工智能中最难理解的是改进曲线。

“更广泛的知识界似乎过分高估了人工智能系统从‘对世界产生巨大影响’到‘彻底改变世界’所需的时间，”去年OpenAI的重要成员之一，现已离开成立了 Alignment Research Center 的 Paul Christiano 写道 “这更有可能是几年而不是几十年，而且有很大机会是几个月。”

也许开发人员们将遇到他们意想不到的障碍，但如果他们没有遇到呢?

我发现自己回想起了新冠早期的那些日子。有那么几周，很明显封锁就要来了，世界正在陷入危机状态，但正常状态仍然存在，你告诉你的家人储备好卫生纸，这听起来像个疯子。生活在指数增长的时代是很困难的，政策和社会变革的加速难以匹配病毒复制的速度。我怀疑我们仍然承载着疫情带来的一些政治和社会伤害，这反映出了这种不可能的加速。人类决策有一种自然的节奏。当我们被剥夺奢侈的时间时，很多东西都会破裂。

但这就是我认为我们现在所处的时刻。作为回应，如果这项技术的发展速度如此之快，我们就没有这么慢慢地做出反应的时间了。

自2018年搬到湾区以来，我一直试图定期花时间与从事人工智能工作的人们交流。我不知道我能不能表达出这种文化有多奇怪。我并不是在贬低它们，而是在描述它们。这是一个具有改变时间和影响的社区。他们正在创造一种他们无法理解的力量，以一种他们常常无法相信的速度。

在2022年的一项调查中，人工智能专家被问到:“你认为人类无法控制未来先进的人工智能系统导致人类灭绝或类似的永久和严重的削弱人类的可能性有多大?”中位数回复是10%。

尽管我与许多人交谈过，他们认为这种可能性甚至更高，但我仍然觉得这很难理解，你会为了一个你认为有10%几率毁灭人类的技术工作吗?

当我们思考人工智能时，通常会联想到科幻小说。然而，我开始相信，恰当的隐喻存在于奇幻小说和神秘学文本中。正如我的同事Ross Douthat所写，这是一种召唤行为。编写这些代码的程序员们不知道什么东西会跨越门户而来。在我与他们的交谈中最奇怪的是，他们可以自由地谈论这个话题。他们并不是天真的认为，只有天使才能听到他们的呼唤。他们相信自己可能召唤出恶魔，尽管存在潜在的危险，但他们还是在召唤。

我经常问他们同样的问题：如果你认为灾难是如此可能发生，为什么还要这样做？不同的人有不同的想法，但在多次追问之后，我发现他们经常从一种听起来像是人工智能的视角来回答。许多人（不是全部，但足以让我对这种描述感到舒适）认为他们有责任将这种新形式的智能引入世界。

在这个时刻，一个诱人的想法可能是：这些人疯了。这经常是我的反应。也许过度接近这项技术会导致我们失去观点。近年来，加密货币爱好者就是这样。他们声称区块链将彻底改变从货币到治理、信任、约会等方面的一切，但这些说法从来没有太多意义。但最相信这些说法的人往往是最接近代码的人。

人工智能是否正在取代加密货币成为投资者的金钱黑洞、理想主义者的时间黑洞、炒作家的磁石和骗局的温床?我不这么认为。加密货币一直是一个关于不太可能的事情在现实中寻求支撑的故事。而对于人工智能，如果要想象未来，你只需要仔细观察现在。

这些系统能否引领科学进步的新时代？2021年，DeepMind构建的一个系统成功预测了数万种蛋白质的3d结构，这一进展如此显著，以至于《科学》(Science)杂志的编辑将其称为年度突破。人工智能会不会给我们的世界带来非人类的伙伴，成为我们的朋友、敌人、助手、导师，甚至是我们的爱人吗?据《纽约》杂志报道:“在下载Replika后不到两个月，圣地亚哥的30岁女子Denise Valenciano就离开了她的男朋友，现在‘愉快地退出了人际关系’。”

人工智能会让数百万人失去工作吗?自动化已经一次又一次地做到了。它会帮助恐怖分子或敌对国家发展致命武器和严重的网络攻击吗?如果你足够聪明地提出要求，这些系统已经可以为制造生物武器提供指导。它会不会以我们不理解或不喜欢的方式控制关键的社会进程或公共基础设施吗?人工智能已经被用于预测警务和司法判决。

但是我不认为这些明显的列举会对我们做太多的准备。我们可以为我们能够预测的事情做计划(尽管在很大程度上，我们没有这样做)。接下来的事情将会更奇怪。我在这里以一种特殊的方式使用这个术语。加利福尼亚反文化历史学家Erik Davis在他的书《High Weirdness》（高度怪异）中，将怪异的事物描述为“异常的——它们偏离了已知预期的规范，并挑战了已经建立的解释，有时是相当激进的。”这就是我们正在建立的世界。

我再次强调，我们不理解这些系统，甚至不清楚我们能不能理解。我指的不是我们不能对其基本功能进行高层次的说明：通常情况下，这些系统是基于数字信息进行训练的概率算法，它们可以预测句子中的下一个单词，或序列中的图像，或它可以统计建模的抽象之间的其他关系。但当我们放大到具体的细节时，图像就会变得模糊不清，如同计算机中的噪声。

Meghan O’Gieblyn 在她的著作《God, Human, Animal, Machine》(上帝、人类、动物、机器)中写道:“如果你把网络在输入和输出之间所做的一切都打印出来，那将相当于数十亿次算术运算，这是一个无法理解的‘解释’。”

这可能是我们正在构建的东西中最奇怪的事情：所谓的“思考”(找不到更好的词了)是完全非人类的，但我们已经把它训练得非常人性化。这些系统越是非人类的（它们所建立的数十亿个连接、所获得的层、参数、节点和计算能力就越多）在我们看来，它们就越像人类。

这里的利害关系既是物质的，也是社会的，也是形而上学的。O’Gieblyn指出，“随着人工智能在越来越高的认知基准测试中不断超越我们，我们通过坚持真正意义上区分意识的情感、感知、体验和感受的能力来抑制我们的焦虑：换句话说，这些是我们与动物共享的品质。”

O’Gieblyn 指出，这是几个世纪以来思想的颠覆，在这种思想中，人类通过强调我们认知的独特性来证明自己的统治地位。我们可能很快就会发现自己在意识的主观体验中获得形而上学的庇护：这些是我们与动物共有的品质，但迄今为止，与人工智能还没有。“如果有神的话，他们肯定会嘲笑我们逻辑的不一致，”她写道。

如果我们有亿万年的时间来做调整，也许我们可以做得不受影响的进行，但现实情况是我们没有那么多时间。主要的科技公司都在争夺人工智能的主导地位。美国和中国正在争夺人工智能领域的主导地位。资金正涌向拥有人工智能专业技术的公司。建议我们放慢速度，甚至完全停止的想法，已经显得很幼稚。如果一家公司放慢了步伐，另一家就会加速前进。如果一个国家暂停前进，其他国家就会更加努力推进。宿命论成为必然性的附庸，而必然性则成为加速的正当理由。

人工智能安全研究人员 Katja Grace 对这种不合逻辑的现象进行了简洁的总结。减缓速度“需要协调大量的人——我们可能自以为足够傲慢，认为自己可以建造一个可以接管世界并将其重塑为乐园的神级机器，但我们并非妄想症患者。”

人类需要加速对这些技术的适应，或者必须做出一个集体的、可强制执行的决定来减缓这些技术的发展。但即使两者都做到了，可能仍然不足够。

我们不能把这些系统排除在我们的思想之外，把正常感觉误认为是事实。我承认，考虑这些可能性感觉有点奇怪，这对我也是如此。怀疑更让人舒服，但戴维斯写的一些东西对我来说是真实的:“在思想的法庭上，怀疑主义是一位伟大的宰相，但是却是一个糟糕的领主。”

作者介绍：

Ezra Klein 在2021年加入《纽约时报》成为其 Opinion 专栏作家。之前曾是Vox网站的创始人、主编，然后任职为特约编辑；主持过“the Ezra Klein Show”播客节目；也是《为什么我们会两极分化》一书的作者。在此之前，他是《华盛顿邮报》的专栏作家和编辑，在那里他创立并领导了Wonkblog垂直领域。

想要了解更多，欢迎入群交流！

权益福利：

1、AI 行业、生态和政策等前沿资讯解析；

2、最新 AI 技术包括大模型的技术前沿、工程实践和应用落地交流（社群邀请人数已达上限，可先加小编微信：15937102830）

关于MoPaaS魔泊云

源于硅谷、扎根中国，上海殷泊信息科技有限公司 (MoPaaS魔泊云) 是中国领先的人工智能(AI) 平台和服务提供商，为用户的数字转型、智能升级和融合创新直接赋能。针对中国AI应用和工程市场的需求，基于自主的智能云平台专利技术，MoPaaS 魔泊云在业界率先推出新一代开放的AI平台为加速客户AI技术创新和应用落地提供高效的GPU算力优化和规模化AI模型开发运维 (ModelOps) 能力和服务。MoPaaS魔泊云 AI平台已经服务在教学科研、工业制造、能源交通、互联网、医疗卫生、政府和金融等行业超过300家国内外满意的客户的AI技术研发、人才培养和应用落地工程需求。MoPaaS魔泊云致力打造全方位开放的AI技术和应用生态。同时，MoPaaS魔泊云在浙江嘉兴设立安尚云信信息科技有限公司全资子公司，致力于推动当地的科技产业发展，并积极培养本地专业技术人才，创造更大的社会和经济效益。MoPaaS 被Forrester评为中国企业级云平台市场的卓越表现者(Strong Performer)。

  END  

▼ 往期精选 ▼

1、分布式人工智能框架 Ray 如何帮助 OpenAI 驱动 ChatGPT

2、Midjourney创始人David Holz关于生成式AI的访谈

3、GPT-4 闪亮登场：比 Chat GPT 更大更好，但 OpenAI 还是不说为什么 ！

4、图灵奖获得者 Yoshua Bengio 认为 ChatGPT 是一个“警钟”

▼点击下方“阅读原文”，查看文章来源！

​Read More