Sam Altman预言2030年前出现AGI，GPT-10智慧将超越全人类总和！

  新智元报道  

编辑：润 Lumina

【新智元导读】Sam Altman近日曝出惊人预言：2030年之前就会出现AGI，也就是GPT-10，届时它的智商将超越全人类总和！

「人类可能在2030年之前，开发出AGI」。

Sam Altman在最近的播客采访中透露，GPT-10就是AGI，它比全世界所有人加起来还要聪明！

而当主持人问道，如何定义AGI？Altman称：

如果我们能够开发出一个系统，能自主研发出人类无法研发出的科学知识时，我就会称这个系统为AGI。

ChatGPT的横空出世，已经在世界各地掀起了巨大的冲击波，远远超过AlphaGo人机大战的反响。

或许你会问，OpenAI究竟想要的是什么？

WIRED在本期的封面报道中，深度分析了OpenAI的雄心、战略，以及它在企业发展过程中保留实验室文化的尝试。

文章指出，OpenAI的最终的目标：改变一切。

其中还有有趣的一点是，OpenAI的财务文件甚至规定了一种退出应急方案，以防人工智能摧毁我们的整个经济体系。

也就是说，当真正AGI降临那天，如果它成为「天网」，OpenAI还有备选项。

AGI还有多远？

Sam Altman如何设想一个人类和人工智能共存的世界？

在他看来，人工智能什么时候会彻底改变我们的生活方式？

近日，来自挪威管理基金的企业家Nicolai Tangen与Sam Altman开启了对谈，深度解答了AI将如何影响世界。

Sam Altman的愿景是让AGI能够让人类能够不需要去做那些「不得不做」的工作，从而让每个人都去做自己喜爱的，能够全情投入的工作。

他用他自己举了个例子，他说他非常热爱自己现在的工作，现在做的一切事情都是自己非常愿意投入其中的事情。而也许在AGI到达的未来，所有人都能像他一样，只做自己愿意做的事情，这样就能充分发挥每个人的潜力。

「当开发出GPT-10的时候，也许他能比全世界所有人的加起来还聪明，你能想象在他的帮助下人类的生产力会有多大的提升吗？」Altman这样说到。

而如何到达这样的一个终点，Altman也给出了一些具体的说法。

他称：「我和公司中的员工说，我们的目标就是每12个月能让我们的原型产品性能提升10%。」「如果把这个目标设定到20%可能就会有些过高了。」

根据他的说法，在OpenAI中，可能15%-20%的员工是真正动手写代码的。

如何让团队能够高效地工作，是影响他们最终目标能否实现的关键因素。

如何领导团队

当主持问到他是如何在公司内管理和晋升员工时，Sam Altman称，他觉得AI其实很适合做领导人的角色。

如果某天开发出AGI了，他就会让它来当OpenAI的CEO，自己就可以稍微休息一下了。

他说，其实很多领导者往往会因为没有做好3个事情而让自己的公司走向失败：

首先是没有花足够的时间精力在招聘上，从而没有办法构建一个良好的团队。

其次是没有花足够的时间精力上和团队沟通前进的方向和价值观。

第三点是没有花足够的时间和精力在思考战略方面的问题上，这样会永远陷在细节中无法前进。

而从个人的角度，他相比于从外部雇佣一新人担任领导岗位，他更愿意从内部提拔老员工。

不过当他把一个新人放到一个领导岗位上之前，他往往会和他先聊聊，然后告诉他，有几个问题是未来你可能会遇到的，你需要先解决好。

然后再和他说，当然你可以完全不考虑这几个问题，按照你自己的想法去做，不过呢我会先把这几个问题写下来，等到3个月或者6个月之后我们再来看看事情会不会像我说的这样发展。

往往3个月到6个月之后，他们都会来和Altman说他们注意到这些问题了。所以提前告诉他们这些问题并且允许他们犯错是很重要的。

总之，尽可能地获得好的人才，然后让他们尽可能快速地成长，尽可能多地建立信任是管理天才的一个好办法。

与此同时，让用户和大众能够意识到OpenAI不断开发的产品的优势，让更多人接受和使用他们的产品也是达到AGI之前必须要处理好的事情。

奇点降临时，人类需要做好准备

Altman在《Wired》的文章中描述了年初是如何处理ChatGPT和GPT-4发布的。解释了为什么OpenAI在GPT-4即将完成并正在进行安全工作时发布了 ChatGPT。

「通过 ChatGPT，我们可以引入聊天功能，但后端功能要弱得多，并让人们更加渐进地适应」他说。 「GPT-4 需要立即适应很多事情。」

当 ChatGPT 的兴奋消退时，用户可能就已经为GPT-4做好了准备，它可以在几秒钟内通过律师资格考试、规划课程大纲并写出一本书。

阴谋论者人可能会说，新产品的发布节奏与公司对投资者和持股员工的承诺有关，这样才能保证赚钱。

但 OpenAI 坚称，其真正的策略是为奇点降临提供一个能够软着陆的环境。

「秘密构建AGI并将其投放到世界上是没有意义的，」Altman说。 「回顾工业革命，每个人都认为它对世界来说是伟大的，但前工业革命之后前50年确实很痛苦。大量失业、大量贫困，然后世界就适应了。我们正在努力思考如何才能让AGI被世界适应之前的时期尽可能轻松。」

如何应对监管将决定目标能否实现

OpenAI雇佣了很多能够帮助自己和监管机关进行良好沟通的人，希望他们能帮助OpenAI避免科技公司之前所遭遇到的一些困难和挑战。

Makanju是出生于俄罗斯的华盛顿特区内部人士，曾在美国驻联合国代表团、美国国家安全委员会和国防部担任外交政策职务，并在乔·拜登担任副总统时担任过办公室职务。

「我在美国政府和欧洲各国政府中都有很多关系，」她说。她于 2021 年 9 月加入 OpenAI。当时，政府中很少有人关心生成式人工智能。

知道OpenAI的产品很快就会改变这一现状，她开始向政府官员和立法者介绍Altman，确保他们首先听到OpenAI好消息和坏消息。

参议院司法委员会主席理查德·布卢门撒尔表示：「Altman在与国会议员打交道时非常乐于助人，而且非常精明。」他将Altman的行为与年轻的比尔·盖茨进行了对比，后者在 20 世纪 90 年代微软接受反垄断调查时，不明智地阻挠立法者。

「相比之下，Altman很乐意花一个小时或更长时间坐在我身边，试图教我，」布卢门撒尔说。 「他并没有带着一支游说者或看护者大军。他演示了ChatGPT。这真是令人兴奋。」

对于AIGC本身可能带来的数据版权问题，3月份正式加入 OpenAI 的精英知识产权律师Tom Rubin)乐观地认为，该公司最终将找到既满足自身需求又满足创作者需求的平衡点，其中包括那些像喜剧演员 Sarah Silverman那样起诉 OpenAI 的人。

使用他们的内容来训练其模型。OpenAI 路径的一个暗示：与美联社和 Shutterstock 等新闻和图片机构合作，为其模型提供内容，而不会存在所有权的争议。

风险和收益的关系

在访谈中，Altman还聊到了很多自己对于创业，管理以及未来AI和科技行业可能产生的变化等问题。

Altman称「可能大部分的人都高估了风险，低估了收益。」

他进一步解释道：「很多人都不太会做一些有风险的选择，比如说开一家公司，去争取一个自己愿意投入其中的工作，或者去实现一个产品创意。他们总是觉得这太冒险了。」

「但是当你和他说那我们就具体来看看有些什么风险的时候，人们会说因为公司可能会倒闭，但是一份稳定的工作能让你一直很稳定。」

「但是在我看来，就像很多人担心其他的风险一样，我个人觉得如果一个人20年都在做一份没有进步，没有新东西产生，没有学到新的知识的工作，这样的工作的风险是灾难性的。」

而对于他刚刚完成的环球访问，他也聊了自己的感受。

他觉得，在大多数的发展中国家，人们最关心的是AI技术能在经济上给人带来什么影响。

而在更发达的国家中，对话更多是关于如何AI又什么缺点，可能会对现有的事物产生什么破坏。

和微软的关系

当主持人问到Open AI和微软的关系时，Sam Altman回答到：从宏观的角度看，两家公司更像是合作的伙伴关系。微软为OpenAI提供硬件和算力，OpenAI来训练模型，然后得到的模型，两家公司一起分享。

提到最近有消息爆出的OpenAI和微软在业务上也会有些冲突，似乎关系没有那么看起来那么紧密，Sam Altman说：

「就像生活和商业中的任何关系一样，没有什么关系时完美的，但是最重要的是，在最高层的处我们会保持一致，所以我只能说，我们的关系非常好。」

「因为不存在一种关系是我们对所有的事情都会保持一致的看法，但是我们会在很长时间内都保持一个非常强的相互理解和妥协的能力。」

能够以长远的视角来进行思考是一项巨大的竞争优势

当主持问他你觉得自己最大的强项是什么的时候？

Sam Altman回答到，他认为自己是最大的能力是能够长远地思考问题。因为几乎没有人会以这种方式来思考。

但是在他看来，这是为什么他们最终能开发出AGI的一项必要能力。

因为AGI可能是50年以后发生的事情，没有人会以这个东西为目标来指导和安排每天的工作，但是如果不这样做，最后就很难达到这个目标。

在AI之外他最感兴趣的事情是可控核聚变

他觉得如果人类要创造一个富足而无忧无虑的未来，最重要的两件事：

首先是让智能的成本大幅度地下降，其次就是让能源的成本大幅度的下降。

OpenAI在做第一件事，而第二件事，可能只有可控核聚变才能达到。

能让人类可以获得无限的清洁能源会改变一切。

OpenAI开发者大会

让我们从Altman描述的未来时间中回来，看看现实中，OpenAI最近的进展是什么：

就在今天，OpenAI宣布将在11月6日美国加利福尼亚州的旧金山，举办OpenAI的首届全球开发者大会—— OpenAI DevDay。

OpenAI团队将与来自世界各地的数百名开发者在大会上交流想法并展示OpenAI的最新研究成果。

此外，现场的开发者还能参与OpenAI技术人员领导的分组会议。

虽然OpenAI DevDay以现场活动为主，但包括主题演讲在内的部分会议将在线上直播。

线下的参会人数上限为几百名开发人员，以确保为与会者提供亲密的体验。

大会报名地址：https://devday.openai.com/

OpenAI没有透露将在大会上展示的研究。

但GPT-5出现的可能性较低。因为在3月28日上万名技术专家签署的暂停比GPT-4更强的人工智能公开信后，Altman在四月公开表示OpenAI停止了对GPT-5的训练。

大会上很可能会展示OpenAI在8月收购的Global Illumination，以及GPT-4图像理解功能可用性的最新情况。

此前，出于对隐私的担忧，图像理解功能一直未上线。

这次OpenAI举办开发者大会，也预示了OpenAI希望建立一个开发者社区的愿景。

自2020年开放API后，OpenA就I一直不断对其进行更新和升级，以纳入最先进的模型。

全球的开发者也因此能通过比以往任何时候都更简单的API调用，将尖端的人工智能集成到自己的项目中。

如今，已有超过200万名开发者正在把GPT-4、GPT-3.5、DALL-E 和Whisper应用到广泛的领域中：

从将智能助手集成到现有应用程序，到搭建以前无法实现的全新应用程序和服务。

CEO Sam Altman表示，「我们期待在开发者大会上展示OpenAI的最新研究成果，能够帮助开发人员实现新的创意和想法。」

但对OpenAI而言，开发者大会也是一次绝佳的营销机会。

据The Information报道，在ChatGPT享誉全球的同时，OpenAI为开发ChatGPT，在去年一年就花费了5.4 亿美元。

但因为ChatGPT亮眼的表现，以及OpenAI更多产品的推出，如企业级的ChatGPT等，OpenAI明年的收入预计可达10 亿美元。

但随着人工智能竞争的加剧和人工智能硬件成本的飙升，GPU的短缺等等一系列挑战，OpenAI必须找到更多更好的出路。

DevDay的召开是OpenAI发展的一个里程碑。

大会不仅提供了OpenAI与开发者社区互动的机会，宣传了OpenAI的最新成果，还巩固了其作为AI行业领导者的地位。

对这次开发者大会，网友们可谓是期待十足，纷纷表示等不及了！

「实在等不了了！」

「这泰酷辣，等不及了！」

也有人因为线下会议名额有限，或是不能到会，希望OpenAI能全程直播大会的所有内容。

「你们是否有可能对整个会议进行现场直播，因为有很多感兴趣的开发人员不在旧金山，他们肯定是希望了解与开发人员能力和体验相关的所有信息的。」

如此期待OpenAI DevDay，也是出于网友们对OpenAI产品和服务的喜爱。

他们对OpenAI的评价相当高：

「我从五月份开始使用他们的服务，随着时间的推移，OpenAI的服务变得越来越好：速度更快，也不会出现掉线不准确的情况。

对我们来说，这就是他们非常重视平台的建设最好的证明。

虽然我不是他们的忠实客户，而且由于需要签署数据保护协议（DPA），实际上在使用OpenAI的产品时需要为我们的一些客户另辟蹊径。

但选择OpenAI是非常值得的。」

参考资料：https://openai.com/blog/announcing-openai-devdayhttps://www.youtube.com/watch?v=O77UyYK51s4&t=1670s