DeepMind的联合创始人：生成性人工智能只是一个阶段

Mustafa Suleyman说：“这是技术史上一个深刻的时刻。”

DeepMind联合创始人Mustafa Suleyman希望建立一个比聊天做得比聊天更多的事情的聊天机器人。在我最近与他的一次谈话中，他告诉我，生成性人工智能只是一个阶段。接下来是交互式人工智能：机器人可以通过调用其他软件和其他人来完成事情来执行您为他们设置的任务。他还呼吁强有力的监管，并认为这并不难实现。

Suleyman不是唯一一个谈论充满更自主软件的未来的人。但与大多数人不同，他拥有一家价值数十亿美元的新公司Inflection，拥有来自DeepMind、Meta和OpenAI的顶级人才名单，并且由于与Nvidia的交易，这是世界上最大的专业人工智能硬件库存之一。Suleyman把他的钱放在了他的嘴边——他告诉我，他俩都不感兴趣，也想赚更多钱。

屈折变化

至少自从我们在2016年初首次发表演讲以来，Suleyman一直坚定不移地相信技术是一股善良的力量。他刚刚启动了DeepMind Health，并与英国一些国营区域医疗保健提供商建立了研究合作。

我当时工作的杂志即将发表一篇文章，声称DeepMind在访问约160万患者的记录以建立这些合作时未能遵守数据保护法规——这一说法后来得到了政府调查的支持。Suleyman不明白为什么我们会发表一篇敌视他公司改善医疗保健的报道。只要他还记得，他当时就告诉我，他只想在这个世界上做好事。

自那次召唤以来的七年里，Suleyman睁大眼睛的任务没有改变任何变化。他在帕洛阿尔托的办公室通过Zoom说：“目标从来都不是如何在世界上做好事。”这位英国企业家现在大部分时间都花在那里。

Suleyman离开了DeepMind，搬到了谷歌，领导一个研究人工智能政策的团队。2022年，他创立了Inflection，这是周围最热门的新人工智能公司之一，得到了微软、英伟达、比尔·盖茨和LinkedIn创始人里德·霍夫曼15亿美元的投资支持。

今年早些时候，他发布了一个名为Pi的ChatGPT竞争对手，其独特的卖点（根据Suleyman的说法）是它令人愉快和有礼貌。他刚刚与作家兼研究员Michael Bhaskar合著了一本关于人工智能未来的书，名为《即将到来的浪潮：技术、权力和21世纪最大的困境》。

许多人会嘲笑Suleyman的技术乐观主义品牌——甚至是天真。例如，他关于在线监管成功的一些说法感觉远远偏离了目标。然而，他的信念仍然是认真和福音派。

Suleyman确实有一个不寻常的科技千万富翁背景。19岁时，他从大学辍学，成立了穆斯林青年帮助热线，这是一个电话咨询服务。他还在地方政府工作。他说，他将许多影响这些努力的价值观带到了Inflection。不同的是，现在他可能能够做出他一直想要的改变——无论好与不好。

为了长度和清晰度，对以下采访进行了编辑。

你早期的职业生涯，在青年帮助热线和地方政府工作中，尽可能地不光彩和非硅谷。显然，这些东西对你来说很重要。此后，您在人工智能领域工作了15年，今年共同创立了您的第二家价值10亿美元的人工智能公司。你能把点点连接起来吗？

我一直对权力、政治等感兴趣。你知道，人权原则基本上是权衡，是所有这些相互冲突的紧张局势之间不断进行的谈判。我可以看到人类正在与之搏斗——我们充满了自己的偏见和盲点。活动家的工作、地方、国家、国际政府等——都是缓慢、低效和容易犯错的。

想象一下，如果你没有人类的错误。我认为有可能建立真正反映我们最好的集体自我的人工智能，并最终代表我们做出更好的权衡，更一致、更公平。

这仍然是激励你的动力吗？

我的意思是，当然，在DeepMind之后，我再也不用工作了。我当然不需要写一本书或类似的东西。金钱从来都不是动力。你知道，这一直只是一个副作用。

对我来说，目标从来都不是，而是如何在世界上做好事，以及如何以健康、令人满意的方式推动世界前进。甚至在2009年，当我开始研究技术时，我可以看到人工智能代表了一种公平和准确的方式，向世界提供服务。

我不禁想，在我们看到这项技术的许多缺点之前，10或15年前说这种事情更容易。你如何保持乐观？

我认为我们痴迷于你是乐观主义者还是悲观主义者。这是一种完全有偏见的看待事物的方式。我也不想成为。我想冷冷地凝视着面对利益和威胁。从我的立场来看，我们可以非常清楚地看到，随着这些大型语言模型的规模每上升一步，它们就会变得更加可控。

因此，两年前，谈话——我当时认为是错误的——是“哦，他们只会产生有毒的、反刍的、有偏见的、种族主义的尖叫。”我当时想，这是一张及时的快照。我认为人们忽视的是年复一年的进步，以及这种进步的轨迹。

例如，现在我们有像Pi这样的模型，它们是令人难以置信的可控的。你不能让Pi产生种族主义、恐同、性别歧视——任何有毒的东西。你不能让它指导你生产生物或化学武器，也不能支持你从邻居的窗户扔砖头的愿望。你做不到-

坚持住。告诉我你是如何做到这一点的，因为这通常被理解为一个未解决的问题。你如何确保你的大型语言模型不会说出你不想说的话？

是的，所以显然我不想提出索赔——你知道，请尝试一下！Pi是活的，你应该尝试一切可能的攻击。越狱、即时黑客或任何对Pi都不起作用。我不是在提出索赔。这是一个客观的事实。

关于如何——我的意思是，我不会谈太多细节，因为它很敏感。但归根结底，我们拥有世界上最强大的团队之一，他们创造了过去三四年中所有最大的语言模型。令人惊叹的人，在一个极其勤奋的环境中，有大量的计算。我们从一开始就将安全作为我们的首要任务，因此，Pi不像其他公司的模型那么辣。

看看Character.ai。[角色是一个聊天机器人，用户可以为它制作不同的“个性”，并在线分享它们供他人聊天。]它主要用于浪漫的角色扮演，我们从一开始就说这是不重要的——我们不会这样做。如果你试图对Pi说“嘿，亲爱的”或“嘿，小可爱”之类的话，它会立即反击你。

但这将是令人难以置信的尊重。如果你开始抱怨社区的移民夺走你的工作，Pi不会叫你出来对你动一根手指。Pi会询问并给予支持，并试图了解这从何而来，并温和地鼓励你感同身受。你知道，我20年来一直在思考的价值观。

谈到你的价值观，想让世界变得更美好，为什么不分享你是如何做到的，这样其他人也可以改进他们的模型呢？

好吧，因为我也是一个实用主义者，我正在努力赚钱。我正试图建立一家企业。我刚刚筹集了15亿美元，我需要支付这些筹码。

看，开源生态系统着火了，做得很好，人们正在发现类似的技巧。我总是认为我只领先六个月。

让我们把它带回你试图实现的目标。大型语言模型显然是当下的技术。但你为什么还要押注他们呢？

第一波人工智能是关于分类的。深度学习表明，我们可以训练计算机对各种类型的输入数据进行分类：图像、视频、音频、语言。现在我们正处于生成浪潮中，您可以获取输入数据并生成新数据。

第三波将是互动阶段。这就是为什么我打赌对话是未来的界面。你知道，你不仅仅是点击按钮和打字，而是要与你的人工智能交谈。

这些人工智能将能够采取行动。您只需给它一个一般性的、高层次的目标，它就会使用它所拥有的所有工具来采取行动。他们会和其他人交谈，与其他人工智能交谈。这就是我们要对Pi做的事情。

这是技术所能做的巨大转变。这是技术史上一个非常非常深刻的时刻，我认为许多人低估了这一点。今天的技术是静态的。粗略地说，它确实做了你告诉它做的事情。

但现在技术将会变得生动起来。如果你给予它，它将有采取行动的潜在自由。我们正在创造具有这种代理的工具，这确实是我们物种历史的一步变化。

这正是让很多人担心的谈话。你想让机器自主——一种机构——来影响世界，但我们也希望能够控制它们。你如何平衡这两件事？感觉那里很紧张。

是的，这是一个很好的观点。这正是紧张。

这个想法是，人类将永远保持指挥权。从本质上讲，这是关于设定人工智能无法跨越的界限。并确保这些边界创造可证明的安全，从实际代码到它与其他人工智能（或人类）的交互方式，再到创建该技术的公司的动机和激励。我们应该弄清楚独立机构甚至政府如何直接进入，以确保这些界限不会越过。

谁设定了这些界限？我认为它们需要在国家或国际层面上设置。他们是如何达成共识的？

我的意思是，目前他们正在国际层面上提出，为新的监督机构提出了各种建议。但边界也将在微观层面上运作。您将授予您的人工智能一些处理您的个人数据的有约束的权限，以为您提供一些问题的答案，而不是其他问题的答案。

总的来说，我认为在可预见的未来，我们应该对某些能力非常谨慎，如果不是仅仅排除的话。

比如？

我猜是像递归自我完善这样的事情。你不会想让你的小人工智能在没有你监督的情况下离开并更新它自己的代码。也许这甚至应该是一项获得许可的活动——你知道，就像处理炭疽或核材料一样。

或者，比如，我们不允许无人机进入任何公共场所，对吗？这是一项获得许可的活动。你不能把它们飞到任何你想飞的地方，因为它们对人们的隐私构成了威胁。

我认为每个人都非常恐慌，因为我们无法对此进行监管。这只是胡说八道。我们完全能够监管它。我们将应用以前成功的相同框架。

但当无人机在天空中时，你可以看到它们。假设公司只是要透露他们正在做什么，这感觉很天真。难道这不会让监管变得很棘手吗？

我们在网上监管了很多东西，对吗？在线欺诈和犯罪活动的数量微乎其微。我们在垃圾邮件方面做得很好。你知道，总的来说，[复仇色情片的问题]已经好转了，尽管三到五年前情况很糟糕。在网上很难找到激进化内容或恐怖主义材料。在网上购买武器和毒品相当困难。

[并非苏莱曼在这里的所有主张都得到了数字的支持。网络犯罪仍然是一个巨大的全球问题。根据一些估计，在过去十年中，仅美国的财务成本就增加了100多倍。报告显示，未经同意的深度假色情片的经济正在蓬勃发展。毒品和枪支在社交媒体上销售。虽然一些在线平台正在被推动更好地过滤掉有害内容，但他们可以做得更多。]

因此，互联网并不是这个不受治理的不守规矩的空间。它被统治了。人工智能只是该治理的另一个组成部分。

这需要文化压力、机构压力以及显然的政府监管。但这让我乐观地认为，我们以前做过，我们可以再做一次。

控制人工智能将是互联网监管的一个分支——这比我们最近从一些备受瞩目的傻瓜那里听到的要乐观得多。

我对风险非常狯眼。我的书中有很多黑暗的东西。我也肯定看到了。我只是觉得存在风险的东西完全让人分心。我们都应该谈论101个更实际的问题，从隐私到偏见，从面部识别到在线节制。

我们应该把谈话的重点重新放在这样一个事实上，即我们在监管超级复杂的事情方面做了出色的工作。看看联邦航空管理局：我们都在4万英尺的高处进入这些锡管，这太不可思议了，这是有史以来最安全的运输方式之一。我们为什么不庆祝这个呢？或者想想汽车：每个组件在其使用寿命的一英寸内都经过压力测试，你必须有驾照才能驾驶它。

一些行业——比如航空公司——一开始就很好地监管了自己。他们知道，如果他们不确保安全，每个人都会害怕，他们会失去生意。

但你也需要自上而下的监管。我爱民族国家。我相信公共利益，我相信税收和再分配的利益，我相信监管的力量。我呼吁的是民族国家采取行动来解决它的事情。鉴于利害攸关，现在是行动的时候了。