谷歌母公司Alphabet首席执行官、总裁Sundar Pichai：人工智能进步太快了吗？

​

在CBS的采访节目《60 分钟》里，谷歌及其母公司 Alphabet 的首席执行官桑达尔・皮查伊（Sundar Pichai）表达了他对人工智能的快速发展及其对社会潜在威胁的担忧，并警告说社会需要为已经推出的技术做好准备。

在《60 分钟》的采访中，采访者斯科特・佩利 (Scott Pelley) 尝试了谷歌的几个人工智能项目，他表示“说不出话来”，觉得它们“令人不安”（注：这里指的是谷歌的聊天机器人 Bard 等产品）。

右边为Sundar Pichai

以下为博客正文，机器翻译，阅读原文请点击这里https://www.cbsnews.com/news/google-artificial-intelligence-future-60-minutes-transcript-2023-04-16/

我们可能会把我们的时代看作是文明因火、农业和电力而改变的那一刻。2023年，我们了解到一台机器教会了自己如何像同龄人一样与人类交谈。也就是说，带着创造力、真理、错误和谎言。这项被称为聊天机器人的技术只是人工智能的最新突破之一——可以自学超人技能的机器。我们探索了谷歌的下一步，谷歌是这个新世界的领导者。首席执行官Sundar Pichai告诉我们，人工智能将像人性允许的那样是好的或坏的。他说，革命来得比你知道的要快。

斯科特·佩利：你认为社会已经为即将到来的事情做好准备了吗？

Sundar Pichai：你知道，我有两种思考方式。一方面，我觉得，不，因为你知道，作为社会机构，我们可以思考和适应的速度，与技术发展的速度相比，似乎存在不匹配。另一方面，与任何其他技术相比，我看到更多的人在其生命周期的早期担心它。所以我觉得很乐观。你知道，开始担心影响的人很多，因此对话也以严肃的方式开始。

我们与50岁的Sundar Pichai的对话始于谷歌位于加利福尼亚州山景城的新校区。它使用40%的太阳能，收集的水比它使用的要多——这是Pichai无法想象的在印度长大的高科技，家里没有电话。

Sundar Pichai：我们在等待买旋转电话的名单上，大约五年了。它终于回家了，我仍然能清晰地回忆起它。它改变了我们的生活。对我来说，这是我第一次理解获得技术的力量，因此可能让我做了今天正在做的事情。

自2019年以来，他一直在领导谷歌及其母公司Alphabet，价值1.3万亿美元。在全球范围内，谷歌运行90%的互联网搜索和70%的智能手机。但今年2月，当微软推出其新聊天机器人时，其主导地位受到了攻击。在人工智能主导权的竞争中，谷歌刚刚发布了名为Bard的版本。

Sissie Hsiao：它真的在这里帮助你集思广益，生成内容，如演讲、博客文章或电子邮件。

谷歌副总裁Sissie Hsiao和高级副总裁James Manyika介绍了我们给Bard。我们学到的第一件事是，巴德不像谷歌搜索那样在互联网上寻找答案。

Sissie Hsiao：所以我想从一些世界上最好的演讲中获得灵感……

Bard的回复来自一个自成一体的项目，这个项目主要是自学成才的——我们的经历令人不安。

斯科特·佩利：令人困惑，绝对令人困惑。

巴德似乎拥有人类知识的总和……

…微芯片比人脑快10万倍以上。我们要求巴德总结新约。它做到了，在5秒和17个字内。我们用拉丁语要求–那又花了四秒钟。然后，我们玩了一个著名的六字短篇小说，通常归功于海明威。

Scott Pelley：出售。婴儿鞋。从未穿过。

我们给出的唯一提示是“结束这个故事”。五秒钟后…

Scott Pelley：天哪！这双鞋是我妻子送的礼物，但我们从未生过孩子……

从六个字的提示中，巴德用它发明的人物创造了一个深刻的人类故事——包括一个妻子无法怀孕的男人和一个陌生人，在流产后悲伤，并渴望结束。

Scott Pelley：我很少无言以对。我不知道该怎么想这个。给我那个故事……

我们要求用诗句来讲述这个故事。五秒钟内，有一首由机器写的诗，对信仰的奥秘有着惊人的洞察力，巴德写道：“她知道她的孩子的灵魂将永远活着。”人性，以超人的速度，令人震惊。

Scott Pelley：这怎么可能？

James Manyika告诉我们，几个月来，Bard阅读了互联网上的大部分内容，并创建了一个语言模型。它的答案不是搜索，而是来自这种语言模型。

James Manyika：所以，例如，如果我对你说，Scott，花生酱和？

Scott Pelley：果冻。

James Manyika：对。所以，它尝试并学会预测，好吧，所以花生酱之后通常是果冻。它试图根据它所学到的一切来预测最可能的下一个单词。所以，它不是出去找东西，它只是预测下一个词。

但感觉不是那样的。我们问巴德为什么它对人们有帮助，它回答说——引用——“因为它让我快乐。”

斯科特·佩利：在我看来，巴德似乎在思考。似乎在做出判断。那不是正在发生的事情吗？这些机器没有知觉。他们不知道自己。

James Manyika：他们没有知觉。他们不知道自己。他们可以表现出类似的行为。因为请记住，他们已经从我们这里学到了。我们是有情众生。我们有有感觉、情感、想法、思想、观点的生物。我们在书籍、小说、小说中都反映了这一切。因此，当他们从中学习时，他们就会从中建立模式。因此，在我看来，展示的行为有时看起来像有人在背后，这并不奇怪。那里没有人。这些不是众生。

James Manyika出生于津巴布韦，受过牛津教育，在谷歌担任新职位——他的工作是思考人工智能和人类如何最好地共存。

James Manyika：人工智能有可能改变我们对社会、我们能够做什么、我们可以解决的问题的许多思考方式。

但人工智能本身会带来自己的问题。海明威能写出更好的短篇小说吗？也许吧。但巴德可以在海明威完成一百万之前写一百万。想象一下整个经济的自动化水平。

Scott Pelley：很多人可以被这项技术所取代。James Manyika：是的，随着时间的推移，一些职业会开始下降。还有一些新的工作类别会随着时间的推移而增长。但最大的变化将是将要改变的工作。大约三分之二以上的人的定义会改变。不是走开，而是改变。因为他们现在得到了人工智能和自动化的帮助。因此，这是一个对技能有影响的深刻变化。我们如何帮助人们培养新技能？学会与机器一起工作。这些如何补充人们今天所做的事情。

Sundar Pichai：这将影响每家公司的每种产品，这就是为什么我认为这是一项非常非常深刻的技术。所以，我们只是在早期。

Scott Pelley：每家公司的每种产品。

Sundar Pichai：没错。人工智能将影响一切。因此，例如，你可以成为一名放射科医生。你知道，如果我–如果我–如果你考虑从现在开始的5到10年，你会有一个人工智能合作者。它可能会进行分类。你早上来。你–假设你有100件事要经历。它可能会说，“这些是你需要先查看的最严重的案例。”或者，当你在看某样东西时，它可能会弹出并说：“你可能错过了一些重要的东西。”我们为什么不，我们为什么不利用一个超级强大的助手来帮助你完成你所做的一切？你可能是一个试图学习数学或历史的学生。而且，你知道，你会有一些帮助你的东西。

我们问Pichai哪些工作会被打乱，他说，“知识工人”。具有讽刺意味的是，人们喜欢作家、会计师、建筑师和软件工程师。AI也编写计算机代码。

今天，Sundar Pichai走了一条狭窄的线。一些员工已经辞职了，有些人认为谷歌的人工智能推广太慢了，有些人则认为他们太快了。有一些严重的缺陷。James Manyika向Bard询问了通货膨胀。它写了一篇经济学即时论文，并推荐了五本书。但几天后，我们检查了。这些书都不是真的。巴德编造了标题。这种非常人性化的特质，自信的错误，在行业中被称为幻觉。

斯科特·佩利：你有很多幻觉吗？

Sundar Pichai：是的，你知道，这是意料之中的。在现场还没有人解决幻觉问题。所有型号都有这个问题。

Scott Pelley：这是一个可以解决的问题吗？

Sundar Pichai：这是一个激烈的辩论问题。我认为我们会取得进展。

为了帮助治愈幻觉，Bard有一个“Google it”按钮，可引导老式搜索。谷歌还在巴德中内置了安全过滤器，以筛选仇恨言论和偏见等内容。

Scott Pelley：虚假信息的传播风险有多大？

Sundar Pichai：人工智能将以更深的方式挑战这个问题的规模将更大。

他说，假新闻和假图像有更大的问题。

Sundar Pichai：使用人工智能可以轻松创建视频。可能是斯科特说了什么，或者我说了什么，而我们从未说过。而且它可能看起来很准确。但你知道，在社会层面上，你知道，它可能会造成很多伤害。

Scott Pelley：Bard对社会安全吗？

Sundar Pichai：我们今天推出它的方式，作为一个有限方式的实验，我认为是的。但我们都必须对前进的每一步负责。

Pichai告诉我们，他负责推迟更多的测试，高级版本的Bard，他说，可以推理、计划和连接到互联网搜索。

斯科特·佩利：你正在慢慢说出来，这样社会才能习惯它？

Sundar Pichai：这是其中的一部分。一部分也是为了让我们得到用户反馈。在构建之前，在部署更强大的模型之前，我们可以开发更强大的安全层。

在我们谈论的人工智能问题中，最神秘的被称为紧急属性。一些人工智能系统正在自学他们不期望拥有的技能。不太清楚这是怎么发生的。例如，一个谷歌人工智能程序在以孟加拉国语言提示后自行进行了调整，而孟加拉国没有接受过了解。

James Manyika：我们发现，在孟加拉语中很少的提示，它现在可以翻译所有的孟加拉语。所以现在，突然间，我们现在有一项研究工作，我们现在正试图获得一千种语言。

Sundar Pichai：我们称之为这个方面——我们这个领域的所有人都称它为“黑匣子”。你知道，你并不完全理解。你不太清楚它为什么这么说，或者为什么它出错了。我们有一些想法，随着时间的推移，我们理解这一点的能力会变得更好。但这就是最先进的所在。

Scott Pelley：你不完全了解它是如何运作的。然而，你却在社会上放纵了它？

Sundar Pichai：是的。让我这么说吧。我认为我们也不完全理解人类思维是如何运作的。

我们想知道，是那个黑匣子里出来的，巴德画的短篇小说似乎如此令人沮丧？

Scott Pelley：它谈到了人类感受到的痛苦。它谈到了救赎。如果它只是想弄清楚下一个正确的词是什么，它是如何做到所有这些事情的？

Sundar Pichai：我也和Bard有过这些经历。这有两种观点。你知道，有一组人认为，看，这些只是算法。他们只是在重复在网上看到的东西。然后有一种观点，即这些算法正在显示紧急属性，要有创意，有推理，有计划等等，对吗？而且，就我个人而言，我认为我们需要，我们需要谦虚地对待这个问题。我认为其中一些技术正在推出是件好事，部分原因是为了让社会，你知道，像你和其他人这样的人可以处理正在发生的事情。我们开始这次对话和辩论。我认为这样做很重要。

人工智能革命是辩论的中心，从那些希望它能拯救人类的人到那些预测厄运的人。谷歌位于乐观的中间，逐步引入人工智能，以便文明可以习惯它。我们在伦敦的谷歌人工智能实验室——一家名为DeepMind的公司——看到了机器学习的下一步，未来看起来是这样的。

Scott Pelley：看看那个！哦，我的天啊……

Raia Hadsell：他们踢得很好……

Scott Pelley：啊！目标！

DeepMind的足球比赛看起来很有趣，游戏，但事情是这样的：人类没有编程这些机器人来玩——他们自己学习游戏。

研究和机器人副总裁Raia Hadsell向我们展示了工程师如何使用动作捕捉技术来教人工智能程序如何像人类一样移动。但在足球场上，机器人只被告知目标要得分。自学项目花了大约两周时间测试不同的动作。它抛弃了那些不起作用的东西，建立在那些不起作用的基础上，并创造了全明星。

通过练习，他们变得更好。Hadsell告诉我们，独立于机器人，人工智能程序玩数千个游戏，从中学习并发明自己的战术。

Raia Hadsell：在这里，我们认为那个红色球员会抓住它。但相反，它只是阻止它，把它交回去，把它传回去，然后去进球。

Scott Pelley：人工智能自己想出了如何做到这一点。

Raia Hadsell：没错。没错。这需要一段时间。起初，所有球员都像一群6岁的孩子第一次打球时一样一起追球。随着时间的推移，我们现在开始看到的是，’啊，战略是什么？你追球。我往这边走。或者我们应该通过。或者我应该在你到达目标时挡住。因此，我们看到所有这些协调都在剧中出现。

Scott Pelley：这很有趣。但我们在这里看到的实际含义是什么？

Raia Hadsell：这种类型的研究最终可以导致机器人从工厂出来，在其他类型的人类环境中工作。你知道，想想采矿，想想危险的建筑工程或勘探或灾难恢复。

Raia Hadsell是DeepMind的1000人之一。该公司于12年前由首席执行官Demis Hassabis共同创立。

Demis Hassabis：所以，如果我回想一下2010年我们开始的时候，没有人在做人工智能。工业界什么都没发生。当我们与他们、投资者谈论做人工智能时，人们过去常常目瞪眼。所以，我们不能，我们几乎无法从两分钱开始，如果你想想现在投资于人工智能初创公司的数十亿美元，这太疯狂了。

剑桥、哈佛、麻省理工学院、哈萨比斯拥有计算机科学和神经科学的学位。他的博士学位在人类的想象中。想象一下，当他12岁时，在他的年龄组中，他是世界排名第二的国际象棋冠军。

正是通过游戏，他来到了人工智能。

Demis Hassabis：我已经研究人工智能几十年了，我一直相信这将是人类有史以来最重要的发明。

Scott Pelley：变化的速度会超过我们的适应能力吗？

Demis Hassabis：我不这么认为。我认为我们，你知道，我们是一个适应性无限的物种。你知道，你看今天，我们使用我们所有的智能手机和其他设备，我们毫不费力地适应这些新技术。这将是另一个这样的变化。

DeepMind最大的变化之一是发现自学机器可以具有创造力。Hassabis向我们展示了一个学习的游戏程序。它被称为AlphaZero，它想出了一个人类从未见过的获胜的国际象棋策略。

Scott Pelley：但这只是一台机器。它如何实现创造力？

Demis Hassabis：它与自己对抗数千万次。因此，它可以探索国际象棋中可能编程国际象棋计算机的人类棋手和程序员以前从未想过的部分。

Scott Pelley：它永远不会累。它永远不会饿。它只是一直在下棋。

Demis Hassabis：是的。这有点神奇，因为实际上你早上出发，AlphaZero，它开始随机播放。你知道，到午餐时间，它能够击败我，击败大多数棋手。然后到晚上，它比世界冠军更强大。

Demis Hassabis于2014年将DeepMind出售给谷歌。一个原因是让他拿到这个。谷歌拥有人工智能所需的巨大计算能力。这个计算中心位于俄克拉荷马州的普赖尔。但谷歌拥有其中的23个，使其在计算能力方面几乎位居世界前列。这是使人工智能现在崛起的两个进步之一。首先，所有人类知识的总和都是在线的，其次，蛮力计算“非常松散地接近”大脑的神经网络和才能。

谷歌数据中心60分钟

Demis Hassabis：记忆、想象力、计划、强化学习等事情，这些都是关于大脑如何做到这一点的已知事物，我们想在我们的人工智能系统中复制其中一些。

这些是导致DeepMind迄今为止取得最大成就的一些因素——解决生物学中一个“不可能”的问题。

今天，大多数人工智能系统都做得很好，有一件事或两件事。例如，足球机器人不能写购物清单，也不能预订旅行，也不能开车。最终目标是所谓的人工智能——一种可以在各种人才上得分的学习机器。

Scott Pelley：这样的机器会意识到自己吗？

Demis Hassabis：所以这是另一个好问题。我们——你知道，哲学家还没有真正确定意识的定义，但如果我们指的是某种自我意识和——这类事情——你知道，我认为人工智能有一天可能会出现。我绝对不认为他们今天。但我认为，同样，这是我们在人工智能之旅中发现的迷人的科学事物之一。

即使是无意识的，目前的人工智能在狭隘的方面也是超人。

回到加利福尼亚州，我们看到谷歌工程师教授机器人将自己不断练习的技能。

机器人：将蓝色立方体推到蓝色三角形。

他们理解指示……

并学会识别物体。

机器人106：你想要什么？

Scott Pelley：苹果怎么样？

Ryan：一个苹果怎么样。

机器人106：在路上，我会给你带一个苹果。

机器人学高级总监Vincent Vanhoucke向我们展示了机器人106是如何在数百万张图像上训练的……

机器人106：我要去拿苹果。

…并且可以识别拥挤的台面上的所有物品。

Vincent Vanhoucke：如果我们能给机器人提供多样化的体验，在不同设置中提供更多不同的物体，机器人就会在每一个物体上都变得更好。

现在人类已经提取了人工知识的禁果……

Scott Pelley：谢谢。

…我们开始了新人类的起源…

Scott Pelley：人工智能可以利用世界上的所有信息。人类脑子里永远无法掌握的东西。我想知道人类是否被我们正在发展的巨大能力所削弱。

James Manyika：我认为人工智能的可能性不会以任何方式削弱人性。事实上，在某些方面，我认为他们实际上向我们提出了更深刻、更深层次的问题。

谷歌的James Manyika将这一时刻视为一个转折点。

James Manyika：我认为我们不断将这些超能力或能力添加到人类能做的事情中，以扩大可能性，而不是缩小它们。因此，我不认为这是人类在减少，但它确实向我们提出了一些非常深刻的问题。我们是谁？我们重视什么？我们擅长什么？我们彼此之间如何相处？这些成为非常非常重要的问题，在一个案例中，这些问题会一直令人兴奋，但也可能令人不安。

这是一个令人不安的时刻。批评者认为，人工智能的冲动太快了——而谷歌等巨头和你从未听说过的初创企业之间的竞争压力——正在推动人类进入未来，无论是否做好准备。

Sundar Pichai：但我认为，如果采取10年的展望，我很清楚，我们将拥有某种形式的非常有能力的情报，可以做出惊人的事情。我们需要作为一个社会来适应它。

谷歌首席执行官Sundar Pichai告诉我们，社会必须迅速适应经济中的人工智能法规、惩罚滥用的法律以及国家间使人工智能对世界安全的条约。

Sundar Pichai：你知道，这些都是深刻的问题。而且，你知道，我们称之为“对齐”。你知道，我们思考的一种方式：你如何开发符合人类价值观（包括道德）的人工智能系统？这就是为什么我认为这种发展不仅需要包括工程师，还需要包括社会科学家、伦理学家、哲学家等。我认为我们必须非常体贴。我认为这些都是社会在我们前进时需要弄清楚的事情。这不由公司来决定。

最后，我们将用一个从未出现在《60分钟》上的纸条结束，但在人工智能革命中，你可能经常听到。前者是用100%的人类内容创建的。

由Denise Schrier Cetta和Katie Brennan制作。副制片人，Eliza Costas。广播助理Michelle Karim。由Warren Lustig编辑。

​Read More