纳德拉和奥特曼最新访谈，“成就”ChatGPT的两人又被AI改变了多少

对于AI 大模型技术来说，2023年绝对是一个重要节点。而 AI 浪潮的爆发离不开微软和 OpenAI 这两家公司。微软CEO Satya Nadella和OpenAI CEO Sam Altman近日接受了《The Circuit》节目组的采访，分享了他们对于AI给人们生活带来的变革的看法，汇总成一期名为《Microsoft & OpenAI CEOs: Dawn of the AI Wars》的视频。

Nadella在视频中表示，AI带来的颠覆如同互联网一样巨大，将会深刻影响人们的工作、生活甚至教育方式。他强调，人们应该获得更多的控制权，将AI定位在辅助帮手的位置上。

以下是对话实录：

主持人：你经常玩AI吗？

Nadella：是的，我发现其中一些好玩的东西。

主持人：发现了什么？

Nadella：我的电子邮件回复内容现在非常的详细，语气特别礼貌。

主持人：这是否说明，AI一直在观察我们。

Nadella：这很有意思，就像我们办公室的同事一样。我回复他邮件的时候，他说：“你这是怎么了，伙计？你怎么这么客气？”

人们真的很容易养成使用 AI 的习惯，即使我只用了它一次，但你会开始习惯用它聊天。其大部分时间我只是在导航，把搜索当做导航工具。但你一旦习惯了你就会觉得，我必须有这些辅助功能。

主持人：微软已经研究 AI 几十年了，聊天机器人其实并不是个新鲜事。但突然之间，每个人都为之着迷。你为何觉得现在是AI的黄金时代？

Nadella：AI现在已经非常普及了，我们可以在许多日常应用中看到它的身影，比如搜索、新闻汇总、推荐、YouTube、电商和TikTok等，这些都是基于AI技术的应用。然而，它们基本上都是现代AI的自动化形式，像一个控制我们注意力的黑盒子。

未来我们希望，新一代的AI技术从“自动驾驶模式”转变为“协同工作模式”，我们可以主动通过提示语引导它。这种转变将使AI更加人性化，灵活、透明，也更符合人类的思维模式和工作方式。这样的协同工作模式会使AI成为我们的有力助手，而不仅仅是一个自动化工具。这是新一代AI技术最令人兴奋的发展方向。

主持人：你认为这将会对我们的工作产生多大的改变？

Nadella：我认为最大的变革可能会出现在工作交流上。

你会发现，对于所有公司来说，最重要的数据库是支撑所有生产力软件的数据库，只是目前这些数据都是孤立的。

而现在我可以说：“我马上要见这个客户，你能告诉我上次见他们的时间吗？你能找出所有关于这个客户的文件并做个总结吗，这样我就能了解我需要准备什么了。”

主持人：你如何确保他不是回形针小助手2.0 ？而是真的对用户有帮助？不让我想马上关掉它的那种。

Nadella：你知道的，我们这个行业有很多先例，从回形针小助手到现在这一代的助手等，他们的性能都是比较薄弱的。我认为这些东西其实还是工具，我们最终还需要去用他们来学习。就像每次有人给我发草稿，我都会审查草稿，而不是直接接受草稿。

主持人：1995年，比尔·盖茨发了一份备忘录，表示互联网是一股潮流，它将改变所有规则，对每个部门都至关重要，你认为AI带来的改变能有那么大吗？

Nadella：是的，我甚至觉得ChatGPT首次推出就像 Mosaic (全球最早一款可以显示图片的浏览器)在1993年首次推出一样。我确实有这种感觉，我觉得这次就像1995年的比尔在备忘录里说的一样。

主持人：这就像互联网带来的改变一样大？

Nadella：我认为是这样的，虽然我们这些在科技行业的人总是过度炒作一切。

我希望它可以带来这么大的改变，至少它给了驱使我的动力。我想可以实现我认为所有技术行业从业人员的共同目标，那就是使AI更加普及。

主持人：你认为在 AI行业，微软能从谷歌那里抢到多少市场份额？你的预测是什么？

Nadella：我很开心我们能够进入搜索领域，现在我们在搜索领域是一个非常小的玩家，但我期待我们每一次的进步都是一个大的提升。

主持人：你们正在进军搜索，他们正在进军办公。他们现在正在他们的Google文档、表格和Gmail中加入AI，我们是否会看到你和Sundar每周都在这场AI竞赛中互相超越？

Nadella：归根结底，对于这个行业来说，竞争的乐趣就是创新。而竞争的话，对用户和行业来说是一件非常好的事情。谷歌是一个非常有创新精神的公司，我们对他们很尊重，我也期待我们可以在多个领域进行竞争。

主持人：据说微软刚刚裁掉了一个专注于道德和责任的AI的团队，同时，人道科技中心说AI竞赛是个鲁莽的竞赛。你对此有何回应？

Nadella：这对微软来说已经不再是一件小事了，对吧？因为从某种意义上说，无论是设计、一致性、安全、道德对于 AI 来说，就像在说质量、性能和核心设计。

但我认为关于这种创新的步伐是否真的为社会带来了好处的辩论、对话和审查是绝对必要的。事实上，我欢迎这种对话。

在这个背景下，也让我们也意识到，我们为什么从没问过自己，我们生活中已经存在的AI在做什么呢？有很多AI我甚至都不知道它在做什么。那么我们为什么不真正的去了解AI在我们生活中的应用，并考虑如何安全、和谐的使用它呢？

主持人：我经常为我的孩子们担忧，因为AI有我所没有的，那就是可以画很多的时间去陪伴他们。这些聊天机器人显得非常友好，但这可能很快就会变成一种不健康的关系。AI 可能正在引导孩子们做出错误的决定。你作为家长，会担忧这些问题吗？

Nadella：这就是我为什么觉得AI要从自动模式转向辅助模式，让我们对它拥有更多的控制权之一。不仅仅是作为家长，还要让孩子么掌握控制权。

我们当然应该很警惕可能发生的事情，但我相信，这一代的AI和机器人，更可能从单纯的交流转为给我们带来我们更主动的学习的动力。

主持人：我想问一下关于工作的问题。显然，AI制造的软件可以帮助人们完成工作。我想知道，加入AI技术的软件会不会让一些人失业？ Sam Altman 曾表述过这样的一个想法：AI将创造一个乌托邦，并产生足够的财富，让每个人都能有一笔体面的收入，但同时也会失去一些工作岗位。你同意这个观点吗？

Nadella：你知道，从 Canes 到 Sam Altman，他们谈论过每周两天的工作制。我很期待这种蔚来，但问题是，工作上会存在变化，有些地方也会面临工资的压力。但随着生产效率的提高，也会带来涨工资的机会。我们应该全面的审视这些问题，并对可能会带来失业风险的问题保持警惕心。

作为 AI 发展的关键人物，Sam Altman 承诺 AI 加入劳动市场之后将会带来一种新的生活方式，但他也表达了需要对 AI 技术保持警惕的看法。对于许多人来说，AI 的性能可能会对他们的职业生涯造成影响，这引起了极大的讨论，甚至出现了好莱坞编剧罢工游行这样的事情。

  Altman 这个夏天一直在世界不同地区举行演讲，在向人们描述 AI 会带来的未来的同时，也提醒人们对 AI 保持警惕。而他回到旧金山之后，他也分享了自己对于 AI 带来的问题的看法。

以下是对话实录：

主持人：你这个夏天一直在旅行，旅行中的日常生活是怎样的？吃饭，睡觉，冥想还瑜伽？

Sam Altman：其实整个旅程中几乎没有冥想或瑜伽，也几乎没有锻炼。因为这很难，但我睡的还不错。

主持人：这次旅行目标是更多的倾听还是解释？

Sam Altman：目标更多的是倾听，但我们在解释上花的时间的比预想的要多。我们见了很多领导人，并讨论了全国监管的需求。这需要更多的讲述。

但倾听非常有价值， 我回来时带了大约一百页的手写笔记。

主持人：手写笔记？这些手写笔记之后会怎么处理？

Sam Altman：我会将其提炼为我们用户的前50条反馈，以及我们需要去做的事情。但当你面对面的与人交谈或者在喝酒、宴会等场合上，人们会直接告诉你他们的想法。他们会直接给出对你做错的事情和他们希望改变的事情的反馈意见。

主持人：ChatGPT如何改变了你的行为？

Sam Altman：有很多小的方式，同时我也有一个大的想法。

比如在这次旅行中，翻译功能是个救命稻草。而且我在写东西时也会用到他们。其实我经常写作，但从不发表，写作会帮助我自己的思考，我发现我写的更快，思考也更多，ChatGPT就像一个很好的解决困境的工具。

而我有更大的想法是，我看到了它成为我在认知工作方面的超级助手的道路。

主持人：超级助手，你知道我们谈过与聊天机器人的关系。你认为人们会对此产生情感依赖吗？你对此有什么想法？

Sam Altman：我认为人们确实正在对语言模型产生情感依赖，我对此事的想法很复杂。我不希望这样，我觉得这很奇怪，也很令人担忧我。我不想成为那种警告别人他们只能用技术做什么事的人，我觉得这是我们需要小心的事情。

主持人：人们对于 AI有很多焦虑和恐惧，但与核武器，生物武器的比较，你认为这些焦虑是公平的还是想的过于戏剧化了？

Sam Altman：人们会有有很多的焦虑和恐惧，但我认为更多的是兴奋。我认为对于任何高级技术，无论是合成生物学还是核技术，包括 AI，我们都需要应对其潜在的负面影响，这才能获得其正面的收益。对于这项技术，我预期他们的优点将远大于我们所见过的任何东西，但其潜在的缺点也非常糟糕，所以我们确实需要管理这些技术。

关于如何有效的做到这一点，我们已经提速很多了。我开始在这次旅行时对这一点相当乐观，而结束时我让然相当乐观。

主持人：是的，那么你的避难所准备好迎接AI末日了吗？

Sam Altman：如果有AI末日，避难所对任何人都没有帮助。但我知道记者们似乎非常喜欢这个故事。

主持人：我确实喜欢这个故事。

Sam Altman：我不会过度纠正人们对于我给生存准备的东西。我曾是一个童子军，我非喜欢这些东西。但这其实对 AI 没啥关系。

主持人：有人谈论过“终止开关”，就是那个大红按钮。

Sam Altman：我希望大家能明白，那只是一个笑话。

主持人：很明显那是个笑话。但如果你想的话，你真的可以关掉它吗？

Sam Altman：当然可以，我的意思是我们可以关闭我们的数据中心或者其他设备，但我不认为那是人们所说的。

我认为我们可以做的是，其实是如何安全的构建 AI 系统，我们要想如何安全的设计安全测试方式，有外部审计、内部审核，红队等等。而不是向电影中那种戏剧性的有一个举行开关或者切断电源什么。我们已经开发并继续开发这些严格的安全实践，这就是切断开关的真实模样，但其实它并不那么戏剧化。

主持人：现在有了一个新的竞争环境。OpenAI显然是领跑者，但你在担心谁？

Sam Altman：这不仅是一个竞争环境，我认为这可能是现在科技界最具竞争性的环境。所以我们在关注所有人，但鉴于我在创业公司的背景，我更担心那些我们还不知道要关注的人，他们可能会提出我们错过的一些真正新的想法。

主持人：你如何描述你和 Satya Nadella 的关系？他们对 OpenAI有多大的控制权？我听有人说，微软要买下OpenAI,你只是让科技公司变得更大。

Sam Altman：OpenAI公司不出售，我不知道怎么说才能更清楚，我们和他们的关系很好。大型科技公司之间的重要合作往往不太成功，但我们之间的合作是一个成功的例证，我们非常感激。

主持人：你有没有在幕后和 Elon Musk 交流过？

Sam Altman：偶尔。

主持人：他们都在谈论什么？

Sam Altman：我们谈论的内容非常广泛，包括重要的事情和非常琐碎的小事。

主持人：你怎么看待他的沮丧，要他几乎在某种程度上对 AI 发起了攻击。

Sam Altman：你应该问他。

主持人：你认为AI应该永远不碰哪些方面？

Sam Altman：我妈妈总是说“永远不要说永远，永远不要说总是”。我认为这是一个很好的建议，如果我现在做出预测，我肯定会在某种方式上出错。

我认为AI将影响我们生活的大部分方面，但些部分仍将保持不变。不过这种预测是是容易出错的。

主持人：你认为孩子们现在应该学什么？

Sam Altman：韧性、适应性，快速学习能力，创造力，当然还有熟悉各种工具。

主持人：那么孩子们还应该学习编程吗？因为我听过人们说，不需要再学习编程了，只需要学习数学和生物学。

Sam Altman：我对此有些看法，因为我喜欢编程，我认为你应该学习编程。虽然我现在很少写代码，但学习编程是一种很好的学习思考方式。

我认为，在未来，编程仍然会非常重要。它只是会有一些变化，因为我们有了一个新工具。

主持人：如果我们真的无事可做了了，我们该做什么？

Sam Altman：我不认为我们会真的无事可做，我觉得我们的工作内容可能会改变。你知道的，像你和我现在所做的，对于几千年前的人来说可能不算是真正的工作。但我们可以找到了新的目标、新的任务，能够为他人提供价值以及获得成就感的事情。

这写东西永远不会小事，我希望你和我能让几百年后的世界看到，在未来，人们会惊叹：“哇！那些人过得真好，我无法相信他们会把这些太琐碎事情称为工作。”

主持人：所以我们不会只能躺在海滩上吃糖果。

Sam Altman：我们中的一些人会这样做，对那些想这样做的人来说，这更能给他们带来力量。

主持人：你是否真心认为世界会变得更公平，更公正？

Sam Altman：我认为是的，我认为技术本质上是一种平等的力量，它需要社会和我们的机构合作才能实现。

如果我们能做到，我会有更大的展望。我对下一个十年的看法是，人工智能和能源的成本会大大的降低。如果这两件事发生，它会帮助每个人。

主持人：那么你接下来想把OpenAI带向什么地方？

Sam Altman：我们希望继续制作更好、更有能力的模型，并使他们更广泛、更便宜的被人们使用。

主持人：那么AI的整体呢？

Sam Altman：有很多人在做这些，所以我自己不能决定这个领域的走向。但我们对我们的贡献感到非常满意。我们认为我们已经推动了这个领域的发展，我们为此感到自豪。当然我们也在做新的事情。

主持人：新的事情是什么？

Sam Altman：还在做，不能说。

主持人：这个世界还有创业公司的空间吗？

Sam Altman：当然，我们不久前还是一家创业公司呢。

主持人：但你们几乎已经是一家老牌公司了。

Sam Altman：当然，但我们刚开始的时候，你可能会问同样的问题。事实上，人们确实这么问过，我自己也曾怀疑过，是否有可能挑战谷歌和DeepMind，或者他们已经赢了？

主持人：显然他们还没有。

Sam Altman：是的，我认为这个领域还有很多机会。作为创业公司，我们总是容易自我否定，但创业公司还在继续做他们的事情。

主持人：好吧，没有人否定你，所以我想这是件好事情。

Sam Altman：我想是的。

主持人：在这次旅行中你签署了一份22个词的声明，警告人工智能的危险。生命中表示，减轻人工智能导致的灭绝风险应该是全球优先考虑的问题，就像大流行病和核战争等其他社会规模的风险一样。请为我们梳理这中间的联系。从一个先进的聊天机器人到人类的终结者，这中间会发生什么？

Sam Altman：AI是我们的希望，但也他存在可怕的风向。我想AI可能会以很多方式出错，但我们不是经常使用存在危险的强大技术吗？我认为我们在几十年里的发展为我们提供了良好的安全系统实践。这并不完美，不过这些事情永远也不会完美。

万事都会出错，我认为最重要其实是这项技术。当前GPT4，并不向你说的那样有风险，但我们有多确定CPT-9不会有风险呢？即使有一小部分可能性，它也会变得非常糟糕，这时候就需要我们非常小心。

主持人：如果存在这样的小概率，为什么还要继续做这个呢？为什么不停下来呢？

Sam Altman：有很多原因。首先，我认为AI的优点是巨大的，你知道，为地球上的每个人提供一个比今天任何人都能接受的更优质的教育的机会，这是非常有意义的，这个时候停下来并不好。同时在医疗领域的未来变革和其全球普及也将是一个历史性的突破。

我们将看到的科学进步，我坚信真正的可持续生活质量的提高来自科学和技术的进步，我认为我们会有更多这样的进步。

我们有所有的明显好处，你知道，AI 可以帮助我们结束贫困。但我们必须管理好风险才能达到这个目标，我也认为在这个时候，没有公司能阻止它。

主持人：即使是你也会承认，你现在拥有了巨大的权利，但人们为什么要相信你？

Sam Altman：你知道我不喜欢公开演讲，我更愿意在办公室工作，但现在人们应该有足够的时间来提出他们的问题，我正在尽力做到这一点。

还有一点更重要的是，在这个领域不应该只信任一个人。董事会有权利解雇我，我认为这很重要，我认为董事会需要逐渐向全人类民主化，有许多方法可是实施这一点。

我们认为AI技术的益处、访问权以及对它的管理权应该属于全人类。AI是一项非常强大的技术，你不应该只信任一个公司，更不应该只信任一个人。

​Read More