清华大学教授刘嘉教授：《通用人工智能与人类未来》

​

“我们现在需要考虑的不仅仅是工作会不会被取代，或者用 ChatGPT 来帮助自己怎么提升效率，而是应该怎么考虑未来？”

12月25日，清华大学脑与智能实验室首席研究员、清华大学心理学系系主任刘嘉教授在《未来公开课》上，以《通用人工智能与人类未来》为主题，提出了一个令人深思的问题：在不远的将来，如果一个超越人类智慧总和，甚至达到全人类智慧总和十倍的超级智能出现，我们应该怎么办？

“我们现在就站在一个进化的十字路口上。”

在演讲中，刘嘉教授以今年Open AI轰轰烈烈的“宫斗”事件入手，向大家深刻揭露了Open AI CEO奥特尔曼和首席科学家伊利亚“争斗”背后，隐藏着的关于人类未来根本性路线的分歧：即超级加速和超级对齐的核心矛盾。

“奥尔特曼看来，有效加速，就是在未来要创造一个像星球大战里机器人，它会是我们非常有用的一个助手，帮助我们解决各种各样的问题，无微不至的以人类优先来帮助我们。”刘嘉教授谈到，奥尔特曼提出的万物摩尔定律中，认为从人类三次工业革命到现在，生产效率的提升导致商品价格下降，但人力成本则在节节攀升，这造成了社会财富持续增加的同时，人们依旧没有财富自由。

刘嘉教授谈到，正因如此，奥尔特曼已经开始实践一种被称为“乌托邦”的社会构想，在这个计划里，AGI的迅速发展将成为人类的“超级助手”，在取代人类劳动的同时，聚集下的财富不再是按劳分配，而是按需分配，将社会财富按照人头公平配给，让人类真正迎来一个经济自由，人身自由的幸福时代。

因此，以ChaGPT为代表的生成式人工智能的发展必须加速，且势不可挡，人类没有任何理由去限制和阻碍。

“伊利亚他所担忧的未来，就是像电视里面所看见的终结者，人类被机器人无情的碾压，被踩死。”演讲里，刘嘉同时谈到了以伊利亚为代表超级对齐派的担忧。在人类发展历史上，总是发生这样的事件：一个后出现的、更有智慧的生物，将毫不留情地干掉先前的生物。“世界上的所有的动物，要么变成食物，要么变成宠物，没有第三个选择，这是人类成为了万物之灵后所发生的事情。”

因此，超级对齐派强调，必须在AGI迎来技术奇点，即人工智能全面超越人类智能前，对人工智能做好掌控，让人工智能和人类价值观对齐。否则，就太晚了：“一旦当AGI的智能超越了人类后，它会选择一个智能比它低的生物来共存吗？还是直接就消灭掉人类？”

然而，刘嘉教授表示，人类或许还有第三条路，或许也是一条更好的路。在他看来，人类可以适当地把大脑里思想、人格、记忆等等方面，输入计算机。这样，人类就能摆脱脆弱的头题，摆脱时间的限制，从而去探索更为宽广的宇宙，以及追逐更高维度的文明：“通过人机结合二合一，我们来获得一种真正的永生。”

演讲最后，刘嘉表示：“我们的现在是过去的未来，但是我们的现在不是未来的过去，因为未来有无限可能取决于我们此时此刻的选择。”

以下为刘嘉教授演讲节录：

大家好，我是来自于清华大学的刘嘉，今天我想跟大家分享一个与每个人都有关系的话题《通用人工智能与人类未来》。这两个看上去打不到一起，可这两件事情在我看来是密切相关的。

2022 年人工智能一个应用横空出世，叫ChatGPT。

如果假设去年这个时间前，你问我关于通用人工智能或者像人一样的智能究竟什么会时候会出现？我给你的答案可能是 5 年、 10 年，或者是 500 年，或者 5000 年等。我们不知道，因为它只存在于科幻小说，但是ChatGPT 的出现，以它为代表的通用人工智能火花的闪现，使得我们现在终于可以去思考未来会发生什么样的事情。

一个非常好玩的，就是在最近出现了一个大事， OpenAI 发生了电视上才能看见的宫斗。我们每天都在追踪到底发生什么，最后我们这些吃瓜群众发现脑力不够用，完全追不上情节的变化。

最开始，是这家公司CEO萨姆·奥尔特曼被 fire 掉，他被迫离开了，是什么原因？到最后他王者归来，又重新回到 OpenAI 重新担任 CEO 等等。最开始大家普遍的猜测，是不是因为利益之争：OpenAI，它开发了ChatGPT，现在成为一个每个人都在用的应用软件，是不是因为他们股价疯狂的上涨，为利益之争？

如果要是你这么认为，格局就小了一点。他们其实之间完全没有任何利益之争。这场争斗里最核心的两个人，其实是他们的联合创始人，一个是萨姆·奥尔特曼是CEO，另外一个是公司首席科学家，ChatGPT真正的背后的英雄，它的开发者叫伊利亚·苏斯克沃。这两个人的争斗没有一分钱的利益之争。萨姆·奥尔特曼在 OpenAI 里没有一分钱的股份，自己也不从 OpenAI 拿一分钱，他在国会、美国国会坐镇上面，他这么表示，说我只从 OpenAI 里面拿一点点钱用于cover、用于覆盖我的医疗保险就够。

 
而伊利亚·苏斯克沃是怎么说的？他说，如果假设ChatGPT 对人类造成了威胁，一个价值 800 亿的企业，我宁肯把它关掉。这两个人的争斗完全不是为了钱，那么他们是为了什么？OpenAI 创业的时候，他们定下了一个规矩，建立OpenAI是为了完成我们特定的使命，就是确保通用人工智能能够造福全人类。

这个目标，无论是萨姆·奥尔特曼还是伊利亚·苏斯克沃都是坚信的。但是为了造福全人类，他们采用了不同的路线。这就是今天我想给大家分享的一个最核心的观点：他们两者的路线之争，在我们开发出一个像人类一样的 AI 的程序的时候，我们究竟应该选择什么样的路线？

奥尔特曼所坚持的叫做有效加速，意思是我们能不能把它推得再快一点。伊利亚所坚持的道路是超级对齐，和人类价值观、世界观和人生观要把它对齐，让它像人类一样去思考，像人类一样拥有人类的价值，人类的道德，人类的追求。正是这个路线之争，导致了这两个齐心协力来创办 OpenAI 的兄弟，最终走向了分裂。

当年OpenAI是怎么成立的，有一个跳不过去的人物：马斯克。我把他比作是古希腊神话里面的普罗米修斯，他是一个盗火者。2013 年6月 28 号，马斯克在他的生日party 上，碰到了谷歌老总佩奇。他们一块聊关于人工智能未来发展。马斯克提出，要人类优先主义，我们所有开发的技术必须是要为人类服务。但是谷歌的佩奇不这么认为，他把马斯克称为物种主义者，就是你去强调人类干嘛？我们应该强调我们世界上的人工智能，或者我们的智能什么样的优先就可以。

当时谷歌是世界上人工智能做得最好的公司。马斯克就担忧，如果假设佩奇这个观点，也许会导致人类的毁灭。马斯克就坐不住了，他当时正好在搞特斯拉，没有精力来搞AI，就觉得能不能去投点钱，去资助那些AI公司的发展。

当时有个很著名的 AI 明星企业叫做DeepMind，他就是 Alphago的开发者。马斯克在 2014 年1月26号，他见了 DeepMind CEO叫戴密斯·哈萨比斯。说，我给你投 500 万美元，希望你能够做一点能够为人类考虑的 AI。戴密斯·哈萨比斯一听也觉得挺好。但是这时候谷歌听说马斯克要去干这件事情，就直接抛出4亿美元把 DeepMind 给买下来，说你别去干那些事情，我给你更多的钱，你要成为我谷歌一个子公司。

所以马斯克就感到更大的一个危机，谷歌已经是世界上最好的 AI 公司，现在又加入了 DeepMind，那不是如虎添翼吗？这个时候马斯克就把他的兄弟伙给找过来，他们决定要成立一家新的公司。这个兄弟伙就是当年马斯克在创办 PayPal 时那一帮兄弟，一块来凑 10 亿美元创建一个新的公司，来推进数字化的智能。但是前提是，我们要让它为人类的未来，为全人类的幸福而服务，而不再是追求商业利益，所以他们这 10 亿美元的捐款是非常了不起的一件事情，他们不追求任何财富的回报。

2015 年7月，他们找来了萨姆·奥尔特曼和伊利亚·苏斯克沃，OpenAI 正式成立。但是在 2018 年，OpenAI 的发展非常缓慢。这时奥尔特曼提出一个观点，不能再缓慢推进，我们必须要把它加速，必须要把我们现在的理念和想法，做成产品，直接给普罗大众用，让每一个人都能用起来。我们现在是要技术优先，安全等等我们放在第二位。

2018 年 1 月 20 号，萨姆·奥尔特曼有一次争论，就导致马斯克离开了OpenAI，就由萨姆·奥尔特曼来掌舵。后面的情况我们知道，在 2022 年 11 月 30 号 ChatGPT 为代表的通用人工智能火花的涌现。

奥尔特曼本身是一个非常成功的人士，早就获得了财富自由，为什么他会提出要加速 AI 的发展？他没有看到一丝一毫的利益，而是觉得只有这样子才能推动我们社会的变革。他的主张就是叫有效加速，目的就是什么？迅速提升AGI的性能，能够完成更多的任务，能够创造更多的财富。

在他提出的一个理论里，叫做万物摩尔定律，能够得到充分的展现。我们可以看到，三次工业革命使得商品的价格急剧下降。我们以前认为高不可攀的东西，它现在变得极低，这叫做摩尔定律，他说的是处理器的性能大约每隔两年就会翻一倍，价格下降为之前的一半。

现在，即使是1000 块钱以下的低性能的手机，其实也比人类的第一台计算机ENIAC算力要强不少。而当时一台ENIAC的计算机价格，折合成今天的价格，大约市场价 3000 万美元。但是随着商品价格的急剧下降，人的服务价格却在急剧的上升。英国伦敦的护士的价格在100 年前，年薪大约是25 英镑到 50 英镑，也就相当于你现在去伦敦吃一顿饭。到了 2023 年，一个护士的年薪大约是24900 英镑到36000 英镑。价格成一个几何级速上涨。即使我们调整了CPI，调整了物价上涨等等，把这些因素都考虑进去，人的价格还是上涨了12倍。

所以一方面商品的价格变得越来越便宜，而人的价格却变得越来越高。这一点就会导致社会创造了很多财富，但是我们其实工资还是照样不够用的。当你去和律师谈话时，你就会发现一个很大的问题，你的语速比我现在还要快很多，为什么？因为律师他参照时间来给你进行计费，那可不是一小时十块钱，而是几千块钱。

那么萨姆·奥尔特曼就想，能不能有一种方式，在我们降低商品价格的同时，把服务的价格也降下来。所以他就提出一个万物摩尔定律。他写了一个非常小的blog，非常短，隐藏在 OpenAI 公司的网站一个不起眼的角落。在这篇文章里面他思考了一个问题，我们怎么才能让每个人都拥有美好的生活？一种途径，是使个人获得更多的财富，但是你知道这是不可能的。奥尔特曼说这条路走不通，但是我们还有另外一条路是让物价下跌，让所有的商品价格变低，让服务价格变低，让物价归零。这个时候即使你的收入是有限的，但是我们的购买力却增加了。他说，我们要通过通用人工智能来做这件事情，让它来帮助我们人类完成其他事情。我们的老师将会失业，95% 的老师将会没有工作可干。还有我们其他金领职业，比如说律师、会计、程序员等等，他们可能都会失业，他们都会被AGI所取代。

我没有钱了，那我怎么能富有呢？萨姆·奥尔特曼说，你不用着急，因为AGI 创造的财富会分给大家。他做了一个叫做Universal Basic Income的计划，叫做全民基本收入计划。要把通用人工智能所创造的财富发给每一个成年人，让他们每个月都能无条件的收入到 13500 美元，去维持他们的基本生活所需。

大家觉得这事情好像是天方夜谭，是乌托邦，对吗？

事实上，他已经在斯坦福大学建立了一个 UBI 的实验室，并且在巴尔的摩的一个社区开展了尝试。现在只是一个小规模的尝试，他预计这件事情将会在十年之内发生。需要通过有效加速，能够把我们之前的从按劳分配把它变成按需分配。在这之前，我们人是工作的奴隶。在希伯来语里，工作和奴隶是同一个词，说人类一直是为了出卖自己的时间、劳力来获得自己的生存。有了通用人工智能，人类可以不用再干这件事情了。他说每个人公民都会越来越多享受到经济自觉所带来的自由、权利，更多的人将会有机会过上他们想要的生活。大家不再为五斗米所折腰了，大家不用再为你的生存去被迫从事你不想干的工作，这是第一个自由。

第二点所带来的，就是真正意义上的平等。在远古的时候，大家谁的胳膊劲儿大，谁的肌肉更发达，那么谁就有表达的权利，这也是为什么我们这个社会从一开始就是一个父权社会，男性因为它平均而言有更大的体力。而随着热兵器的出现，靠体力上的优势所获得的权利就在逐渐的取消。因为一个女性，她也可以通过操纵热武器，手枪也好，机枪也好，从而来获得平等。那么通过AGI的出现，将来我们将彻底抛弃掉我们因为肉体、技能、技巧所带来的这种平等，而更多的是凭借我们的脑力。大脑的智力将是我们人类将来去角逐未来，获得地位，获得权力更关键的一个指标，因为在将来我们的普通的工作将会被 AGI 所取代。

我刚才说教师将会失业不是指每一个教师，也许是那些平庸的教师，没有水平的教师会失业。而真正具有创造力的，能开发出新的教学方案的，能够真正激发学生思考力，辨别力的这些老师，他将会获得更大的发展。也就是说，将来我们每个人将会花更多的力气，用更多的脑力去创造一些前所未有的事物。

但是伊利亚·苏斯克沃却对这一点产生了深度的怀疑。他认为这么下去不仅不会真正的解放人类，但会摧毁人类。所以他更多的坚持是超级对齐。他希望把AGI和我们人类的价值观、人生观和世界观对齐，让他们像我们人类一样拥有我们人类的道德，拥有我们人类的思考方式，拥有我们人类的这种三观，从而不会去摧毁我们人类，变成我们人类的伙伴。

为什么他会考虑到当技术太早的实现会摧毁我们人类？

这需要从人类学的发展历史上来看。人类和猴子大约是在 300 万年前分道扬镳，我们从树上下来，在非洲大草原上行走，从 300 万年到10 万年这么长一段时间，基本上是人类演化的一个垃圾时间。如果你去看出土的这些石器，你没有看见太大变化，它只是做得更加精美一点。比如说斧头做得更加锋利一点，但是它并没有产生更多石器。但是距今大约 10 万年到7万年时间，人类突然一下就好像脑袋开智了，一切就打开了。这个时候看考古的东西，会发现各种各样新奇的物品大量的出现，大家开始制作项链，制作一些其他奇怪的东西，好像与我们生产没有关系的一些东西。比如，他们开始在石骨上去刻上一些花纹，目的是什么我们现在都不清楚。

6万年前的一个化石，一个鸵鸟蛋上，蛋壳上面也有一些花轮。考古学家还发现了一个 4.3 万年前的一个狒狒，一根骨头上面的刻痕，上面刻上了 28 条线，28 条线就代表着一个月的时间，也就是人类在开始通过刻痕来反映这个世界到底发生了些什么事情。

距今 5000 – 6000 年前，在两河流域，楔形文字，人类的第一个书写文字就由此而诞生，被我们后世人称为是人类的第一次认知革命，代表着我们人类思维极大的跃迁，在这之前，我们人类只是众多动物中的一员，我们只是一个普普通通的动物而已，也许比他们聪明一点，但是当人类迈过了这一个坎，当人类有了第一次认知革命之后，人类就从一个普通的动物演变成我们今天的万物之灵。

我们人类做了两件事情，第一个把我们的亲兄弟尼安德特人，让另外一只人种，我们把它彻底的消灭掉了。第二个，我们把世界上的所有的动物，要么变成我们的食物，要么把它变成我们的宠物，没有第三个选择，这是当人类成为了万物之灵所发生的事情。

那么，现在一旦AGI的智能超越了人类后，我们会不会重现之前第一次认知革命那时候所发生的事情？它会选择一个智能比它低的人来共存吗？还是直接就会消灭掉人类？所以这个时候大家担心，我们趁着 AGI 还没有超越人类智能的时候，现在就要教会它怎么去和人类的智能来做一个对齐。我们担心奇点来临的这一刻，现在我们知道人类的智能随着时间的发展在逐渐的提升，是一个缓慢的上升过程，但是它不会再有巨大的变化。

为什么？这被我们大脑的体积，我们的算力所约束了。但人工智能不一样，人工智能它一旦走上了正确的道路，它就会快速的以几何级数方式增加它的算力，没有任何限制。一块 GPU 不够再加一块GPU，它的存储没有限制，一块硬盘不够再加一块硬盘。当它的算力无限时候，那么它的速度就会快速增长。未来某一刻计算机的智能，它一定会超过我们在座的每一位，超过我们每一个人类，甚至比我们人类智能的总和还要厉害很多。

超过的这一点，就是叫做奇点来临。相当于我们文明发展史出现了一个断裂，这被称为是未来的第二次认知革命。这场认知革命的发生可能就意味着人类，它只是整个宇宙文明进展中的一个过客，可能人类就由此将会真正的被消亡掉。而这一点是伊利亚等作为代表的一些人他们所担忧的。于是他说，我们要拿出更多的算力出来，不是去提升 AGI 的性能，不是去提升 ChatGPT 的性能，而是让它慢下来，我们应该加上一个道德的约束，让他们可掌控在人类的手里。这就是有效加速和超级对齐两者之间的矛盾，使得 OpenAI 在今年的 11 月份发生了一场剧烈的宫斗。

最后的结果还是奥尔特曼取得了上风，在微软员工的支持之下重新回来。所以这个时候，我们面临的还是一个有效加速。但是也有很多人在考虑，我们怎么进一步去约束他，一起来考虑我们人类的未来究竟应该怎么来做。

超越我们人类智能的产生，它一定是一个有生之年系列，也就是说在我们每一个人活着的时候，我们都能看到。软银的孙正义，当年投资阿里的这个孙正义，在最近的一次会上，他说达到像人一样的这种通用智能十年之内就会实现，智能程度将是人类智力总和的 10 倍，这个时候我们人类的智力在将来的 AGI 面前就相当于是猴子在看今天的人类一样。

大家说他只是一个投资人，他了解那么多吗？其实拥有他这种观点的还不止一个。谷歌的首席工程师库兹韦尔，在他书中写到超级人工智能，也就是 AGI ，智能 AI 程序将会在2029 年出现。

库兹韦尔是一个很伟大的未来科学家，他预测未来科技发展正确率，从他过去 100 项科技的进展里看，正确率80%以上。埃隆马斯克认为也是 2029 年通用人工智能就会出现，而人工神经网络之父，弗里·辛顿认为时间可能还会来得更早一点，他把这个时间定成 2028 年。他们讲到的比人类更强大的智能，将会在 4 年到 5 年里面出现。

我们现在需要考虑的不仅仅是工作会不会被取代，或者应该用 ChatGPT 来帮助我怎么提升效率，而是作为我们众多人类中的一员，我们应该怎么考虑未来？我们现在就站在一个进化的十字路口上。

 
在奥尔特曼看来，有效加速，就是在未来要创造一个像星球大战里机器人，它是我们的一个非常有用的这么一个助手，它会帮助我们解决各种各样的问题，它会无微不至的以人类优先来帮助我们。而伊利亚他所担忧的一种未来，就是像我们在电视里面所看见的终结者，最后人类被机器人无情的碾压，被踩死。

但在我看来，可能还存在着第三条道路，也许第三条道路是一条更好的道路，是什么呢？适当把我们的大脑里思想，我们的人格，我们的记忆，我们的性格等等各种各样的方面，能不能上传到计算机去摆脱我们脆弱的肉体？我们的生命的限制，阻碍我们思想前行的其实就是我们脆弱的肉体。

也许再过几十年，当我们 80 岁、 90 岁，甚至也许再长一点，通过其他的健康方法延长到 120 岁、150 岁，但我们的寿命终究是有限的，我们想去探索一个更遥远的宇宙，去了解一些更深刻知识，我们是不行的。那能不能把我们的思想上传到计算机里面去？通过人机结合二合一，我们来获得一种真正的永生。

我觉得这也许是我们人类一个更好的解决方案，一方面我们有效加速推动AGI的发展，第二方面我们大力进行脑科学的研究，对人类大脑的思想进行解码。这个时候我们既保留了我自我，同时也借助于计算机的超强的算力，我们会变得更加的睿智，我们可以去探索一个更广袤的宇宙，人类就不再局限于地球这上面，成为一个三维的生物，也许我们可以去探索四维、五维、六维甚至更高维的空间，我们可以穿越几千万光年的距离，而去到达宇宙的尽头，看看那些地方究竟发生了什么样的事情。

所以在我看来，我应该是超级对齐和有效加速的一个综合体。我认为借助于脑科学，我们也许人类有一个更好的未来，一个更加成长未来，而不是非此即彼。费孝通老先生当时在他 90 岁大寿的时候，他给自己写的一副让对联，第一句话叫各美其美。就说你计算机按照你的方式发展，我们人类按照我们人类的发展，我们两个人各不干涉。那么第二句话就是我觉得更好，就叫美人之美。那你能不能让他帮助我，让我人类成为一个更好的人，一个更加工作高效的人。然后我们人类要追求的是什么？是美美与共，天下大同。我觉得可以把我们人类的思想和我们的 AI二合一，这个时候才是一个真正的一个未来。

在 2023 年发生了太多太多的事情，给我们人类所带来的冲击，远远要比过去几十年人工智能的发展冲击还要大。当我们人类创造出一个新的物种，当我们人类来扮演一个上帝来去指导未来发展时，我们承担着一个非常大的职责。我们要把这个物种真正的发展起来，同时我们也可能会制造出我们的一个毁灭者，让我们人类不仅是没有工作，可能从肉体和灵魂上都会被消失掉。但是无论如何，这都是一个开放的问题。

我们每一个人，都是一个非常有幸的个体。在这个巨变的开端里，我们此时此刻拥有一个难能可贵的机会去打造未来，我们清华有个学生当时在他的报告里，提到了一句话，我觉得特别特别的精彩。他说，我们的现在是过去的未来，这就是让一个因果，过去你所做的决定就决定了我们现在，但是我们的现在不是未来的过去，因为未来有无限可能取决于我们此时此刻的选择。

到了年底，我们总是要写一点我们对未来的期望，不妨考虑一下我们的通用人工智能，考虑一下人类的未来，考虑一下我们作为人类这一个群体，我们怎么在这一个大变革的时候，怎么去选择我们自己的道路，在这个创造未来的时刻，有你我的身影在里面。

​Read More