智源大会最应该知道的四位大佬和他们的AI金句

其实一个人是不可能“完整”参加智源大会的，因为它两天会期从早到晚都安排了几乎在同时进行的诸多议程。不包括开幕式和线上的特邀报告，仅大的分论坛就有13个之多，不仅涵盖了目前最火热的大模型领域，智源坚持的开源理念，以及始终强调的具身智能和类脑智能并行路线也都被囊括其中。下面是品玩筛选的其中最值得关注的观点和金句，以及我们的评论分析。

Yann LeCun杨立昆

How is it that we have systems that are fluent, that can pass the law exams or medical exams, but we don’t have domestic robots that can clear up the dinner table and fill up the dishwasher, right? This is something that any 10-year-old can learn in minutes, and we still don’t have machines that can come anywhere close to doing this. So we’re obviously missing something extremely major.

为什么我们有流畅的系统可以通过法律或医学考试，但没有可以清理餐桌和装满洗碗机的家用机器人？ 这是任何 10 岁孩子都可以在几分钟内学会的东西，而我们仍然没有可以接近做到这一点的机器。我们显然遗漏了一些非常重要的东西。

杨立昆是深度学习三巨头之一，也是Meta首席AI科学家，相对于同侪，杨立昆对AI的发展态度堪称乐观，但这种乐观是基于他对目前主流路线的否定——杨立昆认为自监督的语言模型没有办法习得真实世界的知识，而随着模型规模的扩大，出现谬误（也就是机器幻觉）的几率也会越来越高。

杨立昆的演讲发生在智源大会开幕式，彼时他人正在法国，而时间是凌晨4点。杨立昆在演讲中宣称，如果想要让机器拥有更高级别的人工智能，那么它应该学习人类认识世界的方式——学习推理、学习将复杂任务分解成简单任务。

将上述的理念和成本的因素考虑进去后，杨立昆提出所谓“世界模型”，尽管尚无具体的实现步骤，但杨立昆认为“世界模型”将很好的避免生成式模型带来的缺陷。

杨立昆同时也认为强大人工智能的威胁可以通过技术手段轻松遏制，这与他回击马斯克有关人工智能威胁的论调相一致。

Max Tegmark

I think Yann LeCun was teasing me a little bit. He called
me a doomer. Look at me – I’m pretty happy and cheerful – more optimistic than
Yann LeCun about our ability to understand future AI systems. ……I think if we
go full steam ahead and give ever more control away from humans to machines
that we don’t understand, that will end very badly. But we don’t have to do
that. ……we can actually make sure that all this ever more powerful intelligence
works for us and use that to create an even more inspiring future than science
fiction writers used to dream of.

我觉得杨立昆在逗我玩。 他叫我末日使者。 看看我——我非常高兴和开朗——比杨立昆更乐观地认为我们有能力理解未来的人工智能系统。 ……我认为，如果我们全力以赴，将更多的控制权从人类手中交给我们不了解的机器，那将导致非常糟糕的结果。
但我们不必那样做。 ……我们实际上可以确保所有这些强大的智能为我们服务，并利用它来创造一个比科幻作家过去梦想更鼓舞人心的未来。

Max Tegmark是那封呼吁暂停AI开发六个月公开信的发起人——这可能是他近期最著名的一个title，实际上他还是著名的物理学家，未来生命研究所的创始人。在智源大会上Max
Tegmark的演讲题目是《将AI变得可控》，这看上去与他在今年初的呼吁格格不入，而实际上Max Tegmark在大会上解释了他的论点：AI巨大的潜力意味着人们应该更谨慎和负责任的思考它究竟意味着什么，暂停研究六个月的目的并不是试图拖延或阻止AI的快速发展。

Max Tegmark在随后与张亚勤的一对一谈话中对中国在AI监管与治理领域的水平给予了很高评价，在他的心目中，中国位居第一，欧洲第二，美国则排名第三。

Sam Altman 

The book of the Tao reminds us that the journey of a
thousand miles begins with a simple step. We think the most constructive first
step to take is with the international scientific and technological community.

《道德经》提醒我们，千里之行，始于足下。 我们认为（AI安全与对齐）最有建设性的第一步是与国际科技界合作。

Sam Altman 作为OpenAI联合创始人、CEO已经不需要更多介绍了，品玩也第一时间发布了他在智源大会上演讲的全文。

在一对一访问环节，Sam Altman 回应了智源研究院理事长张宏江有关通用人工智能的问题。Sam Altman谨慎地表示，尽管无法做出任何实质性的预测，但他认为十年内人类将拥有强大的人工智能系统（AI System）。

另一个大家普遍关心的问题是开源。Sam Altman其实已经在许多场合回应过这个问题，他再次表示OpenAI没有相关的新的有关开源的时间表，尽管他承认在有关AI安全的问题上，开源模型具有优势，但Sam Altman强调开源所有东西可能并不是一条（促进AI发展的）最佳路线。

Geoffrey Hinton

One advantage we have, one fairly small advantage, is
that these things didn’t evolve. We built them. And it may be that because they
didn’t evolve, they don’t have the competitive aggressive goals that hominids
have. ……And maybe we can give them ethical principles. But at present, I’m just
nervous, because I don’t know any examples of more intelligent things being
controlled by less intelligent things, when the intelligence gap is big. And
the example I like to think about is suppose frogs had invented people. Who do
you think would be in charge now, the frogs or the people?

我们（人类）有一个微弱的优势AI没有，那就是进化。我们创造了它们，这或许意味着AI没有原始人具有的那种竞争性和侵略性。我们或许可以给它们赋予道德原则。

但现在，我真正紧张了，我还想象不到更智能的事物，被一些反倒没那么智能的事物所控制的例子，（尤其）当智能的鸿沟非常巨大的时候。

一个例子是，假设青蛙发明了人类，那现在是谁说了算呢，青蛙还是人？

Geoffrey Hinton现在的头衔已经可以被称为AI教父了，据说之前智源大会就曾邀请过他参加，但在即将开幕时Geoffrey
Hinton发现了自己演讲内容有bug因而取消。

最近Geoffrey Hinton最引人注意的新闻是辞去了他在谷歌的职务，因为他对目前人工智能惊人的发展速度感到了恐慌——本次智源大会上的演讲，Geoffrey Hinton延续了这个论调。在他看来超级智能到来的时间将比他本人预料的早得多，而他本人甚至看不出要如何防止AI失控的状况发生，他在演讲中公然宣称把希望寄托在了年轻一代身上。

​Read More