李飞飞新书《我看到的世界》正式发售！忧心斯坦福没有训练ChatGPT算力，自称不是AI毁灭派

  新智元报道  

编辑：Aeneas

【新智元导读】在新书《我看到的世界》中，李飞飞提到，自己不是开源派，也不是毁灭派，而是中间派，希望人类能与人工智能和平共处。

李飞飞新书《我看到的世界》，今日正式发售！李飞飞称，这本书的面世花了三年。李飞飞的新书，得到了「AI教父」Geoffrey Hinton的力荐。李飞飞是第一个真正理解大数据威力的计算机视觉研究者，她的工作打开了深度学习的闸门。她对自己帮助释放的人工智能技术的巨大潜力和危险提供了紧急而清晰的描述。在这个关键时刻，我们迫切需要她来呼吁人们采取行动，共同承担责任。李飞飞高徒、英伟达科学家Jim Fan也大力推荐：「这无疑将是2023年最重要的人工智能著作」。买到书的粉丝，已经开始发合影了。

AI安全大讨论：岌岌可危的平衡

最近几天，大佬们关于AI监管的议题辩论得是热火朝天，而对李飞飞来说，她似乎处于一个微妙的平衡之中。作为斯坦福大学计算机科学教授和人类中心人工智能研究所的联合负责人，李飞飞既不是Hinton式的悲观主义者，担心机器人会对人类展开大屠杀；也不是Marc Andreessen式的技术乐观主义者，认为监管AI会阻碍我们的进步。相反，她是一位热情的AI啦啦队长，在其中看到了克制的智慧。她认为，AI在科学发现、提高生产率、增强学习和教学能力、应对气候问题等方面已经表现出了令人难以置信的潜力，但同时也提出警告——如果使用不当，AI会带来很多危害。在普林斯顿读本科期间，李飞飞就对机器学习着了迷。从商界巨贾到美国总统都关注到这一领域前，她就已经在这一领域工作多年。就在接受外媒The Information采访的前一天，拜登签署了一项行政令，规定美国政府对AI的监管办法。李飞飞曾与代表加州帕洛阿尔托市的众议员Anna Eshoo进行了一次长达一小时的会面，讨论这项行政命令的影响。她还没有读完长达数百页的文件，但总体上，她对于政府的这次行政令以及去年七月国会两党的法案持乐观态度。在她看来，这些措施代表了国家准备拥抱AI时需要培养的「登月心态」。李飞飞主张以人本主义的方式对待AI，这让她处于技术交战派系的中间地带。她尊重AI末日论者的担忧，但并不同意他们的观点。对于AI教父Hinton发表的激烈观点，她也并不觉得天真或愚蠢。李飞飞认为，未来会怎么样，总是令人好奇的，在哲学、人类学、计算机科学领域的人们应该思考这个问题。但社会更需要关注的，是AI带来的灾难性风险，而非生存风险，比如偏见、虚假信息、失业等等。李飞飞喜欢用「作为一名学者」「作为一名研究者」这样的话开头，她希望自己的观点是建立在科学的基础上，而非权威的基础上。比如，在疫情之前，她曾在斯坦福大学的医院进行过一项研究，希望利用AI监控医务人员的洗手情况，减少感染。在项目中期，她忽然意识到，自己正在对这些医务人员进行侵入性监控，这让她明白了道德防护的重要性。「我是人工智能时代的第一代人。我们这一代人没有接受过技术和伦理双领域专家的培训，但我们必须学会这一点。」李飞飞倡导的，是一种肌肉型政府监管。「我们肯定需要建立监管框架和规范，不能允许人们随意发明药物，然后就在药店里上架。」她很想拥有一个可穿戴的人工智能设备，让它给自己提供临床建议，但如果没有食品和药物管理局的许可，她是不敢戴上这个设备的。实际上，她非常支持每个垂直行业都制定积极的规章制度，比如自动驾驶。但她的主张是有限度的，并不是呼吁暂停一切活动。

学术界和产业界的不平衡，更让我担忧

如果说有什么让李飞飞对AI热潮更为担忧的，就是学术界和产业界的资源不平衡。ChatGPT背后的模型需要在算力上进行大量投资，这已经远远超出了顶尖学校的能力范围。李飞飞说，现在全美国没有一所大学拥有训练ChatGPT的资源，就算把美国排名前20大学的所有算力加起来，都未必能训练出ChatGPT。这也是为什么，李飞飞希望美国国会能在资金上给予支持，参议院查克-舒默提出了320亿美元的研究经费，作为Create AI Act的一部分。「我们自己的学生，根本就没法做研究。」在一项关于患者安全的研究中，他们有非常珍贵的数据，但因为没有足够的存储空间，不得不将数据删除。李飞飞非常了解企业、董事会和大学的情况。她曾是推特董事会的成员，董事会后来将公司卖给了马斯克。她在书中写道，自己先是拒绝了华尔街，又拒绝了麦肯锡，转而选择了学术生涯。在回到斯坦福之前，她从2017年曾在谷歌云担任了两年的人工智能首席科学家。她的丈夫Silvio Savarese于2021年辞去斯坦福的终身职位，成为Salesforce研究部门的首席科学家。李飞飞仍然在象牙塔中的日子快乐地栖息着。这里有才华横溢的研究生，拿的薪水只有工业界的1/20，但仍然拿到了博士学位。在推特上，李飞飞经常宣传着多学科研究的好处。她对于自己以人文本AI实验室中学生的专业多样性而自豪，这里有来自斯坦福各领域的著名学者，包括政治学、法学、人文学科、弦理论物理学等。整个职业生涯，李飞飞都在AI领域耕耘，并且始终保持着好奇心。这次的新书们可以说是一部令人耳目一新的人工智能历史，尤其是计算机视觉子领域的历史。多年来，AI一直在学术界的一个古怪角落里，忽然之间，她和自己默默无闻的同事们，忽然就受到了全世界的关注。「这就像我创造了一个婴儿，20年年后，他变成了一个独立的、耐人寻味的人。」参考资料：https://www.theinformation.com/articles/its-like-i-created-a-baby-an-ai-matriarch-appraises-her-offspring