数千位AI研究者探讨人工智能的未来：好结果比坏结果更可能出现？

关键词：人工智能，AI对齐

论文题目：Thousands of AI Authors on the Future of AI论文期刊：arxiv论文地址：https://arxiv.org/abs/2401.02843
一项由近 3000 名机器学习专家参与的关于人工智能世界将如何改变我们生活的调查已经完成（同类调研中最大的）并得出了结果。这项调查涵盖了2778名在六大顶级AI会议（NeurIPS、ICML、ICLR、AAAI、IJCAI、JMLR）上发表过研究的专家。总体预测显示，到2028年，AI系统至少有50%的可能性实现几个里程碑，包括从头开始构建支付处理网站、创作一首与流行音乐家新歌无法区分的歌曲，以及自主下载和微调大型语言模型。如果科学研究继续不受干扰，到2027年，无辅助机器在所有可能的任务上超越人类的可能性估计为10%，在2047年达到50%——后一估计比一年前进行的类似调查提前了13年。

图1：据预测，大多数里程碑事件在未来十年内发生的几率高于平均值，尽管可信日期的范围很广。图中显示了选定里程碑的预期时间的总体分布情况。

图2：不同年份预测AI能够实现的任务和成就，包括在特定年份内AI可能在各种领域达到人类水平或超越人类的能力。这些任务涵盖了从基础编程、语言翻译、游戏竞技到复杂的数学定理证明等多个方面。

图3：对人类水平机器智能第 50 百分位到达时间的总体预测在 2022 年至 2023 年期间下降了 13 年。对劳动力完全自动化（FAOL）的第 50 百分位数到达时间的预测在同期下降了 48 年。

然而，所有人类职业完全自动化的可能性预计在2037年达到10%，在2116年达到50%。大多数受访者对AI进展的长期价值表达了重大不确定性：虽然68.3%的人认为超级AI的好结果比坏结果更有可能，但在这些纯乐观主义者中，48%的人给出了至少5%的极端坏结果（如人类灭绝）的可能性，而59%的纯悲观主义者给出了5%或更多的可能性。在37.8%至51.4%的受访者中，至少有10%的可能性认为先进的AI会导致与人类灭绝一样糟糕的结果。超过一半的人认为对六种不同的AI相关情景（包括虚假信息的传播、专制人口控制和加剧的不平等）应给予“实质性”或“极端”的关注。关于AI发展更快还是更慢对人类未来更好存在分歧。然而，普遍认为应优先考虑旨在最小化AI系统潜在风险的研究。
好消息是大多数人认为，人工智能将在科学、文学、数学、音乐和建筑等领域带来一波显著的进步，而且比两年前的类似调查预测提前了几年。坏消息是，我们都会死。至少38%到51%的受访者是这么认为的，他们认为人工智能引发灭绝的可能性至少有10%。近 60% 的受访者表示，这种可能性至少为 5%。这项调查由研究人工智能长期后果的 AI Impacts 公司进行。
并非所有结果都集中在厄运和悲观上。研究人员发现，关键的人工智能发展速度如此之快，以至于受访者认为，一些关键成就的实现时间将比两年前的预测提前数年。例如，受访者表示，到2047年，机器至少有50%的可能性能够在没有人类协助的情况下完成所有可能的人类任务，而且会做得更好、更便宜。而两年前的预计目标日期是 2060 年。
其他有趣的人工智能成就早在 2020 年代末就被预测出来了。其中包括从不同角度生成视频的能力、撰写《纽约时报》畅销小说的能力，以及叠衣服的能力。想象一下，AI生成一首完美无瑕的歌曲，其风格和音色与Taylor Swif如出一辙，与真正的艺术家毫无区别。调查估计，这将在几年内实现。一些可信的成果已经问世。这项研究并未涉及此类成果的伦理问题。
总之，70% 的专家表示，随着人工智能变得越来越聪明和强大，好的结果比坏的结果更有可能出现。这项名为“数千名人工智能作者谈论人工智能的未来”的研究于1月5日发布在arXiv预印本服务器上。

编译｜郭瑞东

大模型安全与对齐读书会

详情请见：2024开年读书会：AI安全与对齐——应对前沿AI失控与滥用的技术路线

‍推荐阅读1. 多主体智能综述：社会互动启发的人工智能进化2. 集体智能如何增强人工智能？未来智能社会一瞥3. PNAS速递：人工智能和生态学的协同未来4. 张江：第三代人工智能技术基础——从可微分编程到因果推理 | 集智学园全新课程5. 加入集智学园VIP，一次性获取集智平台所有内容资源6. 加入集智，一起复杂！

点击“阅读原文”，报名读书会