GPT-5恐被叫停，马斯克带头呼吁暂停大型 AI 研究｜钛媒体焦点

（图片来源：unsplash）

随着ChatGPT热潮，当全社会都在为AI的进化而欢呼雀跃之时，很多科技界和学术界部分人却认为 AI 技术风险越来越高。

钛媒体App 3月29日消息，未来生命研究所（Future of Life Institute）今天公布了一封《暂停大型人工智能研究》的公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的人工智能（AI）系统至少6个月，呼吁共同开发和实施用于高级AI开发的共享安全协议，并接受独立外部监督，以避免可能导致极端风险的大规模技术变革。

该机构以“引导变革性技术造福生活，远离极端的大规模风险”为使命。信中称，只有当确保强大的 AI 系统的效果是积极的，其风险是可控的才能继续开发。AI 实验室和独立专家应在暂停期间，共同制定和实施一套先进的 AI 设计和开发的共享安全协议，由独立的外部专家进行严格的审查和监督。

截止目前，世界首富、特斯拉CEO马斯克，苹果联合创始人Steve Wozniak，“AI教父”Geoffrey Hinton，Stability AI 创始人Emad Mostaque等1000多名科技大咖和 AI 技术专家均签署了这封公开信。

值得一提的是，此前有推特网友发现OpenAI CEO Sam Altman曾出现在呼吁暂停大型 AI 训练公开信签名处，推特研发工程师Rahul Ligma也在列，现在二人名字均已消失。

实际上，随着ChatGPT和GPT-4风靡全球、全球热议，一时与ChatGPT相关的各种信息遍布网络。但随着讨论热度转向通用 AI 技术带来的风险话题，OpenAI公司CEO奥特曼（Sam Altman）自身也加入其中。

3月27日公布的麻省理工学院研究科学家Lex Fridman节目中，奥特曼提到，强大的 AI 杀死人类有一定可能性。“很多关于 AI 安全和挑战的预测被证明是错误的，我们必须正视这一点，并尽早尝试找到解决问题的方法。”

在奥特曼看来，GPT-4已经让大家看到，AI“杀死”人类不再是空谈。他坦言，“客服”将会是受到大规模冲击的工作类型。

今天的这封公开信中，核心是呼吁所有 AI 实验室立即暂停比GPT-4更强大的 AI 系统的训练，时间至少持续6个月，并称政府应该介入并制定暂停令。但信中指出，这并不意味着暂停一般的 AI 开发，只是从危险的竞赛中退后一步，限制不可预测的研究和开发。

公开信中强调，AI 的研究和开发应该重新聚焦于，使目前最先进和强大的系统更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。

钛媒体App根据现有公开信息整理，目前ChatGPT相关技术依然存在无法进行事实核查容易提供诈骗信息、个人数据与商业秘密泄露、输出虚假信息、语料库与生成文本的侵权问题等问题，存在一定的法律漏洞。如果没有监督和解决，AI 技术可能会威胁人类日常生活。

据报道，数据安全服务Cyberhaven检测到并阻止了其客户公司160万名员工中4.2%的人将数据输入ChatGPT的请求，因为存在泄露机密信息、客户数据、源代码或监管信息的风险。目前，摩根大通已经限制员工使用 ChatGPT，亚马逊、微软和沃尔玛也已向员工发出警告，要求员工谨慎使用生成式 AI 服务。

截至目前，多位科技大咖和学术界人士对于 AI 技术带来的风险挑战表达诸多看法，对AI发展的潜在威胁表示关切，强调在推动技术进步的同时确保人类的安全和福祉：

• 特斯拉CEO马斯克（Elon Musk）：他认为 AI 是人类面临的最大威胁之一。他警告说，如果没有适当的监管和控制，AI可能导致意想不到的后果，甚至危及人类生存；
• 已故著名物理学家霍金 (Stephen Hawking)：在生前，霍金表示 AI 的发展可能是人类最伟大的成就，也可能是最终的灾难。他认为，如果AI发展得当，将为人类带来巨大利益；但如果失控，可能导致人类的毁灭；
• 微软创始人比尔·盖茨（Bill Gates）：他认为在某些方面，AI可能会取代人类工作，导致失业率上升。此外，他还担忧AI在未来可能会成为一种强大且不受控制的力量；
• 哲学家，牛津大学未来人类研究所所长Nick Bostrom：在他的著作中，他认为，如果AI发展超过人类智能，可能会导致无法预测和控制的后果；
• 哲学家，神经科学家Sam Harris：AI的发展可能会导致人类失去对未来的控制。他强调，随着AI技术的进步，人类必须思考如何在保持创新的同时确保安全与稳定。

在科学界希望暂停强大 AI 技术研究的消息公布之后，国内很多商业大咖也表达相关看法。

其中，自动驾驶芯片公司地平线创始人兼CEO余凯在其微信朋友圈称，通用人工智能（AGI）正在失控的发展，会给人类带来巨大的风险，呼吁推动 AI 计算的平权。保护自己的隐私，透明干预各种AGI模型的行为，控制AGI带来的风险。

3月29日，360公司创始人、董事长周鸿祎表示，GPT是一个改变世界的东西，它开启了 AI 技术新时代。而如今，GPT-4已经是世界上最聪明的“人”。“我们不要用原来的眼光看待今天的 GPT，所以很多人对 AI 有焦虑。”

脑机接口公司脑虎科技联合创始人、CEO彭雷表示，照这个发展速度，他预测未来两年内会出来一个类似“核不扩散条约”的“AGI不扩散条约”，限定超过一定量级的大模型被部署和训练，甚至安理会成员国来缔约签署，并搞个类似“国际原子能机构”来监督模型的参数和运行状态，类似管理离心机一样。

事实上，奥特曼先前对外媒表示，他担心 AI 取代人类工作的变化很快到来。“人类已经证明自己可以适应重大技术变革，但如果这种情况发生在个位数的几年内便是我担心的部分。人类拥有无限创造力，我们找到新工作、找到新的事情去做。”

早前，微软研究院团队发布长达154页的论文《通用 AI的火花：GPT-4早期实验》。结果表明，微软认为，GPT-4是一种非常强大的 AI 系统，它在许多任务和领域中表现出了惊人的能力，并且在某些方面甚至可以与人类相媲美。然而，GPT-4仍然存在一些局限性和挑战，需要进一步研究和发展才能实现更深入、更全面的AGI系统。

OpenAI 的官方研究显示，美国80%的工作职业中，都将因GPT-4而取代人类工作。该研究发现，除会计师外，数学专家、口译员、作家以及近20%的美国劳动人口，也深受AI影响。最不受影响的工作包括快餐厨师、摩托车技师和石油和天然气杂工。

“GPT-4可被视作 AGI 的早期版本。”微软研究团队表示，GPT-4标志着计算机科学领域及其他领域真正的范式转变。”

高盛3月27日发布报告指出，全球预计将有3亿个工作岗位最终被 AI 取代。假设生成式 AI 实现了各企业承诺的能力，劳动力市场将面临挑战，AI 可以接手美国和欧洲高达四分之一的工作。报告预计，随着劳动生产力提高，AI 应用有望使全球在下一个10年内，推动全球GDP（国内生产总值）年复合增长率将达到7%。

那么，ChatGPT是如何看待公开信中 AI 对人类社会的影响？

ChatGPT回应称：这表示随着 AI 技术的不断发展和普及，AI 可能对社会和人类造成的影响将越来越大。这封公开信提出的呼吁和建议，应该被视为引起更广泛和深入讨论的起点和参考，而不是一个终点或解决方案。（本文首发钛媒体App，作者｜林志佳）

更多精彩内容，关注钛媒体微信号（ID：taimeiti），或者下载钛媒体App

​Read More