博鳌亚洲论坛丨曾毅：人工智能的决策不可靠 应对风险必须从现在开始

点击蓝字

关注我们

曾毅

中国科学院自动化研究所人工智能伦理与治理研究中心主任

3月27日，在博鳌亚洲论坛2024年年会上，中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅在会后对腾讯财经表示，人类永远应该是决策的最终角色，人工智能的决策是不可靠的，还会产生虚假信息，永远不要将决策这件事让给人工智能。

博鳌亚洲论坛现场

曾毅：不具备理解能力的人工智能不是真的“智能”

“人工智能产生很多虚假信息，让世界产生了很多不信任，我认为这是当前的一个重大挑战。”谈及风险，曾毅进一步指出，以前我们总说“眼见为实”，现在已经“眼见不为实”了，所以解决人工智能产生的社会信任问题是当务之急。

“因为人工智能缺乏理解能力，未来如果它产生了自我意识，希望寻求更多权利，而不是辅助人类决策的时候，那我们要如何去应对挑战呢？”曾毅表示，应对这样的风险，我们可能需要10年20年，必须从现在就开始，否则就太晚了！

对于“未来已来”的说法，曾毅表示：“我们处在一个既有机遇也有风险的时代，我们目前对人工智能的理解还如此肤浅，就快速地将下一代推向AI时代是不负责任的。”他还是坚持，目前的重点是研究人工智能技术进展，预测相关风险并做好治理。（腾讯财经 祝玉婷）

关于我们

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。

新浪微博：@清华大学人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG

来源 | 本文转载自腾讯财经，点击“阅读原文”获取更多内容