【AI治理周报-3月第5周】薛澜：人工智能治理有四大挑战 期待解决地缘政治问题；美国更新对华人工智能芯片和制造工具出口限制

点击蓝字

关注我们

AI治理周报

01

【本周头条】博鳌亚洲论坛：畅想人工智能技术的喜与忧02
【政府动态】薛澜：人工智能治理有四大挑战 期待解决地缘政治问题03
【政府动态】美国更新对华人工智能芯片和制造工具出口限制04
【AI国际治理】美国和日本呼吁在人工智能、半导体领域深化合作05
【AI国际治理】美国与奥地利、巴林、加拿大和葡萄牙共同领导全球推动军事人工智能06
【AI国际治理】拜登命令美国各机构任命首席人工智能官07
【AI巨头动态】人工智能初创公司Anthropic推出挑战大型科技公司的新模型08
【AI巨头动态】苹果从中国科技巨头百度购买人工智能服务09

【AI巨头动态】Meta 称限制共享人工智能技术可能会削弱美国的影响力本周头条：

1.博鳌亚洲论坛：畅想人工智能技术的喜与忧关键词：博鳌亚洲论坛在3月28日举行的博鳌亚洲论坛2024年年会“人工智能全球治理”分论坛上，多位与会嘉宾表示，当前，全球人工智能技术发展迅速，造成人工智能在未来有很大的不确定性，如何使人工智能变得足够安全是重中之重，因此需要通过有效地监管和国际合作对人工智能进行治理，让人工智能在安全可控的前提下更好造福人类社会。亚洲论坛与会专家表示，人工智能在金融、医疗、教育、养老等领域的应用，不仅能带来生产效率的提升，在持续改善人类福祉方面也蕴藏巨大潜力。科学家通常将人类科学技术“爆炸式飞跃”的时间点，称为科技革命“奇点”。在博鳌亚洲论坛上，针对这一颠覆性时刻何时到来，与会专家学者纷纷作出“预测”。韩国首尔大学电子与计算机工程系教授李炅武说，2017年一项针对人工智能科学家的调查显示，大多数人预测下一轮科技革命“奇点”将在2045年到2090年之间产生。“如果现在再问同样的问题，可能会有不同答案。”李炅武认为，人工智能“奇点”的到来，或许会早于人们的预期。他个人预测，“奇点”可能在5年后出现。李炅武说，可以确定的是，人工智能与量子计算等技术互相赋能，丰富的数据、算力、能源将催生更强大的人工智能，加快“奇点”的到来。来源：新华网
政府规划：2.清华大学苏世民书院薛澜：人工智能治理有四大挑战 期待解决地缘政治问题关键词：人工智能治理3月24日的“中国发展高层论坛2024年年会”人工智能发展与治理专题研讨会上，清华大学苏世民书院、人工智能国际治理研究院院长薛澜从治理的角度，分析了人工智能政策制定的四大挑战，并建议加强国际合作、解决地缘政治问题。政策制定和科技发展步调不一致，造成人工智能治理的挑战。薛澜指出，人工智能的技术发展非常快，但治理体系的变化相对慢一些——一个法律法规要出台，其实要经过一系列的论证和各方面的考虑。薛澜提到，政策与科技发展步调不一致、政策和企业信息不对称、全球各机构组织利益重叠矛盾，都造成了人工智能政策制定的挑战。来源：财新新闻

3.美国更新对华人工智能芯片和制造工具出口限制

关键词：人工智能对华制裁据路透社报导，美国拜登政府周五修订了旨在使中国更难获得美国人工智能（AI）芯片和芯片制造工具的规则，这是出于国家安全考虑制约中国尖端芯片制造业的努力的一部分。原规则于2022年10月发布，旨在停止向中国运送由英伟达（Nvidia）等公司设计的更先进的人工智能芯片。这次修订的新规则长达166页，将于4月4日生效。对一些内容进一步阐明，例如对向中国出口芯片的限制也适用于包含这些芯片的笔记本电脑。负责监督出口管制的美国商务部表示，目前计划继续更新对华技术运输限制，以加强和完善这些措施。同样据路透社报道，星期四（3月28日）有三名知情人士表示，美国正在制定一份禁止接收关键工具的先进中国芯片制造工厂名单，藉此更有效地阻止技术流入中国并更方便美国企业遵守限制。其中一名知情人士透露，这份名单可能在接下来的几个月内公布。来源：路透社


科技公司：4.美国和日本呼吁在人工智能、半导体领域深化合作关键词：人工智能合作据《朝日新闻》3月30日报道，日本首相岸田文雄下个月会见美国总统拜登时，日本和美国将在联合声明中宣布在人工智能等高科技领域加强合作。朝日新闻表示，联合声明将这两个盟友之间的关系称为“全球伙伴关系”，将倡导在人工智能和半导体领域加强合作，但未援引消息来源。作为协议的一部分，日本和美国可能会与英伟达合作建立人工智能研发框架。来源：朝日新闻

5. 美国与奥地利、巴林、加拿大和葡萄牙共同领导全球推动更安全的军事人工智能

关键词：军事人工智能据美国政府官员透露，来自60个国家的代表上周在华盛顿特区外举行会议，并选出了五个国家来领导为期一年的人工智能军事合作，探索军事人工智能和自动化系统的新安全护栏。“五眼”伙伴国加拿大、北约盟国葡萄牙、中东盟国巴林和中立的奥地利将与美国一起为明年的第二次全球会议收集国际反馈，国防部和国务院的代表都表示，这次会议代表了一个至关重要的政府-政府努力保护人工智能。来源：Breaking Defense

6. 拜登命令美国各机构任命首席人工智能官

关键词：人工智能白宫宣布了“第一项政府范围内的政策，以减轻人工智能（AI）的风险并利用其好处。”为了协调这些努力，每个联邦机构都必须任命一名具有“人工智能领域重要专业知识”的首席人工智能官。一些机构已经任命了首席人工智能官员，但任何尚未任命的机构都必须在未来 60 天内任命一名高级官员。如果已被任命为首席人工智能官的官员没有必要的权力来协调机构内人工智能的使用，则必须授予他们额外的权力，否则必须任命新的首席人工智能官。理和预算办公室 (OMB) 政策称，白宫推荐的理想候选人可能包括首席信息官、首席数据官或首席技术官。作为首席人工智能官，被任命者将担任人工智能计划的高级顾问，监控和盘点所有机构对人工智能的使用。他们必须进行风险评估，考虑人工智能的使用是否会影响“安全、保障、公民权利、公民自由、隐私、民主价值观、人权、平等机会、工人福祉、关键资源和服务的获取、机构信任和信誉和市场竞争。”来源：白宫新闻AI国际治理：7.人工智能初创公司Anthropic推出挑战大型科技公司的新模型

关键词：人工智能企业

人工智能科技初创公司 Anthropic 周一宣布了其最新的人工智能模型（统称为 Claude 3），并宣传其近乎即时的完成复杂任务的能力，包括抄写手写笔记、分析图表和翻译语言。

Anthropic表示，这些模型中能力最强的 Opus 在一些确定人工智能能力的最常见测试中击败了其他行业领先的人工智能程序，包括 OpenAI 的 GPT-4 和谷歌的 Gemini 1.0 Ultra。

Anthropic由前OpenAI员工于2021年创立，已筹集了数十亿美元的风险投资资金（包括来自亚马逊和谷歌等主要科技公司的资金），并成为最大的人工智能技术公司的主要竞争对手，这些公司力争在快速发展的领域脱颖而出。

来源：NBC新闻

8. 苹果从中国科技巨头百度购买人工智能服务

关键词：苹果、百度

《华尔街日报》早些时候曾报道称，苹果一直在与百度进行讨论，以在 iOS 18 中使用其人工智能技术。目前苹果和百度都没有发表评论。苹果正在通过今年的 iOS 和 macOS 更新大力推进生成式人工智能服务。Siri 将获得 ChatGPT 级别的功能，而苹果首席执行官蒂姆·库克本人也调侃称，该公司将“在今年晚些时候分享我们在该领域正在进行的工作的细节”。

来源：华尔街日报

9. Meta 称限制共享人工智能技术可能会削弱美国的影响力关键词：MetaMeta政策负责人Nick Clegg警告美国政府官员，限制公司公开共享某些人工智能技术可能会损害美国对相对较新且不断发展的全球人工智能行业的影响力。在周三提交给美国商务部国家电信和信息管理局的公开评论中，Meta写道，共享人工智能模型的“限制性方法”可能意味着其他国家开发的技术“成为全球规范”。人工智能行业的主要参与者对于人工智能模型背后的编程和数据是否应该公开和开放，或者更严格地作为专有信息持有存在分歧。初创公司 OpenAI 是该行业的早期领导者之一，一直赞成将其技术保密，而 Meta 和其他一些主要科技巨头，如 GitHub 所有者微软公司，一直赞成开源至少一些人工智能代码。来源：彭博社

清华大学人工智能国际治理研究院编

上述信息均根据原文内容整理，谨供读者参考，不代表本机构立场和观点

往期回顾

AI周报丨人工智能国际治理观察第229期

AI周报丨人工智能国际治理观察第228期

AI周报丨人工智能国际治理观察第227期

主理人丨刘典

编辑丨卢的排版丨赵杨博
审校丨王祚
终审丨梁正 鲁俊群

关于我们

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。

新浪微博：@清华大学人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG