美国白宫：英伟达等8家公司自愿承诺AI管理风险

​

美国白宫 9 月 12 日消息，点击原文链接

美国商务部长雷蒙多等政府高官将在白宫召集 AI 行业高管，宣布 Adobe、Cohere、IBM、英伟达、Palantir、Salesforce、Scale AI 和 Stability 八家公司承诺采取自愿监管措施管理 AI 技术开发风险，包括在推出前展开安全测试、构建将安全放在首位的系统、为 AI 生成内容添加数字水印等。

美国最具影响力的 15 家公司现已做出相关承诺。Open AI、微软、Google、Meta、亚马逊等公司之前已经做出这样的承诺。

白宫之前的公告：https://hub.baai.ac.cn/view/26585 

这八家领先的人工智能公司承诺：

在向公众介绍产品之前，确保产品是安全的

这些公司承诺在发布前对其人工智能系统进行内部和外部安全测试。这项测试将部分由独立专家进行，以防范人工智能风险的一些最重要的来源，如生物安全和网络安全，以及其更广泛的社会影响。

这些公司承诺在整个行业以及与政府、民间社会和学术界共享有关管理人工智能风险的信息。这包括安全最佳实践、试图规避保障措施的信息以及技术合作。

构建将安全放在首位的系统

这些公司承诺投资网络安全和内部威胁保障，以保护专有和未发布的模型权重。这些模型权重是人工智能系统最重要的部分，公司一致认为，只有在预期和考虑安全风险时才发布模型权重至关重要。

这些公司承诺促进第三方发现和报告其人工智能系统中的漏洞。即使在人工智能系统发布后，一些问题也可能持续存在，强大的报告机制使它们能够快速找到并修复。

赢得公众的信任

这些公司承诺开发强大的技术机制，以确保用户知道内容何时由人工智能生成，例如水印系统。这一行动使人工智能的创造力和生产力蓬勃发展，但减少了欺诈和欺骗的危险。

这些公司承诺公开报告其人工智能系统的能力、局限性以及适当和不适当的使用领域。这些报告将涵盖安全风险和社会风险，例如对公平和偏见的影响。

这些公司承诺优先研究人工智能系统可能带来的社会风险，包括避免有害偏见和歧视，以及保护隐私。人工智能的跟踪记录显示了这些危险的潜在规模和普遍性，这些公司承诺推出可以缓解这些危险的人工智能。

这些公司承诺开发和部署先进的人工智能系统，以帮助应对社会最大的挑战。从预防癌症到缓解气候变化，再到介于两者之间，人工智能——如果管理得当——可以为所有人的繁荣、平等和安全做出巨大贡献。

随着我们在国内推进这一议程，政府继续与盟友和合作伙伴就这些承诺和人工智能政策进行接触。在制定这些承诺时，政府与澳大利亚、巴西、加拿大、智利、法国、德国、印度、以色列、意大利、日本、肯尼亚、墨西哥、荷兰、新西兰、尼日利亚、菲律宾、新加坡、韩国、阿联酋和英国进行了磋商。这些承诺补充了日本对七国集团广岛进程的领导作用、英国人工智能安全峰会以及印度作为全球人工智能伙伴关系主席的领导作用。

​Read More