AI遇上史上最大规模的大选年，选举还能靠谱吗？

【全球AI战略洞察】栏目由清华大学人工智能国际治理研究院推出，旨在通过对当前人工智能领域发生的重要信息进行“标注、提炼、解读”，剖析全球AI治理各国家间不同的战略图景，以此描绘人工智能治理领域的国际格局。

栏目主理人：刘典

复旦大学中国研究院副研究员、清华大学人工智能国际治理研究院战略与宏观研究项目主任

前言

据统计，2024年将是人类历史上最大规模的大选年，76个国家和地区将在2024年举行大选，覆盖总人口超过42亿。随着人工智能技术的快速发展，其负面应用也开始产生越来越大的危害性，其中首当其冲的就是经济与社会稳定和潜在的政治影响。2024年对于人工智能和政治都是具有潜在颠覆性影响的一年，特别是当人工智能与选举重叠时，局面似乎变得更加难以预测。

技术所造成的网络安全问题一直以来的都是政治活动的重要隐患。其中最著名的就是2016年美国大选民主党全国委员会黑客事件，该黑客事件旨在破坏希拉里·克林顿 (Hillary Clinton) 的总统竞选活动，并在选举中制造不信任感。技术的使用自始自终都是各候选人团队的重要工具。2016年剑桥分析公司获取数百万Facebook用户的个人数据，对此展开分析并根据分析的结果为2016年泰德·克鲁兹和唐纳德·特朗普的总统竞选活动提供政治广告帮助。2022年，基于大模型、大数据的生成式人工智能工具首次向公众开放，而这之后的发展更可能使在政治活动、虚假信息、数据安全互相作用下的政治选举的结果失去客观性。

01

人工智能技术

如何成为影响大选的关键工具？一是制造虚假信息和操纵公众舆论走向。人工智能驱动的机器人和算法可以在社交媒体平台上放大和传播虚假信息或假新闻。这些机器人可以生成和传播误导性内容，操纵公众舆论，并通过针对特定人群提供定制信息来影响选民行为。网络安全公司 Arctic Wolf 的首席信息安全官 Adam Marré 表示：“通过使用人工智能和社交媒体等技术来制造不和、混乱和混乱，比弄清楚如何侵入政府系统要容易得多。”例如，借助生成式人工智能，网络钓鱼电子邮件变得更加复杂和难以检测。制造虚假信息最大的隐患实际是各种各样的选举阴谋论说法，这些虚假的阴谋论会很有效地煽动部分群体的情绪，造成民意的变化和冲突，加强群体和种族对立情绪，甚至会引发暴力事件，比如2021年美国国会大厦袭击事件。同时，虚假信息的影响也不止传播有关政治候选人的谣言。向选民发送的电子邮件可能包含错误的投票日期、说明投票站已关闭的消息或选民将收到邮寄选票的错误确认。二是进行微观目标定位和选民精准分析。人工智能可以分析大量数据以创建详细的选民资料。拥有人工智能工具的竞选团队将会分析选民心理和需求，并利用这些信息轻易地创造并向选民发送个性化的政治信息，从而可能影响他们的观点或投票行为。正如在2016年剑桥分析事件中所体现的那样，大数据分析和精准推送将会成为有力的竞选工具，搭配上人工智能快速精准生成和互动的功能，将会给选民创造更立体化和虚假的体验。一方面，老牌的社会媒体已经在加强自身数据安全问题。Meta （Facebook、Instagram 和 WhatsApp的母公司）在11 月的一篇文章中表示，它目前处于有利地位，可以确保其平台数据和活动不会对选举造成不公平影响。另一方面，TikTok等较新的平台很可能会开始在政治内容中发挥更大的作用。时事通讯初创公司Substack上个月表示，不会在其平台上禁止纳粹符号和极端主义言论。也有政客们正在计划在Twitch上进行直播活动，Twitch上还将举办人工智能生成的拜登总统和前总统唐纳德·J·特朗普之间的辩论。三是生成深度造假和误导性的政治宣传内容。竞选人团队、黑客、甚至普通民众都有可能通过创建人工智能生成的深度造假视频或音频剪辑来传播有关候选人的虚假信息或有害内容，进一步加深公众对于选举的困惑或不信任。在民主选举中，选民对于候选人和社会的信任是一切的基石。而新技术造成的最大威胁就是从整体上伤害了这种对社会的信任感。而基于人工智能工具大量生成的深度造假内容恰恰伤害的就是这种民众整体的信任感，从无法辨别虚假信息，进一步至放弃辨别虚假或是真实的信息。其中最严重的影响可能是选民参与选举率的下降或者是对于候选人的错误认知。生成式人工智能仅占人们在网上看到的内容的一小部分，但会导致对所有其他内容的怀疑。在土耳其，据称涉及总统候选人穆哈雷姆·因斯的性爱录像被公开。但他本人声称该视频是深度伪造的，引起公众对其真实性的怀疑。谷歌前首席执行官、Schmidt Futures 联合创始人埃里克·施密特 (Eric Schmidt) 表示，围绕2024年大选的错误信息是人工智能最大的短期危险之一。Meta的打击错误信息的团队已准备好推出一个花了半年时间构建的关键事实检查工具。新功能将允许美联社和路透社等第三方事实核查机构以及可信的专家在Facebook可疑文章的顶部添加评论，以验证其可信度。四是利用新闻推送中的算法偏见。社交媒体平台使用的人工智能算法可能会无意中宣扬有偏见或两极分化的内容，强化现有信念或产生限制不同观点曝光的”信息茧房”。算法可能会无意中偏向某些来源或类型的内容。这种偏见可能会导致与政治候选人或问题相关的信息分布不均。如果某些候选人或观点由于算法偏差而受到较少关注，则可能会影响选民的意识和决策。同时，算法通常会优先考虑产生高参与度的内容，例如点赞、评论和分享。因此，耸人听闻或两极分化的内容（无论其准确性或可信度如何）可能会被优先考虑以增加用户互动。这可能会导致与选举候选人或问题相关的分裂或误导性信息被放大，从而影响公众舆论。五是提高与选民互动的效率。人工智能工具可以为候选人团队接听选民电话、与选民互动，大大提高传统的竞选团队工作效率。芝加哥大学和斯坦福大学的一份报告称，人工智能“为民主治理带来了希望” 。因为以政治为重点的聊天机器人可以向选民通报关键问题，并更好地将选民与民选官员联系起来。美国宾夕法尼亚州民主党众议院候选人沙梅因·丹尼尔斯 (Shamaine Daniels) 最近推出了一个名为阿什利 (Ashley) 的人工智能志愿者呼叫程序，向选民介绍丹尼尔斯的竞选活动，并询问选民哪些问题对他们来说很重要。纽约市市长埃里克·亚当斯 (Eric Adams)因使用人工智能以多种他不会说的语言（包括西班牙语、意第绪语和中文）给纽约居民打电话而受到一些批评。这些人工智能电话是纽约市人工智能行动计划的一部分，该计划将人工智能电话作为向居民提供和推广服务的一种方式。目前，人工智能正以难以想象的速度改变着传统竞选工具，原有的规则漏洞被不断放大，但问题是即使人们意识到了这样的规则漏洞，也很难给出行之有效的方式解决。即使是美国，地方选举办公室也缺乏人手和资金解决人工智能所带来的隐患，更别说其他本就存在制度不公平和政府能力有限的国家和地区。Arctic Wolf周二发布的一项调查显示，超过三分之一的美国州和地方政府领导人表示，他们的预算在某种程度上或非常不足以解决即将到来的选举的网络安全问题。非营利性政策机构布伦南司法中心高级主任劳伦斯·诺登 (Lawrence Norden) 表示，选举办公室传统上人手不足且工作过度，许多办公室与其他部门共享IT人员，或者根本没有IT人员。他们的预算本就十分有限，需要考虑到各种选举产品、人员和服务的费用，包括投票工作人员的支出、投票设备、纸质选票、邮寄选票追踪器，甚至人身安全问题。

02

大选危矣：

阿根廷的人工智能总统大选阿根廷是总统竞选中人工智能武器化的第一个案例。据纽约时报报道，2022年11月，阿根廷右翼自由主义者哈维尔·米雷 (Javier Milei)在总统竞选中大量使用人工智能工具，利用X（Twitter）等平台，将他的竞争对手表述为共产党人和皇帝，并最终以300万票的大优势获胜。在他10月31日发布的X推文中，哈维尔·米雷利用人工智能工具生成一幅他的竞争对手的列宁式共产党人形象并带有深刻法西斯色彩的图片，并附上文字指出他竞争对手的政策问题。该推文在网络上产生了巨大的影响。

哈维尔·米雷2023年10月31日发布的竞选推文附图阿根廷的选举成功成为世界上第一个人工智能竞选的试验场，两位最终候选人及其支持者利用该技术来修改现有的图像和视频，或者创建其他图像和视频来攻击对手。其中包括但不限于使用人工智能人工智生成深度造假的对手信息，并将它们放入著名的电影和表情包中。纽约时报声称，候选人塞尔吉奥·马萨的竞选团队创建了一个人工智能自动化系统，可以创建许多选举主要参与者（候选人、竞选伙伴、政治盟友）做各种各样事情的图像和视频。马萨将利他的对手米雷——一位极右自由主义经济学家和以脾气暴躁而闻名的电视名人——描述为不稳定的人物，利用人工智能技术将他篡改进《发条橙》和《拉斯维加斯的恐惧与厌恶》等电影剧照中。在阿根廷的总统大选中，人工智能技术的使用成为备受瞩目的现象。一方面，人工智能技术降低了各候选人竞选工作的成本，节省了制图、广告等类似传统服务及相关人员的费用。也提高了选民与候选人创建连接的效率和方式。降低竞选成本、提高普通人的竞选效率本质上是有利于公平竞选的因素之一，它可以减少候选人对于利益集团和资本的依赖。另一方面，人工智能技术也为诽谤候选人、加大煽动暴力提供了条件。同时，由于人工智能制图的便捷，政治选举也表现出了娱乐化的趋势。

阿根廷总统大选候选人塞尔吉奥·马萨的人工智能生成图片同样的事件在美国也正在发生。2023年2月份芝加哥市四人初选前一条视频迅速在网络走红，视频中是一个支持对警察暴行采取自由放任态度的声音讲到，“在我那个时代，如果一名警察杀死17或18人，也不会有人给予什么关注”。视频中的声音据称属于芝加哥市长候选人保罗·瓦拉斯（Paul Vallas），但最后证明，该视频是生成式人工智能的产物。虽然后面被澄清，但是它对选民心理的影响已经造成，并且难以评估。4月，共和党全国委员会在一则广告中使用了人工智能图像，展示了如果拜登连任的话未来会是什么样子，其中包括人工智能生成的美国和墨西哥边境涌入大量移民。

03

2024年美国大选：

应对新技术的一次尝试2023年，美国中央情报局和国土安全部均发布警告称，俄罗斯和伊朗等对手国家正在使用生成式人工智能来攻击美国的选举基础设施和流程。人工智能已经成为美国大选前最受关注的政治和社会问题之一。在YouGov 8 月份的一项调查中，85% 的美国公民表示，他们“非常”或“有些”担心误导性人工智能视频和音频的传播，78%的人担心人工智能会促进政治宣传的传播。2023年11月，Meta 推出了一项政策，禁止广告商从2024年开始使用该公司的生成式人工智能软件在Facebook和Instagram上制作政治广告。该政策还要求广告商披露在创建真人或假人的图像、视频或音频时使用第三方人工智能软件的情况。广告商还必须披露广告中描述的事件是否是虚假的、经过篡改的或真实的但没有“真实”图像、视频或音频的。目前，美国立法者已经着手开始对人工智能技术进行立法干预。2023年颁布的每一项人工智能运动法案都获得了一定程度的跨党派支持。美国多个州已通过立法，禁止或要求披露政治深度造假，包括加利福尼亚州、密歇根州、明尼苏达州、德克萨斯州和华盛顿州。纽约州、伊利诺伊州、新泽西州和肯塔基州正在考虑立法。亚利桑那州选举官员在12月进行了为期两天的预演，旨在帮助他们发现并应对深度伪造视频。目前美国立法者限制人工智能干预主要包括两种方法。一种方法是完全禁止该技术在选举和竞选活动中使用。另一种方法是要求对人工智能生成的内容提供免责声明，类似于披露谁为政治广告付费。但立法者面临着两个挑战，一个是如何定义有害的人工智能技术。立法者希望在一个任期内尽可能多地涵盖所有内容，同时忽略具体案例。另一个挑战是确定人工智能的使用何时会触发法律限制的阈值。从文本自动更正到视频剪辑修改，哪种人工智能会触犯法律将成为立法者考虑到主要问题。同时，对于美国立法者来说，如何平衡安全与权利也是一个需要考虑的主题。如何在限制人工智能技术的同时保证第一修正案的言论自由权？对于一些立法者来说，民众使用人工智能可能有合理的理由，比如作为创作政治讽刺的工具。但如何限制它的影响呢？因此，不少人提出了疑问，人工智能时代来临之际，民主是否还能幸存呢？目前看来，人工智能时代许多原本的制度问题可能存在“降格”为技术问题的风险。换句话说，过去国家和社会通过制度设置来平衡两种价值取向（如公平与平等），但人工智能技术的出现导致许多原有的制度设置不再能应对社会场景的变化，反而人们更加依赖通过技术手段和针对技术的法条标准来优先或者平衡价值取向问题。由于人工智能技术的出现和应用，立法者过去考虑的是通过设计和完善一套议会代表制的制度促进民主，加以党派、利益集团、选区等元素，通过保障和增强竞选人（集团）间的竞争来实现政治上的平衡，但现在人工智能技术同时增强了竞争也破坏了制度原有的平衡，因此立法者尝试通过限制技术应用来维护现存制度的完整性。如在阿根廷大选中体现的那样，人工智能技术帮助非传统的政治人物增强了政治手段并技术化了选民心理和拉票策略，但放任了政治极化、社会不信任、群体心理操控、阶级矛盾扩大等社会问题。原本的制度设计是基于传统或者说是非数字时代的技术手段之上形成的，因此以人工智能为代表的新技术明显撕裂了许多原本存在也创造了新的制度和社会漏洞。比如，大数据驱动的人工智能分析明显突破了传统的竞选策略分析，更加精准的预测选民心理和需求，制定了更具有针对性的宣传和政治策略，但这是否会导致政客政策目标的确定化和极端化呢？

参考：

https://www.brennancenter.org/our-work/analysis-opinion/how-ai-puts-elections-risk-and-needed-safeguards

https://www.axios.com/2024/01/03/ai-elections-politics-chatbots-regulation

https://www.cbs58.com/news/lawmakers-propose-labeling-political-ads-that-use-ai

https://www.ncsl.org/state-legislatures-news/details/challenges-ahead-for-lawmakers-seeking-to-legislate-ai-in-campaigns

https://www.deseret.com/opinion/2024/1/8/24027200/ai-election-interference-protection-slovakia

https://fortune.com/2024/01/09/ai-cyber-security-2024-election-disinformation/

https://www.forbes.com/sites/britneynguyen/2023/12/13/2024-candidates-are-using-ai-in-their-campaigns-heres-how-to-spot-it/?sh=6c14ef8ac272

https://www.nytimes.com/2023/11/15/world/americas/argentina-election-ai-milei-massa.html

主理人丨刘典

撰稿丨卢的排版丨赵杨博
审校丨王祚
终审丨梁正 鲁俊群

关于我们

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。

新浪微博：@清华大学人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG