【AIIG观察第204期】海外智库：联合国儿童基金会专员：应负责任地开发生成式人工智能，并确保儿童权益

点击蓝字 关注我们

海外智库观察

联合国儿童基金会专员：

应负责任地开发生成式人工智能，并确保儿童权益

2023年8月22日，世界经济论坛（World Economic Forum，WEF）发布了由联合国儿童基金会数字展望与政策专员Steven Vosloo撰写的《生成式人工智能将如何影响儿童?对答案的需求从未像现在这样迫切》（How will generative AI affect children? The need for answers has never been more urgent）。文章指出，生成式人工智能对儿童发展带来了广泛的影响，既充满机遇，也存在潜在挑战。作者呼吁政策制定者、科技公司以及其他致力于保护儿童成长的机构采取行动，负责任地开发人工智能，以维护儿童的权利。

首先，作者指出了关注人工智能对儿童影响的重要性并介绍了何为生成式人工智能。生成式人工智能已经将人工智能的算法和数据运算推到了数字体验的前沿和中心，其快速应用，例如帮助儿童完成家庭作业，选择衣着等，引发了关于人工智能更广泛影响的讨论。考虑到生成式人工智能发展和普及速度，以及儿童和青少年是上网时间最长的人群，了解生成式人工智能对该群体的影响至关重要。生成式人工智能通常用于生成模仿人类输出的内容，如文本、图像和计算机代码，其也能完成复杂的规划型任务，如支持新型药物开发，并以新方式提高机器人的性能。初步调查显示，使用生成式人工智能的儿童人数多于成人，人工智能也已经以推荐算法或自动决策系统的形式成为儿童生活的一部分。业界对生成式人工智能的欣然接受更是表明，其很快将成为儿童数字环境中的一个重要特征。

其次，作者分析了生成式人工智能对儿童发展带来的机遇和挑战，和其可能带来更为广泛的影响。一方面，生成式人工智能可以进行作业辅导、解释困难概念、以及制定适应儿童学习风格和速度的个性化学习方案。儿童还可以利用人工智能进行艺术创作、音乐创作、编写故事，并在无编码技能或编码技能较低的阶段学习编写软件，从而培养创造力。残疾儿童可以通过文本、语音或图像以全新的方式与数字系统进行交互和共同创作。学者发现，当儿童直接使用这些系统时，生成式人工智能还可以帮助他们及早发现健康和发育问题。这种分析和生成能力还可以更广泛地应用于各行各业，以提高效率并开发对儿童产生积极影响的解决方案。另一方面，生成式人工智能也可能被以牺牲儿童的发展前景和个人福祉为代价地方式恶意利用，或在不经意间造成伤害或全社会的混乱。事实证明，生成式人工智能可以立即创建基于文本且更具说服力的虚假信息，这些信息与人类生成的内容无异，而且更具有说服力。例如，在某些情况下，人工智能生成的图像甚至看起来比真实图像更可信。生成式人工智能具备的这些能力可以扩大其影响力范围并降低成本。而儿童的认知能力仍处于发育阶段，特别容易受到错误或虚假信息的影响。生成式人工智能的长期使用也会给儿童带来一些问题，例如，已有研究表明，鉴于聊天机器人的语气像人，与这些系统互动可能会对儿童的智力、认知发展和对社会行为的看法和归因产生影响。此外，许多人工智能系统存在的固有偏见会如何影响儿童的世界观？当儿童与生成式人工智能系统互动，并在对话和互动中分享他们的个人数据时，对儿童的隐私和数据保护是否还有意义？这些问题都值得探究与考量。澳大利亚电子安全专员对此认为，在这种情况下，需要更多地考虑儿童数据的收集、使用和存储。

由于儿童一生都将与人工智能系统打交道，他们成长时期与这些系统的互动可能会产生持久的影响，作者呼吁各方采取行动，以保护儿童免受人工智能的负面影响。现有的人工智能资源为确保人工智能可以负责任地造福于儿童提供了指导方向。例如，联合国儿童基金会的《人工智能造福儿童政策指南（Policy Guidance on AI for Children）》提出了在人工智能政策和实践中维护儿童权利的九项要求；世界经济论坛的《人工智能造福儿童工具包（AI for Children toolkit）》则为科技公司和家长提供了建议。作者还指出，生成式人工智能的进步意味着必须在新的背景下解释现有政策，可能需要制定新的指南和法规。因此，作者呼吁政策制定者、科技公司和其他致力于保护儿童和后代的机构立刻采取行动，支持对生成式人工智能影响的研究，并一起参与共建前瞻性工作，以采取更好的预见性治理对策。此外，还需要提高透明度，让人工智能供应商负责任地开发人工智能，并倡导儿童权利。正如联合国秘书长安东尼奥·古特雷斯（António Guterres）所呼吁的那样，监管人工智能需要全球各国政府的全力支持。

Steven Vosloo：联合国儿童基金会数字展望与政策专员，专注于研究新兴技术、儿童与人工智能、虚假信息或数字错误信息、数字素养和平等。

原文链接：https://www.weforum.org/agenda/2023/08/generative-ai-children-need-answers/

关于我们

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。

新浪微博：@清华大学人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG