OpenAI资助10个团队

​

今日凌晨，OpenAI 官方博客发文表示资助了来自世界各地的 10 个团队，这些团队设计想法和工具以共同治理 AI，OpenAI 呼吁更多研究人员和工程师继续加入这项工作。

今年 5 月，OpenAI 在官网宣布了 Democratic Inputs to AI 资助计划。计划遴选10个团队授予 10 笔 100,000 美元的赠款，以资助在法律规定的范围内建立民主程序以决定 AI 系统应遵循哪些规则的实验。

有着不同的背景和方法：本次被选中的团队有来自 12 个不同国家的成员，他们的专业知识涵盖各个领域，包括法律、新闻、和平建设、机器学习和社会科学研究。这些项目涵盖不同方面：例如新颖的视频审议界面、人工智能模型众包审计平台、表示保证的数学公式，以及将信念映射到可用于微调模型行为的维度的方法。

值得注意的是，在几乎所有项目中，人工智能本身都以定制聊天界面、语音到文本转录、数据合成等形式作为流程的一部分发挥了有用的作用。

OpenAI 分享了这10个团队为该资助计划创建的代码，并简要总结了10个团队中每个团队所完成的工作：

1. 人工智能政策判例法

团队围绕 AI 交互场景创建一个强大的案例库，该案例库可用于通过让专家、非专业人士和关键利益相关者民主参与的流程做出受判例法启发的判断。

报告地址：https://social.cs.washington.edu/case-law-ai-policy/

2. 民主政策制定的集体对话

制定反映知情公众意愿的政策，利用集体对话有效地扩大民主审议规模并找到共识领域。‘

报告地址：https://arxiv.org/pdf/2311.02242.pdf

3. 大规模审议：社会民主对人工智能的投入

通过人工智能促进的视频通话在小组对话中实现民主审议。

项目地址：https://findcommonground.online/top-level-pages/final-report-democratic-inputs-to-ai

4. 民主微调

在聊天对话中从参与者那里引出价值观，以创建可用于微调模型的价值道德图。

项目地址：https://meaningalignment.substack.com/p/the-first-moral-graph

5. Energize AI：Aligned – 一个协调平台

制定指南，使人工智能模型与实时、大规模参与和“社区笔记”算法保持一致。

项目地址：https://energize.ai/wp-content/uploads/2023/11/openai.pdf

6. 生成性社会选择

将大量自由文本观点提炼成简明扼要的模板，使用社会选择理论的数学论证来保证公平代表https://procaccia.info/GenSoc_OpenAI_report.pdf

7. Inclusive.AI：让服务不足的人群参与人工智能的民主决策

使用具有去中心化治理机制（例如 DAO）的平台来促进与 AI 相关的决策过程，从而为服务不足的群体赋权。项目地址：https://socialcomputing.web.illinois.edu/images/Report-InclusiveAI.pdf

8. 让 AI 透明化和负责任 by Rappler

通过链接的线下和线上流程，讨论和理解参与者对复杂、两极分化主题的看法。项目地址https://www.rappler.com/technology/features/generative-ai-use-enriching-democratic-consultations/

9.Ubuntu-AI：公平和包容的模型训练平台

将价值返还给那些帮助创造它的人，同时促进LLM发展并确保对非洲创造性工作更具包容性的知识。项目地址：https://www.researchgate.net/publication/374870830_Interim_Report_for_Ubuntu-AI_A_Bottom-up_Approach_to_More_Democratic_and_Equitable_Training_and_Outcomes_for_Machine_Learning

10.  vTaiwan和查塔姆研究所：在递归公众之间架起桥梁

使用经过调整的 vTaiwan 方法为 AI 创建一个递归的、连接的参与过程。项目地址：https://vtaiwan-openai-2023.vercel.app/Report_%20Recursive%20Public.pdf

​Read More