100万美元助力AI革新：OpenAI赞助全球团队共筑民主化AI未来

539 0 0

概要

OpenAI于2024年1月16日公布了其“民主输入至AI赠款项目”的更新，该项目旨在结合公众意见以更好地调整AI模型，使其符合人类价值观。项目投入百万美金,资助了10个来自全球的团队，支持他们设计和构建利用民主方法来规范AI系统的工具和想法。

全球创新团队的选取与成果

在接近1000份申请中，OpenAI选择了10个团队进行资助，每个团队获得10万美元赠款。这些团队成员来自12个不同的国家，涵盖法律、新闻学、和平建设、机器学习和社会科学研究等多个领域。在项目期间，他们开展了包括视频审议界面、AI模型众包审计平台、代表性保证的数学公式，以及将信仰映射到可用于微调模型行为的维度等不同方面的参与式参与项目。

项目中的挑战与学习

团队们在项目中遇到了诸多挑战，包括跨越数字鸿沟招募多样化参与者、产生代表多样观点的一致性输出、设计足够透明以获得公众信任的流程。研究中发现，公众意见频繁变化，强调了输入收集过程应足够周全，既要捕捉难以改变的更根本价值观，也要灵敏地检测随时间变化的观点。

向前看：实施计划与招募信息

OpenAI计划基于这些经验教训，设计一套端到端的过程，从外部利益相关者那里收集输入，并利用这些输入来训练和塑造模型行为。他们将结合研究成果与赠款团队开发的想法和原型，并正在组建一个“集体对齐”团队，由研究人员和工程师组成。该团队将负责实施收集和编码公众输入的系统，并继续与外部顾问和赠款团队合作。OpenAI同时正在招募来自不同技术背景的杰出研究工程师加入这一创新工作。