OpenAI的公司宪章,翻译如下:
我们的宪章描述了我们执行 OpenAI 使命所遵循的原则。
这份文件反映了我们在过去两年中不断完善的策略,包括来自 OpenAI 内部和外部许多人的反馈。AGI 的实现时间表仍然不确定,但我们的宪章将在其发展过程中引导我们以全人类的最佳利益为行动指南。
OpenAI 的使命是确保通用人工智能(AGI)——即我们指的是在大多数具有经济价值的工作上超越人类的高度自主系统——能造福全人类。我们将尝试直接构建安全且有益的 AGI,但如果我们的工作能帮助他人实现这一目标,我们也认为我们的使命已得到实现。为此,我们承诺遵循以下原则:
广泛的利益分配
我们承诺利用我们在 AGI 部署中获得的任何影响力,以确保其用于全人类的利益,避免使 AI 或 AGI 的应用对人类造成伤害或过度集中权力。
我们的首要受托义务是对人类负责。我们预计需要调动大量资源来完成我们的使命,但我们将始终努力采取措施,最大限度减少员工和利益相关者之间可能会影响广泛利益的利益冲突。
长期安全
我们致力于进行必要的研究,以确保 AGI 的安全,并推动整个 AI 社区广泛采用这些研究。
我们担心 AGI 的后期开发可能会成为一场竞争性的竞赛,从而没有足够的时间采取必要的安全措施。因此,如果一个具有价值对齐和安全意识的项目在我们之前接近实现 AGI,我们承诺停止与其竞争并开始协助这个项目。我们将在具体情况下商定细节,但一个典型的触发条件可能是“在未来两年内成功的概率高于平均水平”。
技术领导地位
要有效应对 AGI 对社会的影响,OpenAI 必须处于 AI 能力的最前沿,仅依靠政策和安全倡导是不足够的。
我们相信 AI 在 AGI 之前将对社会产生广泛影响,我们将努力在那些与我们的使命和专业知识直接相关的领域中引领发展。
合作导向
我们将积极与其他研究和政策机构合作;我们寻求创建一个全球社区,共同应对 AGI 的全球挑战。
我们致力于提供有助于社会走向 AGI 的公共物品。今天,这包括发表我们的大部分 AI 研究,但我们预计未来出于安全和保障的考虑,我们将减少传统的研究发表,同时提高共享安全、政策和标准研究的重要性。