OpenAI首席执行官山姆·奥特曼(Sam Altman)刚发了篇博文,标题为Reflections(思考/反思)。
ChatGPT的第二个生日刚过去一个多月,现在我们已经进入了一个新的模型时代,这些模型能够进行复杂的推理。新的一年总是让人充满反思的情绪,我想分享一些个人的想法,回顾一下到目前为止的进展,以及我在这个过程中学到的一些东西。
随着我们越来越接近通用人工智能(AGI),此时正是审视我们公司进展的一个重要时刻。我们仍然有很多东西需要理解,仍然有很多我们不知道的东西,且一切仍然处于起步阶段。但我们比刚开始时了解得要多得多。
我们大约九年前创办了OpenAI,因为我们相信AGI是可能的,并且它有可能成为人类历史上最具影响力的技术。我们希望找出如何构建它,并使其广泛造福人类;我们很兴奋能够在历史上留下我们的印记。我们的雄心壮志异常高远,我们也坚信这一工作可能会以同样非凡的方式惠及社会。
当时,几乎没有人关心这个问题,如果有人关心,也大多是因为他们认为我们没有成功的机会。
到2022年,OpenAI还是一个安静的研究实验室,正在研究一个临时命名为“与GPT-3.5对话”的项目。(我们在命名方面可不如在研究方面那么擅长。)我们注意到人们在使用我们的API中的playground功能,开发者们似乎真的很享受与模型的对话。我们认为围绕这一体验构建一个演示会让大家看到未来的某些重要信息,也能帮助我们改进和确保模型的安全。
最后,我们还是决定将它命名为ChatGPT,并于2022年11月30日发布。
我们一直都知道,抽象地说,总有一天我们会迎来一个临界点,AI革命将由此展开。但我们并不知道那个时刻究竟是什么。让我们惊讶的是,那个时刻就是这个。
ChatGPT的发布启动了一条前所未见的增长曲线——在我们公司、在整个行业、甚至在全球范围内。我们终于看到了人工智能带来的巨大潜力,正如我们一直以来的期望,而且我们能看到更多的进展即将到来。
这并不容易。道路并不平坦,正确的选择也并不显而易见。
在过去的两年里,我们几乎从零开始围绕这项新技术建立了整家公司。没有什么可以为此训练人们,唯一的办法就是亲身去做,而当这个技术类别是全新的时,根本没有人能告诉你应该怎么做。
以如此高的速度建立一家公司,在几乎没有培训的情况下,是一个混乱的过程。通常是前进两步,后退一步(有时是前进一步,后退两步)。错误在不断纠正,但当你在做原创性工作时,根本没有手册或指南。当你在未知领域以高速度前进时,这是一种令人难以置信的体验,但对于所有参与者来说,也是极度紧张的。冲突和误解比比皆是。
这些年是我一生中最有意义、最有趣、最棒、最有挑战性、最疲惫、最有压力的——尤其是过去的两年,是最不愉快的岁月。强烈的情感是感恩;我知道,总有一天我会退休,在我们的牧场上看着植物生长,稍微有些无聊,回想起我小时候就梦想着能做这样的工作。我尽量在每个周五记住这一点,当到下午1点时有七件事情出了问题。
大约一年前的一个周五,我那天唯一出乎意料的事情就是我在一次视频通话中被解雇了,通话结束后,董事会发布了一篇博客文章宣布此事。我当时在拉斯维加斯的一间酒店房间。那一刻,几乎无法形容地感觉像是一个梦破碎了。
在没有任何预警的情况下,公开被解雇,启动了一场疯狂的几个小时,接下来又是疯狂的几天。“战争迷雾”是最奇怪的部分。我们都没能得到令人满意的答案,关于发生了什么,或者为什么会发生。
在我看来,这整个事件是由好心人——包括我自己——造成的治理失败。回望过去,我当然希望自己当时做得不一样,我也希望自己现在成为一个比一年前更好的、更有思考的领导者。
我还学到了一个重要的教训,那就是拥有一个观点多样、经验丰富的董事会在应对复杂挑战时至关重要。良好的治理需要极大的信任和信誉。我感激许多人一起努力为OpenAI建立了更强大的治理体系,使我们能够追求确保AGI惠及全人类的使命。
我最大的收获是我有太多东西值得感激,也有许多人需要感谢:感谢每一个在OpenAI工作的人,感谢选择投入时间和精力追求这个梦想的朋友们,感谢支持我们的合作伙伴和客户,感谢那些在我生活中展现出关心我的人。
我们以更团结、积极的方式重新投入工作,我为此感到非常自豪。从那时起,我们做出了我们历史上最好的研究之一。我们的每周活跃用户从约1亿人增加到了超过3亿人。最重要的是,我们继续将技术投入到世界上,似乎大家都喜欢这些技术,并且它们解决了实际问题。
九年前,我们根本不知道自己最终会成为怎样的公司;即使现在,我们也只能算是有所了解。人工智能的发展经历了许多曲折,我们预计未来还会有更多变化。
其中一些曲折充满了欢乐,一些则是艰难的。看到一系列研究奇迹的发生令人兴奋,许多曾经的质疑者也成为了坚定的支持者。我们还看到一些同事离开,成为了竞争者。随着公司扩展,团队也往往会发生更替,而OpenAI的扩展速度非常快。我认为一些这种现象是不可避免的——初创公司在每个重要的扩展阶段都会经历大量的人员更替,而在OpenAI,数字每几个月就增加几个数量级。过去两年,简直像是其他公司十年的发展。当任何公司发展得如此之快,利益自然会开始分歧。而当一个公司在一个重要行业处于领先地位时,很多人会因为各种各样的原因攻击它,特别是在他们试图与之竞争时。
我们的愿景不会改变;我们的策略将继续演变。例如,最初我们根本没想到我们需要建立一个产品公司;我们以为我们只需做出伟大的研究。我们也没想到我们会需要如此庞大的资本。现在我们有一些新的事情需要去做,而这些在几年前我们根本没能预见到,未来我们能想到的新事物几乎是无法想象的。
到目前为止,我们为自己的研究和部署成果感到自豪,并致力于继续推进安全性和利益共享的思考。我们始终认为,确保AI系统安全的最佳方式是通过逐步迭代将其发布到世界,让社会有时间适应并与技术共同进化,吸取经验,继续使技术变得更加安全。我们相信成为安全性和对齐研究(alignment research)的全球领导者,并且通过来自实际应用的反馈来引导这一研究的重要性。
我们现在有信心知道如何构建我们传统理解中的AGI。我们相信,到了2025年,我们可能会看到首批AI代理“加入工作队伍”,并在实质上改变公司的产出。我们继续相信,将优秀的工具逐步交到人们手中,最终会带来伟大且广泛的成果。
我们开始将目光转向更远的目标,朝着真正意义上的超级智能前进。我们热爱当前的产品,但我们是为了辉煌的未来而在这里。拥有超级智能,我们将能做任何事情。超级智能工具将极大地加速科学发现和创新,超越我们独立能力的范畴,并反过来大幅增加财富和繁荣。
这现在听起来像是科幻,甚至有点疯狂。没关系——我们曾经也走到过这一步,并且对此感到无比自在。我们非常有信心,在接下来的几年里,大家都会看到我们所见到的,并且认识到采取极大的谨慎,同时最大化广泛利益和赋能的重要性。考虑到我们工作的可能性,OpenAI不能成为一个普通公司。
能够参与这项工作,是多么幸运和谦卑的一件事。