近期，Sam Altman参加崔娃（Trevor Noah）的访谈节目（Sam Altman Speaks Out About What Happened at OpenAI | What Now? with Trevor Noah Podcast），访谈内容丰富，涵盖了他从被解雇到回归 OpenAI 的个人感受、OpenAI 的使命、人工智能（AI）和人工通用智能（AGI）的发展、以及公司治理和资本压力下的伦理挑战。
访谈中，Altman 展现了他对 OpenAI 未来的坚定信心，同时他也意识到在资本压力下，如何保持公司的使命和伦理是一个巨大的挑战。他对 AI 技术的未来充满希望，特别是个人化 GPT 和 AGI 的实现，并认为这些技术有可能彻底改变社会的运作方式。然而，他也保持着高度的警惕，确保这些技术的开发和部署能够安全进行，并为全人类带来广泛的利益。
@WhatNowPodcast
1. Sam Altman 被解雇及重新回归 OpenAI
- 解雇事件回顾：Sam Altman 突然被 OpenAI 董事会解雇，这一消息不仅震惊了科技界，也在公司内部引发了剧烈反响。五天后，OpenAI 大多数员工（747 名中的 770 名）联名致信董事会，表达他们对 Altman 的支持。这封信成为了公司员工对董事会不满的直接体现，凸显了 Altman 在公司内部的核心地位。
- 重返 CEO 之位：解雇后仅一天，董事会的一些成员就联系 Altman，讨论他是否愿意回到 OpenAI 担任 CEO。Altman 形容这一时刻为自己提供了一个清晰的答案，即他依然对公司和其使命有着强烈的热情。他提到，虽然自己情绪复杂，但最后的决定是明确的，他非常热爱 OpenAI 的使命和员工团队，认为回归是正确的选择。
2. 对 OpenAI 使命的热爱与情感波动
- 对公司使命的深厚情感：Altman 强调，OpenAI 的使命是推动 AI 和 AGI 的发展，并确保这些技术的安全性和广泛的社会利益分配。在经历了解雇事件后，他更清晰地意识到自己对公司、使命以及员工的深厚感情。他表示，这场危机让他更加坚定了要继续推动 OpenAI 使命的决心。
- 情感波动：Altman 提到，这场解雇对他来说是一种“非常痛苦且不公平”的经历。他将这次经历比作父亲去世时的感受，都是突然的失控感和痛苦的混乱。Altman 强调，这不仅是职业上的打击，更像是失去了一部分自己，因为 OpenAI 的发展已经成为他生命中的重要部分。
3. AGI 的未来与安全挑战
- AGI 的发展预期：Altman 在访谈中讨论了 AGI（通用人工智能）的发展前景。他认为 AGI 将最终被开发出来，但其短期内对世界的影响可能没有人们预期的那么大。他指出，社会和经济系统存在很强的惯性，因此即使 AGI 实现，也不会立刻改变一切，变革将是逐渐的过程。
- 安全与谨慎部署：他特别强调了 OpenAI 的安全措施，确保每个新 AI 系统的推出都经过严格的审查。例如，GPT-4 在完成技术训练后，OpenAI 团队花了八个月时间进行安全测试和调整，确保系统上线时不会对社会造成负面影响。Altman 解释说，OpenAI 采取了“迭代部署”的策略，这种方法可以让社会逐步适应新的技术，而不是突然面对巨大的技术冲击。
4. AI 技术的逐步部署与社会适应
- 逐步部署的好处：Altman 强烈支持逐步部署 AI 技术，他认为这种方法使得社会能够更好地适应和理解 AI 技术的影响。他提到，GPT-4 的发布是 AI 发展的一个关键时刻，尤其是 ChatGPT 界面的普及，使得公众对 AI 的理解从之前的模糊概念变得更加具体。虽然这项技术还远未达到完美，但其逐步演进已经显著改变了人们的生活方式。
- AI 对日常生活的影响：Altman 提到，人们对 GPT-4 的反应是复杂的。一开始，人们对这一技术的潜力感到惊讶，但随后，很多人迅速适应并继续过着日常生活。他认为，这种社会的适应性是“非常健康的”，可以帮助人们更好地过渡到 AI 驱动的未来。
5. 资本压力与 OpenAI 的使命冲突
- 资本与伦理之间的平衡：Altman 承认，OpenAI 需要面对资本的现实，因为开发和训练大规模 AI 系统需要巨额资金。他解释说，尽管 OpenAI 的初衷是以伦理为主导，但要继续推动 AI 的前沿发展，必须在资本市场中取得足够的资金支持。他也承认，资本/资本主义有其自身的局限性和缺陷，尤其是在科技公司中，但目前它仍然是支持创新的最佳方式。
- 公司治理的变革需求：Altman 表示，OpenAI 的治理结构需要进一步改革，尤其是在董事会的多样性方面。他承诺，未来董事会将更多元化，确保不同利益相关方的声音都能被听到。他也强调，OpenAI 的使命不仅是开发 AGI，更是确保这些技术的利益能够广泛传播并且伴随着安全性提升。
6. AI 技术的规模化挑战
- 技术规模化的意外发现：Altman 讨论了 OpenAI 在扩大 AI 技术规模方面的经验。他提到，尽管他们早期意识到扩展 AI 系统的重要性，但没有预料到实际操作中的巨大成本。随着模型的不断扩大，计算需求和开发成本也急剧增加，这对 OpenAI 未来的计划提出了新的挑战。然而，他坚信，规模化往往会带来意想不到的积极效应，比如在 AI 模型、核聚变技术等领域，随着规模的扩大，技术的效果会变得更加显著。
- 对大规模计算的需求：他分享了自己对扩展 AI 系统计算能力的看法，认为未来的系统将需要前所未有的计算资源。他指出，尽管 OpenAI 早期低估了这一需求，但现在公司已经深刻认识到需要继续投资于计算基础设施，以确保未来 AI 模型的顺利发展。
7. 对 AGI 实现的思考与定义
- AGI 的模糊定义：Altman 解释了 AGI 的概念，他指出，AGI 的定义在公众和专家之间存在分歧。对某些人来说，AGI 代表能够执行人类绝大多数工作的系统；而对另一些人来说，AGI 是一种能够推动科学发现的新型智能系统。Altman 个人认为，当 OpenAI 开发出能够帮助发现新物理定律的 AI 系统时，AGI 的目标才算真正实现。
- 个人对 AGI 的判断标准：Altman 对 AGI 的判断标准是，当系统能够帮助科学家进行新的科学发现，特别是物理学领域的创新时，才可以被称为 AGI。他强调，这一目标虽然可能看起来遥远，但随着 AI 技术的进步，逐渐实现这一目标是可能的。他还提到，AGI 实现后，虽然会带来巨大变革，但这些变化将是渐进的。
8. 未来发展展望与个人化 GPT
- 个人 GPT 的前景：Altman 提出了“个人 GPT”的概念，即未来每个人都可以拥有一个专门为其需求量身定制的 GPT 系统。这种系统将能够学习用户的个人数据，帮助他们完成任务或做出决策。他认为，这种个性化的 GPT 系统将在未来几年内成为一个重要的趋势。
- 技术的不可预测性与不断进步：Altman 提到，AI 技术的发展常常带来意外的惊喜，OpenAI 的研发团队也经常被技术的进步所震撼。然而，随着技术逐渐成熟，未来的惊讶程度可能会逐渐减少。他强调，未来的 AI 模型将不仅仅是“好用”的工具，而是能够为人类带来深远影响的变革力量。
P.S., 近日，Altman发表了一篇播客文章The Intelligence Age（智能时代）：
在未来几十年里，我们将能够做出一些对我们祖父母来说曾经看起来像魔法的事情。
这一现象并不新鲜，但会加速发展。随着时间的推移，人们的能力显著增强；我们现在已经能够实现一些前人认为不可能的事情。
我们的能力增强并不是因为基因的变化，而是因为我们得益于社会基础设施的智能程度远超我们个人；从某种重要意义上讲，社会本身是一种高级智能。我们的祖父母以及更早一代人建造并成就了伟大的事物。他们为人类进步的支架做出了贡献，而我们都从中受益。人工智能将为人们提供解决难题的工具，帮助我们添加新的支撑点，这些支撑点是我们自己无法想象出来的。进步的故事将继续下去，我们的孩子将能够做到我们无法做到的事情。
这一切不会一下子发生，但我们很快将能够与人工智能合作，帮助我们完成比没有人工智能时更多的工作；最终，我们每个人都可以拥有一个由不同领域的虚拟专家组成的个人AI团队，共同创造几乎所有我们能想象的东西。我们的孩子将拥有能够提供个性化教学的虚拟导师，覆盖任何学科、任何语言，并以他们需要的任何速度进行学习。我们可以想象类似的想法来改善医疗保健、创造任何人能想象的软件等等。
凭借这些新能力，我们可以实现今天似乎难以想象的共同繁荣；未来，每个人的生活都可以比现在的任何人的生活更美好。仅仅繁荣并不一定能使人快乐——有很多痛苦的富人——但这将显著改善全球人们的生活。
以下是观察人类历史的一种狭隘视角：经过数千年的科学发现和技术进步的积累，我们已经学会了如何融化沙子，添加一些杂质，以惊人的精度在极小的规模上排列这些材料，给它们通电，最终形成能够创造越来越强大人工智能的系统。
这可能是迄今为止历史上最重要的事实。我们可能在几千天内获得超级智能（！）；这可能需要更长时间，但我相信我们一定会到达那一步。
我们是如何走到繁荣下一个飞跃的门口的？
用三个字概括：深度学习有效（deep learning worked）。
用十五个字概括：深度学习有效，随着规模不断改善，我们投入了越来越多的资源。
这就是全部；人类发现了一种算法，能够真正学习任何数据分布（或者说，生成任何数据分布的潜在“规则”）。在惊人的精度上，计算和数据越多，它在帮助人们解决难题方面的表现就越好。我发现，无论我花多长时间思考这一点，我都无法真正理解其重要性。
我们仍然有很多细节需要解决，但分心于任何特定的挑战都是一个错误。深度学习有效，我们将解决剩余的问题。我们可以谈论许多可能发生的事情，但最重要的一点是，人工智能将随着规模的扩大而变得更好，这将给全球人民的生活带来实质性的改善。
人工智能模型将很快作为自主个人助手，代表我们执行特定任务，例如协调医疗护理。进一步的发展阶段，人工智能系统将变得如此强大，以至于帮助我们创造更好的下一代系统，并在各个领域推动科学进步。
技术带领我们从石器时代走到农业时代，再到工业时代。从这里到智能时代的道路由计算、能源和人类意志铺成。
如果我们想将人工智能交给尽可能多的人，我们需要降低计算成本，使其丰盈（这需要大量的能源和芯片）。如果我们不建立足够的基础设施，人工智能将成为一个非常有限的资源，争夺它的战争将爆发，而它主要会成为富人的工具。
我们需要明智地行动，但要有信心。智能时代的到来是一个重大的发展，面临着非常复杂且风险极高的挑战。这不会是一个完全积极的故事，但其潜在的好处是如此巨大，以至于我们有责任为自己和未来找出如何应对面前的风险。
我相信未来将是如此光明，以至于没人能通过现在的文字来公正地描述它；智能时代的一个定义特征将是巨大的繁荣。
尽管这一切将逐步发生，但惊人的胜利——修复气候、建立太空殖民地、发现所有物理学——最终将变得司空见惯。凭借几乎无限的智能和丰富的能源——产生伟大想法的能力，以及实现它们的能力——我们可以做很多事情。
正如我们在其他技术中看到的那样，也会出现一些负面影响，我们需要现在就开始努力，以最大化人工智能的益处，同时最小化其危害。举一个例子，我们预计这种技术将在未来几年内对劳动市场产生重大变化（好与坏），但大多数工作将比大多数人想象的变动得更慢，我不担心我们会用尽事情去做（即使它们今天看起来不像“真实的工作”）。人们有一种与生俱来的创造欲和相互帮助的愿望，而人工智能将使我们前所未有地增强自身能力。作为一个社会，我们将回到一个扩展的世界中，再次专注于进行正和博弈。
我们今天所做的许多工作在几百年前可能被视为微不足道的时间浪费，但没有人会回望过去，渴望成为一名点灯人。如果一个点灯人能够看到今天的世界，他会认为周围的繁荣是不可想象的。如果我们能够快进一百年，今天的繁荣也会显得同样不可想象。