近期，Sam Altman参加崔娃（Trevor Noah）的访谈节目（Sam Altman Speaks Out About What Happened at OpenAI | What Now? with Trevor Noah Podcast），访谈内容丰富，涵盖了他从被解雇到回归 OpenAI 的个人感受、OpenAI 的使命、人工智能（AI）和人工通用智能（AGI）的发展、以及公司治理和资本压力下的伦理挑战。
访谈中，Altman 展现了他对 OpenAI 未来的坚定信心，同时他也意识到在资本压力下，如何保持公司的使命和伦理是一个巨大的挑战。他对 AI 技术的未来充满希望，特别是个人化 GPT 和 AGI 的实现，并认为这些技术有可能彻底改变社会的运作方式。然而，他也保持着高度的警惕，确保这些技术的开发和部署能够安全进行，并为全人类带来广泛的利益。
@WhatNowPodcast
1. Sam Altman 被解雇及重新回归 OpenAI
- 解雇事件回顾：Sam Altman 突然被 OpenAI 董事会解雇，这一消息不仅震惊了科技界，也在公司内部引发了剧烈反响。五天后，OpenAI 大多数员工（747 名中的 770 名）联名致信董事会，表达他们对 Altman 的支持。这封信成为了公司员工对董事会不满的直接体现，凸显了 Altman 在公司内部的核心地位。
- 重返 CEO 之位：解雇后仅一天，董事会的一些成员就联系 Altman，讨论他是否愿意回到 OpenAI 担任 CEO。Altman 形容这一时刻为自己提供了一个清晰的答案，即他依然对公司和其使命有着强烈的热情。他提到，虽然自己情绪复杂，但最后的决定是明确的，他非常热爱 OpenAI 的使命和员工团队，认为回归是正确的选择。
2. 对 OpenAI 使命的热爱与情感波动
- 对公司使命的深厚情感：Altman 强调，OpenAI 的使命是推动 AI 和 AGI 的发展，并确保这些技术的安全性和广泛的社会利益分配。在经历了解雇事件后，他更清晰地意识到自己对公司、使命以及员工的深厚感情。他表示，这场危机让他更加坚定了要继续推动 OpenAI 使命的决心。
- 情感波动：Altman 提到，这场解雇对他来说是一种“非常痛苦且不公平”的经历。他将这次经历比作父亲去世时的感受，都是突然的失控感和痛苦的混乱。Altman 强调，这不仅是职业上的打击，更像是失去了一部分自己，因为 OpenAI 的发展已经成为他生命中的重要部分。
3. AGI 的未来与安全挑战
- AGI 的发展预期：Altman 在访谈中讨论了 AGI（通用人工智能）的发展前景。他认为 AGI 将最终被开发出来，但其短期内对世界的影响可能没有人们预期的那么大。他指出，社会和经济系统存在很强的惯性，因此即使 AGI 实现，也不会立刻改变一切，变革将是逐渐的过程。
- 安全与谨慎部署：他特别强调了 OpenAI 的安全措施，确保每个新 AI 系统的推出都经过严格的审查。例如，GPT-4 在完成技术训练后，OpenAI 团队花了八个月时间进行安全测试和调整，确保系统上线时不会对社会造成负面影响。Altman 解释说，OpenAI 采取了“迭代部署”的策略，这种方法可以让社会逐步适应新的技术，而不是突然面对巨大的技术冲击。
4. AI 技术的逐步部署与社会适应
- 逐步部署的好处：Altman 强烈支持逐步部署 AI 技术，他认为这种方法使得社会能够更好地适应和理解 AI 技术的影响。他提到，GPT-4 的发布是 AI 发展的一个关键时刻，尤其是 ChatGPT 界面的普及，使得公众对 AI 的理解从之前的模糊概念变得更加具体。虽然这项技术还远未达到完美，但其逐步演进已经显著改变了人们的生活方式。
- AI 对日常生活的影响：Altman 提到，人们对 GPT-4 的反应是复杂的。一开始，人们对这一技术的潜力感到惊讶，但随后，很多人迅速适应并继续过着日常生活。他认为，这种社会的适应性是“非常健康的”，可以帮助人们更好地过渡到 AI 驱动的未来。
5. 资本压力与 OpenAI 的使命冲突
- 资本与伦理之间的平衡：Altman 承认，OpenAI 需要面对资本的现实，因为开发和训练大规模 AI 系统需要巨额资金。他解释说，尽管 OpenAI 的初衷是以伦理为主导，但要继续推动 AI 的前沿发展，必须在资本市场中取得足够的资金支持。他也承认，资本/资本主义有其自身的局限性和缺陷，尤其是在科技公司中，但目前它仍然是支持创新的最佳方式。
- 公司治理的变革需求：Altman 表示，OpenAI 的治理结构需要进一步改革，尤其是在董事会的多样性方面。他承诺，未来董事会将更多元化，确保不同利益相关方的声音都能被听到。他也强调，OpenAI 的使命不仅是开发 AGI，更是确保这些技术的利益能够广泛传播并且伴随着安全性提升。
6. AI 技术的规模化挑战
- 技术规模化的意外发现：Altman 讨论了 OpenAI 在扩大 AI 技术规模方面的经验。他提到，尽管他们早期意识到扩展 AI 系统的重要性，但没有预料到实际操作中的巨大成本。随着模型的不断扩大，计算需求和开发成本也急剧增加，这对 OpenAI 未来的计划提出了新的挑战。然而，他坚信，规模化往往会带来意想不到的积极效应，比如在 AI 模型、核聚变技术等领域，随着规模的扩大，技术的效果会变得更加显著。
- 对大规模计算的需求：他分享了自己对扩展 AI 系统计算能力的看法，认为未来的系统将需要前所未有的计算资源。他指出，尽管 OpenAI 早期低估了这一需求，但现在公司已经深刻认识到需要继续投资于计算基础设施，以确保未来 AI 模型的顺利发展。
7. 对 AGI 实现的思考与定义
- AGI 的模糊定义：Altman 解释了 AGI 的概念，他指出，AGI 的定义在公众和专家之间存在分歧。对某些人来说，AGI 代表能够执行人类绝大多数工作的系统；而对另一些人来说，AGI 是一种能够推动科学发现的新型智能系统。Altman 个人认为，当 OpenAI 开发出能够帮助发现新物理定律的 AI 系统时，AGI 的目标才算真正实现。
- 个人对 AGI 的判断标准：Altman 对 AGI 的判断标准是，当系统能够帮助科学家进行新的科学发现，特别是物理学领域的创新时，才可以被称为 AGI。他强调，这一目标虽然可能看起来遥远，但随着 AI 技术的进步，逐渐实现这一目标是可能的。他还提到，AGI 实现后，虽然会带来巨大变革，但这些变化将是渐进的。
8. 未来发展展望与个人化 GPT
- 个人 GPT 的前景：Altman 提出了“个人 GPT”的概念，即未来每个人都可以拥有一个专门为其需求量身定制的 GPT 系统。这种系统将能够学习用户的个人数据，帮助他们完成任务或做出决策。他认为，这种个性化的 GPT 系统将在未来几年内成为一个重要的趋势。
- 技术的不可预测性与不断进步：Altman 提到，AI 技术的发展常常带来意外的惊喜，OpenAI 的研发团队也经常被技术的进步所震撼。然而，随着技术逐渐成熟，未来的惊讶程度可能会逐渐减少。他强调，未来的 AI 模型将不仅仅是“好用”的工具，而是能够为人类带来深远影响的变革力量。