近期，Google DeepMind的联合创始人兼CEO Demis Hassabis与主持人Hannah Fry之间进行了一次播客对话访谈。讨论涵盖了AI（人工智能）领域的多个关键话题，尤其是Google DeepMind的进展和愿景。
鉴于模型中出现的如概念理解和抽象思维等意料之外的能力，Demis提到了Unreasonably Effective AI ，可译成“超乎寻常有效”的AI，或译成“不合常理地有效”的AI更符合其原意。
该播客访谈的内容概要如下：
1. DeepMind的发展历程与现状：
- 起点与演变：播客首先介绍了DeepMind的起源，提到其从一个小型AI研究实验室发展为Google AI战略的核心。自2017年以来，DeepMind从伦敦的一家专注于研究的实验室，逐渐成长为全球AI领域的重要力量。
- 核心贡献：DeepMind为AI领域做出了许多重大贡献，例如开发了AlphaFold（一种可以预测蛋白质结构的AI系统），以及推出了新的AI模型系列“Gemini”和多模态AI代理“Project Astra”。
2. AI对公众认知的影响：
- 公众兴趣的爆发：Demis讨论了AI迅速吸引公众兴趣的双刃剑效应。一方面，这增加了对AI的关注和投入；另一方面，也带来了巨大的压力和噪音，令AI领域的研究环境变得更加复杂。
- 语言模型的普及：他特别提到，像聊天机器人和大型语言模型这样的工具，使得普通公众更容易理解和接触AI技术。这些工具的普及也让AI技术更贴近大众日常生活。
3. “超乎寻常有效”的AI：
- 概念解释：Demis提出了“超乎寻常有效”的AI这一概念，指出尽管这些AI系统的架构相对简单，但它们在概念理解和抽象思维方面取得了令人惊讶的效果。
- 理解的深度：尽管这些模型并没有直接的现实世界经验或感官输入，它们通过处理大量的语言数据，能够推断出一定程度的现实世界“理解”，这是研究者们几年前所未曾预料到的。
4. AI与“基础问题”的关联：
- 基础问题：讨论了AI中的“基础问题”，即如何将抽象表示与现实世界的含义联系起来。这在经典AI系统中是一个很大的难题，但现代AI模型通过大量的语言数据，似乎能够在一定程度上弥补这一不足。
- 语言的作用：尽管这些模型仅在“语言空间”中学习，但它们仍然能够推断出许多关于现实世界的知识，这表明语言数据在一定程度上可以作为模型“基础”的替代。
5. AI的炒作与低估：
- 短期与长期的炒作：Demis谈到了AI领域的炒作问题，认为目前关于AI短期能力的炒作过多，而对于AI长期潜力，尤其是实现AGI（通用人工智能）的潜力仍然被低估。
- AGI的前景：他指出，AGI一旦实现，将会对社会产生巨大影响，可能比目前的预测要更为深远。
6. Gemini与Project Astra：
- 多模态模型：Gemini是一种多模态AI模型，能够处理语言、音频、视频、图像和代码等多种信息。Demis认为这种多模态能力是让AI更好地理解世界的关键。
- Project Astra：这是一个“通用AI代理”，可以帮助用户处理各种任务，例如记住放置眼镜的位置等实际应用场景。
7. AI与AGI的未来：
- AGI的目标：Demis谈到了实现AGI的目标及其对科学、医学和技术的深远影响。他强调，科学驱动的开发过程对于确保AGI的安全和对人类的有益性至关重要。
- 科学的重大突破：他认为AGI将在10年内实现，并有可能解决许多长期以来困扰科学界的难题。
8. AI开发中的挑战与安全性：
- 安全与伦理问题：文档中详细讨论了AI开发过程中面临的安全挑战，以及如何应对这些挑战。Demis强调了法规、国际合作以及建立安全协议的重要性，以管理强大AI系统带来的风险。
- 红队测试（Red Teaming）：在AI产品发布之前，进行红队测试，即由独立团队尝试“攻击”或“破坏”系统，以发现潜在的漏洞，这是确保AI安全性的重要手段。
9. 神经科学与AI的关系：
- 神经科学的启发：早期AI的发展受到神经科学的启发，但随着AI技术的进步，尤其是大型系统和大规模训练架构的出现，工程领域的考虑开始主导AI的发展。
- 未来的应用：尽管如此，Demis仍然认为，神经科学在未来理解和改进AI，特别是在接近AGI的过程中，可能会再次发挥重要作用。
10. 长期愿景：
- 探索宇宙的奥秘：在播客的最后，Demis谈到了AI帮助人类探索宇宙最深层次奥秘的潜力，如探索普朗克尺度（Planck scale）的物理现象。他相信，AGI可以帮助解决当前物理学中尚未理解的基本问题。