近期，Google DeepMind的联合创始人兼CEO Demis Hassabis与主持人Hannah Fry之间进行了一次播客对话访谈。讨论涵盖了AI（人工智能）领域的多个关键话题，尤其是Google DeepMind的进展和愿景。
鉴于模型中出现的如概念理解和抽象思维等意料之外的能力，Demis提到了Unreasonably Effective AI ，可译成“超乎寻常有效”的AI，或译成“不合常理地有效”的AI更符合其原意。
该播客访谈的内容概要如下：
1. DeepMind的发展历程与现状：
- 起点与演变：播客首先介绍了DeepMind的起源，提到其从一个小型AI研究实验室发展为Google AI战略的核心。自2017年以来，DeepMind从伦敦的一家专注于研究的实验室，逐渐成长为全球AI领域的重要力量。
- 核心贡献：DeepMind为AI领域做出了许多重大贡献，例如开发了AlphaFold（一种可以预测蛋白质结构的AI系统），以及推出了新的AI模型系列“Gemini”和多模态AI代理“Project Astra”。
2. AI对公众认知的影响：
- 公众兴趣的爆发：Demis讨论了AI迅速吸引公众兴趣的双刃剑效应。一方面，这增加了对AI的关注和投入；另一方面，也带来了巨大的压力和噪音，令AI领域的研究环境变得更加复杂。
- 语言模型的普及：他特别提到，像聊天机器人和大型语言模型这样的工具，使得普通公众更容易理解和接触AI技术。这些工具的普及也让AI技术更贴近大众日常生活。
3. “超乎寻常有效”的AI：
- 概念解释：Demis提出了“超乎寻常有效”的AI这一概念，指出尽管这些AI系统的架构相对简单，但它们在概念理解和抽象思维方面取得了令人惊讶的效果。
- 理解的深度：尽管这些模型并没有直接的现实世界经验或感官输入，它们通过处理大量的语言数据，能够推断出一定程度的现实世界“理解”，这是研究者们几年前所未曾预料到的。
4. AI与“基础问题”的关联：
- 基础问题：讨论了AI中的“基础问题”，即如何将抽象表示与现实世界的含义联系起来。这在经典AI系统中是一个很大的难题，但现代AI模型通过大量的语言数据，似乎能够在一定程度上弥补这一不足。
- 语言的作用：尽管这些模型仅在“语言空间”中学习，但它们仍然能够推断出许多关于现实世界的知识，这表明语言数据在一定程度上可以作为模型“基础”的替代。
5. AI的炒作与低估：
- 短期与长期的炒作：Demis谈到了AI领域的炒作问题，认为目前关于AI短期能力的炒作过多，而对于AI长期潜力，尤其是实现AGI（通用人工智能）的潜力仍然被低估。
- AGI的前景：他指出，AGI一旦实现，将会对社会产生巨大影响，可能比目前的预测要更为深远。
6. Gemini与Project Astra：
- 多模态模型：Gemini是一种多模态AI模型，能够处理语言、音频、视频、图像和代码等多种信息。Demis认为这种多模态能力是让AI更好地理解世界的关键。
- Project Astra：这是一个“通用AI代理”，可以帮助用户处理各种任务，例如记住放置眼镜的位置等实际应用场景。
7. AI与AGI的未来：
- AGI的目标：Demis谈到了实现AGI的目标及其对科学、医学和技术的深远影响。他强调，科学驱动的开发过程对于确保AGI的安全和对人类的有益性至关重要。
- 科学的重大突破：他认为AGI将在10年内实现，并有可能解决许多长期以来困扰科学界的难题。
8. AI开发中的挑战与安全性：
- 安全与伦理问题：文档中详细讨论了AI开发过程中面临的安全挑战，以及如何应对这些挑战。Demis强调了法规、国际合作以及建立安全协议的重要性，以管理强大AI系统带来的风险。
- 红队测试（Red Teaming）：在AI产品发布之前，进行红队测试，即由独立团队尝试“攻击”或“破坏”系统，以发现潜在的漏洞，这是确保AI安全性的重要手段。
9. 神经科学与AI的关系：
- 神经科学的启发：早期AI的发展受到神经科学的启发，但随着AI技术的进步，尤其是大型系统和大规模训练架构的出现，工程领域的考虑开始主导AI的发展。
- 未来的应用：尽管如此，Demis仍然认为，神经科学在未来理解和改进AI，特别是在接近AGI的过程中，可能会再次发挥重要作用。
10. 长期愿景：
- 探索宇宙的奥秘：在播客的最后，Demis谈到了AI帮助人类探索宇宙最深层次奥秘的潜力，如探索普朗克尺度（Planck scale）的物理现象。他相信，AGI可以帮助解决当前物理学中尚未理解的基本问题。
P.S., Demis Hassabis获得2024年度诺贝尔化学奖，他因在蛋白质结构预测（protein structure prediction）方面作出的贡献而获奖。
The Nobel Prize in Chemistry 2024 was awarded with one half to David Baker “for computational protein design” and the other half jointly to Demis Hassabis and John M. Jumper “for protein structure prediction”
——
2024年诺贝尔化学奖的一半授予了大卫·贝克尔，”因其在计算蛋白质设计方面的贡献”；另一半则共同授予德米斯·哈萨比斯和约翰·M·琼珀，”因其在蛋白质结构预测方面的贡献”。