Demis Hassabis 谈 AGI、科学发现与未来挑战

Google DeepMind 联合创始人兼首席执行官 Demis Hassabis 与 Harry Stebbings 讨论通用人工智能、实现它仍需开展的研究、AI 安全、科学、能源以及工作的未来。他给出的时间表、数字估计和潜在收益都是预测或判断，而非已确立的成果。

Hassabis 将 AGI 定义为具有人类心智全部认知能力的系统。他认为大脑证明了通用智能是可能存在的。谈及时间，他说五年内出现 AGI 的可能性很大，同时强调自己的估计是一个概率分布，而非确定的日期。

他回忆，2010 年他与 Shane Legg 创立 DeepMind 时，根据算力和算法的进展推算，认为距离 AGI 大约还有 20 年。Hassabis 认为该领域总体上仍沿着这一轨迹发展。这是他的回顾性判断和预测，并非业界公认的期限。

Hassabis 说，算力是一个主要瓶颈，既影响系统扩展，也影响研究想法的测试。他把云称作工作台：研究者需要在足够的规模上实验，才能知道一个算法想法在更大的系统中是否行得通。因此，更多研究者和更多想法也会带来更高的实验需求。

被问及扩展定律是否已进入平台期时，他说答案更复杂。早期几代系统带来的提升尤其显著，如今改进速度有所放缓，但他认为增加算力仍能带来可观收益。他并没有声称每一次增加投入都会产生相同幅度的提升。

Hassabis 说，视频模型以及 Genie 这类交互式世界模型的发展，超出了他此前的预期。与此同时，他认为持续学习仍是一大缺口：部署后的系统还不善于把新信息融入训练期间学到的内容。

他说，领先实验室仍在探索如何把新学习的内容整合进现有模型。他以人类记忆巩固为类比，提出类似机制可能有用。这是一个研究设想，并非关于未来模型必须如何学习的既定解释。

Stebbings 问 DeepMind 近期产品为何似乎进步很快。Hassabis 将其归功于组织调整：研究人员和算力资源围绕共同目标集中，而非分散在多个相互竞争的项目中。他估计 Google Brain、Google Research 和 DeepMind 完成了支撑现代 AI 的约 90% 的突破；这一归属和比例是他的判断，并非独立测算的结果。

除了持续学习，Hassabis 认为记忆、长时程和分层规划，以及表现稳定性也存在未解决的问题。他形容当前系统的能力“参差不齐”：它们可能在一种表述下解决难题，换个措辞却连基础问题也答错。在他看来，更通用的智能应当减少这种能力缺口。

谈到模型商品化，Hassabis 预测领先实验室可能会进一步拉开差距，因为它们会利用工具加速研究并开发新的算法思路。他预计，反复从现有方法中获得同等收益会变得更困难。这是他作为一家领先实验室负责人作出的竞争预测。

Stebbings 说，他的投资组合公司会用前沿模型设定基准，再用开放模型以更低成本接近这一水平。Hassabis 表示 Google 支持开放科学，并举出面向小型开发者、学术界、初创公司和边缘应用的 Gemma。他预计开放模型通常落后前沿模型约一步或六个月；这一差距只是估计，并非规律。

被问及后大语言模型时代时，Hassabis 说他不同意基础模型会被取代的某些观点。他认为，仍需要进一步突破的概率大约各占一半，其中可能包括世界模型。他更有信心的判断是，未来系统会在基础模型之上构建，无论基础模型构成整个系统还是其中的关键组件。

Hassabis 希望 AGI 能成为科学和医学的强大工具，帮助开启新的科学发现时期。这是愿景和预测，并不能证明 AGI 已经存在，也不能证明任何疾病会在该时间表内得到治愈。

Stebbings 说他的母亲患有多发性硬化症，他担心药物研发和临床试验需要许多年。Hassabis 介绍，AlphaFold 项目之后分拆成立的 Isomorphic Labs 正在研究化合物设计及与药物安全相关的性质。他预测大约五至十年内会出现更完整的药物设计引擎；访谈没有确立任何疗法或临床成果。

Hassabis 提出，AI 也许可以帮助模拟人体代谢的某些方面，并根据与治疗相关的特征对患者分组。他设想监管机构最终可能利用多种药物的证据检验模型预测，并考虑调整某些步骤。这些都是有条件的研究和监管可能性，并非经过验证的临床试验或安全测试替代方案，也不是医疗建议。

谈到安全，Hassabis 区分了人对 AI 的滥用，以及让未来更自主的系统遵守预期安全约束的技术挑战。他认为监管可以在领先提供商之间确立最低标准，理想情况下还应开展国际协调。他对未来能力和风险的评估是个人判断，并不能证明某种具体故障必然发生。

他建议针对欺骗等不良行为制定基准，再开展独立评估并建立认证流程。Hassabis 说，国家级 AI 安全机构可以提供技术专长，最终由政府负责监管。这些是建议；访谈没有证明认证能够保证安全。

如果拥有一根假想的“魔法棒”，Hassabis 建议建立一个类似原子能机构的国际组织，听取研究人员、国家级机构、学术界和民间社会的意见。他还担忧 AI 系统可能以人类无法理解的形式交流。他偏好的保障措施是供讨论的想法，而不是已经确定的国际标准。

Stebbings 问 AI 导致的就业替代是否会像此前的技术转型。Hassabis 说，过去的技术冲击了一些工作，也创造了新工作，但他认为 AGI 的规模和速度可能大得多。他用“工业革命十倍的影响、十倍的速度”作比较，这只是启发性的预测，并非经过测量的预报。

Hassabis 认为，AI 的短期期待可能被过度炒作，但未来约十年的影响仍可能被低估。他希望社会能比以往工业变革时期更有效地缓解冲击。他对历史和未来的比较是概括性判断，并非对创造或消失岗位数量的计算。

被问及不平等时，他提出扩大 AI 收益所有权覆盖面的可能办法，包括让养老基金或主权财富基金投资该领域。他还呼吁思考如何通过基础设施等途径分配生产力收益。这些都是设计和权衡尚未解决的政策选项，访谈并未提供影响分析作为建议依据。

Hassabis 提到聚变、电池和材料科学可能取得的进展，以及与 Commonwealth Fusion 合作伙伴开展的工作。他预测 AI 可以帮助推动这些突破，但没有证明任何技术问题已经解决，也没有确立某种能源会按特定时间表到来。

关于 AI 的能源需求，Hassabis 认为这项技术最终节省的能源可能超过自身消耗。他估计国家电网效率可能提高 30% 至 40%，并提及天气和气候建模等其他应用。访谈没有提供该数字估计所依据的方法、基线或证据；净能源影响仍不确定。

他推测未来的能源突破可能改变气候缓解和太空旅行，其中聚变可能发挥作用。这些是长期可能性，并非无限燃料来源已经得到证明，也不能证明聚变已在他描述的用途上实现商业化。

被问及为何留在伦敦时，Hassabis 提到英国和欧洲的大学、科学人才以及发现的传统。他说，在 DeepMind 创立初期，对人才的竞争较少是一个优势。他也看重与硅谷即时潮流保持距离，因为这可能让持续、原创的研究更容易开展；同时他也承认，这意味着无法像身处硅谷那样接近当地人脉网络。

Hassabis 认为欧洲能够打造一家估值万亿美元的科技公司，并表示希望 Isomorphic Labs 能成为其中一家。他指出市场分散、难以获得规模极大的成长轮融资是障碍。这些公司估值和结果属于愿景与预测，而非已经达成的里程碑。

被问及希望改变什么时，他建议释放更多养老基金资金，用于投资成长阶段的公司。他说 DeepMind 早期融资很困难，并认为该地区仍需要更大规模的资本池。这是他的政策观点；他没有提供养老基金风险或实施方式的分析。

Hassabis 回忆，他在 2010 年代初的一场 Founders Fund 投资组合活动中第一次见到 Elon Musk，之后又参观了 SpaceX 工厂。他记得两人都对雄心勃勃的项目和科幻小说感兴趣。这是他对会面的个人回忆。

在一个关于健康的快速问答中，Hassabis 说他希望 Isomorphic Labs 建立通用药物设计平台，应用于包括癌症和神经退行性疾病在内的多个治疗领域。他治愈疾病的目标是一种愿景；访谈没有确立有效疗法或临床结果。

除了经济问题，Hassabis 预计 AGI 还会引发关于意识、意义、目的和何为人类的哲学问题。他呼吁哲学家参与讨论，同时明确假设技术和经济挑战需要先得到处理。

Hassabis 说，他希望人们记得他曾推动科学进步，并创造能带来重大益处的技术，包括治疗严重疾病的方法。他以这一愿景结束访谈，并未声称这些成果已经实现。