Matt Clifford 谈 AI 扩展、中国、国防与寻找创始人

Matt Clifford 认为，仅仅向语言模型增加更多文本数据和算力带来的收益可能正在趋缓，这会提高新思路的价值。他还讨论了 AI 竞争、国防和监管。这些是他在 2024 年作出的预测与政策判断，而非对当前地缘政治或技术格局的评估。

Harry Stebbings 采访了 Entrepreneur First（EF）联合创始人、英国高级研究与发明局（ARIA）主席 Clifford。他曾担任顾问，帮助组织 2023 年 AI 安全峰会。EF 投资初创公司，包括国防技术等领域，因此他与部分讨论话题存在商业利益关系。

Clifford 在英格兰北部的一个小镇长大。大约 13 岁时，他开始为家人朋友修理和组装电脑，后来又制作网站。这段经历教会他，可以先接受不熟悉的任务，再学习所需知识并采取行动，而不必等待许可。

Stebbings 认为优秀创始人总是很早就开始创业。Clifford 同意过去的独立行动可能提供有用信息，但表示文化和可选路径很重要：同一种行为在 Silicon Valley 和印度农村可能以不同形式出现。他寻找的是主动性的证据，而不是一份完全相同的童年履历。

经过多年 AI 投资，Clifford 认为近年的进展很大程度由算力和数据推动。他怀疑，用更多文本来扩展语言模型的边际价值可能正在趋缓。如果如此，他相信新思路相对于单纯扩大规模会更有价值，也会为初创公司创造空间。

可能的下一步包括搜索方法、多模态数据和交互经验。他没有声称大型实验室会错过这些机会，也没有说建立前沿公司会变得便宜。他认为，足够不同的新思路可能帮助新进入者吸引竞争所需的资本。

他说，数据可能是最难持续扩大规模的投入，尽管资金仍可以购买更多算力。他指出，视频和其他模态尚未得到充分利用，其价值和处理成本仍不确定。他预测的是更多文本带来的收益递减，而不是所有可能数据都已耗尽。

如果行业无法超越对现有语言模型的规模扩展，他预计炒作周期会出现痛苦的趋缓。他押注集中起来的人才和资本会帮助产生新的进步曲线，但也承认自己可能判断错误。

他看到当时使用类似方法训练的模型能力趋同，并预测如果实验室开发并保护不同的新思路，未来可能出现更多分化。他推测未来的 GPT 和 Llama 可能需要的不只是扩大前代模型；这些都是当时对尚未发布系统的假设。

被问及是否会以 900 亿美元估值买入 OpenAI 时，Clifford 尽管欣赏这家公司，仍回答不会。Stebbings 也因可能的商品化而拒绝。Clifford 说，他会同时考虑多种差异很大的情景，包括模型趋同、价格竞争侵蚀回报的一种可能。

对于中国在 AI 方面是否落后美国两年，Clifford 说很难知道。他结合了自己 2023 年的政府工作和在北京会面的经历，但没有提供经过验证的量化差距，也没有声称了解中国的全部能力。

他认为自己见过的中国官员具有较强技术素养，并说在参与峰会的国家中，英国也具备相对较强的政策能力。这些是他从自身角色出发的印象，并非对各国政府的系统排名。

Clifford 认为，中国政府高度关注稳定，可能将强大的公司和 AI 都视为潜在的不稳定因素。他描述了一个监管严格的环境，包括对模型供应商的政治要求。他对政府动机的解释是一项政治判断，不是官方声明。

他对中国前沿 AI 领导地位的悲观情景是：对创业者的限制可能让少数有雄心的创始人更难获得美国和英国领先实验室所拥有的自由。Stebbings 则提出另一种看法，即中国拥有强大的产业能力和数据获取优势。

Clifford 指出信息传播存在不对称：西方 AI 文章很快会在中国翻译并传播，而类似的中文材料在英语世界可能得到较少关注。他认为，如果进步主要依靠扩大已有思路的规模，中国的产业能力可能成为显著优势。

他说，美国半导体出口管制让中国建设超大规模 GPU 集群更加困难，但并非不可能。他提到一家中国公司关于国产芯片的说法，但没有独立证明其性能。限制的影响取决于国内替代方案改进的速度。

按他的框架，对中国的悲观情景是：在西方迅速进步的关键时期，算力差距持续存在。乐观情景是：发展周期更长，国产硬件逐渐成熟，使出口限制的影响减弱。两种情景都不能证明哪一种会发生。

Stebbings 预计未来美国政府会继续实施限制。Clifford 指出，Trump 和 Biden 两届政府都曾推进出口管制，并预计国家安全考量仍会重要。这是 2024 年的政治预测，而不是对当前政策的描述。

两人讨论了模型和芯片领域的垂直整合。Clifford 引用一种观点：公司会尝试让互补产品商品化，同时保护自身核心业务。他预计企业会尝试产业链的不同环节，但认为未来模型的表现将决定许多结果。

他认为，一个能显著改变局面的进步，是可靠性大幅提高的智能体。当时开发者能够制作令人印象深刻的演示，但往往需要重复运行，并面临稳健性问题。他预测五年内会出现好的智能体，同时明确没有断言下一代模型已经能接近人类自主水平。

如果自主智能体广泛普及，他认为经济价值将取决于支持其交互的基础设施。他以自动化交易为例，说明规则、监测和处理异常情况为何重要，同时承认基于规则的交易系统与 AI 智能体并不相同。

他设想能够让智能体交易、保持可观察性、遵守规则并在必要时停止的协议。在他看来，政府应制定标准，私人公司可以构建可扩展工具。这是他提出的分工和商业机会，并非已经建立的监管框架。

Stebbings 担心只有少数人理解 AI，而社会其他人可能被落下。Clifford 说，人们可以从自己不了解的技术中受益，但也承认技术变化往往更有利于技能较高的劳动者，利益分配是真实存在的政策挑战。

Clifford 批评欧盟《AI 法案》过于提前设想风险、负担过重，并称赞英国当时较宽松的做法。这些是一位英国顾问和创业者的政策观点，不是中立的法律解释，也不是对今天法律的描述。

他认为英国拥有强大的研究人才，在竞争激烈的 Bay Area 人才市场之外，可能更有利于留住小规模 AI 研究团队。他提到了大学、成熟实验室和初创公司。这是预测，也反映了他在英国科技生态中的角色。

Clifford 相信英国的人均富裕程度可以达到美国水平，但他说这需要作出让英国更适合建设和扩大科技公司的选择。他提到大型企业抱怨数据中心遭遇地方规划障碍。这是他的政治和经济观点，不是已经确定的预测。

谈到英国公开市场薄弱，他区分了能否建设公司与最终谁获得经济收益。他希望英国养老金和储户能够更多持有成功科技公司的收益，即使这些公司选择在其他地方上市。

他回忆，美国一支州养老金投资了 EF，而他曾向其推介的一家同等规模英国计划没有风险投资配置。他认为，如果公司保持私有的时间更长，无法参与私募投资的机构可能错过部分增长。EF 会募集投资资本，因此他与所主张的配置存在利益关系。

Stebbings 披露自己是国防公司 Helsing 的天使投资者，并问 AI 将如何改变战争。Clifford 说，当前 AI 的力量不超过核武器，并警告人们不要低估核战争。后续军事情景是他的分析，不是经过验证的战场结果预测。

他预计自主系统会改变战争，并认为攻防平衡如何变化仍是开放问题。他说，廉价且能力较强的无人机可能让较小的参与者或非国家行为体相对于昂贵资产获得不对称优势。他对防御技术感兴趣，希望应对这类风险。

Clifford 支持技术增长，但不认为进步必然带来好结果或灾难。他认为，谁建设强大技术、能力出现的顺序以及是否有防御措施，都很重要。

他说，自己已经将 EF 的部分时间转向防御技术，因为他看到了商业机会和社会需要。Stebbings 质疑投资者讨论进攻性军事系统时的自信；Clifford 则认为国家也必须保有捍卫价值观的能力。这些是双方观点，也涉及投资利益。

谈到创始团队，Clifford 说协同效应很重要，但他越来越重视最强个体的最高表现。他区分了日常持续表现与关键时刻的杰出表现。这是 EF 根据经验形成的选人启发式，而不是证明每个结果都由一人决定。

他说，创始人分开时，一种原因是随着公司变化，他们发现自己想要的东西不同。首次创业者不一定能预测这份工作是什么感受，他也不期待他们预见以后所有偏好。

Clifford 称创业是一项技能要求很高的职业，不认为每个人都应该或能够成为创始人。他引用了有关衰退期间雇主减少招聘、部分人因此被推向创业的研究，称这些创始人的平均表现优于比较组。访谈没有提供足够细节，不能将结果推广到每次衰退或每个人。

他的解释是，才能和雄心可以投入多种职业，不同生态中的自然选择也不同。他认为英国、欧洲和印度可以从原本可能进入金融或其他受推崇行业的人群中找到优秀创始人；EF 的业务正是招募并资助这些人。

Stebbings 问，为何英国有雄心的人可能选择金融，而美国同龄人追求创业。Clifford 指向当地可见的榜样和预期：人们会模仿看得见的成功路径。他说，自 EF 成立以来情况已有改善，同时承认许多创始人也重视金钱以外的影响。

EF 学到，在选人时不要对早期短期信号反应过度。Clifford 说，随着申请者增多，经验丰富但只是不错的候选人，在履历上可能比缺乏经验的杰出年轻候选人更有优势。教训是结合机会评估潜力，而不是假设年轻本身保证优秀。

他介绍 EF 的流程：一批参与者用大约十周探索创意和潜在联合创始人。他估计，每 100 人中约有 80 人找到搭档；EF 随后询问创始人是否愿意在这个想法上投入多年、雄心是否匹配，并选择资助其中约一半组合。

他说，在这一阶段 EF 投资 25 万美元，获得资助的团队通常有约三分之二至四分之三筹到种子轮。这些是他对该流程阶段的转化率估计，不是所有申请者获得种子融资的比例，也不是投资回报。

他欣赏天使投资人 Charlie Songhurst 发现创始人最佳潜力的能力，以及将创意以更有雄心的版本反馈给创始人的能力。Clifford 说，创始人对更大愿景的反应可以显示动机，尤其是在一些人已经习惯于压低雄心的环境中。

他的一个不寻常建议是，人们可以与刚认识的人一起创办公司。他认为，长期相识的联合创始人关系看似占主导，可能部分反映了历史选择：过去投资者能观察到的大多是这类团队。EF 的配对模式使他与这一主张存在商业利益关系。

他改变了自己曾经的看法：如今不再认为创办前沿 AGI 公司已经太晚。他认为有雄心的创始人应认真考虑这个方向，同时仍受他前面提到的资本和不确定性限制。

作为父亲，Clifford 说育儿教会他谦逊，也让他认识到关系需要持续投入，没有捷径。他说，有回报的时刻往往出现在日常而艰难的努力之后，而不会立即出现。

被问到人们很少问他什么时，他谈到自己编写沉浸式谋杀悬疑游戏。他喜欢参与者扮演陌生角色、在没有预定结局的情况下作出选择，并在没有现实后果的前提下探索不同世界的场景。