Arthur Mensch:Mistral 的开放模型、算力与开发者战略

原标题Arthur Mensch on Mistral’s Open Models, Compute and Developer Strategy

Mistral AI 联合创始人解释公司如何结合开放和商业模型、应对算力限制,并押注高效的开发者工具。

AMArthur Mensch嘉宾 · Mistral AI
频道
20VC with Harry Stebbings
发布
2024年4月29日
视频
51:00
阅读
9 分钟
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

Mistral AI 联合创始人兼首席执行官 Arthur Mensch 与 Harry Stebbings 讨论模型效率、开放和专有模型发布、企业采用以及 AI 平台的商业模式。他描述了 Mistral 当时面临的算力限制,并认为数据、训练技术和开发者工具与规模同样重要。 Mensch 还谈到创始人控制权、欧洲人才和快速扩张一家年轻公司的挑战。比较、财务预期及预测均为他在访谈中表达的观点;他在 Mistral 有直接商业利益。

  1. 1效率带来的机会Mensch 说,Mistral 7B 满足了对小型模型的需求:它能在消费级硬件上运行,同时对开发者有用。
  2. 2基础模型之外他预计,开发者围绕模型构建应用时,定制、评估和生命周期工具将发挥重要作用。
  3. 3数据与评估Mensch 认为高质量数据和针对特定任务的评估是影响模型质量的重要因素。
  4. 4开放与商业模型Mistral 开放发布部分模型,同时出售其他模型;Mensch 认为两者都是公司商业战略的一部分。
  5. 5算力瓶颈他说公司当时约有 1500 块 H100 GPU,预计容量会增加;与竞争对手的比较是他的估计。
  6. 6欧洲的机会Mensch 看好欧洲的技术人才和潜力,同时承认市场分散和融资方面的挑战。

要点建议

  1. 小团队共享必要基础设施,同时避免过度协调,就能快速行动。
  2. 模型性能不仅取决于算力,还取决于数据和训练技术。
  3. 开发者需要围绕通用模型使用定制、评估、部署和数据控制工具。
  4. 开放发布和商业模型可以在一家公司的战略中共存。
  5. 资本和算力是限制因素,但招聘和基础设施也会限制初创公司的扩张速度。
  6. 企业采用需要可靠的部署工具和明确的应用场景,不能仅仅获得模型访问权。
全文

按章节阅读整理后的全文

只看原始文稿
01

从 DeepMind 到 Mistral

Mensch 谈到自己早年对机器学习的兴趣,以及组织小团队的经验。他解释 Mistral 7B 的吸引力和公司对效率的追求。

Mistral AI 联合创始人 Arthur Mensch 告诉 Harry Stebbings,算力仍是这家年轻公司的限制因素。他说,访谈时公司约有 1500 块 H100 GPU,只相当于他认为竞争对手拥有容量的一小部分。他认为资本、招聘和基础设施都无法一瞬间扩张。

Mensch 形容儿时的自己好奇又固执。他最早接触机器学习的经历之一,是看到 Andrew Ng 展示直升机完成高难度动作,这让他看到了这项技术可能做到的事情。

在 DeepMind,他学到五人团队可能比 50 人团队行动更快,除非大团队拆分成相对独立的小组。Mistral 共享基础设施、代码和研究发现,同时让专注语言、编程、数学或多模态的团队无需持续协调也能推进工作。

随着公司成长,这种组织方式会变得更困难。Mensch 说,科学团队当时约有 25 人,组织方式以速度为目标。他回忆,离开 DeepMind 的决定是逐渐形成的,直到前一年三月底他跨过某个门槛并辞职。

Mensch 认为,Mistral 7B 受欢迎是因为它填补了模型性能与效率权衡中的一个空缺。他说,这个规模让开发者可以在消费级硬件上运行模型,同时模型又足够有用,能够支持应用。市场反响表明人们对效率有很大兴趣。

公司在扩展更大模型的同时,继续追求高效模型。他说,更多训练算力有助于压缩模型,但算力本身并不足够:数据质量、训练方法和其他效率改进同样重要。

还能提高多少效率,是一个开放的研究问题。Mensch 相信同等规模的小模型仍有很大改进空间,但他说研究者最终必须测试想法,不能只依赖预测。

02

模型与应用平台

他讨论数据质量、评估和定制。Mistral 希望开发者围绕通用模型构建专业应用。

他设想通用模型会成为起点,周围配有定制、评估、延迟优化和生命周期管理工具。他认为,应用的差异化将取决于数据、用户反馈,以及对产品应该完成什么的理解。

对于文本模型,Mensch 认为数据质量是一项限制:开发者必须决定如何提炼和排序信息,让模型学习更复杂的任务。他也强调评估的重要性,因为改进法语医疗辅助与改进数学推理是不同的问题。

他预计,在低延迟和专业领域表现重要的任务中,应用开发者会创建专用模型。Mistral 希望提供工具,让开发者无需各自拥有稀缺的专家知识也能实现定制。这是公司设想的市场角色。

Mensch 认为应用经济中有两股相反的力量。模型越来越好,可能让垂直应用更容易创建、应用层更薄;模型变便宜和竞争加剧则可能降低模型供应商在成本中所占的份额。Mistral 押注模型和平台业务仍能支持有价值的应用。

03

开发者与商业模式

Mensch 考虑可移植性、信任、利润率和构建模型的门槛,并介绍 Mistral 如何结合开放与商业产品。

他说,Mistral 创立的目的是给开发者更多选择,让他们能够访问、修改和部署模型,而不是依赖少数 API。公司也出售商业模型,因此开放战略与专有产品并行。

Mensch 说,开发者关心成本、定制能力和可移植性。他们可能需要在特定云、本地环境或边缘设备上部署;企业把模型连接到敏感数据时,希望控制数据的处理位置。

品牌很重要,因为开发者无法评估所有可用模型,会把声誉当作质量信号。Mensch 认为开放发布模型有助于建立 Mistral 的声誉和信任,但这是他作为公司首席执行官的判断。

Stebbings 问,竞争和成本下降是否会让模型供应商失去可持续的利润空间。Mensch 预计效率和竞争会降低应用成本,但认为只要基础模型工作仍然困难且有防御性,就能获取价值。

他不认同创建一家有竞争力的基础模型公司已经变得容易。在他看来,门槛包括充足的资本和算力、稀缺的模型训练人才、相对成本而言出色的性能,以及值得信任的品牌。

Mensch 估计,同等计算量的硬件成本会随时间下降,算法改进也十分重要。这些数字是他在访谈中的粗略判断,并非独立基准测试。Mistral 押注未来仍有进一步提高效率的空间。

与硬件和云供应商的关系很重要:工程师可以针对硬件进行优化,云分发也能让企业客户接触开发者平台。被问到一项具体云投资时,Mensch 没有声称了解其条款,只表示这类安排可能对双方都有意义。

开放模型可能让一部分价值从模型本身转向定制和周边平台。Mensch 说,Mistral 开放发布不同规模的部分模型,同时把另一些作为商业产品,既为了增加收入,也为了建立战略关系。他打算继续采用这两种方式。

04

向企业销售

研究与销售团队需要相互理解。企业采用还需要分发、部署工具和明确的应用场景。

研究和销售团队需要相互理解。接触客户问题有助于科学家发现模型缺陷;技术培训则帮助市场团队解释模型如何支撑客户的产品。双方工作周期不同,因此必须有意识地保持沟通。

分发是企业市场的一项挑战,尤其当竞争对手已经拥有客户关系时。Mensch 说,开放发布的模型可以带来开发者需求,同时承认更广泛的生产环境采用还需要更好的定制、负载均衡和可靠部署工具。

他建议企业从有能力的 AI 智能体能为核心运营带来什么出发,反向思考,而不是只把 AI 当作提高写作效率的功能。定制和产品选择将决定差异化;这些是他的建议,以及对未来能力的假设。

Mensch 同意,人们可能高估技术的短期采用速度,却低估长期影响。他看到欧洲企业高管对技术感兴趣,但认为组织需要认真选择应用场景,让工具更易采用,而不必组建一整个专业研究团队。

他说,一些公司的客户支持已经开始进入核心预算,而其他职能和行业应用仍处于试验阶段。他预计未来几年采用会继续发展,这是他在对话时作出的预测。

05

算力、融资与治理

Mensch 讨论 Mistral 的算力限制,以及规模和效率之间的平衡。他解释自己为何偏好长期合作伙伴和创始人控制权。

被问到 Mistral 如何与资金雄厚得多的竞争对手较量时,Mensch 说资本可以买到算力,但算力本身并不决定模型质量。高效模型可以满足特定需求,而研究人员仍需足够的算力进行实验并保持技术竞争力。

他承认算力供应商出现延迟,并说 Mistral 受限于大约 1500 块 H100 GPU。他预计容量会增加,但认为年轻公司无法立刻筹集数十亿美元、招齐人才并大规模建设基础设施。与竞争对手的比较是他的估计。

在融资方面,Mensch 重视治理和创始人控制权,而不只看资金来源。他希望获得支持公司长期发展、能帮助公司走向国际的合作伙伴。被问到沙特或中国资金时,他说这取决于条款,并谈到同时在中国和美国运营的实际困难。

06

在欧洲创业

他探讨欧洲人才和风险投资资金,并与 Stebbings 对生态系统的发展速度持不同看法。

他看好欧洲创建 AI 公司的机会,理由包括技术人才、可获得的资本和尽管分散但仍然存在的市场。他说该地区有许多初级研究人员,而经验丰富的高级 AI 科学家在硅谷更容易找到;Mistral 在美国也有团队。

Stebbings 认为欧洲风险投资大量依赖美国机构。Mensch 说,生态系统需要通过一代代创业者和投资人的努力逐渐建立。虽然两人对变化速度的乐观程度不同,他看到了更多创始人选择留在欧洲。

Mensch 说,欧洲投资人能够参与种子轮,但当公司尚无收入时,许多基金的结构难以支持 Mistral 后来 A 轮所需的规模。他认为欧洲需要更多愿意凭坚定信念大举投资的成长基金。

07

创始人的扩张挑战

Mensch 反思管理、产品上市节奏和投资需求,并讨论竞争对手及进入基础模型市场的难度。

作为首席执行官,要随公司扩张就意味着协调不断壮大的团队、在对外代表和业务发展之间分配时间、确定方向,并在不确定环境下让员工保持平静。Mensch 说,他和联合创始人正在边做边学,并不认为自己已经掌握了这些挑战。

回头看,他或许会更仔细地安排产品开发和市场拓展的先后顺序。Mistral 在几乎没有产品可卖时就开始建立市场认知;这种方式帮助树立品牌,却并非最优,团队仍在加强组织。

他说,公司逐渐认识到需要大量资本、强大的产品和尽早进入美国市场。他预计,未来几年 Mistral 为保持前沿地位,投资会超过收入,尽管他说收入正在增长。这是管理层的预期,并非经核实的财务结果。

Mensch 尊重 Cohere、OpenAI、Anthropic 和 Google 等竞争对手。他不会建议别人轻率进入基础模型行业,但也认为,如果断言新竞争者不可能出现并超越 Mistral,那就太傲慢了。

08

展望未来

他思考气候、家庭和 AI 对工作的影响,最后分享 Mistral 在 2034 年的愿景。

在快问快答中,他把全球变暖列为重大担忧,并相信 AI 可能帮助改进某些流程。他还说,管理中坦诚反馈的效果比他预期的更好,而 Mistral 产品的需求增长快于公司预想。

他通过跑步和骑自行车放松,也谈到照顾年幼女儿所需的精力。展望未来,他预计 AI 会改变工作,取代一些岗位,同时创造其他岗位,因此教育和培训需要适应。这是他的预测,并非已确定的劳动力市场结果。

对于 2034 年,Mensch 希望 Mistral 同时提供商业和开放模型,并拥有强大的开发者平台,让人们构建 AI 应用。Stebbings 感谢他的分享,Mensch 也向主持人致谢。

同频道的其他文章

23:48EN → 简体中文
20VC with Harry Stebbings· 2026年10月26日播客 · 2 人对谈Satya Nadella:AI 需要零信任架构,企业应该拥有自己的智能嘉宾 Satya Nadella · 主持 Harry StebbingsMicrosoft 首席执行官认为,在对齐研究仍未解决的情况下,强大的智能体需要安全边界;他也解释了为什么企业应保留自身使用 AI 所创造的价值。企业 AIAI security评估+2
1:13:26EN → 简体中文
20VC with Harry Stebbings· 2026年10月24日播客 · 2 人对谈Naveen Rao:能源、AI 硬件、结果验证与机器人的未来嘉宾 Naveen Rao · 主持 Harry StebbingsUnconventional AI 创始人认为,能源效率将塑造 AI 硬件;与此同时,模型生成内容的数量不断增加,也让验证变得更加重要。EnergySemiconductorsInference+2
59:41EN → 简体中文
20VC with Harry Stebbings· 2026年10月22日播客 · 3 人对谈20VC:风投基金规模、AI 估值与不断变化的软件市场嘉宾 Jason Lemkin, Rory O’Driscoll · 主持 Harry StebbingsHarry Stebbings、Jason Lemkin 和 Rory O’Driscoll 讨论风险投资集中、基础设施风险、代码审查,以及快速增长的 AI 公司估值背后的假设。Venture CapitalInvestingAI cost & performance+2
1:19:50EN → 简体中文
20VC with Harry Stebbings· 2026年10月19日播客 · 2 人对谈Sameer Dholakia:AI 投资、Bessemer 的成长策略与公司文化嘉宾 Sameer Dholakia · 主持 Harry Stebbings这位 Bessemer 合伙人解释如何为快速增长的 AI 公司估值、支持创始人并建立团队,同时讨论乐观预测背后的风险。Venture CapitalAI StrategyLeadership+2
1:03:05EN → 简体中文
20VC with Harry Stebbings· 2026年10月17日播客 · 2 人对谈Harrison Chase:如何构建可靠智能体,以及模型路由与记忆的作用嘉宾 Harrison Chase · 主持 Harry StebbingsLangChain 联合创始人解释为什么智能体仍然难以控制、领域专业知识的价值在哪里,以及他的团队如何管理编程智能体的成本。AI agentsAgent orchestration评估+2
1:17:09EN → 简体中文
20VC with Harry Stebbings· 2026年10月15日播客 · 3 人对谈20VC:按比例投资权、AI 定价与不断变化的软件市场嘉宾 Jason Lemkin, Rory O’Driscoll · 主持 Harry StebbingsHarry Stebbings、Jason Lemkin 和 Rory O’Driscoll 讨论投资人权利、模型经济性,以及软件公司和员工面临的选择。Venture CapitalAI cost & performanceRobotics+2