Jeffrey Morgan 谈开放模型、Ollama 与 AI 经济性

Ollama 联合创始人兼首席执行官 Jeffrey Morgan 参加 YC 的 Lightcone，讨论开放模型、开发者需求，以及公司从不确定的想法发展为广泛使用的工具的过程。讨论反映其公司在 2026 年 9 月的视角。

Morgan 报告，企业对开放模型的兴趣正在增长，尤其是在编码智能体和助手方面。他的观察来自 Ollama 用户，不能当作整个市场的代表性测量。

他说，成本是客户考虑开放模型的直接原因，控制权和定制可能是更长期的目标。实际节省取决于硬件、利用率、支持和工作负载。

编码智能体和其他助手在使用工具、查询信息时可能发出大量模型调用。Morgan 把这一行为与他观察到的 token 消耗增长联系起来。

他描述 Ollama Cloud 用量快速增长，并区分单用户增长和总量增长。这些数字是公司报告的自家服务用量，并非全行业统计。

主持人问，微调是否在早期热潮退去后重新受到关注。Morgan 说，频繁发布的新模型可能很快使定制模型落后，但改进的工具也可能让更新更容易。

他把安全和治理视为企业采用的障碍。开放权重可以提供控制和灵活性，但企业仍需评估数据处理、模型行为、权限和部署风险。

讨论把安全测试列为专业模型的潜在用途。Morgan 对模型行为的比较来自个人经验；是否适用取决于授权、保护措施和具体系统。

发布新模型不只是公开权重。Ollama 需要让推理软件支持其架构，检查准确度和速度，并使模型能与相关工具配合使用。

Morgan 描述了模型开发者、推理服务商和硬件合作伙伴之间的协调。即使基准结果很强，如果模型运行效率差或无法使用所需能力，也可能令用户失望。

他把外围软件比作操作系统层。它必须在许多组合中连接模型、硬件、推理引擎和应用，因此产生大量集成工作。

讨论转向模型与应用之间隐藏的层，包括服务、路由、安全和状态管理。模型只是完整产品的一部分。

Morgan 预计开放模型会促进不同层的专业供应商出现，类似开源软件在其他计算领域的作用。这是对市场结构的预测，而非既定结果。

他区分模型可以完成的任务与必须存储和管理信息的有状态系统。应用仍需要持久数据和可靠的运行组件。

Morgan 预测，未来企业的大量 token 会由开放模型处理，部分更难的决策或协调则使用前沿模型。最终比例取决于能力、成本和客户要求。

他设想在模型和服务商之间进行路由，而不是每项任务都使用同一个模型。客户需要评估质量、延迟、安全和路由系统的运维复杂性。

本地推理与云端推理满足不同需求。本地运行可以提供控制权并利用现有硬件，云基础设施则可以提供更大模型和共享算力。

Morgan 说，较小模型已经改进到能用于部分编码任务。具体模型比较取决于时间和基准，不能推广到所有工作流。

他报告 Ollama 本地和云端使用中存在不同模型偏好。这些观察反映的是该服务的用户群与部署选项，而非全球采用情况的全貌。

两人讨论 NVIDIA 在开放模型生态中的作用，从硬件和软件到模型。Morgan 认为，围绕在不同机器上运行模型正在形成更广泛的生态。

他们回到硬件改进后在本地运行更强模型的想法。即使没有按调用计费的 API 费用，本地部署仍有硬件购买、电力、维护和机会成本。

为云服务获得足够 GPU 是实际挑战。Morgan 说，Ollama 与多个供应商合作，需要让算力容量匹配不确定的需求和模型发布。

他强调更小、更快的模型可能降低每个完成任务的成本。速度和 token 价格重要，但合理比较还应包括任务完成的可靠性。

主持人问，未来会由一个极强模型还是多个协同模型主导。Morgan 倾向于针对不同需求组合模型和协调机制；这仍是对未来系统的假设。

讨论还涉及地缘政治和模型来源。Morgan 说，客户的优先事项不同，包括安全、数据处理、语言表现和模型来自哪里。

Morgan 与联合创始人此前参与 Docker Desktop。他们让软件跨机器运行的经验后来影响了 Ollama 对开发者体验和模型执行的关注。

创始人带着更早的想法进入 YC，并花了很长时间寻找合适问题。Morgan 说，有创业经验并不能消除不确定性，也不保证迅速找到产品契合点。

他们探索过安全相关想法，并反复与潜在客户交流。当交流没有揭示足够强的需求时，团队调整方向，而不是把最初想法视为不可改变。

最终转向运行开放模型的决定利用了团队的系统背景。Morgan 希望他们更早反思自己的特定经验适合构建什么。

Ollama 在成熟收入模式形成前就吸引了大量开发者关注。Morgan 说，看到用户采用产品令人鼓舞，但商业化仍需要有意识地推进。

易于安装和本地使用可以让开发者无需漫长采购流程就尝试工具。但企业范围使用仍可能需要安全审查、治理和运营支持。

公司考虑如何将开源采用转化为收入，最终推出云服务。Morgan 把决策建立在解决客户问题上，而不是假定 GitHub 关注自然带来收入。

作为连续创业者，他重视与其他创始人坦诚交流哪些做法有效、哪些失败。人脉可以提供例子，但不能取代直接向客户学习。

讨论转向早期基础设施企业的哪些经验仍然适用。Morgan 说，随着 AI 应用需求和外围技术变化，团队应重新检查既有假设。

他最后强调筛选与集成：当模型和供应商众多时，有用的开发者体验来自让各部分协同工作，并帮助用户评估它们。