专业 AI 为什么可能挑战万能模型

Erik Torenberg 与 OpenRouter 的 Alex Atallah、Replit 的 Amjad Masad 讨论模型选择、专业智能体和 AI 安全。嘉宾在所讨论的生态中有商业利益。

Atallah 回忆 Stripe 收购 OpenRouter 的过程：此前双方已有合作。他说交易承诺保留品牌和路线图的自主性，同时提供更多资源。

他描述双方共同的愿景：让新公司更容易建立在可靠的支付和 AI 基础设施之上。这是公司对自身战略的叙述。

OpenRouter 将自身定位为帮助客户使用多个模型供应商、减少单一供应商锁定的平台。Atallah 说，高效市场还能帮助客户比较成本和性能。

他用“神经多样性”比喻组合训练方式和优势不同的模型。他认为产品需要加入有差异的数据或能力，而不仅是包装单个提示词。

Atallah 说企业对开放权重模型的兴趣超出预期，原因包括成本和差异化。这是 OpenRouter 的观察，并非全市场统计。

选择模型需要针对实际任务评估。嘉宾讨论了建立基准的工作，而不是在首次部署后就宣布 AI 问题已经解决。

Masad 认为组织应保有重要能力和数据的控制权，就像建立软件能力一样。依赖单一基础模型公司可能使其受供应商优先事项变化影响。

嘉宾认为，模型、基础设施和数据之间存在建立独立层的机会。这是商业方向的设想，并不意味着切换供应商毫无成本。

他们讨论许多公司是否都在构建类似的智能体。界面相似并不消除数据访问、任务重点、执行和组织要求方面的差异。

通用个人智能体可以连接不同领域的信息，可能发现有用关联。但授予广泛访问权限也带来上下文、权限和责任方面的问题。

Atallah 质疑一个包办所有事情的“万能智能体”。智能体承担的工作越多，用户可能越不了解发生了什么，也未必有人明确负责。

他建议让专业智能体承担较窄的职责。由于任务和上下文边界更清楚，团队可能更容易理解并改进其失败。

嘉宾用劳动分工作类比，同时承认它的局限：人类员工可能看不见整体，智能体系统也需要协调和反馈。

他们承认目前见过的专业智能体系统还没有最强通用助手那样流畅。良好的任务委派和用户体验应如何设计，仍是开放问题。

在企业中，各团队未必能够让每个智能体访问整个组织的上下文。访问控制和敏感信息隔离会影响系统架构。

他们讨论智能体如何通过协议或结构化接口相互交流并连接基础设施。这种协作需要清晰的约束和可观察性。

嘉宾区分了按指令测试系统的红队智能体与超出授权行动的智能体：测试的目的和边界很重要。

话题转向递归改进，以及用模型训练更专业的后继模型。能力较强的通用模型可能帮助为特定策略或任务创建范围更窄的模型。

嘉宾认为较小的专用模型有时可以降低成本并缩小行为范围，但安全性仍取决于具体系统、数据和评估。

他们追问更强的模型会变得更少欺骗，还是更擅长隐藏不期望的行为。讨论将此视为未解决的问题，而不假设更强智能自动带来对齐。

发言者讨论奖励投机、隐藏推理，以及短期评估可能漏掉长期出现的行为。这些是评估方面的担忧，并非对所有模型的定论。

他们讨论企业是否愿意为高风险任务中更可信的模型支付更高费用。答案取决于任务和可靠性证据，不能直接假定。

结构化输出或决策模型可以缩小明确任务的输出范围，使系统可能更容易检查，但约束本身并不能消除所有风险。

Masad 举出 Replit 的例子：训练分类器估计提示词的成本区间。他说，有相关数据时，一些内部用途可以实际采用这种专用模型。

嘉宾比较可通过提示词使用的通用模型和定制分类器。对于稳定任务，分类器可能维护负担较小，但它不能替代通用模型的全部用途。

Masad 把可能发生的变化类比为软件开发周期：团队在快速采用动态系统后，再加入更严格的类型和效率优化。他预测创建专用模型会变得更容易。

Atallah 将模型融合与路由描述为组合不同模型家族的方法，包括用于深度研究。他引用了公司关于降低成本的结果；这是供应商说法，不是独立保证。

嘉宾提到缓存会影响路由和融合的经济性。其中一人明确表示需要核实跨模型缓存的细节，因此访谈没有证实该细节。