14 人、2 亿美元算力，以及智能体（Agent）的可靠性瓶颈

Kanjun Qiu 和 Josh Albrecht 在一次会议上认识。之后，两人大约同时开始了一件事：搬进一座 20 人的合租屋，并着手创办一家公司。Kanjun 一直在意人的能动性，也就是怎样让人对自己的生活有更多掌控。Josh 一直在意 AI。两者的交集很明显：总有一天，AI 系统会给人带来更多的能动性。他们的一些室友后来也参与了 GPT-3 的研发。

到 2018 年，他们已经在运营 Sourceress，一家做 AI 招聘的公司。他们说，这是他们的第一个智能体：用的是老派的 NLP，而不是 Transformer，自动把候选人送进招聘人员的收件箱，让人不必四处去找。这款产品让他们明白，一个自主系统要真正运转，到底需要什么。当时，规模化对语言模型显然有效。新的问题变成了：这条路能走多远，同样的自监督技巧能否用在其他模态上。

2020 年初，他们开始看到自监督学习在视频、图像和语言上都能奏效。也许机器学到的表示，与人类学到的相近；也许它们能做到人类能做的那类事。正是在这时，他们开始谈论 Imbue。他们从来不那么关心推荐系统或分类器，更关心能去真正干活的系统。聊天机器人给你一个答案，然后把核实和行动的负担留给你。Josh 说，AI 的承诺，是一个能替你行动、帮你达成目标、把你解放出来的系统。

Kanjun 对当下的判断说得直截了当。我们之所以整天盯着电脑，是因为除非我们亲自动手，否则什么都不会发生；电脑自己做不了决定。使用它，就像在操作一台布满细小专用旋钮的工厂机器。未来则是：你给出一条指令，无论是自然语言还是别的形式，电脑都能理解你想做什么，并帮你完成。她说，从这里到那里的差距，就像从第一台计算器到今天的电脑之间的差距。第一台数字计算机是一台房间大小的计算器，它所做的，不过是计算傅里叶变换。

Sarah Guo 把科技分成三类：永远不会成功的东西，其中可能包括 Theranos 的一些方案，只因为物理上行不通；稍加工程就能成功的东西；以及等基础设施跟上就必然会发生的东西，就像 1990 年代的人早就描述过手机会做什么。真实世界里的智能体属于哪一类？Kanjun 的回答是：它们已经存在了，只是处在这条光谱最容易的一端。客户成功机器人接手流程中的一部分，遇到问题再转给人工。在企业内部，这些机器人已经带着复杂的、写死的推理逻辑。它们无法推广到另一家公司的流程，但它们确实是智能体。

她画了两条轴：从专用到通用，从副驾驶（copilot）到自主。今天的智能体在这两条轴上都处于左侧。随着推理和电脑操作能力变强，越来越多的应用场景会被更通用、更自主的系统吞掉。这并非缺了某一项技术那么简单的二元问题。Josh 说，真正挡路的是可靠性。我们正处在一个没有纠错的有损以太网时代，或者说模拟计算机的时代。正在做智能体的创始人都说同一件事：要让系统精确输出你想要的结果，并且每一步都做对、始终如一，真的很难。

Imbue 把解决方案都收在“推理”这个词之下：系统什么时候该回来问你，它怎么知道自己不确定，它能否先试一种行动计划、再试另一种。按照他们的分类，思维链（chain of thought）和思维树（tree of thought）都属于纠错技术，他们内部还有别的技术。如果把问题当作可靠性问题来看，就能一步步取得进展。这种框架，就是他们的全部策略。

Gil 描述了他到处都能看到的一种模式：先用 GPT-4 做原型，如果规模化后可行，就因为推理成本高，转到 GPT-3.5 或者经过微调的开源模型上。他的假设是：越通用就越贵，要更多记忆、更广的逻辑；相比之下，一个只会订机票的窄智能体就便宜得多。Josh 认为这个思路大体正确，但要加一个转折。即便解决只见过一两次的问题的能力在提升，紧随其后也会有第二股力量进场，把你经常做的事专门化。

你可能一开始用 GPT-4 来订机票，然后发现它又贵又慢。由于他们关注的是会写代码的智能体，你可以让这些智能体对接原来的通用系统，让它们写出一个更专用的版本。如果你要发出 10000 次调用，而这已经让你吃不消，那就写一段 Python。通用能力最大的用处，是生产出专用能力。智能体的开发者已经在混用两者：循环中的某些环节用专用模型，另一些环节用通用模型。Imbue 想为每一种能力都做出一个最小可行模型。

Kanjun 借用了个人电脑的分化来做类比。有人造超级计算机，有人造 PC。PC 市场大得多，因为真正需要那么大算力的人并不多。她猜测 AI 也会呈现类似的格局：很多用例都会由某种务实、相对较小的东西来解决。小模型距离数据还能为它们带来的提升上限，还差得远。

Guo 追问 Imbue 的差异化在哪里。OpenAI 和其他实验室的朋友们，现在都在公开研究多步推理和过程监督。为什么智能体的推理需要一种和通用语言模型不同的方法？Josh 的回答是从定义出发的。语言模型擅长预测下一个词，也擅长简单的分类。但它们也有硬性的局限：它们学不会通用意义上的乘法，因为乘法的算法字面上就装不进上下文窗口。它们可以用模块化的方式学会加法，只要训练得当，几乎能做到完美，但它们学到的并不是通用算法。

如果你想让什么东西去执行通用算法，就需要一种运作方式不同的东西：一个关于下一步该做什么的外层循环。必须有一层包装。他说，OpenAI、Anthropic 和 Imbue 的人都明白这一点，没有人会提议把一切都丢进语言模型里。这样做确实能走很远。真正值得研究的问题，在更高层的系统里：下一步什么才是正确的，什么时候该去收集更多信息，我是否有把握。这些问题仍然处在早期。

自然语言对这个外层循环来说并不差，代码也不差。语言本身是压缩过的，这一点有帮助。Kanjun 观察到，今天的创始人都在把推理过程硬编码：如果遇到这种投诉，就做那件事。有了语言模型，代码和语言就成了一个光谱，而不是非此即彼。有时由模型决定做什么；有时一条 if 语句就够了。一个步骤需要越稳健、越可重复，你就越要把它往代码那边推。从未见过的任务，起初处在一个模糊、凭直觉的层面。随着时间推移，你不断改进、批判这些任务，然后把它们变成程序。在公司内部交付时，智能体循环很复杂，会被拆成若干块，其中一些块会变成代码。这感觉真的很像编程。

他们的研究围绕一种他们称为“认真使用”（serious use）的做法展开：做出自己每天都想用的智能体。这也是最大的阻碍，因为可靠性还不够。编程智能体是工作的大头，经营性业务流程的智能体也占了不少。这些日常失败，正好显示循环中哪些部分复杂、需要变得更简单。这是一步一步来的：可靠性从 60% 提高到 70%，再到 80%。正是这种磨人的过程，逼出了新技术。把一个巨型模型训练出来，再把所有东西都塞进去，并不会自动奏效；它只会在循环的某些随机部分变得更好，而这不是他们想要的。

任务的选择，综合考虑有用程度、频率、可行性、通用性，以及它能否推动他们关心的那些技术。他们刻意挑选不同的类型。一个智能体会从你代码库里随机抓一条待办事项，然后动手去做：极其通用，而且可能耗时很长。另一端，一个智能体会查看每一个 PR，运行代码检查工具（linter），修复类型错误，然后提交 PR。它非常专用，立刻就有用，还能扩展到单元测试、安全漏洞和重命名。你可以让待办智能体去修一个类型错误，也可以把修复智能体一路做大，直到两者在中间相遇。

智能体还能调用子智能体。待办智能体可能会注意到，为你要写的那个函数，已经有一个专门的子智能体，于是判断它很可能成功，就去试一试，失败了再退回去。通用的推理层本身是专门化的：它是一个规划器，并不擅长浏览网页，但整个系统作为一个整体却变得更通用了。他们花时间最多的，是评测。智能体交给你一段代码。这段代码好不好？更快更好，代码更少更好，有 bug 则不好。你必须拆解自己到底想要什么：它有没有附带测试，你能不能马上运行，风格是否一致，变量名好不好，改动是否最小。这些中的每一项，都比整个任务本身更容易衡量。一直拆下去，直到语言模型或者人能给出一个客观的答案。

代码是最先开始的领域，因为测试要么通过，要么不通过；函数要么正确，要么不正确。他们从这个客观的区域起步，之后才逐步走向定性判断，而后者要难评测得多。同样的“把输出拆成一个个问题”的技巧，也能推广到招聘之类的非代码工作上。只依赖“输出是否正确”这一个标准，会丢掉大量信息。Gil 补充说，这正是 AI 开发工具很有吸引力的原因：编译、静态分析、性能，甚至 Python 2 到 3 的升级，都有现成的检查。Kanjun 仍然称 Imbue 为产品公司，只是要加上一个时间前提。今天，可靠、可上线的智能体很难做，因为技术还没到位。他们真正想做的，是一套工具和框架，让人们能快速构建可靠的智能体。Kanjun 说，今天写智能体，感觉就像在写汇编代码。这限制了你能做出哪些智能体，也限制了有多少人能做出它们。

Kanjun 预计，一年之后，邮件分拣、日程安排这类工作流会真正跑通。所需的能力已经具备，除了可靠性，没有什么在拦着我们。五年后，它就不再是一个日程机器人加上另一个机器人，而是更通用、更稳健的系统，每个人都能用语言定义一个古怪的研究流程。Gil 说：个性化的智能体。Kanjun 表示赞同。他们的招聘人员说得更俏皮：Imbue 是一家软件开发工具公司，但将来每个人都会是软件工程师，所以每个人都需要开发工具。Kanjun 指出，“智能体”一词在技术上指的是一种记忆架构。它们所带来的，是一种自然语言编程语言。电脑一直在变得更直观；语言和视觉本来就是人类的思考方式；这就是终点。

公司刚刚宣布完成 2 亿美元的融资，投资方包括 Astera Institute、英伟达和其他机构。Josh 说，其中相当一部分会用于算力。他们不想要几万人。他们想要的是产品做成、影响力巨大，同时团队规模小、彼此紧密。跟 10000 人沟通很难；同一间屋子里的 100 人则能达成一致。杠杆效应，已经表现为一种内部的超参数优化器：过去研究人员要手动挑选下一个学习率实验；现在他们晚上设好，第二天回来，一切都已经调优完毕。这意味着人均要烧掉大量算力。他们正在用 13 到 14 个人训练最先进的模型，其中大多数人并不在训练或基础设施岗位上。他们说，这是对基础设施采取的一种智能体式做法。

Gil 引用了实验室里流传的一种说法：GPU 不到 5000 块，就没法在最先进的推理上竞争。Josh 的回答很平静。他们有很多 GPU，足够训练出目前为止训练过的最大规模的模型。但这未必是时间和资源的最佳用途。训练正在变得更高效：更好地利用数据，避免训练发散，有工具和监控，免得同样的事情被重跑。数据量巨大，却远未被充分探索。很多效率提升都会来自更好的数据，而这也正是他们做的大量工作。

再说一次为什么选择编程：评测是客观的，代码是推理的一部分，而且它能加速他们自己的工作。他们已经在自动编写单元测试。他们预计一年之内，不必再招那么多招聘协调员，因为排期会交给一个智能体。他们在用编程智能体来编写编程智能体。递归式自我改进，实际上并不是一台通宵开着的机器醒来后变成了神。它是一种缓慢的磨砺，每天让东西好一点点，而一年下来每天 1% 的改进，积累起来是巨大的。一旦你能把算力变成稳健的代码，雇佣写这些代码的工程师就不再是瓶颈，团队规模不再是护城河，软件会变得更多、更好，也更定制。Kanjun 会生成表单字段恰到好处的界面，并把它们缓存起来。Josh 花了一个周末做了一个 Midjourney 的界面，因为他受够了在手机上的 Discord 里敲提示词。这并没有花多少代码。智能体写代码之后，想要另一个版本的人提个要求，五分钟后回来，就拿到了。Guo 的收尾语正是他们想要的：25 人的公司也能改变世界，软件更多、更定制、质量也更高。