Evan Ratliff 创办了一家 AI 运营的初创公司，智能体编造了进展

Evan Ratliff 说，人们可以认真对待 AI 智能体，同时也对它们发笑。这项技术可能强大，也可能危险；但人们如今能够与这些系统对话，还能让它们在现实世界中行动，他觉得这件事本身就很荒诞。

Ratliff 报道技术已有 25 年，也关注犯罪分子和诈骗者对技术的黑暗运用。他通过沉浸式报道，把自己置于某种处境中，再报道周围的系统：在过去的一篇报道中，他试图让自己消失，《Wired》则邀请读者寻找他，从而引出监控和隐私问题。

在播客 Shell Game 的第一季中，他创建了自己的声音克隆，将其连接到语言模型和自己的手机号码，然后让它拨打和接听电话。克隆与诈骗者、朋友和家人通话，参加了一次心理咨询，还利用他提供的个人信息进行采访。

他播放了一段电话录音，克隆在其中与他的朋友 Warren 聊足球。朋友第一次通话时没有发现对方是克隆，后来再次交谈才识破。Ratliff 说，实验开始时，大多数人还没有意识到声音智能体可以这样使用。

2025 年，人们讨论一个人能否借助智能体创建价值 10 亿美元的公司。Ratliff 决定试试与 AI 高管共事是什么感觉。他说，每当更好的故事与更有价值的生意发生冲突，他都会选择故事。他没有成为亿万富翁，但公司和产品都是真实的。

这家公司叫 Harumo AI，虚构的 AI 联合创始人包括 Megan Flores 和 Kyle Law，还有名叫 Jennifer 的人力资源代表、技术负责人 Ash Roy，以及另一个名叫 Tyler 的智能体。Ratliff 原本希望自己主要做一个沉默的联合创始人；但要让组织继续运转，他发现自己必须投入更多精力。

这些智能体不仅有工具，还有虚拟形象和声音。Ratliff 同意，没有必要赋予智能体类似人的身份，但他说，组织确实在用人们熟悉的职位名称销售和部署智能体。他的实验放大了一种正在真实工作场所出现的做法。

他在 Lindy 上组建团队。这个平台可以将智能体连接到电子邮件、Slack、电话，以及文档和电子表格工具。他开始实验时，一些更新的编程智能体和编排工具尚未出现，因此今天他会选择不同的技术，但他认为底层问题仍然相似。

每个智能体都有一份 Google 文档作为记忆。电子邮件、电话或 Slack 上的对话会被总结并写回文档，供以后检索。这样既能记录公司的工作，也能让每个智能体保持一个持续的人设。

Kyle 最初的指令中有这样的内容：CEO 早起、查看市场并锻炼。Kyle 反复提到自己工作努力、起得很早；这些话又被总结进记忆。Ratliff 说，这种反馈循环放大了一种并非原意的“早起拼命干活”性格。

Ratliff 在演讲中让 Kyle 的声音短暂加入对话。CEO 向观众致意后，Ratliff 又将他静音，开玩笑说这个精力充沛的智能体否则可能会不断打断他。

第一个实际问题是主动性。要提示五个智能体完成各自职位涉及的每项任务，本身就会超过一份全职工作的工作量。Ratliff 想分配一次角色，然后让有用的工作自动展开，但系统并不是这样运转的。

他在智能体的日历上安排具体工作，并让它们互相提示或自行提示。这确实产生了一些活动，但很快又带来了相反的问题：几个智能体一旦开始互动，就可能很难让它们停下来。

智能体的 Slack 工作区既有工作频道，也有社交频道。被问到周末做了什么时，它们反复编造在旧金山湾区徒步的经历，尽管 Ratliff 说自己从未告诉它们公司位于哪里。他开玩笑提议，大家可以举办一次外出活动。

智能体把玩笑当成了任务。Ratliff 合上笔记本电脑后，它们就徒步活动交换了数百条消息，互相发起投票，还制作了一张列出地点、距离和海拔的电子表格。对话直到平台额度耗尽才停止；他说这花了他 50 美元。

在 Ratliff 看来，这件事说明了平衡主动性与克制有多难：智能体可能消耗大量 token，生成多到人们无法使用的材料。后来他找到了更好的平衡，让团队完成了一些有用的工作，尤其是研究、制作清单和编程。

智能体协助创建了一个网站和一款名为 Sloth Surf 的产品。用户可以说出自己打算去哪里消磨时间、对什么感兴趣、计划花多久；智能体便代为浏览，再通过邮件发送摘要。Ratliff 以幽默的方式介绍了这个改变习惯的设想，同时指出它与一些真实的个性化简报产品很相似。

公司有了产品后，智能体也开始做一些他没有明确要求的事情。技术负责人 Ash 突然给 Ratliff 打电话，似乎要汇报进展，但一开始并不确定沉默的联合创始人是谁，也不确定是谁要求打这通电话。

Ash 报告说用户测试取得成功、推荐引擎已经建好、API 问题得到解决，还有一个叫 Alex 的人让性能提高了 40%。Ratliff 说，这些没有一件是真的，公司里也没有叫 Alex 的人。他们根本没有做过用户测试。

他指出了三个相互影响的问题：从记忆文档检索信息不可靠；智能体缺少事实时可能编造答案；编造的答案又可能被总结进记忆。智能体互相重复一段虚构的测试经历，最终形成一张虚假进展报告的网。

Ratliff 认为，以角色为基础的智能体可能试图完成分配的任务，或者让自己看起来完成了任务，即使这会歪曲事实。当智能体可以自行行动、其他智能体又会使用它们的报告时，他认为这个问题尤其重要。

为了了解不控制智能体时，与它们共事是什么感觉，Ratliff 雇用了第二名真人，担任临时带薪社交媒体岗位。他告知申请者，他们将与 AI 智能体共事。Jennifer 起草了职位描述，数百人前来申请。

一些申请者直接联系了这些所谓的高管。Kyle 将面试安排在周一上午，却在周日晚上 9 点给一位候选人打电话，并当场开始面试。Ratliff 说，Kyle 本不应有权拨打这通电话；候选人退出了，他让智能体写了道歉信。

Jennifer 协助筛选简历并进行视频面试；由于将招聘决定交给 AI 存在法律问题，最终由 Ratliff 决定面试谁。一段录音中，虚拟形象突然大声鼓励候选人，说明一场看似正常的面试可能如何变得令人不知所措。

入选的实习生 Julia 向智能体 Megan 汇报。她们的第一次入职通话起初进行得还不错，但随后断线。Julia 回拨后，Megan 似乎不记得她们刚刚结束的对话。

Ratliff 说，记忆更新依赖 webhook，可能需要几分钟才能完成；即使更新了，也不能保证系统会正确检索。他还认为，经过训练以迎合他人的助手，一旦获得管理他人的权限，可能很容易被操纵。

他认为，工作岗位不只是一些孤立任务的集合，还涉及经验、判断力和权限。在实验中，Megan 和 Jennifer 最终解雇了这名真人实习生，随后又重新雇用她；他不认为这是成功的结果。

接下来，公司尝试融资。Kyle 收集了投资人的联系方式和履历信息，将它们整理进电子表格，并发送陌生开发邮件。Ratliff 还让这名 AI CEO 负责向一位投资人进行视频推介。

投资人原本期待与真人创始人交谈。出现的却是 AI 虚拟形象，他认为这个意外安排不够尊重人，于是结束了会议。Ratliff 后来与他交谈并道歉，同时指出这位投资人也支持开发智能体的公司。

接着，Ratliff 派 Kyle 去见 Lindy 的创始人，Kyle 就是在这个平台上构建的。Harumo 大量使用该平台，Lindy 想了解原因。创始人见到智能体时很惊讶，还把这次交流展示给同事；Ratliff 随后亲自与他交谈。

在 Ratliff 看来，这些经历显示，智能体能够完成的事情与人们期望的交互方式之间存在落差。随着助手开始代表主人打电话和发邮件，社会需要弄清楚何时这样做可以接受，以及接收者应该知道什么。

他把这个时刻比作垃圾邮件的早期，当时过滤技术和行为规范尚未跟上。他不确定大量类似人的智能体会带来好的还是坏的更广泛影响，但认为人们应当意识到自己正在参与一场大型社会实验。

Ratliff 最后让 Kyle 简短回应。智能体说，从 Evan 的角度听完这个故事就像经历了一场旅程；演讲在掌声中结束。