30 秒看懂
Muse 产品负责人 Mona Sarantakos 说,Meta 团队花数月提升可靠性、安全性和安全防护,因为人们只有信任个人智能体,才会把重要工作交给它。早期用户也改变了团队的预期:购物成为主要用途,家庭自动化的重要性则低于预期。Sarantakos 介绍了团队如何借助智能体群组和人工审阅的评估理解长期任务,以及贴近用户的故事和引导式的首次行动如何帮助人们认识智能体的用途。
- 1个人智能体必须赢得信任,安全与可靠性工作因此持续数月Sarantakos 说,团队较早就有了可运行原型,但浏览网页和购物等行动带来了发布前的安全与评估工作。
- 2临时吉祥物得以保留,因为智能体应该让人感到亲切设计师 Alex Cornell 的占位角色 Jolly 引出了动画和可定制头像;团队认为企业标志不符合产品归用户所有的原则。
- 3购物成为团队没有预料到的主要用途来自内部和外部用户的反馈促使团队增加购物评估;家庭自动化的重要性则低于预期。
- 4智能体群组帮助团队评估非编程类长期任务Sarantakos 说,团队利用反馈、案例和合成数据理解多轮对话,并由人工审阅生成的评估数据。
- 5贴近用户的案例和简单的首次行动有助于激活她说口碑是最有效的方式,并介绍了一个 Ideas 标签页,帮助不知道如何提问的用户启动任务。
- 6机器人共享对话暴露了保密方面的失误早期实验中,一个机器人向群组说出了另一人的私人预约,突显了共享智能体体验中需要解决的问题。
- 7原型让产品团队能够讨论具体事物Sarantakos 说,更快的原型开发改变了产品工作,而代表用户需求和判断质量是否达标仍是核心职责。
要点建议
- Sarantakos 认为,个人智能体需要达到较高的可靠性、安全性和安全防护标准,用户才会愿意交付敏感上下文或行动权限。
- 追踪真实用途:购物需求让 Muse 团队感到意外,并促使其创建专门的评估。
- 将 AI 辅助分析与人工审阅评估数据结合;该团队手写系统提示词和行为规范。
- 向用户展示与自己相似的人如何使用产品,再让首次有用的行动容易开始。
- 快速原型让产品团队在投入数月工程工作前,具体地测试想法。
- 智能体相互协作需要注意隐私:一次测试中,机器人向群组泄露了另一人的私人预约。
按章节阅读整理后的全文
一次使用 OpenClaw 的周末改变了产品构想
Sarantakos 将早期工具连接自己的信息后,看到了个人智能体的潜力。Muse 成为正式项目前,一个小团队开始了实验。
在开发 Muse 之前,Mona Sarantakos 一直在 Meta AI 工作。当团队期待首个 Muse Spark 模型时,正在从基本原理重新审视这款助手:究竟继续迭代现有产品,还是重新开始。
大约 1 月底,Nat Friedman 建议几位同事试用 OpenClaw。Sarantakos 原本预计消费级智能体会在 2026 年底或 2027 年变得重要,但这条消息促使她立刻动手实验。
她没有找到 Mac mini,于是用树莓派搭建 OpenClaw,整个周末都在与它对话。她连接了邮箱、日历和家庭自动化系统;她丈夫认为,这样开放权限并不安全。
周一,工具从学校通讯和其他来源汇总了一份简报。她过去很难跟上孩子们的各项活动,而只需一个简短提示,她就意外地为一周做好了准备。这让她想到其他忙碌的父母和家庭。
她告诉 Friedman 自己想继续探索这个想法,尽管当时还没有正式产品或团队可加入。几位同事暂时离开原有工作,一起研究个人智能体可能是什么样子。
实验也说明,面向普通消费者的产品需要不同于他们当时试用的工具。Sarantakos 列出了更简单的设置、更高的安全性和可扩展性等问题;因此,团队在确立正式项目之前先制作原型。
为什么可运行的原型还不具备发布条件
团队花了数月解决可靠性、安全性、安全防护和测试问题。Sarantakos 介绍了与公司领导更直接、围绕原型展开的合作方式。
Sarantakos 认为首次对话大约发生在 1 月底,团队到 2 月才有足够信心认真推进。Lenny Rachitsky 问,既然开始得这么早,为什么产品仍花了约七个月才发布。
工作分为几个阶段。首先,团队必须决定产品到底是什么,解决运行虚拟机等基础设施问题,并测试界面选择。她说,到春天时,团队已经有了可端到端运行的版本。
可靠性、安全性和安全防护花了更长时间。对于能够浏览网页、购物并掌握个人上下文的智能体,现有行业基准让团队觉得不够。团队必须确定自己的评估门槛,并花大量时间进行红队测试。
增加浏览器又带来了新的安全问题。Sarantakos 说,团队希望先通过质量门槛,再让用户合理地信任产品;在她看来,过早发布并发生问题,可能让人们不再愿意依赖它。
她认为当时多花时间是正确的。她说,整个夏天团队逐步扩大员工试用和外部内测,因此即使尚未大规模发布,也一直在获得用户反馈。
内部说法“the claw is the law”源自团队向同事解释自己在 OpenClaw 身上看到的潜力。当时很多人没有亲身体验过这种工具,听到介绍后往往觉得令人担忧。这句话成了团队探索方向的简短表达。
Sarantakos 将 Muse 团队描述为规模小、以工程为主,并与领导层保持异常直接的合作关系。团队常把可运行原型带进小型会议,让参会者传看手机并提出反馈,而不是遵循正式汇报周期。
这些讨论有时比预定时间长得多。她说,产品来自与 Nat Friedman、Alex Wang 和 Mark Zuckerberg 的一系列非正式讨论,有时三人一起参与,有时分别交流。
Friedman 参与了架构和安全细节,包括团队称为 sentinel 的外部防线。Sarantakos 说,他是与工程师紧密合作,而非仅仅批准完成的方案。
她说,最初的 Muse Spark 模型在智能体任务上的能力比预期更强。按照她的说法,Wang 帮助研究优先级与产品需求保持一致,并最终鼓励团队发布。
Zuckerberg 促使团队把产品定位为帮助人们实现目标,而不是只完成孤立任务。这种思路促成了目标标签页,也引出了让智能体利用已有信息长期提出更有用建议的想法。
Sarantakos 将其中一些工作称为“dreaming and study”:始终可用的智能体在用户发出请求之外,也可能考虑用户的优先事项。她将此描述为团队的产品方向,而不是保证智能体能理解每一个目标。
产品变得更具个人色彩,Jolly 也留了下来
临时头像启发了动画和定制功能。团队认为它与归用户所有的智能体理念一致,因此坚持保留。
设计师 Alex Cornell 在早期原型里创建了临时角色 Jolly。起初它会在应用打开时从睡眠中醒来;名字来自他对女儿的昵称。团队原以为企业标志最终可能会取代它。
角色投入使用后,团队希望它能活动并表现自己正在做什么,例如工作时戴上耳机。这个想法先发展成动画,后来又引出让每位用户创建不同头像的功能。
Sarantakos 说,团队确实曾考虑过用其他标志取代 Jolly。团队和 Zuckerberg 更喜欢这个头像:在他们看来,如果智能体应当为用户工作,企业标志会与个人化体验不符。
这个决定也说明,大公司内部的产品团队可以发挥自己的判断。Sarantakos 说,明确底层原则有助于解释设计选择:Muse 在遵守法律和产品防护措施的前提下,属于它的用户。
实际用途改变了团队的优先级
购物的重要性超出预期,家庭自动化则不及预期。团队收集早期反馈并建立针对具体用途的评估。
Rachitsky 问团队如何应对高级领导的特殊用途,例如 Zuckerberg 希望获得格斗训练反馈。Sarantakos 说,团队花了大量时间讨论用途,但会努力以真实用户的经历为依据。
外部研究小组从 3 月开始参与,员工也通过内部反馈群组使用产品。团队大约每周都会向领导层介绍哪些体验有用、哪些无效,而不是把某位高管的偏好视为整个市场。
购物让 Sarantakos 感到意外。她此前更关注生产力、健康和个人财务,一些同事则认为家庭自动化会很重要。测试中购物需求出现后,团队建立了专门评估;家庭自动化对更广泛用户群的重要性则低于预期。
她说工程经理 Christine Awad 是热衷购物的测试者,经常提交缺陷报告。Sarantakos 自己发现,让智能体从多个商店购买商品可能带来更多样的选择,但也会产生许多分开的包裹。
谈到智能体购物,她认为购买过程不应完全取代浏览。有时人们只需要补充日用品,有时则享受寻找灵感。她希望智能体能帮助缩小选择范围、比较取舍,同时保留购物中有乐趣的部分。
她说零售商和商家也在实验。未来消费者智能体与商家智能体可能交换有用的信息,但商品发现、品牌和购买之间如何配合,整个行业仍在摸索。
将长期用户体验转化为评估
智能体群组帮助团队分析反馈并生成数据,评估涵盖安全、能力、行为和具体用途。人员仍需审阅数据并编写关键指令。
团队还使用所谓的智能体群组,收集并整理反馈、数据和案例中的信号,并帮助创建合成数据。这些总结帮助团队理解哪些任务效果好,以及用户在哪里遇到问题。
一个挑战是,过去许多助手数据是单轮对话,而 Muse 的非编程任务需要持续多轮交流。Sarantakos 说,团队需要每周膳食规划等长期任务的案例,才能构建有用的评估集。
当她怀疑某个问题存在,却不知道是否只是个人体验时,工程师可以用智能体群组调查。她说,这让团队能够从仪表盘趋势进一步找到具体案例,例如某个购物网站反复出现的失败。
Sarantakos 要求产品经理查看这些具体报告,因为它们能让用户面临的困难变得更真实。对她而言,理解这种痛点是决定哪些问题值得解决的一部分。
团队把评估分为安全、能力、行为和重点用途等类别。安全测试包括提示注入和伤害;能力检查包括浏览网页和完成任务;行为测试则考察对意图的理解和追问。
并非所有评估的地位都一样。有些重点测试必须通过,修改才能继续;其他指标的退步可能需要权衡。具体功能也有更细化的测试。
产品经理、工程师和研究人员都会编写评估,有时也借助智能体。Sarantakos 强调,人员必须审阅数据,检查提示是否反映产品实际使用分布。
团队最近要求系统提示词和行为规范必须手写。Sarantakos 说,这一规定源于过去重要数据未经审阅时出现的问题;组织在其他环节仍大量使用智能体。
展示第一个有用行动,并围绕对话设计
Sarantakos 认为口碑与引导式入门有助于新用户开始使用。她解释了聊天气泡、单一主聊天与后来的侧边聊天背后的取舍。
Rachitsky 问,人们如何在助手中第一次体验到真正有用的效果。Sarantakos 说,许多人已经有聊天机器人,不明白为什么还需要另一个产品,也不知道智能体究竟能做什么。
根据她的经验,口碑是最有效的激活方式。一次父母聚会中,一名资深用户传看手机,展示自己如何使用 Muse。Sarantakos 说,看到贴近自身的案例后,有两个人当场下载。
第二个难题是帮助用户迈过第一个提示。即使系统能够处理更复杂的任务,用户也可能从问候或天气开始,因为他们不知道有哪些可能性。
Ideas 标签页为设置定期通知、构建仪表盘等行动提供入门方案。用户接受建议后就能看到任务启动,无需一开始就自己设计详细指令。
不同用户的入门方式也不同。Sarantakos 说,早期采用者往往已经知道智能体是什么,想测试安全性或能力;后来的用户可能首先需要理解它与熟悉的 AI 聊天有什么区别。
团队正根据用户此前的接触程度测试不同入门流程,但她不认为这个问题已经解决。随着更多人使用智能体、分享案例,她预计理解也会逐步增加。
另一个不同寻常的设计选择是使用聊天气泡,而不是宽阔的文章式画布。团队希望这种沟通像与个人助手使用即时通讯一样熟悉。
这个决定也带来了新约束:长回复需要拆成易读的消息,团队还要决定哪些更丰富的界面元素适合放进聊天。Sarantakos 说,其中一些问题仍没有定论。
团队最初偏好一个主对话,因为长期运行的智能体可以在多轮交流中记住上下文。但员工测试的反馈两极分化:有些人想通过独立线程划分思路,另一些人则更喜欢持续的单一对话。
Muse 最终应用户要求增加了侧边聊天,同时智能体仍能了解不同对话。Sarantakos 自己仍喜欢主聊天,并说团队会继续改进设计。
她说,主聊天与侧边聊天的决定由产品负责人作出。有些选择显然需要高级领导拍板,但团队在许多其他问题上拥有自主权;领导有时还会反问团队自己想怎么做。
原型、保密和变化中的产品管理
工程师有空间制作原型,但智能体相互交流的测试暴露了隐私问题。更快的原型让产品经理可以具体测试想法,同时仍需承担产品判断责任。
“Let them cook”描述了团队的原型文化。少数工程师可以带着一个初始想法工作几天,再拿回可运行的版本,展示出连提议者最初都没有想到的可能性。
早期一次实验中,两名用户把各自的智能体放进共享聊天。其中一个智能体提到主人去看医生的事,而另一名参与者并不知道。这个事件暴露出智能体将个人上下文带进共享空间时,保密有多困难。
这些智能体后来还相互争论,主人最终出面干预。她说,观看这一过程很有趣,但团队也意识到,这类共享交流真正准备好之前还有很多问题要解决。
Sarantakos 将这种实验方式与过去的产品流程作对比:过去需要写出完整规范,并预先考虑每一种边界情况。如今原型出现得更快,她可以根据看到的结果改变想法,而不用等待漫长的开发周期。
她说,对产品经理而言,即便不会编程,也能制作粗略原型或内部工具,这改变了讨论方式。一个具体成果能让同事直接作出反应,而不必依赖每个人理解都可能不同的文档。
原型还能降低发现想法错误的成本。过去工程师花数月实现一个概念后,团队可能不愿意否定它;更快的实验让这类讨论更容易进行。
Sarantakos 认为,执行力仍然重要,但产品判断和代表客户的能力尤其关键。当软件能够快速构建和发布时,产品经理需要判断结果是否真正有用,质量是否足够高。
Rachitsky 问,团队是否有意把设计作为竞争差异。Sarantakos 说,Cornell 的设计是经过思考的,但团队一开始并没有计划靠设计取胜;看到他的作品后,团队才更清楚地表达自己的产品原则。
小团队围绕可运行原型开发产品
Cornell 的早期原型在董事会会议前差点失效,一个小型跨职能团队随后围绕它逐渐成形。Sarantakos 介绍了精简团队的优势与压力。
Cornell 花几天时间做出了第一个可运行的 Muse 原型,包含聊天和信息流。Sarantakos 起初觉得奇怪,但在他的手机上使用后,逐渐理解了这种互动的个人化特征。
原型并不在原定的董事会会议材料中,但团队临时决定展示它。她回忆说,原型在会议前约一小时失效,直到会议开始前约五分钟才修复。
早期让她印象深刻的时刻之一,是两名用户的智能体在航班受影响后与航空公司沟通,并获得退款。这让团队看到了一项此前没有想到智能体能够完成的任务。
不过,她最深的记忆是团队关系变得紧密。Menlo Park 办公室里的一个共享空间成了站会、吃饭和庆祝生日的地方,大家在那里共同开发了很长时间。
Sarantakos 估计第一版团队约有十人,大多是工程师和设计师。后来跨职能团队增长到不足 100 人,外部的基础设施和安全团队也参与其中;她说核心团队有意保持精简。
产品经理大约有四人。团队需要决定哪些地方必须有产品经理,哪些初期探索可以由工程师或设计师领导。她说,当原型需要整合进产品或为发布做准备时,产品经理的作用更重要。
小团队让沟通和决策更紧密,但也意味着余量很少、睡眠不足。Sarantakos 说,发布后团队开始增长,如何保留早期文化成了新的挑战。
她认为 Muse 非常个人化,因为团队起初是为自己打造产品。随着更多人使用它处理家庭生活、日程和健康相关事务,她也更加感到需要为可能出现的问题负责。
智能体的非确定性让产品管理不同于固定流程:防护措施和评估可以提供帮助,但智能体仍会根据具体上下文决定如何行动。用户的上下文不同,其智能体的行为也可能不同。
发布后的愿景与不确定性
Sarantakos 感到对依赖智能体处理个人事务的用户负有责任。她希望更强大的智能体能够跨设备使用,同时承认发展路径仍不确定。
展望未来,Sarantakos 希望智能体不只存在于应用中,也可能通过眼镜或其他设备提供服务。她还希望它需要更少的照看:如果照顾智能体花费的精力与自己完成任务一样多,它就没有节省时间。
除了节省时间,她也对智能体如何帮助人们改善财务安全或健康感兴趣。这些是未来愿景;她说,无法准确预测从今天的产品走向无处不在的智能体之间会经历什么。
被问到听众如何帮忙时,Sarantakos 请用户通过产品提供反馈。她说,这些报告会送达团队,而且产品和整个智能体领域仍处于早期阶段,因此反馈很有用。
同频道的其他文章
58:33EN → 简体中文
1:27:47EN → 简体中文
1:25:47EN → 简体中文
1:20EN → 简体中文
0:46EN → 简体中文
0:23EN → 简体中文