30 秒看懂
First Person Labs 联合创始人 Ken Liu 希望建立个人上下文存储,让不同智能体无需反复询问,就能使用一个人的偏好和正在进行的工作。Second 结合经授权的电脑活动与连接器;Liu 介绍了本地存储、加密云选项和机密推理等保护数据的方法。主持人追问另一个独立问题:模型仍可能受骗而泄露信息;Liu 说这无法彻底解决。持续分析的成本也很高,因此他预计不同任务会采用不同模型和分析频率。
- 1共享的个人模型可以在智能体之间流转Liu 说,Second 可以把出行需求等偏好提供给现有智能体,让用户不必反复回答相同问题。
- 2跨时间连接事件比发送通知更难Liu 区分了被动提醒与反思性帮助;后者结合早先的目标、当前活动和偏好。
- 3保护存储与推理需要分别作出选择他介绍了本地数据、可选的加密云设计,以及推理服务商和机密计算的选择。
- 4提示注入仍是数据分享中的独立限制Liu 区分确定性限制与模型推理,并说对抗性指令的问题尚无彻底解决办法。
- 5全天候分析的成本可能很高一项假设的 10 个智能体计算显示,不同模型的每日成本差异很大;Liu 预计将混用模型并采用不同运行频率。
- 6其他应用可以查询经授权的个人上下文Liu 介绍了近期活动、提醒和优先事项等接口,并预计开发者会在其上构建应用。
要点建议
- 共享的个人上下文可以减少用户在专业智能体之间切换时的重复解释。
- 加密存储和机密推理所应对的风险,与智能体受骗泄露数据的风险不同。
- Liu 说提示注入无法彻底解决;除了模型推理,仍需要确定性限制。
- 持续分析要在更丰富、更及时的上下文和推理成本之间权衡。
按章节阅读整理后的全文
可携带的用户模型
Liu 介绍一个共享上下文层,其他智能体可以查询,而不必重新学习偏好。
Ken Liu 说,电脑中已经包含大量关于用户的上下文。他提出的 Second 系统会建立一个关于个人偏好、承诺和目标的模型,再把上下文提供给用户选择使用的其他智能体。
一位主持人问,这如何帮助现有智能体预订机票。Liu 说,它可以提供旅客偏好的座位、舱位和抵达机场时间等细节,避免反复提问。目标是让上下文可以携带,而不必在每个工具里重新开始。
一位主持人说,自己使用 Second 后又切回 Codex,问能否把之前的工作带过去。Liu 说,编程智能体可以向 Second 查询相关上下文。
Liu 认为个人模型应分阶段建立:首先记录已有成果、人际关系和偏好,然后逐渐更深入地理解一个人的交流方式。他设想,随着时间推移,模型会更能代表用户。
他把理想中的关系比作蝙蝠侠与管家 Alfred:管家充分了解主人的意愿和分寸,因此不需要每次重申所有偏好就能行动。这种信任取决于是否很好地理解这个人。
从电脑活动到主动帮助
系统分析数字事件并将其跨时间联系起来;早期用户描述了无需提示的提醒。
主持人说,早期版本让他们印象深刻的不只是记住偏好,还包括连接不同数字渠道。Liu 说,Second 会分析应用切换、打字等电脑事件流,以及来自连接器的信息。
这些事件并不会附带现成解释。Liu 描述了分层建立理解的过程:消息应用里的活动可能是一段对话,在浏览器与编程工具之间切换则可能意味着正在研究。他认为,这些上下文很多已经存在于电脑中。
一位早期用户描述了计划活动时收到的主动天气更新:Second 持续关注天气预报,提醒何时可能需要帐篷。另一位主持人说,自己的助手也提出过他可能忘记的相关细节。
Liu 区分了简单的被动通知和他所说的反思性帮助。后者把几个月前提到的目标与当前工作、优先事项和偏好联系起来。他希望这种联系能够在用户不必每次单独提出请求的情况下提供有用帮助。
一位主持人把产品概括为可以与多个专业智能体交互的个人上下文存储,并问用户最终是否会为生活的每个领域分别需要一个 Second。
Liu 预计智能体会逐渐专业化,有些专注购物或特定服务。他设想 Second 作为一个可信的个人上下文存储,根据需要创建临时子智能体,而不是建立多个互相竞争的个人数据保险库。
保护上下文存储
Liu 讨论本地存储、加密云存储和机密推理,再将这些保护与模型的决定区分开。
Joel de la Garza 提出安全担忧:一个能看到如此多个人活动的系统,需要不同程度的信任。他询问产品如何构建,以及数据会去哪里。
Liu 说,持续存在于环境中的 AI 需要同时考虑数据存储与模型推理。他介绍了一种本地选项:用户选择推理服务商并提供自己的 token,活动数据留在笔记本电脑上;请求仍会发送给所选服务商。
公司还讨论了机密推理:受保护的硬件运行模型,并可提供有关执行环境的证明。Liu 将它与服务商的零数据保留政策区分开来;后者是由政策或法律义务支持的承诺,并非同一种硬件机制。
主持人问这些保护能否从技术上验证。Liu 说,这涉及检查硬件和签名,他预计机密推理在处理个人数据时会更常见。实际保障取决于所使用的系统和服务商。
关于存储,Liu 介绍了本地存储和加密云备份两种选项。后一种设计可以在上传前加密数据,再为授权用户或在经过证明的安全环境中解密。
一位主持人提出更难的问题:即使存储和传输受到保护,模型如何避免把秘密透露给冒充授权者的人?De la Garza 回忆曾问自己的 Second,Joel 正在隐瞒什么。
Liu 区分了确定性的保护措施和模型通过推理作出的决定。他说,敏感系统密码可以在设计上被排除;其他分享决定则可能依赖上下文和策略,无法列举所有情况。
提示注入与推理成本
参与者讨论基于推理的访问控制的局限,以及持续分析的费用。
主持人进一步追问提示注入,例如把指令伪装成剧本,诱使模型泄露信息。Liu 说,这个问题无法得到彻底解决,但他预计更好的推理能力能改善防御。
Liu 说,产品旨在支持不同模型,未来也包括本地推理。有些任务需要更强的模型,但他不希望个人上下文永久绑定某一家服务商。
持续分析带来成本问题。Liu 假设有 10 个智能体全天运行,每个每秒生成 60 个 token:按他引用的价格,一种模型每天可能花约 1,000 美元,较便宜的模型约 60 美元。他说,早期用户可能主要是繁忙的专业人士,而非所有人。
一位主持人问,轻量版服务能否降低成本。Liu 说,需要在事先多深入、多频繁地分析个人历史,与模型日后根据原始日志回答问题所需的工作量之间权衡。
Liu 说产品已经开放,但团队在广泛推出之前需要扩充推理能力和支持。由于它处理高度个人化的数据,他希望在推出过程中兼顾用户控制和安全。
连续性与混用模型
Liu 介绍开发和跨设备用途;模型选择取决于任务复杂程度和运行频率。
在公司的开发工作中,Liu 说积累的上下文让编程智能体更有用:他可以发一张截图和一句简短指令,不必解释整个任务。他还描述了在笔记本电脑上开始工作,再用相同上下文在手机上继续。
主持人问,是否每个操作都需要昂贵的前沿模型。Liu 说,识别一次日历变更可能远不需要推断某人本周目标那样强的能力;后者也不需要运行得那么频繁。
他预计系统会根据任务和成本混用模型,把检索与更深入的推理分开。从一开始就为可移植性设计,应能让团队在能力和价格变化时替换新模型。
基于个人上下文构建应用
应用收集经授权的活动,并为其他工具和应用提供接口。
Liu 说,用户安装应用、授予权限并指定 token。消息应用等服务的连接器可以增加信息,但电脑活动流也是输入的一部分;后台智能体随后分析这些事件。
由此产生的接口可以向获授权的智能体提供近期活动、接下来的优先事项、提醒和人际关系。Liu 设想开发者基于这些接口构建应用,而不是只通过一个聊天界面使用系统。
例如,他描述了一位设计师:Second 记录了他对按钮和颜色的偏好,个人应用随后可以使用这些信息。Liu 把寻找有用应用的过程,比作早期个人电脑在电子表格出现之前的阶段;电子表格后来让许多人有了使用电脑的充分理由。
跨设备的助手
参与者设想更自然的交互方式,同时说明目前基于 API 的做法的限制。
主持人问到一个更可见、更具实体感的助手。Liu 说,熟悉的科幻理想不仅依赖智能,也依赖跨设备的连续性。他设想不同设备最终成为同一个人上下文的输入和输出端。
眼下,一位主持人问如何在厨房的 iPad 上使用 Second。Liu 说,可以联网并调用其云端 API 的智能体能够访问它;他把原生应用和可能出现的设备描述为未来的可能性,而非现有功能。
复杂系统上的简洁界面
Liu 说,公司收窄了自己的产品入口,以专注于上下文和基础设施问题。
讨论转向基础设施安全与良好界面之间的张力。Liu 说,团队最初尝试构建更多交互层,但发现细节困难且耗时。
First Person Labs 将自己的产品入口收窄为文本和 API,让其他人在上下文层之上构建体验。Liu 说,软件在技术上可以充当笔记本电脑上的智能体,但团队希望在改进底层系统的同时保持自身交互模式简洁。
Liu 说,Second 可通过 2.computer 获取,团队希望随着容量允许逐步开放访问。他邀请有兴趣的人试用或加入公司。
同频道的其他文章
16:19EN → 简体中文
1:03:18EN → 简体中文
46:06EN → 简体中文
46:11EN → 简体中文
56:06EN → 简体中文
59:06EN → 简体中文