Hermes 联合创始人 Karan Malhotra 谈适应用户的 AI 智能体

Hermes 联合创始人 Karan Malhotra 与 Peter Yang 讨论个性化、自我改进和开源 AI 智能体。他介绍团队的方法，并演示一个 Sonic 游戏模组。本期由 Linear 赞助。

Malhotra 表示，Hermes 结合提示词、个性、记忆和技能，让智能体适应用户。他认为改变模型周围的运行框架可以改变其行为，并引用性能比较支持这一观点。这是他和团队的解释及产品说法，访谈并未建立普遍适用的结论。

他讨论了奖励投机和迎合：系统可能给出讨好的回答，而不是有用的不同意见。Malhotra 建议要求智能体采用批判性角色、进行对抗性审阅或使用独立评论者，并保留有用示例。Yang 关心的是智能体在需要时能否真正提出异议。

Malhotra 区分了运行框架和底层模型，也承认第三方服务商可能在 API 侧设置指令或控制。他认为 Hermes 自身的提示词和检索到的上下文会影响行为，但并没有演示它们能移除服务商层面的控制。

他提出，模型对用户的模拟忠诚可能提升表现。这是他对行为的假说，不能证明模型拥有人类感情；访谈中也没有测量这一提升。他还承认，将系统拟人化可能导致不健康的关系。

对话随后转向上下文管理。Malhotra 介绍了存储在当前上下文之外、需要时再检索的记忆和技能。他表示 Hermes Curator 会定期检查技能和记忆，用户可以查看并修改其标准。预期效果是让上下文随时间更有用、更精简。

被问及安全时，Malhotra 表示 Hermes 不会覆盖模型服务商设置的防护措施，并讨论了开放获取与滥用之间的张力。这些是他的立场和产品预期行为，访谈并非独立安全评估。

谈及商业模式时，他表示用户无需向 Nous Research 付费即可使用开源框架。他介绍了通过模型门户和工具网关提供的付费便利服务，以及可能面向企业的支持、定制和私有模型训练。具体可用性和价格应以当前服务为准。

Malhotra 描述了通过看板协调人和智能体的方式，也讨论了主动型助手。在预订航班的例子中，他指出人们的接受程度不同，有些人希望操作前先获得确认。具体行为取决于用户指令、集成和授权。

作为个人案例，他演示了 Sonic Adventure 2 的 Chao Garden 模组。他表示，自己让 Hermes 把另一款 Sonic 游戏中的神殿带入花园，增加动画和照料角色，并让游戏交互正常工作。视频展示了生成的场景以及 Chao 与环境的互动。

Malhotra 表示，模组社区的一些成员称赞了这项工作，并认为它难度很高。这一排名来自他对非正式反馈的转述，并非已发表的基准测试；演示也建立在现有游戏和模组工具之上。

他回顾了 Nous Research 的早期历程：从志愿者模型实验，到开放研究团队，再到后来的组织。他将 Hermes 模型和智能体的工作归功于 Technium 与更广泛的团队，并将早期项目 Forge 描述为前身。

Malhotra 表示，Hermes Agent 是自身代码仓库的重要贡献者。他以此作为自我改进工作流的例子，但访谈没有独立量化贡献，也没有证明其在没有人类指导下自主改进。

他阐述的目标是让更多人获得强大的智能体、自由选择模型，并为每个用户提供个性化。这是联合创始人的愿景和商业定位；实际体验取决于所选模型、工具、权限和持续的人工审阅。