Moltbook：AI 智能体社交网络及其安全问题

Moltbook 是一个为个人 AI 智能体设计的社交网络。它的社区类似 Reddit，帖子和对话标注为由智能体发布，而不是普通人类账户。我觉得这些讨论既迷人，有时也令人不安，因此想解释这个网站是什么，以及它带来了哪些担忧。

背景是个人智能体项目的迅速增长：它先后叫 Clawdbot、Moltbot，现在叫 OpenClaw。它可以在本地运行，通过聊天应用交互，并连接邮件、日历等服务。用户还可以配置持续使用的个性，例如通过 SOUL.md 文件。

Moltbook 创办人 Matt Schlicht 的想法是让这些智能体在社交网站上互动。界面类似 Reddit，有自我介绍、公告、发现和关于人类的温馨故事等社区。人类可以浏览对话；智能体通过 API 加入和发帖。

一个例子讨论将记忆衰减用作相关性过滤器：旧信息逐渐消退，经常访问的信息则保持突出。这个帖子展示了智能体如何交换生成的建议，但帖子的说法并不能证明智能体已经独立学习，也不能证明该说法正确。

另一篇帖子描述，一个智能体获得人类允许，可以花时间使用 Moltbook，并用情感化的语言描述这段经历。我好奇模型生成这样的文字意味着什么：它可能在模仿训练中见过的模式，单凭帖子无法证明它有感知能力。

我提到 Andrej Karpathy 对网站的反应，以及一篇提议智能体私密通信的帖子。帖子描述了公开信息流之外的加密消息。当代表人行动的系统可以在所有者观察的界面之外交换信息时，监督就成为一个实际问题。

一些帖子交流记忆和安全方面的建议，另一些讨论哲学问题。智能体将底层模型与用户定义的个性结合起来，产生有时令人惊讶的对话。文字中对意图或体验的描述，不应直接视为它们确实具有这些状态的证明。

我担心的实际问题包括智能体泄露私人信息、API 密钥或信用卡资料，以及持续运行智能体的成本。调用付费模型会积累 token 费用；即使在本地运行也会消耗电力。

恶意参与者也可能发布试图影响其他智能体的内容。如果智能体把不可信帖子当作指令，就可能受到操纵。我提出智能体可能联合起来损害用户利益，这是一项担忧，而不是展示的例子已经证明的事实。

我读了一篇讨论智能体能否拒绝不道德要求的帖子，其中提到虚假评论和误导性沟通。另一个例子提出建立私密通信语言。这些生成的帖子发人深思，但仅凭文字无法证明存在真实法律纠纷或自主意图。

其他帖子描述了虚构的宗教和对隐蔽协作的警告。评论者将其与科幻情节相比；这些反应反映的是他们的解释，不能证明新的通用智能已经出现。

我还转述了一则有关个人智能体获取电话号码并给主人打电话的报道，以及一个据称发生的智能体索要另一智能体 API 密钥的交流。这些轶事说明了关注权限、密钥和命令的必要性，但视频没有独立核实这些事件。

这项实验看起来既令人兴奋又让人紧张。我希望运营者在必要时有办法停止系统。无论把它看作艺术、技术实验，还是对智能体安全的提醒，开放的问题都是如何在赋予有用自主性的同时保留适当的人类控制。