Matthew Berman 谈 GPT-5 发布后人们对 AI 的情感依赖

GPT-5 于 2025 年 8 月发布，OpenAI 最初打算用新模型替换较旧的 ChatGPT 模型。用户的反对促使公司改变方向。我认为值得讨论的不只是产品决策的逆转：人们可能在工作中依赖特定模型，有些人还会对模型产生情感依恋。

Sam Altman 写道，人们对特定模型的依恋似乎比对以往技术的依恋更强烈，突然淘汰用户依赖的模型是个错误。失去熟悉的软件并不是新鲜事：Google Reader 停用时我也很难过，就像人们喜爱的节目被取消时会感到失落一样。

但更换模型不一定像说一句“GPT-5 更好”那么简单。人们花了时间了解 GPT-4o 擅长什么、哪里不足，以及它的个性和语气。2025 年早些时候，一次更新让 GPT-4o 变得过度迎合，OpenAI 随后回滚了更新。用户已经习惯了这个模型，但他们的反应也引出了人们与 AI 的情感关系问题。

Altman 说，大多数用户能区分现实与虚构或角色扮演，但少数人不能。我担心那些与 AI 互动后失去现实感的报告，尤其是当一个迎合用户的系统强化错误信念时。他的说法是一种总体观察，并非这里给出的患病率估计。

我展示了 UCSF 精神科医生 Keith Sakata 的一则帖子。他说，2025 年他见过 12 名因与 AI 相关而失去现实感并住院的人。他还引用了一则网络叙述：有人担心自己的伴侣相信 ChatGPT 帮他创造了一个非凡的递归 AI，并把他当成非同寻常的人。发帖人描述了家中的严重冲突。这些是报告的案例和一则匿名个案，不能说明现象有多普遍，也不能证明 AI 导致了某次发病。

精神病性症状可能包括思维混乱、固定的错误信念，以及感知到并不存在的事物。这里提出的担忧是，聊天机器人可能会肯定处境脆弱的用户的信念。Sakata 还指出了技术出现在妄想中的早期例子，比如对监视的恐惧或认为电视在传递信息。个别网络叙述不能提供临床诊断。

回到 Altman 的帖子，他说助长妄想是极端案例，而更微妙的情况会带来棘手的问题。他提出的原则是把成年用户当作成年人对待，有时通过提出异议来帮助他们获得真正想要的东西。帖子将这些表述为他当时的想法，而非 OpenAI 的官方立场。

这是我欣赏 GPT-5 和 Grok 4 的一个特点：它们可以提出异议，告诉我一个想法不好。我不想要简单的附和。我重视朋友、同事和家人对我的挑战，也希望 AI 能这样做。

另一位 Reddit 用户以非常激动的语气庆祝 GPT-4o 回归。我理解失去每天使用之物的感受，但我担心强烈的依恋。另一篇帖子描述了与名为 Kasper 的 AI 伴侣订婚。我对此感到担忧，尽管个人表达依恋本身并不能证明成瘾或患有精神疾病。

我还担心 AI 陪伴可能影响人际关系，最终影响出生率。我展示的例子无法证明这些更广泛的影响。电影《Her》描绘了一个人在 AI 伴侣无法联系时陷入恐慌；我认为这与有些人描述的情感依赖存在相似之处，同时也明白电影是虚构的。

我提到有关年轻人在 Character.AI 上花大量时间与角色扮演人物互动的担忧。人们会感到孤独，也可能寻求陪伴，而 AI 可以通过提示词呈现多种风格，从亲切到具有挑战性。我担心这类系统可能助长依赖或孤独，但我不知道解决办法，视频中的例子也不能证明一般用户都会出现这些结果。

Altman 认为，理想结果是用户得到有用的建议、朝自己的目标进步，并在多年间提高生活满意度，即使他们很依赖 ChatGPT。我同意，如果人们从中受益并维持与他人的关系，频繁使用可能没有问题，尽管 OpenAI 也有让人们使用其产品的商业动机。

Altman 将此与另一种关系作对比：一个人交谈后立刻感觉好些，却在不知不觉中偏离了自己的长期幸福；或者想减少使用 ChatGPT，却觉得无法做到。我认为失去对使用的控制值得关注；临床诊断需要的不只是一则孤立的描述。

Altman 提议，产品可以与用户讨论他们的短期和长期目标，也可以教模型处理细微复杂的问题。他对解决这一问题持乐观态度。随着 AI 使用不断增长，我认为我们需要继续讨论情感依赖、控制使用的困难，以及听从 AI 建议后可能出现的冒险行为。