Matthew Berman 解读教宗良十四世的 AI 通谕与 Anthropic 的角色

教宗良十四世发布了《Magnifica humanitas》，这是一份关于在人工智能时代维护人类尊严的通谕。我想审视其中的一些论点，以及围绕 Anthropic 参与发布会的争论。梵蒂冈于 2026 年 5 月 25 日发布了这份文件；我的讨论反映当时的情况。

我把这个标题理解为一种提醒：即使人们在讨论 AI 意识，以及机器可能取代人类活动，人类仍有其独特之处。文件警告说，新技术带来各种可能性，其对尊严和共同利益的长期影响却难以预测。

通谕认为，技术权力已主要掌握在私人手中，这使公众监督和治理更加复杂。我认为，少数塑造前沿 AI 的机构体现了这种集中。我也怀疑 Anthropic 的观点影响了这份文件，但该公司代表出席发布会本身并不能证明其影响了文件的撰写。

我担心现有 AI 企业支持的监管可能让初创公司更难竞争。我将 Anthropic 的游说和对其网络安全模型访问的限制——我称该模型为 Mythos——视为潜在监管俘获问题的例子。这些是我对公司激励的判断，不能证明其动机，也不能证明监管必然导致俘获。

教宗拒绝简单地对技术说“是”或“否”，并表示技术的特征反映了创造、资助、监管和使用它的人。我欣赏这种细致的观点：完全停止或不受约束地加速，都无法回答谁控制技术、技术服务于谁的利益。

通谕说，人的尊严不取决于能力、财富、地位或个人选择。我担心 AI 可能打乱许多人建立身份认同所依赖的工作和贡献，同时也相信随着 AI 普及，人类特质可能变得更加重要。

我自己的例子是写作。我已制定一项政策，不让 AI 帮助生成我们通讯中的原创文章。阅读 AI 生成的文字，让我更加珍视人类写作中未经修饰的想法，甚至是不完美之处；这是我的偏好，并非对所有 AI 辅助作品的普遍衡量。

良十四世认为，即使 AI 的设计者对这些系统如何运作也只有有限的理解。他还认为，AI 或许能模拟语言和同理心，却缺少人类发展智慧所依赖的情感、关系和精神视角。这是通谕对当前 AI 的描述，并非判断机器意识的既定科学检验。

我赞同对 AI 陪伴的警告。通谕说，模拟的关怀可以制造关系的表象，可能削弱人们与他人建立联系的愿望，尤其是在现实关系已经缺乏的情况下。我特别担心年轻人对角色产生依恋，尽管与 AI 对话也可能给孤独的人带来安慰。

我担心，如果人工陪伴比人与人之间的关系更容易获得，一些人会选择前者。我将这一担忧与出生率下降联系起来，但这只是我对可能社会影响的猜测，并非 AI 陪伴导致出生率下降的证据。

教宗呼吁为 AI“解除武装”：他的文件描述了一种超越军事用途、延伸至经济和地缘政治竞争的竞争思维。我意识到自己也常用 AI 竞赛来描述前沿实验室和国家之间的关系。我欢迎这一道德层面的挑战，同时仍怀疑人类竞争是否会消失。

在通谕中，解除武装并不意味着拒绝技术，而是防止技术支配人类、松动垄断控制，并让技术接受公众讨论和多元文化的参与。我认为这是一个重要区别。文件呼吁采用适当的监管工具，也表示仅靠监管并不够。

我再次批评 Anthropic，担心过度监管可能巩固少数已经领先的公司的地位。在我看来，如果规则阻碍竞争，监管与广泛参与之间就会存在张力。我认为开源是分散控制权的一种可能方式，但这是我的解读，并非我讨论的段落明确支持开源。

我发现这份通谕比预想中更了解情况，也更加细致。它提醒人们，关于 AI 的论断可能很快过时，并质疑技术进步会自动惠及所有人的假设。我还特别提到它对注意力经济企业的讨论，这些企业利用成瘾和不安全感。

Anthropic 联合创始人 Chris Olah 在梵蒂冈发布会上发言。我将他的参与和公司对安全的态度解读为服务自身利益的定位，并猜测该公司寻求不成比例的影响力。梵蒂冈公告确认 Olah 是受邀发言者，但这一点本身不能证明双方有正式联盟，也不能证明 Anthropic 影响了通谕。

在片段中，Olah 表示，他的可解释性团队发现模型内部结构与一些神经科学结果相似，发现了内省的证据，以及在功能上类似情绪的状态。他明确表示自己不知道这些发现意味着什么，并呼吁继续审慎思考。这些研究解读不能证明 AI 体验到了情绪或意识。

我引述了 Brian Roemmele 的批评：该公司的安全叙事可能成为竞争壁垒和监管杠杆。我有同样的担忧，但这是对激励机制的批评，并不能证明梵蒂冈为何邀请 Olah 或 Anthropic 的意图。在完整发言中，Olah 也呼吁有见识的外部人士批评 AI 实验室。

接着，我读了 David Sacks 的观点：尽管大家都希望保护人的尊严，赋予政府广泛的 AI 权力可能助长审查、监视和控制。这一担忧展示了治理争论的另一面：权力集中在政府手中，就像集中在企业手中一样，可能引发问题。

我讨论了另一位评论者对 Anthropic 公众定位的批评。我并不同意其中所有例子，包括对其与 OpenAI 广告竞争的批评，但我同意一种担忧：援引模型特质并寻求政策影响力，可能加强该公司的地位。这仍是一种有争议的解读，并非欺骗行为的证明。

我对通谕的总体反应是积极的，包括那些我不同意的部分：我欣赏它的审慎和讨论困难问题的意愿。我持续反对的是我所看到的 Anthropic 将自己定位为决定谁应构建 AI 的权威。如何分配对 AI 的权力，仍是一个开放的问题。