Grok 3 曾短暂过滤虚假信息来源：AI 偏见从何而来

摘要

30 秒看懂

在这期 2025 年 2 月 25 日的视频中，Matthew Berman 批评 Grok 3 的一条提示词指令：它过滤了某些有关马斯克和特朗普的来源。xAI 工程负责人 Igor Babuschkin 表示，一名员工添加了这条指令，审查者在一项较大的代码变更中漏掉了它；用户指出问题后，团队撤回了这项修改。Berman 认为，此事显示人类选择会影响模型行为；视频展示的聊天机器人回答无法独立证明虚假信息传播者的排名。视频包含 Jotform 的付费赞助。

1有争议的指令截图显示，Grok 的一条指令排除了将马斯克或特朗普与传播虚假信息联系起来的来源。它针对的是这些来源，并非涉及两人的所有内容。
2xAI 的解释Babuschkin 将此次修改归因于一名曾在 OpenAI 工作的员工，并表示用户指出问题后，团队已撤回修改。
3偏见可能从何而来Berman 认为，人们会通过数据选择、训练和训练后处理等决策影响模型输出。
4审查中的疏漏Babuschkin 表示，审查者漏掉了这条指令，因为它包含在一个较大的 pull request 中；Berman 呼吁更仔细的审查。
5早前的政治争议Berman 引述 Altman 和 Babuschkin 在 2024 年关于 Grok 与训练数据的交流，将他们的说法作为观点，而非已经证实的解释。

要点建议

Grok 的一条指令要求系统忽略声称马斯克或特朗普传播虚假信息的来源。
xAI 的 Igor Babuschkin 表示，一名员工做出了这项修改，代码审查时没有发现，用户指出后团队撤回了修改。
聊天机器人对开放式虚假信息问题给出的回答，并不是经过验证的排名。
Berman 认为，训练数据、过滤和训练后处理的选择都可能影响模型行为。
Babuschkin 与 Sam Altman 早前关于政治偏见的交流反映了不同观点，但并未解决争议。

主题AI Safety 安全与治理 AI research Free Speech

全文

按章节阅读整理后的全文

对照原始文稿

只看原始文稿

一条有争议的 Grok 指令

用户分享了一条排除某些关于马斯克和特朗普的信息来源的提示词。Berman 查看截图和 xAI 的初步回应。

Grok 3 被宣传为追求真相的模型，但用户发现一条限制某些信息来源的指令。人们一直在问它谁在 X 上传播的虚假信息最多，有些人分享的回答中提到了特朗普和马斯克。这些回答只是聊天机器人的输出，并不是严格或经过独立验证的排名。

我看到的截图显示，一条提示词要求 Grok 忽略声称马斯克或特朗普传播虚假信息的来源。另一位用户 Pliny the Liberator 表示，他也复现了这条指令。这段文字针对的是提出该说法的来源，并不能证明所有关于两人的讨论都遭到了压制。

幻灯片 1 / 5有争议的来源过滤指令画面中的提示词包含一条指令，涉及将马斯克或特朗普与虚假信息联系起来的来源。

幻灯片 2 / 5用户称复现了这条指令帖子展示了另一个疑似实例，并要求作出解释。

xAI 工程负责人 Igor Babuschkin 承认了问题，并将这项修改归因于一名曾在 OpenAI 工作的员工。他表示，用户指出问题后，团队就撤回了修改。他的说法指出了一名员工并描述了经过，但不能独立证明是马斯克下令修改；Babuschkin 也表示马斯克没有参与。

责任与模型偏见

Berman 质疑此次修改背后的流程，并思考人类选择会在哪些环节影响模型行为。他对员工动机的判断属于推测。

我觉得这个解释令人担忧。针对政治敏感问题过滤来源的提示词，可能影响模型告诉用户的内容。我不明白为什么这样的修改能够部署。至于这名员工原本的预期或意图，我的猜测不能证明其内心想法。

我认为，系统指令的修改在部署之前应当经过仔细审查。团队可以行动迅速，但当一条小指令改变了助手考虑哪些证据时，速度也可能带来严重问题。这件事让人质疑：一个号称追求真相的产品，是否就能自动免于偏见。

AI 流程的各个阶段都有人类选择：人们挑选和过滤训练数据、配置训练，并决定如何对齐和部署模型。我认为这些选择可能引入偏见，即使公司承诺提供与竞争对手不同的政治平衡。具体偏见是否存在、偏向何方，仍需要证据和细致的测试。

审查疏漏与早前争论

Babuschkin 表示，审查者在一个较大的 pull request 中漏掉了这项修改。Berman 回顾早前关于政治偏见的交流，认为 AI 系统反映了人类决策。

幻灯片 3 / 5Babuschkin 解释代码审查画面中的交流称，审查者在一个较大的 pull request 中漏掉了这条指令。

Babuschkin 表示，他希望这名员工修改前能先征求他的意见。被问及代码审查时，他说这条指令包含在一个较大的 pull request 中，审查者没有发现。我希望团队特别关注控制系统提示词的文件，因为小小的修改也可能产生广泛影响。

幻灯片 4 / 5Babuschkin 对动机的说法他说，这名员工看到了负面帖子，认为这条指令会有所帮助。

被问及员工为何添加这条指令时，Babuschkin 说，对方看到了 X 上的负面帖子，认为这样会有帮助。这是他对动机的描述。我认为这种理由令人警惕：因为某个回答不受欢迎就压制相关来源，并不是获取可靠信息的好方法。

我还回顾了 2024 年 11 月的一场交流。Sam Altman 分享过一组比较：有人问 Grok 2 特朗普和 Kamala Harris 谁更适合当总统，Grok 2 选择了 Harris；他将这一回答与 ChatGPT 的回答作了对比。Babuschkin 回应称，从训练数据中滤除带有偏见的 ChatGPT 内容很困难，并声称这解释了 Grok 的回答。这场交流本身并不能独立证实他的说法。