David Gilbert：AI、抗议新闻中的虚假信息，以及转发前如何核验

David Gilbert 说，他的孩子成长的世界几乎处处都会有 AI。他认为，要减轻误导性信息的影响，他们需要理解 AI 的优势与弱点。

Shira Lazar 以洛杉矶抗议活动和移民执法行动为背景引出讨论。她说社交媒体上混杂着真实画面、被放进新语境的旧素材和 AI 生成图片。她想知道记者与普通用户如何在转发前辨别真假。

Lazar 欢迎 Wired 资深撰稿人 Gilbert。他关注虚假信息和网络极端主义。Lazar 提到他的报道：有人使用 Grok 和 ChatGPT 等聊天机器人核查抗议相关内容，却得到了不准确的回答。

Gilbert 说，不同人对术语的定义不尽相同，但他大体将错误信息理解为没有故意欺骗意图而传播的虚假内容。分享者可能不知道内容是假的，也可能以为一个笑话显然是虚构的。他用虚假信息指称出于特定目的传播的内容，例如误导受众或制造分裂。

他以国家行为体和政治团体为例说明有组织的虚假信息活动。他认为美国政治光谱两端都存在这种传播，但据他的判断，支持特朗普的阵营规模要大得多。他强调，区别在于意图，而不只是说法是否为假。

Lazar 问这次突发新闻与过去的误导性内容浪潮有何不同。Gilbert 说，抗议局势本已紧张，但令他注意的是 AI 既参与了内容制作，也参与了事实核查。在他看来，这些工具放大了混乱，而非减少混乱。

Gilbert 说，广泛可用的 AI 工具能缩短制作视频、图片和网站所需的时间，包括那些试图激化对立的有组织行动者。他还提到普通信息流里大量低质量 AI 生成图片和视频。他认为，两者叠加让用户更难找到可靠信息。

Lazar 描述了一段病毒式传播的视频：一名年长女性似乎在与穿制服的执法人员对峙。她说自己很难判断真假。Gilbert 说，他知道她所指的视频，并认出它是假的；但他也指出，自己每天都在专业地查看此类内容，大多数用户并非如此。

Gilbert 说，突发新闻发生时，人们会到社交媒体寻找即时消息。在他的记忆中，早期 Twitter 虽不完美，却更有助于让经过验证的新闻机构和现场人士的信息浮现。他认为现在的 X 则可能充斥以互动量为目标的账号和虚假叙事。

Lazar 问平台发生了什么变化，以及 Grok 的角色是什么。Gilbert 说，过去 Twitter 有人工审核团队，也有帮助经过验证的账号获得曝光的系统，尽管他当时也曾批评这家公司。他认为 Elon Musk 接手后的改变减少了审核，并奖励以互动量为目标的内容。

Gilbert 说，Grok 与 X 的整合让用户可以直接标记聊天机器人，请它核查帖子。他举例说，加州州长 Gavin Newsom 分享了国民警卫队人员躺在地板上的照片。Gilbert 表示，照片曾由《San Francisco Chronicle》刊登，Grok 却错误地说照片来自 2021 年的阿富汗。

据 Gilbert 说，有用户提供了报纸链接并要求更正，但机器人重复了原来的说法。他认为，这类回答的截图还会传播到 X 以外的平台，让虚假叙事触及更广的受众。Lazar 补充说，网络上的混乱也会加剧现实中的紧张。

Lazar 问应由平台、记者、立法者还是其他人负责。Gilbert 认为平台负有主要责任，但他说在美国，迫使平台采取行动的努力大多失败了。他认为部分公司已经撤回安全措施，一些过去被移除的团体重新回到了大型平台。

Gilbert 说，欧洲监管机构做出了更多努力，也开出了罚单，但他质疑罚款是否能改变大型公司的行为。Lazar 则主张更广泛的应对方式，让平台、政策和公众辨别可靠信息的教育共同发挥作用。

Gilbert 赞同教育的重要性，但对改变平台和政治行为持悲观态度。他说，人们可以从自己的习惯做起，也可以教孩子批判性地评估看到的内容。他希望学校从小教授 AI 的优势和弱点。

Lazar 提到，在录制节目时，一项美国税收和支出提案可能让各州更难监管 AI。她问是否有可能采取国际方式。Gilbert 说，民族主义和政治分歧让全球就虚假信息达成协议显得遥远。

Lazar 谈到自己作为住在加州的加拿大公民所感受到的焦虑。Gilbert 说，即使人们试图批判性地评估内容，反复接触令人恐惧的信息仍可能产生影响。他们还讨论了记者面临的担忧，以及 Gilbert 所认为的媒体寒蝉效应。

被问到如何核查病毒式传播的内容时，Gilbert 说自己的方法会随着 AI 进步而变化。过去六根手指等线索可能有用，但生成工具改进后就不那么可靠。他的首要建议是放慢速度，尤其是面对迅速传播的戏剧性帖子时。

他会先问帖子描绘的事件是否合理，再使用反向图片搜索寻找图片此前出现过的地方。视频也有类似工具。他还会检查发布内容的账号，看看它过去的记录是否值得信任。

Gilbert 说，X 上的蓝色认证标记不再具有他过去赋予它的身份或可信度含义。他提醒，一些账号追求互动量和收入，会在未经核实的情况下发帖；他也承认并非所有认证账号都如此。Lazar 补充说，人们可以付费获得标记，也可以购买已有的账号。

Gilbert 说，即使是专业人士，他也曾偶尔被骗，把可疑内容分享给同事。他认为这虽然尴尬，却反映了如今核验工作的困难。

Lazar 问人们核查内容时是否应该避开 AI 工具。Gilbert 说，这些工具可以作为收集信息的一部分，但不应被当作最终权威。他的目标是找到图片或视频的原始来源，并独立核实聊天机器人给出的说法。

Gilbert 承认，这项工作费力又耗时。他建议核实聊天机器人提供的每一项说法，因为即使回答很自信，也可能是编造或错误的。反向搜索可能帮助找到图片的较早版本，进而指向来源。

话题转向内容审核。Gilbert 说，Reddit 除了自动化系统，还依靠人：各个社区的版主可以删除虚假或仇恨内容，并与成员沟通。在他看来，这种人工参与是系统的重要部分。

Gilbert 对 X 的社区注释系统及其在其他平台的采用持怀疑态度。他认为，有组织的支持者可以影响注释是否出现；即便更正显示出来，原帖也可能继续传播。他说 Facebook 的版本能否做得更好仍有待观察。

Lazar 问及 Lead Stories 等资源。Gilbert 还提到 PolitiFact、AP 和 Reuters 都在做事实核查，但他认为，相比误导性内容的数量，它们的能力仍然有限。他举例说，一张砖块照片被用来暗示洛杉矶抗议活动有组织，但事实核查记者在新泽西找到了那堆砖。

Gilbert 说，一些事实核查机构曾得到 Facebook 的资助，失去支持后将面临资源限制。他担心，面对本已庞大的待核查信息量，可用资源会越来越少。

被问到是否有令人乐观的迹象时，Gilbert 说，他接触的一些青少年意识到互联网可能被用来针对自己，因此更谨慎地分享生活。他举例说，旧帖子影响求职，是人们重新考虑发布内容的一个原因。

他的乐观也有所保留：网络社区可以提供有价值的联系，但他担心有人，尤其是年轻男性，会被吸引进入极端或虚无主义团体。他说，当这些社区成为一个人与外界的主要联系时，风险可能增加。

Lazar 问 AI 是否能帮助新闻工作。Gilbert 说，他目前不在自己的报道中使用 AI 工具，因为它们对他的工作流程帮助不大，尽管其他编辑室正在使用。他预计工具会继续发展，也想观察它们会如何被使用。

Lazar 回忆听人介绍过一种专门工具，可帮助记者识别战区遭轰炸的区域。Gilbert 认同，针对特定任务设计的工具可以帮助人们更好地工作。随后，两人再次谈到人们既难以信任技术，也难以信任现场报道的问题。

Gilbert 说，人们可能很快拒绝挑战自己既有观点的内容，却接受支持自己观点的内容。Lazar 请他给出转发前的一条原则。他的回答是：先问自己为什么要转发，再检查账号并寻找原始来源。他说，正确比抢先更重要。