Arati Prabhakar 谈 AI 政策、公众信任与人的选择

Shira Lazar 介绍前白宫科学技术顾问 Arati Prabhakar，她参与制定了拜登政府 2023 年的 AI 行政命令。对话发表于 2025 年 3 月；政策描述和政治评价反映当时的背景。

Prabhakar 说，她在 1 月 20 日离开白宫后回到帕洛阿尔托。她回顾 AI、抗癌登月计划、气候和创新体系方面的工作，同时将当时的政治局势描述为动荡。

被问及国家在 AI 治理方面所处的位置时，Prabhakar 说她对已经确定的方向感到满意，但认为这只是漫长旅程的开始。她回忆自己在 2022 年 ChatGPT 发布前不久成为科学顾问。

她说，在生成式 AI 引起广泛关注之前，AI 已经影响信息流、搜索、广告、价格和部分医疗服务。按照她的描述，政府希望同时管理风险和追求收益。

Prabhakar 介绍了在现有法律范围内指导行政部门采取行动的行政命令，以及与国会、其他国家和行业的合作。她强调，这只是开端，而不是已经完成的解决方案。

作为例子，她说信贷申请被拒绝的消费者应该得到解释，而不是面对不透明的决定。她也表达了对新政府时期消费者金融保护局未来的担忧。

在医疗领域，Prabhakar 主张 AI 应改善诊断和治疗，同时避免重现历史偏见。她提到影响黑人女性的差异，并介绍卫生部门旨在应对歧视的一项规则；这些是她对当时政策和情况的描述。

她还谈到冒充企业或政府机构实施的欺诈。她的总体观点是，如果希望 AI 帮助解决难题，就需要信任和保护措施。

Lazar 询问 Sam Altman 等领导人在政策制定中有多大影响。Prabhakar 说 AI 大于任何一位高管：团队听取了大公司意见，也主动接触初创公司、投资者、大学和国家实验室。

她说这些对话帮助识别风险和机遇。对于应当监管还是创新的问题，她的回答是两者都要：管理伤害，并利用技术解决对人有意义的问题。

两人将 AI 的出现与社交媒体时代作比较。Prabhakar 回忆早期对连接人与人的乐观，随后人们更加关注霸凌、虐待和合成私密图像。

Prabhakar 说 2023 年的行政命令已被撤销，并认为新政府的做法尚不明确。她批评联邦人员和资金方面的行动，认为它们可能削弱政府能力；这是她在 2025 年初的政治评价。

被问及一项宣布的大型私人 AI 投资计划时，她提到数据中心支出的规模。接着她以 DeepSeek 为例，认为它提醒人们，除大量计算之外，研究和算法方法也可能重要。

Lazar 提出对相关说法、竞争和隐私的疑问。Prabhakar 认为，许多国家的研究者正探索不同的能力提升方法，整个领域比最受关注的公司更广阔。

Prabhakar 对比了访问专有托管模型，以及使用供他人运行和继续开发的模型。她认为共享研究可能促进创新，但实际模型的开放程度各不相同。

她区分了使用由其他服务商托管的模型与直接向模型开发者自己的服务发送信息。她的例子说明，人们应考虑究竟由哪个服务接收数据，而不能只根据模型来源推断数据如何处理。

讨论转向 TikTok。Prabhakar 描述了言论自由与中国法律下数据访问担忧之间的艰难平衡。她对法律和政治的描述属于历史访谈内容，并不代表现行法律。

Lazar 也问到美国公司的隐私风险。Prabhakar 承认企业获取数据是真实的隐私问题，同时区分商业收集与政府访问。

两人都对政治和技术环境表示担忧。Prabhakar 说，实际方案需要与行业合作，也需要公众行动；她批评当时政府的方向，并担心国家研究能力和国际领导力。

谈到深度伪造时，Prabhakar 说未经同意制作的合成私密图像是团队预见到的直接伤害之一。她介绍与行业开展的工作，包括支付处理商对滥用服务执行其条款。

两人还讨论了一段涉及公众人物的伪造视频，担心人们难以分辨真假。Prabhakar 说，失真的媒体内容可能削弱共同的事实基础，让人们进入各自虚构的现实。

被问及联邦、州和企业的责任时，Prabhakar 预计在联邦行动不确定时，各州将发挥重要作用。她承认，不同州的做法可能让企业面临复杂情况。

她鼓励人们联系民选代表，支持致力于自己关心议题的组织。她认为这些日常公共行动能帮助人们摆脱无力感，影响 AI 的发展方向。

Prabhakar 转向潜在收益，设想 AI 帮助研究者更快地为缺乏有效治疗方法的疾病开发药物。这是对未来研究的期待，并非声称 AI 已经能提供某种特定治疗。

她认为，雄心勃勃的进步需要大学、公司和公共机构共同参与，包括既保护公众又能促进进步的监管者。她也希望 AI 帮助教育和天气预报。

被问及哪些国家做得好时，Prabhakar 认可不同地区的研究人才。她批评中国的威权监控，并认为欧洲对监管相对谨慎，同时强调她眼中的美国优势。

Lazar 询问公众如何获得更多控制感。Prabhakar 说，决定构建什么系统、如何使用以及社会愿意容忍什么的，最终是人，而不只是技术。

对个人而言，她建议尝试用聊天机器人进行头脑风暴，同时核对引用并以证据检验说法。她还建议留意 AI 在决策、广告、信息流或服务中的作用，并思考系统可能掌握哪些用户信息。

Prabhakar 说，人们可以停止使用不信任的工具、向公司投诉并与政策制定者沟通。她提到当时开放的一项政策征询；不应假定它今天仍可参与。

Lazar 询问失业和全民基本收入。Prabhakar 对无人工作的未来持怀疑态度，更希望劳动者借助 AI 提高生产力和收入，同时承认快速岗位替代的危险。

她描述自己听到的员工经历：他们的按键或客户对话被 AI 系统监控和纠正。她认为，如果只追求效率而不保留人的贡献，工作可能变得更糟。

Lazar 解释自己如何把 AI 当作思考伙伴，帮助为小企业准备信息和演示材料。她说工具让她更快地推进工作，但想法仍由自己负责。

两人讨论转型的困难。Prabhakar 说，过去几轮自动化造成过痛苦冲击，因此应该投资培训和通往更好工作的路径，而不是假设积极结果会自动出现。

谈到内容审核时，Prabhakar 说纯人工和纯机器方法可能以不同方式失败。当人们指导自动化工具，并在困难决定中运用人的判断时，她更为乐观。

她反思公司有时很难看到自己认为有益的产品可能带来的伤害。她说，这些最终不仅是企业问题，也是社会问题。

被问及未来时，Prabhakar 表达了对政府方向及其对国家能力影响的担忧。她呼吁纠正方向，并鼓励人们了解议题、联系代表、支持自己认同的组织。

Prabhakar 说，让未来比今天更好仍是她工作的动力。她希望国家能够结合自身能力，利用值得信任的 AI 追求宏大目标。

作为实际例子，她描述自己如何使用 Perplexity 寻找一段有关研究者观测人造卫星 Sputnik 的冷门历史记录；她把这个故事与 GPS 的早期历史联系起来。她说工具帮助她根据不完整的记忆找到原始材料。

Lazar 感谢 Prabhakar 参与对话，并请听众关注她的工作。节目以对赞助商和制作团队的致谢结束。