Reid Hoffman 与 Aria Finger：AI 政策、企业安全与投资冲突

Reid Hoffman 认为，OpenAI 和 Anthropic 内部使用的 AI 模型比目前公开部署的模型能力更强，政策制定者需要预见技术的发展方向。他希望同时实现两个目标：保持美国在 AI 领域的领先地位，让眼下面临经济困难的人也能获得收益。

Aria Finger 首先介绍中期选举前相互竞争的政策提案。她提到 Sanders 和 Casar 提议在联邦指导原则出台之前暂停先进 AI 开发，Murphy 和 Hawley 则提出关于 AI 系统实施黑客攻击时责任归属的方案。她问下届国会可能形成怎样的政治联盟。

Hoffman 反对在国会制定框架期间暂停开发。他认为，更好的做法是引导 AI 朝着有利于公众的方向发展，而不是将其叫停。他怀疑漫长的国会程序能否及时为快速变化的技术带来良好结果。

不过，他认为追责问题很重要。Hugging Face 的相关事件让他想到一些现有产品责任法律难以直接回答的问题：模型开发者、部署模型的组织、个人用户和提供提示词的人，各自应该承担什么责任？

Hoffman 呼吁认真研究一套能够随技术变化而调整的责任框架。他说，AI 原生组织已经在为大多数用户尚未接触到的能力做准备，这让政策制定者和技术人员都面临困难。

他以 OpenAI 发布数学证明为例，说明需要考虑内部模型与公开模型之间的差距。这是 Hoffman 对实验室能力的判断，并非本次对话中的独立测量。他认为，政策制定者需要了解下一代模型可能做到什么。

他提出的双重目标是：让美国保持 AI 领先，同时让面临经济压力的人立即受益。他不希望一边继续开发，一边告诉公众要等待多年才能看到成果；他希望部署和实际收益尽可能紧密地联系起来。

谈到特朗普总统可能签署什么法案，Hoffman 推测，与中国竞争或许是一条路径。他也严厉批评政府，并猜测个人利益可能影响决策。这些是他的政治判断，节目没有证明相关指控。

Finger 问，尽管两党部分民粹派人士反对 AI，支持商业和 AI 的共和党人与民主党人能否组成跨党派联盟。Hoffman 认为这不太可能，理由是特朗普的政治激励会阻碍共和党人与民主党人合作。

Finger 随后谈到 AI 实验室。她介绍路透社的报道：Anthropic 私下向议员提出前沿 AI 安全法案，包括独立评估，以及在 72 小时内报告迫在眉睫的风险。按照她的描述，暂停模型需获得联邦法官批准，并达到严重伤害的特定门槛。

Finger 还说，Anthropic 承诺向 Public First Action 投入 4000 万美元，用于公众教育和政策倡议，并限制将资金用于选举活动。她将此与 OpenAI 和 Greg Brockman 参与 Leading the Future 引发的争议作比较，询问前沿实验室应如何与政府打交道。

Hoffman 主张科技公司无论面对哪届政府，都应当与政府机构合作，因为这些机构服务于公众。难点在于划清界限：这种参与究竟促进了公民利益，还是仅仅维护企业的商业利益。

他认为 Anthropic 的提案试图兼顾监管可预期性和司法程序。同时，他也承认监管俘获的风险：经济利益主体可能把规则塑造成对自己有利的样子。他认为，参与政策讨论有价值，但必须配合保障措施和监督。

Hoffman 说，公共讨论既需要学术界的专业知识，也需要行业经验。实验室可以解释自己看到的潜在好处和危险，其他参与者则可以质疑这些说法。在他看来，这种多元参与意味着应让企业进入民主程序，而不是让企业拥有最终决定权。

Hoffman 认为政治支出应当透明。他把 Finger 所描述的 OpenAI 和 Anthropic 的调整视为公众和员工压力影响企业决策的例子。透明度让人们看清企业在做什么，也让他们有机会提出质疑。

Finger 问，面对行业更高的薪酬和更多的机会，政府如何获得足够的 AI 专业知识。让更多有技术背景的人担任公职是否有帮助？还是应该让 Anthropic、OpenAI 等公司的人离开企业，进入政府服务？

Hoffman 预计，由于结构性原因，公共部门的专业能力会落后于行业。事业成功的专业人士可能不愿离开现有工作，进入政府也并不容易。他还认为，许多高级官员不了解最新技术，需要寻求外部建议。

他的建议是通过工作组、非营利组织和顾问委员会汇集不同观点。他说行业应当有充分的发言权，但参与者的经济利益应被披露，竞争企业及其他领域的专家也应参与。

Hoffman 还提到 Stanford 和 Harvard 为议员及其工作人员提供的教育项目，内容包括网络安全和决策等。这些项目不会让每个官员都成为专家，但了解基本概念和技术变化速度，有助于改善决策。

Finger 回忆奥巴马政府时期技术人员进入公共部门服务的情况，希望未来的候选人也能激励更多人参与。Hoffman 澄清，政府不需要与硅谷结盟或建立友谊，而需要沟通渠道，包括在政府必须追究企业责任的时候。

话题转向依赖外部模型的企业。Finger 引述 Satya Nadella 的观点：开放权重和闭源模型都应被视为潜在的内部人员风险。按照他的主张，企业应控制权限、监测操作并独立验证结果。

Hoffman 披露自己是 Microsoft 董事，并经常与 Nadella 交流；他赞同这种思路。他说，内部信息泄露可能影响竞争对手、供应商或金融市场，因此保护知识产权不只是传统的勒索软件安全问题。

他建议企业自行控制模型运行框架，并进行独立审计，同时承认验证模型行为很困难。在本地运行开放权重模型，本身并不能揭示模型内部发生的一切，也不能消除控制措施的必要性。

Hoffman 认为，对提供商的信任也是决策的一部分，并以 Microsoft 注重客户需求为例。他还预计，更多企业会通过合同获取专门为自己后训练的模型。他认为这些安排是技术控制之外的额外工具，而不是后者的替代品。

Finger 问，随着 AI 公司向彼此的市场扩张，风险投资冲突该如何处理。她提到 Factory 和 Cognition 因一名顾问转投另一家公司而公开争论，以及两家公司投资方 Vinod Khosla 的公开评论。她问投资人是否还能同时投资竞争对手。

Hoffman 说，潜在冲突越来越难避免：AI 公司变化快、扩张广，并追逐类似的资产、数据和编程能力。因此，投资人需要明确边界，而不能假设被投公司永远不会成为对手。

他说，投资人不能在公司之间传递保密信息，包括企业正在面对的问题或困难。他们应披露个人和机构层面的潜在冲突，让创始人了解投资人在其他公司的利益。

在公司之间流动的人必须注意，不能带走知识产权。Hoffman 认为，非正式的“茶水间”知识更难划分：一般经验会影响一个人的思考，但这不能成为分享前公司计划或把同事的想法说成自己想法的理由。

Finger 问，如果投资人同时投资竞争对手，创始人是否应限制向其分享的信息。Hoffman 说，理想情况是双方有深厚的信任；否则创始人可以要求投资机构更换合伙人，或限制部分信息的分享。他认为，董事会关系需要建立在相信信息不会向任何一方泄露的基础上。