a16z 的 AI 政策负责人最担心的一句话：“只覆盖少数几家公司”

Matt Perault 是 a16z 的 AI 政策负责人，同时担任 Abundance Institute 的研究员，并在他曾于北卡罗来纳大学教堂山分校主持、现设于纽约大学的技术政策中心担任研究员。他对 Nathan Labenz 说，自己并不是工程师或计算机科学家，而且他一向不擅长人们总爱要科技从业者做的那种预测。真正造工具的人坐在另一边；他的工作，是制定让这些人能继续造下去的政策议程。

被问到对丰饶（abundance）的图景时，他没有先谈机器人或后工作社会。他的父母和妹妹都是心理健康专业人员，他从小就听说支持有多宝贵，又有多难获得：费用高、临床医生稀缺，还有污名化。在不降低护理质量的前提下打破这些获取障碍，是真正打动他的未来之一。另一个是写作。文字能力一直是他学术和职业生涯的根基，而机器正在追赶这种能力。

他在 Facebook 工作时，曾对老板说，他理解自己的工作就是交出一份糟糕的初稿。老板笑了，然后问他能不能偶尔也交出一份好的。如今已经有工具能生成那份糟糕的初稿，或许最终还能生成非常好的。Perault 觉得这既令人兴奋，也有点吓人：它冲击的是定义过他的那项技能，同时也降低了那些从来不具备这项技能的人的门槛。Labenz 自称对 AI 有着经典的矛盾心态，他对新产品感到兴奋，比起自己的工作，他更担心的是控制权。

Labenz 说，a16z 以技术乐观主义的领导姿态著称，也一直强调要给“小型科技公司”，而不只是大型科技公司，留出试验和发布产品的空间。Perault 想纠正人们对这一立场的一种常见理解。许多人以为，他的工作只有在没有任何 AI 法律通过时才算成功。他说事实并非如此，原因在于这家公司的经济逻辑。a16z 的基金存续十年，比典型上市公司的归属周期更长，也比他在私募股权里见过的时间尺度更长。

他们想要的，是在很长一段时间里押注健康、有野心的公司，而不是抬高明天的股价。如果明年大众爱上了 AI 产品，随后市场因为一连串真实世界的伤害而崩盘，a16z 拿不到它所追求的回报。初创公司需要空间才能起步，但生态系统也必须产出人们喜欢用、又用得放心的工具。大型科技公司的利益有时与此重合，有时则不然；他坚持说，公司的重点是小型科技公司。

所以，首要议程是推动政策制定者去规范有害用途，少去规范 AI 的开发，这并不等于“不设规则”。在他看来，软件历来也是这样对待的：编写代码很少受到监管干预，但如果你发布的软件伤害了人，现有法律通常能找到你、起诉你，并阻止下一个开发者重蹈覆辙。让开发过程保持开放，把惩处的力度落在危害上。

Labenz 追问“开发”的高端部分。为应用微调模型是一回事，推进前沿又是另一回事。他把前沿训练类比为生物研究：实验室会问，如果病毒能做到 X 会怎样，往往是出于真诚地想学会如何治疗它，然而实验室泄漏并非纯属假设。他认为，只要能力足够强，即便你并不打算部署系统，事情也可能失控。对许多 AI 安全社群来说，这正是头号担忧。

Perault 说，他对生物研究如何受监管了解得不够，无法证明这个类比是否成立，但表面上看它很贴切。社会会给研究者很大的空间，即便是那些一旦非法泄露就会造成灾难的研究，因为研究过程本身无所谓善恶。他举了一个他熟悉的例子：Cambridge Analytica。数据按照公司条款从 Facebook 转到了一位学术研究者手中，然后被那位研究者滥用。在当时，这种转移看上去就是研究界一直在要求的那种学术访问。问题出在滥用上，处罚也应当落在那里。

套用到 AI 上，开发就是科学，就是数学。他认为，把数学定为犯罪，会让科学家更难做科学，而对有害用途几乎毫无帮助。他觉得，这就是为什么很多人把 a16z 看作纯粹的放松监管派：他们听进了“不要规范开发”，然后在听到“并且规范有害用途”之前，耳朵就关上了。他并不把后半句当作转移注意力的说法。他曾在司法部民权司的刑事部门做法学院实习生，亲眼看着律师每天忙着构建案件。违法行为不会附带一份清晰的事实清单，总得有人去把它们找出来。

AI 也会是这样。用模型违反反歧视法，不一定一眼就能看出来。你需要人手、预算和技术素养，才能看清发生了什么；有些情况下，还需要调整现有法规，才能真正覆盖这种新型伤害。美国的大部分刑法都在州一级，因此收紧 AI 犯罪用途的规则，主要是州立法者的工作，联邦并不垄断这件事。劳动力培训、AI 素养和透明度，两级政府都有任务。这也是为什么他把“规范有害用途”称为一套立法议程，而不是一句口号。

一批法案的模式已经出现，发起人把它描述为与 Perault 这类人的妥协。门槛定得很高，只把大约八到十几家公司纳入范围。这些公司必须编写安全计划、公开或分享它、遵照执行，有些版本还要求报告事件，或接受审计。纽约州的 RAISE Act 由州众议员 Alex Bores 提出，是 Labenz 在节目中报道过的最新例子。支持者表示，他们并不想扼杀前沿研究，只是要确保真正的重量级玩家切实履行这些义务。

Perault 首先要的是在类别上达成一致：这些法案针对的是开发，而非有害用途。然后他指出了一件听起来合理、但对 a16z 来说是最害怕的事：“这只会涉及少数几家公司。”五家，十家，十五家。换个说法，就是市场会集中，而监管模式不只是容忍这种集中，还会帮助造成集中。实际上，只有很少几家公司被允许在前沿做开发。一个创始人和五名工程师，本该也有在那里一搏的雄心。

加入 a16z 之前，他以为这种说法有些夸张。现在他在 Labenz 的节目上听到了，也在与一位参与欧盟 AI 监管工作的人的交谈中听到了。对许多人来说，这条线听起来很温和；但对这家公司来说，它恰恰与健康的生态系统强烈对立。Labenz 同情对权力集中的担忧，他认为，许多重视安全的人除了这一个议题之外，都是一辈子的技术乐观主义自由意志主义者。他真正的反对理由是时机：有些伤害一旦造成，就无法收回。大流行之后的罚款，救不回逝者。

Perault 把新冠的例子倒过来说。之后美国对生物研究施加了多少限制？据他所知，功能增益研究依然在继续。社会经历了一场大流行，却没有建立 Labenz 所描述的那种民事或刑事责任，大概是因为同样的研究，也正是我们学会对抗下一场病毒的途径。如果 AI 的好处，从更好的结论一直延伸到大幅降低的心理健康服务成本，那么他不想给开发过程戴上手铐。他补充说，公布一份安全协议文件，与产品是否真的安全，并没有直接关系。在他看来，效果有限却给建设者带来真实负担，是一笔糟糕的交易。

Labenz 同意，要求提交并披露安全计划的法案，对最坏的结果并不构成强有力的阻挡。他想要的，是不至于盲飞。他看到各家实验室都在追逐一种自我改进的循环，即模型接管机器学习研究。Anthropic 发布 Claude 4 时，那里有人大意是说，他们希望 Claude 接管所有的机器学习研究，好让大家都能去海滩。AI 2027 情景的主要作者之一 Daniel Kokotajlo 预计，随着各家实验室为了霸权竞赛而不再亮出底牌，前沿能力与公众能用到的东西之间的差距会越拉越大。Labenz 问，公司至少是不是应该说明自家内部模型能做什么。

Perault 引用了 a16z 的一篇博客，文章认为，许多透明度要求很可能违反第一修正案，而且对消费者的帮助也不大。法院已经相当明确：如果你要求公司提供有争议、非事实性或负担过重的信息，这类规定很难经受审查。关于长远危害的推测，或为安全风险打分，都属于这一类。该公司提出的替代方案是“AI 模型事实”：一份基础的事实清单，帮助用户判断应如何提问，以及何时应该怀疑模型的回答。

他最喜欢的例子是知识截止日期。如果你问一个大语言模型昨晚的篮球比赛谁赢了，而它的训练数据早在几个月前就停止了，那你就不该相信它编出来的比分。知道截止日期，你就能问出更好的问题；当模型依然作答时，你的怀疑也会随之增加。团队把现有的披露提案放到四项测试中检验：是否合法、是否对消费者有用、是否符合第一修正案，以及对小型科技公司而言是否负担过重。很少有提案能通过全部四项。Labenz 想防止圈外人被挡在实验室门外；Perault 则想防止披露要求变成一种新的研发税，却并不能让产品更安全。

Labenz 同样担心监管俘获，但他认为，门槛的设计者之所以会定在那里，是因为缩放定律本身已经呈现出一种自然的寡头格局。当他请人们列出顶级 AI 公司时，名单有时只有三家，超过十家的情况从没有过。成本在下降，有些提案还会随时间不断抬高门槛，包括以营收为标准，而他知道 Perault 更喜欢这一点。尽管如此，他还是要问：当风险投资人接触的每一件事都由幂律支配时，指望前沿领域挤满竞争者，现实吗？

如果目标是抓住那些能承担合规成本的大公司，Perault 说，营收才是正确的工具。一旦数亿乃至数千亿美元的收入进门，就很难主张一家公司不能拿出一部分资源，去满足监管机构想要的任何披露。一家一年营收 5000 亿美元的公司，付得起文书工作的钱。但算力和训练成本门槛不一样：它们衡量的是打造工具的科学，而不是应对监管复杂性的能力，而初创公司确实会训练规模可观算力的模型。

他曾把 1 亿美元的训练成本门槛拿去问 a16z 技术团队的一位同事，因为他发现越来越多的法案都用这个数字，包括 RAISE。这是划定小型科技公司范围的好办法吗？这位同事的回答是，每个模型都要花 1 亿美元来建造，这条线无法区分任何人。Perault 虽然无法自己证实，却是信任这个回答的。他认为，RAISE 也没有说明这个上限不能累加。一家每年发布数个成本 2500 万美元模型的初创公司，几年之内就可能触发“大型开发者”的定义。技术发展的速度，会超过立法机构更新这个数字的能力。

他并不否认，算力和数据本身就是天然的门槛，a16z 也确有一些扩大两者获取途径的想法。政策问题在于，立法者是否应当在其上再加一道人为的门槛。如果这样做，你会得到一种很像电信行业的东西：少数几家公司在严格监管下运营，历史上甚至包括政府授予的明确垄断。有些人认为那是正确的归宿。a16z 认为，这意味着创新会减少，前沿也会变成初创公司无法挑战的地方。

Labenz 指出，a16z 的十年周期，如今比许多人对 通用人工智能（AGI）的时间表还要长。他长期主张引入日落条款：为关键的三到五年建立规则，如果门槛定错了，就让规则到期失效。加州的 SB 813 与这一思路有些相近。企业可以选择加入一套经州政府批准、由私人机构管理的合规机制，以换取侵权责任的豁免，并可能在之后选择退出。他说，没有人想要 AI 版的 GDPR。Perault 的回应是，从立法者正在推动的法案来看，很多立法者似乎正想要这个东西。

他看到过一些报道，但无法独立证实：欧盟正在考虑暂停执行自家的《人工智能法案》，那是一部仿照 GDPR 打造的 AI 法规。美国唯一一个通过全面 AI 立法的州是科罗拉多州，而该州州长公开支持一项联邦 AI 暂停令，那会让科罗拉多自己的法律无法执行。那些已经亲手碰过法条的人开始紧张了，这比任何一篇评论文章都更响亮。Perault 一般喜欢试验，包括日落条款。但即便是短期的严格制度，他说，也像是在全力奔跑时，头一英里里背着 20 磅重的背包。你仍然能跑，但终点线上的位次可能已经变了。

至于 SB 813 本身，a16z 仍在研究这项法案。Perault 肯定它涉及侵权责任，这是大多数提案从未碰过的领域；他认为，如果普通人要用 AI 来做一些小而有用的事情，这一点无法回避。问题的关键在“自愿”两个字。侵权法的豁免是一项巨大的好处。如果这份好处的价格是 200 亿美元，大公司会付钱，小公司就只能承担法律风险。这谈不上选择，更像一道把市场分层的价格。他的检验标准很简单：小型科技公司真的承担得起合规成本吗？如果承担得起，这项法案就可以转向支持；如果承担不起，它就是披着自愿加入外衣的既得利益者优势。

两人的分歧主要出在经验问题上，而非道德问题上。两人都不喜欢权力集中，都担心黑箱，都希望技术能带来实实在在的好处。真正把他们分开的，是缩放定律会不会把前沿玩家的数量冻结在一个固定水平，系统会以多快的速度变得多强大，以及公布的安全文件究竟能在多大程度上减少事故。这些都是证据能够检验的主张。Perault 最后提到的一个关注点，是特朗普政府预计在六月或七月发布的国家 AI 行动计划。他并不预测未来，只是想确保能造的人仍然有地方可造。