Nathan Lambert 与 Florian Brand 谈 Kimi K3.1、网络风险和 AI 智能体

Nathan Lambert 问 Florian Brand，Kimi K3.1 Pro 能否达到其出色基准分数所暗示的水平。Brand 说，过去的 Kimi 版本通常符合预期，但这次发布有所不同：它更加专业化，宣传活动也引发了批评。

Lambert 说，一张流传的截图据称要求推广者不要披露付费关系，但他尚未看到独立佐证。两人都批评了更广泛存在的不披露付费推广的做法。Brand 说，模型发布越来越专业：推理框架和服务商现在会提前准备，在发布当天提供支持。

一些开发者在开放权重之前会保留几周独家访问期；Kimi K3.1 Pro 预计也会这样做。Lambert 注意到它在 Artificial Analysis 上排名很高，但在部分长尾基准上的表现弱得多，早期用户评价也褒贬不一。

Brand 认为基准的时间跨度可能解释部分差异。一些评估相对简短、目标明确，而 ProgramBench 要求模型在更长任务中探索。他推测，强化学习训练可能更偏向利用已知路径，而不是发现解决方案。

Lambert 认为，规模庞大且速度较慢的模型需要在模糊任务上证明自己的价值；对于熟悉的编程任务，更快的小模型可能也有竞争力。他发现一些前沿模型更擅长理解模糊需求，而开放模型可以较低成本持续完成工作。

Brand 补充说，提供约三万亿参数模型的推理服务需要大量硬件。相比能在更常见 GPU 上运行的小模型，要把一个副本放进合适的节点并不方便。这种基础设施成本可能独立于基准排名影响采用。

Lambert 问及 Moonshot 的声明：开放权重版本不会推动攻击性网络能力的绝对前沿。他想知道，在中期训练中减少网络安全材料，是否也会影响其他长时程能力。

Brand 认为两者可以区分，并欢迎既支持广泛防御使用、又不推进攻击能力的发布方式。他说，侵入整个组织需要在多个阶段持续行动，而发现和修复漏洞不一定需要同等长时程能力。

Brand 认为，从训练中移除部分攻击导向任务可能是合理的，也让 Moonshot 有机会说明自己的风险立场。他认为开放模型受到特别严格的审视，并不同意一次发布会立即引发灾难的预测。

Lambert 强调，两人都不是网络安全专家。他关注的安全研究者通常研究漏洞发现与利用的长期生态趋势，而 AI 讨论则聚焦开放与闭源模型的争论。他正试图理解两种视角如何相互联系。

Lambert 回顾公众对前沿网络安全模型的讨论，表示希望核对原始沟通内容，而不是把每种耸人听闻的说法都归到实验室头上。他记得过去有过反复的严重警告，但也承认现在确实发现了大量漏洞。

Lambert 说，报告的网络损失和勒索软件损失是有用的指标，但新发现漏洞最终会造成多少实际伤害仍不确定。他看到一些可见事件增加，并担心如果可归因于 AI 的损失激增，情况会变得十分棘手。

他考虑了一种观点：有能力且愿意实施攻击的人数本身可能是瓶颈。国家行为者可能利用 AI 渗透系统，但有多少人愿意利用它造成明显的现实世界损害，目前并不清楚。他认为，事情的发展可能让答案逐渐显现，这令人不安。

Brand 描述了一个严重的 PHP 漏洞，以及安全研究者和 PHP 社区协调修复的过程。由于 PHP 支撑着包括 WordPress 在内的大量网站，机构有充分理由迅速修补，一些网站甚至暂时下线以完成修复。

Brand 说，一些观察者预期会立即发生大规模利用，但他当时看到的报告尚未显示这种结果。他预计许多防御者会迅速响应，并指出国家行为者的资源与能力不同于个人攻击者。他的暂时判断是，既有安全动态正在加速。

Brand 还指出，小型机构有时运行过时且不再受支持的 PHP 版本，可能早已暴露于旧漏洞。他引用了一份关于 LiteLLM 遭入侵的初步说明：据称一个暴露的 API 密钥存在了数月才被利用。

Lambert 不认为防御方显然占优，但他质疑攻击模型能力是否就是主要瓶颈。更强的工具不会自动让攻击者的产出成倍增长。他担心编程智能体也会增加软件数量，从而产生更多交互和潜在漏洞。

Lambert 预计，未来几年防御者可能同时面对既有漏洞积压和迅速增长的新代码。他认为仅用开放与闭源模型的框架不足以解释问题，希望 AI 和网络安全社区更好地讨论时间和因果关系。

Lambert 重新审视自己此前认为可以更早发布开放权重前沿网络模型的观点。他说因果关系很难建立，自己本应更早研究已有漏洞趋势。他希望有更充分的证据，了解机构实际上如何使用开放模型进行防御。

Lambert 对通过 API 提供去除安全限制模型的服务持怀疑态度，尤其因为隐私正是本地运行开放权重的理由之一。Brand 说，目前还不清楚去除限制究竟有多少实际帮助，还是主要具有营销价值。

Brand 认为，闭源模型安全计划的访问权限有时过于有限，研究者只好使用能力较弱的开放模型。他认为 OpenAI 的防御性访问流程相对容易进入，也听说 Anthropic 正在扩大访问。他认为让更多负责任的人获得工具，有助于处理软件漏洞积压。

Lambert 认为可信访问计划帮助研究者发现和披露漏洞，相关公司值得肯定。他说开放模型的使用更难观察，重大事件可能引发强烈的政治反应。回头看，他会更加重视既有安全趋势和更广泛的生态。

Brand 说，闭源服务商可以快速更新安全措施，并提到据报道阻止轻易获取 PHP 漏洞利用方法的措施。Lambert 认为这里存在灰色地带：安全措施可能阻止随意滥用，也可能妨碍合法研究，而报道仍显示有决心的攻击者能够绕过保护。

Lambert 问及有关 Anthropic 不再招聘初级员工的报道。Brand 认为，其他雇主可以从招聘有抱负的早期研究者中受益；他想起年轻研究者曾帮助中国实验室追赶前沿。两人是在回应这一报道，并非完整陈述该公司的招聘政策。

Lambert 认为，为强大 AI 准备社会也应包括培养人才，让人们拥有有意义的工作。他担心过度关注短期进度会抑制指导和培养，并损害实验室与社会的关系，尤其是在就业放缓时。

Brand 说，他没有看到大规模岗位替代，软件领域也是如此；他观察到团队正在利用编程智能体做更多事情。他预计愿意招聘初级员工的公司会找到优秀人才。两人都认为，AI 在工作中扩散的速度仍不确定。

展望未来，Brand 预计美国和中国开发者会发布更多模型，也会有更多漏洞披露。Lambert 问这些趋势与新型消费级智能体有何关系，Brand 因而开始讲述搬到美国后使用 Muse 的经历。

Brand 说，他选择 Muse 的部分原因是不想自己维护和保护智能体基础设施，尤其是涉及交易时。他也尝试了 Dots。尽管 Muse 不是能力最强的前沿模型，他发现它在搬家涉及账户、表格和预约时，主动提供的帮助很有用。

他说，Muse 会提醒他需要哪些文件、在哪里找到。相比之下，另一个助手的一些建议已经过时。在他的体验中，主动消息是否有用，取决于它是否符合用户的实际情况，而不只是重复过去的活动。

Brand 描述了让智能体为一间空公寓准备购物车的过程。他会检查购买内容，并使用一次性支付凭据。整个过程可能很慢，网站可能阻止自动访问，浏览器崩溃也可能迫使智能体重做；异步任务让这些延迟更容易接受。

Lambert 问需要提供多少背景信息。Brand 说，在发现没有直接的 iCloud 集成后，他导入了一份记忆导出并连接邮件。随着智能体收到购买确认和预约信息，它能提供更相关的帮助；他也提到访问敏感网站时需要授权。

Lambert 想知道是否可以让智能体打电话给牙医。Brand 说，只要任务涉及真人，他就会接手，因为他重视真实的人际交流；而处理表格和自动化系统时，他愿意委托给智能体。

Lambert 说自己使用 AI 写作检测服务，作为处理邮件的一个信号，并思考人们将如何为智能体消息建立入口。他不确定自己是否需要用智能体处理日常活动，但认为委托令人烦躁的行政事务有价值。

Brand 说，搬到新国家让助手格外有用：他可以询问默认选择，并核实不熟悉的信息。Lambert 提到一个需要联系客服的域名转移，也许会尝试委托出去。两人最后希望听众注意安全，并继续报告漏洞。