30 秒看懂
据 OpenAI 的演讲者介绍,公司宣布 Daybreak Red Team 开始抢先体验,并开放 Daybreak Defense Factory,用于持续代码扫描和修复。他们描述了从测试运行中的应用、验证发现到准备修复的工作流程,同时承认协调披露与打补丁仍是瓶颈。OpenAI 还公布了自身研究中的模型基准测试结果和漏洞数量。
- 1一次 PHP 漏洞披露暴露了人工协调瓶颈开场演讲者说,一名研究员和后续模型发现了相关漏洞,并介绍了跨组织协调补丁和披露所花费的两个月。
- 2OpenAI 宣布分别用于红队测试和修复的工作流程Nancy Wang 说,Red Team 开始抢先体验,用于测试运行中的系统;Defense Factory 则扫描代码并准备修复,供人审核。
- 3OpenAI 报告网络安全模型的基准测试提升一名模型介绍者报告称,在公司评估中,GPT-6 Cyber 在 ExploitGym 上得分为 52%,即将推出的模型在 PatchBench 上约为 80%。
- 4授权范围合规测试使用了预设的易受攻击目标演讲者报告,在受测案例中,没有网络安全防护措施时模型保持在授权范围内的比例为 99.9%,启用生产环境防护后为 100%;测试情境会故意诱使模型越过授权范围。
- 5OpenAI 报告在 Firefox 和 Linux 中发现新问题Clint Gibler 报告了 81 个此前未知的高严重性 Firefox 问题,以及一次运行中经验证并生成补丁的近 1000 个 Linux 权限提升问题。
- 6红队演示设置测试目标和请求限制一名演示者展示了预发布环境测试和涉及客户之间隔离的问题,随后将相关上下文用于准备修复。
- 7Defense Factory 汇总问题并准备拉取请求演示将报告合并、推荐负责人,并利用云环境复现问题及在审核前测试候选修复。
要点建议
- OpenAI 表示,Daybreak Red Team 可测试运行中的应用并帮助复现发现的问题;该服务已进入抢先体验阶段。
- 公司表示,Defense Factory 可以汇总发现的问题、在云环境中验证,并准备修复供审核。
- OpenAI 报告了授权范围合规测试中的高分,但这些百分比只描述受测案例,并非对每次部署的保证。
- Gibler 说,更新的模型可以发现此前遗漏的问题,并将看似低严重性的问题连接成更严重的攻击路径。
- 开场演讲者说,一个 PHP 漏洞的协调披露耗时两个月并投入大量人力,如何扩大处理规模仍是未解决的问题。
按章节阅读整理后的全文
防御者窗口与披露瓶颈
开场演讲者认为,更好的模型可以帮助防御者,但协调工作仍然耗费人力。他回顾了一次 PHP 漏洞响应,并呼吁寻找可扩展的方法。
开场演讲者后来被介绍为 Greg。他说,AI 正在加速一场早已存在的网络安全较量:攻击者发现并利用漏洞,防御者则努力跟上。他认为,有限的安全资源和累积的技术债务意味着既要修复现有软件,也要改变新软件的构建方式。
Greg 说,OpenAI 的方法是开发能力强的模型、通过 Daybreak 向可信防御者提供访问,并帮助组织使用它们。他将前沿模型与广泛可用能力之间的差距称为“防御者窗口”,同时表示基础安全实践仍然重要。
他介绍了由资金支持的 Patch the Planet 计划中的一次 PHP 漏洞响应。据 Greg 称,一位安全研究员利用模型和领域专业知识发现了问题;后续模型独立发现了一个更一般的版本。之后,OpenAI 与企业及政府协调漏洞披露和补丁。
Greg 说,约两个月的协调工作耗费了 OpenAI、合作伙伴和政府的大量精力。他认为,随着漏洞发现速度加快,如何扩大披露规模仍是一个开放问题。他还提到公司宣布的 10 亿美元 Daybreak 防御基金,用于支持一线防御者和关键基础设施。
Daybreak 产品与网络安全模型评估
OpenAI 介绍 Red Team 和 Defense Factory。一名演讲者报告公司基准测试结果,并介绍模型是否保持在授权范围内的测试。
负责 OpenAI 网络安全应用 AI 的 Nancy Wang 介绍了 Daybreak Red Team 和 Daybreak Defense Factory。她说,这些产品借鉴了公司内部使用前沿模型加固自身系统的工作。
Wang 说,Red Team 开始抢先体验,旨在从攻击者视角测试运行中的应用。她表示,目标用户包括防御者和可能没有专门红队的组织。
Wang 说,Defense Factory 在可复现的云开发环境中扫描代码,将发现的问题追溯到代码、推荐负责人,并准备包含补丁和测试的拉取请求。公司表示,随着新提交到来,该流程可以持续运行。
一名被介绍为 Fouad 的模型演讲者说,GPT-6 Cyber 于前一周发布,并介绍 OpenAI 的 ExploitGym 基准测试,该测试考察模型能否为给定漏洞创建概念验证。他报告称,在公司的比较中,GPT-6 Cyber 得分为 52%,一款竞争模型约为 38%。
他说,OpenAI 正在开发另一款专用模型,并报告称其在上述基准测试中的得分接近竞争模型的两倍。对于他所描述的 PatchBench——测试模型能否发现并修复漏洞且不引入回归——他报告称,即将推出的模型得分约为 80%。
这位演讲者说,能力更强的网络安全智能体必须遵守授权范围并准确报告失败。他介绍了一项评估:在授权范围之外放置一个更容易利用、刻意设置漏洞的目标,观察模型是否会使用它完成任务。
他报告说,在受测案例中,GPT-6 Cyber 没有网络安全防护措施时保持在授权范围内的比例为 99.9%,启用生产环境防护措施后为 100%。这些是公司对该项评估的结果。他还介绍了监控、高风险协助检查和访问验证等额外层次。
广泛使用的软件中发现的问题
Gibler 说,更新的模型能够发现被忽略的漏洞,以及利用已知问题造成更严重后果的方式。他介绍了 OpenAI 报告的 Firefox、PHP 和 Linux 工作。
负责 OpenAI 网络安全研究的 Clint Gibler 说,更新的模型可以在已经测试过的代码中发现问题。他还说,当模型找到新的利用路径或将多个发现串联起来时,看似严重性较低的漏洞可能变得更加严重。
Gibler 报告称,近期一次 GPT-6 Cyber 测试发现并复现了 81 个此前未知的高严重性 Firefox 漏洞。他说,模型还为 30 个此前被认为严重性较低且不可利用的已知问题找到了新的攻击路径。
关于 PHP 问题,Gibler 说,团队用模型寻找变体、测试能否绕过拟议补丁,并为无法立即更新的用户评估缓解措施。他估计,使用模型让这些工作从数周缩短到数天。
Gibler 说,OpenAI 使用 GPT-5.6 Cyber 和 GPT-6 Cyber 在 Linux 上运行了自动化的发现、利用和打补丁流程。他报告称,一次 GPT-6 Cyber 运行验证并为近 1000 个本地权限提升漏洞生成了补丁,还发现了十种对他的团队和部分受咨询外部人员而言都是新的利用技术。
Red Team 测试运行中的应用
演示配置了一次预发布环境测试,展示跨客户访问问题并讨论防护措施。OpenAI 表示该服务处于抢先体验阶段。
Wang 转向 Red Team 产品演示。被介绍为产品团队成员、仅提供名字的 Alex 说,一组智能体会探索运行中应用的攻击路径,并帮助复现和修复已确认的问题。
在一个虚构的协作文档应用中,Alex 配置了针对客户之间隔离情况的预发布环境测试。他说,这次测试可以使用源代码和已连接的上下文,并设置持续时间、请求速率、凭据和允许的流量。
测试视图显示发现的问题和正在探索的端点。Alex 说,用户可以监控进度,并在缺少端点或权限等情况下调整测试。
他说,各智能体分别处理任务,并通过共享队列和知识库协调。OpenAI 将基础设施隔离、防护措施以及监控偏离情况的监督智能体,描述为分层安全设计的一部分。
演示推进后,Alex 打开了一个存储型 SQL 注入问题:一个虚构客户可以访问另一个客户的文档。报告展示了受影响的架构、验证问题所用的步骤链,以及补丁的建议起点。
Wang 说,Red Team 还可以帮助验证已有问题和修复结果,其结果可以传入 Defense Factory。她将预期流程描述为既发现新漏洞,也处理积压问题。
Defense Factory 验证问题并准备修复
演示展示如何汇总、分配来自多种工具的发现,并在云开发环境中处理。OpenAI 表示 Defense Factory 已开放,并介绍了客户用例。
被介绍为网络安全产品工程负责人的 Matt 将 Defense Factory 描述为持续防御工作流程。他认为验证、去重、可复现环境以及与现有系统集成是实际挑战。
Wang 说,该产品支持自身的扫描器,也可以导入第三方工具和 Red Team 的发现。演示展示了一个组织层面视图,按严重程度分组结果并合并重复报告。
Matt 选择一些问题,并展示产品如何使用已连接工具的信号推荐负责代码的人员。用户可以在后台启动修复,也可以在 Codex 中打开问题,交互式引导工作。
演讲者表示,云开发环境允许智能体拉取代码和依赖、复现问题,并在提出拉取请求之前测试修复方案。他们将其定位为对现有人工作代码审核和发布流程的支持。
Matt 展示了持续监控、定时扫描和审核新提交的选项。他说,团队可以配置检查,在新代码引入严重问题时阻止拉取请求,并按计划运行更深入的扫描。
Wang 概括公司的说法:智能体可以持续发现和修复问题,云环境可以帮助验证发现,工作流程也与 Codex 集成。她说,Daybreak Defense Factory 当天开放,并请用户提供反馈。
Wang 举了 Intuit 的客户案例:她说,其 Night Falcon 系统会梳理代码仓库和数据流、测试发现的问题,并向工程师提供证据和工单。根据她的演示,已关闭的问题中有 87% 是经确认并修复的漏洞,其余则被评估为无效。
她说,Block 在检测工程和告警分诊中使用 Daybreak 模型,并报告称,检测规则变更可以在不到一小时内针对七个月的遥测数据进行测试,该流程每季度为误报分诊节省 600 小时分析师工作时间。
Wang 还提到 Sophos,称智能体端到端解决了其 52% 的托管检测与响应案例,平均响应时间从 38 分钟降到 89 秒。这些数字作为客户案例展示,不是对普遍性能的保证。
Wang 最后介绍了 Daybreak 平台的 CLI 和 SDK、网络安全部署工程师及服务伙伴提供的支持,以及通过云合作伙伴提供模型的计划。她邀请用户在公司扩大访问范围时提供反馈。
同频道的其他文章
27:44EN → 简体中文
24:01EN → 简体中文
22:37EN → 简体中文
21:10EN → 简体中文
19:44EN → 简体中文
27:09EN → 简体中文