Kevin Mandia 谈 AI 攻击与持续安全测试

David George 采访 Kevin Mandia，讨论 AI 与网络安全。Mandia 曾创办 Mandiant，如今领导提供 AI 安全测试的 Armadin；文中有关产品效果的说法来自他本人。

Mandia 说，认识 Armadin 创始团队并看到 AI 带来的变化，让他重新投入创业。他认为自己的安全经验与人脉可以帮助团队接触客户。

他介绍，Armadin Red 利用模型测试客户系统中的可利用风险；规划中的 Armadin Blue 则希望帮助控制测试发现的风险。

Mandia 说，AI 辅助攻击可以并行探索比人工操作者更多的路径，但当前系统可能重复操作或产生明显噪声。他认为速度和规模是重要区别，同时承认协调能力还有改进空间。

他预计，能力较强的模型会降低攻击者的技术门槛，并使攻击归因更困难。这是他对威胁环境的判断，不代表每次 AI 辅助攻击都会成功。

谈及国家级行动与 AI 攻击的区别，Mandia 将有选择的定向行动与未来可能出现的广泛并行探测作比较。他说，操作者仍需权衡速度、隐蔽性和暴露行动的风险。

他预测，技术能力较弱的攻击者使用模型后可能显得更有能力，防守方也可能更难辨别行动背后的主体。他将此描述为未来的担忧。

Mandia 认为防守方需要真实、持续的测试，类似体育球队用强大的进攻阵容训练防守。他认为攻击速度加快会推动战术响应更多依靠自动化。

他介绍先进行一次评估，梳理暴露的服务和资产，再检查新增服务或应用更新等变化。后续测试可以聚焦发生变化的部分，而不必每次都以完整强度重复测试。

公司希望区分真正可能带来访问权限的发现与大量理论漏洞。Mandia 说，这能让客户更清楚地安排修复优先级。

Mandia 认为，仅靠周期性渗透测试无法提供他希望的持续覆盖。他把传统渗透测试描述为只扫描已知问题，这只是他的概括；实际测试范围因项目而异。

他表示，Armadin 在访谈所讨论的年份里，在客户生产环境中发现了 90 多个零日漏洞。这是节目中的公司说法，此处未独立核实数量。

Mandia 对比了理论性发现与经过验证的可利用路径，并说客户会将严重的已确认问题作为事件处理。他预计 AI 能让更频繁的授权红队测试在经济上可行。

在防守方面，他的目标是利用测试信号快速触发补偿性控制。他说 Armadin 正与现有安全厂商合作，而不是取代客户已经使用的所有防御平台。

他说，临时控制类似止血：它可以争取时间，但不能替代调查和修复根本问题。与已部署安全系统集成是其方案的一部分。

谈到安全运营中心，Mandia 预测预防、检测和响应将更加自动化。他也说，面对尚未评估过的新路径，分层防御和假设某层会失效仍然必要。

他担心成功入侵后，攻击扩散速度会超过分析人员手动响应的能力。实际部署时，速度、误报和自动行动后果之间的平衡仍需要仔细设计。

Mandia 说，随着模型能力变化，安全负责人正在重新评估团队和暴露面。他描述一些组织扫描自身系统，并调集工程资源降低风险。

讨论转向涉及 Hugging Face 的一次事件，以及预判模型行为的困难。Mandia 得出的更广泛教训是，AI 研究人员和有经验的安全实践者需要共同设计防护措施。

对于敏感安全测试，他描述了隔离执行、代理和监控等多层控制。他主张在行为触及边界时停止或升级处理，同时承认每层控制都可能失效。

他说，领域专家需要围绕实际环境和可能的失效方式设计评估。一个在通用测试中看似安全的系统，获得工具和实际访问权限后可能表现不同。

Mandia 描述了公司内部对开放和闭源模型在一组安全任务上的比较，称它们速度和成本不同，最终结果相近。访谈没有提供足够的方法细节，无法将结果推广到其他情境。

他将 AI 审计记录的需求比作云计算改变事件响应时安全团队所经历的调整。组织需要重建事件经过、识别智能体做过什么，并改进控制措施。

Mandia 反对因恐惧而停滞，也反对未经约束地部署。他建议逐步测试，检查输入和输出，对不熟悉的行为暂停或升级给人判断。

他说，团队已看到技术自行发现部分近期漏洞，同时人仍参与其中。他认为这反映了安全专业知识和自动化结合方式的变化。

对话转向 Armadin 的创业过程。Mandia 将事后事件响应与在攻击者之前发现并处理弱点进行对比，同时承认预防失败时仍然需要响应能力。

他感谢此前安全工作中积累的同事和校友网络。人脉可以帮助新公司接触客户，但产品仍必须解决企业的紧迫问题并赢得信任。

随着公司成长，Mandia 强调产品变化时要持续培训销售团队。他说，规模化需要清晰流程，并反复检验流程是否仍然有效。

创业者讨论了紧迫需求如何影响企业采用，以及快速行动的同时保持安全纪律有多困难。Mandia 强调解决客户的难题，并让公司围绕这些问题保持一致。

Mandia 最后表示，随着 AI 改变攻击和防御，安全组织也必须适应。整场对话展示的是他公司的策略与预测，并非对产品效果的独立测试。