Microsoft 的 Jay Parikh 谈 AI 基础设施、模型选择与智能体安全

Matthew Berman 采访 Microsoft CoreAI 执行副总裁 Jay Parikh，讨论开发者技术栈、办公文化、基础设施、模型选择和安全。对话发生在 2025 年 11 月 Microsoft Ignite 前后；产品说法、计划和预测都应放在这一历史背景下理解。

Parikh 说，Microsoft 在 1 月组建 CoreAI，并在 5 月的 Build 大会上提出产品战略。随着模型、框架和 MCP 等协议快速演进，他认为 AI 技术栈尚未定型。目标是帮助构建者和企业将这些部件组合成有用的应用。

他描述了重新构想的开发者工具层，其下是 Microsoft Foundry。他将 Foundry 称为构建、部署和观察智能体的“智能体工厂”。他认为安全和信任必须从一开始就纳入设计，因为智能体可能规划、调用工具并访问数据，其行为不像传统软件那样确定。

Parikh 说，部署也必须覆盖云端和边缘设备，以适应不同行业和地区的需求。被问及 Microsoft 为什么合并团队时，他说共同目标是服务整个技术栈上的构建者。他希望产品、衡量方式和客户互动协同运作，避免开发者面对互不连接、不安全或不可观测的组件。

Berman 问 CoreAI 计划在新年恢复线下工作的事。Parikh 认为，面对面协作有助于人们互相指导、分享使用 Copilot 的发现，并共同学习如何为困难的 AI 任务提供上下文或支撑框架。这是他解释团队政策的理由，并不证明 Microsoft 的所有员工都有同样要求。

Berman 指出许多企业和个人仍在学习如何使用 AI，并问 Microsoft 内部是否也是如此。Parikh 说，公司服务于人力资源、财务、工程和安全等多种角色，必须像技术一样快速发展。他介绍了一项内部计划，旨在减少行政工作，腾出时间创造产品。

Parikh 以产品原型为例：先在文档中说明想法，再让智能体并行构建五个方案，然后利用客户反馈改进其中最好的部分。他认为这样可以扩大创意探索范围并加快反馈。他说，在与客户和合作伙伴的大多数对话中，都会谈到文化变化和学习新的工作方式。

被问及产品、开发和设计角色之间的界限日益模糊时，Parikh 说 AI 工具让人们可以在传统专业领域之外做出贡献。系统工程师可以生成 UI 概念；产品经理或设计师可以使用 Copilot 提出错误修复。工程师仍可能需要审查生成的拉取请求，确保它符合代码标准。

Parikh 认为最大的差异在于个人，而非职位。他将不常使用 AI、每次成功都感到惊喜的人，与经常使用 AI、因为把它推向更难任务而感到沮丧的人作比较。在他看来，后一组人更倾向于尝试不同模型、上下文工程、评估、微调和强化学习。

Parikh 描述了一些团队如何编排多个智能体完成复杂任务，并使用验证系统检查输出。他说，有些团队把代码视为中间产物，不逐行检查，而是让验证智能体将问题反馈给编程智能体。这是他对特定工作流程的描述，并不能证明自动验证在所有场景下都足够。

Berman 转向 Fairwater 数据中心，问电力是否已经成为比 GPU 更大的约束。Parikh 说答案取决于目标规模和地点：电力、土地、变压器及其他重型设备都会影响扩张。他说，一些地区暂停了数据中心增长，另一些则在鼓励发展。

硬件需求也会随着代际变化，包括冷却、电力和网络。Parikh 认为，智能体在调用企业工具和系统时，会增加对普通计算、存储和网络容量的需求。因此，扩展 AI 涉及整个系统，而不只是 GPU。

Berman 提出 AI 基础设施泡沫的争论，将未使用的光纤容量与关于闲置 GPU 的说法作比较。他引用 Satya Nadella 关于电力短缺导致一些 GPU 等待供电的言论。被问及 Microsoft 的利用率时，Parikh 没有给出百分比，而是强调持续衡量和优化 CPU、GPU、内存带宽与网络。

Parikh 说，Microsoft 可以从 Microsoft 365 和 GitHub 等自有工作负载以及第三方客户工作负载中学习。团队调整硬件、软件和应用技术栈，以提高设备利用率。Berman 再次追问未来 12 到 24 个月是否会有足够电力。

Parikh 说，物理容量必须与需求相匹配，也可能出现过剩或短缺。他承认 Nadella 所说的电力不足，并表示团队在优化现有基础设施的同时寻找更多电力。他没有给出已供电与闲置 GPU 的具体预测或数字。

Parikh 认为，提高已经通电的 GPU 的利用率，可能比等待新数据中心更快、更便宜。他说，由于 Microsoft 运营着庞大的设备集群，即便改善不到一个百分点，也能释放有用的容量。这是建设更多基础设施的补充，而后者需要时间。

谈到模型效率，Parikh 预计企业会混合使用模型：一些任务用更大、更慢、更贵的模型，另一些则用更小、更有针对性的模型。团队可能先从大模型开始，再微调或蒸馏小模型，同时优化框架和运行时。他说，降低成本和延迟时必须保持在可接受的准确性、安保与安全范围内。

Parikh 将 Microsoft 的模型路由器描述为一种让应用依据成本、速度和质量等偏好选择模型的方式。他称这是平台能力，旨在减轻企业为不同工作负载选择模型的负担。访谈没有独立测试其路由表现。

他还认为，企业数据和上下文可以让应用更有用。组织可以将客户、供应链或营销数据与模型结合，通过微调或强化学习进行适配。他预计这些组合能支持更复杂的工作流程，并可能带来更好回报；这一说法取决于实际部署。

Berman 问客户应该如何在开放和封闭模型之间选择，包括中国开发者推出的模型。Parikh 说 Microsoft 希望提供选择，并称当时 Foundry 列出了 11,000 个模型。他建议先了解客户的目标和经验，再利用示例和证据寻找合适的方法，而不是把选择视为非此即彼。

Berman 问是否最终会有一个全能模型处理所有任务。Parikh 没有永远排除这种可能，但他不认为一个模型很快就能在所有任务上都做到最好。他预计医疗、金融、气候和工业流程等领域会持续需要不同规模的定制模型。

谈到 OpenAI，Parikh 说 Microsoft 一方面将合作伙伴的技术融入产品，另一方面通过 Microsoft AI 开发自己的模型。产品工作可能涉及后训练和组合模型，而 MAI 团队则推进 Microsoft 自己的模型能力。他将这描述为并行推进的两条工作线。

被问及 CoreAI 如何与 Mustafa Suleyman 的 MAI 团队合作时，Parikh 介绍了基础设施、算法、评估、安全和信任方面的协作。任务由最合适的团队分担；例如，软件开发模型可能与 GitHub Copilot 和开发者工具团队紧密相连。

Berman 提到模型权重盗窃、投毒和 AI 辅助黑客攻击，并问 Parikh 最担心哪种攻击方式。Parikh 说未知威胁尤其令人担忧：已知威胁可以采取缓解措施，而技术的速度和持续进步可能挑战既有安全做法。

Parikh 说，安全已经融入 Microsoft 的智能体平台。按照他的描述，智能体会获得一个由 Microsoft Entra 跟踪的身份，并配有策略和访问控制；如果行为不当，可以将其停用。他还描述了追踪工具调用、数据访问和人工审批的能力；这些是产品方面的说法，并非经过独立验证的保证。

谈到自己的逆向观点，Parikh 不认为 AI 生成的代码行数是有用的主要指标。他更愿意问一个组织如今能做到哪些以前做不到的事。他提到积累了多年技术债的金融服务团队：如果 AI 能帮助他们实现代码和基础设施现代化并改善安全，这些成果比生成的行数更重要。