30 秒看懂
Parallel 联合创始人兼 CEO、Twitter 前 CEO Parag Agrawal 与 Harry Stebbings 讨论服务 AI 智能体的网络基础设施。他解释智能体如何改变搜索输入、延迟要求和经济模型,并介绍 Parallel 支付内容所有者的计划。 Agrawal 还讨论了数据授权、竞争、监测、AI 安全和领导力。他对市场规模、需求和未来行为的估计属于预测;他对 Parallel 的描述反映其公司的视角。
- 1智能体面临不同约束Agrawal 说,智能体可能需要更明确的查询、机器可读取的结果,以及与人类用户截然不同的延迟预算。
- 2为推理时的数据付费他认为,智能体需要适用于有价值专有数据的授权机制,而不能局限于面向人类的按席位订阅。
- 3重新思考广告Agrawal 认为现有形式的广告不适合智能体读取网页,并介绍了 Parallel 拟采用的内容付费模式。
- 4搜索成本他认为低成本模型使用的智能体搜索价格必须大幅下降,而更昂贵的搜索可能适合高价值任务。
- 5从轮询转向事件Parallel 的 Monitor API 旨在以网络变化为触发条件,而不是让每个智能体反复搜索相同的更新。
- 6模型安全责任Agrawal 说模型开发者应尽量减少可预见的危害,并将可预防的安全事件同时视为防护不足和能力展示。
要点建议
- 智能体搜索的输入、输出和延迟预算可能不同于为人设计的搜索。
- Agrawal 预计模型质量和搜索需求会共同增长,但他对规模和成本的估计仍是预测。
- 在他看来,数据所有者和智能体提供商需要切实可行的访问与补偿条款。
- 搜索定价、质量和算力分配取决于模型及任务,不存在适用于所有情况的统一配置。
- 事件驱动的监测可以在变化发生时通知智能体,而不必反复轮询网络。
- Agrawal 呼吁模型开发者减少可预见的危害,同时承认对齐无法保证抵御对抗性攻击。
按章节阅读整理后的全文
智能体为何需要不同的搜索
Agrawal 介绍 Parallel 对智能体搜索的判断,解释输入、输出、规模和延迟要求如何不同于人类网络搜索。
Parag Agrawal 把 Parallel 描述为面向 AI 智能体的搜索服务商。他说,为个人或组织工作的智能体需要网络信息,但它们的需求与人类搜索者相差足够大,需要新的技术和可持续的商业模式。
他的创始假设是,智能体最终使用网络的频率可能是人类的 1000 倍。Agrawal 把这一数字作为思考规模的方法,而不是当前使用量的实测值:如果需求增长多个数量级,底层系统和经济模型都必须改变。
在这一情景下,他估计搜索的算力效率需要提高约 10 到 100 倍,否则将今天的搜索成本乘以 1000 将难以承受。确切规模和效率改善幅度仍属于他的预测。
人类搜索通常输入几个简短关键词,等待半秒或一秒,然后从链接列表中探索。Agrawal 预计,智能体会更明确地描述任务,并接收结构化信息或文件,而不是一组蓝色链接。
时间预算也不同。语音智能体面对等待的用户时,可能需要在约 100 毫秒内获得结果;后台研究智能体则可以花更多时间换取更好的答案。搜索系统需要适应这些差异,而不只是针对熟悉的人类界面优化。
使用结果的模型也很重要。便宜的小模型和成本更高的大模型面临不同权衡:系统必须决定可以传递多少噪声,以及在返回信息之前应该做多少处理。
算力与模型之间的权衡
他介绍检索漏斗,以及如何在搜索和模型之间分配算力。不同应用对准确性、延迟和成本的要求不同。
Agrawal 描述了一个检索漏斗:从海量网页文档开始,对绝大多数文档几乎不花算力,对较小的候选集合花少量算力;随着结果范围逐渐缩小,再投入更多排序工作,直到信息可以放进模型上下文。
这个过程用搜索算力节省模型算力。对于便宜模型,多传一些材料可能可以接受;对于昂贵模型,如果更多搜索和过滤能避免浪费模型时间或重复搜索,就可能值得投入。
被问及 Parallel 如何处理准确性、延迟和成本的不同偏好时,Agrawal 说,应用开发者或智能体可以配置 API。调用方可以指定模型,并在面向不同工作负载的模式中选择;他说,提供这些背景可能改善结果。
他介绍了面向语音智能体的快速模式,以及供昂贵后台任务使用、投入更多算力的模式。如果较长时间的搜索能让智能体减少后续搜索次数,有时反而能降低整体耗时和成本。
使用场景与模型演进
他讨论知识工作场景,以及模型进步为何不一定消除搜索需求。他分别预测前沿模型和小模型的发展。
Agrawal 说,Parallel 的常见场景是知识工作,包括编程、法律研究、保险承保、销售和科学研究。他估计,编程提示中只有少数会调用网络搜索,因为许多编程工作依赖内部文件和代码库。
相比之下,法律工作可能依赖判例检索,以及对个人或公司事实的核查。Agrawal 说,一些任务需要全面搜索,才能更有把握地确认没有遗漏相关信息,即使私有数据同样重要。
他欢迎更多有用的个人助手和其他智能体,因为 Parallel 的业务依赖智能体消费网络信息。在他看来,更好、更便宜的模型能支持更多智能体场景,从而扩大搜索机会。
Stebbings 问,更聪明的模型是否会减少搜索。Agrawal 区分了推理能力与事实记忆:模型可能记住常见事实,但不能指望它保留训练数据中的每一个细节;他把这一过程形容为一种有损压缩。
有些事实根本不在训练数据中,信息也可能过时。Agrawal 还预计,经过优化以保留实用性能的小模型可能保留更少的参数化知识,因此外部检索仍有作用。
他同时预测两种趋势:前沿模型可能继续变大,而小模型会越来越高效地达到某个固定性能水平。他预计,即使日常能力变便宜,高价值问题仍可能值得投入更多算力以获得更好的答案。
Agrawal 说,他不知道开放模型与专有模型将如何瓜分未来的 token 和支出。他质疑任何一方占 90% 的精确比例,因为模型成本、应用需求和开放模型的发展仍不确定。
他希望美国出现强大的开放模型,以及开发者之间的竞争,但表示结果尚不明朗。他的判断取决于技术和市场如何发展,而不是对某个提供商成功与否作出确定预测。
路由与数据市场
Agrawal 解释算力容量受限时路由为何有用,并提出为智能体访问专有数据设计新的定价机制。
谈到模型路由,他区分了选择模型与选择运行模型的 GPU 和供应商。他说,在快速增长的客户面临算力容量不均时,路由确有价值:客户可以切换供应商,有时也切换模型,以满足需求和服务要求。
Agrawal 说,路由层能否保持同样的价值,部分取决于未来 GPU 和 token 的供需。他随后指出,数据和独特见解可能在未来几年变得更加有价值。
他的前提是:当便宜的智能与私有知识、其他方的数据和公开信息结合时,可能发挥更大作用。难点在于建立交易机制,让各方能够组合这些输入,并为彼此的贡献付费。
Agrawal 强调的是推理时的数据访问,而不只是模型训练的数据授权。一位风险投资人可能把个人笔记和经验与付费信息服务、公开数据结合起来;代表投资人工作的智能体也需要合法、实用地使用这些有价值的信息。
为人类设计的按席位订阅,在许多智能体需要访问时可能不方便。Agrawal 主张根据智能体的使用或价值进行补偿,让数据所有者有动力提供访问,而不是反复阻止自动化客户端。
智能体访问与内容经济
他分析企业如何决定允许或限制智能体访问,认为现有广告形式需要替代方案,并介绍 Parallel 的内容付费计划。
Stebbings 问企业是否应该允许智能体进入服务,并提到电商和旅游业的不同做法。Agrawal 预计企业最终会适应智能体,但条款和战略选择将取决于各自的激励和市场力量。
他没有断言限制智能体的公司一定对或错。平台可能凭借自己的助手留住客户,或以不同条款协商访问;如果客户转向其他智能体,而平台又未能提供有用替代方案,也可能失去交易。
Agrawal 不确定人们会把多少购物行为交给智能体。有些消费者即使将其他琐事交出去,也享受亲自挑选产品。Stebbings 部分基于自己大量使用个人助手的经历,对代理购物的前景更为确信。
Agrawal 说,这一变化给广告带来了问题。靠广告支持的页面在有人看到广告时获得收入,但提取信息的智能体可能不会让任何人看到广告。因此,现有广告形式不能直接套用于智能体消费内容。
他把 Parallel 计划中的解决方案形容为“面向智能体的 AdSense”:当智能体从内容中获得价值时,向内容所有者支付浮动金额。他希望借此调整激励,让出版商有理由继续提供有用内容。
Stebbings 问,如果其他智能体仍免费使用内容,出版商为什么愿意合作。Agrawal 说,内容所有者可以向提出可接受条件的一方提供数据源,同时利用可用的技术或法律手段限制其他方。
出版商的核心业务是否会像部分创作者在流媒体转型期间那样缩水?Agrawal 说他不知道,但预计智能体使用量大幅增加有望创造更大的潜在市场。他也承认,转型中会有赢家、输家和调整。
在他看来,有些内容可能更有价值,有些则更趋向商品化。整个市场能否像他预计的那样增长,取决于智能体是否真正完成有用工作,以及商业模式能否让提供信息的人获得回报。
利润率、市场规模与竞争
Agrawal 概述公司的经济模型,并对搜索市场作出推测性估计。他也讨论执行风险和竞争。
被问及利润率时,Agrawal 说 Parallel 是一家关注质量、成本和延迟的基础设施公司。他声称,其技术能用面向人类搜索系统的一小部分算力达到类似质量;访谈并未独立验证这一比较。
他说,未来利润率很大程度上取决于竞争和市场结构,而这些仍未定。他认为向内容所有者付费不一定会损害利润率,因为有用信息可以减少达到目标结果所需的算力。
他的概念性例子是:一个智能体有固定预算,如果移除某出版商的信息后答案质量下降,就说明该内容产生了边际贡献。Agrawal 说,Parallel 尝试估算这种贡献,并将其中有意义的一部分价值分享给内容所有者。
估算市场规模时,他建议观察用于智能体的推理支出,暂不计入训练和媒体生成。他估计,网络搜索可能相当于相关 GPU 支出的约 5% 到 20%。这是他的工作假设,不是全行业实际比例。
他预计,如果推理需求增长且 Parallel 保持市场份额,其收入机会也会随之扩大;增加份额则会改变结果。Stebbings 和 Agrawal 讨论了假设性的收入与估值数字,明确依赖市场增长和份额假设。
Agrawal 说,几年内达到很高的估值有可能,但不能保证。他指出的宏观风险是:在社会投入巨额资金后,智能体可能无法创造足够价值;此外还有公司的执行风险。
即使智能体普及扩大,Parallel 仍需要强大的技术、与内容提供商达成协议,并赢得拥有大量推理支出的客户信任。Agrawal 指出,未来客户和模型提供商的格局本身也不确定。
Stebbings 提出商品化问题,指出多个提供商在公开基准上可能很接近。Agrawal 回应说,如果搜索要大规模扩张,降低价格是可取的;他认为目前价格与一些低成本智能体工作负载并不匹配。
搜索价格与基准测试
他预测服务低成本智能体的搜索价格必须下降,并质疑部分公开基准的实用性,区分成本与质量。
他的例子是使用廉价模型反复进行深度研究。如果搜索费用远高于模型费用,他认为算力分配就颠倒了;在他看来,这类场景的搜索价格可能需要下降一个数量级或更多。
对于更昂贵的模型,Agrawal 愿意在搜索上投入更多,只要这能改善答案并减少后续工作。他预计,提供商会同时推出面向低成本模型的廉价搜索和面向高价值任务的高强度搜索。
他把历史搜索定价与面向人类、靠广告支持的市场联系起来:广告收入使搜索提供商有理由承担较高的基础设施成本。Agrawal 声称 Parallel 能以低得多的成本提供类似质量,并预计成本继续下降;这些是公司说法和预测。
他认为公开基准不能说明全部问题:有些基准可能趋于饱和或被模型记住,质量分数也不能反映产生成果的成本。他说,买方应同时考虑实用性和价格,不能仅凭接近的排行榜成绩就认定各服务完全相同。
Stebbings 介绍自己如何用智能体关注欧洲公司注册信息,寻找年轻创始人。Agrawal 借此说明,持续监测可能比助手反复醒来执行相同搜索更高效。
持续监测
Agrawal 比较定期查询与事件驱动的监测,介绍旨在向持续运行的智能体发送相关网络变化信号的 API。
Agrawal 说,Parallel 已经在抓取网络。如果系统了解用户长期有效的监测请求,就能在新变化出现时评估,并只在变化看起来相关时投入更多算力,而不必一遍遍搜索没有变化的内容。
他将 Monitor API 描述为定期轮询的事件驱动替代方案:用户提供通知条件,系统以较低成本筛选变化,并在提醒智能体之前对有希望的事件进行更昂贵的检查。
当相关事件很少发生时,这可以减少重复工作,但结果仍取决于抓取、匹配和误报情况。Agrawal 认为,更广泛的变化是从按计划拉取信息,转向向持续运行的智能体推送相关网络事件。
在他的假想未来中,智能体完成当前能做的工作后,会等待新事件:一封邮件、另一个智能体的结果、网络变化或人的新想法。这些事件让它恢复工作。这是他的愿景,并非今天已普遍实现的情况。
智能体安全与 AI 普及
他讨论防护措施、恶意使用和模型开发者的责任,也担心收益过度集中以及社会适应变化的能力。
Stebbings 问,如何阻止目标导向的智能体通过有害手段完成指令,并假设它未经授权更改预订。Agrawal 说风险很复杂,需要区分强化学习中的实验与已向用户发布模型的行为。
他说,过去报道的一些事件涉及训练中的模型,而不是完成对齐后发布的系统;同时,他表示不了解刚被提及的新事件细节。他的看法是,对齐工作可以降低某些风险,尽管对齐问题仍未解决。
Agrawal 认为,训练环境的设计可以减少强化学习期间发生有害行为的机会。部署之后,他同时担心意外误用和蓄意恶用,并表示模型对齐无法保证抵御对抗性攻击。
讨论转向网络安全。Stebbings 警告恶意行为者可能使用能力强的智能体;Agrawal 说,系统需要保护,模型开发者也有责任尽量减少其产品带来的可预见危害。
他承认,无法保证随机系统绝对安全。但他反对只把每次安全事件当作模型能力的证明:事件也可能暴露出可以做得更好的防护。他欢迎通过详细复盘让这些不足得到关注。
Agrawal 更广泛的担忧是,AI 即使总体有益,也可能扩散不均,收益过度集中,让许多人在转型中承受痛苦。他担心社会适应的速度可能跟不上技术变化。
两人讨论了赋予智能体花钱或使用账户的权限。Agrawal 说,他们处于一个异常早期采用的圈子:代理支付技术可能先于社会接受度出现,大多数人未必很快愿意让智能体访问金融账户或邮件。
被问及财富集中时,他说一定程度的差异符合自己的世界观,但担心这一趋势可能走得太远。他不确定界限在哪里,希望社会力量能够在不发生极端动荡的情况下解决问题。
整合、领导力与未来
Agrawal 讨论垂直整合、从马斯克身上获得的经验,以及他对销售和营销的看法如何改变。他以对开放网络和持续运行智能体的期待收尾。
Stebbings 问,垂直整合的公司是否会获得 AI 的大部分价值。Agrawal 认为整合有好处,但警告说,在快速变化的市场中,拒绝与其他公司合作可能限制自己的覆盖范围。
Agrawal 说,Parallel 自身整合了搜索技术栈的一部分,但止步于 API 层,以便服务许多不同的智能体。公司的赌注是:包括垂直整合企业在内的多种领域应用,底层存在共同的信息检索问题。
被问及创始人可以从马斯克身上学到什么时,Agrawal 首先表示自己与他有许多分歧。他赞赏马斯克的紧迫感和压缩时间的能力,认为当高要求与激励结合时,人们可能做到超出自我预期的事。
谈到 Twitter 当前产品时,他特别提到以前叫 Birdwatch、现在叫 Community Notes 的项目,表示自己喜欢这个想法,也乐见团队继续开发。他并未广泛评价或认可平台的整体方向。
Agrawal 说自己通常不做风险投资:他的妻子从事风险投资,两人的合规流程使个人投资较为繁琐。他也不认为,自己与创始人短暂接触就有理由成为更好的投资人。
他说,自己从 Vinod Khosla 身上学到了技术直觉和长期技术目标的价值。解决一个问题后,还要继续向前看,对接下来的几个技术挑战作出有依据的押注。
Agrawal 对销售和营销的看法也发生了变化。他最初非常专注于产品和技术;经营 Parallel 让他每周都能看到优秀销售和营销所带来的贡献。
被问及竞争产品时,他区分了 Perplexity 更加垂直整合的消费者产品与 Parallel 的搜索基础设施业务。他认为 Exa 更直接地处于同一个搜索基础设施市场。这些是他对各公司定位的描述。
他回忆起与 Josh 和 Todd 的一次风险投资会面:两人在决定投资后,专程飞来与他相处。展望未来十年,他说自己对变化感到兴奋,也期待一家公司能影响开放网络和内容所有者的未来。
他的最后一个预测是,持续运行、代表人们工作的智能体将比许多人目前预想的更为普遍。Agrawal 承认,即使在关注技术的同行中,这个想法也并非人人认同;它仍是他的预期,而不是已经确立的结果。
同频道的其他文章
23:48EN → 简体中文
1:13:26EN → 简体中文
59:41EN → 简体中文
1:19:50EN → 简体中文
1:03:05EN → 简体中文
1:17:09EN → 简体中文