李广密:Perplexity、AI 搜索与 2024 年的大模型应用

回看 2024 年上半年,讨论搜索产品、模型成本、应用竞争与产业基础设施。

李李广密嘉宾 · 创始人
频道
Zhang Xiaojun Podcast
发布
2024年8月17日
视频
1:06:44
阅读
6 分钟
原文
简体中文
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
正在阅读简体中文原文。
摘要

30 秒看懂

2024 年 6 月,张小珺与李广密讨论 Perplexity 的增长,以及 AI 搜索为何与当时的模型能力相匹配。他们也分析应用成本、模型研发、机器人、科技巨头与检索增强。 节目里的公司数据、竞争判断和技术时间表均反映当时的观察或预测,不应当作当前事实。

  1. 1搜索与模型能力广密认为搜索和信息组合适合当时的模型,探索性任务仍更难。
  2. 2产品与模型他认为可以先用外部模型验证需求,再考虑优化和小模型。
  3. 3应用爆发的条件他讨论模型能力、调用成本和速度对产品的影响。
  4. 4火车与铺轨研究推进和基础设施建设需要同步协调。
  5. 5检索增强企业检索需要数据、排序和回答等环节共同优化。

要点建议

  1. 信息检索是广密认为与当时模型能力较匹配的应用。
  2. 应用可以先借助外部模型验证需求,再优化成本和质量。
  3. 模型能力、成本和速度共同影响应用体验。
  4. 模型训练、基础设施和产品部署需要相互配合。
  5. 创业公司可能同时与大型平台竞争并依赖其资源。
全文

按章节阅读整理后的全文

只看原始文稿
01

Perplexity 与 AI 搜索

李广密回顾搜索产品、增长与竞争,讨论模型能力和用户需求的匹配。

2024 年 6 月,张小珺与李广密回顾上半年大模型和 AI 应用。广密认为,除模型公司的产品外,独立 AI 应用尚未全面爆发;他以 Perplexity 为重点讨论搜索。

他回顾 Perplexity 团队和融资,认为其增长吸引了硅谷研究者及投资人的关注。节目中的估值、用户数和收入数字是当时的描述或预测,并非当前数据。

广密认为信息检索与当时模型能力较为匹配:系统可以搜索、组合信息并回答复杂问题。他把探索性研究和科学发现看作更难的任务。

讨论先做产品还是先做模型,他认为没有标准答案。应用可以先借助外部模型验证需求,再根据成本和质量需要优化,甚至使用针对特定任务的小模型。

张小珺问如果大模型公司也做好搜索,独立产品如何建立壁垒。广密承认存在竞争风险,认为产品可能需要更深的模型优化或合作;具体公司未来的交易只是他的假设。

关于 Perplexity 的估值,他从用户增长、留存和搜索市场切入,但提醒产品仍要面对 Google、模型公司及其他信息入口。竞争和价格判断是 2024 年中期的个人观点。

他认为 AI 搜索可能通过直接回答和组织来源改善信息获取,但产品仍要让用户持续回来,并处理内容来源、成本和准确性。

他总结 Perplexity 当时的优势是产品与模型能力匹配、形成了一定用户习惯;使用频率、变现和与巨头的错位竞争仍需要探索。

谈及中国 AI 搜索,广密提到秘塔,并讨论不同内容生态的开放程度会影响检索。产品竞争不仅涉及模型,也涉及能否可靠地获取和组织信息。

主持人追问 Perplexity 的护城河以及独立发展或被收购的可能性。广密认为产品与底层模型之间的关系、用户习惯和竞争者动作都可能影响结果。

02

应用生态、成本与端侧

他比较模型和应用公司,讨论调用成本、速度、小模型与多模态。

他把基础模型公司和应用公司分开比较:训练模型需要不同的资源结构,应用则必须证明用户需求、分发和留存。估值差异不能单独说明哪一种更有价值。

他比较海外模型公司的融资和云平台关系,认为资金、算力与合作伙伴都会影响竞争。对具体团队和融资前景的判断是他在 2024 年中的观察。

广密认为 2024 年上半年 AI 原生应用还没有系统性爆发,原因可能包括模型能力、调用成本和响应速度。他强调这是当时对生态阶段的判断。

展望未来,他关注模型变小、端侧计算和多模态能力。将模型部署到设备上可能改变成本与隐私体验,但具体效果取决于硬件、模型和产品实现。

缩小模型并不只是减少参数,还需要考虑训练数据、能力保留以及设备上的延迟和内存。广密认为这些工程权衡会影响端侧应用的可用性。

他认为推理和多模态可能成为下一阶段的能力重点,并讨论压缩模型时如何保留有用能力。这些方向和时间表都是前瞻性的研究判断。

两人请听众思考:如果模型调用成本大幅下降,哪些现在不可行的应用可能变得可行?广密把价格、速度和用户体验联系起来,而不认为降价自动保证产品成功。

03

模型研发与商业模式

两人讨论模型发布、基础设施、盈利和计算效率。

关于下一代模型发布节奏,他认为更大模型的训练、基础设施和产品化都需要协调。对公司内部进度及发布时间的说法是外部猜测,不能视作已确认计划。

他用火车和铺轨比喻模型研究与基础设施:研究者推动能力向前,工程团队则需要让计算、数据和训练系统跟上。比喻表达了他对协作难度的看法。

他提醒,像 GPT-4 那样显著的能力跃迁不一定每年都会发生。公众预期提高后,渐进式改进可能看起来不够戏剧化,但仍可能改变应用成本和体验。

谈商业模式时,他比较订阅与成熟广告平台,并认为模型本身的投入、收益和壁垒仍需验证。他的收入估算与市场规模比较只反映访谈当时的假设。

对于 scaling 之外的路线,他关注数据和计算效率:能否用更少样本与算力获得有用能力?他认为这是值得研究的问题,而非已经找到的确定答案。

广密认为 AI 和人的能力可以互补:模型擅长处理大量信息,人可以提出目标和判断结果。他对未来工作方式的描述是设想,实际能力仍因任务而异。

04

机器人与科技巨头

广密分享对机器人、自动驾驶和科技公司竞争的 2024 年判断。

谈机器人,他认为规划能力转成可靠的物理控制仍然困难,应用场景也需要逐步找到。他预测自动驾驶可能比通用家务机器人更早落地,但具体时间高度不确定。

两人逐一讨论 OpenAI、苹果、Google、英伟达和其他科技公司的位置。广密对人员变化、模型能力和产品战略的评价均是 2024 年的外部观察。

他认为苹果需要观察 AI 功能是否能改变用户的设备体验和换机意愿;对 Google,他同时提到模型竞争和既有流量优势。这些不是对未来公司表现的保证。

他认为芯片、云平台和企业客户之间的关系会影响 AI 产业的收益分配,也承认某些云收入假设缺乏足够事实验证。

05

创业生态与展望

他讨论创业公司对平台的依赖、检索增强和下半年的研究重点。

他认为许多创业公司既与巨头竞争,也依赖它们的算力、云和分发。对投资人而言,评估研究团队和长期资源支持变得更困难。

谈检索增强生成(RAG),他认为企业内部信息检索是一个实际需求,但做好需要协调数据、检索、排序和回答等多个工程环节。不同组织还需处理数据访问权限。

比较中美创新生态,广密认为长期资本和对失败的容忍能支持早期探索。他期待更多具有技术辨识度的创业团队,但这是他对生态的概括而非对所有公司的评价。

展望 2024 年下半年,他重点关注成本下降后哪些应用能变得可行、手机等端侧体验,以及长期的通用机器人机会。节目以这些当时尚待验证的问题收尾。

同频道的其他文章

1:59:52EN → 简体中文
Zhang Xiaojun Podcast· 2026年10月21日播客 · 2 人对谈David Qian 谈企业传承、机器人与寻找自己的抱负嘉宾 David Qian (Qian Cheng) · 主持 张小珺Ecovacs CEO David Qian 回顾自己如何接手由创始人建立的企业、在错误中学习领导,并为机器人业务选择一条耐心发展的道路。在他看来,传承不是终点,而是持续建设企业、迎接新时代的过程。企业与战略LeadershipCompany Building+2
2:51:18EN → 简体中文
Zhang Xiaojun Podcast· 2026年10月15日播客 · 2 人对谈Lindon Gao 谈打造 Dyna Robotics,以及如何在迷雾中找到方向嘉宾 Lindon Gao · 主持 张小珺Dyna Robotics CEO Lindon Gao 解释公司为何从真实工作流中发展智能、硬件与研究为何必须同步迭代,以及创始人如何放下必须正确的执念、重新找回清晰感。RoboticsProduct Strategy模型与训练+2
2:51:18ZH
Zhang Xiaojun Podcast· 2026年10月15日播客 · 2 人对谈Dyna Robotics 创始人 Lindon Gao:从折叠任务到完整工作流嘉宾 Lindon Gao · 主持 张小珺从无人零售到机器人创业,Gao 讲述产品研究、真实部署的难题和在不确定性中寻找方向。RoboticsCompany BuildingFounders+2
2:34:18EN → 简体中文
Zhang Xiaojun Podcast· 2026年9月3日播客 · 2 人对谈曾鸣谈 AI 新时代:伟大公司与新型组织如何诞生嘉宾 Zeng Ming · 主持 张小珺曾鸣认为,AI 正在改变商业的底层逻辑:模型将成为基础设施,新一波价值则由智能体原生应用和组织创造。他建议创业者拥抱不确定性、持续生成和调整战略,并围绕有意义的工作构建组织,而非沿用旧架构。AI Strategy企业与战略智能体+2
2:34:18ZH
Zhang Xiaojun Podcast· 2026年9月3日播客 · 2 人对谈曾鸣:AI 产业化的三阶段与公司组织的消亡嘉宾 曾鸣 · 主持 张小珺战略学者曾鸣以互联网、工业革命和电气化的历史周期为参照,提出 AI 正从基础设施走向 Agent 应用,并最终进入原生应用阶段。他认为,旧公司的科层制难以穿越范式转型,下一代组织将围绕任务、创造力和人机协同重构。AI StrategyStrategy智能体+2
1:09:50ZH
Zhang Xiaojun Podcast· 2026年8月19日播客 · 2 人对谈苏庭灏:一位高中生的 AI 研究、教育与快乐嘉宾 苏庭灏 · 主持 张小珺从自学 Transformer 和发表论文,到思考 AI 时代的学习、焦虑与人与人的连接。AI researchEducationMachine Learning+2