李广密：Perplexity、AI 搜索与 2024 年的大模型应用

2024 年 6 月，张小珺与李广密回顾上半年大模型和 AI 应用。广密认为，除模型公司的产品外，独立 AI 应用尚未全面爆发；他以 Perplexity 为重点讨论搜索。

他回顾 Perplexity 团队和融资，认为其增长吸引了硅谷研究者及投资人的关注。节目中的估值、用户数和收入数字是当时的描述或预测，并非当前数据。

广密认为信息检索与当时模型能力较为匹配：系统可以搜索、组合信息并回答复杂问题。他把探索性研究和科学发现看作更难的任务。

讨论先做产品还是先做模型，他认为没有标准答案。应用可以先借助外部模型验证需求，再根据成本和质量需要优化，甚至使用针对特定任务的小模型。

张小珺问如果大模型公司也做好搜索，独立产品如何建立壁垒。广密承认存在竞争风险，认为产品可能需要更深的模型优化或合作；具体公司未来的交易只是他的假设。

关于 Perplexity 的估值，他从用户增长、留存和搜索市场切入，但提醒产品仍要面对 Google、模型公司及其他信息入口。竞争和价格判断是 2024 年中期的个人观点。

他认为 AI 搜索可能通过直接回答和组织来源改善信息获取，但产品仍要让用户持续回来，并处理内容来源、成本和准确性。

他总结 Perplexity 当时的优势是产品与模型能力匹配、形成了一定用户习惯；使用频率、变现和与巨头的错位竞争仍需要探索。

谈及中国 AI 搜索，广密提到秘塔，并讨论不同内容生态的开放程度会影响检索。产品竞争不仅涉及模型，也涉及能否可靠地获取和组织信息。

主持人追问 Perplexity 的护城河以及独立发展或被收购的可能性。广密认为产品与底层模型之间的关系、用户习惯和竞争者动作都可能影响结果。

他把基础模型公司和应用公司分开比较：训练模型需要不同的资源结构，应用则必须证明用户需求、分发和留存。估值差异不能单独说明哪一种更有价值。

他比较海外模型公司的融资和云平台关系，认为资金、算力与合作伙伴都会影响竞争。对具体团队和融资前景的判断是他在 2024 年中的观察。

广密认为 2024 年上半年 AI 原生应用还没有系统性爆发，原因可能包括模型能力、调用成本和响应速度。他强调这是当时对生态阶段的判断。

展望未来，他关注模型变小、端侧计算和多模态能力。将模型部署到设备上可能改变成本与隐私体验，但具体效果取决于硬件、模型和产品实现。

缩小模型并不只是减少参数，还需要考虑训练数据、能力保留以及设备上的延迟和内存。广密认为这些工程权衡会影响端侧应用的可用性。

他认为推理和多模态可能成为下一阶段的能力重点，并讨论压缩模型时如何保留有用能力。这些方向和时间表都是前瞻性的研究判断。

两人请听众思考：如果模型调用成本大幅下降，哪些现在不可行的应用可能变得可行？广密把价格、速度和用户体验联系起来，而不认为降价自动保证产品成功。

关于下一代模型发布节奏，他认为更大模型的训练、基础设施和产品化都需要协调。对公司内部进度及发布时间的说法是外部猜测，不能视作已确认计划。

他用火车和铺轨比喻模型研究与基础设施：研究者推动能力向前，工程团队则需要让计算、数据和训练系统跟上。比喻表达了他对协作难度的看法。

他提醒，像 GPT-4 那样显著的能力跃迁不一定每年都会发生。公众预期提高后，渐进式改进可能看起来不够戏剧化，但仍可能改变应用成本和体验。

谈商业模式时，他比较订阅与成熟广告平台，并认为模型本身的投入、收益和壁垒仍需验证。他的收入估算与市场规模比较只反映访谈当时的假设。

对于 scaling 之外的路线，他关注数据和计算效率：能否用更少样本与算力获得有用能力？他认为这是值得研究的问题，而非已经找到的确定答案。

广密认为 AI 和人的能力可以互补：模型擅长处理大量信息，人可以提出目标和判断结果。他对未来工作方式的描述是设想，实际能力仍因任务而异。

谈机器人，他认为规划能力转成可靠的物理控制仍然困难，应用场景也需要逐步找到。他预测自动驾驶可能比通用家务机器人更早落地，但具体时间高度不确定。

两人逐一讨论 OpenAI、苹果、Google、英伟达和其他科技公司的位置。广密对人员变化、模型能力和产品战略的评价均是 2024 年的外部观察。

他认为苹果需要观察 AI 功能是否能改变用户的设备体验和换机意愿；对 Google，他同时提到模型竞争和既有流量优势。这些不是对未来公司表现的保证。

他认为芯片、云平台和企业客户之间的关系会影响 AI 产业的收益分配，也承认某些云收入假设缺乏足够事实验证。

他认为许多创业公司既与巨头竞争，也依赖它们的算力、云和分发。对投资人而言，评估研究团队和长期资源支持变得更困难。

谈检索增强生成（RAG），他认为企业内部信息检索是一个实际需求，但做好需要协调数据、检索、排序和回答等多个工程环节。不同组织还需处理数据访问权限。

比较中美创新生态，广密认为长期资本和对失败的容忍能支持早期探索。他期待更多具有技术辨识度的创业团队，但这是他对生态的概括而非对所有公司的评价。

展望 2024 年下半年，他重点关注成本下降后哪些应用能变得可行、手机等端侧体验，以及长期的通用机器人机会。节目以这些当时尚待验证的问题收尾。