广密复盘全球大模型这一年：Scaling Law、AGI 豪赌与中美格局

李广密开场把模型训练称为残酷的价值毁灭过程：它烧掉巨额资源，也可能让旧一代模型迅速失去意义。他认为硅谷模型公司的融资由巨头定价和主导，这更像少数科学家推动的 AI 登月计划。

他还好奇 Ilya Sutskever 接下来会怎样，注意到对方似乎不常去办公室；在他眼里，Sam Altman 很像政客。如果 AGI 真正实现，Sam 是否会成为一种新形态的总统？

张小珺介绍《商业访谈录》跨年特辑，请拾象创始人李广密口述全球大模型这一年。顶尖商业领袖和科学家投入巨额资本竞逐模型，人类这场豪赌能否带来新的摩尔时代，是她抛出的核心问题。

张小珺问李广密这一年如何追踪 AI。他说自己和团队几乎把注意力都放在 OpenAI、Anthropic 和 Google，认为大模型是这一轮投资最核心的赛道，类似十年前押注电商。

李广密说团队十人长期聚焦三家公司，投资人也不断主动找上门。他们今年只投了两家海外模型公司，两家都进入全球聊天机器人流量前五；他认为聚焦硅谷核心公司带来很好的反馈，团队也进入加速成长。

张小珺问他为什么频繁在朋友圈谈 AI。李广密说平均每天发三条，这既是笔记，也是与朋友交流后的反馈。他概括模型公司的短期秘密在预训练数据配比和 tokenizer，最关键的能力则是 reasoning。

回顾 ChatGPT 在 2022 年底发布后的一年，李广密首先提到消费端的突破：ChatGPT 很快积累到上亿用户，稳定月活已超过两亿，年度经常性收入也超过十亿美元，建立了牢固的产品认知。

能力竞赛的分水岭是 2023 年 3 月 GPT-4 发布，它成为当时的 SOTA 标杆。李广密说，谁能复刻 GPT-4，谁就迈过了关键门槛。Anthropic 7 月推出 Claude 2，内部能力已接近这一水平。

Google 12 月发布 Gemini 1.0 Pro 和手机端 Nano，但李广密认为 Pro 大致相当于 GPT-3.5，真正对标 GPT-4 的 Ultra 还要等到次年。他把这理解为 Google 正在追上 GPT-4。

从时间线上看，OpenAI 一年前做出 GPT-4，Anthropic 半年前追上，Google 预计次月交付同级模型，其他团队还需要六到十二个月。开源方面，Llama 和 Mistral 发布了当年表现最好的开源模型。

李广密原本不看好开源模型，却看到它们进步很快。Mistral 团队有 Llama 早期核心贡献者，他认为开源发展仍值得期待。另一个明显趋势是多模态：Midjourney 从 V1 到 V6 的图像质量快速提升。

Runway 和 Pika 的视频生成也取得明显进步。李广密预计视频生成会像当年的图像生成一样快速发展，到 2024 年底回看，效果可能大幅提升。Google Gemini 则以原生多模态训练开启新叙事。

GPT-4V 在他看来并非从头进行多模态预训练，而 Gemini 将多种模态数据一并训练。李广密判断 2024 年的模型竞赛会集中在多模态，同时也观察到硅谷融资开始由科技巨头主导。

AWS 和 Google 又向 Anthropic 投入数十亿美元，Elon Musk 的 xAI 也计划融资数十亿美元。钱和 GPU 都有限，第二、第三梯队的模型公司会更难获得资源；过去一年对大模型的质疑虽然不少，硅谷顶尖公司与人才却在全力投入。

对创业者和投资人来说，李广密认为要积极拥抱新时代，思考如何用好新的计算机能力。张小珺请他进一步介绍 Anthropic；他称其像一位老大哥，核心团队中有七到三十人曾主导 GPT-2、GPT-3 的开发。

Anthropic 的研究能力在他眼中位居全球前列，关注基础和本质问题。Dario Amodei 是少数坚定相信 Scaling Law 的研究者之一，也参与提出 RLHF。团队更早做出类似 ChatGPT 的 Claude，却一度没有发布。

一度 Anthropic 的模型甚至优于 OpenAI，但 ChatGPT 发布后迅速占领用户心智，许多人只知道 OpenAI。李广密认为两家团队在成员和技术路径上重叠不少；Anthropic 从 OpenAI 分出，表面原因与安全有关，背后可能还有理念分歧。

Anthropic 成立不到三年，估值增长迅速。张小珺提到 OpenAI 以千亿美元估值融资，李广密则估算 Anthropic 约为 200 亿至 250 亿美元，并认为全球模型公司前两名是这两家，Google 排第三。

评价模型排名时，李广密更看用户和开发者的选择，而非单一测评。他认为 GPT-4 和 Claude 是目前用户、开发者优先选择的产品；Google 的 Bard 与 API 能力当时还未得到充分验证。

硅谷 VC 大多错过了大模型，也错过 SpaceX 和 Tesla。李广密认为模型训练投入重、风险大、商业模式不清，不符合传统 VC 产品的期限与回报结构，因此真正买单的更可能是大型科技公司。

大模型公司争夺的是未来入口。李广密把 ChatGPT 比作直接点好外卖的问答引擎，把 Google Search 比作到菜市场买菜、再自己组合链接；两者体验不同，随着答案可靠性提升，用户可能越来越信任问答。

他认为问答引擎能处理过去无法解决的长尾问题，扩大互联网服务的渗透率，像手机让人人都能拍电影和短视频一样，技术会刺激新的消费需求。张小珺接着问，全球大模型竞赛这一年到底产生了什么结果。

李广密估算 OpenAI 一年做到十多亿美元 ARR，次年可能达到五六十亿美元；其他大模型原生产品加总还不到十亿美元。ChatGPT 占聊天流量约七到八成，稳定日活超过两百万的产品则只有 ChatGPT 和 Character.AI 等少数。

企业级大模型应用成功案例仍少，微软和 Adobe 探索较积极。不过李广密强调行业还处早期，类似芯片发展，要等能力与成本再迭代两三代，消费电子式的应用才可能逐渐爆发。

张小珺问 OpenAI、ChatGPT 的领先说明什么。李广密说用户对智能的渴望很强，若助手足够聪明、可靠、反应快，便不必依赖现有入口。假如 ChatGPT 能直接接入手机 Siri，全球流量入口会再次改变。

若把复刻 GPT-3.5 或 GPT-4 当作进入半决赛和决赛的门槛，李广密认为 GPT-4 比预想难得多。Google 全公司投入一年才勉强接近；当时全球真正做出 GPT-4 水平模型的只有 OpenAI、Anthropic 与 Google。

他看好未来半年可能追上的黑马，包括 Elon Musk 的 xAI、Transformer 核心贡献者 Noam Shazeer 创办的 Character.AI，以及 ByteDance。大模型的信息加工能力强于搜索和推荐，可能成为信息分发的下一条核心赛道。

李广密说，模型公司当下最重要的任务仍是提升 capability，而非急着做产品。Reasoning 是北极星指标，成本、可靠性和多模态也重要；coding、数学与科学发现、合成数据、post-training 和评估都还有大量研究问题。

复刻 GPT-4 的关键变量之一是人才壁垒。李广密把大模型研究描述为天才科学家借助 GPU、数据和算力帮助人类发现科学规律；真正能对模型发展作出重大贡献的研究者，全球可能只有两三百人。

他估计其中一百多人在 OpenAI，二三十人在 Google，Anthropic 也汇集了核心人才。科学家和研究文化的聚集效应很强，传统科技巨头即使有资源，也不一定能迅速组织起同等水平的模型团队。

张小珺问如何量化研究人才分布。李广密说，核心 AI 研究者对 Noam Shazeer 等 Transformer 贡献者有很强认可；Scaling Law、MoE 等关键成果来自很小的研究群体，传统 AI 领域的经验不一定直接适用于大模型。

技术会从少数专家扩散，但 Scaling Law 能否继续有效、可以走多远仍未解决。李广密说这需要更多 GPU、数据和算力实验；若无法继续 scale up，模型能力可能停留在当前一两代。

这仍是科学实验问题，尚未形成理论。复刻 GPT-4 除了核心人才，还需要良好的研究文化：持续做实验、探索数据和架构如何影响结果，而不是所有人只盯着追赶一个数字。

李广密补充，研究团队短期 ROI 压力相对小，卡量可能远超外界想象。GPT-4 的短期壁垒还在数据，尤其预训练和后训练数据；掌握数据秘密的人很少，其他团队需要数百乃至数千次实验才能摸清。

配比代码数据、设计 tokenizer 和 RLHF 等都需要充分实验，可能少不了数万张 GPU。只追 GPT-4 本身意义有限；2024 年是决定长期格局的关键一年，领先者会迅速推出新一代和多模态模型。

如果等到 2024 年再追上 GPT-4，追随者可能已错失第一梯队。下一代模型训练成本可能从两三亿美元上升至十亿美元，甚至三五十亿美元；长期唯一的关键变量，也许是 Scaling Law 是否能继续扩展。

李广密认为坚信 Scaling Law 的科学家很少，Noam Shazeer、Dario Amodei 和 Ilya Sutskever 是代表。这像少数科学家推动的 AI 登月计划，能参与的公司有限，保持全球领先未来三四年可能需要数百亿美元投入。

张小珺追问进入 GPT-4 决赛圈之后要做什么。李广密回答是继续做下一代，并预计再竞争两代后，第四、第五名以后的团队可能放弃，人才、算力和能源会进一步集中到头部两三家。

他认为这一格局更偏硅谷，但领先公司可能覆盖欧洲、南美和东南亚，不一定覆盖中国。中国资源分散，技术辨识度低，谁是领军者并不清楚；芯片或登月式竞赛更需要集中力量。

中国模型公司每家可能只有三到五亿美元资源，GPU 短缺也让它们难以像 OpenAI 那样冲击 AGI。李广密认为只能寻找领先公司没做好或做不了的路线，尝试弯道超车；国内叙事则比硅谷更关注商业化和下一轮融资。

硅谷的技术领先更容易识别，实验结果让巨头愿意持续下注。李广密估计 OpenAI、Anthropic 未来还可能分别融资数百亿美元；科技公司赌的是入口，是搜索、手机助手、社交网络等核心业务能否继续掌握用户。

他把主要阵营概括为微软与 OpenAI，Amazon 和 Google 支持 Anthropic，以及 Google 自己的模型路线；Apple 与 Tesla 也会成为终端阵营。芯片、云和手机／汽车终端是大模型相关的三大生意，云厂商投入营收的少量比例支持模型公司并不意外。

李广密判断 xAI 人才质量高、进度快，追上的概率超过一半。手机端也很重要：如果内存未来两年提升四五倍，更多推理可在设备上完成，AI 公司的成本结构会变化，手机仍会持续增强。

他猜 Apple 若无法独立做出 GPT-4 级模型，可能投资或收购 Anthropic。OpenAI 被微软独家绑定，不能与其他巨头合作，是生态中的重要限制；最强模型也不太可能开源，因为模型难以编码解释，且存在安全问题。

张小珺问 Elon Musk 为何离开 OpenAI 创办 xAI。李广密回顾 Musk 早年投资 DeepMind、参与创建 OpenAI，后来都与 Google 或微软产生竞争。他认为自动驾驶是泛 AI 最清晰的落地场景，Musk 不会错过大模型路线。

Meta 对开源生态贡献很大，Llama 可能成为开源代表，但李广密认为其能力当时约为 GPT-3.5，研究人才密度仍落后于 OpenAI 和 Anthropic。最强模型是否应该开源，是个仍无定论的问题。

李广密判断硅谷模型格局会在 2024 年基本成形，未来 12 个月是关键窗口。模型像芯片和 SpaceX，理想情况下可能赢家通吃；但微软与 OpenAI、AWS 与 Google，以及 Apple 与 Tesla 等阵营抗衡，最终或留下两三家。

Meta 也许不是模型公司，而是用 AI 改善自身业务的公司；Google 若模型落后，也可能靠产品留在竞争中。中国模型公司的资源与技术优势较难识别，算力和人才分散，巨头也缺少微软、Amazon 那种投入决心。

张小珺观察中国融资不同于移动互联网时代：几家巨头会同时投资多家公司，而不是各自押一家。李广密认为原因仍是技术辨识度低，不确定谁更好；将来整合资源、提高人才复用率和 GPU 利用率都很重要。

张小珺问复刻 GPT-4 是否是正确目标：如果没有商业模式怎么办？李广密说它不是充分条件，而是科学进程中的里程碑；如果做不到 GPT-4，下一代可能更难。他认为从 GPT-3.5 到 GPT-4 的难度会提高五到十倍。

更早做到 GPT-4 能生成高质量训练数据，吸引人才和资金，形成飞轮。晚一年追上时，领先者可能已推出多模态或更强模型，GPT-4 也许只能处理很有限的任务，因此时间差异会改变融资和竞争位置。

模型训练是一场残酷的价值毁灭：新一代更好或更便宜时，旧模型可能失去用途。模型公司是否有搜索、推荐那样的网络效应和数据飞轮尚不清楚；ChatGPT 目前更多是占据了消费品牌心智。

李广密说，保持全球第一梯队可能要求至少百亿美元储备，并且能转化为 GPU 资源。OpenAI 的入口和 AGI 心智很强，但尚无实时数据飞轮，也不一定以服务用户为唯一导向，其他公司仍可能找到机会。

展望未来，他总结两条主线：智能能力和模型成本。若参数、数据和 GPU 继续扩展，模型每一两年可能提升一两代，每次能力提升都会解锁新应用；reasoning 是能力核心，规模定律仍可能持续多年。

GPT-4 目前能做的事仍有限，就像 Siri 若能接入可靠的 GPT 助手才会迎来转折。李广密建议按能力提升绘制应用解锁曲线；另一条常被忽视的主线是成本，过去 18 个月训练成本约降四五倍，推理成本约降十倍。

他认为推理成本再下降数轮、甚至降到原来的百分之一，是可预期的。模型能力往上走、成本持续下降，两者共同决定 AI 原生应用何时大规模爆发；今天可能还要再经历一两代模型。

成本优化主要靠提高 GPU 利用率、改进架构、避免无谓计算和调节精度。大部分是工程问题，也有研究挑战，例如从 32 位浮点转向 16 位甚至 4 位精度，同时不能损害模型表现。

OpenAI 的优化能力很强。李广密解释训练成本由实验和最终大规模训练组成：一年里约四分之三花在小模型实验，四分之一用于大训练。GPT-4 可能用 2.2 万张 A100 训练 100 天，单次大训练成本约八千万美元。

真正昂贵的还包括数百上千次架构和数据实验，以及训练失败后从头再来的成本。约 700 亿参数是难度分界，超过后模型越大越容易训练失败。掌握训练能力后，OpenAI 还能重训 GPT-3.5，显著降低推理成本。

GPT-4 Turbo 可能从头训练，能力更强而成本更低。下一代多模态模型则要把不同模态从头预训练，视频数据所需 GPU 资源可能比文本高一个数量级；参数再翻倍后，下一代算力需求或超过 GPT-4 的十倍。

按训练卡数和时长估算，优化后的 GPT-4 Turbo 可能便宜五倍；下一代模型再增加硬件，综合算力提升或达十六倍。李广密预计 2025 年大型模型训练可能花十到三十亿美元甚至更多，后续 H100、B100 也会带来变化。

张小珺问全球今年投入多少、赌的是什么。李广密粗估 OpenAI 一家公司买卡约三十亿美元，全球可能至少 150 亿；未来三到五年，OpenAI、Google、Anthropic 等投入合计可能达到千亿美元级别。

他认为大模型仍是实验科学，人类尚不理解智能为何涌现。当前唯一明确的能力提升路径是 Scaling Law，但它仍是实验归纳，没有理论保证；没人能准确预测 GPT-4.5 或 GPT-5 的能力，也不知道规模定律何时停止。

这场千亿美元豪赌押注 AI 能否在未来 15 年让全球 GDP 翻倍，甚至提前实现 AGI 并改变地缘政治。张小珺转而问硅谷模型公司是否担心商业出路不明；李广密说它们更像研究实验室，ChatGPT 之外商业模式仍不清晰。

硅谷 VC 大多错过模型投资，可能因为这种高风险、高投入、无商业模式的项目不适合传统基金。李广密估计独立上市难度很大，八九成模型公司最终可能被收购，因此需要依靠巨头。

除非出现按价值收费等全新模式，模型公司收入仍不明确。其他公司也很难复制 OpenAI 的登月投入，因为 GPU、资金和人才不足，只能差异化。李广密举 MiniMax 为例，认为其应用端有特点，仍有机会。

OpenAI 也有短板：ChatGPT 缺少搜索、推荐产品那样的实时数据反馈飞轮，聊天数据质量可能不足以训练模型。它更以 AGI 为导向，而非专注服务用户；更理解需求的公司也可能胜出。

中国基础研究投入偏小，但产品人才很多，应用层仍可能产生有价值的公司。对于国内模型公司，李广密建议提前依靠大型平台，例如阿里云和钉钉提供的云与业务场景，或选择字节、百度、腾讯等巨头合作。

除了抱大腿，创业者还要思考模型原生产品能否像搜索和推荐一样形成数据反馈闭环。若有人先做出来，就可能建立科技投资最珍贵的优势；但互联网时代的网络效应是否能在 AI 范式下重现，仍未知。

比较 AI 与移动互联网，李广密说后者有网络效应、数据飞轮和规模效应，ChatGPT 目前还看不到这些。模型可能更像消费品品牌；隐形竞争力或许是成本：若能力不输而成本极低，就能形成强壁垒。

移动互联网增加了数十亿用户，手机又收集更多行为数据，推动机器学习和推荐。大模型的规模效应也可能表现为每一两代能力跃升、应用解锁，同时训练和推理成本下降，让追随者难以继续追赶。

作为投资人，李广密认为首先要承认大模型是核心赛道，AI 原生应用离不开模型能力；是否能在头部模型上构建 Super App 仍是开放问题。衡量产品可先看流量增长、用户反馈与留存，同时中国创业者开始更重视全球市场。

开源模型的使命不是做最聪明的模型，而是把前沿模型溢出的能力普及出去。许多用户和企业只需要一定水平的能力，且更看重成本；但李广密认为 2024 年开源追到 GPT-4 仍有挑战。

传统产品经理可能带着旧包袱，过度堆叠功能和 UI。要理解模型能做什么，才可能设计好产品；AI 像电一样，会带来灯泡、电机和电动车等不同应用，而应用形态还难以归纳。

他不低估开源与技术扩散，行业一年内也可能快速进步。大模型还能生成小模型：OpenAI 即使优先训练大模型，也有能力做出高质量的小模型，可能覆盖 Mistral 等开源产品的能力区间。

李广密因此觉得投资 Mistral 等开源模型公司需要考虑被前沿模型向下覆盖的风险。开源的另一个重要方向是端侧模型，它能把推理放在设备上，明显改变 AI 公司的成本结构；他期待 Apple 手机的内存提升。

目前成功案例太少，AI 原生产品仍集中于少数头部公司。李广密认为，可能要等一两代模型，才会有更多产品出现；他们年初低估了做到 GPT-4 的难度，也高估了应用爆发速度。

展望长期格局，他认为可能是大模型公司向下覆盖各类产品，也可能是不同交通工具般分层并存。多模态会是下一年核心叙事；Gemini 已能统一理解视频、图像和文字，并从头进行多模态预训练。

OpenAI、Anthropic 和 Character.AI 也会加大多模态投入。短期重点是理解和生成，长期则可能由同一模型接收多种模态并生成多模态输出。视频生成若在扩散模型中增加时间维度，现阶段多为数秒动画，长视频和复杂动作仍需突破。

扩散模型与 Transformer 并非互斥，可以结合训练。Transformer 的优势是容易扩展；当前视频模型可能只有数十亿参数，未来能否像语言模型一样扩大规模将很关键。Midjourney 画得漂亮，但图像是否真正智能仍待探索。

李广密希望多模态能生成逻辑连贯的 PPT 或漫画。统一模型的语言理解与逻辑，可能带来既美观又聪明的图像、视频；但训练真正的多模态模型难度高、需要更多 GPU，来年算力仍会紧缺。

YouTube 视频虽然数量庞大，却不容易直接作为训练数据，因为信息密度低于语言。人类语言积累了数百上千年，是对现实世界的抽象，蕴含丰富知识；视频 tokenizer 如何提取物体变化、忽略背景，则仍有很多技术问题。

单一模态的图像或视频模型是否会长期独立存在，李广密也不确定。视频生成下一年可能像图像生成一样迅速进步，但最终会否被更强的综合模型覆盖、采用扩散还是 Transformer 仍待观察；商业模式可能面向企业或内容平台。

谈到 Agent，李广密说国内概念很热，却没有公认的标杆产品。Agent 大规模发展最依赖底层模型的推理能力：若单步准确率为 90%，连续十步后整体成功率可能只剩 30% 到 50%，可靠性不足。

多步 Agent 还需要足够快的推理速度。李广密认为 Agent 长期很重要，但落地时间取决于模型能力，应用开发者要判断何时进入合适窗口。张小珺追问模型是不是越大越好，他回答在相同数据和 GPU 下，扩大参数通常能提升 reasoning。

他认为只要继续 scale up，模型效果目前确实变好，领先公司尚未触及 Transformer 上限。不过，小模型在一些头部 query 上更具成本优势；需求有层次，从北京去天津无需火箭，从北京飞旧金山则需要更强能力。

李广密认可小模型覆盖常见需求的经济性，但从时间维度看，大模型可能持续生成大、中、小及端侧模型，并逐步覆盖多模态输入输出，最终成为统一入口。他认为头部模型长期可能同时拥有更强能力和更低成本。

对第二梯队公司，李广密建议接入领先模型，再用开源模型改造；Salesforce 投资 Anthropic 就是例子。但尽管许多 SaaS 和数据公司都在试，目前还没看到特别受欢迎的产品。模型迭代可能不会停，2024 年或能看到 GPT-5。

他建议把模型训练视为研发投入，而非单纯资本开支；人类追求智能不会停，除非技术回报显著下降。瓶颈可能来自数据用尽、GPU 集群无法继续扩展，或能源不足以支撑数十万乃至更多 GPU。

从硅谷回来后，李广密觉得当地 VC 也承受压力，最大的竞争者是微软和 OpenAI：AI 可能吞掉许多传统软件业务。高投入、无明确商业模式的公司更像科学发现项目，传统 VC 可能不适配，微软的巨额投入则像国家级计划。

硅谷仍有不少好项目，但估值高，过去半年他没有新增投资。他最欣赏的 AI 投资人是 GitHub 前 CEO Nat Friedman，认为其个人投资和 AI Grant 很早押中 Character.AI、Perplexity 等项目，质量和影响力都超过不少传统机构。

李广密认为 GPU 是新的关键生产资料，类似土地；AI 公司买不起大量 GPU，可能催生新的债务或金融产品。VC 不适合重投基础模型，却可能适合 AI 原生应用。下一波若在 2024 年底爆发，投资机会也会更清晰。

硅谷基金生态比中国更乐观、分散，也更能容忍基本研究投入和失败。展望 2024—2025 年，他认为再训练一两代、到 GPT-5 后，AI 应用可能大爆发，但具体产品方向难预测，技术会创造此前不存在的新需求。

李广密粗略估算，若 AI 替代十亿白领工作，每人年薪三到五万美元，潜在市场达数十万亿美元；AI 若取得其中一成到两成，可能孕育大公司。数据中心能耗占比也可能从全球能源的 2%—3%升到 10%—20%，竞争最终也涉及能源。

张小珺问车企怎样利用大模型。李广密认为自动驾驶是最确定的 AI 落地场景之一，商业模式清晰：若有 AI 司机，每月付几百到一千元，他愿意购买。自动驾驶能提升能源利用效率，甚至可能比 AGI 更快落地。

自动驾驶的安全表现可能已优于人类，但公众担忧安全与合规，成本也仍是问题。李广密认为 Tesla 的路线可能在局部市场于一两年内规模落地；他自己从旧金山乘坐 Tesla FSD 时，接管频率已很低。

车企与模型公司结合也有机会。李广密认为车企做机器人很自然，车内娱乐终端可以先接入更聪明的语音助手；模型的 coding 能力也可能让用户直接描述路线条件，临时生成导航功能，而不必为每个需求单独开发。

汽车空间大、电力足、端侧算力强，适合部署娱乐和生活助理；自动驾驶对实时性要求更高。Apple 与 Tesla 在终端有优势，开源模型也可能在端侧竞争中获益。

张小珺请他分享硅谷趣事。李广密说当地更尊重科学家、重视基础研究和结构性创新，而不是在小功能上内卷。小型 AI 产品也更容易在几个月内做到五百万至一千万美元 ARR，基础设施比过去通畅，AI 竞赛可能比移动互联网更快。

不过，应用生态的长期改造未必很快，可能持续二十年。模型竞赛本身则可能明年见分晓；若届时仍没有几个 DAU 达数千万的 Super App，以及多家年收入五到十亿美元的应用公司，投资人可能会失去信心。

张小珺问明星创业者的共性。李广密认为模型公司至少要有一位天才科学家，CEO 未必是科学家，但持续实验、探索的研究文化在上半场最重要。下半场可能转向商业和应用，什么样的产品经理能胜出还看不清。

美国一些产品的体验几乎由模型决定：Character.AI 表面是应用，核心团队却在构建模型。许多团队尝试模仿，只有少数拥有自研模型的产品表现突出。李广密认为中国团队可能更擅长在模型之上定义产品和场景，走出另一条路线。

应用不一定非要自研基础模型，正如 iPhone 有摄像头，抖音仍能做出更好的拍摄体验；手机也替代不了打车服务，行业 know-how 仍创造机会。垂直基础模型未必存在，因为单个行业可能没有足够 token 满足 Scaling Law。

他列出今年三种噪音：低估复刻 GPT-4 的难度；把 ChatGPT 和 Character.AI 当成唯一正确的应用形态；以及关于未来的想象太多、事实太少。这两家首先是模型公司，真正重要的应用形态可能还没被找到。

谈到 OpenAI 董事会罢免 Sam Altman 后又让其回归，李广密说员工跟随 Sam 也与股票激励和微软合作有关。微软 CTO Kevin Scott 也押上职业声誉支持他。Sam 被罢免的具体原因仍未解释，外界只能猜测。

李广密认为通用模型可能成为深入各行各业的推理引擎，类似 Google 搜索从网页扩展到电商、旅游等领域。中国搜索和本地服务则较分散，因而可能出现许多垂直解决方案公司，但未必出现同样多的垂直基础模型。

尽管风波剧烈，OpenAI 当时没有明显人才流失，团队甚至称更加团结，AGI 研发只停顿了几天。李广密希望 Ilya Sutskever 留下，认为他是重要科学家；若失去他，对 OpenAI 会是重大损失。

面对相信大模型与相信垂直模型的分歧，他说自己接触研究者较多，他们亲自做实验、彼此影响，因此更信任科学家和一线公司的行动。短期噪音很多，也不能排除失败：数据、算力或 Scaling Law 都可能遇到瓶颈。

他觉得 Sam Altman 与 Jobs、Musk 不同，更像硅谷的人脉型政客：与行业人士和国会议员都能交好。张小珺问这是否源于他曾领导 Y Combinator，李广密说 YC 一直是硅谷创新的重要节点。

李广密最想知道，大模型原生产品如何形成类似搜索和推荐的数据飞轮，甚至网络效应。这需要一位兼具多种能力的产品天才，把新计算机及其生态设计好；这也是行业最期待的答案之一。

若 Transformer 扩展到几十万亿参数仍不再提升，路线可能撞上天花板；但目前领先者还未触及上限，也没有更有效的替代架构。李广密认为在此之前应积极拥抱这条最可能通向 AGI 的路径。

他还不确定 Transformer 是否等同 AGI。它是最接近 AGI 的技术路线，但本质仍是预测下一个 token 的统计模型，可能存在瓶颈；只有继续走下去，才能知道答案。

张小珺问他今年是否怀疑过自己的判断。李广密说技术变化太快，团队每周读论文，持续学习很有压力；但看到硅谷公司和顶尖科学家坚定前进，他也从中感受到希望。

他好奇 AGI 是否会推动不同语言和文化融合：如果翻译与同声传译随手可用，中国人是否能与使用印度方言的人相爱？AI 也可能催生新的随身终端，实时采集情境、生成会议记录，并成为 ChatGPT 的分发渠道。

李广密还期待中国 AI 创业团队做好全球化，解决文化理解、本地团队信任与磨合、合规和数据隐私等问题。他希望未来三到五年出现更多大规模的中国全球化公司。

张小珺笑说本来只让他回答一个问题，他却回答了四个。李广密说未来开放问题太多，模糊之处本身也值得继续思考。节目最后邀请听众订阅，并在评论区留下想听的嘉宾、内容和话题。