广密谈 2024 年 AI 基础设施：算力、能源与产品

张小珺与拾象 CEO 广密回顾 2024 年第一季度的大模型行业，讨论算力、能源、模型、产品和创业。所有预测与估算均反映当时观点。

两人先盘点当时的模型发布与行业竞争，注意到不同公司的能力、产品和开放策略仍在快速变化。

关于开放与封闭模型，嘉宾认为不同发布方式会影响开发者生态和竞争。他没有把开放与否简化为模型质量的唯一指标。

他把 AGI 研发比作马拉松，强调单次发布只是长期研发与工程过程的一部分。AGI 的定义与实现时间仍有争议。

他认为当时硬件、计算和能源供应成为影响研发节奏的重要限制，但这些限制并不能单独决定何时实现任何特定能力。

两人讨论 Inflection 的变化，将其作为创业公司、模型训练成本与大公司资源关系的案例。具体商业结果要按公司后续公开信息理解。

话题转向英伟达及黄仁勋，包括主权 AI、管理方式与芯片生态。嘉宾的评价是个人观察，不代表公司内部事实的完整描述。

他用渐进式解锁描述模型能力可能逐步进入产品，而不是所有能力在同一天突然普及。实际采用速度取决于质量、成本和用户需求。

他最关注的软件生产和信息检索：模型可能改变编写、查找和整理信息的方式，但是否颠覆某家公司仍需看产品和市场。

主持人问现有问答工具能否满足实际需求。两人区分令人印象深刻的演示与在具体工作中持续可靠的体验。

广密用“能源加芯片产出智能”概括基础设施的重要性。他讨论的是一种经济和工程比喻，算力本身不会自动保证有用智能。

他对芯片企业的增长提出乐观判断和预测。公司估值、出货量和排名会变化，访谈不能当作当前市场数据或投资建议。

他把模型研发与产品落地比作山的两侧：基础能力、可靠服务、用户体验和商业化需要不同工作。

模型研究人员和产品团队的技能与评价方式可能不同，组织需要让他们合作，也要理解两种工作的不同节奏。

他讨论计算和能源成本对经济活动的影响，使用“税”等比喻说明资源约束。具体成本和收益需要按实际用途衡量。

两人把当时称为基础设施建设期，并讨论数据中心、芯片、供电和资金。基础设施能支持应用探索，但不会确保某一应用成功。

主持人问训练大型模型需要多少计算和能源。嘉宾介绍估算思路，包括参数、数据量、硬件吞吐、利用率和训练时间。

由于商业模型的具体配置和训练过程未完全公开，访谈中的参数量、成本和资源数字应视为当时推测，不是已核实的内部账目。

嘉宾讨论芯片、云平台、广告和终端公司可能受到的影响。他提出增长预期，但没有证据保证这些预测会实现。

基础设施投入可能持续多年，同时具体瓶颈可能从芯片、网络转向电力、数据中心建设或其他环节，取决于地区与时间。

对于泡沫，他认为短期估值过热与长期科学价值可能并存。这是嘉宾对风险的看法，不意味着任何投资都安全。

两人比较不同地区的研究和产业环境。嘉宾的判断反映当时视角，不能概括所有研究团队或国家。

他预测大型训练集群和资金规模会继续增长，并认为竞争可能淘汰部分公司。具体集群和成本数字是当时的估计。

他讨论芯片供应、产能和企业间合作：训练所需资源不只是购买加速器，还包括网络、机房、供电和软件。

公司之间既可能合作也可能竞争。嘉宾用当时的公司关系说明产业链的复杂性，相关关系可能随时间变化。

两人再看模型训练计算量的估计公式。他用参数规模、训练 token 和硬件利用率进行近似计算，结果高度依赖输入假设。

对于 GPT-4 等未公开的训练细节，访谈数字并非官方披露；不能用这些数字推导出确定的成本或能耗。

主持人问接下来应该看哪些技术和产品路标。嘉宾关注模型质量、多模态能力和检索产品，以及它们能否满足真实需求。

他讨论扩展模型规模与效率改进的关系。规模定律是对特定训练条件下观察趋势的描述，不能保证无限扩展必然实现 AGI。

不同模型在质量、速度和价格之间有取舍。具体价格和可用产品会变化，因此访谈比较只适用于当时的语境。

他预计硬件和算法可能改善训练与推理效率，但承认工程、资源和需求增长也会影响最终成本。

两人讨论从模型能力到应用落地需要什么：产品要具备可靠性、合适的交互和明确的用户价值，而不只是基准成绩。

嘉宾把模型视为新的平台层，并讨论平台与应用之间的价值分配。长期竞争格局仍不确定。

谈到 OpenAI 和微软，他推测企业客户关系、模型能力与消费产品可能形成不同优势。这是对当时商业竞争的个人判断。

他对搜索、订阅收入和用户规模作出设想。这些数字是情景分析，并不是已实现的收入或用户数据。

讨论芯片联盟和潜在出资方时，他认为价格、供应和融资会影响参与者选择。具体政策与市场条件会变化。

他也讨论苹果的设备战略以及将模型部署在终端上的难题：内存、功耗和模型能力需要权衡。

主持人问硅谷风险投资关注哪些方向。嘉宾提到编程、智能体和机器人，并提醒这些领域可能面临估值和竞争风险。

他担心基础模型公司可能进入应用层，使初创公司需要寻找数据、工作流或产品体验上的差异化。这是竞争情景，而非既定结局。

自动驾驶和机器人把模型能力带到物理环境，但真实世界需要感知、控制、硬件、安全和部署验证，不能从语言能力直接推断。

他推测未来可能出现共同处理视觉、语言和机器人任务的模型。多模态统一是研究设想，具体系统能力仍需实证。

谈到机器人创业，他认为团队、融资和研发执行都重要，同时承认很难提前判断哪家公司能长期成功。

两人问人类为什么追求机器智能。嘉宾从科学好奇、生产力和长期社会影响等角度思考，没有给出唯一答案。

最后两人谈科技领袖和公司在产业链中的不同位置。个人评价和市场地位的比较是当时观点，会随技术与市场变化。

他用芯片与模型的成本比喻结束讨论，认为基础设施和智能服务都可能成为重要经济层。其具体市场与估值判断仍需独立检验。