30 秒看懂
张小珺与谢赛宁回顾他的学术经历和视觉研究,讨论表征、自监督学习、预测与规划,并谈到与 Yann LeCun 创办 AMI Labs 的设想。研究判断和未来应用均作为嘉宾观点呈现。
- 1表征是核心线索谢赛宁从视觉研究出发,讨论模型如何形成有用的内部表示。
- 2预测服务决策他以控制理论说明状态、动作和预测如何支持规划。
- 3视觉模拟与世界理解他区分生成可见画面与形成可用于推理的世界模型。
- 4研究与商业的平衡AMI Labs 希望探索基础研究,同时发展可持续的商业模式。
- 5重新衡量智能动物和机器人例子提醒他,熟悉的符号任务不是衡量智能的唯一方式。
要点建议
- 有用表征应保留支持具体任务和决策的信息。
- 生成逼真的视频与可靠地理解和预测世界并不相同。
- 世界模型的数据、训练方法和应用仍有重要未解问题。
- AMI Labs 希望平衡长期研究、合作与商业可持续性。
- 动物行为和日常生活启发了嘉宾对智能的理解。
按章节阅读整理后的全文
普通人与成长
张小珺在纽约采访谢赛宁,讨论他的成长、视觉研究和世界模型。访谈录制于 2026 年初,嘉宾后来与杨立昆共同创立 AMI Labs;有关技术和商业前景的判断均有时间背景。
张小珺在纽约采访谢赛宁,讨论他的成长、视觉研究和世界模型。访谈录制于 2026 年初,嘉宾后来与杨立昆共同创立 AMI Labs;有关技术和商业前景的判断均有时间背景。
两人从纽约的街区聊起。谢赛宁说,他喜欢这座城市的生活与艺术氛围,NYU 的 AI 研究、杨立昆和电影传统也吸引了他。
这是他第一次参加播客式访谈。他说自己喜欢听播客,也喜欢和朋友、学生交流,但过去常担心不知道哪些话值得公开说。
回忆童年,他说母亲经常带他旅行,父亲喜欢读书,家里有很多书。外出看世界与在家阅读形成了两种不同的成长体验。
他九岁左右有了第一台电脑,先用它玩游戏,后来接触互联网。论坛和博客让他不只是阅读,也能向别人表达自己的想法。
他回忆早期社交平台上的文章,现在回头看可能觉得稚嫩,但仍愿意保留它们,作为个人与互联网记忆的一部分。
家中没有人从事纯理工研究。他认为相对轻松的家庭环境帮助自己形成开放地看待世界的习惯,这是他对自身成长的解释。
谈到学业,他不把自己描述为一路按照最优绩路线前进的人。与一些竞赛和学术履历极其突出的同伴比较,他认为自己的选择包含偶然性。
高中时期,他凭竞赛经历获得提前进入上海交通大学的机会。老师希望他继续冲刺高考,他则喜欢上海,也想学习计算机。
进入 ACM 班还需要参加选拔。他说,如果重新选择仍会去,并记得入学前的暑假有时间在宿舍玩游戏。
他并不否认自己得到的机会,也感谢学校和校友网络。对他来说,衡量一条路径是否顺利,很大程度取决于与谁比较。
他回忆 ACM 班面试中被问到喜欢的书,提到《什么是数学》和作者 Richard Courant。多年后他来到 NYU 的柯朗研究所,觉得这个巧合有意思。
本科早期,他在研究神经科学与 AI 的实验室接触有关大脑、意识和图像的书,也认识了学长侯晓迪。
他佩服侯晓迪早期发表计算机视觉论文,并向对方请教研究方向和如何完成论文。那个时代本科生获得顶会成果在他看来很少见。
这些书和交流帮助他确认对视觉研究的兴趣。当时图像处理、机器学习和计算机视觉之间的边界仍在变化。
ACM 班安排学生实习,常见选择是微软亚洲研究院。但他当时没有找到愿意接收本科生的视觉团队,不愿因此改做完全不同的方向。
他主动联系新加坡国立大学颜水成的实验室,获得实习机会后才向老师说明。老师最终同意,他也为后来的学生打开了另一种选择。
他解释视觉为何吸引自己:看电影、玩游戏和观察世界都依赖视觉经验。这个个人动机后来与他对感知和智能的研究兴趣连接起来。
他谈到生物视觉演化与寒武纪生命多样化之间的一种假说,把它作为理解感知重要性的例子;这不是对演化原因的定论。
他认为视觉不只是一个孤立感官问题,还与生物如何理解环境有关。这个观点贯穿了他之后对表征学习和世界模型的讨论。
谢赛宁说,每个人到达研究问题的路径都受经历、阅读和交流影响。他鼓励学生把自己视为可能带来独特贡献的变量。
在新加坡,他与冯佳时等人合作,完成了自己的第一篇相关论文。他说,从头到尾做一次研究并写成论文,让他第一次理解研究过程。
这段经历恰逢 AlexNet 和深度学习受到广泛关注。他把它视为自己研究生涯和领域变化同时发生的起点。
他把好奇心和与领域中优秀研究者交流的愿望视为继续深造的动力,随后决定申请海外博士项目。
比较交大 ACM 班与清华姚班时,他提醒自己没有亲历后者。他回忆前者有鼓励通识和公开表达的课程,学生可以讲与专业课无关的话题。
他不惧竞争,但不喜欢过度竞争,并认为评价标准应该多元。他更重视主动追随兴趣,而不是只追求某一个排名。
视觉研究与学术经历
申请博士时,他没有马上拿到想要的视觉研究机会,曾考虑其他方向。后来他主动给屠卓文教授写信,在最后时刻得到回应。
申请博士时,他没有马上拿到想要的视觉研究机会,曾考虑其他方向。后来他主动给屠卓文教授写信,在最后时刻得到回应。
由于时差,两人在凌晨通电话。他解释自己的经历和为什么想合作,随后获得加入屠卓文团队的机会。
入学前导师决定离开 UCLA,去向当时尚未确定。谢赛宁选择等待并跟随导师,而不是单纯按学校排名作决定。
导师后来去了加州大学圣地亚哥分校。谢赛宁说,对他更重要的是和谁一起研究、是否能做自己关心的问题。
他回忆导师在博士期间的指导,包括坐在显示器旁逐行讨论代码。这种近距离教学与先前短期实习的体验不同。
他也敬佩前一代研究者在缺少成熟工具和开源库时搭建系统的工作,认为他们为后来者打开了道路。
他不接受“此前平凡、突然成名”的简单故事。对他来说,研究更像长期建设,目标是持续把问题想清楚。
博士早期,他与合作者研究 Deeply Supervised Nets。当时深度学习迅速发展,但一些视觉研究者仍更信任传统方法。
深度监督在网络中间层加入训练信号,让梯度不只从最末端传播。他说,这帮助处理训练深层网络时的部分困难。
后来的 Holistically-Nested Edge Detection 将多层信息用于像素级边缘检测。不同层捕捉不同尺度的信息,融合这些信息有助于生成边缘结果。
他从这项工作认识到,即使神经网络被称为黑盒,中间层也可以被分析和连接到新任务。这改变了他对网络结构的理解。
该论文获得 Marr Prize 的荣誉提名。他回忆站上领奖台时的兴奋,也提醒论文评审和奖项包含运气,不能简单等同于长期价值。
导师允许他探索不同方向,他在博士期间做了五次实习。他想看看不同组织研究什么,也想检验自己是否错过了其他有趣问题。
他回忆每年带着行李从南加州开车去湾区实习,回来再找住处。不同团队的经历让他接触不同的研究文化。
并非每段实习都有成果。他说有些项目没有做好,一度让他沮丧,但也教会他一次不成功不是职业生涯的终点。
在 Meta 实习后期,何恺明加入 FAIR,两人开始合作。谢赛宁既向他学习研究,也在生活上帮助他适应新环境。
与何恺明等研究者的相遇
两人参加 ImageNet 挑战,在一个月左右探索并形成 ResNeXt 工作。谢赛宁称赞何恺明把普通想法发展为清晰研究方向的能力。
两人参加 ImageNet 挑战,在一个月左右探索并形成 ResNeXt 工作。谢赛宁称赞何恺明把普通想法发展为清晰研究方向的能力。
他解释 ResNeXt 使用多个并行组来改变网络结构,并在相近计算预算下研究可扩展性。他把它与后来的混合专家思路作类比;两者的路由机制并不相同。
这项合作让他认识到研究进展不总是线性的:长时间探索未见成果之后,新的组合可能突然让问题清晰起来。
何恺明建议学生去不同地方看看。谢赛宁后来在 Google 接触视频研究,又到伦敦的 DeepMind 探索强化学习和具身任务。
他回忆伦敦实习并不轻松,也发现自己未必喜欢当时的强化学习问题。但观察 DeepMind 的组织方式给了他新的启发。
他描述探索性小团队与更有组织的执行如何结合:早期想法可以自下而上出现,成熟后可能需要跨团队协调和明确执行。
他回忆 Demis Hassabis 对研究机构长期影响的雄心,并看到 AlphaFold 团队逐渐从探索发展为有组织的项目。
这些分散经历最终由表征学习串联起来。他把表征比作树根,不同视觉、视频和具身任务则像从同一根系长出的枝条。
他给出表征学习的一个定义:学习把原始数据映射到具有有用性质的空间,使下游任务更容易完成。这个映射可以是多层、非线性的。
表征、自监督与视觉模型
他选择用“表征学习”描述自己的方向,因为具体技术热点会变化,而如何形成有用表征是更持久的问题。
他选择用“表征学习”描述自己的方向,因为具体技术热点会变化,而如何形成有用表征是更持久的问题。
他回忆早期论文曾因公式笔误等原因遭拒,后来在另一会议发表并多年后获得时间检验奖。这个经历让他更加重视长期影响而非单次结果。
他认为一次论文结果只是时间轴上的一个点,研究者的贡献需要更长时间积累。这是他对职业选择的个人比喻。
毕业前,他考虑不同实验室。尽管其他机构提供机会,他更想去 FAIR,与熟悉的视觉研究者继续工作。
他回忆拒绝 OpenAI 的工作邀请和与 Ilya Sutskever 的电话。这个决定反映了他当时对研究环境与方向的偏好。
FAIR 的面试也不完全按计划进行:他提前讲完报告,研究人员通过提问把讨论继续下去。他认为这些小插曲不必掩盖长期目标。
多年后 Sutskever 又与他交流。谢赛宁说,不同团队研究大语言模型和其他方向不必被看作互相否定,可以各自推动问题。
他认为可靠性、安全和可控性是技术问题,也把这些问题与后续世界模型研究联系起来。访谈中的方法是研究设想,尚需验证。
他珍视通过研究建立的信任:理解一篇工作、获得启发,可以让研究者之间建立联系,即使他们并不经常共同生活或工作。
他不太喜欢把研究目标只表述为个人“影响力”,更重视别人能理解工作并在此基础上继续探索。
谈到研究传播,他说可以解释和讨论工作,但不希望只围绕实验室负责人宣传。他希望真正执行研究的学生获得应有的可见度。
他介绍 NYU 的数据科学环境,认为 AI 可以连接计算机科学、数学、统计和其他学科。杨立昆较早推动跨学科组织,是他欣赏的一点。
谢赛宁讲述李飞飞对他的支持,包括分享自身经历和帮助他面对研究中的困境。部分私人交流他选择不公开。
他认为李飞飞的重要贡献不仅是建设 ImageNet 数据集,也包括把值得研究的问题定义清楚。这是他对其研究领导力的评价。
他解释自己如何与知名研究者建立合作:共同问题和相互理解比刻意寻找关系更重要。合作通常是围绕具体研究展开的。
回到技术,他说研究模型时要同时考虑架构、数据和目标函数。只有网络结构而没有合适数据和训练目标,就像发动机没有燃料。
他回忆何恺明对扩大数据和模型规模的早期兴趣,以及视觉领域对自监督学习的探索。规模能带来收益,但结果仍取决于方法与任务。
自监督学习不要求每个训练样本都有人手工给出目标标签,而是利用数据本身构造学习信号。不同方法构造信号的方式不同。
他讨论分类标签的局限:模型可能利用背景等偶然相关性,而不是真正学习目标对象的结构。评估方式会影响这些问题能否被发现。
早期视觉自监督研究尝试旋转预测、遮挡重建等代理任务。研究者希望通过这些任务学习可迁移的表征,而不是只记住特定标签。
他回忆早期许多方法与监督式 ImageNet 预训练仍有差距。取得可用结果需要不断比较基准和改进训练。
对比学习试图让相关视图的表征更接近、不同样本的表征更可区分。样本选择与训练设计决定实际效果。
他谈到何恺明的专注力,并将好研究者的能力概括为注意力、研究品味、坚持和工程能力的结合。
一个研究方向可以来自阅读和与同伴、导师的讨论,但他不认为好的具体想法一定能靠坐着空想得到。实验会提供新的输入。
他建议先建立一个清楚的问题和基线,再复现或扩展已有工作。结果无论好坏,都可能指出下一步该往哪里探索。
他把意外发现称为研究中的重要信号。最有价值的想法可能出现在尝试过程中,而不是最初写下的计划里。
他认为完全没有困难、从头到尾没有改变的问题,可能缺乏探索价值。这是他对研究过程的偏好,并非评价所有项目的客观法则。
他强调必要时转向:走过曲折路径后,研究者可以回头把关键决策连接起来,但在开始时无法预知每一步。
定义问题本身也是创造性工作。他再次以李飞飞为例,认为提出正确问题可能比在既定指标上做小幅优化更重要。
他认为研究成果分布不均,少数代表作可能改变一个领域的方向。论文数量和平均表现不能完整说明一项工作的长期影响。
他用棋手与发明家的比喻区分减少每一步错误和探索长期突破。这是激励研究者的比喻,不意味着失败没有成本或所有突破只靠一次成功。
他担心学术界只追赶资源更丰富的机构刚发布的结果,而没有空间提出自己的问题。复现有价值,但他希望研究者也寻找新的方向。
他明确说自己的经验不代表研究的全部多样性。讨论哪些论文改变领域时,他也把自己的评价视为主观判断。
谈及大语言模型,他认为它们会继续有用,但不一定构成通用智能的完整基础。这是他的研究立场,其他研究者可能有不同看法。
他回顾 MoCo 等视觉对比学习工作,讲述团队如何逐步扩大训练并改进表征。对工作贡献的叙述是他的回忆。
Masked Autoencoders 则通过遮挡图像的一部分并重建内容来学习表征。它与对比学习使用不同的训练目标,却也能得到有用结果。
他提到把自监督学习扩展到三维等领域,并认为这些论文是探索过程的一部分,而不是问题已经被完全解决的证明。
算力和工程基础设施始终限制实验。团队曾搭建 TPU 训练系统,使后续多项工作能够在可靠基线上迭代。
他强调基线质量:如果基线薄弱,新方法看似领先可能只是因为比较不公平。先把系统和对照做好,才能更有信心解释增益。
团队用表格跟踪实验,决定记录哪些指标、哪些变化和哪些结果。表格本身并不神奇,关键在于能否从结果得到清楚的信号。
他认为负结果也能提供方向:若某个变化让结果变差,研究者可以分析原因并设计反向或替代实验,而不是只记录成功。
他也谈到何恺明工作之外的兴趣和两人一起玩游戏的经历,提醒听众研究者并不只是论文和实验的集合。
张小珺问什么是研究品味。谢赛宁说,这个难以定义的概念包含如何判断问题、设计实验、表达工作和识别真正重要的东西。
研究品味与实验方法
他借哲学语言说明,阅读论文时不应只看表面包装,还要追问背后的实质贡献。他把这当作个人理解,而不是哲学定论。
他借哲学语言说明,阅读论文时不应只看表面包装,还要追问背后的实质贡献。他把这当作个人理解,而不是哲学定论。
他重视尽早写作:组织文字可以暴露论证缺口,迫使研究者思考读者真正需要知道什么。
团队也关注论文排版、图表和网页。他认为表达不是研究的替代品,但清晰呈现可以让工作更容易被他人理解和使用。
他将研究与电影创作作比:两者都需要找到主题、探索路径,再决定如何把经历呈现给观众。
除了最后结果,他希望论文解释为什么作出关键决定。读者了解决策过程后,可能把经验用于不同的问题。
他认为选择自己的研究偏好并不容易,因为跟随众人可能更安全。但在不确定领域中,个人判断也需要经受实验检验。
他提出质疑共识的重要性:从一个广泛接受的解释出发,可以设计对照,检查哪些组成部分真的带来收益。
在 ConvNeXt 工作中,团队研究卷积网络和视觉 Transformer 的设计差异。他说结果促使他们重新审视人们对自注意力作用的假设。
这一结论来自特定实验,不意味着注意力在所有任务中都不重要。更普遍的方法是控制变量并检查设计决策。
他回忆某些自上而下的研究对齐会议难以确定未来项目。对于探索性工作,他更偏好由问题、实验和反馈逐渐形成方向。
团队开始研究扩散模型学到的表征,并将其与监督和自监督模型比较。最初的探索没有立即给出一个决定性的答案。
随后他们发现,用 Transformer 作为扩散模型的重要组成部分可以得到简洁、可扩展的设计。Diffusion Transformer(DiT)由此形成。
他把简单性和可扩展性视为研究品味的一部分:在同等目标下,更清楚、更易检验的方案可能更有价值。
DiT 最初受到审稿质疑,部分原因是结构看起来不够复杂。他说论文是否在一次投稿中获接受,不应成为研究价值的唯一标准。
项目横跨他从 FAIR 到 NYU 的工作转换。他回顾论文署名、合作和不同组织的决定,强调这是个人经历。
他谈到后来视频生成工作对 DiT 思路的采用,认为重要的不只是某个架构,而是团队能否愿意投入资源,把可能性推进为系统。
他用“反脆弱”描述研究系统:面对拒稿或意外结果,团队可以学习并改进,而不只把冲击当作损失。
接着他介绍 Cambrian 系列工作,关注多模态系统中的视觉编码器和表征。他希望通过系统比较确定哪些设计真正重要。
他提到对常用视觉编码器的质疑:一个广泛采用的组件不一定适合所有视觉任务,替代方案应通过实验评估。
NYU 团队面临算力和基础设施限制。学生与合作者需要在有限资源下建立系统、调试并选择值得做的实验。
他讨论美国高校研究经费和算力成本的压力。这是他对自身环境的观察,具体资助水平因项目、机构和时间而异。
他把争取资源比作创业的一部分:需要联系合作者、解释研究价值,并在约束下决定如何分配资源。
Cambrian-S 将注意力扩展到视频和持续事件。谢赛宁认为视觉理解不应只针对单张图片,还要考虑时间中的变化。
他借电影长镜头说明,人通常连续地观察并参与环境。视频中的关系和事件不能完全由逐帧静态描述替代。
他提出从文本间接知识、图像问答到流式事件认知的能力层级。这个框架是研究者的组织方式,不是普遍接受的标准。
团队希望用问题框架帮助定义视觉研究的北极星,但他承认没有找到最终答案。问题仍然开放。
他把视觉看作理解连续、高维、有噪声信号的一种视角,而不只是一组固定任务。环境中许多对象和变化需要同时处理。
他回顾视觉任务从数字识别到更复杂的图像问答。语言让人更容易表达问题,但也可能掩盖模型视觉表征的缺陷。
他担心过度依赖语言模型会像使用拐杖,降低研究者改善视觉能力的动力。这是对研究方向的批评,不是证明语言对视觉没有帮助。
机器人是连续物理环境的例子,但他认为研究不应被硬件形式限制。他希望研究可用于多种场景的感知和预测基础。
他讨论语言模型和视觉模型的规模化差异,指出互联网文本已被人类长期整理成适合传播的形式,而原始视觉数据的结构和利用方式不同。
他认为语言能够压缩和传递信息,也会省略许多物理细节。例如一句“杯子摔碎了”不必描述碎裂过程中的每个变化。
他提到 Moravec 悖论:对人容易的感知和动作未必容易自动化,而一些人类认为困难的符号任务可能更适合机器。
他回忆学术研究对产业模型改进的启发,也担忧商业保密可能削弱公开交流和贡献归因。这是他对研究生态的观察。
他介绍将更强的表征用于生成模型的研究。核心问题是如何让生成系统利用有意义的内部状态,而不是只追求表面的像素结果。
他认为高维空间在机器学习中可能提供有用结构,但维度越高并不自动保证更好;训练、数据和评估仍然重要。
他的长期设想是把表征作为世界模型的重要基础,再根据任务解码为语言、视频或动作。这是研究目标,具体实现和效果仍待证明。
他担心语言模型的商业价值链会把学术资源过度吸引到一种方向。他强调自己希望保留其他研究路径,而非否认语言模型的价值。
什么是世界模型
谢赛宁从一个基本形式解释世界模型:系统有当前状态,接收动作或干预,再预测可能出现的后续状态。这个定义并不要求所有模型都只做时间预测。
谢赛宁从一个基本形式解释世界模型:系统有当前状态,接收动作或干预,再预测可能出现的后续状态。这个定义并不要求所有模型都只做时间预测。
预测的意义在于支持决策:如果能预见把手伸进火里会受伤,就能选择避免。控制理论长期研究如何利用模型预测动作结果。
他用模型预测控制说明规划:比较候选动作序列,选择代价较低的序列,执行第一步,然后利用新状态再次规划。
在基于模型的强化学习中,预测模型也可以帮助策略通过模拟获得经验。他提到 Richard Sutton 的 Dyna 工作,说明模型与学习可以结合。
什么算状态取决于问题。一个有用的状态需要保留足以支持预测和行动的信息,而不是记录环境中的每个细节。
例如,判断话筒能否放在桌上,需要知道支撑关系,但不一定需要桌面的每处纹理和光照。表征因此与任务相关。
他用流体力学作类比:研究者不必逐个模拟所有分子,宏观变量和方程可以在合适尺度上描述有用的规律。
他借 Sutton 的“苦涩教训”讨论人工设计的限制:搜索与学习可能找到人类没有预先写出的结构。他认为语言本身也是一种有用但有限的结构。
安全和可控性同样涉及预测后果。他以拿刀为例:一个系统不仅需要遵守文本规则,还应理解动作可能带来的危险。
主持人问不同团队所说的世界模型有何区别。他区分能生成可控制视频的世界模拟器,与学习抽象状态、支持理解和规划的模型。
生成式模拟器可以呈现一致的环境,但视觉效果、长时记忆和精确的空间一致性并非同一个问题。他认为这些能力不能仅凭漂亮画面得到保证。
他期待世界模型与联想记忆、推理和规划结合,首先改善对物理世界的理解,也可能帮助游戏或其他数字智能体。
数据、感知与潜在应用
他质疑把视频逐帧转换成 token 再交给语言模型是否足以获得直接的视觉认知;这是他的研究判断,而非已经解决的定论。
他质疑把视频逐帧转换成 token 再交给语言模型是否足以获得直接的视觉认知;这是他的研究判断,而非已经解决的定论。
语言通常服务于人与人的交流,因此携带目的并选择性表达。他把语言模型比作搜索与符号推理工具,认为它们难以独自涵盖全部经验。
他讨论视频生成条件模型:从文字条件生成画面,需要学习哪些视觉现象可能出现,但这不意味着生成结果已经具备可靠的世界理解。
像素也是面向人的接口。他希望研究不仅优化可见画面,也关注机器内部能否形成适合预测与决策的抽象表示。
在他的表述中,世界模型是研究目标而非唯一算法。更好的表征可能帮助语言、多模态理解和视频生成;他把 RAE 看作早期探索之一。
谈到规模定律,他认为语言中的知识记忆与高带宽感知数据的压缩有不同要求,数据、参数和任务之间的关系不能简单照搬。
他用人类感官输入与有限注意力作对比:大量感知信息并不会全部进入有意识的描述,但其中一些信息仍能指导行动。
他对视觉世界模型有信心,但承认路线未必成功:需要多少数据、什么数据以及如何有效训练仍是不确定问题。
他建议先研究互联网视频,同时指出数据获取会涉及权利、合作和社会选择;数据量大并不自动解决使用授权问题。
他设想可穿戴设备持续记录身体与环境信息,并帮助用户回顾生活中的关联,例如咖啡时间与睡眠。这是应用设想,不是经验证的健康建议。
这样的设备仍面临功耗、硬件、数据处理和隐私等现实问题;访谈中的理想化持续感知不等于现成产品。
机器人是他看好的另一个下游场景,但他承认能可靠照顾老人的通用机器人距离现实仍很远。
他把表征学习、世界模型和 AI 的发展看作连续演进,也担心“世界模型”变成范围过宽的流行标签。
与杨立昆创办 AMI Labs
访谈转向创办 AMI Labs。谢赛宁回忆,一些朋友和导师鼓励他寻找能支持长期研究的环境,后来与 Yann LeCun 讨论了共同方向。
访谈转向创办 AMI Labs。谢赛宁回忆,一些朋友和导师鼓励他寻找能支持长期研究的环境,后来与 Yann LeCun 讨论了共同方向。
他希望探索具有研究深度、又有足够资源的问题,并认为学术界和大公司都受到不同约束。这里是他对职业选择的个人解释。
他批评对公开榜单和短期产品指标的竞争可能影响资源分配,使研究者较难选择尚未形成标准评测的问题。
他认为定义重要问题需要时间,也需要接受探索没有立即产出。他希望团队能够自己提出问题,而不只是执行既定路线。
LeCun 向他描述的公司既不是纯非营利研究所,也需要商业模式。谢赛宁强调这是他对谈话的理解,不一定是逐字引述。
他借其他创业者的建议强调产品应从真实生活需求出发:研究世界模型既需要技术,也需要理解人们希望解决什么问题。
他把“世界需要世界模型”和“世界模型需要世界”并列:后者意味着需要问题、数据和与外部伙伴的合作。
团队希望兼顾基础研究和应用落地。谢赛宁称路线图仍需大量研究,同时也要寻找能让研究持续的商业平衡。
他希望年轻研究者获得可见度和成长机会,而不是在大型组织里成为容易被替换的零件;他也承认个人自我意识过强会影响合作。
招聘方面,他倾向寻找有能力、有好声誉但未必已经广为人知的人。他认为学生在完整项目中表现出的成熟度和研究品味值得重视。
他用“反向的 OpenAI”描述一种设想:从产业伙伴的实际问题出发,合作建立模型,再让模型创造价值并产生进一步的数据。
这个数据与价值循环仍是商业和研究设想,所需数据类别、数量及合作方式都需要之后确定。
他用支付网络的历史叙事解释开放合作的吸引力:多个参与者共同建设生态,可以减少对单一中心的依赖。
他谈到年轻创业者直接走进工厂解决问题,认为不同年龄和经历的团队都可能找到机会,关键是与真实场景接触。
谢赛宁形容 LeCun 在困难面前能让团队保持平静。他也说 LeCun 愿意根据事实改变看法,并非外界想象中完全固执。
他推荐阅读 LeCun 关于自主机器智能的立场论文,认为其中的架构和目标比外界对其观点的简单概括更具体、更有层次。
他转述 LeCun 的管理比喻:信任团队成员各自工作,遇到偏航时再共同调整方向,就像驾驶帆船。
从研究合作转向共同创业,让他能够把不同背景的朋友和学生聚集在同一个目标下。他希望团队保持使命感,同时认真考虑商业模式。
他认为充足融资能暂时减轻压力,但创业资金仍然宝贵,团队需要谨慎安排资源;研究突破和业务能否兑现才是长期考验。
硅谷、融资与创业
谈到没有选择硅谷作为唯一中心,他认为当地围绕大语言模型的集中竞争会影响研究氛围。这个判断反映他的个人经历和偏好。
谈到没有选择硅谷作为唯一中心,他认为当地围绕大语言模型的集中竞争会影响研究氛围。这个判断反映他的个人经历和偏好。
他分享 LeCun 在摄影、天文和爵士乐方面的兴趣,认为研究者的生活与审美也会影响他们提出问题的方式。
他提及塔可夫斯基的《飞向太空》,讨论记忆、潜意识与生成图像的联想,同时指出电影关心的也是人自身的痛苦。
主持人问知名创始人和大额融资是否意味着创业“含着金汤匙”。他承认 LeCun 的声望使融资更容易,但强调种子资金本身不是成功的证明。
他喜欢以挑战者心态工作,并用滑雪作比喻:要找到平衡,有时也必须面对坡度、克服本能的退缩。
评价研究者时,他看重面对困难问题的勇气、坚持和理解欲望,而不仅是现成成绩。他认为这些品质对研究和创业都有价值。
创业让他把注意力放到组建团队和安排未来几个月的重点。他承认自己的判断可能出错,希望团队能够一起调整方向。
他回忆自己曾犹豫是否创业,最终被 LeCun 的愿景吸引。团队还包括具有运营、业务和研究经验的成员,并非全由研究员组成。
他表示团队会探索面向消费者的产品,但访谈没有给出已经验证的产品方案或交付时间。
他把自己对 JEPA 的认识分为质疑、理解和认同几个阶段:最初觉得它只是又一种自监督算法,后来认识到它也承载预测与规划的架构设想。
他认为 JEPA 的更大目标是学习有用表征并支持对世界的理解,而这种通往通用智能的路线仍需要实际研究验证。
人类与动物智能
创业带来了忙碌、法律事务和跨办公室协调,也让他看到团队逐渐成形的满足感。他描述的是现实中的起伏,而不是平滑的增长故事。
创业带来了忙碌、法律事务和跨办公室协调,也让他看到团队逐渐成形的满足感。他描述的是现实中的起伏,而不是平滑的增长故事。
讨论“人类的傲慢”时,他提醒听众人的感知和意识也有边界,不应只按人类熟悉的成绩衡量所有智能。
他提到动物行为研究中关于镜像、自我识别和黑猩猩社会关系的例子,借此提醒不同物种具备不同能力。
他也谈到鸟类藏食物、鲸类交流等观察。动物是否拥有与人类语言相同的能力并非访谈能解决的问题,他用这些例子挑战人类中心视角。
他转述 Sutton 的观点:制造具有松鼠般适应能力的系统可能比某些人类眼中困难的符号任务更难。这是关于评价智能的观点。
人类儿童能处理的日常家务与机器人的能力仍有很大差距。他认为机器人不同能力的发展并不均衡,擅长局部动作不代表掌握常识。
生活、创作与 42
他讨论通过真实机器人部署、模拟和模仿学习积累数据的路线,也提到研究导向的机器人公司;这些路线的成本和泛化能力仍需检验。
他讨论通过真实机器人部署、模拟和模仿学习积累数据的路线,也提到研究导向的机器人公司;这些路线的成本和泛化能力仍需检验。
谢赛宁说自己并非“天选之子”,提到长期支持利物浦以及喜欢教练强调普通人的态度。他希望保持对自身局限的认识。
他形容领导者有时需要像电池一样为团队提供能量。即使自己经常感到沮丧,也希望把从 LeCun 身上感受到的信心传递下去。
社交平台上的讨论有时能缓解孤独,也可能增加压力。他区分对研究方向的信心与对人的信任,承认两者都需要经历质疑。
他回忆重新理解 LeCun 的研究思想:通过把较早的观点映射到当前的多模态工作中,他逐渐看到它们如何指导具体问题。
纽约华盛顿广场公园的人群让他在工作压力之外看到各种生活:音乐、舞蹈、下棋和休息都提醒他世界不只有研究。
他喜欢纽约提供的生活可能性,即使不一定有时间尝试每个爱好。近期滑雪是他提到的一项新体验。
两人谈到科幻影视对 AI 的想象,从封闭的语言或代码系统扩展到能感知世界的系统;他认为这些作品提供了值得讨论的隐喻。
他提到一些作品并未描绘光明结局,并把电影中人被工作和技术异化的主题与当下讨论联系起来。这是他的观影解读。
谈及影响自己的书,他回忆本科时期读过的作品,也推荐《禅与摩托车维修艺术》,关注价值、品质和生活经验。
他认为人与人之间真诚的交流很重要。研究与创作也能成为跨越时间的交流:作品让后来者理解创作者的思考。
谈到 Seedance 等视频生成系统,他肯定其能力,同时将关于模型架构的传闻明确作为未经证实的消息。
主持人提到工作室名称“语言及世界”。他提醒不要简单借用维特根斯坦的名言证明当代模型路线,因为哲学语境与机器学习中的术语并不相同。
他提到后期维特根斯坦的语言游戏,强调符号的意义与使用情境有关。他的解读引出一个问题:语言、行动和现实世界如何关联。
他反对把复杂的创造活动直接等同于某一个生成模型的训练损失。具体算法可以是工具,但创造也涉及情境和行动。
访谈最后借科幻中的“42”讨论生命、宇宙和一切的答案:答案本身并不能替代理解问题的过程。
同频道的其他文章
1:59:52ZH
1:59:52EN → 简体中文
2:51:18EN → 简体中文
2:51:18ZH
2:34:18EN → 简体中文
2:34:18ZH