En 30 segundos
张小珺与李志飞回顾自然语言处理经历,讨论通用模型、自监督学习、研发门槛以及创业中的选择。观点和预测保留在 2023 年语境。
- 1转向语言研究语音和语言中的不确定性吸引了李志飞。
- 2自监督学习文本本身可为预测任务提供训练目标。
- 3观点发生变化了解训练难度与竞争后,他重新考虑创业目标。
- 4谨慎投入他建议团队评估资源、能力和差异化。
Conclusiones
- 语言研究经历影响了嘉宾对模型发展的理解。
- 自监督学习可以利用数据本身构造训练目标。
- 大模型研发涉及算力、数据、人员和实验周期。
- 不同创业路线需要不同资源与能力。
- 历史观点不代表当前市场或产品能力。
Lee el texto editado por capítulos
从网络到语言研究
张小珺采访出门问问创始人李志飞,讨论他对大模型创业的判断为何在 2023 年发生变化。访谈观点与预测反映当时的技术和市场环境。
张小珺采访出门问问创始人李志飞,讨论他对大模型创业的判断为何在 2023 年发生变化。访谈观点与预测反映当时的技术和市场环境。
李志飞回忆在约翰霍普金斯攻读博士时从计算机网络转向语言和语音研究。相比确定性的系统问题,他被语言中的不确定性吸引。
语音识别需要处理噪声、语速和口音,再把声音转换为文字。他觉得机器能从数据中学习这些映射很有吸引力。
他进一步对语言理解和视觉产生兴趣,想象机器能够处理更丰富的信息。这是他回忆的研究动机,不是对当时能力的证明。
他回顾读博和进入产业研究的经历,后来在 Google 工作,再回国创业。不同环境让他接触学术、工程和产品问题。
NLP 与通用模型的演进
讨论自然语言处理的技术演进时,他对比较早的统计方法和后来深度学习方法:模型、数据和分布式训练都发生变化。
讨论自然语言处理的技术演进时,他对比较早的统计方法和后来深度学习方法:模型、数据和分布式训练都发生变化。
他认为早期系统常围绕特定任务构建,学习的关系较依赖人工设计;深度学习则提供了学习更复杂表示的方法。
数据规模与计算资源扩大后,机器翻译等任务出现显著改进。但提升幅度依赖任务和评测方法,不能用一个数字概括所有系统。
ChatGPT 让他关注一个较通用的模型处理多种任务的可能。他认为这种变化与以往为每项任务单独建系统的方式不同。
他回忆 GPT-3 出现时人们对通用能力的讨论,并认为后来模型的表现使行业重新评估这种研究路径。
李志飞解释自监督学习:例如预测文本的下一个词时,文本本身提供训练目标,不必为每个例子人工写出任务标签。
他将这种方式与机器翻译的双语标注或语音识别的音频转录作对比。自监督训练仍涉及数据收集、质量和后续调整等工作。
硅谷见闻与进入壁垒
他回忆春节后赴美国与研究者和从业者交流,想了解技术原理、OpenAI 的选择以及其他团队追赶的难度。
他回忆春节后赴美国与研究者和从业者交流,想了解技术原理、OpenAI 的选择以及其他团队追赶的难度。
他认为长期坚持通用模型研究是 OpenAI 路线中的一个因素。他的解释基于外部交流和观察,并非公司决策的完整记录。
他讨论算力采购、模型结构、数据清洗和实验周期可能形成的进入壁垒。具体优势和成本随技术与市场变化。
大规模训练需要反复实验、分析结果并调整。一个团队能否稳定运行实验,与人员、基础设施和数据流程都有关。
关于 Google 的组织形态,他提出自己的观察:研究成果如何变成产品可能受到激励、流程和既有业务影响。这是个人分析。
他还讨论微软与 OpenAI 的合作,认为企业客户、软件和云业务构成应用场景。对合作动机的解释属于他的推测。
他回忆与王慧文讨论创业门槛时提出过一个资金估算,分解了算力、人员与数据。那个数字是当时的粗略判断,不是实际预算或通用标准。
重新选择创业路线
主持人问他的想法为何在一个多月里改变。李志飞说,进一步了解训练难度和竞争后,他重新考虑如何选择目标。
主持人问他的想法为何在一个多月里改变。李志飞说,进一步了解训练难度和竞争后,他重新考虑如何选择目标。
他区分追求最前沿的通用模型与围绕已有技术开发应用。不同路线需要不同资源和组织能力。
他说出门问问已经在语音和生成应用上积累经验,希望在自身基础上发展模型与产品;这不是对其后续商业结果的保证。
两人讨论模型能力的边界和实际服务的稳定性。能完成某类演示与可靠地服务大量用户之间仍有工程距离。
主持人问是否一定会出现某个探索最前沿通用模型的本土组织。李志飞认为结果不能预先确定,产业也可能形成不同分工。
应用与竞争
他讨论大模型可能带来的应用与社会影响,认为语言交互能力打开新的产品想象,但也会带来错误、成本和使用边界问题。
他讨论大模型可能带来的应用与社会影响,认为语言交互能力打开新的产品想象,但也会带来错误、成本和使用边界问题。
他预期创业者会快速进入这个方向,但数量与竞争格局都只是当时预测,不能代替对后来市场的观察。
他比较上一代 AI 企业与新一代大模型创业者面临的压力:前者要转型,后者则要面对资源、人才和产品落地挑战。
主持人问他是否担心错过机会。李志飞承认面对快速变化和众多竞争者时会焦虑,也需要判断自己能在哪些地方创造价值。
他认为竞争会推动学习,但跟随热潮不等于找到适合团队的路线。判断需要结合能力、资源和真实需求。
他回顾 2012 年创业时大公司对 AI 的态度与后来不同。技术热度变化会改变融资、招聘和市场竞争条件。
创业经历与反思
过去追求无处不在的个人助理涉及家庭、汽车和移动场景。理念本身与能否在硬件、体验和商业上落地是不同问题。
过去追求无处不在的个人助理涉及家庭、汽车和移动场景。理念本身与能否在硬件、体验和商业上落地是不同问题。
他反思此前路线中的困难,希望保留团队理解语音和交互的经验,同时正视新模型改变了技术条件。
他认为经验的价值包括理解过去的方法为什么受限,以及哪些工作适合团队做、哪些不应盲目投入。
两人谈到创业过程带来的压力与情绪变化。李志飞认为长期经营需要面对不确定性,而不是只有发布产品时的兴奋。
他描述持续学习论文、产品和行业信息,希望把更多注意力放在理解技术变化及其对团队的影响。
主持人与他讨论欣赏的研究者和创业者。他看重能同时理解技术细节、限制和更大问题的人。
他认为语言、互联网数据与智能之间的关系不能只用一篇论文回答;具体算法研究和更广泛的思考可以互相启发。
给创业者的建议
他回顾创业前后的性格变化,认为长期面对困难让自己对企业运营和个人判断更谦逊。
他回顾创业前后的性格变化,认为长期面对困难让自己对企业运营和个人判断更谦逊。
他谈到团队、责任和决策的压力。创业故事中常见的成功叙述容易省略漫长的调整和失败。
他欣赏面向未来、愿意为更广泛社会进步做贡献的人。这样的标准反映个人价值观,不是对创业者的客观排名。
主持人问他对追求通用大模型的建议。李志飞主张先看清投入、团队和差异化,避免在缺乏资源与计划时不计代价扩张。
他认为较小团队可以寻找效率、成本或具体场景上的优势,但是否能取得优势必须通过产品和实际结果验证。
访谈结束时,两人谈到创业者持续阅读和学习技术的重要性。整场讨论是 2023 年的观察,不代表今天的市场或模型能力。
Más de este canal
1:59:52EN
2:51:18EN
2:51:18ZH
2:34:18EN
2:34:18ZH
1:09:50ZH