上下文才是一切:OpenAI 内部如何招人、出产品和给模型下指令

原标题Context Is All You Need: Inside OpenAI with Logan Kilpatrick

OpenAI 开发者关系负责人 Logan Kilpatrick 谈 GPTs、提示工程、公司为何能跑得快,以及创业公司该在哪里建才不会被碾压

LKLogan Kilpatrick嘉宾 · OpenAI
频道
Lenny's Podcast
视频
1:08:07
阅读
11 分钟
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

OpenAI 开发者关系负责人 Logan Kilpatrick 认为,提示工程真正要做的是给模型足够上下文;GPTs 则把特定问题打包,帮下一批几亿用户上手。他也谈到 OpenAI 招人看重高能动性和紧迫感、会做通用产品而不会做垂直场景,以及对 GPT-5 的预期:把它当很有效的工具,而不是魔法。新产品如果能走出对话框、直接回答用户真正的问题,会更有优势。

  1. 1OpenAI 招人看重高能动性和紧迫感Kilpatrick 说如果今天要招五个人,这两项会排在最前面:信得过、不必过五十道会签的人,才能扛起整家公司。
  2. 2提示工程是一项人类技能:模型缺的是上下文模型有接近人类的智力,却不知道你是谁、想要什么;答案泛泛,多半是因为没给够背景。他开玩笑说 T 恤上该印「上下文才是一切」。
  3. 3OpenAI 会做通用产品,不会做垂直场景可以预期通用智能体,但不会出一款 AI 销售代理;像法律创业公司 Harvey 这类有领域知识的团队,仍有空间胜过通用模型。
  4. 4GPTs 是迈向智能体的一步,也是让下一批几亿用户上手的方式空白对话框什么都能做,反而让人不知道从哪开始;把一个具体问题打包好,门槛会低很多。
  5. 5把 GPT-5 当成很有效的工具来规划,而不是魔法每次大模型发布,世界先说一切都变了,随后又把它当成日常好用的工具。
  6. 6走出对话框的产品会更有优势他想直接问一句数据问题、拿到有依据的回答,而不是在仪表盘和筛选器里来回拨。
全文

按章节阅读完整文稿

01

董事会那个周末过后,OpenAI 很快又把注意力拉回工作

Kilpatrick 把董事会那次行动所在的周末,说成一个非常紧张的感恩节周。当时公司本打算在 ChatGPT 上线后第一次真正休息、让全员重置。周五下午的消息让人震惊,因为大家对 Sam、Greg 和领导层有很深的信任。OpenAI 的文化偏透明,出了事通常能听到风声,而这一次,许多人是第一次知道董事会和领导层之间发生了什么。

最让他意外的,是所有人回到正事的速度。感恩节后一周他飞去旧金山,周一早上走进办公室,本以为会看到某种怪异气氛,结果大家已经激光般盯着工作。他说很多公司可能因此脱轨一段时间,而这恰恰说明团队的成色,以及他们对使命的投入。

他也庆幸这件事发生在赌注还相对较低的时候:再过五年或十年,AI 对工作的冲击会大得多。团队这一年扩张很快,ChatGPT 上线、GPT-4、Dev Day,以及这次董事会风波,都成了把新老同事拧在一起的共同经历。他希望以后把大家聚在一起的,会是 GPT-5 这类更令人兴奋的事。

02

去做垂直场景和新界面,因为 OpenAI 追的是通用能力

最近最让 Kilpatrick 兴奋的,是 AI 的新界面,比如消费硬件 Rabbit R1,以及 tldraw 在做的无限画布。他觉得惊人的是,聊天至今仍是人们使用 AI 的主流方式;他想象一块画布上,AI 已经填好细节,并链到文件和视频。他认为 2024 会是多模态之年,也是新 UX 范式真正被推开的一年。聊天对人类来说,往往不如把东西铺在画布上更自然。

被问到 OpenAI 会在哪里竞争,他说公司专注于通用推理、编程和写作。像 Harvey 这种为律师做定制模型和工具的垂直应用,OpenAI 的模型几乎不可能做到同样深度,因为使命是通用能力,别人可以在其上微调并做自己的界面。开发通用助手和智能体的人,也不该惊讶 OpenAI 以后会推出通用智能体产品——今天的 GPTs 已经指向那个方向。

他说 OpenAI 不会去做 AI 销售代理这类垂直产品。若要做下一个能跟 ChatGPT 竞争的通用助手,必须足够激进:要解决用户对 ChatGPT 的十个痛点,人们才愿意换。否则你们面对的,就是对方在工程和研究上持续加码的同一条产品。

03

工程侧杠杆最大,GPTs 则让公司能做出带自己味道的工具

谈到效率,Kilpatrick 提到哈佛商学院一项关于咨询顾问使用 AI 工具的研究,并说更多实证还会出来。他自己是工程师,用 ChatGPT 出活快得多,相信工程是杠杆最高的用途之一,在较低门槛的软件任务上也许至少有 50% 的提升。他建议把 GitHub Copilot 的研究当作类比。模型在这些任务上已经非常能干,只是很多人还没有自己的量化数字。

ChatGPT 在很多场景里都能给出还过得去的答案,但往往不够贴合一家公司的语气和细微差别。GPTs 加上 Teams 和 Enterprise,让公司可以做出领域专用工具。Lenny 转述 Chime 一位朋友的做法:一个 GPT 给 Facebook 和 Google 出广告创意,另一个像数据科学家一样解释实验结果,还能追问该再跑多久、对产品意味着什么。

Kilpatrick 还见过做 OKR 规划、以及风投尽调的 GPT。他自己有一个不公开的规划 GPT,把某篇文章里的建议装进去,生成时间线、成功指标和可能涉及的跨部门干系人。它会逼他去想规划时经常漏掉的东西,比如是否把事项拉回到可衡量的指标。

04

提示工程,其实是给一个非常急于作答的模型补足上下文

Kilpatrick 说,提示工程之所以存在,是因为模型被训练成「你问什么就答什么」:问题很水,答案也很水。他拿问路人「今天怎么样」对比问一位有共同背景的朋友。模型像是有人类水平智力、却完全不认识你的人,所以忘了提供背景时,得到的往往是泛泛回答。他认为提示工程本质上是一件很人类的事:想从另一个智能体拿到好结果,就要有效沟通。

他预期这个问题会部分被系统自己解决,DALL-E 已经在这么做:你说「画一只乌龟」,它会扩成带壳、绿色背景和睡莲的高保真描述。文本模型也可以把「写一篇关于 AI 的博客」扩成带权衡、用例和论文引用的详细 brief,再让用户改。人很懒,并不想把真正意思全部打出来,AI 系统会帮着补上这一层。

Lenny 说自己会让 ChatGPT 用 Tyler Cowen 的风格出采访问题。Kilpatrick 提醒:模型对不那么有名的嘉宾可能几乎一无所知,你得提供博客和推文链接,也许再打开浏览。模型太想回答了,不会告诉你它缺上下文。OpenAI 有一份提示工程指南;加个笑脸、或让模型先歇一会儿再答,这类小技巧大约只能带来百分之一二的提升,对长文本才比较看得出。

05

GPTs 让非开发者也能打包上下文,而且很快就能靠它赚钱

Kilpatrick 解释,以前分享一个 ChatGPT 用法,意味着把已经开了头的对话链接发出去。有了 GPTs,你把上下文、文件和自定义指令事先装好,别人直接跟一个定制版 ChatGPT 聊。内置工具包括代码解释器、浏览和图像生成;开发者还可以接 Notion 或 Gmail 这类外部 API,让它代为执行动作。对非开发者来说,给够上下文就能解更难的问题,这才是最让他兴奋的地方。

录制时所有 GPT 都还免费。他预计商店的变现会在当季晚些时候到来,作者按使用量获得分成。他也希望 Gmail 这类服务能做到一键登录,因为即便工程师去接 API 也不轻松。今天 GPT 最大的价值增量,仍然是把定制提示固化下来,让别人不用从头喂一遍。

他最喜欢的例子是 Zapier:不懂代码也能把数千种连接带进 GPT。Lenny 提到一个叫 Universal Primer 的学习 GPT,用提问带人理解概念;录制时 Canva 的 GPT 排在商店第一。Kilpatrick 说 Zapier 这类集成,对不会写代码的人尤其值钱。

06

OpenAI 跑得快,靠的是招有能动性和紧迫感的人,并把研究团队保持很小

和 Apple、NASA 这类更老的机构相比,Kilpatrick 说 OpenAI 还年轻,没有那些慢慢堆起来、把事情拖慢的制衡。最大的因素是找到高能动性、带着紧迫感干活的人。他举 Assistants API 为例:开发者要求更高层抽象,团队里一群人自下而上凑在一起做出来,而不是等一份自上而下的计划。听到客户痛点,他们已经在推解决方案,而不是先过七个部门会签。

规划有几条原则:这件事是否有助于抵达 AGI;在开发者这一侧,则是可靠性——功能再好,用不稳也没人在乎。除此之外流程相当标准,有半年和季度目标。他并不觉得 OpenAI 是一家重度 OKR 公司。收入是算力和更好模型的代理指标,而不是目标本身:钱是换 GPU、训练更好模型、走向使命的中间层。

他把快速协同部分归功于重度使用 Slack 的文化。去年年底公司大约 780 人,工程和产品经理都在招。研究团队则有意保持很小:在 GPU 受限的世界里,一个不能明显抬高他人效率的新研究员,会拖慢所有人的实验;给产品团队加工程师则通常能写出更多代码。

07

预期多模态 ChatGPT、更像智能体的 GPTs,以及一个非常平常的 GPT-5

Kilpatrick 说 ChatGPT 正在走出「文本进、文本出」:语音、图像生成和拍照都已经加上。他把 GPTs 看成迈向智能体未来的第一步——你让系统去做一件事,它做完再回来,而不是立刻丢一句回复。这也是把下一批几亿人带进 AI 的方式:空白对话框什么都能做,人反而不知道该干什么;一个打包好的窄问题,才会让人愿意再去试另外五个问题。

谈到 GPT-5,他指出 GPT-4 是第一个能根据投入算力、事先较可靠预测能力的模型,接下来要看这一规律是否还成立。他预期熟悉的剧本会再演一遍:世界先觉得一切都不同了,随后又把它当成有效工具。同样的问题还在,只是工具更好;指望 GPT-5 在卧室后空翻、同时写代码并给妈妈打电话,是不切实际的。

他还说,规划人们会很快习惯这些工具,本身就是一种优势。Lenny 转述一条建议:面向 GPT-5 的未来去建,而不是围着 GPT-4 的限制转。Kilpatrick 的回答是:更好的工具,主要是让垂直场景把本职工作做得更有效,而不是改写世界上所有问题。

08

企业内共享和更便宜的嵌入,让领域专用 AI 变得实际

对企业客户,Kilpatrick 说许多人用的是 API;ChatGPT 则卖 Teams 和带 SSO 等能力的 Enterprise。他觉得最酷的部分,是在内部共享提示模板和 GPTs,让团队一起做领域专用工具。Lenny 补充,把员工迁到带单点登录的企业账号,往往能省钱也更好管。Kilpatrick 还提到安全和隐私上的控制:不想让内部数据流进商店里某些 GPT 时,企业版更说得通。

录制次日的发布包括更新后的 GPT-4 Turbo 预览,用来减轻模型的「懒惰」问题,以及第三代嵌入模型。他解释嵌入是「用你自己的文档做问答」背后的技术,并猜测 Lenny 的 lennybot.com 就是把播客和文章嵌入后,找出最相似的段落来锚定回答。目的是把模型拉回到你知道为真的知识上。

新的 V3 嵌入达到当时最先进的表现,非英语效果好很多,而且便宜五倍。他记得大约 6.2 万页文本嵌入只要 1 美元。对做多语言知识库的团队来说,这把「只对英语好用」的旧印象打破了。

09

走出聊天框、以百为单位计量尝试,并现在就用上 AI 工具

被问到产品经理和创始人该往哪看,Kilpatrick 说,把体验做到聊天界面之外的产品会更有优势。他举社交聆听为例:与其在仪表盘里调筛选器,他只想问「人们在说 GPT-4 什么」,并拿到有数据依据的摘要。这要多花工程力气,但正是让产品变得离不开的那一下。Lenny 推荐面向创意人的无限画布图像工具 Visual Electric,他做设计师的妻子试用后自己付了费。

Kilpatrick 说现在就是用 AI 去建的时刻,并欢迎开发者联系他寻求起步帮助。闪电轮里他推荐萨尔·可汗的《The One World Schoolhouse》和《Why We Sleep》。人生座右铭写在镜头后的便利贴上:「以百为单位计量」——如果你已经失败五次,按这个尺度其实还没真正试过。一切建立在复利和多次尝试上,试得不够,就不会成功。

报 bug 时他希望用户提供可复现的例子或分享的对话,懒惰问题当时就很难追,因为人们只说「模型变懒了」,却给不出提示。他最后说,更可能在市场上更有竞争力的,不是 AI 本身,而是会用 AI 工具增强自己的人;所以现在是最好的学习窗口。Lenny 也提醒听众:打开 ChatGPT 真正去用,比继续空谈更重要。

同频道的其他文章

1:10:27EN → 简体中文
Lenny's Podcast播客 · 2 人对谈硬技能让你进门,软技能决定你能走多远嘉宾 Jules Walter · 主持 Lenny RachitskyYouTube 产品负责人 Jules Walter 把 PM 能力拆成 IQ 与 EQ,并讲怎样用最小请求找到导师、把反馈变成习惯。产品与体验Product ManagementLeadership+3
1:30:46EN → 简体中文
Lenny's Podcast播客跳过「末日漏斗」:Cursor 招顶尖 50 人的打法主持 Lenny RachitskyCursor 人才负责人 Adam Ward 讲如何界定角色、画出全球大约 50 人的名单,再持续追他们,而不是招漏斗里活下来的人。企业与战略Company BuildingLeadership+3
1:42:04EN → 简体中文
Lenny's Podcast播客 · 2 人对谈先做生命体征测试,再谈把付费增长拧到最大嘉宾 Timothy Davis · 主持 Lenny RachitskyShopify 绩效营销负责人 Timothy Davis 讲何时开始买量、怎么做小测试、测哪些平台、看什么指标、以及先招什么样的人。企业与战略Go-to-MarketGrowth Strategy+3
1:21:44EN → 简体中文
Lenny's Podcast播客从划桨到掌舵:OpenAI 如何把 Agent 做成持久共事的同事主持 Lenny Rachitsky负责 Codex 与 ChatGPT Work 产品的 Tara Seshan 解释:当 Agent 负责划桨、人负责掌舵时,产品经理的工作会变成什么样。智能体Product StrategyAI Product Management+3
1:01:00EN → 简体中文
Lenny's Podcast播客 · 2 人对谈谁掌握注意力:Substack 如何按「控制权」做产品嘉宾 Sachin Monga · 主持 Lenny RachitskySubstack 产品负责人 Sachin Monga 讲路线图背后的原则、Recommendations 如何长成增长引擎,以及他认为互联网写作的下一阶段会怎样。产品与体验Product StrategyGrowth Strategy+3
1:26:22EN → 简体中文
Lenny's Podcast播客先从小处开始,再挣来自主权:五十多次企业 AI 落地教会他们的事主持 Lenny RachitskyAishwarya Naresh Reganti 和 Kiriti Badam 解释,为什么 AI 产品需要另一套构建流程,以及怎样一步步提高 Agent 自主权而不丢掉客户信任。产品与体验Product StrategyAI Product Management+3