Ethan Mollick 谈 AI 采用、教育与通向 AGI 的不确定道路

Ethan Mollick 认为，AI 实验室可能因为专注于开发能力更强的模型而忽视产品建设。他还看到一种矛盾：一些人一边预测通用人工智能即将到来，一边投资功能狭窄的应用。这些是他对公司优先事项和假设未来的解读，不是已确定的结果。

Harry Stebbings 采访了 Wharton 创业学教授、生成式 AI 实验室联合主任 Mollick。Mollick 曾是一名创业者，他说自己的工作结合了创业研究、教育和 AI 的实际使用。

谈到刚发布的 Llama 3.1，Mollick 说，能力接近领先专有模型的开放模型可以支持广泛试验和微调。他也预计闭源模型开发者会推出改进，同时强调即便开发者也不知道所有后果。

根据他听到的消息，他认为下一代模型会更强，但他区分了模型进步和成功的现实应用。社交媒体每周都在争论谁领先，这可能让人们忽视更重要的问题：能力会发展到什么程度，以及人们将如何使用它们。

Mollick 列出四种可能路径：进步大致停止；能力大致线性提升；能力继续指数增长；或者系统达到 AGI 和超级智能。他认为立即失去发展势头的可能性不大，但这四种都是情景，而不是概率已知的预测。

即便模型达到平台期，组织仍需要多年时间整合现有能力。线性进步可能允许人们较为渐进地适应，而指数增长可能带来更具冲击力的转型。他说，公众辩论常聚焦极端情景，却没有充分为中间情况做准备。

Stebbings 将 AI 与 iPhone 相比：早期几代变化巨大，后来改进逐渐变得小幅。Mollick 同意技术可能达到平台期，但指出持续进步也可能通过替换底层技术实现。AI 的能力最终会在哪里触顶，仍然未知。

他称当前 AI 的能力呈锯齿状：系统可以在某些任务上表现出色，却在其他任务上失败。这种不均衡使它难以简单替代一个人的全部工作。未来系统能否克服这些缺口，仍是开放问题。

被问到算力、数据或算法哪个是瓶颈时，Mollick 说他不知道。他引用“逆向突出部”的概念：技术进步会暴露滞后的环节，资源和研究会集中解决它，直到另一个瓶颈出现。他还希望人们更加关注必须使用技术的人类和组织系统。

他质疑淘金热中卖镐和铲子的类比。在他对蒸汽动力的类比中，价值来自熟练人员将发动机改造、接入具体工厂设备。同样，他认为能够把通用 AI 能力转化为组织内有用工作的人员可以创造价值。

Stebbings 问，为什么供应商提供的实用指导如此之少。Mollick 认为，一些实验室优先扩大规模、追求更强系统，而不是编写文档和完善产品。他将结果称为“靠传闻形成文档”：用户试验并分享技巧，普通客户却面对一个缺少说明的聊天机器人。

他回忆，一家金融机构花了大量资金构建 GPT-3 销售助手，而按他的说法，ChatGPT 出现后该工具很快过时。这个例子说明依赖快速变化的平台开发产品存在风险，但不能证明每个应用都会被取代。

对于开放与闭源模型，Mollick 支持技术进步，也看到了教育、医疗和创业领域的机会。他同时表示，开放确实带来风险；医疗中使用 AI 是否合适取决于具体情况，他并没有把它当作临床护理的替代品。

他预计开放模型的防护措施会遭到绕过，并担心大规模精准钓鱼和冒充。他将这些担忧与更具推测性的未来生物风险区分开，称他当时讨论的系统还不足以实现后一种情景。

Mollick 认为，企业激励影响开放性辩论，不能假设只有益处或只有危害。他赞成密切观察新技术，并针对已出现的问题快速回应，同时承认政府可能难以如此迅速地反应。

他询问，谁会监测开放模型发布的影响、将证据反馈给开发者，以及决定何时需要改变。他提出的是积极观察和及时制定政策，而不是声称发布任何模型都必然安全。

Stebbings 担心严格的欧洲监管会限制开发和采用。Mollick 同意过早限制可能成为问题，但反对在完全没有监督和提前防止所有假设危害之间二选一。他说，欧洲创新面临的问题有多种原因，并不只有监管。

他还引用研究，认为地理距离和直飞交通与风险投资资金有关。按他的说法，本地网络和监督公司的便利有助于解释 Silicon Valley 的优势；这些观察并不保证每位创始人都必须搬迁。

Mollick 说，AI 实验室并不总是了解大型组织如何运作。他认为 OpenAI 的 Code Interpreter 可能是重要的数据分析产品，但后续完善不足；他还表示，仅有技术文档不能告诉管理者如何把 AI 纳入工作。

他的解释是，实验室可能将最优秀的人才和算力用于未来模型能力，而不是完善当前产品。他猜测 OpenAI 的年化运行率约为 30 亿美元，但访谈没有独立验证这一估计，也没有证明实际年度营收。

他根据与听众非正式举手互动的观察表示，在他面前的群体中，只有一小部分人花了大量时间使用先进模型。空白聊天界面和有限的引导让人们难以发现用途。他引用一项丹麦研究，其中受访者报告部分任务节省了时间；这些结果是自报数据，并不能保证普遍提高生产力。

他认为清晰政策至关重要。受监管组织需要有关允许用途的指导，员工也需要知道可以分享什么、工作会如何评价，以及有用的自动化成果是否会获得奖励。

Mollick 将一些员工称为“秘密半机械人”：他们在工作中使用 AI 却不告诉别人，因为担心失去地位、同事或工作，或者只是被分配更多任务。他讲述一位管理者使用 ChatGPT 撰写禁用该工具的政策，说明他看到的模糊规则中的矛盾。

公司提高生产力后，可以选择削减成本，也可以扩大产出并创造新机会。Mollick 说，如果唯一的回报是减少员工，员工就不会有太多动力公开有用做法。他希望组织明确自己的选择和激励。

Stebbings 担心客服员工已经失业，并引用了公司案例。Mollick 同意，不能轻易假设被替代的员工会自动找到同样好的工作。他以电话接线员为例说明，技术变化对不同年龄和机会条件的人影响不同。

他说，即便技术革命最终提高生活水平，过渡时期仍可能出现严重困难和动荡。再培训和适应需要具体政策与努力；认为市场会解决一切，或者泛泛预测灾难，都无法解决现实问题。

Stebbings 问，收益是否会集中在少数技术精英手中。Mollick 引用一项早期丹麦研究，其中用户更多是男性和富裕人士，但指出手机可用的聊天界面可能降低某些门槛。他对更广泛获取的乐观判断，并不意味着资源和技能差异消失。

他说，习惯普通软件的人，可能难以适应模型拒绝任务或每次给出不同答案。他的妻子是一位教育研究者和实验室联合主任，虽然不会编程，却能有效使用提示；他认为沟通、管理和领域专业知识都可能是有价值的 AI 技能。

对于消费者界面，Mollick 预计语音和视觉能力会让交互更自然，而智能体可能采取行动。这是预测，并非描述一种已经完全可靠的助手。他认为，如果产品更易使用，专门提示技巧的重要性可能下降。

Stebbings 问，为什么学生之间传播 AI 用法比职场更快。Mollick 指出大学的社交环境，以及聊天机器人与许多作业任务之间相对直接的匹配。营销等职场任务可能需要更多背景、专业知识和调整。

Mollick 认为，初创公司的激励机制偏爱渐进式的产品市场匹配，但快速变化的技术可能需要更有想象力的押注。他并不否定客户调研，而是说，为今天的模型构建的狭窄产品，可能在底层能力变化后被超越。

他敦促创始人和投资者明确未来观点：模型能力可能达到什么程度、哪些缺口会保留，以及产品如何在组织内部传播？清晰的采用理论和具体领域的问题，比简单地在模型上附加一层产品更重要。

他指出，一边预测 AGI 五年内到来，一边投资假设当前限制会持续存在的公司，存在一种张力。他承认没有人知道 AGI 世界会是什么样；他要求的是让假设保持一致，而不是证明所有初创公司都会失败。

作为当前实验的例子，他描述自己要求模型提出产品创意、评估创意，再创建可通过对话修改的交互原型。这说明了他尝试过的一种工作流程，并不意味着今天的模型就是 AGI。

Stebbings 认为，领导者对 AGI 时间的预测可能反映其融资需求。Mollick 说，激励因素很重要，过于自信的说法值得怀疑；不过，将职业生涯押在某个方向上也可能表明人们真诚相信它。历史预测常常过度自信，因此他建议在形成观点时保持谦逊。

Stebbings 引用一个判断标准：初创公司是否应欢迎模型能力提高 100 倍？Mollick 认为这个说法过于含糊：是推理、长文档处理、事实可靠性，还是其他方面提高？不同的进步会威胁或帮助不同产品。

他更喜欢具体问题，例如模型能否可靠审查法律文件，或完成一项研究工作流程。这些任务取决于上下文长度、幻觉率、证据处理和其他具体能力。他说，不同任务的缺口不同，需要领域专家来识别。

他认为教育是一个有机会的领域。Mollick 说，辅导可能很有效，但他反对 AI 辅导能让教师变得多余的看法：学生需要动力、练习和指导，学校也承担社交、托育及资质认证等功能。

他引述了土耳其一项早期数学辅导随机研究：按他的讲述，使用缺少引导的 GPT-4 工具的学生作业分数更高，但之后的测试更差，原因似乎是工具替他们完成了太多工作。更好的提示消除了这一负面影响，但没有显示学习增益。这一发现不能推广到所有 AI 辅导工具。

他的长期假设是翻转课堂：学生在课外借助 AI 学习基础知识，在课堂上与教师和同伴一起练习、应用。他说，这需要谨慎设计学习支持和实施方式，而不是简单地把聊天机器人塞进学校作业。

他说，学习需要付出努力，并面对有益的困难。课堂中的主动活动让学生练习、犯错并获得帮助。Mollick 描述了其实验室为这一模式构建的 AI 辅助原型，同时承认距离实际部署还有一段路。

Stebbings 问，AI 辅导是否真的比高质量视频好得多。Mollick 说，教育成果很难用简单倍数表达。他引用了人类一对一辅导提升约两个标准差的经典研究，但明确表示该结果可能无法重复，也不能证明 AI 辅导会获得同样的增益。

好的辅导不应只问学生是否理解，而应探查知识、暴露缺口并支持练习。Mollick 强调反思、重复练习和低风险测试，并认为需要领域专业知识才能判断看似精美的 AI 回答是否真的有用。

被问及 AI 能完成作业时，家庭作业是否仍然值得保留，他说值得，但学校必须定义什么是作弊，并据此设计评估。一种选择是控制环境下的课堂作业，另一种是围绕 AI 重新设计任务。他并不把侵入式监控作为首选方案。

在他自己的课堂上，学生使用 AI 导师、模拟和需要反思的任务，包括教 AI 完成某件事。他说，这些方式可以让学习更加主动，但需要时间才能充分开发和部署。

谈到能源，Mollick 说，算力成为未来货币的说法取决于一种情景：能力很强的智能广泛有用且需求旺盛。在这种假设下，能源和算力可能成为限制因素；访谈没有证明近期会出现 AGI，也没有确定某种能源解决方案。

他指出能源比较存在不确定性，并给出数据中心和 AI 用电量的粗略、特定时期估计。这些数字是他的估计，并非经过独立验证的测量；他认为最终影响取决于需求、效率和基础设施。

Stebbings 问，选民未来是否可能选择算法而非人。Mollick 怀疑机器治理会迅速出现，因为政治制度和人们的偏好都很复杂。他仍然预计说服工具和 AI 建议会影响政治。

他引用一项说服实验，称在某个与人类比较的特定情形下，相对差异为 81.7%。访谈没有提供足够的研究细节，不能将这个数字推广到所有 AI 说服场景。他还指出，误导性说法常常在观众没有观看原视频时就传播开来。

Stebbings 担心大量 AI 生成内容会降低价值并使发现内容更困难。Mollick 说，注意力原本就已经分散，他也想知道 AI 是否可能帮助创作者与受众更好地建立联系。他以音乐生成和图书畅销榜为例讨论不断变化的注意力经济。

在快问快答中，他说一个核心担忧是人类可能对使用 AI 的组织和系统失去自主权，而不仅是对 AI 本身失去自主权。有益的结果需要人们有意识地选择如何安排工作以及使用生产力收益。

Mollick 说，根据实验室工作人员传递出的不断累积的信号，他更加相信扩大模型规模仍有进步空间。他不知道新模型何时出现；这是他在 2024 年的判断，而不是经过验证的预测。

他预计，芯片支出高的公司会探索更好地控制供应链。他也对当前模型表现出的聪明程度感到惊讶，同时在访谈前面强调其优势和弱点并不均衡。

他认为一个受到关注不足的问题是，为什么许多人尝试 AI 后又停止使用。他说，答案可能涉及人与工具的关系，而不仅是某个任务是否成功。

另一个被忽略的问题是工作的意义。Mollick 担心，即便只是部分自动化，也可能让人们质疑自身角色的价值，尤其是同事或管理者依赖 AI 生成的回复时。他认为，就业和人的意义都值得关注。