Andrew Ng：AI 编程、教育与应用机会

被问到历史类比时，Andrew Ng 将 AI 称为新的电力：监督学习和生成式 AI 都是可用于众多活动的通用技术。Joel Hellermark 说，接下来的工作是发现并落实这些应用。

Ng 区分硬件、模型基础设施和应用层。他认为航运、关系辅导、医疗和教育等应用存在创造空间，并认为在访谈当时，应用层的竞争不如硬件或基础设施层激烈。

Ng 提醒，在现有 API 上包一层薄应用可能是好创意，却不一定构成有护城河的生意。他以早期智能手机生态为类比，将新奇应用与构建持久服务的艰难工作加以比较。

讨论 2023 年模型经济性时，Ng 按自己的假设估计，当时流行的 API 生成足够读一小时的文本约需八美分。他预计模型供应商之间的竞争会给应用开发者带来机会；这一价格是历史数字。

Ng 说，部分知识工作任务正在变得便宜，并引用研究指出高薪职业也会受到语言模型自动化的影响。他分享放射科医生 Curt Langlotz 的观点：使用 AI 的专业人员可能比不使用者更有优势。

Ng 希望生产率提升能给人们更多空间从事有意义的活动。他说自己用语言模型回答事实问题、核查部分答案、寻找措辞和头脑风暴，也通过 API 试验商业想法。

Ng 介绍 DeepLearning.AI 与 OpenAI 的 Isa Fulford 合作推出的免费开发者提示课程。他认为语言模型不仅是面向消费者的聊天产品，也是构建应用的强大工具。

Ng 预计提示技能对机器学习工程师很重要，但不确定提示工程是否会成为大规模独立职业。他将其比作参数调优：它是更广泛工作中的重要任务。

ChatGPT 的普及速度令 Ng 惊讶，尽管 GPT-3 出现时研究界已经看到技术信号。他说，易用的消费级界面让技术触达更广泛的受众，包括亲自试用的企业高管。

谈到教育，Ng 说 AI 教学助理和个性化教练可以帮助教师，也让学习者提问或练习。他并未声称 AI 辅助教育的最终形式已经确定。

Ng 说，相比机器学习研究，观察年幼的孩子让他对人类如何学习了解更多。他认为近年的 AI 进展更多由工程推动，而非详细的神经科学知识，部分原因是大脑机制仍难以理解。

Ng 说，人工神经网络相对大脑高度简化。他猜测多种不同算法在合适数据下都可能产生令人印象深刻的智能，进化也未必找到了最优的人类学习算法；他强调这只是直觉，并非证明。

Ng 将上一个十年的大型监督模型与可通过提示或微调适应任务的预训练模型进行对比。2023 年，他怀疑仅靠扩大这些模型就能明确通向 AGI，并推测实现可能还需要数十年。

作为尚缺能力的例子，他问系统何时能仅凭几十小时经验学会开车，或读完一系列书后产出深入的原创研究。他认为没有根本理由说这些不可能，但尚未看到明确路径。

Ng 反对暂停训练超越 GPT-4 的模型六个月；他在 2023 年认为这一做法不切实际，且对生存风险的前提判断有误。这些是存在争议的个人判断，并非关于安全或时间表的既定结论。

他认为 AI 进展将足够渐进，人类有时间观察和引导，并类比对强大机构的管理。他也相信 AI 可以帮助应对气候变化和大流行等威胁；类比和预测都属于他的观点。

Ng 提到更近期的担忧，包括偏见、公平、错误信息、两极分化以及财富和权力集中。他认为，对假想杀手机器人场景的关注不应挤占解决当前风险的工作。

谈到监管，Ng 主张提高透明度，让主管机构了解系统是否放大有害内容，从而制定更有根据的规则。他警告，设计不佳的限制可能妨碍创新，包括开放模型开发。

Ng 说，开放模型既带来风险，也带来广泛的创造性收益。他以 Stable Diffusion 为例，呼吁处理有害用途和差别对待，同时保留更广泛获取所带来的实验机会。

Ng 预计模型和应用能力会持续改善，但担心失业者和被落下的人。他呼吁社会帮助人们参与转型，并警告不要让不必要的监管阻碍他们的机会。

Ng 将 AI 编程称为新的读写能力。他的目标不只是让人们使用少数专家开发的 AI，也要让店主、学生等能够利用自己的独特数据创建定制系统。