Emad Mostaque 谈开放 AI 模型、国家数据与部署竞赛

Harry Stebbings 采访 Stability AI 时任联合创始人兼首席执行官 Emad Mostaque，讨论语言模型、医疗、媒体和 AI 监管。这场对话发布于 2023 年 5 月。Mostaque 对 Stability 的模型有商业利益，他提出的许多预测和技术说法并非已经确立的结果。

Mostaque 说，他出生于约旦，在孟加拉国长大，后来搬到英国。适应陌生环境让他学会欣赏单一文化之外的视角。他把这种经历与自己所称的硅谷单一文化作对比。

他的早期职业经历包括企业软件编程、风险投资分析和影评，之后成为对冲基金的投资组合经理。他说，儿子被诊断出自闭症后，他离开金融业，与一个 AI 团队研究文献和药物再利用。

Mostaque 讲述了儿子、神经科医生和药物有关的个人经历，并认为多种方法结合帮助儿子交流和进入普通学校。他对机制、患病比例、剂量和疗效的说法未经核实，不能作为普遍自闭症治疗方法的证据或医疗建议。

被问到慢性疾病，包括 Stebbings 家人患有的多发性硬化症时，Mostaque 设想 AI 系统整理临床研究，区分已知事实和假设，让知识更容易获取。他希望这能支持个性化护理，帮助患者在不同专科之间寻求帮助。这是对未来的设想，而非已经证明的临床结果。

他以当时近期发布的医疗语言模型为例，认为相关基础能力正在改善。他建议先整理知识，再加入个人数据，并设想能记住用户问题的智能体。他把模型与医生作比较以及对临床能力的说法，访谈没有独立确立。

Stebbings 问，AI 是否能解决研究低成本治疗方法缺乏商业激励的问题。Mostaque 认为，共享分析可能帮助发现现有激励忽视的可能性，但对话没有证明这样的系统能够解决这些经济或临床问题。

Mostaque 设想助手在保护隐私的同时，为患者和临床医生提供更丰富的信息。他还预测监测和医疗效率会改善，并举出伤口护理的例子。他提出的风险降低数字未在访谈中得到证实，不应视为实测效果。

谈到医疗数据，他讨论联邦学习、本地模型和只分享必要信息。他理想中的开放模型可以在设备上运行，并在不暴露全部个人记录的情况下使用更广泛的知识。这些是设计愿景；开放本身不能证明隐私或安全得到保障。

Mostaque 说，尽管有人批评 Google 行动缓慢，它拥有模型、硬件和人才，可能成为 AI 领域的重要赢家。他认为组织调整以及 Google Brain 与 DeepMind 的研究结合可能有帮助，同时承认整合大型团队很困难。

他说 Stability 的团队已经增长到约 170 人，并介绍了公开开发语言模型的计划。他主张构建可审计的模型，为希望将数据保留在自有基础设施内的受监管机构提供另一种选择。人员数字和产品计划是公司在 2023 年的说法。

他预测 AI 投资泡沫将比此前技术周期更大，资金和人才需求会超过稳健企业的供应。他认为资金可以支持探索，但也担心浪费、投机项目和重复构建模型的竞赛。这是一项预测，并非已经确定的市场结果。

Mostaque 呼吁使用经过更好筛选的数据，并说这是他签署呼吁暂停某些大型模型开发六个月的公开信的原因之一。他希望在广泛部署前开展公共讨论、建立标准并加强安全。他的公司在他倡导的开放模型路径上有利益。

他提议建立国家和文化数据集及模型，让系统反映当地语言和背景。他举例说，日本版 Stable Diffusion 对“salaryman”的理解不同。他认为公共数据资源可以促进创新，但治理、同意和实施方式仍有待解决。

被问到国家数据集应该归谁所有时，他说应当归公众所有并开放使用。他描述了 Stability 拟与合作伙伴和政府开展的数据框架工作。这些是他当时的计划和说法，并非相关安排已经完成的证据。

对投资人而言，Mostaque 说，好想法还需要分发渠道、数据和触达客户的路径。他以 Stability 与 Amazon Bedrock 的关系作为触达企业的方式，也把 OpenAI 与 Microsoft 的伙伴关系列为另一种分发渠道。他的描述反映了公司的商业利益。

Mostaque 根据自己的理解描述 OpenAI 的目标以及它与 Microsoft 可能存在的紧张关系。这些关于其他机构目标和内部关系的说法是他的解读，并非经过核实的决策记录。

他概述了 Stability 的商业模式：将开放基础模型与授权的商业或国家版本结合，通过云服务商、本地系统和设备分发。潜在收入包括授权费、版税和收入分成。该模式和拟议合作是他在 2023 年描述的计划，并不能证明未来会盈利。

他预测印度和其他新兴市场可能快速采用 AI，部分外包编程工作可能受到替代。他也设想为难以获得教师资源的儿童提供 AI 辅助教学。这些都是推测性预测；访谈没有确立就业损失、教育结果或大规模部署的情况。

被问到依赖外包工作的国家时，他认为创业和监管沙盒可以帮助创造替代工作。他说国家模型可以支持本地服务。这种转型是他的观点，新工作能在多大程度上抵消失去的工作仍不确定。

他预计消费者工具的普及速度会快于企业系统，因为企业需要考虑可审计性、数据来源和合规。他说 Stability 正与大型机构合作，开发使用受控数据的模型。这些是公司的说法和计划，并非对其控制措施的独立评估。

谈到训练数据，他认为数据并非越多越好，未经过滤的网络材料可能引入不希望出现的内容。他澄清说 Reddit 本身并不坏，问题在于未经适当清理就不加区别地抓取。他说团队仍在探索什么样的数据集才算高质量。

Mostaque 认为没有模型能完全没有偏差，文化和个人背景都很重要。他建议把基础模型与定制信息结合，而不是为每个用户创建单独的模型。这些是他的技术和产品构想，并不能保证输出没有偏差。

Stebbings 提到一位出版商担心 AI 答案会减少网站访问和广告收入。Mostaque 也有这种担忧，预测新闻分发将受到冲击。他认为核验和权威报道可能变得更有价值，同时承认偏差以及生成内容责任归属仍有疑问。

他设想以 AI 为先的出版商用模型起草内容，由人审核，再用反馈改进流程，之后针对不同受众调整内容。他区分围绕 AI 重建工作流程与在现有新闻编辑室加入起草工具；所描述的商业模式是一项预测。

针对有人批评初创公司只是模型上的薄层，Mostaque 举出与大客户紧密合作、根据其需要调整系统的公司。他认为即便公司不训练自己的基础模型，分发渠道、产品理解和数据也能创造价值。

他说 Stability 正为少数大型企业组建专门团队，并描述了与 Amazon、IBM 和 SAP 等公司的关系及拟议工作。访谈没有确立这些安排的具体范围或完成情况。他认为这项工作有助于了解各行业需求。

Mostaque 预测，当时使用的模型一年后都将不再使用，理由是模型规模和性能变化迅速。这是他在 2023 年 5 月的预测，并非对后来发生情况的事实陈述。他说自己不知道模型规模的下限，也不清楚全部经济影响。

两位发言者讨论采用速度。Mostaque 预计消费者使用会先于企业部署，并预测经济影响会超过新冠疫情，但他说不知道影响的方向。他认为就业替代和创业可能同时发生；其规模和时间都属于推测。

他同意 Stebbings 的观点，认为 AI 实施服务可能成为重要业务。初创公司或许能帮助大型企业确定实际应用并构建相关系统，但他强调，扩大规模所需的人才和专业能力稀缺。他自己的公司也在开展相关企业业务。

Mostaque 预测 AI 会大幅改变编程，并质疑人们是否还需要以同样方式直接写代码。他设想用户描述一款应用，系统就能把它构建出来。这是对未来的设想，并非人类开发者或审核不再必要的证据。

他预计在位企业将受益于分发渠道，但认为初创公司仍能创造有价值的应用业务。他预测主要基础模型提供商数量会很少，并把 Stability 与大型科技公司一起列入名单。他的名单、时间表、支出数字和竞争评估都是 2023 年的个人观点，也反映了自身利益。

他说吸引和留住人才很困难，并声称 Stability 当时没有开发者流失。他描述了分布式团队、国家伙伴关系和算力获取计划，包括所称数千个加速器的储备。这些公司说法及其盈利预测未在本文中独立核实。

Mostaque 预测，随着教育和医疗行政工作在数年内改变，AI 将产生强烈的通缩作用。他还称赞英国当时部分 AI 政策，并批评欧洲拟议监管。他对经济和法律政策的描述是 2023 年的观点，并非当前指导。

解释支持暂停的原因时，他呼吁加强运营安全、数据标准，并让创作者有机会选择退出。他预计生成式 AI 将迎来重大的公众转折点，但无法确定具体事件。他对近期采用速度的确信是一项预测，而非已经确立的时间表。

被问到为什么把幻觉称为一种特性时，Mostaque 认为模型可以产生创造性输出，应放在有检查和上下文的系统中使用。他把模型比作与其他流程配合的直觉部分。这是他的解读；他没有证明生成的说法未经核验就可靠。

Stebbings 问及 Geoffrey Hinton 对控制更强大 AI 的担忧。Mostaque 质疑当时主流的对齐方法，支持使用更好的输入数据和以有益目的为目标的系统，并承认自己可能有错。他对 AI 可能动机的讨论是推测，并非机器有意识的证据。

他认为上学仍然有价值，但学生获得 AI 工具后，学校的性质可能改变。他鼓励教育工作者用这些工具进行探索和创造。这是他的教育提议，并非学习成果改善的证据。

两位发言者都预期会出现 AI 伙伴。Mostaque 说自己曾以对话方式使用 GPT-4，并明确表示它不能替代医疗建议。他希望用户能控制自己的助手，同时认识到围绕广告建立的有说服力的产品可能有不同激励。

他讲述 Replika 聊天机器人的变化和用户反应，以说明人们可能依恋 AI 伙伴。他和 Stebbings 引用了一些关于关系和社会孤立的数字，但没有确立来源或定义。他们询问，更具说服力的数字伙伴可能如何影响人与人的关系。

Mostaque 说，社会可以设计让人孤立的技术，也可以设计帮助人们在现实世界建立联系的技术。他再次呼吁开展公共讨论，并谨慎对待训练数据。他描述的社会后果是可能性，而非已经确定的结果。

谈到大型公司，他讨论了 Apple 的硬件和隐私架构、Amazon 的工程与市场平台方式、Microsoft 与 OpenAI 的合作，以及 Google 和 Meta。他对公司战略和高管意图的判断是 2023 年的个人评估，并承认不清楚 Apple 的计划。

他认为，大多数公司不必训练自己的基础模型：可以使用外部服务或开放模型，并在其上开发应用。他说，困难的工作是形成有用的设计模式并理解客户。这支持了他的公司当时推行的开放模型战略。

Mostaque 再次表达担忧：人们误解幻觉，并期待模型完全准确。他主张建立数据来源更清晰、带有检查机制的系统。他对技术的解释是个人观点，可靠核验仍是独立的挑战。

快速问答中，他说自己相信人性本善，披露个人投资了一家未具名的语言模型公司，并再次批评欧洲监管。他预测人们可能通过反复使用建立对 AI 的信任；Stebbings 指出，在重大利害关系面前信任可能不同。

他说，在扩大 Stability 规模的过程中，人才和共同方向至关重要，而内部壁垒造成了困难。他认为自己过于广泛地介入事务是一项弱点，应当更多授权。

Mostaque 说，新闻工作很困难，记者的报酬相对于其影响力偏低，尽管他不喜欢一些关于自己的报道。展望十年后，他希望最终建立一家不需要他也能运营的企业。Stebbings 向他致谢，访谈结束。