Andriy Mulyar 谈 GPT4All、数据质量与开放的本地模型

Matthew Berman 介绍 Nomic AI 联合创始人 Andriy Mulyar。该公司开发了数据探索工具 Atlas 和 GPT4All。Mulyar 认为，要做出好的机器学习模型，高质量、干净的数据往往比新架构更重要。

Mulyar 出生于乌克兰的 Lviv。家人抽中美国绿卡后，他在 4 岁时随家人搬到弗吉尼亚州 Richmond。他在初中学习 Python，搭建了 Minecraft 服务器，后来进入一所侧重计算和数学的高中。

大学期间，他加入自然语言处理实验室，发表研究，并在攻读可解释机器学习博士学位之前，参与医疗数据语言模型的工作。他后来离开博士项目创立 Nomic，认为通过开放地构建产品可以产生更大的影响。

他的早期研究包括命名实体识别，即从文本中提取结构化信息。在 Johns Hopkins 跟随 Mark Dredze 实习时，他接触了语言模型，也由此确立了在 AI 领域的发展方向。

在一家医疗初创公司，Mulyar 帮助训练模型，为放射科医生汇总数据。幻觉是医疗领域的严重障碍，因为编造的细节可能伤害患者。他说，团队通过密集的数据质量管理和清理工作帮助解决了这个问题。

这段经历让他确信，经过整理的数据是模型质量的关键。后来随着人们对语言模型的兴趣增长，他和一名前同事决定开发工具，让检查和整理训练数据变得更容易。

Berman 问到虚假相关。Mulyar 将其描述为模型在训练数据中发现的捷径，但这些关联不应决定目标结果。例如，信用模型可能依据邮编批准或拒绝申请，从而使整个群体受到排斥。

语言模型也可能从文本中继承类似的关联。Mulyar 介绍，可以用模型未见过的数据评估质量：尽可能使用定量指标，对定性表现则结合人的判断和统计比较。他说，当输出是开放式文本时，自动评估尤其困难。

Atlas 的目的是帮助人们在开展昂贵的训练之前检查大量文本。用户无需从百万文档中抽取少量样本逐一阅读，而是可以查看预先组织好的数据地图，并请领域专家判断哪些内容应当删除或修改。

Mulyar 解释，Atlas 使用机器学习模型将每份上传文档转换为嵌入向量，再把高维向量投影到二维空间。模型认为相似的文档会显示在相近位置，从而提供人类可理解的数据视图。

开发者和数据科学家使用 Atlas 了解大量文本或图像，图书馆员则可以探索数字化档案。用户可以筛选和处理数据，并分享交互式地图链接。Mulyar 表示，当时免费套餐包含 5 万个数据点，研究人员可以获得更大的额度。

Mulyar 将 GPT4All 描述为一种可以本地运行的语言模型，不需要 GPU，也不需要特别快的电脑。他说，它当时的能力不如 OpenAI 的云端模型，但能完成许多类似任务，而且无需向第三方发送数据。

早在 2022 年底公众对语言模型的兴趣激增之前，Nomic 就在开发 Atlas。团队希望展示工具整理高质量数据的能力，同时让买不起昂贵 GPU 或所在国家无法访问云端 API 的人也能使用模型。

Meta 的 LLaMA 模型为微调提供了基础，而 Georgi Gerganov 关于 CPU 的工作表明，LLaMA 无需 GPU 也能快速运行。看到 Alpaca 的成功后，Nomic 使用 Atlas 为助手模型整理数据，并发布了 GPT4All。

Mulyar 认为，项目简单的单行安装命令和清晰说明降低了使用门槛。这次发布表明语言模型可以在个人电脑上运行，而不只是存在于云端 API 之后。

Berman 说，自己关于 GPT4All 的视频反响让他很惊讶，并问 Nomic 是否预料到这样的采用速度。Mulyar 说没有：最初的目标是展示干净数据的价值，但用户反响揭示出人们对易于使用的本地模型有大量需求。

Mulyar 说，一些组织担心把私人数据发送给第三方，另一些则需要离线访问。Berman 补充说，本地访问让人们能够实验、扩展和微调模型，而不只是依赖封闭的 API。

Nomic 发布了训练数据和其他组件。Mulyar 认为，公众监督有助于让技术朝更安全的方向发展，但他也指出，许多模型开发者不会公开数据，其中一个原因是版权顾虑。

最初的 GPT4All 使用从 OpenAI 助手 API 收集的回复，在 LLaMA 基础上微调而成。Mulyar 说，原版模型用于研究，根据基础模型的许可不能用于商业用途；他还讨论了 OpenAI 关于竞争产品的条款。

希望基于本地模型建立业务的人提出的需求，推动团队寻找许可更宽松的基础。他们选择用 Pile 数据集训练的 GPT-J 作为 GPT4All-J 的基础。Mulyar 指出，Pile 包含互联网材料，训练数据的版权问题也带来了尚未解决的法律疑问。

EleutherAI 以 Apache 2.0 许可发布了 GPT-J，但 Mulyar 说它比 LLaMA 弱。为改进助手，Nomic 增加并整理微调数据，使用 Atlas 排查模型只记忆内容而不能泛化等问题。

Mulyar 感谢约 8000 至 9000 人的 Discord 社区帮助发布新模型。贡献者提出数据建议并无偿投入开发时间；其中一人改写了底层 CPU 代码，使 GPT-J 无需 GPU 就能快速运行。

谈及 GPU 支持时，Mulyar 解释说，量化会缩小原始模型权重，以便在 CPU 上使用。Nomic 也发布了体积更大的原始权重，有技术能力的用户可以在 GPU 上运行；聊天启动器的 GPU 支持则列入了短期路线图。

Berman 问为什么安装程序会触发开发者未验证的警告。Mulyar 说，团队当时正在等待 Apple 和 Microsoft 的签名证书，选择先发布并收集反馈，而不是等待审批完成。

Mulyar 说，微调涉及几个不同的问题：模型能否继续训练、训练后是否有所改善，以及它能否从私人数据中学习，同时保持原来的行为。GPT4All-J 的训练说明写在项目的 GitHub README 中。

他说，当时训练仍需要大量 GPU 资源和内存来容纳原始权重。Berman 认为，许多提出微调需求的人可能实际想做的是针对自己的文档提问。

Mulyar 同意，检索增强生成可能更适合这类任务。用户可以在问题之前把相关信息放进提示词；面对更大的文档集合，检索系统可以选择上下文。他推荐了 LangChain 教程及其 GPT4All 集成。

谈到实际微调，Mulyar 描述了租用配备 8 块 GPU 的 DGX A100，并准备格式正确的样例。他估计可能需要数千组对话，例如一段 PDF 摘录、针对它的问题和一份书面回答。他披露 Paperspace 曾帮助赞助 GPT4All 的训练。

关于多语言支持，Mulyar 说，基础模型预训练时必须从多种语言中学习，指令微调数据也需要包含这些语言的问答。当时项目路线图计划扩大语言覆盖范围。

他解释说，token 并不等同于单词，模型的上下文限制决定了它能考虑多少内容。讨论中的版本上限为 2048 个 token，提示词与回复合计计算，之前的对话也包括在内；团队计划支持更长的上下文。

Berman 问模型偏见如何产生。Mulyar 说，模型会继承训练数据中的模式和偏见，就像信用模型可能学到不受欢迎的关联。他举例说，语言模型可能更常把护士与女性联系起来，把水管工与男性联系起来。

Mulyar 说，最初 GPT4All 的训练样例来自另一个模型的 API，因此其偏见可能传递给衍生模型。公开数据集让社区能够检查和修改数据，但他也承认，人们可能故意制造有害偏见，并将模型用于自动化系统。

Mulyar 认为，开放有助于公众审查和建立防范有害用途的措施，而把控制权集中于一个组织会带来另一种风险。Berman 问偏见究竟源于互联网数据，还是模型开发者的决定。

Mulyar 区分了从预训练数据继承的模式，以及整理助手训练数据时作出的选择。拒绝协助违法行为或提供不确定的医疗建议，是刻意塑造行为的例子。他指出，此类限制也可能阻挡正当用途，比如游戏中虚构的医疗建议。

他提醒人们不要笼统断言本地模型比云端模型的偏见更多或更少：答案取决于模型及其训练数据。他说，最初的 GPT4All 数据集并不完美，社区成员利用 Atlas 地图找出了他们认为有问题的样例。

Berman 问过滤和偏见是否是两回事。Mulyar 认为过滤是改变模型偏见的一种方式：例如，删除带有某种拒答的训练样例，可能降低模型拒绝类似请求的概率。在他看来，每个模型都有某种偏见。

他说，用户觉得新发布的模型限制过多，因此团队已经开始训练限制较少的版本。他把这一快速调整作为开放数据支持干预的例子，同时承认开放也会带来滥用机会。

Mulyar 举了一个假设性的“自带偏见”例子：一家公司可以付费让人把训练数据中提到的竞争对手饮料替换成自家品牌。他认为，能够访问数据集有助于研究人员建立方法，发现或减轻这种操纵的影响。

谈到中心化时，Mulyar 肯定大型模型供应商创造了有用的 AI 助手并支持应用开发。不过，他担心随着商业压力增加，这个领域变得不那么开放。

他说，OpenAI 过去曾公开更多模型信息，但 GPT-4 报告省略了训练细节。这个决定促使他开发 GPT4All：他希望人们拥有替代选择，即使没有互联网连接也能使用这项技术。

Berman 提出一种观点：广泛可用的模型更容易被滥用。Mulyar 承认这一风险，但也担心企业权力和激励机制过度集中；他支持让更多人掌握模型。Berman 认为，中心化模型和本地模型可以共存，彼此形成制衡。

Mulyar 说，2023 年可用的本地模型总体上能力不如领先的云端系统，也更难使用，但它们提供离线访问和隐私保护，还能减少对供应商未来定价的依赖。担心员工向云服务发送敏感数据的公司可以转而使用本地模型。

被问及本地模型如何迎头赶上时，Mulyar 强调高质量助手交互数据的重要性，包括经过编辑、强化优质回复的样例。他说，GPT4All 用户可以自愿将对话贡献给公开、可下载的数据湖；共享默认关闭。

Berman 问贡献者是否可能被识别。Mulyar 介绍，用户可以选择把数据与本人关联以获得贡献署名，也可以匿名提交；他说欧洲用户可以删除已提交的数据。这些是他对项目当时做法的描述。

Mulyar 说，另一个重要因素是耗资巨大的超大模型预训练，资金充裕的组织在这方面有优势。他肯定 OpenAI 的贡献，并认为公开发布强大的基础模型有助于本地系统接近领先的云端模型。

谈到不同寻常的部署方式，Mulyar 描述了一个需要约 4 GB 内存的模型：它运行在一块小型 CPU 上，再连接 TI-84 计算器或 Nintendo DSi。计算器充当交互界面，本身并不存储和运行模型。Nomic 还为有创意的边缘设备用法设立了社区悬赏。

他认为，离线手机也可以运行模型，在没有互联网连接的地方回答问题。Berman 感叹日常设备也能提供信息访问，Mulyar 则肯定了众多前人的贡献，正是这些工作促成了近期进展。

Berman 问起 2023 年的一封公开信，该信呼吁暂停训练比 GPT-4 更强大的系统 6 个月。Mulyar 说，他只是粗略看过，对信件本身没有强烈看法，但担心有经济利益驱动的人试图阻碍进步。

谈到 AI 的长期作用，Mulyar 预测，对语言模型的调用将成为人与电脑交互的基本组成部分，社区工作将改进小型设备上的模型。他预计，开放模型将让人们完成有用的任务，而不必总是向第三方发送数据。

Berman 感谢 Mulyar，并向观众介绍 Atlas 和 GPT4All。Mulyar 说，GitHub 项目是寻找这一新兴生态并跟进其发展的最佳途径。