Theo 谈 PewDiePie 的本地 AI 项目、训练数据与模型安全

Theo 介绍自己对 PewDiePie 讲述本地 AI 助手和 Ajax 模型开发过程的视频所作的回应。他先开玩笑说这位创作者的观众很少，随后讨论该项目涉及的数据、微调和本地模型的实际限制。

PewDiePie 将 Ajax 介绍为 Odysius 助手使用的微调模型，目标是浏览、搜索、处理邮件和使用日历。他说项目期间 OpenAI 两次封禁了他；视频以幽默方式讲述此事，没有独立确认封禁原因。

PewDiePie 说，项目目标是让本地 AI 更容易运行。Theo 怀疑并非所有本地模型都有足够的编码能力，但也承认 PewDiePie 拥有相当多的硬件，可能比一些爱好者考虑得更周全。

PewDiePie 说，他希望训练一个在用户遇到问题时能够改进的模型。他表示自己的助手以隐私为原则，默认不收集用户对话，因此他请用户自愿提供数据，而不是悄悄收集。

Theo 说，T3 Code 通常只记录 token 使用量，不记录用户对话，且即使这些遥测也可以关闭。他考虑过让用户自愿分享失败案例及历史记录，以改进产品，但认为安全的同意流程需要大量工作，目前不是优先事项。

对于自己的工作，Theo 介绍了通过定制代理转发推理请求，并将个人请求和响应存入本地 ClickHouse 数据库的做法。他用这些记录审视自己的使用情况、调查失败。他说这个设置非常个性化，也提醒类似配置可能带来账号风险。

Theo 估计，自己的个人记录约有 5000 亿个 token，并将其与 T3 Code 的汇总使用指标区分开来。他说产品记录的是模型、推理等级和 token 数量，而非用户的提示词与响应；这些使用量数字来自他自己的说法。

他认为个人记录有助于了解哪些方法有效，未来也可能用于训练其他模型。他开玩笑说可以把数据提供给 PewDiePie，同时指出这些数据偏向 T3 Code，可能让模型误以为该工具总是可用。

PewDiePie 说，他建立了提交网站并制作教程，方便用户自愿提供训练数据，但响应很少。Theo 观察到，即使分享完全自愿并声称匿名，很多人依然不愿贡献数据。

PewDiePie 讨论了使用更强模型为小模型生成训练示例，并说隐藏的推理过程增加了难度。Theo 借此讨论智能体轨迹中哪些内容对开发者可见，以及无法查看内部交互时的挫折感。

Theo 认为，展示一个智能体如何向其他智能体委派工作的示例，通常需要专门生成，而不是从普通网页中收集。他认为部分前沿系统的协作能力强于许多其他模型；这是他的观察，并非受控对比。

他声称 OpenAI 的 Codex 中部分子智能体上下文经过加密，并与他能在其他产品中查看的内容作比较。他也猜测推理摘要如何生成，以及另一家供应商是否有意降低轨迹质量；他明确表示自己不知道具体机制。

PewDiePie 就一篇涉及隐藏推理的论文开玩笑，随后说自己没有做刚刚描述的违规行为。他讲述自己失去访问权限、恢复后又被封禁的经历。Theo 以夸张的惊讶回应；这只是讲者带有讽刺意味的叙述，执法原因没有独立核实。

话题转向模型拒答。PewDiePie 说，他希望减少自己模型的拒答。Theo 认为不同模型的表现有差异，并以政治敏感问题的不同回答为例，反驳同一国家的所有模型都会表现一致的说法。

Theo 提醒，改变拒答行为可能产生超出开发者原本目标的影响。他提到一项自己记不起名称的研究，并描述给予约束较少的模型本地环境访问权限所带来的安全风险。视频没有独立证实他的轶事和数字。

PewDiePie 介绍自己使用开源 Heretic 项目调整拒答行为，并说这可能损害模型质量。他表示，自己在伤害他人或自身的问题上划定了个人界限，并请用户负责地使用模型。Theo 强调，改变一种行为也可能影响其他行为。

PewDiePie 将 Ajax 第一版描述为 Odysius 助手使用的小模型，可以帮助处理收件箱、浏览和笔记。他说选择较小的规模是为了让更多人能在本地运行，并表示这仍是需要继续完善的早期版本。

他介绍了 GRPO 实验：重复执行任务、强化成功的尝试，并在合适的任务用完后生成更多任务。他说进展曾先改善、后停滞，随后再次改善。Theo 认为问题集合的规模和多样性很重要。

Theo 为不训练模型的开发者提出类似方法：收集工具调用失败和智能体走错路径的案例，将它们转化为评估，然后调整指令或代码库，测试环境是否更能引导智能体完成任务。

PewDiePie 讲述自己不断推迟发布，同时反复优化、消融、量化和做基准测试。Theo 将模型开发比作工程，也比作养植物：没有自动出现的终点，开发者也无法完全控制模型在训练中如何变化。

PewDiePie 认为，为检查邮件这样的小任务运行大型模型似乎很浪费，因此更倾向于针对特定助手训练小模型。他对大型模型硬件和电力需求的估计只是说明性的说法，并非视频中的实测结果。

Theo 部分不同意。他认为大型托管模型处理简单工作时也可能在成本和性能上表现不错，并解释混合专家模型每次请求可能只激活总参数中的一部分。参数总数本身不能决定每次查询的计算量。

PewDiePie 说，他希望本地 AI 帮助人们查找信息、节省时间，而不取代创造力或思考。Theo 也认为由自己控制的本地邮件整理很有吸引力，同时开玩笑谈到人们给这种便利性安排的优先级。

PewDiePie 感谢 Odysius 的维护者。Theo 比较该项目与 T3 Code 的 GitHub 星标数，并开玩笑说 GitHub 改变仓库展示方式可以成为他判断通用人工智能的标准。这是幽默表达，并非基准测试。

PewDiePie 最后表示，AI 不应取代学习和基础理解。Theo 跳过剩余的快问快答，称赞项目背后的技术追求，并结束了自己的回应。