首次 AI 直播：模型传闻、RAG、智能体与观众问答

这是我的第一次测试直播，所以我先检查观众是否能听到声音并调整音量。我计划举办一场更正式的每周新闻直播，并邀请大家反馈配置情况。开头几分钟主要用于解决音频和屏幕共享问题。

我一直在征求有关全民基本收入的资料，因为我可能采访广泛讨论过这一话题的 Scott Santens。采访还没有安排好。我最初的问题是，给每个人发钱是否会导致通胀，但我不是经济学家，希望先学习足够内容，展开有实质性的对话，而不是预先假定答案。

观众问起匿名 X 账号“I rule the world”及其与 Strawberry 相关的帖子。我看到它的关注者不断增加，怀疑它很擅长吸引注意。它可能知道一些信息，也可能只是在放大传闻；我不知道账号主人的身份，而且见过一些我认为不实的说法。

该账号还提到所谓的 GPT-4o“large”，以及一个与 Strawberry 和 Q* 有关的代码仓库。我没有独立确认，也无法判断帖子中是否真的有新信息。我就可能发布产品发起投票，并推测一个容易辨认的表情符号和互动量有助于消息传播。这些都不能证实传闻中的模型或它与其他项目的关系。

我的剪辑师兼频道经理 Alex McCraw 正在帮助管理直播。我解释说，自己制作了大约 180 到 200 个视频后，他接手了剪辑，让我能够产出更多内容。有人问“GPT-4o large”是否指 64K 输出窗口，我回答不是：传闻讨论的是一个可能更强的模型，而非已确认的上下文窗口规格。

我喜欢 Anthropic 的模型，但经常回到 ChatGPT；根据我的体验，Anthropic 网站略显缓慢。一位观众问能否与开发 AI 产品的人交流；我经常与创始人交谈，未来可以邀请一些人参与问答。我也喜欢 ChatGPT 的网络搜索体验，但这些只是直播时对产品的印象。

有人问 AI 能否在原子层面控制物质，或创造难以想象的超级计算机。我提到 Mustafa Suleyman 的《The Coming Wave》，以及其中对 AI 和生物技术的讨论。我对原子尺度工程了解不足，无法作出预测。这个问题很有趣，但直播没有提供这类能力已经存在的证据。

我打开 ARC-AGI，这是一组视觉网格任务，系统必须从示例中推断变换规则。我认为，看似对人简单的谜题却让模型感到困难，这种对比很有吸引力。2024 年的历史奖项页面显示一个约 43% 的排行榜成绩和 85% 的大奖目标；但该基准的分数只是任务表现的一项衡量，不能证明 AGI，也不能完整定义 AGI。

我读《The Coming Wave》读到一半，觉得很有意思。我也想采访 Yann LeCun。一位观众问及 Elon Musk 和脑机接口；想起 Neuralink 的名称后，我讨论了他可能的长期设想，即通过增强人类来应对更强的 AI。这是推测性评论，并非已经展示的通往超级智能的路径或医疗主张。

关于 Tesla 可能投资 xAI 的问题，我提到 Musk 的社交媒体投票，并表示两家公司的业务可能互补，包括机器人与沟通领域。我希望 xAI 发布开放权重并建立生态系统。一项投票和我的看法不等于已宣布的投资决定，也不是财务建议。

有人问我是否获得 GPT-4o“large”的访问权限，我再次表示不知道它是否存在。我推测线上炒作与公司反应可能如何相互影响，但没有任何协调的证据。一位观众对我关于语言模型安全的看法提出质疑，我请他进一步解释担忧。

我考虑在未来直播中现场测试模型，也回答了关于 Rabbit R1 的问题：我已经不再使用它，但欣赏有人尝试打造新设备，也没有测试其后续更新。当观众担心模型知识和自主系统时，我说我不认为当前系统以这种形式有危险。这是我的判断，不是普遍的安全结论：风险取决于能力、访问权限、部署方式和滥用情况。

一位观众问应该用 RAG，还是用客户信息训练模型。我的默认建议是检索增强生成：检索相关材料，并在回答时将其作为上下文提供。我将它与用于行为和风格的微调作比较。这个区分有帮助，但微调也可能影响技能和知识，RAG、记忆和微调既不相同，也不互斥；正确设计取决于评估和需求。

有人请我推荐一台 1,000 美元以内、适合大学生的 AI 笔记本。我说选择取决于她想在本地运行模型，还是使用云端聊天机器人。我提到当时新推出的 Copilot+ 笔记本及其神经处理单元，同时指出它们无法匹敌强大的桌面 GPU。这是 2024 年的总体印象，不是经过具体测试的购买建议。

另一位观众想为公司政策和流程建立一个自然语言聊天机器人。我介绍了从托管服务到本地构建的 RAG 管线等选择，后者涉及文档分块和向量数据库。我提到之前一段由 Pinecone 赞助的教程，同时指出并非必须使用 Pinecone。选择还取决于团队希望进行多少定制和编程。

观众建议把文档上传到自定义 GPT，或使用 Claude 项目作为简单起点，也提到了 GraphRAG、AWS Bedrock 和 Azure AI Studio 等其他配置。我没有尝试所有这些建议。文档系统还需要适当的访问控制、数据处理、检索测试和引用检查；仅上传文档不能证明其安全或正确。

我对 GraphRAG 和 LangGraph Studio 感兴趣。我展示 LangGraph Studio 用于可视化智能体图及执行步骤的界面；我喜欢它能显示智能体处于工作流的哪个阶段。这只是对界面的查看，而非对其可靠性的详细评估。

有人问 Pinecone 的价格，我披露该公司赞助过我的视频，而且我认识那里的一些人。我展示免费套餐，并介绍 2024 年 8 月页面上显示的存储和向量限制；我当时还不需要付费账户。价格和限制会变化，因此观众应查询服务商，而不是依赖展示的历史数字。

一位观众问，是否有人在构建类似我之前称为 abstract AI 的想法。我收到过一些探索类似想法的人的消息。我的观点是，执行和有能力的团队往往比单独的想法更重要，这也影响我对投资和保密协议的看法。

我介绍自己的背景：我很小就开始编程，后来从计算机科学专业转到经济学，大部分编程知识是自学的。我构建过原型和软件业务的部分代码，但没有担任过全职工程师。目前我喜欢制作视频，也做一些咨询，不想再创办一家风险投资支持的公司。

关于传闻中 GPT-4o 发布的非正式投票约有 700 票，其中 63% 的参与者回答会发布。这衡量的是参与投票的观众期待，并不能说明传闻是否属实。有人问我是否会投资 abstract-AI 团队，我说会考虑市场和自己的专长，然后重点关注团队及其执行能力。

一位观众想在 Mac 上实现带来源链接的文档检索。我描述了一种方式：在向量索引中将元数据与文档分块一起存储，使检索到的段落能够指回原始文档及其位置。完整实现还需要从 PDF 提取文本并准确映射引用；这只是思路概述，不是开箱即用的实现。

我说自己很享受这场直播，并计划再办一场。有人问到 Gemini，我表示它此前在我自己的测试中表现令人失望，但我认为 Google 能访问 Gmail、Calendar 和 Drive 等工具，具有潜力。我也认为 Apple 的硬件和应用可能帮助其提供有用的智能体。这些是 2024 年的个人判断，并非未来产品表现的证据。

我推测，拥有硬件、模型和日常应用访问能力的公司，可能构建代表用户行动的智能体。我也把 Meta 和 Microsoft 列为可能拥有有用平台的公司。一位观众提出假设有感知 AI 的权利问题；我没有确定答案，只说如果人们有一天认为系统具有感知能力，就需要思考其道德地位。

我没有尝试 Apple Intelligence 开发者预览版，因为我当时的 iPhone 不受支持。我认为 Apple 往往在其他公司之后进入市场，再以自己的方式整合产品，同时承认我不知道它的 AI 方法会有多好。

一位观众问 GPT-4o 现在是否能正确数字符。我测试它下一条回复中有多少个词，发现回答错误；然后问“strawberry”中有多少个 r。模型说两个，实际上有三个。这些只是单次交互，并非对模型整体表现的统计测量。

一位观众提出家庭谜题：Alice 有三个兄弟和两个姐妹；她的一位兄弟有多少个姐妹？模型回答三个——Alice 加上她的两个姐妹——在所述家庭关系下是正确的。我请观众将来建议测试题时也附上解答，以便我检查结果。

另一个问题涉及用 AI 为直播或体育赛事选择镜头角度。我提到现有游戏 AI 和自动视频工具，但不确定哪些直播系统能够完成所请求的具体任务。我还查看 Flowise 和 FAISS，并表示自己研究得不够深入，无法给出详细评估。

有人问到越狱或不受限制的模型，我表示曾测试过一些，也曾观察到质量降低。我对原因了解不足，无法从这些例子作普遍推论。我提到视频剪辑中的跟踪工具和体育制作可能相关，但没有声称它们解决了观众提出的具体问题。

讨论以 Google 收购 YouTube 结束。我查阅 2006 年的公告，看到这是一笔 16.5 亿美元的股票交易；事后来看，我认为这是一次极为成功的收购。我也指出，当时 YouTube 规模更小，还面临与版权相关的不确定性。

我感谢观众帮助测试直播，并表示计划于周五太平洋时间上午 10 点再举办一场。现场提问和投票塑造了这次对话，我也打算让未来的直播更有条理。