Matthew Berman 谈 Llama 2、AI 工具、机器人与 LK-99 的超导主张

本周的 AI 新闻从 Meta 的模型发布和机器人，延伸到新工具以及一款令人担忧的网络犯罪产品。我还想讨论一个关于超导性的非凡主张，不过在这段视频于 2023 年 8 月制作时，它仍有待验证。

据报道，Meta 正准备在其社交平台推出具有不同人格的 AI 聊天机器人，例如用冲浪者口吻提供旅行建议，或模仿 Abraham Lincoln 说话。据称，其目标是提高用户对旗下产品的参与度。

当时也出现了几个未审查版 Llama 2。Ollama 展示的例子中，标准模型拒绝回答关于电影、辣味蛋黄酱和假想拳击比赛的无害问题，而修改后的版本给出了回答。我觉得这些拒答很令人沮丧：安全行为可能妨碍普通问题的回答，不过少数例子不足以证明某个模型总体更好。

将 Llama 2 称为开源也引发了争议。Open Source Initiative 认为 Meta 的许可证限制不符合开源定义。具体来说，如果被许可方及其关联公司在发布时的前一个月拥有超过 7 亿月活跃用户，就需要另行获得许可证。

Meta 发布了 AudioCraft，可以根据文本提示生成音频。它提出的用途包括帮助音乐人探索作曲，以及让独立游戏开发者以可承受的成本制作音效和环境声音。

据报道，Meta 还在开发 AI 生成内容标签和消息摘要。其 Open Catalyst 演示将 AI 用于模拟催化剂反应活性，并声称在这项研究任务中比现有计算方法快一千倍；这并非针对所有材料科学计算的笼统结论。

YouTube 当时正在试验 AI 生成的视频摘要，帮助观众决定看什么。这些摘要不会取代创作者撰写的视频描述。我想知道，既给观众有用信息，又避免信息多到让他们不再观看，二者之间的平衡在哪里。

与此同时，Stack Overflow 正在推出 OverflowAI，利用其编程知识库提供答案。我发现自己遇到代码错误时，会先询问 ChatGPT，而不是先去 Stack Overflow，因此我很想看看这个多年来帮助开发者的服务会如何适应。

一篇报道将 FraudGPT 描述为一项订阅服务，宣传用途包括鱼叉式网络钓鱼邮件以及其他与网络犯罪有关的活动。据报道，价格为每月 200 美元。让我感到惊讶的是，订阅软件的商业模式居然也进入了互联网的这个角落。

AI 生成的网红也在积累粉丝并获得品牌合作。我担心不受物理限制的理想化形象，会加剧经过修饰的社交媒体照片已经带来的压力。这是我的担忧，不是一项经过测量的心理健康研究结论；给生成内容加标签可能有助于人们识别自己看到的是什么。

模型越来越能够通过 API 调用使用工具。我最近评测了 Gorilla，它旨在帮助模型使用 API，并在文档变化时做出调整。ChatGPT 此前已有插件，但有意思的方向是帮助模型使用那些没有为其逐一编程的工具。

我可以想象一个通用模型协调各个专业模型，在需要时向它们请求各自擅长领域的帮助。在我看来，这可能是通往 AGI 的路径之一，不过这只是预测，不能证明这些工具已经实现了 AGI。

我本周选出的 AI 生成视频，看起来是一台机器人参加 Power Slap 比赛。这并不是真的：有人使用 Wonder Dynamics，在现有视频中用机器人替换了一名真人选手。效果足够逼真，展示了合成视频如何改变一个场景。

Google 的 RT-2 研究将视觉和语言模型引入机器人领域，把学到的概念转化为物理世界中的动作。Berman 强调它可以在任务之间泛化，还能使用更复杂的推理提示。这些是特定机器人能力的研究演示，并不是通用智能的证明。

最后一个话题是 LK-99。2023 年，研究人员声称这种材料可以在室温和常压下表现出超导性。我当时觉得这一可能性令人兴奋，但该主张仍在审查中，需要独立验证。

我设想了电池续航更长、电动车性能更好、芯片温度更低等可能的影响。在适当条件下，超导体能以零电阻传输直流电，但这本身不会消除完整设备中的所有热量或损耗，也不能保证我设想的那些具体改善。

后来的证据改变了情况：2023 年 11 月的一项复现研究报告称，归于 LK-99 的电学和磁学异常可能来自硫化铜杂质的结构相变，而非超导性。最初的室温超导主张并未得到证实。参见研究人员的[论文](https://arxiv.org/abs/2311.03558)。