30 秒看懂
在 Roboflow 的 RF100-VL 基准上,即发表时最好的多模态模型 Gemini 2,只拿到了 12.5%。Joseph Nelson 认为,今天的计算机视觉大致处在语言在 GPT-4 和 ChatGPT 出现时的位置,原因在于视觉世界的长尾更肥,而且大多数有用的工作需要在边缘设备上以毫秒级完成,而不是等待 40 秒的云端往返。务实的路径是:先用前沿模型证明任务可行,再通过神经架构搜索蒸馏出一个自己拥有的 RF-DETR。战略背景则是由中国主导的开源竞赛,美国的主要开源发布方一直是 Meta,英伟达看起来是后备力量。
- 1在 RF100-VL 这个 NeurIPS 基准上(涵盖真实的工业、医疗、动植物和文档任务),论文发表时最好的模型只得了 12.5%。这些任务的指令,与交给人类标注员的一样。
- 2Nelson 打了个比方:视觉 Transformer 出现于 2020 年,比《Attention Is All You Need》晚了三年,所以今天的计算机视觉大致相当于语言在 GPT-4 和 ChatGPT 出现时的阶段。
- 3语言是人类的构造,视觉世界则不是。一天里出现的不同场景,比你读过的不同词汇还要多,所以视觉的长尾更肥,也更难覆盖。
- 4从云端前沿能力到能在 Jetson Orin 或 iPhone 上运行,大约有 18 个月的延迟,这就是为什么温布尔登的即时回放等不了 40 秒。
- 5生产中的常用模式是:先用 SAM 3(或其他前沿模型)自动标注,再训练一个自己拥有、能在边缘实时运行的小型 RF-DETR,一块 A100 上可以跑多路视频流。
- 6在语言领域,美国在闭源和开源模型上都处于领先;在视觉 AI 方面,美国几乎从未领先,因为制造业,因而也就是“看见”,在中国经济中的优先级更高。
按章节阅读完整文稿
视觉大约处在语言 GPT-4 时代的位置,而且它会变得更重要
Nathan Labenz 是《The Cognitive Revolution》的主持人,也是 Waymark 的创始人。他欢迎 Roboflow 的首席执行官 Joseph Nelson 做客。该平台服务超过 100 万名工程师,以及超过财富 100 强一半的企业,帮助它们把专有的图像和视频变成竞争优势。Labenz 在 2022 至 2023 年间尝试用 CLIP、BLIP 和 BLIP-2 理解小企业的照片库,这次“绕路”给了他一个理由,在大约 90 分钟里补上几年的进展。Nelson 从研究史讲起。视觉曾是早期深度学习的主场:ImageNet、MNIST,以及猫狗分类。随后语言在 2017 年凭借《Attention Is All You Need》率先跃进,经历了五年的规模定律(scaling law)、Chinchilla 和 GPT-2 阶段,又在 2022 年随着 GPT-3、GPT-4 和 ChatGPT 迎来爆发。从 Transformer 论文到近十亿周活用户,这五年的时间差,如今正在视觉领域重演,因为视觉 Transformer 出现于 2020 年。
各种模态正在相互碰撞融合,大脑同时从语言和视觉获得更多语境。不过差异依然重要。Nelson 的生物学类比是:头脑里有一个大型的、类似大语言模型(LLM)的推理引擎,加上视杆细胞、视锥细胞,以及一个以快速、类似“爬行脑”的方式做判断的视觉皮层。生物把比任何其他感官都多的神经元分配给了视觉,他预计机器学习系统也会以同样的方式分化。实际上,这意味着大量视觉任务要在边缘设备上运行,要求低延迟,并面对真实世界:生产线、正在发运的产品、显微镜下的细胞、搜寻星系的望远镜、机器人。语言任务通常可以假设一个长时间运行的数据中心作业,视觉任务往往做不到。
语言只存在于人类所在的地方,存在于人类设计的系统之中。“世界远比语言大得多。”据他的感觉,一天里出现的不同场景,比你读到的不同词汇更多样,所以长尾更肥。大约每 30 天就有 100 万开发者下载 Roboflow 的开源项目,财富 100 强中约有一半在这个平台上构建产品。实际应用的范围,从一位想用摄像头证明骰子在作弊的《卡坦岛》玩家,到加拿大 YouTuber Dave's Armory,他造出一台喷火除草机器人和一把自动驾驶沙发;从温布尔登的即时回放,到 Rivian 的质量检测。Nelson 相信,其他世界也正在逐渐认同的一点是:视觉 AI 将比单独的语言更大、更重要,因为 AI 只有走进真实世界才能发挥潜力。他乐观地认为,我们正接近视觉的“ChatGPT 时刻”,基础设施陆续上线,而如果消费品无法“看见”,它们就会令人失望,这将催生一场寒武纪式的爆发。
数人数已经接近解决,像素级的精确定位则远未解决
Labenz 对“已解决问题”的工作定义是:有没有哪项视觉任务,只要我们真的全力去做,就解决不了,哪怕成本和延迟都很糟糕?Nelson 的定义更严格,也更接近“ChatGPT 时刻”:你去问模型,它就让你惊喜,就像你不再训练情感分类器,而只是跟它聊天。按这个标准,视觉的一部分已经解决了,但远没有语言那么解决。从第一性原理看:Unicode 把所有文本编码进内存的效率,比一张三通道 RGB、每像素 0 到 255 的单张图像要高得多。试着记下一天里你看到的每一个物体,你会得到一条钟形曲线:人、车、食物位于胖胖的中间;给汽车换机油则落在长尾上。正因为尾部更肥,要在模型里表示它们就花了更长时间。
所谓“已解决”的任务,有些确实如此。数一数这张图里有多少人。OCR 也越来越是:他很看好的一个 GLM 模型能实时运行,能回答小票上莎莎酱多少钱,或者从 Google 街景中读出房屋地址,几乎总是正确的。多模态模型,比如 Gemini、Molmo 这类开放模型,还有 DETR 系列 Transformer,正在把这条钟形曲线的外侧推得更远,使得一天中更多的情况可以在零样本或少样本下被理解。如果你处于曲线的中间,那就是已解决的问题。如果你问的是某个惊人的、从未在训练中出现过的东西,你就会发现差距。无论哪种情况,期望都在变得更快。
另一个复杂因素是边缘。你想要的是立刻得到答案,在网络摄像头或手机上,而不是等待 40 秒。Nelson 的经验判断是:多模态云端模型中出现当前最优(SOTA)能力,到能在 Jetson Orin 级别的计算机或 iPhone 上运行,中间大约有 18 个月的延迟。这段延迟加上长尾,就是为什么即使大多数问题在你愿意微调并承担推理成本的前提下都可以处理,视觉仍然让人觉得没有解决。
在真实用户任务上,最好的模型只拿到 12.5%
Labenz 最近没有遇到过前沿模型根本“看不见”的图像用例,不过他记得 ARC-AGI 谜题中,模型失败是因为连哪个方格是什么颜色都描述不出来。Nelson 的团队会花时间设定预期:是零样本、少样本,还是需要更多表示。他们把 Twitter 上靠感觉的评测汇总到 visioncheckup.com,相当于带你的 LLM 去验光。定位(grounding),也就是分割和检测,是经常缺失的一环。当模型无法把一个词放进填字游戏的格子里时,他会意外地失望;同样的线索如果当作纯文本,模型反而做得更好。测量以及其他本质上要求精确、像素级的任务,也属于同一类。据实验室那边的传闻,后训练更关心用户意图,分割被当作一个工具调用,所以像素级精度还远未解决。
在速度与其他指标的帕累托权衡上,速度仍然令人失望。Nelson 用 Gemini 3 自动标注时,每张图要等 40 秒,而且生成式的不确定性让下游结果变得混乱,当他需要精确、一致的标签时更是如此。Roboflow 维护着 playground.roboflow.com,用来比较 SAM 3、Gemini 和 Claude Opus;他会找到失败案例并报告,结果却无法复现。问题出在模型本身,Roboflow 的包装层并无关系。速度之后是可复现性。再之后是表示能力:世界上仍有很多东西没有被理解,包括一个东西相对于另一个东西的位置。
少样本确有帮助,但并非万无一失。在 NeurIPS 上,他们发布了 RF100-VL:一篮子 100 个开放数据集,来自 Roboflow 用户,涵盖工业、医疗、动植物、文档和其他杂项。模型被要求依据人类标注员会拿到的同样指令完成分割。被评测的有 Gemini、SAM 3、OpenAI 的模型、OWL-ViT 2 和 Grounding DINO。发表时表现最好的是 Gemini 2,在各领域的总体得分是 12.5%。这不像 COCO 或 Objects365 那样经过精心挑选的研究数据集,而是人们真正使用模型的场景。CVPR 的一项竞赛在 20 个数据集的子集 RF20 上提出问题:给 1 到 5 张图像示例,能把性能提高多少?对单个模型来说,最大提升大约是 10 个百分点。从 12% 的基线出发,这很有意义,但并不是灵丹妙药。Nelson 仍然看好少样本的图文提示。结论很清楚:我们需要对现实问题更好的表示,而距离“彻底解决”还有很长的路。
先用 SAM 3 证明可行,再拥有一个运行时间不到 10 毫秒的小模型
沿着帕累托曲线,从前沿 API 往下走,理由包括:响应更快、成本更低、可以部署在边缘、数据不必经过网络传输,以及把 AI 当作自己的知识产权来拥有,同时兼顾隐私和安全。选择路线时,要从要完成的工作出发。许多视觉问题需要即时响应,比如生产线上通过的东西、实时的体育转播,这就让它属于实时类别,要求计算与数据就近部署,还要有一个你拥有权重的模型。这就是 Roboflow 投资发布模型并支持开源仓库的原因。Nelson 对开源 AI 持乐观态度:一方面它让每个人都能享受收益,另一方面它也是自下而上的发现引擎。
正在崛起的模式是蒸馏。SAM 3 是一个可提示的开放词汇分割模型:找出所有的羊、人、冰球运动员。它是当前最先进的,但并非万无一失。一家在温布尔登和美国网球公开赛做即时回放剪辑的客户,把算力搬到了球场上,因为直播只有不到 10 毫秒的时间把内容送上网络。能跑 SAM 3 的算力是存在的,只是不划算。他们并不需要一个包含扑克筹码和鹿的开放词汇表。做法是:拿去年的视频,提示 SAM 3 找出人、网球、球场和球网,自动标注出一个高质量的专用数据集,然后训练一个自己拥有的小模型,也就是 RF-DETR,它在实时分割和检测上已经是 SOTA。它的效率足够高,一块 A100 就能同时跑多路视频流。更便宜的推理会打开更多可能性。先把模型用到失效为止;如果它有效,就把它变成自己的,再让它适配边缘设备。
即便模型吃掉了越来越多的任务,用一个外围框架(harness)也没什么丢人的。你可以让 Gemini 数网球选手,拿到一个数字;而检测型 Transformer 返回的是人的边界框,再用一小段快速代码统计各类输出的数量。传统的后处理同样可以用。多路视频流不间断地推送到云端,相比自有算力非常昂贵。语言领域已经从“一个模型统治一切”转回到领域专用的专家模型;视觉本来就在这一阵营,因为系统往往要在算力受限的地方运行。
需要多少个 9 的精度是商业问题;工厂里几百张图片或许就够
Labenz 想要规模定律(scaling law)式的直觉:如果零样本失败,那是需要 10 个上下文示例、100 个用于小规模微调,还是 1000 个?当任务很窄时,这又与模型大小有什么关系?数据量取决于投入生产前你需要几个 9 的精度。如果替代方案是没有人盯着,比如零售店或博物馆里没人结账,那么一个准确率 80% 的计数模型就可以上线。生产 IV 袋的医疗制造商则恰恰相反:泄漏缺陷,以及袋中的微粒物,都会危及生命。他们需要非常高的召回率,并乐于用视觉来辅助人工、实验室检测或抽样,然后逐步转向更可靠的系统。可接受的准确率是一个商业问题。
需要多少张图片,取决于场景有多少变化。一端是开放世界中的自动驾驶。Nelson 回忆起大约五年前 Andrej Karpathy 在 CVPR 上的一次演讲:找一个停车标志,它不就是同一个红色八边形吗?错了。它可能被灌木挡住,可能写着“仅右转时有效”,可能立在校车上,可能是临时的,也可能立在一扇只有升起时才看得见的门上。对一辆车来说,PB 级的视频也不够。与之对比的是生产电动汽车电池的生产线:缺陷的长度和表现各不相同,所以 OpenCV 的规则很脆弱,但电池的截面扫描远比开放道路有限。在受控环境里,你大概只需要几百张图像,仍然能得到有用的东西。
模型大小的直觉依然成立:更小的模型更快,但通常召回率或精确率更低。RF-DETR 系列从 nano 一直到 2XL。到了 2XL,经过微调的模型比微调后的 SAM 3 更准确,而且快 40 倍。不过那是固定的类别列表,而不是开放词汇。在小型一端,pico 或 nano 模型在拥有 4 GB 内存的 Jetson Nano 上能跑到每秒 180 帧以上。超市货架上的橘子,与 IV 袋中的颗粒,区别就在于:一个小模型能否跨过业务底线,还是需要一个大一些的模型。用更小的模型“勉强够用”并不是正确的框架;用更少的算力在更大规模上部署,也许才是最优策略。问题更难、数据更多、模型更大,这些预期都成立。
中国长期领跑开源视觉,Meta 是美国的例外
Labenz 问,谁来发布开源视觉模型?中国的实验室是不是在蒸馏某条捷径?如果 Meta 新的 AI 领导层失去兴趣,美国的板凳会不会空无一人?Nelson 认为,关于开源模型供给的未来,既有值得担心的理由,也有值得乐观的理由。在视觉 AI 方面,美国几乎从未领先,而在语言上,无论闭源还是开源,美国都一直处于前列。制造业在中国经济中的分量,以及视觉在制造业中的分量,说明了为什么“看见”在那里是高度优先的事情。他点名了几个团队:阿里巴巴的 Qwen 团队,Qwen3-VL 世界一流,在视觉语言推理上与闭源模型不相上下,尽管近期的研究员变动可能让这一点不那么稳固;GLM 团队,一个 9B(90 亿参数)的混合专家模型,在 OCR 上超过了闭源模型;还有 DeepSeek 的 OCR 论文,其真正的创新是一个数据处理技巧:把页面截图作为输入,能得到比可读文本更多的 token,因为理解上的损失远小于压缩带来的收益。
美国并非空无一人。Meta 发布了 Segment Anything 系列;SAM 3 是全球最好的开放词汇模型。往前追溯到 FAIR 与 Yann LeCun 的团队,有 Detectron 2、Faster R-CNN、DETR,以及 DINO 系列。人们拿 Meta 的语言模型开涮,却低估了它在视觉 AI 上一贯的出色表现。对一家必须理解社交网络照片、并押注智能眼镜的公司来说,这不难理解。微软有多模态的 Phi 系列。艾伦研究所有 Molmo,尽管资金波动是个热门话题。在扩散模型方面,有来自欧洲的 Mistral 和 Black Forest Labs。英伟达在开源上投入巨大;Nelson 认为,按数量计,英伟达如今拥有最多的开源模型仓库。Nemotron、Cosmos Reasoning,以及他与开源总监 Nader 的一次对话,聊的是如何让这些模型越来越多模态化。
一家不是曼哈顿规模数据中心的公司,该如何立足?RF-DETR 在实时目标检测和实例分割上为美国重新夺回了 SOTA。在此之前,中国实验室的 LW-DETR 以及相关的 DINO 系列工作领先,而且更难微调。RF-DETR 是第一个实时实例分割 Transformer,据他们称,它在逐像素分割与检测上是最快也最准确的。他们的赌注,Nelson 当时并不确定能否成功,是一个窄任务,一个在边缘设备上有用的小模型,而且还没有人充分关注。他们采用了 DINOv2 骨干网络、权重共享的神经架构搜索、在 Objects365 上做的预训练(可迁移到 COCO 以及用户的微调),外加分割与检测头。Roboflow 各轮融资累计约 6300 万美元,不算少,但也不是基础模型那种动辄数十亿美元的规模。检测模型在去年四月发布,分割模型在秋季发布,采用 Apache 2.0 许可,不像 YOLO 的某些版本如今需要商业授权。“你们这些小小的 Roboflow 朋友,正在把美国放上地图。”中国的 LW-DETR 团队已经回应,但没能超越这项工作。如果 Meta 或英伟达明天停止发布,整个开源界都会受到打击,因为改进会把最好的想法撞到一起。他乐观地认为,英伟达会填补 Meta 留下的空缺。
权重共享的 NAS 在一次运行中训练数千个子网,然后让智能体挑选曲线上的那个点
Labenz 把神经架构搜索(NAS)听成了递归式自我改进的一次小试牛刀,他想要的是“尤里卡”时刻,而不仅仅是苦功。普通的 NAS 是有依据的网格搜索:训练一个模型,测量速度和精度,然后重复。他们发表过论文的权重共享 NAS,在单次运行中并行训练数千种子网配置。每一步都会抽出一个子网,把它的 patch 尺寸、解码器个数、query 数目、输入图像的分辨率和注意力窗口这些参数定下来,用到的是可变形注意力(deformable attention)。推理时,可以对这些子网中的任何一个进行采样。一次 NAS 运行的效率不如一次普通训练,但也没有差上 7000 倍。对一家融资 6300 万美元、想要发布模型的公司来说,这是一次巨大的解锁。他们还不得不为不支持可变形注意力的推理引擎重写相关实现,等到英伟达生态中的 TensorRT 支持之后才能使用。DINOv3 已经发布,可以想象会有怎样的实验。
任何人现在都能在自己的数据集上运行 NAS。它输出的是速度与精度之间的帕累托前沿,你选择停在哪里。当它在 Objects365 上奏效后,他们问它在下游是否也有效,于是推出了托管的云端 GPU,可以在任何数据集上做 NAS。如果你在自己的数据上做 NAS,其他任何架构都不可能落在那些优化点上,那就是一个独一无二的模型。对于普通人来说,有一个“简单按钮”:运行 NAS,启动各个子网,在曲线上点一下。产品的核心思路是互操作性,以及通过强默认值逐步展示复杂性。有人可以自己重新实现 NAS;把它做得更容易用,能让人们相信基准测试是可以复现的。开源的 inference 包只需一条 pip install,并带有针对视觉的 GPU 优化,比如在 CPU 上缩放图像等。
智能体(Agent)正在成为最大的用户。Roboflow 开放了命令行工具(CLI),让 Claude Code、Codex 等工具可以执行平台操作,比如“去帮我优化一个模型”。MCP 与 CLI 之争仍在继续,至少 CLI 已经存在。他们的灵感来自 Vercel,后者在前后端云之上叠加了一个聊天智能体,让它在构建的同时选择基础设施。Roboflow 尚未发布的 Workflows AI 智能体,可以接受“统计穿过这条线的人”或“监控十字路口的车辆”这类指令。最难的部分是判断意图。一旦知道 Labenz 说的是某个路口的车辆,那么用 SAM 3 还是用一个已经认识车辆的预训练 RF-DETR,就是容易回答的问题,而且你还可以问他指的是路口的哪一条线。易用性加上良好的默认值,智能体使用同样的 CLI,再加上一个自家的“向导”:这就是产品的技术栈。你不必了解一次训练运行中的每一个子网,也能获得价值。
如果品味无法被基准测试,“苦涩的教训”就不适用
Labenz 的公司 Waymark 为小企业制作 30 秒的电视广告,现在被要求帮忙做展示广告。过去的痛点是审美评估。开源的审美模型,以及一家他记得叫 Every Pixel 的公司,能分辨出分布的顶部和底部,中间却是一团糊。基础模型现在可以告诉你哪些图片会让一家企业引以为傲,但要用它们去扫描庞大的图库,速度慢、成本高。有没有一个适合这件事的小型开源模型,还是这件事过于小众?
审美之所以棘手,是因为模型能够递归改进的任务,恰恰是能够做基准测试的任务。一旦能做基准测试,你就会堆叠算力,Sutton 的《苦涩的教训》就开始起作用。品味因人而异。人们偏好 Midjourney 的画风,胜过 ChatGPT,而 ChatGPT 又胜过 Gemini。LAION 的审美预测器,之所以发布,是因为该团队也做生成图像,它仍然是 Labenz 见过的最好的专用工具。Facebook 不允许文字占据展示广告超过 X% 的面积,这是基于规则的约束,而不是品味的约束。Nelson 建议的做法是基于人类反馈的强化学习(RLHF):根据某个客户的品牌指南和广告历史训练一个“氛围检查”模型,也许采用少样本方式。难点在于,营销的首要任务是脱颖而出。严格遵守指南,你可能在风格上完全正确,却没能穿透噪音。简短的回答是:除了 Waymark 已经在做的之外,没有什么出色的零样本审美模型。较长的回答是:这正是“可以用客观指标通过后训练取胜的任务”与那些松散的、无法简单靠堆算力解决的任务之间的区别。
新的 S 曲线是世界模型、视觉-语言-动作模型,以及作为工具调用的视觉
Nelson 关注的方向分为两类:延续的路线和新的 S 曲线。延续的路线是:一切都 Transformer 化。扩散 Transformer 和视觉 Transformer 不断吞噬任务;RF-DETR 就是把这套配方应用到了实时场景中。更靠近前沿的方向,是 DINO 系列中的自监督学习。DINOv3 表明,你可以在无需大量有监督标签的情况下,把一个骨干网络训练出良好的潜在理解能力,然后再接上检测、分割或字幕生成的头。与下一个 token 预测或 CLIP 的带字幕图像不同,这种无监督的突破来自十亿量级的图像,以及学生-教师的训练配方,包括 patch 与 gram 锚定,因此更大的教师可以验证学生。如果你看过足够多的卧室,就知道台灯通常放在床头柜上。这仍然有点反直觉:把 patch 大致独立地对待,就像图像版的词袋模型,却能得到场景理解。空间推理较弱是代价;交叉注意力则是后来的技术用来表示事物彼此相对位置的办法。他们没有公开数据集,他认为有超过十亿张图像。
新的 S 曲线。世界模型(world model),比如 V-JEPA、World Labs 以及各种技术,旨在用一种新架构来理解场景和地点,默认是多模态的,有时是预测下一场景的视频,有时是对某个视角的扩散。它们会给出真正的物理、空间推理和开放式任务吗?大概会;有趣的问题是在什么时间尺度上,而这一点他并不确定。当下实用的是:Cosmos Reasoning 至少可以作为世界模型式的系统,用于合成数据,最多能用于在空间中导航。他把视觉看作读取权限,把机器人看作写入权限,世界模型则是两者的混合:要写,就得先能读。他认为,Sora 2 已经具备了其中的一些基础。第二条曲线是视觉-语言-动作模型(VLA):输入指令,机器人行动,比如把电脑向左移动 50 厘米。英伟达的 GR00T、谷歌的 RT-2,以及更年轻的创业公司都在做这件事。预计它们会有同样的模型大小与通用性分布,并且会是边缘就绪的,因为嵌入式智能必须实时运行。他认为 VLA 仍被低估了。
第三条,虽然不是视觉独有的:推理时扩展(inference-time scaling)。视觉变成更大的智能体系统里的一个工具调用。Nelson 经常用 Gemini 代替说明书:这个遥控器按钮是做什么的?怎样重新点燃热水器的引导火?(对一个农场主的儿子来说,这事风险很高。)搜索模型,找出说明,然后小心地继续。这一类别,即巨大的算力预算,加上后训练与测试时计算,才刚刚起步,并催生了视觉智能体:整理我的图片,筛选符合品牌调性的展示广告。编程智能体已经表明,让它不受约束地长时间运行,会发生什么;视觉智能体也会获得类似的好处,当然也要面对通常的速度和延迟问题。他说,钟摆正在摆回视觉:物理 AI、多模态、硬件,以及当 SaaS 可以被代码生成改写时,什么才是可以防守的。“水是暖的,一直都在这里。”
硬件采用已经在开启可穿戴设备的 S 曲线,而软件还没开放
可穿戴设备把各种约束汇聚在一起:不能太重或太热,必须理解场景,否则会比有用更烦人。Roboflow 与 Meta 在 SAM 系列以及更广泛的视觉理解上展开合作,SAM 模型一发布就提供支持。圣诞节时,他的伴侣送给他一副 Oakley Meta 眼镜,拿自家的东西亲自试用。这是他自己的第一副,他之前曾经摆弄过 Spectacles 和 Vision Pro。他感到很惊喜。可穿戴设备即将迎来拐点。去年售出 800 万副,而 AirPods 为 6000 万副:这已经是真实的销量。Oakley 的产品面向运动场景。他骑车、跑步;它们用骨传导放音乐,并能理解场景,尽管机载 AI 还没到位,主要的计算由手机承担,“Hey Meta”来提供反馈。在一次周日骑行中,朋友们没意识到那是能播放音乐、捕捉媒体的眼镜;他们试戴之后,都想在下一次骑行时也有一副。那就是“已经到来”的感觉。这已经是它最糟糕的时候了。
他对 AR 的时机把握,就像 Charlie Brown 和那颗足球:每次都在要踢到的时候被拿走。Roboflow 起初在 2017 年做的是 AR 应用,那时还没有公司,纯粹是为了好玩;他以为 AR 已经到来,结果判断错了。它们在 2019 年回来了。关键突破在于形态:不是手里拿着的一块玻璃砖。Snap 是第一家在财报中提到 Roboflow 的上市公司,它的 Spectacles 与之集成,让开发者能创建自定义镜头。有人在散步时数停止标志,用来证明自己的街区是安全的。硬件已经足够好,消费者的意愿也反映在数字里。他希望生态保持开放,或者变得更开放,好让任何人都能发布应用。他的赌注,他说这并没有内部信息,是现在先通过封闭 API 筛选首次体验的质量,之后再开放应用商店,甚至像 Android 那样允许侧载。硬件平台的采用先于软件的采用,而我们现在才刚刚开始硬件的 S 曲线。
被问到视觉在未来几年会如何改变日常生活,他一天一天地描绘。用更少农药生产的食物,因为只在看到杂草的地方喷洒。鸡蛋的供应链中,外观可以被视觉确认。一台终于能分辨白色衣物和彩色衣物的洗衣机。一台能通过 Instacart 自动补货鸡蛋的冰箱。一次零事故的自动驾驶通勤,因为车辆在路口彼此通信,而工作日在车里的 Wi-Fi 上就开始了。像素级精准的远程同事,就坐在隔壁椅子上。有实时数据的 Thursday Night Football,还有一个视觉智能体替你打理梦幻联赛队伍。当天送达的包裹,经工厂视觉检验,由机器人运送,由 Ring 摄像头看护。一把能扫描蛀牙的牙刷。这些都不是纸上谈兵,其中每一环,都是 Roboflow 的客户正在做的事情。他开玩笑说,这些将能给圣诞老人提供动力。社会评判常开摄像头的方式,将与评判智能手机摄像头相同:生活质量的提升,与随之而来的新行为。他押注简单的功能会胜出,比如骑行眼镜里的转向导航,它能把人吸引过来。隐私权应当被强力执行并不断更新,就像搜查与扣押的规则是在汽车出现之前写成的;公共空间与私人空间的界限,需要就新设备重新立法。头版的坏人故事终将出现。他展示的绝大部分内容都关乎生活质量:癌症研究、海洋清理、制造得当的电动车、农药用量更少的食物。
管制欺诈,而不是管参数量
Labenz 的最后一个问题是:一项新的权利,会不会是让每项任务都由最小、最窄的模型来分类。比如一个只发出警报的暴力检测器,而不是能通过步态辨认出你是谁的通用推理器。Nelson 曾在华盛顿担任参议院实习生。他总体的立场是:开源对于自由修补很重要,而 AI 只是一种工具,社会结果是否实现,取决于人们如何使用它。我们已经在规范诈骗和暴力行为。一个用 LLM 冒充他人的骗子,应当因诈骗被起诉,而不是因为模型的大小。最小模型规模的规则会遇到麻烦:能力进步很快,蒸馏又很常见,结果你会误伤意外的边缘情况,也会阻碍本来出于善意的采用。
先把一条规则的最强论证讲出来:涉及患者健康的 AI 需要一个治理机构。听上去合理。但再想想北卡罗来纳大学教堂山分校的一位博士后,她用 Roboflow 在显微镜下数中性粒细胞,几百个菌落,这是一项枯燥、让手发酸的活,却能告诉你实验是否成功。如果“患者健康”需要审批,那个人根本不会去做。你原本想保护患者,结果却不小心冻住了一座实验室。医疗体系本来就会追究人们是否正确执行操作的责任。简而言之,他不认为一个狭窄的模型尺寸,就能锁定这项技术应有的发展方式。规范滥用行为;在工具层面进行监管,很容易意外拖慢他眼中这场现代工业革命的步伐,而它带来的生活质量改善,我们也无法完全预测。让它蓬勃发展,同时严厉打击恶意行为。他在结尾说,这场对话六个月后可能会完全不同。
同频道的其他文章
1:25:56EN → 简体中文
2:17:48EN → 简体中文
2:00:51EN
1:26:46EN
1:10:12EN
1:30:54EN