测试 Llama 3.2 Vision:拒答与图像任务

原标题Testing Llama 3.2 Vision: Refusals and Image Tasks

Matthew Berman 对托管 90B 模型的 2024 年非正式测试。

MBMatthew Berman讲者 · Forward Future
频道
Matthew Berman
发布
2024年9月27日
视频
7:57
阅读
1 分钟
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

Matthew Berman 测试图片描述、拒答、草图转代码、表格提取和视觉定位。这次小规模托管测试是一个时间点的观察,不是通用基准。

  1. 1基础描述模型描述了一幅简单场景。
  2. 2拒答拒答本身不能证明底层视觉能力。
  3. 3草图转代码草图转代码请求收到看似不匹配的拒答。
  4. 4梗图梗图解释令主讲人满意。
  5. 5表格与截图二维码、表格和手机截图任务结果不同。
  6. 6定位主讲人报告困难图片中的定位错误。

要点建议

  1. 模型描述了一幅简单场景。
  2. 拒答本身不能证明底层视觉能力。
  3. 草图转代码请求收到看似不匹配的拒答。
  4. 梗图解释令主讲人满意。
  5. 二维码、表格和手机截图任务结果不同。
  6. 主讲人报告困难图片中的定位错误。
全文

按章节阅读整理后的全文

只看原始文稿
01

小规模视觉测试

描述、拒答与视觉准确率。

在这段 2024 年 9 月的视频中,Matthew Berman 通过托管界面试用 Llama 3.2 Vision 90B 模型。他的小规模非正式测试反映当时的模型、供应商和设置,并不代表所有版本或当前表现。视频包含赞助内容。

模型描述了一张简单的羊驼图片,Berman 将其计为基础描述成功。

模型拒绝识别人物和求解验证码的请求。Berman 将其记为测试失败;拒答可能反映服务或安全政策,本身不能证明模型是否能够识别底层视觉内容。

当被要求将粗略界面草图转换为代码时,模型拒绝并给出看似不相关的安全理由。Berman 用更具体的提示重试,仍收到拒答。

模型解释了一张职场梗图。Berman 认为该例的描述合适,但同一轮的其他测试表现不佳。

二维码请求没有得到所需的 URL。Berman 认为表格转 CSV 成功,而手机存储截图的问答有对有错。

在一张困难的《威利在哪里》图片中,模型给出的位置与 Berman 找到的答案不符。他认为这组小样本测试令人失望,同时保留了配置可能影响结果的可能性。

同频道的其他文章

5 张幻灯片14:45EN → 简体中文
Matthew Berman· 2026年10月29日Matthew Berman 解读 Google 的 Gemini 4 Carbon 公告Matthew Berman · Forward FutureMatthew Berman 回顾 Google 公布的 Gemini 4 Carbon 基准结果、分阶段开放计划与定价,同时指出自己尚未使用该模型。Foundation ModelsBenchmarksAI cost & performance+2
7 张幻灯片21:11EN → 简体中文
Matthew Berman· 2026年10月28日Matthew Berman 实测 DeepSeek V4.1 Flash:编程、视觉与本地应用Matthew Berman · Forward Future从视觉编程、图像推理到本地应用和服务商价格,实测既展示了模型的能力,也暴露出明显缺陷。编程智能体Multimodal AILocal inference+2
0:37EN → 简体中文
Matthew Berman· 2026年10月28日Google 发布 Gemini 4 CarbonMatthew Berman · Forward FutureMatthew Berman 简述模型发布和分阶段开放计划。模型与训练
12 张幻灯片34:21EN → 简体中文
Matthew Berman· 2026年10月27日Matthew Berman 解读 Anthropic 的上市文件、AI 增长与治理Matthew Berman, Sam Altman · Forward Future主持人审视 S-1 中的财务指标、算力战略和投票结构,并质疑 AI 快速发展与安全之间的张力。AnthropicAI Safety企业 AI+2
0:26EN → 简体中文
Matthew Berman· 2026年10月25日Sam Altman 谈 AI 世界中的人类价值与问题解决Sam Altman · OpenAI在一段简短的访谈摘录中,Altman 思考解决难题的乐趣,以及人在解读结果时的作用。Human-AI CollaborationFuture of WorkAI Strategy
2 张幻灯片0:36EN → 简体中文
Matthew Berman· 2026年10月25日Kimi K3.1 与魔方求解演示Matthew Berman · Forward FutureMatthew Berman 展示一个被打乱的虚拟魔方如何复原,并对 Kimi K3.1 的测试给予积极评价。评估编程智能体Open-weight models