摘要
30 秒看懂
Matthew Berman 展示了 ChatGPT 对海马表情符号问题的两次回答。回答不断循环纠正,其中一次继续生成后,最终将一条鱼当作答案。
- 1一个简单的问题Berman 询问是否存在海马表情符号。回答称有,却反复修改给出的答案。
- 2更长的循环第二个例子生成了很长时间后停下;Berman 选择继续生成。
- 3错误的最终答案显示的最终答案将一条鱼称作海马。
要点建议
- 展示的回答反复提出又否定了多个所谓海马表情符号。
- 第二次回答持续很长时间,需要请求它继续生成。
- 这个例子展示了不一致的回答,并非对 ChatGPT 的系统性评估。
全文
按章节阅读整理后的全文
01
海马问题
Berman 展示一段回答:ChatGPT 在被问到海马表情符号后反复自我纠正,却始终没有明确给出答案。

我觉得我刚刚把 ChatGPT 的脑子弄坏了。我问它有没有海马表情符号,它说有,接着列出表情符号并反复纠正自己:“等等,不对。”然后是“等一下”,再给出另一个所谓的最终答案。它就这样一直说下去。
02
更长的回答
另一个例子在一连串漫长的纠正中不断生成。显示的最终答案将一条鱼称作海马。

其实那还算比较温和的例子。另一个回答持续了很久,处理问题时停了下来。我点击“继续生成”,它又以同样混乱的方式继续。最终答案把一个表情符号说成海马,可那其实是一条鱼。我们是不是把 ChatGPT 弄坏了?

同频道的其他文章
34:21EN → 简体中文Matthew Berman 解读 Anthropic 的上市文件、AI 增长与治理Matthew Berman, Sam Altman · Forward Future主持人审视 S-1 中的财务指标、算力战略和投票结构,并质疑 AI 快速发展与安全之间的张力。
25:50EN → 简体中文Kimi K3.1 Pro 实测:3D 演示出色,表现不一,价格有竞争力Matthew Berman · Forward FutureMatthew Berman 测试这款开放权重模型的编程、3D 渲染和视觉讲解能力,并比较基准成绩与价格。
32:20EN → 简体中文本地 AI 究竟适合谁?成本、取舍与混合模式的未来Matthew Berman · Forward FutureMatthew Berman 权衡数据控制和自主权,与硬件成本、设置复杂度及推理速度之间的关系。
1:03:37EN → 简体中文Matthew Berman 团队测试 Kimi K3.1:动画、游戏与图表Matthew Berman, Alex, Brian · Forward Future一场团队直播问答变成了对 Kimi K3.1 的非正式测试,内容涵盖个人智能体工作流、动态图形、浏览器游戏和基准图表。
0:53EN → 简体中文Sam Altman 谈 AI 与新知识的发现Sam Altman · OpenAIAltman 预计,数学发现方面的进展将延伸到生物学、材料和能源领域。
0:22EN → 简体中文机器人保镖短片展示戏剧性的救援场景Matthew Berman · Forward FutureMatthew Berman 观看一段展示格斗与车辆救援场景的机器人短片。