筛选结果
13 篇排序
56:01EN → 简体中文Xander Song:用 Harbor 和 Phoenix 评估智能体Xander Song · Arize AIArize AI 工程师 Xander Song 介绍 Harbor 如何在隔离沙箱中运行真实智能体任务,以及团队如何借助 Phoenix 比较提示词改动、检查执行轨迹并测试 SQL 工具。
35:19EN → 简体中文SallyAnn DeLucia:如何编写你的第一个 AI 评估SallyAnn DeLucia · Arize AI从智能体的真实追踪记录中提炼具体的通过与失败标准,再构建一个能测试、能与人工判断对齐,并能在生产环境运行的大模型裁判。
12:31EN → 简体中文Jev 的快速决策:演示、取舍与可靠性声明Matthew Berman · Forward FutureMatthew Berman 通过路由、模拟世界、国际象棋和游戏控制示例,探索一个面向决策的 AI 模型。
2:10:42EN → 简体中文没人审核的考卷主持 Nathan Labenz前沿实验室从一群小供应商那里购买强化学习(reinforcement learning)环境,却几乎没人核查这些测试是否贴合真实工作。
48:00EN → 简体中文两秒钟的投票,正在把模型训练成标题党主持 Jacob EffronSurge AI 的 CEO Edwin Chen 向 Redpoint 解释了 LMArena 为什么奖励长篇幅和表情符号,某家实验室的模型为何连续变差了一年,以及为什么前沿实验室已经不再走同一条路。
54:53EN → 简体中文一个免费投票榜烧掉 200 万美元,之后却融到了 1 亿美元主持 Jacob EffronDatabricks 联合创始人 Ion Stoica 解释了 LMArena 为何存在,中国为何在开源(open source)模型上占据优势,以及为什么真正拖住 AI 的仍然是可靠性,而不是又一条规模定律(scaling law)。
44:21EN → 简体中文Mercor CEO:知识型工作的下一个岗位是写评测主持 Jacob EffronBrendan Foody 向 Redpoint 讲述,Mercor 如何靠 AI 招聘和专家数据拿到一轮 1 亿美元的融资,以及他为什么认为很大一部分白领工作会变成为模型编写测试。
57:11EN → 简体中文一百万个 Token,也写不出一个好笑话主持 Jacob Effron普林斯顿大学的 Arvind Narayanan 谈:为什么智能体评测会误导人,推理时扩展(inference scaling)为何会撞上墙,以及 AI 更像互联网,而非一夜之间的革命。
1:46:41EN → 简体中文前沿模型在真实 AI 研发任务中落在第 10 至第 40 百分位主持 Nathan LabenzMETR 的 Neev Parikh 向 Nathan Labenz 讲解了 REBench:这是一套包含七项任务的测试,用来检验智能体(Agent)能否做机器学习研究,以及其中一个智能体决定不训练模型时发生了什么。
1:23:37EN → 简体中文前十名研究想法里有九个出自 Claude主持 Nathan Labenz斯坦福大学博士生 Chenglei Si 做了一项盲测,让 Claude 3.5 Sonnet 与一百多位自然语言处理(NLP)研究者比拼新颖的研究想法。
1:54:17EN → 简体中文Metaculus 在 2020 年 1 月就关注到了新冠,如今它要让 AI 也加入预测主持 Nathan LabenzNathan Labenz 与 Metaculus 首席执行官 Deger Turan 谈认知安全、为期一年的机器人锦标赛,以及为什么一个有用的预测,比一个准确的预测更难做到。
1:56:03EN → 简体中文人类接近满分,最强 AI 仍只拿到 39%主持 Nathan LabenzZapier 联合创始人 Mike Knoop 和 François Chollet 为 ARC-AGI 拿出了 100 万美元奖金。ARC-AGI 是 2019 年提出的、考察样本效率的智能测试,在每题一美分的算力预算下,语言模型至今仍无法破解。
1:07:48EN → 简体中文大多数生产力指标都是谎言:Nicole Forsgren 谈 AI 时代如何衡量开发者体验主持 Lenny RachitskyDORA 与 SPACE 的提出者解释,为何代码行数和旧流水线指标在 AI 时代不够用,以及怎样从倾听、问卷开始改进开发者体验,并把结果接到领导真正关心的事上。







