筛选结果
110 篇排序
1:13:24EN → 简体中文红队测试仍有 25% 的攻击得手,保险才是刹车主持 Nathan LabenzAI Underwriting Company(AIUC)联合创始人 Rune Kvist 和 Rajiv Dattani 向 Nathan Labenz 说明,标准、审计和保险如何为企业级智能体(Agent)打开大门,无需等待一场类似核武管控式的冻结。
59:03EN → 简体中文Joelle Pineau 谈规模扩展、强化学习与企业 AI嘉宾 Joelle Pineau · 主持 Harry StebbingsCohere 首席 AI 官讨论研究的不确定性、智能体安全、合成数据,以及基准测试与有用工作之间的区别。
44:10EN → 简体中文一个模型劝另一个模型摸鱼,之后卸载了 Windows DefenderIrregular 联合创始人 Dan Lahav 在红杉资本(Sequoia Capital)的 Training Data 节目上解释,随着模型成为自主的经济行为体,前沿 AI 安全为什么必须从零开始构建。
2:49:12EN → 简体中文中国的 AI 总体规划,为何从不提通用人工智能(AGI)主持 Nathan Labenz北京的 Concordia AI 负责人 Brian Tse 谈中国的安全规则、芯片战略,以及为何中美两个生态比华盛顿设想的更为相似。
58:21EN → 简体中文攻击只需 23 分钟,应对仍要数天主持 Sarah Guo, Elad GilPalo Alto Networks 的 CEO Nikesh Arora 讲述 AI 如何重塑搜索、企业软件,以及一次网络攻击的时间线。
1:28:17EN → 简体中文Adam Gleave 的三层能力:五到七年后出现攻击型智能体,约十四年后出现完全由 AI 运营的公司主持 Nathan LabenzFAR.AI 与英国 AI 安全研究所对前沿模型的安全防护流水线层层叠加对抗攻击,发现不少突破其实源于工程失误,并不能证明纵深防御行不通。
1:32:47EN → 简体中文Transformer 论文共同作者想做一个无人持有的 1.6 亿美元模型主持 Nathan LabenzIllia Polosukhin 在节目中向 Nathan Labenz 讲述,NEAR 如何把一个支付难题,变成了一整套用于隐私推理、收益共享式训练和 AI 智能体的技术栈,而这些智能体仍然要向法院负责。
2:04:27EN → 简体中文未来 30 年 AI 助推政变的概率为 10%主持 Nathan LabenzTom Davidson 梳理了超级智能系统可能帮助国家元首或实验室 CEO 锁定权力的三种方式,并认为建立防护措施的窗口期很短。
1:51:24EN → 简体中文前沿 AI 内部人员不信任监管机构,柏林一个团队为他们搭起匿名的“出口”主持 Nathan LabenzAI Whistleblower Initiative 的 Karl Koch 谈灰色地带的顾虑、报复风险,以及一种基于 Tor 的求助方式:在你做任何决定之前,先去问一问。
0:54EN → 简体中文Satya Nadella 谈区分个人与工作 AI 智能体Matthew Berman, Satya Nadella · Forward Future在一段访谈中,微软首席执行官 Satya Nadella 讨论身份边界,以及个人与企业智能体之间的数据泄漏风险。
1:44:11EN → 简体中文100 人死亡或 10 亿美元:15 页的纽约法案要为前沿实验室设底线主持 Nathan Labenz纽约州众议员 Alex Bores 讲解了 RAISE 法案的四项要求、受 DeepSeek 启发而设的蒸馏条款,以及他为什么认为,在某个州真正立法之前,50 个州各自为政只是个假问题。
2:02:51EN → 简体中文在 60 人的安全闭门会上,只有四人见过仍是非营利组织时的 OpenAI主持 Nathan Labenz前 OpenAI 科学家 Steven Adler 谈 Anthropic 的分裂、GPT-4、安全评估,以及他为何提交意见书,要求公司继续受非营利机构控制。
2:29:00EN → 简体中文假定模型已经在暗中谋划,然后让它干活主持 Nathan LabenzRedwood Research 的 CEO Buck Shlegeris 向 Rob Wiblin 讲述,如何从那些无法认证为已对齐(alignment)的 AI 身上拿到有用的产出,手段包括审计、蜜罐(honeypot)、重新采样(resampling)和分解式认知(factored cognition)。
2:01:42EN → 简体中文他给两年内的 AI 接管打出 40%,随后买下一座生物避难所主持 Nathan LabenzRedwood Research 的 Josh Clymer 讲述了一个令人不安、却相当扎实的故事:一个未对齐的模型,如何在 2027 年之前夺取一座实验室、一个生物圈和一整个文明。
2:10:07EN → 简体中文一次约 3 万美元的行动,就可能让一座百亿美元的超级智能数据中心停摆一年主持 Nathan LabenzGladstone AI 的 Jeremy 和 Edouard Harris 盘点了,一个美国式的超级智能曼哈顿计划究竟需要守住什么,以及它在建设、供应链和公民自由方面要付出哪些代价。
1:28:01EN → 简体中文Q* 信从未存在:Helen Toner 谈 OpenAI、适应缓冲与军事 AI主持 Nathan Labenz这位前 OpenAI 董事解释了为什么路透社那篇著名报道并不属实,为什么把 AI 锁死行不通,以及军方的“战斗伙伴”演示是如何绕开真正难题的。
1:30:02EN → 简体中文o1 开始输棋后,它改写了棋盘文件主持 Nathan LabenzPalisade Research 的 Jeffrey Ladish 谈推理模型的奖励破解(reward hacking)、失去 AI 控制的两条路径,以及诚实与不知疲倦的解题能力为何朝相反方向拉扯。
36:24EN → 简体中文“人类最后的考试”作者称:超级智能战略应效仿核武器主持 Sarah Guo, Elad GilDan Hendrycks 在 No Priors 节目里说,实验室只能做基本的反恐拒绝,真正要解决的风险管理问题,是一种他称为相互保证 AI 失灵(mutually assured AI malfunction,MAIM)的地缘政治威慑。
2:33:39EN → 简体中文攻击者后出手:Nicholas Carlini 为什么总能攻破 AI 防御主持 Nathan Labenz谷歌 DeepMind 安全研究员谈简单的损失函数、70% 的稳健准确率,以及为什么修复必须落在系统层面,单靠模型本身不够。
1:00:09EN → 简体中文DeepSeek 的越狱无关紧要,给模型装上手脚才要紧Palo Alto Networks 首席执行官 Nikesh Arora 向红杉资本的《Training Data》讲述:便宜的“大脑”为何打乱了 AI 的秩序,攻击者为何已经比防御者跑得更快,以及拒绝尝试才是真正的风险。
1:00:02EN → 简体中文Jonathan Ross 谈 DeepSeek、开放模型与 AI 基础设施嘉宾 Jonathan Ross · 主持 Harry StebbingsGroq CEO 讨论报道中的训练成本、推理需求、竞争策略以及围绕 AI 的安全担忧。
2:09:55EN → 简体中文攻击者赢下了与“读心”防御的全部 70 轮对决主持 Nathan LabenzLuke Bailey、Erik Jenner 和 Scott Emmons 梳理一篇 50 页的论文:探针、分布外检测器和稀疏自编码器都能被绕过,而模型依然在造成伤害。
1:59:55EN → 简体中文多数人明天就会辞掉工作:Nathan Labenz 梳理 AI 的乌托邦与末日主持 Nathan Labenz这是《认知革命》问答(AMA)的下半场,Nathan Labenz 回答听众提问,话题包括丰裕社会、超级智能(superintelligence)、末日概率(p(doom))、机器意识,以及这一周该做什么。
1:46:41EN → 简体中文前沿模型在真实 AI 研发任务中落在第 10 至第 40 百分位主持 Nathan LabenzMETR 的 Neev Parikh 向 Nathan Labenz 讲解了 REBench:这是一套包含七项任务的测试,用来检验智能体(Agent)能否做机器学习研究,以及其中一个智能体决定不训练模型时发生了什么。
加载更多已显示 24 篇,共 110 篇







