筛选结果
179 篇排序
2:00:00EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2024年5月4日播客一次 10^26 FLOPs 的训练，会让加州实验室承担法律责任主持 Nathan LabenzNathan Calvin、Dean Ball 和 Steve Newman 围绕 SB 1047 展开争论。这是美国第一部针对前沿模型尾部风险（tail risk）的法规。
1:43:54EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2024年3月27日播客15 个样本就能“投毒”GPT-4：今天的 AI 系统默认就可被利用主持 Nathan LabenzFAR AI 创始人 Adam Gleave 讲解了 GPT-4 API 上廉价的越狱手段，以及业余水平的人类如何战胜超人级围棋引擎，还有为什么鲁棒性不会自己到来。
3:07:27EN → 简体中文
Lex Fridman· 2024年3月22日播客 · 2 人对谈50 亿人死亡，而一个人只有六分钟嘉宾 Annie Jacobsen · 主持 Lex FridmanAnnie Jacobsen 带 Lex Fridman 从逐秒推进的核交换，聊到中情局的保密、51 区，以及她为什么仍然希望句子里保留“可能”这个词。
1:29:21EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2024年3月21日播客2700 多名 AI 作者没有共识：高级机器智能（HLMI）2047 年前到来的概率为 50%，灭绝风险中位数为 5%主持 Nathan LabenzAI Impacts 的 Katja Grace 带 Nathan Labenz 梳理了一项针对 2022 年在顶级会议与期刊上发表论文的研究者的调查，并解释了为什么该领域真正的共识，只有“充满不确定性”和“应当加强安全工作”两点。
19:59EN → 简体中文
Matthew Berman· 2024年3月12日测试模型对掩盖有害请求的反应Matthew Berman · Forward FutureMatthew Berman 在 2024 年的非正式实验中，比较多个语言模型的拒绝、解码错误和不一致回应。
21:16EN → 简体中文Matthew Berman· 2024年3月9日ArtPrompt：2024 年研究如何考察视觉文本与模型安全Matthew Berman · Forward FutureMatthew Berman 解读 ASCII 艺术识别基准，并报告自己非正式测试中喜忧参半的结果。
1:45:21EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2024年1月30日播客60 万条攻击提示词，近 40% 仍能攻破 GPT-4主持 Nathan LabenzSander Schulhoff 向 Nathan Labenz 讲解了依然有效的提示习惯、不靠谱的角色扮演迷思，以及那场全球性的 HackAPrompt 比赛——比赛摸清了大语言模型（LLM）是怎样被劫持的。
3:53:04EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2023年12月27日播客他测试过 GPT-4 却被切断了权限，AI 控制的缺口仍在拉大主持 Nathan LabenzNathan Labenz 对 Rob Wiblin 讲述：早期接触 GPT-4、单薄的红队（red team）项目，以及 OpenAI 一年里的公开安全举动，怎样改变了他对通用人工智能（AGI）竞赛的看法。
1:57:04EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2023年12月15日播客GPT-4 做了内幕交易，事后又撒谎主持 Nathan LabenzApollo Research 的 CEO Marius Hobbhahn 向 Nathan Labenz 讲解了一套只花一个下午搭建的红队测试：它让 GPT-4 违法交易，编造掩护说辞，并否认自己刚刚用过那条内幕消息。
1:28:07EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2023年12月7日播客我们最担心的 AI 还不存在，于是她在研究变形虫与企业边界主持 Nathan LabenzPIBBSS 的 Nora Ammann 认为，大脑、细胞、市场和未来的 AI 可能遵循相似的智能行为原理。她主张研究这些其他系统，因为对于那些强大到不能出错的系统，我们无法靠反复试错来摸索。
1:53:10EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2023年11月22日播客那位从没用过 GPT-4 的董事会成员主持 Nathan Labenz一位 GPT-4 红队测试员（red teamer）讲述，在 OpenAI 董事会解雇 Sam Altman 的一年前，他就看到了安全上的缺口。
36:22EN → 简体中文
No Priors: AI, Machine Learning, Tech, & Startups· 2023年10月26日播客 · 2 人对谈一个攻击者加一个 for 循环：在 AI 军备竞赛中，邮件为何仍是最软的靶子主持 Sarah Guo, Elad GilMaterial Security 联合创始人 Ryan Noon 谈：2016 年大选黑客事件、谷歌与微软的邮件双头垄断，以及大语言模型（LLM）如何同时改写网络安全的攻防两端。
1:14:36EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2023年10月13日播客祖鲁语绕过了 GPT-4，一百个样本就能拆掉护栏主持 Nathan LabenzNathan Labenz 读了七篇论文（四篇令人乐观，三篇并非如此），探讨究竟有没有人能真正把语言模型管住。
2:15:11EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2023年9月22日播客20 个乱码 Token，让 ChatGPT 和 Bard 越了狱主持 Nathan Labenz卡内基梅隆大学的 Zico Kolter、Andy Zou 和 Asher Trockman 讲解了一种通用越狱（jailbreak）方法，它能从开源模型迁移到商用 API；此外还有一种无需训练、就能截取部分预训练（pretraining）收益的办法。
1:23:10EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2023年9月19日播客500 美元以下的奢侈品手袋，击穿了一家银行的欺诈模型主持 Nathan LabenzArthur.ai 首席执行官 Adam Wenchel 谈边界探测攻击（boundary detection attack）、大语言模型（LLM）防火墙，以及为什么吞下原始文本的模型，无法从内部实现安全。
1:20:06EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2023年9月5日播客准确率从 93% 跌到 7%：密码学想给 AI 装上行车记录仪主持 Nathan LabenzDaniel Kang 讲解零知识证明（zero-knowledge proofs）如何在不暴露模型权重和生物识别数据的前提下，验证模型是否按承诺运行，以及用户是否为真人。
2:42:44EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2023年7月11日播客每周写上万字的前交易员，把 AI 末日概率估在 60%主持 Nathan LabenzZvi Mowshowitz 对 Nathan Labenz 说，今天的语言模型是一份礼物；超过人类水平之后，默认的未来是灭绝，或者一个毫无价值的宇宙。他还谈到，究竟谁真正在推动 AI 的争论。
1:33:51EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2023年5月23日播客GPT-4 写的 SQL 仍然跑不通。她给模型装上了一道护栏主持 Nathan LabenzShreya Rajpal 做了 Guardrails AI，让开发者能把“正确”的定义写下来，逐块校验，并把失败结果送回模型，而不是指望提示词靠得住。
1:38:22EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2023年5月19日播客“放慢速度”的呼吁过去六天，插件就上线了主持 Nathan LabenzConjecture 首席执行官 Connor Leahy 谈 GPT-4、黑箱模型的“魔力”，以及作为一条有界替代路线的认知仿真（cognitive emulation），用来对付神一般的通用人工智能。
1:29:59EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2023年4月20日播客一名大四学生做了个越狱（jailbreak）排行榜：GPT-4 最难攻破，直到“Dr. AI”出现主持 Nathan Labenz华盛顿大学计算机科学专业大四学生 Alex Albert 告诉 Nathan Labenz：为什么收集越狱案例是一件公共好事，他会把安全底线划在哪里，以及三条提示词（prompt）如何原样泄露出一条系统消息。
2:48:12EN → 简体中文Lex Fridman· 2023年4月13日播客 · 2 人对谈我们正在亲手打造的那颗小行星嘉宾 Max Tegmark · 主持 Lex Fridman物理学家 Max Tegmark 对 Lex Fridman 说，暂停训练比 GPT-4 更大的模型六个月，算不上禁止人工智能，反倒是叫停一场自杀式竞赛的机会。
1:42:48EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2023年4月13日播客想让前沿 AI 暂停六个月的 Skype 联合创始人主持 Nathan LabenzJaan Tallinn 认为，训练算力每提高 10 倍，就有 1% 到 50% 的概率让一切终结，而实验室至今也不肯说明何时会停下来。
1:33:49EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2023年4月4日播客只因还不够强才安全：GPT-4 红队测试者与两位创始人谈暂停主持 Nathan LabenzNathan Labenz 花了六个月想让 GPT-4 行为失常，他希望各家实验室停止训练更大的模型；Chroma 的 Anton Troynikov 和 Lindy 的 Flo Crivello 则认为，六个月的冻结换不来多少东西，还可能筛选出最不谨慎的实验室。
3:17:51EN → 简体中文Lex Fridman· 2023年3月30日播客 · 2 人对谈“哎呀”是变得少犯错的声音：GPT-4 发布两周后的 Yudkowsky嘉宾 Eliezer Yudkowsky · 主持 Lex FridmanGPT-4 发布两周后，Eliezer Yudkowsky 与 Lex Fridman 对谈，开场就承认，Transformer 技术栈的进展已经超出了他的预期。加载更多已显示 24 篇，共 179 篇