筛选结果
29 篇排序
2:15:11EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2023年9月22日播客20 个乱码 Token，让 ChatGPT 和 Bard 越了狱主持 Nathan Labenz卡内基梅隆大学的 Zico Kolter、Andy Zou 和 Asher Trockman 讲解了一种通用越狱（jailbreak）方法，它能从开源模型迁移到商用 API；此外还有一种无需训练、就能截取部分预训练（pretraining）收益的办法。
1:29:59EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2023年4月20日播客一名大四学生做了个越狱（jailbreak）排行榜：GPT-4 最难攻破，直到“Dr. AI”出现主持 Nathan Labenz华盛顿大学计算机科学专业大四学生 Alex Albert 告诉 Nathan Labenz：为什么收集越狱案例是一件公共好事，他会把安全底线划在哪里，以及三条提示词（prompt）如何原样泄露出一条系统消息。
1:37:47EN → 简体中文
Lenny's Podcast播客 · 2 人对谈漏洞能打补丁，模型打不了：为什么 AI 防护栏挡不住攻击嘉宾 Sander Schulhoff · 主持 Lenny Rachitsky对抗鲁棒性研究者 Sander Schulhoff 说明，提示注入和越狱至今无解，防护栏产品给不了企业真正的保护，团队眼前该靠权限和隔离。
1:32:41EN → 简体中文Lenny's Podcast播客漏洞能打补丁，大脑打不了：AI 护栏为什么拦不住攻击主持 Lenny RachitskyHackAPrompt 的 Sander Schulhoff 解释，提示注入和越狱仍未解决、护栏行业在卖虚假安心感，以及组织眼下能做的事。