筛选结果
241 篇排序
1:42:17EN → 简体中文最便宜的推理服务商,才是最危险的主持 Nathan LabenzFireworks AI 的两位联合创始人 Lin Qiao 和 Dmytro Ivchenko 解释了补贴出来的 GPU 账单为什么会消失,低秩适配(LoRA)服务如何能把成本降低百倍,以及真正值得在意的对手为什么是 OpenAI。
12:37EN → 简体中文媒体报道中的 Stargate 超级计算机与 AI 算力瓶颈Matthew Berman, Sam Altman, Elon Musk · Forward Future2024 年 4 月,Matthew Berman 评析媒体报道的 Microsoft 与 OpenAI 数据中心提案,并认为芯片和电力可能影响 AI 产业格局。
51:11EN → 简体中文走进 Groq LPU:编译器、芯片网络与快速推理Matthew Berman, Andrew Ling, Igor Arsovski · Forward FutureGroq 工程师 Andrew Ling 和 Igor Arsovski 在这场由公司赞助的 2024 年采访中介绍软硬件设计。
38:33EN → 简体中文速度是可以花钱买的:Baseten 押注推理(inference)主持 Sarah Guo, Elad GilTuhin Srivastava 向 Sarah Guo 和 Elad Gil 解释,为什么一家六人的聊天机器人公司,每天要跑十亿个 Token,也不该自己搭建推理服务栈。
42:14EN → 简体中文Meta 的 1970 亿美元之日,只是 AI 那个 2000 亿美元问题的部分答案主持 Sarah Guo, Elad GilSarah Guo 和 Elad Gil 谈到了 Gemini、Mistral、英伟达的升级周期、Klarna 的客服机器人,以及为什么真正的 AI 支出仍然集中在超大规模云厂商手里。
15:58EN → 简体中文埃隆·马斯克谈自动驾驶、AI 算力与电力限制Elon Musk, Matthew Berman · Tesla2024 年的一场 Bosch 采访及 Matthew Berman 的评论,探讨自动驾驶汽车、机器人和 AI 所需的基础设施。
39:03EN → 简体中文MI300 推理性能领先 2 倍:AMD 首席技术官谈不靠封闭生态赢得芯片竞争主持 Sarah Guo, Elad Gil2011 年秋天,Mark Papermaster 出任 AMD 首席技术官时,公司几乎全部营收都来自 PC 和游戏,摩尔定律也在放缓,所有人都知道公司需要扭转局面。
13:19EN → 简体中文运行本地语言模型,作为离线备用工具Matthew Berman · Forward FutureMatthew Berman 演示一套 2024 年的本地模型方案:选择量化模型、将其存入外置硬盘,并规划备用电源。
3:37EN → 简体中文Mark Zuckerberg 宣布训练 Llama 3 与 Meta 的 AI 计划Matthew Berman, Mark Zuckerberg · Forward Future2024 年 1 月,Matthew Berman 评述 Zuckerberg 关于通用智能、算力和 AI 设备的发言。
39:36EN → 简体中文最被低估的 AI 买家,是街角的那家小店主持 Sarah Guo, Elad Gil前 Square CEO Alyssa Henry 对《No Priors》说,生成式 AI 释放了小商户一直需要、却从没花钱找人去做的那部分工作。
55:34EN → 简体中文Andrew Hunter:低延迟系统的性能工程Yaron Minsky, Andrew Hunter · Jane Street超大规模环境中的微小优化为何值得投入?交易延迟为何更难衡量?性能分析、追踪、语言设计和硬件又如何相互配合?
17:43EN → 简体中文OpenAI DevDay 2023:GPT-4 Turbo、自定义 GPT 与开发者工具Matthew Berman, Sam Altman, Satya Nadella · Forward FutureMatthew Berman 回顾 OpenAI 在 2023 年发布的消息,从更长的上下文、更便宜的 API 调用到自定义 GPT,以及它们对开发者的影响。
1:19:52EN → 简体中文1,000 块 H100 要 115 天,22,000 块只要五天主持 Nathan LabenzNathan Labenz 和 Trey Kollmer 讲解了集群算力的估算方法:如何把 GPT-4 规模的训练变成每周一次的实验;随后是四篇论文,涉及搜索增强型模型、递归式代码改进器、Llama 2 内部的空间地图,以及网络在完全不知道答案时的表现。
7:02EN → 简体中文使用 Text Generation WebUI 将 AutoGen 接入 RunPod 托管模型Matthew Berman · Forward Future在这段 2023 年教程中,Matthew Berman 通过兼容 OpenAI 的 API 将 AutoGen 接入 Dolphin 2.1 Mistral 7B,并测试一个小型编程任务。
4:42EN → 简体中文通过 LM Studio 将 AutoGen 连接到本地模型Matthew Berman · Forward FutureMatthew Berman 演示早期本地模型配置,并解释智能体行为仍需调整的地方。
30:03EN → 简体中文一块餐盘大小的芯片,把训练时间从 60 天缩短到 3.5 天主持 Sarah Guo, Elad GilCerebras 首席执行官 Andrew Feldman 在《No Priors》中说明,为什么解决算力紧缺的答案是晶圆级芯片,而不是又一款 GPU,也解释了为什么大多数量产模型的参数量会保持在 130 亿或以下。
4:35EN → 简体中文在云端 GPU 上运行 WizardCoder:2023 年 RunPod 操作教程Matthew Berman · Forward FutureMatthew Berman 演示如何将量化的 13B 编程模型下载到托管的文本生成界面,并解释如何停止 pod 以避免持续收费。
38:13EN → 简体中文ChatGPT 跑在他的框架上,他仍然不建议你去训练模型主持 Sarah Guo, Elad GilVercel 创始人 Guillermo Rauch 在 No Priors 节目中说明:为什么前端是 AI 的最后一公里,为什么第一代 AI 框架会被重写,以及为什么机器人已经在偷你的 Token。
1:01:26EN → 简体中文AlexNet 用两块 GPU,GPT-4 用了两万块,短缺还会再来主持 Nathan LabenzRun:ai 首席技术官 Ronen Dar 谈如何让闲置的加速卡重新用起来,为什么 H100 按每次实验计算反而更便宜,以及 Llama 2 为何削弱了算力管制(compute governance)的说服力。
3:08:46EN → 简体中文谁掌握关机开关?George Hotz 谈 tinygrad、开源 AI 与上帝嘉宾 George Hotz · 主持 Lex Fridman这是他第三次做客 Lex Fridman 的播客。comma.ai 和 tiny corp 的创始人主张,算力、智能和关机开关应当留在普通人家里,而不是掌握在少数可信之人手中。
8:17EN → 简体中文使用 OpenLLM 通过 API 提供开放模型服务Matthew Berman · Forward Future在一场 2023 年的演示中,Matthew Berman 展示本地模型服务器、交互式 API 和 Python 客户端。
9:46EN → 简体中文在 Windows 上安装 Text Generation WebUI:2023 年本地模型教程Matthew Berman · Forward FutureMatthew Berman 安装早期版本的 Text Generation WebUI,解决配置错误,并介绍模型下载和界面设置。这些步骤和软件包属于历史版本;现代安装应参考项目当前文档。
3:34:03EN → 简体中文Python 还没有完成:Chris Lattner 谈 Mojo 与硬件的乱局嘉宾 Chris Lattner · 主持 Lex FridmanLLVM 的创造者重返 Lex Fridman 的节目,主张 Python 应当获得接近 C 的性能,而非被迫让人离开这门语言。
11:49EN → 简体中文测试 Wizard-Vicuna 30B:回答、推理与代码Matthew Berman · Forward FutureMatthew Berman 考察一款宣传为不受审查的模型,演示 2023 年的云端配置,并进行一组非正式测试。
加载更多已显示 24 篇,共 241 篇









