最近更新的频道

点选即可只看该频道浏览全部频道 →

筛选结果

241 篇
排序
1:42:17EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2024年4月20日播客最便宜的推理服务商,才是最危险的主持 Nathan LabenzFireworks AI 的两位联合创始人 Lin Qiao 和 Dmytro Ivchenko 解释了补贴出来的 GPU 账单为什么会消失,低秩适配(LoRA)服务如何能把成本降低百倍,以及真正值得在意的对手为什么是 OpenAI。基础设施与部署InferenceAI cost & performance+3
3 张幻灯片12:37EN → 简体中文
Matthew Berman· 2024年4月2日媒体报道中的 Stargate 超级计算机与 AI 算力瓶颈Matthew Berman, Sam Altman, Elon Musk · Forward Future2024 年 4 月,Matthew Berman 评析媒体报道的 Microsoft 与 OpenAI 数据中心提案,并认为芯片和电力可能影响 AI 产业格局。基础设施与部署SemiconductorsAI cost & performance+2
3 张幻灯片51:11EN → 简体中文
Matthew Berman· 2024年3月22日走进 Groq LPU:编译器、芯片网络与快速推理Matthew Berman, Andrew Ling, Igor Arsovski · Forward FutureGroq 工程师 Andrew Ling 和 Igor Arsovski 在这场由公司赞助的 2024 年采访中介绍软硬件设计。基础设施与部署InferenceAI cost & performance
38:33EN → 简体中文
No Priors: AI, Machine Learning, Tech, & Startups· 2024年3月21日播客 · 2 人对谈速度是可以花钱买的:Baseten 押注推理(inference)主持 Sarah Guo, Elad GilTuhin Srivastava 向 Sarah Guo 和 Elad Gil 解释,为什么一家六人的聊天机器人公司,每天要跑十亿个 Token,也不该自己搭建推理服务栈。基础设施与部署InferenceAI cost & performance+3
42:14EN → 简体中文
No Priors: AI, Machine Learning, Tech, & Startups· 2024年3月7日播客 · 2 人对谈Meta 的 1970 亿美元之日,只是 AI 那个 2000 亿美元问题的部分答案主持 Sarah Guo, Elad GilSarah Guo 和 Elad Gil 谈到了 Gemini、Mistral、英伟达的升级周期、Klarna 的客服机器人,以及为什么真正的 AI 支出仍然集中在超大规模云厂商手里。企业与战略AI Strategy企业 AI+3
15:58EN → 简体中文
Matthew Berman· 2024年3月2日埃隆·马斯克谈自动驾驶、AI 算力与电力限制Elon Musk, Matthew Berman · Tesla2024 年的一场 Bosch 采访及 Matthew Berman 的评论,探讨自动驾驶汽车、机器人和 AI 所需的基础设施。Autonomous DrivingAGI TimelinesRobotics+2
39:03EN → 简体中文
No Priors: AI, Machine Learning, Tech, & Startups· 2024年2月29日播客 · 2 人对谈MI300 推理性能领先 2 倍:AMD 首席技术官谈不靠封闭生态赢得芯片竞争主持 Sarah Guo, Elad Gil2011 年秋天,Mark Papermaster 出任 AMD 首席技术官时,公司几乎全部营收都来自 PC 和游戏,摩尔定律也在放缓,所有人都知道公司需要扭转局面。基础设施与部署InferenceAI cost & performance+3
8 张幻灯片13:19EN → 简体中文
Matthew Berman· 2024年1月18日运行本地语言模型,作为离线备用工具Matthew Berman · Forward FutureMatthew Berman 演示一套 2024 年的本地模型方案:选择量化模型、将其存入外置硬盘,并规划备用电源。Local inferenceFoundation Models基础设施与部署+1
3:37EN → 简体中文
Matthew Berman· 2024年1月18日Mark Zuckerberg 宣布训练 Llama 3 与 Meta 的 AI 计划Matthew Berman, Mark Zuckerberg · Forward Future2024 年 1 月,Matthew Berman 评述 Zuckerberg 关于通用智能、算力和 AI 设备的发言。Open-weight modelsAI History基础设施与部署+1
39:36EN → 简体中文
No Priors: AI, Machine Learning, Tech, & Startups· 2023年12月14日播客 · 2 人对谈最被低估的 AI 买家,是街角的那家小店主持 Sarah Guo, Elad Gil前 Square CEO Alyssa Henry 对《No Priors》说,生成式 AI 释放了小商户一直需要、却从没花钱找人去做的那部分工作。企业与战略Product StrategyAI Adoption+3
55:34EN → 简体中文
Jane Street· 2023年11月29日Andrew Hunter:低延迟系统的性能工程Yaron Minsky, Andrew Hunter · Jane Street超大规模环境中的微小优化为何值得投入?交易延迟为何更难衡量?性能分析、追踪、语言设计和硬件又如何相互配合?Software engineering可观测性与可靠性Programming Languages+2
4 张幻灯片17:43EN → 简体中文
Matthew Berman· 2023年11月6日OpenAI DevDay 2023:GPT-4 Turbo、自定义 GPT 与开发者工具Matthew Berman, Sam Altman, Satya Nadella · Forward FutureMatthew Berman 回顾 OpenAI 在 2023 年发布的消息,从更长的上下文、更便宜的 API 调用到自定义 GPT,以及它们对开发者的影响。OpenAI基础设施与部署智能体工程+2
1:19:52EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2023年10月18日播客1,000 块 H100 要 115 天,22,000 块只要五天主持 Nathan LabenzNathan Labenz 和 Trey Kollmer 讲解了集群算力的估算方法:如何把 GPT-4 规模的训练变成每周一次的实验;随后是四篇论文,涉及搜索增强型模型、递归式代码改进器、Llama 2 内部的空间地图,以及网络在完全不知道答案时的表现。模型与训练AI researchModel Interpretability+3
4 张幻灯片7:02EN → 简体中文
Matthew Berman· 2023年10月18日使用 Text Generation WebUI 将 AutoGen 接入 RunPod 托管模型Matthew Berman · Forward Future在这段 2023 年教程中,Matthew Berman 通过兼容 OpenAI 的 API 将 AutoGen 接入 Dolphin 2.1 Mistral 7B,并测试一个小型编程任务。智能体工程Open-weight modelsMulti-agent systems+2
3 张幻灯片4:42EN → 简体中文
Matthew Berman· 2023年10月17日通过 LM Studio 将 AutoGen 连接到本地模型Matthew Berman · Forward FutureMatthew Berman 演示早期本地模型配置,并解释智能体行为仍需调整的地方。智能体Open-weight models基础设施与部署
30:03EN → 简体中文
No Priors: AI, Machine Learning, Tech, & Startups· 2023年9月7日播客 · 2 人对谈一块餐盘大小的芯片,把训练时间从 60 天缩短到 3.5 天主持 Sarah Guo, Elad GilCerebras 首席执行官 Andrew Feldman 在《No Priors》中说明,为什么解决算力紧缺的答案是晶圆级芯片,而不是又一款 GPU,也解释了为什么大多数量产模型的参数量会保持在 130 亿或以下。基础设施与部署InferenceAI cost & performance+3
4 张幻灯片4:35EN → 简体中文
Matthew Berman· 2023年9月5日在云端 GPU 上运行 WizardCoder:2023 年 RunPod 操作教程Matthew Berman · Forward FutureMatthew Berman 演示如何将量化的 13B 编程模型下载到托管的文本生成界面,并解释如何停止 pod 以避免持续收费。模型与训练基础设施与部署编程智能体
38:13EN → 简体中文
No Priors: AI, Machine Learning, Tech, & Startups· 2023年8月31日播客 · 2 人对谈ChatGPT 跑在他的框架上,他仍然不建议你去训练模型主持 Sarah Guo, Elad GilVercel 创始人 Guillermo Rauch 在 No Priors 节目中说明:为什么前端是 AI 的最后一公里,为什么第一代 AI 框架会被重写,以及为什么机器人已经在偷你的 Token。基础设施与部署开发流程与测试可观测性与可靠性+3
1:01:26EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2023年7月25日播客AlexNet 用两块 GPU,GPT-4 用了两万块,短缺还会再来主持 Nathan LabenzRun:ai 首席技术官 Ronen Dar 谈如何让闲置的加速卡重新用起来,为什么 H100 按每次实验计算反而更便宜,以及 Llama 2 为何削弱了算力管制(compute governance)的说服力。基础设施与部署AI cost & performanceDistributed training & inference+3
3:08:46EN → 简体中文
Lex Fridman· 2023年6月29日播客 · 2 人对谈谁掌握关机开关?George Hotz 谈 tinygrad、开源 AI 与上帝嘉宾 George Hotz · 主持 Lex Fridman这是他第三次做客 Lex Fridman 的播客。comma.ai 和 tiny corp 的创始人主张,算力、智能和关机开关应当留在普通人家里,而不是掌握在少数可信之人手中。开源与社区基础设施与部署Open-source ecosystems+3
3 张幻灯片8:17EN → 简体中文
Matthew Berman· 2023年6月22日使用 OpenLLM 通过 API 提供开放模型服务Matthew Berman · Forward Future在一场 2023 年的演示中,Matthew Berman 展示本地模型服务器、交互式 API 和 Python 客户端。Open-weight modelsInference基础设施与部署+1
5 张幻灯片9:46EN → 简体中文
Matthew Berman· 2023年6月19日在 Windows 上安装 Text Generation WebUI:2023 年本地模型教程Matthew Berman · Forward FutureMatthew Berman 安装早期版本的 Text Generation WebUI,解决配置错误,并介绍模型下载和界面设置。这些步骤和软件包属于历史版本;现代安装应参考项目当前文档。Local inferenceOpen-weight models基础设施与部署+1
3:34:03EN → 简体中文
Lex Fridman· 2023年6月2日播客 · 2 人对谈Python 还没有完成:Chris Lattner 谈 Mojo 与硬件的乱局嘉宾 Chris Lattner · 主持 Lex FridmanLLVM 的创造者重返 Lex Fridman 的节目,主张 Python 应当获得接近 C 的性能,而非被迫让人离开这门语言。基础设施与部署AI platform engineeringSoftware engineering+3
6 张幻灯片11:49EN → 简体中文
Matthew Berman· 2023年6月1日测试 Wizard-Vicuna 30B:回答、推理与代码Matthew Berman · Forward FutureMatthew Berman 考察一款宣传为不受审查的模型,演示 2023 年的云端配置,并进行一组非正式测试。模型与训练评估AI Safety+1
加载更多已显示 24 篇,共 241 篇