最近更新的频道

点选即可只看该频道浏览全部频道 →

筛选结果

31 篇
排序
幻灯片0:22EN → 简体中文
Matthew Berman· 2026年10月18日DeepSeek 的内存使用:一段关于 KV 缓存的短评Matthew Berman · Forward FutureMatthew Berman 将较低的缓存内存使用量与服务更多 token 联系起来,但片段没有说明这些数字的比较基准。KV caching & prefix reuseInference基础设施与部署
0:50EN → 简体中文
Matthew Berman· 2026年9月2日Matthew Berman:利用闲置电脑进行 AI 推理Matthew Berman · Forward FutureBerman 介绍 Darkbloom 如何利用闲置算力运行 AI 模型,同时引出一个问题:分布式推理究竟能走多远?Distributed training & inference基础设施与部署Inference+2
0:41EN → 简体中文
Matthew Berman· 2026年8月28日更快的 AI 智能体会让更多工作转向云端吗?Matthew Berman · Forward FutureMatthew Berman 回顾了一次关于更快推理和本地计算机限制的对话。CPU 是否成为瓶颈,取决于具体的智能体工作负载和执行环境。Inference基础设施与部署AI agents
幻灯片0:48EN → 简体中文
Matthew Berman· 2026年8月25日Matthew Berman 谈通过 Darkbloom 分享闲置 Mac 算力获利Matthew Berman · Forward Future一个由 Apple Silicon Mac 组成的网络可以提供 AI 推理服务,但展示的收入是预测值,取决于硬件、在线时间和需求。Distributed training & inferenceInferenceLocal inference+1
9 张幻灯片13:09EN → 简体中文
Matthew Berman· 2026年8月14日AI 新闻:超高速推理、Claude 水印与新模型Matthew Berman · Forward FutureMatthew Berman 回顾超高速编码预览、文本水印、Grok Bot、开放权重模型和 Computer History。InferenceOpen-weight models编程智能体+2
0:24EN → 简体中文
Matthew Berman· 2026年3月2日AI Token 用量和费用带来的意外Matthew Berman · Forward FutureMatthew Berman 对不断上涨的使用费用作出反应,并指出监控 Token 消耗的重要性。AI cost & performanceInference
0:52EN → 简体中文
Matthew Berman· 2026年2月13日GPT-5.3-Codex-Spark 加快编程推理速度Matthew Berman · Forward FutureMatthew Berman 介绍 OpenAI 较小的编程模型,以及它如何使用 Cerebras 硬件实现低延迟响应。编程智能体InferenceSemiconductors
2 张幻灯片0:24EN → 简体中文
Matthew Berman· 2026年1月26日Matthew Berman 查看自己的 Clawdbot Token 成本Matthew Berman · Forward Future一次简短的用量检查发现,两天内的模型支出出乎意料地高。AI cost & performancePersonal agentsInference
3 张幻灯片12:13EN → 简体中文
Matthew Berman· 2026年1月15日OpenAI 与 Cerebras 的交易:加速 AI 推理的竞争Matthew Berman, Andrew Feldman, Greg Brockman · Forward FutureMatthew Berman 解释推理速度和算力为何重要,而对协议和基准的细看为他设想的百倍提速提供了背景。InferenceSemiconductorsOpenAI+2
幻灯片1:33EN → 简体中文
Matthew Berman· 2026年1月15日OpenAI 与 Cerebras 的合作,以及“快 100 倍”说法的边界Matthew Berman, Andrew Feldman · Forward FutureMatthew Berman 讨论 OpenAI 于 2026 年签订的 Cerebras 推理算力协议,并展示一张速度图。理解合同和速度比较需要补充视频标题未给出的背景。OpenAIInferenceSemiconductors+1
2 张幻灯片1:38EN → 简体中文
Matthew Berman· 2025年12月29日NVIDIA 的 Groq 许可协议与推理市场Matthew Berman · Forward FutureMatthew Berman 讨论 NVIDIA 许可 Groq 推理技术并聘用其团队成员的原因。SemiconductorsInferenceAI cost & performance+1
2 张幻灯片11:34EN → 简体中文
Matthew Berman· 2025年12月25日Nvidia 的 Groq 许可交易:AI 推理、人才与竞争策略Matthew Berman, Jonathan Ross · Forward FutureGroq 投资者 Matthew Berman 分析一项非独占技术许可和 Groq 高管转投 Nvidia 的安排,并推测 AI 芯片的未来。SemiconductorsInferenceAI Strategy+1
2 张幻灯片1:02EN → 简体中文
Matthew Berman· 2025年10月31日走进 Cerebras 俄克拉何马城数据中心Matthew Berman · Forward FutureMatthew Berman 参观这座设施,介绍其晶圆级芯片、机架和冷却系统。Inference基础设施与部署AI cost & performance
3 张幻灯片14:07EN → 简体中文
Matthew Berman· 2025年10月23日走进 Cerebras 俄克拉何马城 AI 数据中心Matthew Berman, Andrew Feldman, Billy Wooten · Forward FutureMatthew Berman 与 Cerebras 首席执行官 Andrew Feldman 和 Scale Data Centers 首席运营官 Billy Wooten 一同参观设施,了解晶圆级芯片、液冷和备用电力。文章将其性能及扩建数字作为公司在 2025 年提出的说法呈现。Semiconductors基础设施与部署Inference+2
4 张幻灯片8:47EN → 简体中文
Matthew Berman· 2025年9月16日为什么温度为零时,相同的 LLM 提示词仍可能产生不同回答Matthew Berman · Forward FutureMatthew Berman 解读 Thinking Machines Lab 关于批次不变推理的研究,以及其可复现性实验实际展示了什么。InferenceAI research可观测性与可靠性+1
6 张幻灯片12:10EN → 简体中文
Matthew Berman· 2025年3月6日Mercury Coder 与扩散语言模型:速度、演示与局限Matthew Berman · Forward FutureMatthew Berman 探讨 Inception 于 2025 年推出的编程模型,比较迭代式文本细化与自回归生成,并审视其速度宣传。模型与训练Inference编程智能体+2
5 张幻灯片10:01EN → 简体中文
Matthew Berman· 2025年2月5日DeepSeek R1 的代码优化与一项 3 美元的视觉计数实验Matthew Berman · Forward FutureMatthew Berman 研究了一次人类引导的代码改进和一项小规模强化学习实验,并思考它们对 AI 研究的意义。Reinforcement LearningGPU programming & kernelsAI research+2
6 张幻灯片10:39EN → 简体中文
Matthew Berman· 2024年10月29日Zamba2-7B:混合 Mamba 与 Transformer 的模型编程和推理测试Matthew Berman · Forward FutureMatthew Berman 将 Zyphra 的效率声明与自己的非正式测试作比较,涵盖 Python 游戏、空间谜题和简单文字任务。模型与训练Open-weight modelsBenchmarks+2
5 张幻灯片9:38EN → 简体中文
Matthew Berman· 2024年10月15日Liquid Foundation Models:厂商基准与实际测试Matthew Berman · Forward FutureMatthew Berman 回顾 Liquid AI 在 2024 年提出的模型和内存主张,再用编程、逻辑和指令遵循提示测试 40B 预览版。Foundation Models评估Benchmarks+2
幻灯片0:54EN → 简体中文
Matthew Berman· 2024年9月16日初探 OpenAI o1 Preview:让模型花更多时间推理Matthew Berman · Forward FutureMatthew Berman 介绍 o1-preview 和 o1-mini,并尝试用 Python 游戏提示词测试模型。模型与训练Inference
幻灯片0:44EN → 简体中文
Matthew Berman· 2024年8月29日NVIDIA 为 RTX AI Toolkit 增加 Multi-LoRA 服务支持Matthew Berman · Forward Future在与 NVIDIA 合作的视频中,Matthew Berman 介绍如何用一个基础模型加载多个适配器,以及厂商报告的吞吐量提升。微调Inference基础设施与部署
3 张幻灯片5:50EN → 简体中文
Matthew Berman· 2024年7月27日使用 Groq 和 Streamlit 演示 Mixture-of-AgentsMatthew Berman · Forward FutureMatthew Berman 介绍一个 2024 年的 Groq 驱动多智能体项目,从配置到检查各层回答。Multi-agent systemsAgent orchestrationInference+1
6 张幻灯片11:20EN → 简体中文
Matthew Berman· 2024年7月1日Matthew Berman 将 Mixture of Agents 适配到 Groq 推理服务Matthew Berman · Forward Future这篇 2024 年教程将一个开源多模型集成方案改为使用 Groq,随后测试交互输出并修复流式处理错误。Multi-agent systemsAgent orchestrationInference+1
5 张幻灯片13:18EN → 简体中文
Matthew Berman· 2024年6月20日在双 RTX 6000 工作站上测试本地 AIMatthew Berman · Forward FutureMatthew Berman 在 Dell 和 NVIDIA 提供的 Dell Precision 塔式工作站上测试语言模型、并发推理和图像生成。Local inferenceInference模型与训练+2
加载更多已显示 24 篇,共 31 篇