最近更新的频道

点选即可只看该频道浏览全部频道 →
Matthew Berman昨天 +181AI Engineer昨天 +6Theo - t3․gg昨天The Builders昨天 +1a16z昨天 +2硅谷101昨天 +1SemiAnalysis昨天 +1Chris Williamson昨天Cheeky Pint昨天Invest Like The Best昨天

筛选结果

5 篇
排序
主题Quantization人物Matthew Berman
3 张幻灯片5:27EN → 简体中文
Matthew Berman· 2025年1月29日体验 DeepSeek R1 的方式：托管与本地蒸馏模型Matthew Berman · Forward FutureMatthew Berman 演示 DeepSeek 聊天、Groq 托管的蒸馏版，以及 LM Studio 本地模型。Local inferenceOpen-weight modelsQuantization
8 张幻灯片13:19EN → 简体中文
Matthew Berman· 2024年1月18日运行本地语言模型，作为离线备用工具Matthew Berman · Forward FutureMatthew Berman 演示一套 2024 年的本地模型方案：选择量化模型、将其存入外置硬盘，并规划备用电源。Local inferenceFoundation Models基础设施与部署+1
3 张幻灯片6:11EN → 简体中文
Matthew Berman· 2023年8月31日使用 Text Generation WebUI 在本地运行 WizardCoderMatthew Berman · Forward FutureMatthew Berman 演示 2023 年一款基于 Code Llama 的量化编程模型的设置过程，从 Python 环境到简单测试提示。Local inference编程智能体Open-weight models+1
4 张幻灯片7:21EN → 简体中文
Matthew Berman· 2023年6月26日测试 Orca Mini 13B：受 Orca 启发的非官方模型Matthew Berman · Forward FutureMatthew Berman 加载量化版 Orca Mini 13B，测试编程、推理、算术和摘要提示。他在 2023 年的非正式测试中发现数次失败，也有一些成功。Open-weight models评估Distillation+2
3 张幻灯片8:51EN → 简体中文
Matthew Berman· 2023年6月2日Falcon 40B：2023 年榜单成绩与一次缓慢的 GPU 测试Matthew Berman · Forward FutureMatthew Berman 在托管 GPU 上试用量化版 Falcon 40B Instruct 检查点，发现输出有一定实用性，但生成速度缓慢。Open-weight modelsFoundation ModelsLocal inference+1