最近更新的频道

点选即可只看该频道浏览全部频道 →

筛选结果

7 篇
排序
3 张幻灯片5:27EN → 简体中文
Matthew Berman· 2025年1月29日体验 DeepSeek R1 的方式:托管与本地蒸馏模型Matthew Berman · Forward FutureMatthew Berman 演示 DeepSeek 聊天、Groq 托管的蒸馏版,以及 LM Studio 本地模型。Local inferenceOpen-weight modelsQuantization
4 张幻灯片9:53EN → 简体中文
Matthew Berman· 2024年5月28日本地测试 Microsoft Phi-3 Medium:编码与推理结果不一Matthew Berman · Forward FutureMatthew Berman 在 MacBook 上运行量化版 Phi-3 Medium,测试编码、算术和推理提示。Open-weight modelsLocal inferenceBenchmarks+1
8 张幻灯片13:19EN → 简体中文
Matthew Berman· 2024年1月18日运行本地语言模型,作为离线备用工具Matthew Berman · Forward FutureMatthew Berman 演示一套 2024 年的本地模型方案:选择量化模型、将其存入外置硬盘,并规划备用电源。Local inferenceFoundation Models基础设施与部署+1
4 张幻灯片7:48EN → 简体中文
Matthew Berman· 2023年11月26日测试 Dolphin 2.2 Yi 34B 的编程与推理能力Matthew Berman · Forward Future2023 年 11 月,Matthew Berman 使用编程、写作和逻辑提示词,对量化后的 Yi 微调模型进行非正式测试,结果好坏参半。Open-weight modelsFoundation ModelsBenchmarks+2
4 张幻灯片7:21EN → 简体中文
Matthew Berman· 2023年6月26日测试 Orca Mini 13B:受 Orca 启发的非官方模型Matthew Berman · Forward FutureMatthew Berman 加载量化版 Orca Mini 13B,测试编程、推理、算术和摘要提示。他在 2023 年的非正式测试中发现数次失败,也有一些成功。Open-weight models评估Distillation+2
3 张幻灯片8:51EN → 简体中文
Matthew Berman· 2023年6月2日Falcon 40B:2023 年榜单成绩与一次缓慢的 GPU 测试Matthew Berman · Forward FutureMatthew Berman 在托管 GPU 上试用量化版 Falcon 40B Instruct 检查点,发现输出有一定实用性,但生成速度缓慢。Open-weight modelsFoundation ModelsLocal inference+1
4 张幻灯片11:42EN → 简体中文
Matthew Berman· 2023年5月31日Guanaco 与 QLoRA:2023 年的微调方法与模型测试Matthew Berman · Forward FutureMatthew Berman 解读 QLoRA 论文,解释报告中的显存节省,并用一组非正式提示测试 Guanaco 65B。微调QuantizationOpen-weight models+1