筛选结果
7 篇排序
5:27EN → 简体中文体验 DeepSeek R1 的方式:托管与本地蒸馏模型Matthew Berman · Forward FutureMatthew Berman 演示 DeepSeek 聊天、Groq 托管的蒸馏版,以及 LM Studio 本地模型。
9:53EN → 简体中文本地测试 Microsoft Phi-3 Medium:编码与推理结果不一Matthew Berman · Forward FutureMatthew Berman 在 MacBook 上运行量化版 Phi-3 Medium,测试编码、算术和推理提示。
13:19EN → 简体中文运行本地语言模型,作为离线备用工具Matthew Berman · Forward FutureMatthew Berman 演示一套 2024 年的本地模型方案:选择量化模型、将其存入外置硬盘,并规划备用电源。
7:48EN → 简体中文测试 Dolphin 2.2 Yi 34B 的编程与推理能力Matthew Berman · Forward Future2023 年 11 月,Matthew Berman 使用编程、写作和逻辑提示词,对量化后的 Yi 微调模型进行非正式测试,结果好坏参半。
7:21EN → 简体中文测试 Orca Mini 13B:受 Orca 启发的非官方模型Matthew Berman · Forward FutureMatthew Berman 加载量化版 Orca Mini 13B,测试编程、推理、算术和摘要提示。他在 2023 年的非正式测试中发现数次失败,也有一些成功。
8:51EN → 简体中文Falcon 40B:2023 年榜单成绩与一次缓慢的 GPU 测试Matthew Berman · Forward FutureMatthew Berman 在托管 GPU 上试用量化版 Falcon 40B Instruct 检查点,发现输出有一定实用性,但生成速度缓慢。
11:42EN → 简体中文Guanaco 与 QLoRA:2023 年的微调方法与模型测试Matthew Berman · Forward FutureMatthew Berman 解读 QLoRA 论文,解释报告中的显存节省,并用一组非正式提示测试 Guanaco 65B。









