使用 Cody 和 Ollama 实现本地代码补全

编程助手很有用，但托管模型需要网络连接。在这段 2024 年 1 月的教程中，我展示如何在 Visual Studio Code 中结合 Cody、Ollama 和 Code Llama 7B 实现本地自动补全。视频由 Cody 赞助。本地运行的说法适用于配置的补全服务，并不能证明 Cody 的每项功能、账号操作或遥测事件都离线。

我使用搭载 M2 Max 的 MacBook Pro，发现 7B 模型在这台机器上响应很快。性能和内存需求取决于硬件及配置。这里展示的简单例子只是演示，并非与其他编程助手的全面比较。

为你的操作系统安装 Visual Studio Code，打开扩展并搜索 Cody AI。我安装预发布版扩展，打开 Cody 并使用 Google 登录；演示流程中也提供 GitHub 登录。这一教程中的安装、账号设置和模型下载需要网络连接。

当时我介绍了免费档位、使用频率限制和暂时免费的 Pro 方案。这些价格和默认模型属于历史信息，可能已经改变。我的重点是将自动补全切换到本地模型，而不是假定每项功能都使用该模型。

安装并启动 Ollama，然后打开终端，用 `ollama pull codellama:7b-code` 下载演示中的模型。我已经缓存了它，画面显示的下载大小约为 3.8 GB。可参阅 [Ollama 的 Code Llama 说明](https://ollama.com/blog/run-code-llama-locally)；模型标签和大小可能变化。

在当时的 Cody 扩展设置中，找到 Autocomplete > Advanced: Provider 并选择 `unstable-ollama`。我将单独的模型覆盖选项保留为 null，并指出画面上的该控件涉及 Fireworks 服务。这是 2024 年的实验性配置：较新版本可能使用不同设置，应查看 [Sourcegraph 文档](https://sourcegraph.com/docs/cody/capabilities/ollama)了解当前支持情况。

要检查所选补全服务，可以打开 VS Code 的 Output 面板并选择 Cody by Sourcegraph。日志显示 Ollama 服务和 Code Llama 模型。这能说明该次补全使用的服务，并非证明所有网络操作或功能都在本地运行的审计。

我输入一条请求 Fibonacci 方法的注释，Cody 给出代码建议，我用 Tab 接受。在我的电脑上响应看起来很快。生成的代码仍需要审查和测试；这个例子本身不能证明它对所有输入都正确。

灯泡菜单提供“Ask Cody to generate”操作。我请求生成打印 1 到 100 的代码，并展示接受、重试、撤销或查看差异的选项。教程没有独立证实此命令与自动补全使用相同的本地推理路径。

我使用一个现有的人脸检测脚本，新增一行，展示 Cody 根据周围代码建议注释。随后我选中代码，要求修改输出图像名称。我接受结果，并在输出面板中展示模型和服务信息。

Cody 还提供聊天等功能，但在这次演示中它们不由本地模型驱动。我选择一个托管的 Claude 模型，询问引用的人脸检测文件做什么。可用模型、方案和数据处理方式取决于服务及配置，因此本地自动补全并不会让这次聊天也变成本地运行。

我演示添加文档和删除注释，随后提到代码解释、检测代码异味和生成单元测试。我认为测试尤其有用，但生成的更改和测试仍需人工审查。在这次演示中，我更喜欢 Cody 的功能组合，而不是 GitHub Copilot；这是我的观点，并非受控比较。

视频由 Cody 赞助。教程展示了本地补全的一种历史配置和单独的云端功能；可用功能、价格和许可可能随时间变化。Code Llama 权重有自己的许可证和条件，与 Cody 的软件及服务条款分开。