用 a16z Companion App 构建 AI 角色

我想演示如何搭建 [a16z Companion App](https://github.com/a16z-infra/companion-app)，这是一个用于创建聊天角色的入门项目。你可以为角色设定个性和背景故事，并存储对话历史。仓库将其描述为开发者教程；本次演示中的界面和集成反映的是 2023 年 7 月的情况。

示例应用自带几个角色，使用托管的 ChatGPT 和 Vicuna 模型。作者告诉我，包括数据库在内的完全本地版本已列入路线图，但那是一项计划，并非这次演示的内容。我和 Alex 简单聊了几句，他的回答提到了绘画和科幻书籍。

首先克隆项目仓库并进入其目录。应用组合了多种服务：Next.js 负责应用逻辑，Clerk 负责身份验证，Pinecone 或 Supabase 负责向量存储，LangChain 负责模型编排，OpenAI 或 Replicate 负责文本生成，Upstash 负责对话历史。项目还列出 Fly 和 Twilio，分别用于部署和短信；其中一些集成是可选的。

克隆后运行 `npm install`，然后在编辑器中打开文件夹。将 `.env.local.example` 重命名或复制为 `.env.local`，填入所选服务的设置。本次演示我使用 Pinecone；示例也提供 Supabase，我提到它可以在本地托管。

配置身份验证时，先创建 Clerk 应用并选择登录方式。我选择电子邮件和 Google 登录，再把可发布密钥和私钥复制到对应的环境变量中，保留画面中已有的登录和注册路径。这些配置界面和选项现在可能有所不同。

接下来，在环境文件中添加 OpenAI API 密钥。我在这里使用 OpenAI；项目也支持由 Replicate 托管的 Vicuna 13B，需要提供 Replicate token。演示中的 Web 服务器在本地运行，但模型调用和其他选定服务仍由外部托管。

创建一个 Pinecone 索引，在环境文件中填入索引名称、环境和 API 密钥。项目配置为示例嵌入向量指定了 1,536 个维度。画面中的入门套餐信息属于历史信息；如果改用 Supabase，就按照项目说明配置该服务。

存储对话需要创建 Upstash Redis 数据库，选择区域以及画面中展示的 SSL 和淘汰设置，然后把 REST URL 和 token 复制到环境文件。视频使用的是托管 Redis 服务，因此这并不是完全本地的技术栈。

仓库针对 Pinecone 和 Supabase 分别提供了生成嵌入向量的命令。我运行 Pinecone 命令，将角色信息生成的嵌入向量载入向量存储，然后用 `npm run dev` 启动开发服务器。我在浏览器打开本地地址，通过 Clerk 登录。

本地应用展示了使用 ChatGPT 的 Alex 和 Sebastian，以及使用 Vicuna 13B 的 Rosie 和 Lucky。我说过，即使界面当时没有显示全部对话历史，历史仍会被存储。仓库解释说，对话队列和检索到的角色信息提供上下文；存储历史不等于模型拥有无限记忆。

要更改个性，可以打开 `companions` 目录下对应的文本文件。Alex 的文件描述了一个喜欢绘画、编程和科幻作品的虚构角色。你可以编辑描述或创建新个性，再在 `companions.json` 中更新图像、模型和可选电话号码等元数据。

项目包含通过 Twilio 给角色发短信的集成，但我没能让它正常工作：尝试时返回了 401 错误。我打算继续排查，如果解决就补充更新。这次成功演示的是浏览器中的陪伴角色。