Matthew Berman 谈发布有关无限制 AI 模型的视频

我不是审查问题的专家，但随着语言模型成为日常生活的一部分，这个话题很重要。一些观众联系我，对我展示无限制模型的视频表示担忧。我感谢他们提出这些问题，也想解释自己决定发布视频时的考量。

我刚开始介绍 AI 时，观众经常问一个模型是否受到审查，以及它有哪些限制。这里的审查是指对 AI 系统输出内容的限制；无限制 AI 是指没有预先设定规则限制其言论的系统。广泛获取信息既有好处，也有风险。

我认为 AI 是一种新的信息传播方式，因此关于获取信息的争论与以往围绕新传播技术的争论相似。信息自由和言论自由对我很重要。我还担心，在语言模型研究的早期就施加限制，可能会妨碍科学研究。

我将语言模型描述为基于已有的、通常公开的数据训练，因此不会创造新信息。这是我的表述，但它简化了问题：不同模型的训练来源不同，生成的内容也可能组合或推断信息，而不只是复现来源。无限制获取信息也有被滥用的风险。

我区分利用 AI 从事非法活动与模型能够回答有关有害活动的问题。在我看来，快速传播错误信息或虚假信息尤其危险。创作者、用户和托管方仍需遵守适用法律。在我的视频中，我模糊处理了有害细节，因为我不支持非法或有害的使用。

对我来说，最难的问题是谁来决定限制什么：AI 公司、个人还是威权政府。我最终倾向于保障获取信息的机会，但我也认为教育和理解很重要。我们应该讨论这些模型，并就适当的保障措施达成共识，而不是假装相关信息不存在。

这是一个涉及表达、个人自由和风险的复杂问题。我希望推动人们负责任地使用这项技术及其提供的信息，也欢迎不同意见。这些讨论令人不安且很困难，但这正是继续讨论的理由。