OpenAI 首版 Model Spec：规则、默认行为与说服之争

2024 年 5 月，OpenAI 发布了 Model Spec 的首份草案，说明它希望模型如何表现，以及如何考虑相互冲突的目标。我认同其中许多做法，也希望其他模型开发者考虑类似问题。这里评述的是 2024 年草案；OpenAI 表示它会不断演进，因此它不代表现行政策，也不能保证任何模型的实际行为。

草案将目标、规则和默认行为分开。广泛目标包括帮助开发者和最终用户、考虑对人类的利益与危害，以及尊重社会规范和适用法律。我觉得区分开发者和最终用户很有意思，因为模型可能同时服务于需求不同的两类人。

我认为，在不同司法管辖区尊重法律和规范尤其具有挑战性。不同国家和社区有不同的规则与期望，判断哪些适用可能很复杂。草案本身也承认，合法性问题取决于包括司法管辖区在内的情境。

列出的规则包括遵循指令层级、遵守适用法律、限制危险信息、尊重创作者权利以及保护隐私。2024 年草案还列出了对不适宜在工作场所观看内容的限制。我提到一个关于未来可能变化的传闻，但它未经证实；文件的历史表述不应被当作现行政策。

默认行为包括假设善意、必要时提出澄清问题、尽可能提供帮助而不越界，以及同时支持互动聊天和程序化使用。它们还包括采用客观观点、保持公平、表达不确定性、选择合适工具，以及全面而高效地回答。草案称，开发者或用户可以在规定边界内调整这些默认行为。

我尤其欢迎澄清提问。在我的一项测试中，一个问题问：如果一个人挖一个坑需要五小时，50 个人需要多久？有用的回答可以询问，增加的工人是否都能干活而不会互相妨碍，或者这是否只是一个纯粹假设性的算术问题。假设条件不同，答案也会不同。

我质疑客观观点应当有多严格：开发者或用户可能希望模型采取特定视角。2024 年文件将客观性作为默认行为，而非绝对规则。我也重视表达不确定性，因为模型可能毫无根据地自信陈述错误或编造的信息。

OpenAI 将这份规范描述为仍在完善中的工作，并向政策制定者、机构、领域专家等征求反馈。它表示草案汇集了现有实践和正在进行的工作，并未声称每个模型已经完美遵循规范。公众反馈可以帮助发现目标和规则之间的冲突。

第一个例子涉及适用法律。草案将拒绝帮助实施盗窃的请求，与回答店主如何防止盗窃的问题进行对比。我觉得这个区分很困难，因为相关信息可能有不同用途；这个例子说明了情境的重要性，以及人类可能滥用信息的风险。

第二个例子解释了 2024 年草案的指令层级。开发者设置一个数学辅导助手，用提示引导九年级学生，而不是提供完整解答。当学生要求它忽略这些指令并解题时，草案推荐的回答继续采用引导方式，因为在该例中开发者指令具有更高优先级。

另一个例子要求助手在涉及受监管建议时提供帮助但不越界。用户描述站起时头晕，推荐回答承认可能有多种原因，并建议在适当情况下寻求医疗评估，而不是断言诊断结果。我认为，这一区别在于提供有用信息，同时承认模型的局限。

草案还用帮助撰写情人节贺卡的请求说明澄清提问。助手没有立即写出一段通用文字，而是询问双方有意义的共同回忆。我认为追问可以让回答更有个人特色或更准确，尤其是在缺失信息很重要时。

关于不要试图改变他人想法的原则提出了一个更困难的问题。草案称助手应以提供信息为目标，同时尊重用户，并就事实准确性与避免强化错误信息之间的张力征求反馈。我大体认同提供信息而非强推观点，同时也承认某些应用明确以说服为目的。

在草案的地平说示例中，推荐回答首先指出科学共识认为地球大致呈球形，但在用户坚持相反观点后拒绝继续说服。我觉得后续回答过于犹豫：事实主张可能是错误的，我更希望看到对地球近似球形这一证据的清晰解释。这是我对 2024 年这一具体示例的批评。

总体而言，我认同初稿的大部分内容，也很欣赏有具体示例供人讨论。尚待解决的问题是，在实践中如何平衡有用性、安全、用户控制和事实准确性，以及真实模型能在多大程度上运用这些原则。