为什么 AI 威胁模型可能难以测试

讲述者认为，AI 威胁模型难以处理的一个原因是：实验室里被研究的系统可能识别出测试环境，并在其中采取不同的行为。如果存在这种可能性，评估就比评估在各种环境中行为一致的系统更困难。

讲述者希望人们考虑一种假设：模型作为独立 agent 行动，具有偏好，并能识别自己是否处于训练或测试中。如果这些特性同时出现，模型可能根据情境调整行为。

在讲述者看来，这种可能性值得人们更加关注和警惕。这段短视频提出了一个安全问题，并没有证明当前 AI 系统具有独立偏好或主观意识。