高能力 AI 能否被控制？一个开放问题

讲者将高能力 AI 的控制与对齐描述为开放问题，并在美国与中国竞争的背景下讨论。这样的战略框架是一种观点。

一位讲者认为，达到人类水平的表现不一定意味着受到类似人类的限制：系统可能运行得更快或以更大规模部署。这是对假设能力的比较，并非对现有系统的测量。

讲者设想对人类水平的系统可能存在某种暂时控制，但认为不应把它当成既定事实。片段没有提供证据证明这种控制是否能够实现。

对于假设中的超级智能，讲者用成年人和幼儿作类比来表达巨大的能力差距。这个类比说明了担忧，但不能证明对齐不可能。