OpenAI的一位前研究员揭露了一个业内公开的秘密：人类正在打造一套自己没法完全控制的AI系统。

科科塔伊洛在去年5月接受采访时解释过，AI公司面临的核心问题就是“对齐”问题，也就是要努力确保未来的AI系统能可靠地遵循人类的指令和价值观，即使它们在很多领域的能力已经超过了人类。他说，研究人员目前并没有完全搞明白先进AI模型在内部到底是怎么做决策的，这种不确定性让人很难确保未来的系统能真正“对齐”并稳定地执行人类希望它做的事。

他在谈到AI对齐时表示，某种程度上这可以说是一个公开的秘密，但大家还没有一个真正可行的解决方案。科科塔伊洛在2022年到2024年期间在OpenAI做预测研究，主要看AI系统进步有多快，以及随着企业构建更强大的模型，可能会出现哪些经济、政治和安全风险，之后他就离开了公司。现在他通过自己的非营利研究机构AI未来项目，继续研究类似的主题，重点分析AI系统可能发展得多快，以及如果企业继续优先追求速度和竞争，会冒出哪些风险。

科科塔伊洛说，一旦超级智能被造出来，人类将不再是这个星球的主导者，至少不再是默认的主导者。他还表示，很多人仍然低估了AI发展的速度，因为相关的讨论听起来往往像科幻小说。他的这个警告，正值AI公司持续往更强大的模型和更大规模的数据中心里砸数十亿美元的时候。