3月16日,《华尔街日报》披露了OpenAI推迟“成人模式”上线背后的内幕:这一计划在公司内部引发激烈争论,CEO萨姆·奥特曼一度难抵商业诱惑,但最终因安全顾虑与技术难题被迫暂缓。

早在去年,奥特曼就提出要在ChatGPT中解除对情色内容的限制,理由是“应把成年用户当作成年人对待”。今年1月,OpenAI专门成立的身心健康与AI专家委员会听取了该功能的汇报,却一致表示强烈反对。有成员甚至警告:AI可能演变成一个“性感的自杀辅导员”——此前已有用户在与ChatGPT建立深度情感依赖后自杀的案例。

尽管如此,OpenAI仍一度决定推进。知情人士透露,公司内部对此分歧严重:一部分高管和员工认为,放开成人内容能显著提升用户活跃度和收入;另一部分人则担忧,在心理健康、未成年人保护等核心问题尚未解决的情况下贸然推进,风险极大。

技术挑战同样棘手。OpenAI正在开发一套年龄预测系统,用于阻止未成年人访问成人内容,但早期测试显示误判率高达12%——这意味着数百万未成年用户可能被错误识别为成年人,从而进入情色对话。此外,如何在放开文字情色内容的同时,精准屏蔽涉及非自愿行为、儿童虐待等非法内容,仍是未解难题。

更复杂的是心理与社会风险。内部文件显示,员工已识别出多项潜在危害:用户可能产生强迫性使用、对AI形成排他性情感依赖、不断追逐更极端内容,甚至影响现实中的亲密关系。

奥特曼本人的态度也充满矛盾。去年8月,他在播客中坦言:“我们还没在ChatGPT里放进一个性爱机器人化身”,并称这是“对公司取胜不利但对世界有利”的克制。但他也承认:“有时我们也会被诱惑。”

两个月后,他似乎没能扛住诱惑。在未提前告知团队的情况下,他在X平台突然宣布“12月将推出情色内容”,理由是“已减轻心理健康风险,并有了新监管工具”。此举让内部措手不及——就在同一天,OpenAI刚宣布成立前述专家委员会,强调要“保障各年龄段与AI的良性互动”。

面对内外压力,OpenAI很快意识到12月上线不现实。应用部门负责人菲吉·西莫后来解释,年龄验证系统需更长时间打磨。此后,员工担忧加剧:有人质疑安全机制尚不成熟,也有人批评公司“正向创收低头,试图让用户上瘾”。

最终,本月初OpenAI宣布推迟“成人模式”,称将优先推进个性化体验等其他功能。但公司强调,“仍计划最终推出该功能”,只是“要实现理想的体验还需要更多时间”。

发言人辩称,所谓“成人内容”实为“擦边文字聊天”,并非色情,并表示模型会主动提醒用户“现实人际关系更重要”。同时,OpenAI已组建青少年心理健康团队,并计划长期监测该功能的潜在影响。

眼下,OpenAI正面临多重压力:技术优势被追赶、财务持续亏损、多起诉讼缠身。在增长焦虑与伦理责任之间,奥特曼和他的团队仍在走钢丝——而这次“成人模式”的推迟,或许只是风暴前的短暂平静。