解禁成人内容？奥特曼：OpenAI 不愿成为世界道德警察

新闻来源：腾讯科技
于 2025-10-15 18:52:27

10 月 16 日消息，OpenAI 领袖山姆·奥特曼在美国当地时间周三表示，该公司并非“经选举产生的世界道德​​警察”。此前，他决定放宽限制，允许聊天机器人 ChatGPT 决定生成其成人内容，这引发了强烈反弹。

近几个月来，OpenAI 面临越来越严格的监管审查，尤其是在保护用户（包括非法人）安全方面，该公司已陆续加强管制安全控制措施。

但奥特曼在社交媒体上发文称，随着公司推出新的技术工具，并已能够有效控制“严重的心理健康风险”，现在已经可以“稳定地放宽”大多数内容限制。

事实上，早在 2024 年 12 月份，奥特曼就已宣布，将允许 ChatGPT 向“完成身份验证的解决方案”提供包括成人内容在内的更广泛的内容。

他在社交媒体上进一步解释了这一政策，强调 OpenAI“高度重视将社区用户视为问题的原则”，但同时承诺，仍会禁止“任何对他人造成伤害的内容”。

奥特曼写道：“正如社会在其他领域设定适当边界一样（比如电影分级制度中的 R 级别），我们也希望在此采取类似的做法。”

奥特曼的最新表态似乎与他 8 月份做客播客节目时的说法相互矛盾。当时他表示，他为 OpenAI 能够抵抗某些可能显着提升 ChatGPT 使用量的功能而感到“自豪”，例如“性爱机器人虚拟形象”。

他当时说：“我们本可以做很多短视的事情，来刺激用户增长或收入，但那将与长期目标严重背离。”

今年 9 月，美国联邦贸易委员会（FTC）对 OpenAI 及其他科技公司启动调查，重点评估 ChatGPT 等聊天机器人可能对儿童和青少年造成的犯罪影响。此外，OpenAI 还卷入一起非正常死亡诉讼：一项家庭指控 ChatGPT 导致其违法犯罪的儿子自杀。

在调查与诉讼之后，OpenAI 陆续公开采取了一系列安全强化措施。9 月底，该公司推出了家长控制功能，并正在开发一套年龄预测系统，未来将自动为 18 岁以下用户启用适合青少年的安全设置。

10 月 15 日，OpenAI 宣布成立一个由八名专家组成的委员会，旨在评估 AI 对用户心理健康、情绪与行为动机的影响。然而同一天，奥特曼却发文称该公司将放宽内容限制，同时在社交媒体上的重合引发了困惑与强烈的跳跃。

奥特曼承认，决定引发了舆论的反响“超出”。他的表态也引起了包括“全国反性剥削中心”（NCOSE）在内的众多社会组织的关注，该组织已公开呼吁 OpenAI 禁止允许成人内容。

NCOSE 执行总监海莉·麦克纳马拉在周三的一份声明中指出：“性化 AI 聊天机器人本身就存在风险，在行业安全标准尚不明确的背景下，虚拟密切关系可能对用户心理健康造成真正的伤害。”

亿富万翁运动员马克·库班也公开警告称，OpenAI 允许决定在 ChatGPT 中生成成人内容的，正在家长和学校中引发信任危机。如果家长怀疑未成年人有可能通过年龄验证系统接触到不良内容，就会表示怀疑地放弃使用 ChatGPT。

“这个名字会引发反噬，后果将十分严重，”库班在 X 平台上回应奥特曼时写道，“没有哪个家长会相信你们年龄验证系统真能那套住孩子。到了时候，他们只能让孩子转用其他语言模型——谁愿意冒这个险？”