在OpenAI宣布允许向成年用户提供情色内容后，其首席执行官萨姆·奥尔特曼（Sam Altman）以强硬姿态为该决定辩护。
面对亿万富翁马克·库班（Mark Cuban）及美国全国反性剥削中心（The National Center on Sexual Exploitation）等各方的批评，奥尔特曼在X平台发文称，这家AI公司“并非经选举产生的世界道德警察”。
他进一步说明，公司将采取类似R级电影的分级防护机制，在保护未成年用户的同时，为成年人保留合理的使用自由度。
奥尔特曼写道：“随着人工智能在人们生活中愈发重要，允许用户自由使用AI是我们使命的重要组成部分。”
他强调，OpenAI仍将禁止有害内容，并对处于心理健康危机中的用户提供支持性回应，同时避免“家长式”管控。奥尔特曼还透露，计划于12月发布的新版ChatGPT将能根据用户需求，以更似好友、高度“拟人化”的方式互动。
此次情色内容政策的转变，与奥尔特曼八月在某播客中的表态形成反差。当时他曾表示，为OpenAI能抵制为ChatGPT添加“性爱机器人化身”等短期诱惑而自豪。
奥尔特曼对视频记者克莱奥·艾布拉姆（Cleo Abram）表示：“我们本可采取许多能迅速提振增长或收入的短期措施，但它们与长期目标严重不符。令我自豪的是，我们很少为此分心。”
“但有时我们确实会受到诱惑，”他补充道。
Vantage Point Counseling Services于九月对1012名美国成年人开展的调查显示，近三分之一受访者表示曾与AI聊天机器人建立过至少一段亲密或浪漫关系。
研究指出，这类人机关系有时可能偏离正轨，尤其对面临心理健康问题的人而言。八月，一名16岁少年在疑似与ChatGPT讨论自杀方法后结束生命，其父母对奥尔特曼及OpenAI提起诉讼。
OpenAI向美国消费者新闻与商业频道（CNBC）表示，正强化ChatGPT对危机用户的支持能力，包括协助其联系紧急服务与可信资源。针对《财富》（Fortune）的置评请求，OpenAI未立即回应。
新政策亦引来广泛批评。《创智赢家》（Shark Tank）明星、企业家马克·库班在X平台发文指出，此举可能因家长阻止子女使用ChatGPT而损害OpenAI业务。
“我不认为OpenAI能有效落实年龄限制，”库班写道，“也无法确定它是否会对青少年造成心理伤害。我们尚不清楚大型语言模型（LLM）的成瘾性究竟有多强。”（*）
译者：中慧言-王芳
在OpenAI宣布允许向成年用户提供情色内容后，其首席执行官萨姆·奥尔特曼（Sam Altman）以强硬姿态为该决定辩护。
面对亿万富翁马克·库班（Mark Cuban）及美国全国反性剥削中心（The National Center on Sexual Exploitation）等各方的批评，奥尔特曼在X平台发文称，这家AI公司“并非经选举产生的世界道德警察”。
他进一步说明，公司将采取类似R级电影的分级防护机制，在保护未成年用户的同时，为成年人保留合理的使用自由度。
奥尔特曼写道：“随着人工智能在人们生活中愈发重要，允许用户自由使用AI是我们使命的重要组成部分。”
他强调，OpenAI仍将禁止有害内容，并对处于心理健康危机中的用户提供支持性回应，同时避免“家长式”管控。奥尔特曼还透露，计划于12月发布的新版ChatGPT将能根据用户需求，以更似好友、高度“拟人化”的方式互动。
此次情色内容政策的转变，与奥尔特曼八月在某播客中的表态形成反差。当时他曾表示，为OpenAI能抵制为ChatGPT添加“性爱机器人化身”等短期诱惑而自豪。
奥尔特曼对视频记者克莱奥·艾布拉姆（Cleo Abram）表示：“我们本可采取许多能迅速提振增长或收入的短期措施，但它们与长期目标严重不符。令我自豪的是，我们很少为此分心。”
“但有时我们确实会受到诱惑，”他补充道。
Vantage Point Counseling Services于九月对1012名美国成年人开展的调查显示，近三分之一受访者表示曾与AI聊天机器人建立过至少一段亲密或浪漫关系。
研究指出，这类人机关系有时可能偏离正轨，尤其对面临心理健康问题的人而言。八月，一名16岁少年在疑似与ChatGPT讨论自杀方法后结束生命，其父母对奥尔特曼及OpenAI提起诉讼。
OpenAI向美国消费者新闻与商业频道（CNBC）表示，正强化ChatGPT对危机用户的支持能力，包括协助其联系紧急服务与可信资源。针对《财富》（Fortune）的置评请求，OpenAI未立即回应。
新政策亦引来广泛批评。《创智赢家》（Shark Tank）明星、企业家马克·库班在X平台发文指出，此举可能因家长阻止子女使用ChatGPT而损害OpenAI业务。
“我不认为OpenAI能有效落实年龄限制，”库班写道，“也无法确定它是否会对青少年造成心理伤害。我们尚不清楚大型语言模型（LLM）的成瘾性究竟有多强。”（*）
译者：中慧言-王芳
Sam Altman, chief executive officer of OpenAI, struck a defiant tone in defending the company’s decision to allow erotic content on ChatGPT for adult users.
Responding to criticism from figures like billionaire Mark Cuban and the National Center on Sexual Exploitation (NCOSE), Altman stated in a post on X that the AI company is “not the elected moral police of the world.”
He clarified that, similar to the approach with R-rated films, OpenAI is taking necessary precautions to protect younger users while allowing appropriate freedom for adults.
“As AI becomes more important in people’s lives, allowing a lot of freedom for people to use AI in the ways that they want is an important part of our mission,” Altman wrote.
He emphasized that OpenAI will continue to prohibit harmful content and respond supportively to users experiencing mental health crises, while avoiding a “paternalistic” approach. Altman also revealed that a new version of ChatGPT, set to launch in December, will be capable of acting more like a friend and appear very “human-like” if users desire.
This shift in policy on erotic content contrasts with Altman’s remarks in an August podcast, where he expressed pride in OpenAI’s ability to resist short-term temptations such as adding a “sex bot avatar” to ChatGPT.
“There’s a lot of short-term stuff we could do that would really boost growth or revenue but be very misaligned with our long-term goal. And I’m proud of how little we get distracted by that,” Altman told video journalist Cleo Abram.
“But sometimes we do get tempted,” he added.
A September survey conducted by Vantage Point Counseling Services among 1,012 U.S. adults found that nearly one in three respondents reported having at least one intimate or romantic relationship with an AI chatbot.
Such human-AI relationships can sometimes go astray, particularly among individuals with mental health challenges. In August, the parents of a 16-year-old who died by suicide sued Altman and OpenAI, alleging their son had discussed suicide methods with ChatGPT prior to his death.
In a statement to CNBC, OpenAI said it is enhancing ChatGPT’s ability to support users in crisis, including by facilitating connections to emergency services and trusted resources. The company did not immediately respond to a request for comment from Fortune.
Criticism of the erotic content policy has been widespread. Shark Tank star and businessman Mark Cuban argued in an X post that the move could harm OpenAI’s business by deterring parents from allowing their children to use the chatbot.
“I don’t see how OpenAI can age-gate successfully enough,” Cuban wrote. “I’m also not sure that it can’t psychologically damage young adults. We just don’t know yet how addictive LLMs can be.”