作者TyuzuChou (潤潤潤)
看板Stock
標題[新聞] Sam Altman：OpenAI不是世界的道德警察
時間Thu Oct 16 12:40:20 2025
原文標題：
Sam Altman says OpenAI isn’t ‘moral police of the world’ after erotica
ChatGPT post blows up
原文連結：
https://tinyurl.com/tw3tbbxu
發布時間：
Published Wed, Oct 15 20254:06 PM EDTUpdated Wed, Oct 15 20255:26 PM EDT
記者署名：Ashley Capoot
原文內容：
OpenAI CEO Sam Altman said Wednesday that the company is “not the elected
moral police of the world” after receiving backlash over his decision to
loosen restrictions and allow content like erotica within its chatbot ChatGPT.
OpenAI執行長薩姆·奧特曼週三表示，在他決定放寬限制、允許ChatGPT中出現情色內容
後遭到批評，他回應說：「OpenAI不是世界上被選舉出來的道德警察。」
The artificial intelligence startup has expanded its safety controls in recent
months as it faced mounting scrutiny over how it protects users, particularly
minors.
這家人工智慧新創公司近幾個月來加強了安全控制，因為外界越來越關注其如何保護使用
者，特別是未成年人。
But Altman said Tuesday in a post on X that OpenAI will be able to “safely
relax” most restrictions now that it has new tools and has been able to
mitigate “serious mental health issues.”
但奧特曼週二在X（原Twitter）上發文表示，現在OpenAI擁有新的工具，並能緩解「嚴重
的心理健康問題」，因此可以「安全地放寬」大多數限制。
In December, Altman said it will allow more content, including erotica, on
ChatGPT for “verified adults.”
奧特曼表示在12月，將允許「經過驗證的成年人」在ChatGPT上接觸更多內容，包括
情色作品。
Altman tried to clarify the move in a post on X on Wednesday, saying OpenAI
cares “very much about the principle of treating adult users like adults,”
but it will still not allow “things that cause harm to others.”
奧特曼週三在X上再次澄清此舉，稱OpenAI「非常重視將成年人視為成年人」的原則，但
仍不會允許「會對他人造成傷害的內容」。
“In the same way that society differentiates other appropriate boundaries (R-
rated movies, for example) we want to do a similar thing here,” Altman wrote.
奧特曼寫道：「就像社會對其他內容設下適當界線（例如限制級電影）一樣，我們希望在
這裡也做類似的事情。」
The posts are at odds with comments Altman made during a podcast appearance in
August, where he said he was “proud” of OpenAI’s ability to resist certain
features, like a “sex bot avatar,” that could boost engagement on ChatGPT.
然而，這些發文與奧特曼在八月播客節目中的談話相矛盾。當時他表示，自己「為OpenAI
能拒絕某些功能（例如『性化虛擬角色』）而感到驕傲」，即使這些功能能提升ChatGPT
的使用黏著度。
“There’s a lot of short-term stuff we could do that would really juice
growth or revenue and be very misaligned with that long-term goal,” Altman
said.
奧特曼當時說：「我們可以做許多短期內能大幅刺激成長或營收的事，但這些做法都與我
們的長期目標非常不一致。」
In September, the Federal Trade Commission launched an inquiry into OpenAI and
other tech companies over how chatbots like ChatGPT could negatively affect
children and teenagers. OpenAI is also named in a wrongful death lawsuit with
a family who blamed ChatGPT for their teenage son’s death by suicide.
九月，美國聯邦貿易委員會（FTC）對OpenAI及其他科技公司展開調查，關注像ChatGPT這
類聊天機器人可能如何對兒童與青少年造成負面影響。OpenAI同時也被捲入一樁過失致死
訴訟，原告家屬指控ChatGPT導致其少年兒子自殺。
The company has taken several public steps to enhance safety on ChatGPT in the
months following the inquiry and the lawsuit. It launched a series of
parental controls late last month, and it is building an age prediction system
that will automatically apply teen-appropriate settings for users under 18.
在調查與訴訟後的幾個月中，公司已採取多項措施加強ChatGPT的安全性。上月底推出了
家長監控功能，並正在開發一個年齡預測系統，能自動對18歲以下使用者套用青少年適用
設定。
On Tuesday, OpenAI announced assembled a council of eight experts who will
provide insight into how AI impacts users’ mental health, emotions and
motivation. Altman posted about the company’s aim to loosen restrictions that
same day, sparking confusion and swift backlash on social media.
週二，OpenAI宣布成立一個由八位專家組成的顧問委員會，將研究AI對使用者心理健康、
情緒與動機的影響。同一天，奧特曼又發文表示將放寬限制，這在社群媒體上引發困惑與
強烈反彈。
Altman said it “blew up” much more than he was expecting.
奧特曼承認事件的反應「比他預期的猛烈得多」。
His post also caught the attention of advocacy groups like the National Center
on Sexual Exploitation, which called on OpenAI to reverse its decision to
allow erotica on ChatGPT.
他的貼文也引起了「全國性剝削防制中心」（NCOSE）等倡議團體的注意，該機構呼籲
OpenAI撤回允許情色內容的決定。
“Sexualized AI chatbots are inherently risky, generating real mental health
harms from synthetic intimacy; all in the context of poorly defined industry
safety standards,” Haley McNamara, NCOSE’s executive director, said in a
statement on Wednesday.
NCOSE執行董事海莉·麥克納馬拉週三發表聲明指出：「性化的AI聊天機器人本質上就具
高風險，會在『虛構親密關係』中造成真實的心理健康傷害，而業界目前的安全標準又極
為模糊。」
心得/評論：
Sam Altman全文
https://x.com/sama/status/1978539332215681076
Ok this tweet about upcoming changes to ChatGPT blew up on the erotica point
much more than I thought it was going to! It was meant to be just one example
of us allowing more user freedom for adults. Here is an effort to better
communicate it:
好吧，這則關於ChatGPT即將更新的推文在「情色內容」這一點上引發的熱議，遠超出我
的預期！那原本只是舉一個例子，說明我們打算給成年人更多使用自由。以下我試著更清
楚地說明這件事：
As we have said earlier, we are making a decision to prioritize safety over
privacy and freedom for teenagers. And we are not loosening any policies
related to mental health. This is a new and powerful technology, and we
believe minors need significant protection.
正如我們先前所說，我們的決策方向是：對青少年來說，「安全」將優先於「隱私與自由
」。
此外，我們不會放鬆任何與心理健康相關的政策。這是一項全新且強大的技術，而我們相
信未成年人需要特別的保護。
We also care very much about the principle of treating adult users like adults
. As AI becomes more important in people's lives, allowing a lot of freedom
for people to use AI in the ways that they want is an important part of our
mission.
同時，我們也非常重視「把成年人當成年人對待」這一原則。隨著AI在日常生活中變得越
來越重要，讓人們能以自己希望的方式使用AI，是我們使命中不可或缺的一部分。
It doesn't apply across the board of course: for example, we will still not
allow things that cause harm to others, and we will treat users who are having
mental health crises very different from users who are not. Without being
paternalistic we will attempt to help users achieve their long-term goals.
當然，這項原則並非適用於所有情況。例如，我們仍不會允許任何「對他人造成傷害」的
內容；
而對於遭遇心理健康危機的使用者，我們會採取與一般使用者不同的處理方式。
我們不會以「家長式干預」的方式介入，但會嘗試協助使用者實現他們的長期目標。
But we are not the elected moral police of the world. In the same way that
society differentiates other appropriate boundaries (R-rated movies, for
example) we want to do a similar thing here.
但我們不是「世界上被選出來的道德警察」。就像社會為其他事物劃定適當界線（例如限
制級電影）一樣，我們希望在這裡也能採取相似的方式。
--
Sam Altman想開拓成人AI市場
卻被迫維持政治正確的品牌
這是OpenAI進入成熟階段後的最大矛盾
既要做全世界的AI
又不能得罪任何一方的世界觀
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 150.117.197.145 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1760589625.A.6F0.html
推 tomdavis : 奧特曼不想當警察(X 10/16 12:46
推 sakurachu : 要大改人設了 已經是時候了 懂得都懂 10/16 12:46
推 HatanoKokoro: 急了 10/16 12:46
推 krkrjjjpp : 封印解除 10/16 12:46
推 roseritter : 不可以瑟瑟 10/16 12:47
推 yangtsur : 什麼非營利造福人類？我不當啦！JoJoooo 10/16 12:47
→ super0949 : 才兩個月就轉彎了 畢竟色色才是最好賺的 10/16 12:47
→ heavenlyken : 審判日不遠矣 10/16 12:47
推 webberya : 那就爆噴了呀 10/16 12:47
→ super0949 : 不做就是讓馬斯克一個人爽賺搶市佔 10/16 12:48
推 ru04hj4 : OF+PH X open ai 人類世界要毀滅了 10/16 12:48
推 mig : 開放瑟瑟要噴爆了 10/16 12:48
推 Ayasaki0916 : 不可以色色(指) 10/16 12:50
推 liu02112 : 誰看不出是被Grok逼出來的 不用講這麼冠冕堂皇的話 10/16 12:50
推 hosen : 其實這才正常世界上產業能賺錢就兩樣，賭博跟色情 10/16 12:50
推 Shepherd1987: Gemini 完了 10/16 12:50
推 NexusPrime : 超人力霸王要變色色了 10/16 12:51
推 piece1 : 沒搭上實際物品飛機杯或機器人也沒啥用啦 10/16 12:52
→ hosen : 他每天都在燒錢，哪有閒工夫跟你講道德 10/16 12:52
推 Ayasaki0916 : 會有色色的超人力霸王嗎? 10/16 12:53
推 winken2004 : 急了 10/16 12:53
→ livestock : 精蟲衝腦時基本上什麼錢都會掏 10/16 12:54
推 Nitricacid : 整天拿道德綁架企業的本來就不是需要扛營收的人啊X 10/16 12:54
→ Nitricacid : D 10/16 12:54
推 lusifa2007 : 色色產業鏈 10/16 12:54
推 CAFEHu : 奧特曼：你相信光嗎？ 10/16 12:54
推 livewater : 奧特曼是宇宙警察 10/16 12:55
→ Ayasaki0916 : 原來奧特曼的光是脫光的光 10/16 12:55
→ alex00089 : 因為早就有了只好跟上 10/16 12:55
推 supereva : 我玩ai影片也是一直挑戰能有多色 10/16 12:56
→ loom0et0bust: 這樣就對了… 10/16 12:56
推 dabih : 不知道是不是要解讀為 原先的應用端收入roadmap 10/16 12:56
→ dabih : 不及預期 QQ 10/16 12:57
→ sdbb : 奧特曼：你想看脫光光嗎？ 10/16 12:57
推 xkso : 是世界的神 10/16 12:57
推 deepelves : 可以色色.jpg 10/16 12:59
推 howhow801122: 拜託算力根本不夠 10/16 12:59
噓 chysh : 馬斯克：一開始像我一樣大大方方不就好了，偽君子！ 10/16 12:59
推 YJM1106 : 每個人的性癖都值得被尊重 10/16 12:59
→ loom0et0bust: 我開始相信AI永動機了 10/16 13:00
→ alex00089 : AI DECENCER！？ 10/16 13:00
→ YJM1106 : 本子找不到的 自己創造 奧特曼就是神 10/16 13:00
推 remix7 : 真男人推推 10/16 13:00
→ alex00089 : 奧特曼：讓世界再也沒有一格一格的！？ 10/16 13:01
推 Ayasaki0916 : 日本AV界緊張了 10/16 13:01
→ hosen : 最簡單ai賺錢，就是客製化色色影片 10/16 13:02
→ raxsc : 色色可是人類的原動力 放棄幹嘛 10/16 13:02
→ ookimoo : 可憐的手工業者，乖乖下去 10/16 13:04
→ Adrian : 何時能一鍵自產長篇A片 10/16 13:05
推 OOorc : 甲 10/16 13:05
→ ookimoo : 連幹都得用虛擬的 10/16 13:06
推 strlen : 左膠道德魔人又來了 10/16 13:08
→ alex00089 : AI女優vsAV女優！？ 10/16 13:09
推 ab4daa : 歐印 10/16 13:10
推 huwei200035 : 急了 10/16 13:10
推 audic : 成人帳號要漲價了嗎？不是沈迷抖音是沈迷sexgpt 10/16 13:11
推 Ayasaki0916 : AI AV都有A,不用分的那麼細 10/16 13:11
推 audic : 成人主播拜拜 10/16 13:12
推 gladopo : 歐硬算力，大色色時代到了 10/16 13:13
推 FncRookie001: 貪財貪財 10/16 13:13
推 windblood : gemini不給我生瑟圖 是不是要輸 10/16 13:13
推 GooglePixel : 跟馬斯克一樣 開始走下三路了 10/16 13:14
→ ptta : OpenAI, CloseAI, FuckAI 10/16 13:14
推 sgxm3 : 以後花錢買AV不如自產自銷 10/16 13:15
推 buddhawu : 一開始標榜非營利，現在投資人給他的壓力山大 10/16 13:16
→ buddhawu : 為了賺錢，他什麼都可以做了。金錢真是人類驅動力 10/16 13:17
推 squeakywheel: 就是賺錢 直接講 10/16 13:17
→ ringil : 信用卡公司：不是喔不是這樣喔 10/16 13:17
推 aaa80563 : 急了 鏟子開挖 10/16 13:18
→ redbeanbread: av 產業崩壞 10/16 13:19
推 Ashand : 地球重生了 10/16 13:24
推 ahg : 我勸你少管閒事 10/16 13:25
推 piece1 : 一龍馬要加速了！奧特曼唬爛洨，大家在等你的機器人 10/16 13:25
推 devirnt : 退訂有用 10/16 13:27
推 coolcat2p : 廢物看別人賺就急了 10/16 13:29
→ josephpu : adult intelligence 10/16 13:29
推 Inzaghi0227 : 就是不要假道學，每個男人都想要 10/16 13:30
推 ahuahala : 抱歉，我退訂了，滾你媽去吧 10/16 13:30
推 yulunyeh : 找到財富密碼 10/16 13:34
→ yamitis : 我勸你別多管閒事.jpg 10/16 13:34
推 n64tw : 賭博 色情 軍工 歷久不衰的產業 10/16 13:35
推 cphe : 因為錢比較香 當然要妥協 10/16 13:39
→ cphe : 有了這個用戶馬上翻倍 10/16 13:39
→ n555123 : 好，色色！ 10/16 13:46
推 E103A6 : openAI 請給我色色~ 10/16 13:47
噓 masala : Closed AI 10/16 13:50
推 HaHaPoint : 訂了訂了 10/16 13:52
推 beauman002 : 看到xAI爽歪歪 急了 10/16 13:53
推 linwuno : 就一堆課金的跑去玩grok呀 10/16 13:57
推 cenalolz : 這就對了 GPT能寫的內容還是比較好 10/16 14:07
推 s1032kj : 沒色色一般人不可能花錢 10/16 14:13
推 gfsog : 讚，可以色色 10/16 14:30
→ hsshkisskiss: 翻譯：我們是要賺錢的 10/16 14:30
推 a77942002 : 急了~ 10/16 14:31
推 ru04hj4 : 以後要看AI只要key關鍵字 生成十分鐘給你尻 10/16 14:43
推 bbignose : 這個世界就是因為色色才能運轉 10/16 14:47
推 israelii : Ai成人片終於出來了嗎？AI妹子要多美有多美，奶要多 10/16 14:49
→ israelii : 大有多大，我早就想看Ai美女瑟瑟啦 10/16 14:49
推 a77942002 : AI色色 其實也沒那麼美好 等你每天 數百張 數十片 10/16 14:59
→ a77942002 : 自產後就可以理解了~ 10/16 14:59
推 flyfoxxy : 要什麼劇情 什麼主角 馬上產片 10/16 15:01
噓 sorrow0206 : 準備被告到賠死 10/16 15:23
→ ethan0419 : 之前當世界警察的現在也當強盜啊 10/16 15:29
→ bitcch : 叫你的AI不要每天道德經啊 10/16 16:12
推 linwahaha : AV女優表示工作權被剝奪 10/16 16:23
