AI重點
文章重點整理：
- 重點一：OpenAI延後成人模式推出，因內容審核和未成年人保護問題複雜。
- 重點二：成人模式將僅包含文字對話，避免圖像和語音生成。
- 重點三：內部顧問委員會對可能的心理健康影響表達擔憂。
OpenAI 原定於本季推出的ChatGPT「成人 模式」 (adult mode)將延後上線，背後原因涉及內容審核標準的界定困境，以及對未成年 人保護的深切擔憂。根據華爾街日報報導，這項備受爭議的功能在初始階段將僅支援帶有成人主題的文字對話，而不包括圖像、語音或影片的生成能力。OpenAI內部發言人將此模式允許的內容描述為「情色」 (smut)而非「色情」 (pornography)，試圖在言論自由 與內容管控之間劃出一條模糊的界線。
從「嚴重心理健康問題」到「經過驗證的成人情色」
這項功能的構想，最早可追溯至去年十月。OpenAI執行長Sam Altman當時表示，公司已經成功緩解其AI模型所帶來的「嚴重心理健康問題」，因此能夠放寬安全限制，為「經過驗證的成人用戶」引入情色內容。這項宣示當時引發業界廣泛討論，被視為OpenAI在AI倫理邊界上的重大轉向。
但在本月早些時候，OpenAI突然宣布延後這項功能的推出，理由是需優先處理更高優先級的任務。新的發布時間表至今仍未公布。但根據華爾街日報取得的內部消息，延期的真實原因遠比「優先級調整」更為複雜，涉及內部對內容審核機制的深刻擔憂，以及保護未成年人免受不當內容影響的技術挑戰。
內部爭議：從「性感自殺教練」到年齡驗證失靈
OpenAI內部成立的顧問委員會在一月向公司提出嚴厲警告，指出ChatGPT的成人模式可能存在被兒童接觸的風險，甚至可能培養使用者對聊天機器人 產生不健康的情感依賴。一位不願具名的委員會成員更以聳動但形象的比喻警告：OpenAI可能正在創造一個「性感的自殺教練」。
內容審核問題，則是延遲的核心癥結。知情人士透露，OpenAI正在努力解除ChatGPT對NSFW (不適宜工作場合)內容的限制，同時又要確保更為有害的場景——如非自願行為或兒童性虐待內容——仍然會被嚴格禁止，使得這條界線劃分遠比想像中困難。
最令人擔憂的部分，則是年齡預測系統的準確性。OpenAI開發這套系統目的在防止未成年人接觸情色內容，但據稱在測試階段，將未成年人錯誤分類為成人的比率高達約12%。考慮到ChatGPT每週吸引約1億名18歲以下用戶使用，這樣的錯誤率意味著可能有數百萬未成年人有機會與聊天機器人進行帶有性意味的對話。
OpenAI發言人對此表示，公司的年齡預測演算法與業界其他公司表現相當，但「永遠不可能做到百分之百完美無缺」。
文字 vs. 圖像：監管漏洞的策略性選擇
值得注意的是，OpenAI選擇將成人模式初期限定於文字對話，這並非單純的技術限制，更可能是深思熟慮的監管規避策略。英國《線上安全法案》 (Online Safety Act)要求網路平台對色情圖像實施年齡驗證，但對文字形式的情色內容並未有同等嚴格的要求，使得OpenAI的文字限定策略在法規層面具備明顯優勢。
而此策略也與競爭對手形成鮮明對比，xAI旗下的Grok聊天機器人近日剛宣布其圖像和影片生成器將允許任何「R級電影允許的內容」，執行長Elon Musk更以「辛辣」 (spicy)形容Grok的陪伴功能。相較之下，OpenAI的文字限定策略顯得更為保守，也更容易在現有法規框架內運作。
OpenAI的兩難：言論自由 vs. 社會責任
OpenAI此次在成人模式上的躊躇不前，反映生成式AI產業正面臨的根本性困境：如何在開放與安全之間取得平衡。一方面，隨著AI模型的能力不斷增強，用戶對於更自由、更不受限制的對話體驗有著明確需求；另一方面，作為擁有數億用戶的平台，OpenAI必須承擔起防止未成年人接觸不當內容、避免強化使用者負面心理狀態的社會責任。
尤其令人深思的是顧問委員會提出的「情感依賴」警告。當AI聊天機器人不僅能提供資訊，還能扮演情感伴侶、甚至帶有性暗示的角色時，其對使用者心理健康的潛在影響不容小覷。
《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》
精華 FAQ
-
OpenAI延後成人模式推出的原因包括內容審核標準的困難，以及對未成年人保護的深切擔憂，這些問題比單純的優先級調整更為複雜。
-
成人模式在初期僅支援成人主題的文字對話，並不包括圖像、語音或影片的生成，這一決定是出於對規範的考量和未成年人保護的需求。
-
顧問委員會對成人模式可能導致未成年人接觸不當內容表示擔憂，並警告可能造成使用者對聊天機器人的情感依賴，影響心理健康。
討論區