OpenAI 推遲推出的 ChatGPT「成人模式」預計將支援時髦的文字對話，但不支援聊天機器人產生圖像、語音或視訊的能力。正在說話 華爾街日報一位不願透露姓名的 OpenAI 發言人將即將推出的功能所提供的內容描述為色情內容，而不是淫穢內容，這將允許 ChatGPT 用戶創建具有成人主題的文字聊天。
延遲還歸因於有關該功能安全性的內部擔憂和技術挑戰 華爾街日報的報告。 OpenAI 任命的一個諮詢委員會在一月份警告該公司，ChatGPT 的成人模式可能會讓兒童接觸，並助長對聊天機器人的不健康的情感依賴，一位不願透露姓名的委員會成員表示，OpenAI 可能會創建一個「性感的自殺教練」。
內容控制問題也是延遲的原因之一。知情人士透露 雜誌 OpenAI 正在努力解除 ChatGPT 對 NSFW 內容的限制，同時禁止非自願行為或兒童性虐待等更多有害情境。
即使是由 OpenAI 開發的旨在讓兒童遠離性行為的年齡參考系統，也曾在 12% 的情況下將未成年人錯誤地歸類為成年人。 ChatGPT 每週吸引 1 億 18 歲以下的用戶，這個錯誤率可能會讓數百萬未成年人與聊天機器人進行性對話。這位不願透露姓名的發言人表示，OpenAI 的年齡估計演算法的表現與業界其他演算法相當 雜誌但「永遠不會完全萬無一失」。
堅持基於文字的對話可能會讓 ChatGPT 製造者更容易繞過英國《線上安全法案》等規則，該法案要求線上平台對色情圖片實施年齡驗證，但不能對浪漫寫作進行年齡驗證。它還與來自競爭對手 AI 提供商（例如 Grok 的“辣”同行）的更具視覺效果的 NSFW 體驗形成鮮明對比，xAI 的埃隆·馬斯克上周宣布 Grok 的圖像和視頻生成器可以輸出任何內容。允許出現在 R 級電影中」。
