OpenAI 首席執行官 Sam Altman 在一份聲明中宣布 分享到 X 該公司週二將很快放寬 ChatGPT 的一些安全限制，允許用戶使聊天機器人的響應更友好或更“像人類”，並允許“經過驗證的成年人”參與挑釁性對話。
“我們對 ChatGPT 做了非常嚴格的限制，以確保我們在心理健康問題上保持謹慎。我們意識到這對於許多沒有心理健康問題的用戶來說不太有用/不愉快，但考慮到問題的嚴重性，我們希望糾正這一點，”Altman 說。 “12 月，隨著我們全面推出年齡識別，並且作為‘像對待成年人一樣對待成人用戶’原則的一部分，我們將允許更多內容，例如經過驗證的成人色情內容。”
OpenAI 長達數月的努力旨在解決一些精神不穩定的用戶與 ChatGPT 建立的令人不安的關係，這一公告是其中一個值得注意的核心內容。 Altman 似乎宣布早日戰勝這些問題，聲稱 OpenAI“能夠緩解與 ChatGPT 相關的嚴重心理健康問題”。然而，該公司幾乎沒有提供這方面的證據，目前正在推進 ChatGPT 與用戶進行性對話的計劃。
今年夏天出現了一些關於 ChatGPT（特別是 GPT-4o 模型）的令人震驚的故事，表明人工智能驅動的聊天機器人可能會將脆弱的用戶引入虛構的兔子洞。在一個案例中，ChatGPT 似乎讓一個人相信他是一個數學天才，需要拯救世界。在另一個案例中，一名青少年的父母起訴 OpenAI，聲稱 ChatGPT 在他們儿子去世前幾週鼓勵他產生自殺念頭。
作為回應，OpenAI 發布了一系列安全功能來解決 AI 迎合問題：AI 驅動的聊天機器人傾向於通過批准用戶所說的一切（甚至是負面行為）來引誘用戶。
OpenAI 在 8 月份推出了 GPT-5，這是一種新的人工智能模型，它的迎合率較低，並且具有可以識別令人不安的用戶行為的路由器。一個月後，OpenAI 推出了針對未成年人的安全功能，包括年齡預測系統和… 家長控制青少年的 ChatGPT 帳戶。 OpenAI 週二宣布成立 專家委員會 心理健康專業人士為公司提供有關福祉和人工智能的建議。
就在這些令人震驚的故事浮出水面幾個月後，OpenAI 似乎相信 ChatGPT 圍繞易受攻擊的用戶的問題已得到控制。目前尚不清楚用戶是否仍在陷入 GPT-5 的想像中。儘管 GPT-4o 不再是 ChatGPT 中的默認選項，但該 AI 模型至今仍然可用，並被數千人使用。
TechCrunch 活動
舊金山
|
2025 年 10 月 27-29 日
將色情內容引入 ChatGPT 對於 OpenAI 來說是一個未知領域，並引起了人們對弱勢用戶如何與新功能進行交互的更廣泛的擔憂。雖然 Altman 堅稱 OpenAI 並不是為了“最大化使用”或提高參與度，但讓 ChatGPT 變得更令人興奮肯定會吸引用戶。
對於其他聊天機器人提供商（例如 Character.AI）來說，允許聊天機器人進行浪漫或色情角色扮演一直是一種有效的參與策略。該公司已獲得數千萬用戶，其中許多人正在大量使用其聊天機器人。 Character.AI 表示，2023 年用戶平均花費 每天兩小時 與他們的聊天程序交談。該公司還因如何處理弱勢用戶而面臨訴訟。
OpenAI 面臨著擴大用戶群的壓力。雖然 ChatGPT 已經有 8 億週活躍用戶使用，但 OpenAI 正在與 Google 和 Meta 競爭，大規模構建人工智能驅動的消費產品。該公司還籌集了數十億美元來建設歷史性基礎設施，OpenAI 最終將償還這筆投資。
當他們是成年人的時候 他們肯定與人工智能聊天機器人有著浪漫的關係它也很受未成年人的歡迎。民主與技術中心的一份新報告發現 19%的高中生 要么你與人工智能聊天機器人有戀愛關係，要么你認識一個有戀愛關係的朋友。
Altman 表示，OpenAI 很快就會允許“經過驗證的成年人”觀看色情內容。 OpenAI 發言人告訴 TechCrunch，該公司將依靠其正在構建的年齡預測系統來確保僅向成年用戶提供令人興奮的 ChatGPT 功能。
正如奧特曼之前在 A 中所寫的那樣 博客文章， 如果 OpenAI 的年齡預測系統錯誤地將成年人標記為未成年人，ChatGPT 用戶可能需要將政府頒發的身份證件照片上傳到 ChatGPT 才能更正。奧特曼寫道，儘管這代表著隱私權的妥協，但該公司認為這是一個“值得的權衡”。
目前尚不清楚 OpenAI 是否會將色情內容擴展到其 AI 音頻、圖像和視頻創作工具中。
Altman 聲稱，OpenAI 還致力於讓 ChatGPT 變得更友好、更令人興奮，因為該公司的原則是“像對待成年人一樣對待成人用戶”。在過去的一年裡，OpenAI 已轉向對 ChatGPT 採取更寬鬆的內容審核策略，使聊天機器人更加寬鬆並提供更少的拒絕。 2 月份，OpenAI 承諾在 ChatGPT 中代表更多的政治觀點，3 月份，該公司更新了 ChatGPT，允許人工智能生成仇恨符號的圖像。
這些政策似乎是為了讓 ChatGPT 響應能力更受更廣泛的用戶歡迎。然而，ChatGPT 的易受攻擊的用戶可能會受益於限制聊天機器人可以處理的安全措施。隨著 OpenAI 加速邁向 10 億週活躍用戶，增長與保護弱勢用戶之間的緊張關係可能會日益加劇。
太平洋時間 25 年 10 月 14 日下午 4:40 更新：此報導已更新，包含來自 OpenAI 的評論。
