Openai 老闆山姆·奧爾特曼 提到的 Chatgpt 很快將被允許參與與成人的色情聊天 – 儘管人們對兒童安全的擔憂持續存在，而且最近這位科技大亨也受到了讚揚，但人工智能巨頭並沒有創造出“性愛機器人”。
奧特曼 週二宣布 Openai 計劃 當工程師針對心理健康內容建立新的預防措施時，現在可以“安全地放鬆與 Chatgpt 進行激烈對話的限制”。
“現在我們已經能夠緩解嚴重的心理健康問題並擁有新的工具，在大多數情況下我們將能夠安全地解除限制，”奧特曼 他在周二的 X 帖子中說道。
“作為我們將成人用戶視為成年人的一部分，我們將允許更多內容，例如針對經過審核的成年人的色情內容。”
這一舉措預計將在 12 月之前推出，這與該公司歷來限制 Chatgpt 中色情內容的政策背道而馳。
在 8 月 7 日接受播客採訪時，克萊奧·艾布拉姆·奧爾特曼 (Cleo Abram Altman) 被要求做出一個“對世界來說最好的決定，但不是最能獲勝的決定”。
Altman 回復道，吹噓 Chatgpt 受到許多用戶的喜愛，因為他“試圖幫助你實現你想要的一切”。
“這是我們與用戶之間非常特殊的關係，”奧特曼說。 “我們不會掉以輕心。”
這位 OpenAi 領導人隨後表示，“我們可以做一些事情……讓（公司）更快地發展，這將使（用戶在 Chatgpt 上花費更多的時間），但我們沒有這樣做，因為我們知道我們的長期激勵是盡可能地與我們的用戶保持一致。”
奧爾特曼補充說，他“為公司感到自豪，我們很少受到它的干擾……但有時我們會受到誘惑。”
當艾布拉姆詢問想到的具體例子時，奧特曼說：“好吧，我們還沒有在 Chatgpt 中放置性愛機器人頭像。”
科技億萬富翁、達拉斯小牛隊前老闆馬克·庫班本週批評了這一決定， 曰：“將轉於後”。
“沒有父母會相信他們的孩子不能經歷你的年齡，”庫班 他週二寫信回應奧特曼。 “他們只會把孩子推向任何其他法學碩士。為什麼要冒這個風險呢？”
庫班寫道，18 歲的高中成年人可以“決定向 14 歲的成年人展示他們創作的硬核色情片會很有趣。”
“會出什麼問題嗎？”
該帖子已尋求 Openai 的評論。
擁有的Openai 面臨您的產品對未成年人影響的安裝控制家長們聲稱 Chatgpt 向青少年提供了有害或自殺指導，從而受到了法庭案件的影響。
一個家庭對該公司提起訴訟 認為聊天機器人鼓勵他們的兒子自殺。
Openai 還被指控允許他的系統 向未成年用戶提供露骨或危險的建議S
聯邦和州監管機構已 關於人工智能保護措施的公開詢問 以及他們是否充分保護未成年用戶。
近幾個月來，Openai 試圖通過在 Chatgpt 中添加家長控制並推出該應用程序的有限青少年版本來平息憤怒。
新設置允許家長連接帳戶、監控使用情況並阻止露骨內容或自殘內容。
但倡導團體表示，這些修正案還不夠深入，他們認為人工智能聊天機器人仍然太不可預測，而且太強大，無法安全地放置在兒童手中。
立法者開始對人工智能聊天機器人及其訓練方式進行更嚴格的控制。
密蘇里州共和黨參議員喬什·胡利 (Josh Hooley) 設計項目立法，禁止未成年人與聊天機器人建立關係。
他的提議是在競爭對手科技巨頭元國會（Meta Conference）憤怒數月之後提出的，該國會自己的人工智能助手經過培訓，可以與未成年用戶進行潛在的“浪漫或感性”交流。
Meta 醜聞於 8 月爆發，此前路透社發布了內部指導方針，解決了 Facebook、Instagram 和 Whatsapp 中嵌入的機器人將兒童描述為“藝術品”，並說八年來不穿襯衫“你的每一寸都是傑作”。
由胡利、布萊恩·沙茲（夏威夷州民主黨）和羅恩·韋登（俄勒岡州民主黨）等 11 名參議員組成的兩黨團體在一封信中寫道：“人工智能開發競賽不應該犧牲孩子們的福祉。”這封信對執行董事馬克·扎克伯格進行了猛烈抨擊。
Meta 發言人安迪·斯通 (Andy Stone) 表示，這些示例“錯誤且不符合我們的政策”，並很快從 200 頁的手冊中刪除。
9月底，META發布了修訂後的培訓指令，禁止任何涉及未成年人的性對話或圖片。
表演者被告知要標記“極其不可接受”的提示，並限制 18 歲或以上角色的所有角色扮演遊戲。
