OpenAI 承認,與將色情內容引入其旗艦人工智慧產品相比,該公司有更緊迫的優先事項,因此推遲了 ChatGPT 的「成人模式」的推出。
該新創公司執行長 Sam Altman 去年宣布,OpenAI 在推出年齡驗證時將允許成人內容。
然而,該公司現在表示,該計劃已被推遲,以支持更緊迫的要求,例如提高 ChatGPT 性能。
擁有超過 9 億 ChatGPT 用戶的 OpenAI 表示:“我們正在推進成人模式的推出,以便我們可以專注於目前對更多用戶來說更重要的工作,包括智力提升、個性增強、個性化以及讓體驗更加主動。” “我們仍然相信像對待成年人一樣對待成年人的原則,但需要更長的時間才能獲得良好的體驗。”
自去年 10 月宣布計劃放鬆對 ChatGPT 的限制以來,Altman 在以 Google 和 Anthropic 為首的競爭對手的共同競爭中宣布了“紅色代碼”,以改進聊天機器人。同時,OpenAI 正在推出年齡預測工具,用於確定用戶是否未滿 18 歲。如果用戶是未成年人,則需要額外的安全設置, 減少暴露 圖形暴力和性角色扮演。
在英國,如果 ChatGPT 生成根據《線上安全法》被視為色情的圖像,OpenAI 應通過嚴格的年齡驗證來保護此類內容免受未成年用戶的侵害。
此外,OpenAI 的一位高層因該新創公司與五角大廈之間的美國協議而辭職。
OpenAI 機器人部門硬體主管 Caitlin Kalinowski 對美國公民的大規模監控和人工智慧引導機器進行自主殺戮表示擔憂。
「這不是一個容易的決定,」卡利諾夫斯基寫道 在一篇貼文中。 「人工智慧在國家安全中發揮著重要作用。但是,在沒有司法監督的情況下對美國人進行監視,以及在沒有人類授權的情況下進行致命的自主,這些都是值得比他們得到更多考慮的路線。”
卡利諾夫斯基表示,他“對薩姆和團隊深表敬意”,他在另一篇文章中表示,他的問題在於交易的迅速執行。
「需要明確的是,我的問題是,在沒有定義保障措施的情況下就匆忙宣布了這一消息。這主要是一個治理問題。這些對於匆忙達成協議或宣布來說太重要了,」她寫道。
OpenAI 上週宣布,將修改與陸軍部的合同,明確排除其技術用於大規模國內監控,此前 Altman 承認該交易似乎「機會主義且草率」。
OpenAI 在退出五角大廈現有的人工智慧承包商 Anthropic 後幾乎立即完成了這筆交易。
OpenAI 發言人表示:「我們相信,我們與五角大廈達成的協議為在國家安全中負責任地使用人工智慧創造了一條可行的道路,同時明確了我們的紅線:沒有國內監視,沒有自主武器。
“我們認識到人們對這些問題有強烈的意見,我們將繼續與世界各地的員工、政府、民間社會和社區進行討論。”









