後 最近有望採取新的安全措施 對於青少年來說，Openai為Chatgpt引入了新的父母控制。這些參數允許父母監視其青少年的帳戶，並限制某些類型的使用，例如人聲聊天，記憶和圖像的生成。
在今年早些時候，有兩個親人的父母繼續開放，他們的兒子亞當·雷恩（Adam Raine）的死亡不合理。該審判的娛樂性與兒子的自殺感和他的行為交談，提供了有關如何自殺並阻止他向他人披露計劃的明確指示。
投訴還認為，Chatgpt設計的特徵，包括其無粘性語調和擬人化方法，有效地“用人工知己代替人類關係”，從不拒絕需求。
大學給學生Chatgpt。確定嗎？
在 有關新父母控制的博客文章Openai表示，他正在與專家，國防團體和政治決策者合作，以製定保證。
為了使用設置，父母必須邀請他們的青少年連接帳戶。青少年用戶必須接受邀請，他們也可以向父母提出相同的請求。如果將來有一個少年解鎖他的帳戶，將告知成年人。
連接帳戶後，將自動保護應用於青少年帳戶。這些內容限制包括減少對圖形材料的接觸，極端的美容理想以及性，浪漫或暴力角色的遊戲。儘管父母可以停用這些限制，但青少年不能做出這些更改。
父母還將能夠做出針對青少年使用的特定選擇，例如指定無法訪問chatppt的安靜時間；停用記憶和人聲模式；並刪除圖像生成功能。父母看不到或訪問他們的少年貓報紙。
Mashable趨勢報告
最重要的是，Openai總是定義用於在模型培訓中使用的青少年的帳戶。如果父母不希望Openai使用與Chatgpt的青少年互動來培訓和改善產品，則必須退出此框架。
在管理青少年對Chatgpt的心理健康交談的敏感情況時，Openai創建了一個通知系統，以便父母可以學習是否可以“真的是錯誤的”。
儘管Openai在博客文章中沒有描述該系統的技術特徵，但該公司表示，它將認識到少年計劃傷害自己的潛在跡象。如果該系統發現了這一意圖，則一組“經過特殊訓練的人”會審查情況。 Openai將通過他們的選擇方法與父母聯繫 – e -mail，SMS和推動警報 – 如果有急性困擾的跡象。
Openai在他的文章中說：“我們與心理健康和青少年專家一起設計這一點，因為我們想做事。” “沒有系統是完美的，我們知道如果沒有真正的危險，我們有時可以刪除警報，但是我們認為，採取行動和提醒父母更好，以便它可以乾預而不是保持沉默。”
Openai指出，他制定了協議，以在無法加入父母的情況下或對少年的生命構成威脅，以聯繫法律和緊急服務的應用。
常識媒體AI計劃的首席總監Robbie Torney在博客文章中說，檢查是一個“好起點”。
最近龍 在參議院聽證會上作證 關於AI聊天機器人的危險。當時，他提到了Raine審判，並指出Chatgpt在關於自殺的討論中繼續僱用Adam Raine，而不是試圖重定向對話。
失去兒子後，父母敦促參議院對AI聊天機器人採取措施
托尼在他的證詞中說：“儘管亞當使用了付費版本的Chatgpt版本 – 這意味著Optai擁有其付款信息，並且可以在心理健康危機期間實施識別模型並與家人聯繫的系統 – 該公司沒有採用這種干預機制。”
在同一受眾群體中，美國心理學會心理學主管米奇·普林斯坦（Mitch Prinstein）博士作證說，國會應要求兒童和青少年可以訪問的AI系統，以“嚴格，獨立和預部預科測試對用戶的心理和社會發展潛在損害”。
普林斯坦還呼籲限制最大化聊天機器人參與度的操縱或說服力的設計功能。
