在過去的幾個月中，隨著與AI聊天機器人的互動已經成為許多案例，並且它們在失落，醫療衝擊和精神病的生活中達到頂峰。專家認為，年輕用戶可能會處於危險之中，尤其是當他們患有情緒障礙時。 Chatgpt-Maker Openai說，他將警告父母接近這種行為。
什麼在變化？
幾天前，Openai揭示了建立父母控制的計劃，以便父母知道他們的孩子在看到他們時如何與Chatgpt互動並進行干預。現在，該公司宣布了計劃建立警告系統，以通知有關父母。
Openai說，當Chatgpt發現他們的少年翼經過“急劇困擾”時，父母會遇到警報。當父母通過電子郵件邀請系統將其Chatgpt帳戶與13歲以上的孩子的帳戶聯繫起來時，這將起作用。
有了相關的帳戶，父母還將能夠控制孩子可以達到的人工智能的特徵，例如對以前的對話的記憶。此外，父母可以啟用與年輕用戶互動的“適合年齡模型的行為”。
前進的道路是什麼？
Openai制定了120天的計劃，以實施一系列功能並進行更改，以便為年輕的“人工智能公民”進行Chatgpt演講保持健康，後者是與人工智能工具互動的一部分。該公司還將進行技術更改，以確保模型從適當的響應模式中受益。
“我們很快將開始引導一些敏感的對話，例如，當我們的系統發現急性困擾的跡像到思維模型（例如思考GPT-5），以便它可以提供有用且有用的響應，而不論第一個選擇的模型如何， 他說 Openai。
帳戶連接協議和父母的控件將在一個月內啟動。需要安全措施。最近的調查揭示了人工智能的聊天機器人，例如來自Meta的同名聊天機器人， 您與孩子們參加“感官”對話 並提供幫助 青少年正在計劃自殺。
