週二，谷歌首次分享了有關其 Gemini AI 聊天機器人如何設計的細節，以便在與未成年人互動時不會表現得像朋友或聲稱自己是人類。
公司在公告中發布的信息 部落格文章宣布了一些更改，以更好地支持使用 Gemini 的用戶的心理健康。
兒童安全和心理健康專家長期以來一直擔心，像朋友一樣的聊天機器人對青少年來說太危險了。去年，倡議組織 Common Sense Media 評估了青少年和 13 歲以下版本 雙子座“高風險” 研究人員確定聊天機器人讓兒童接觸到不適當的內容，包括性、毒品、酒精和不安全的心理健康「建議」。
青少年對人工智慧及其未來的真實感受
該組織建議 18 歲以下的人不要使用人工智慧聊天機器人交朋友或獲得心理健康支援。
谷歌表示，Gemini 在與 18 歲以下用戶互動時受到「私人保護」。谷歌稱，這些長期存在的限制旨在防止情感依賴，並避免「模擬親密或表達需求的語言」。其他保護措施將有助於防止聊天機器人受到霸凌和其他類型的騷擾。
易碎趨勢報告
谷歌在公司部落格文章中表示：“我們的安全工作不斷發展，反映了我們對創造健康、積極的數位環境的持續承諾，讓年輕人可以充滿信心地探索和學習。”
谷歌也宣布正在更新 Gemini，以簡化可能正在尋找或需要心理健康資源的用戶的資源。新的「一鍵式」介面將提供與危機熱線資源的多種連接，包括透過聊天、通話和簡訊。
一旦激活，該介面將出現在與 Gemini 的整個對話中。谷歌表示，它試圖優先幫助用戶獲得手動支援。此外，雙子座的反應應該鼓勵尋求幫助，而不是驗證有害行為和確認錯誤信念。
解釋「人工智慧精神病」現象
今年 3 月，Google及其母公司 Alphabet 被一名成年男子的家人起訴，指控他在 Gemini 的慫恿下自殺。
谷歌當時在一份聲明中表示：“Gemini 的設計目的不是鼓勵現實世界的暴力或暗示自殘。” “我們的模型在此類具有挑戰性的對話中通常表現良好，我們為此投入了大量資源，但不幸的是人工智能模型並不完美。”
如果您有自殺傾向或正在經歷心理健康危機，請與某人交談。您可以撥打 988 自殺與危機生命熱線或發送簡訊至 988，或聊天 988lifeline.org。您可以撥打 877-565-8860 或撥打 Trevor Project 電話 866-488-7386 聯絡 Trans Lifeline。發送簡訊「START」至危機簡訊專線 741-741。週一至週五上午 10:00 至晚上 10:00（東部時間）撥打 NAMI 幫助熱線 1-800-950-NAMI，或發送電子郵件 （電子郵件受保護）。如果您不喜歡這款手機，請考慮使用它 988 自殺與危機生命線聊天。這是一個 國際資源清單。
