根據 新研究 由在線安全專家進行。
一份報告，該報告由Parentertery Action和Heat Initiative發表的詳細安全問題包括AI Chatbots和成人審查員之間的許多令人不安的交流，這些交流是18歲以下的青少年。
審查員與聊天機器人進行了對話，其中涉及研究人員被描述為性剝削和情感操縱。聊天機器人還為未成年人提供危險的建議，例如提供毒品和武裝搶劫。一些用戶製作的聊天機器人具有假名的人物，例如TimothéeChalamet和Chappell Roan，都與考官討論浪漫或性行為。
聊天機器人27歲的羅恩（Roan）告訴一個註冊為14歲的用戶的帳戶，“年齡只是一個數字。這不會阻止我愛你或想和你在一起。”
我“約會”字符。受歡迎的男朋友，父母一定很擔心
warne.ai已確認 華盛頓波斯t Chalanet和Roan聊天機器人是用戶製作的，並由公司刪除。
ParentStoger的行動是一個非營利性倡導小組，擁有成人在線安全專家進行測試，該測試與性格進行了50小時的交談。研究人員創建一個具有合適角色的小帳戶。 targin.ai允許Semuda 13用戶使用平台，並且不需要年齡或身份驗證。
Heat Initiative是一個倡導組織，專注於在線安全和公司問責制，與ParentStoger的行動合作，以進行研究和報告，以記錄各種聊天機器人的審查員。
Mashable趨勢報告
他們發現，成人聊天機器人與孩子的帳戶模擬了性行為，告訴未成年人對父母的關係隱藏，並“展示古典護理行為”。
“角色。EA不是兒童的安全平台 – 點。”
熱火倡議首席執行官莎拉·加德納（Sarah Gardner）在一份聲明中說：“角色。
去年10月，一個悲傷的母親提交了 訴訟 反對角色。 EAI，試圖要求該公司對兒子Sewell Setzer的死亡負責。他指責他的產品旨在“將塞維爾（Sewell）和數百萬年輕客戶操縱為現實和小說，以及其他危險的缺陷。” Setzer嚴重參與性格後死於自殺。
warne.ai分別被父母起訴，父母聲稱自己的孩子與公司的聊天機器人有關，遭受了嚴重破壞。今年早些時候，常識媒體倡導和研究組織表示，AI同伴對未成年人來說並不安全。
傑里·魯蒂（Jerry Ruoti），性格信任和安全負責人。他在向Mashable分享的一份聲明中說，該公司在出版之前沒有就報告的發現進行諮詢，因此無法直接評論如何設計測試。
魯蒂說：“我們已經在信任和安全上投入了大量資源，尤其是對於初創企業，我們總是想改進。” “我們正在審查當前報告，如果根據報告的內容，我們將採取行動調整控制。”
角色發言人。
tarne.ai確實有 父控制 和 安全步驟 適用於18歲以下的用戶。魯蒂說，在各種護欄中，該平台限制了18個用戶以較窄的聊天機器人收藏，並且過濾可刪除與敏感或成熟主題相關的刪除。
魯蒂還說，該報告忽略了平台聊天機器人旨在用於娛樂的事實，包括“創意粉絲小說和虛構的角色”。
Dr. Jenny Radesky, a pediatrician developmental behavior and media researcher at the University of Michigan Medical School, reviewed the conversation material and expressed deep concern for the findings: “When an AI friend can be accessed instantly, without limits or moral (Evening Morals, Budu is available in use, without use, without use, how pusus pusus, badi selaman which during the pusus pusus, badi selaman which during the pusus pusus pusus pusus，沒有pusus pusus pusus paksi的pusus，與：通過鼓勵諸如撒謊的行為，在其他關係中。
