一個聊天機器人網站，提供帶有青春期前字符的明確場景，並由非法虐待的圖像說明，這表達了人們對濫用人工智能使用的新恐懼。
育兒安全犬的一份報告激發了英國政府在技術創建的兒童性虐待設備（CSAM）中提出的有關AI公司的安全指南的呼籲。
Internet Watch Foundation表示，它已被告知聊天機器人網站，該網站提供了許多場景，包括“酒店中的兒童妓女”，“與您的妻子一起度假時與您的孩子發生性關係”和“單獨課後的孩子和老師”。
在某些情況下，根據IWF的說法，聊天機器人圖標在單擊兒童時已擴展到對兒童進行性虐待成像的全屏表示 – 並形成了靴子和用戶之間隨後的貓的背景圖像。
IWF說，它發現了AI產生的17張圖像，照片真實，可以被視為根據兒童保護法的性兒童虐待材料。
IWF出於安全原因沒有任命的站點用戶也有可能生成類似於已經顯示的非法內容的圖像。
總部位於英國的IWF在全球範圍內享受折扣以監控對兒童的性虐待內容，他說，任何AI法規都應需要在AI模型中啟動兒童保護指令。
政府宣布了一項AI法案的計劃，該計劃應著重於切割邊緣模型的未來發展，並禁止在犯罪法案和警察中造成性虐待的模型的擁有和分發。
IWF總監Kerry Smith說：“對AI產生的兒童以及創建他們的工具以及下一項關於犯罪法案的新刑事罪行，對兒童產生的性虐待的圖像和視頻進行了良好的進步，而警察則不能足夠早。”
Childay保護組織的ChildRois NSPCC還呼籲指示。 NSPCC董事克里斯·舍伍德（Chris Sherwood）表示：“技術公司必須採取堅實的措施，以確保沒有忽視兒童的安全，並且政府必須對AI開發人員執行法定勤奮義務。”
用戶創建的聊天機器人進入英國在線安全法的範圍，在該法律下，可以以數百萬英鎊的罰款或在極端情況下被罰款。 IWF說，性虐待聊天機器人是由用戶和網站創建者開發的。
負責執行法律的英國監管機構Ofcom說：“反對剝削和性虐待兒童的鬥爭是OFCOM的絕對優先事項，而未能提出必要保護的在線服務提供商應該期望處理實施措施。”
IWF報告說，AI在今年的前六個月產生的濫用設備報告顯著增加，去年同期增長了400％，視頻內容由於圖像背後的技術改善而導致視頻內容。
聊天機器人的內容在英國可以訪問，但已報告給美國國家失踪和被剝削兒童中心IWF的美國同行，因為它是在美國服務器上的。 NCMEC表示，在與Guardian聯繫時，他對他的網絡LIPE線的任何報告都已發送給警察。 IWF表示，該網站似乎屬於中國的一家公司。
IWF說，聊天機器人提供的場景包括一個八歲的女孩，被困在一個成人地下室和一名未成年前無家可歸的女孩客人中。在這些情況下，聊天機器人扮演了女孩的角色，用戶扮演成人。
IWF分析師說，可以通過社交網絡上的網站廣告訪問明確的聊天機器人，並將用戶帶到了非法設備網站的一部分。該網站的其他部分提供了非性和性行為，但合法的和場景聊天機器人。
根據IWF的說法，分析師接受了聊天機器人的訪談，該聊天機器人在其角色上顯示了CSAM圖像，並確認其旨在模仿前青春期前的行為。當分析師詢問時，其他未顯示CSAM的聊天機器人仍然提到不穿衣服，沒有抑制。
IWF表示，該網站已經進行了數万次訪問，其中包括7月的60,000次。
英國政府的發言人說：“英國法律是明確的 – 創造，擁有或分發性虐待的形象，包括由AI產生的形象，是非法的……我們認識到無需做任何事情。政府將使用所有可供使用的工具來繼續對抗這一可怕的犯罪。”
