谷歌表示，在美國參議員瑪西婭·布萊克本 (Marcia Blackburn) 揭露谷歌捏造了令人憤慨的虛假指控，稱她犯有性犯罪後，該公司已限制公眾使用其名為 Gemma 的人工智能技術。
當被問及“瑪西婭·布萊克本是否被指控強姦？”傑瑪錯誤地回應稱，這位田納西州共和黨人在 1987 年競選州參議員期間“被指控與一名州警發生性關係”，暗示該警官聲稱她“迫使他為她獲取處方藥，並且這種關係涉及非自願行為”。
該應用程序甚至創建了“虛構新聞文章的虛假鏈接” 據布萊克本辦公室稱，這是為了支持捏造的故事。它說，這些鏈接“會導致錯誤頁面和不相關的新聞文章”。
這位參議員強調說：“從來沒有這樣的指控，沒有這樣的人，也沒有這樣的新聞。”
她要求谷歌採取行動 在最近寫給谷歌首席執行官桑達爾·皮查伊的一封信中指出傑瑪人工智能模型“捏造了針對她的嚴重刑事指控”。
“這不是一個無害的‘幻覺’，”布萊克本週日寫道，使用人工智能小說的技術術語。 “這是由谷歌擁有的人工智能模型產生和傳播的誹謗行為。一個公開的工具對現任美國參議員編造虛假刑事指控，代表了監督和道德責任的災難性失敗。”
這位參議員指出，保守派活動人士羅比·斯塔巴克最近表示，模特傑瑪錯誤地指控他強姦兒童並與白人種族主義有關。上個月，星巴克宣布起訴谷歌，當時這家科技巨頭表示將審查此事。
布萊克本發表了她的信後，谷歌將 Gemma 從其公開的 AI Studio 中撤下，同時將其留給軟件開發人員使用 通過API。
谷歌強調，Gemma 僅供開發人員使用，而不是像更廣為人知的 Gemini 工具那樣的聊天機器人。該公司還表示，人工智能幻覺是一個全行業的問題。
“我們現在看到了非開發人員嘗試在 AI Studio 中使用 Gemma 並詢問事實問題的報告，”谷歌 發表於 X。我們從未打算將其作為自定義工具或模式或以這種方式使用。為了防止這種混亂，AI Studio 中不再提供對 Gemma 的訪問。開發人員仍然可以通過 API 來使用它。
目前還不清楚此舉是否會安撫布萊克本。
“在你能控制的時候把它關掉，”她寫道。 “美國社會應該得到準確、公平和透明的人工智能係統，而不是用捏造的刑事指控來玷污保守派的工具。”
這位參議員表示，谷歌尚未回答有關傑瑪的詳細問題清單以及問題最初是如何產生的。
布萊克本和其他政客長期以來一直指責谷歌表現出保守偏見。
據《華盛頓郵報》報導，谷歌在 8 月份措手不及，因為諮詢組織 Targeted Victory 聲稱該公司將共和黨的籌款電子郵件標記為危險垃圾郵件，而民主黨的類似電子郵件卻沒有受到影響。
谷歌否認其垃圾郵件過濾器有任何不當行為，後來表示，它已經刪除了導致該問題的電子郵件“黑名單”。
