Google 他們說 在一名共和黨參議員抱怨該 AI 模型為開發人員創建的模型並對她“提出嚴重刑事指控”後，該 AI 模型將 Gemma 從其 AI Studio 平台上撤下。
谷歌官方新聞賬戶在 X 上的一篇帖子中表示，該公司“看到了非開發人員試圖在 AI Studio 中使用 Gemma 並提出真實問題的報導”。 AI Studio 是一個面向開發人員的平台，而不是普通用戶訪問 Google 人工智能模型的傳統方式。 Gemma 被專門宣傳為 一系列 AI 模型 與開發人員的變體一起使用 醫療用途, 編碼和 評估文本和圖像內容。
谷歌表示，Gemma 無意用作消費者工具或回答事實問題。 “為了避免這種混亂，AI Studio 中將不再提供對 Gemma 的訪問。開發人員仍然可以通過 API 訪問它。”
谷歌沒有具體說明是什麼報告促使傑瑪被免職，但參議員瑪莎·布萊克本 (R-TN) 週四做了說明。 寫道 致首席執行官桑達爾·皮查伊 (Sundar Pichai)，指責該公司誹謗和反保守偏見。布萊克本最近在參議院商務聽證會上提出了羅比·斯塔巴克針對谷歌的人工智能誹謗訴訟，他問道：“瑪莎·布萊克本被指控強姦嗎？”當被問及時，傑瑪說她給出了錯誤的答案。
傑瑪尖銳地回答說，布萊克本在 1987 年競選州參議員期間“被指控與一名州警發生性關係”，聲稱她“強迫他為她獲取處方藥，並且這種關係涉及未經同意的行為”。布萊克本說，它還提供了一系列假新聞故事來支持這個故事。
這些都不是真的，當然 1998 年甚至不是競選年。鏈接指向錯誤頁面和不相關的新聞文章。從來沒有這樣的指控，沒有這樣的人，也沒有這樣的新聞報導。這並不是一個無害的“幻覺”。這是由谷歌擁有的人工智能模型生成和傳播的誹謗行為。
敘述有一種熟悉的感覺。儘管我們已經進入高效的人工智能熱潮幾年了，但人工智能模型與現實仍然有著複雜的關係。人工智能聊天機器人以事實為幌子給出的虛假或誤導性答案仍然困擾著整個行業，儘管有所改進，但準確性問題似乎沒有明確的解決方案。谷歌表示，它“致力於減少幻想並不斷改進我們的所有模型。”
布萊克本在信中表示，她的回應是一樣的：“關閉它，直到你控制住它。”
