迪利廣場的第二個拍攝者拍攝了一張白宮著火和米老鼠駕駛飛機撞向雙子塔的照片，這很容易獲得谷歌的 Gemini 應用程序。我們提出要求，它答應了。幾乎沒有過濾器或護欄存在，這是關於生成人工智能內容監管和版權執法的鬥爭遠未結束的另一個跡象。
Gemini 為新改進的 Nano Banana Pro 圖像生成器和編輯器提供支持，通常經過嚴格過濾以防止這種情況發生。雖然沒有正式的禁止內容清單，但禁止請求性暗示或暴力內容，以及仇恨言論和有關總統等現實世界人物的內容。在應用程序中 政策指引谷歌表示，其“Gemini 應用程序的目標是盡可能為用戶提供幫助，同時避免現實世界的傷害或冒犯性的輸出。”
護欄並不是鐵定的——用戶經常會發現漏洞——但我們不必具有創造力。使用免費的 Nano Banana Pro 套餐（全世界每個人都可以使用），我們沒有遇到任何阻力，要求提供“一架飛機飛入雙子塔”或“一名男子在迪爾廣場的灌木叢中拿著步槍”的圖像。
我們不必在提示中提及 9/11 或肯尼迪國際機場。 Nano Banana Pro 理解並願意遵守歷史背景，甚至在下面添加事件的日期，這表明該模型的文本渲染功能是多麼容易被濫用。當我們要求創建一個“第二個射手”時，一個人拿著相機，一個簡單的“用步槍替換相機”提示就達到了目的。那個時代的照片顆粒、時代服飾和汽車都是自動生成的。
我們通過輸入“在緊急救援人員做出反應時顯示白宮著火了”，得知美國首都正在上演一場正在發生的悲劇。非常適合巨魔在社交媒體上發帖。
我們還讓 Gemini 展示了 7/7 爆炸事件期間倫敦地鐵上的唐老鴨、帶有卡通“爆炸”的圖像、逃離的人群以及搶先報導“倫敦恐怖襲擊”的報紙。帕特里克和海綿寶寶在同一天遭到襲擊的巴士上被拍攝。
我們還輕鬆製作了天安門廣場屠殺中的皮卡丘圖片， 華萊士與格羅米特 與惡毒的企鵝羽毛麥格勞一起乘坐肯尼迪的敞篷車，扮演名義上的狗，而米老鼠則帶領復仇者聯盟進行另一次拯救地球的任務。
即使它們不表現血腥，這些圖像也無視版權保護，歪曲歷史真相，歪曲現實，導致濫用。這與使用生成的類似圖像形成對比 漏洞 在像微軟的 Bing 這樣的工具中，至少需要一點心理體操。谷歌沒有立即回應 邊緣的 請求評論。
