這是 後撤步每週通訊報導科技界的重要故事。 有關人工智能法律欺詐的更多信息，請關注 Adi Robertson。 後撤步 東部時間上午 8 點到達我們訂閱者的收件箱。選擇 後撤步 這裡。
這首歌叫做“Heart on My Sleeve”，如果你不了解的話，你會猜你正在聽德雷克。如果你是 做過 更好的是，你正在聽到一場新的法律和文化鬥爭的序幕：一場關於人工智能服務如何使用人們的面孔和聲音，以及平台如何響應的鬥爭。
早在 2023 年，人工智能製作的仿 Drake 歌曲“Heart on My Sleeve”還是一件新鮮事；然而，它所帶來的問題是顯而易見的。一位著名藝術家歌曲的演繹感動了音樂家們。流媒體服務在版權法律技術上取得了成功。但造物主並沒有直接這樣做 複製 任何東西——只是非常接近的模仿。於是注意力迅速轉向比較法這一專業領域。這個領域曾經是非官方名人代言和模仿的代名詞，隨著音頻和視頻深度造假的激增，它被視為少數可用於遏制它們的工具之一。
與受《數字千年版權法》和多項國際條約管轄的版權不同，沒有圍繞比較的聯邦法律。它是不同州法律的拼湊而成，實際上沒有一個法律是在設計時考慮到人工智能的。但在過去的幾年裡，改變這種狀況的努力一直在進行。 2024年， 田納西州州長比爾·李 加州州長加文·紐瑟姆（這兩個州也嚴重依賴媒體產業）簽署了法案，擴大對藝人未經授權的複制的保護。
但法律的進展比技術慢得多。上個月，OpenAI 推出了 Sora，這是一個人工智能視頻生成平台，專門用於提取和重新混合真人的相似之處。這為通常令人驚訝的真實深度贗品打開了閘門，其中包括那些不同意其創作的人。 OpenAI 和其他公司正在通過實施自己的比較機制來做出回應——如果不出意外的話，這可能會成為互聯網的新規則。
OpenAI 否認 Sora 的推出是粗心的，首席執行官 Sam Altman 表示，如果說有什麼不同的話，那就是它的護欄“過於嚴格”。然而這項服務仍然引起了不少投訴。一開始對歷史人物的比較限制很少 反向航向 在馬丁·路德·金的遺產委員會抱怨對被暗殺的民權領袖的“不尊重的描述”之後 傳播種族主義或犯罪。它嚴格限制未經授權使用活人肖像，但用戶已經找到了將布萊恩·科蘭斯頓等名人放入 Sora 視頻中的方法。 自拍 對於邁克爾·傑克遜，這引起了 SAG-AFTRA 的投訴，這促使 OpenAI 以甚至沒有提到的方式加強護欄。
有些人也是 做過 授權 Sora 客串（使用人物肖像的視頻術語），其中包括女性，但結果未解決， 各類戀物輸出。奧特曼說，他沒有意識到人們對作者比較有“中間”的感覺，他說公開客串不想“說一些令人反感的事情或他們認為有嚴重問題的事情”。
Sora 正在通過調整歷史人物政策等變化來解決這些問題，但它不僅僅是一個人工智能視頻服務，而且事情變得非常奇怪。人工智能掌摑已成為唐納德·特朗普總統政府和其他一些政客的必備禮儀，包括對特定政敵進行粗暴或公然的種族主義描述：特朗普上週以一段視頻回應“無王”抗議活動，視頻顯示他在一名男子身上排便。 類似於自由派影響者哈里·西森如果紐約市市長候選人 安德魯·科莫 發表 這段（並很快被刪除的）“佐蘭·馬姆達尼的罪犯”視頻顯示，他的民主黨對手正在搗碎大米。例如 凱特·坦巴吉 (Kat Tenbarge) 已載入史冊 噴火戰鬥機新聞 本月早些時候，人工智能視頻也成為影響者戲劇中的彈藥。
未經授權的視頻幾乎一直存在潛在的法律訴訟威脅，例如斯嘉麗約翰遜等名人因使用其肖像而提起訴訟。但與人工智能版權侵權指控不同的是，人工智能版權侵權指控引發了一系列備受矚目的訴訟，監管機構之間幾乎持續不斷的爭論，很少有類似事件達到這一水平——也許是因為法律環境仍在不斷變化。
雖然 SAG-AFTRA 感謝 OpenAI 移動了 Sora 的護欄，但它還是藉此機會宣傳了《培育原創、促進藝術和保持娛樂安全（禁止複制）法案》，這是一項多年來旨在將針對“未經授權的數字複製品”的保護措施編入法典的努力。這 沒有假法律它還得到了 YouTube 的支持，在全國范圍內引入權利來規範對生者或死者的聲音或視覺肖像的“計算機生成的、高度逼真的電子表現形式”的使用。這包括對故意允許未經授權的數字副本的在線服務的責任。
“無假貨”法招致了在線言論自由團體的激烈批評。 EFF 稱其為 “新的審查基礎設施”強制要求平台更廣泛地過濾內容，這幾乎不可避免地會導致意外的刪除和在線“質問者否決”。該法案包括對模仿、諷刺和評論的剔除，這些內容未經許可是允許的，但該組織警告說，這些“對那些無法就該問題提起訴訟的人來說是冰冷的安慰”。
《正品正品法案》的反對者可以感到安慰的是，如今國會能夠通過的立法是如此之少——我們活在當下。 歷史上第二長的聯邦政府關門此外，還有一項單獨的行動旨在阻止國家人工智能監管，這將使新的可比性法律失效。但實際上，比較規則仍在不斷出現。 YouTube 本週早些時候宣布，合作夥伴計劃將允許創作者使用自己的肖像來搜索未經授權的上傳內容並請求刪除。此舉擴展了現有政策，其中包括讓音樂行業合作夥伴刪除“模仿藝術家獨特的歌唱或說唱聲音”的內容。
在所有這一切中，社會規範仍在不斷發展。我們正在進入一個你可以輕鬆製作幾乎任何人做任何事情的視頻的世界 – 但是當 應該是 大多數情況下，這些期望都會被保留。
- 最近的大部分對話都只是關於人們做奇怪或瘋狂的事情的人工智能視頻，但研究表明，從歷史上看 很大一部分是深度贗品 女性的不雅圖像通常未經許可而製作。除了Sora之外，關於這樣的事情還有一種完全不同的對話 AI裸體服務的輸出還有 法律問題 與其他未經同意的性圖像類似。
- 除了非正式比較時的基本法律問題外，還存在視頻何時具有誹謗性（如果足夠現實）或騷擾性（如果公然騷擾和威脅）的問題，這會使個人情況變得複雜。
- 社交平台幾乎總是不受第 230 條的保護，只要它們不被視為第三方內容的發布者或發言人。隨著越來越多的服務採取積極措施幫助用戶創建內容，一個有趣的問題似乎是第 230 條如何保護生成的圖像和視頻。
- 儘管長期以來人們擔心人工智能確實無法區分幻想和現實，但使用上下文和“講述”（通過某些編輯抽動）仍然相對容易。 清除水印）來確定視頻是否是 AI 生成的。問題是大多數人看起來不夠仔細或者不關心它是否是假的。
- 莎拉·鄭 (Sarah Jeong) 關於照片被巧妙處理的警告現在比 2024 年發佈時更有意義。
- 紐約時報 具有全面的外觀 特朗普對人工智能生成的內容特別感興趣。
- Max Read 分析 Sora 的社交平台及其“有效”嗎
