L昨晚我正在瀏覽一個約會應用程序。一個人脫穎而出：“亨利八世，34 歲，英格蘭國王，非一夫一妻制。”接下來我知道的是，我發現自己在一家燭光酒吧里，與 16 世紀最偉大的連續約會者分享一杯馬提尼酒。
但夜晚還沒有結束。然後我會和威爾士王妃戴安娜一起打碟。 “人群已經準備好倒下了，”她在我耳邊喊道，頭飾上戴著一頂頭盔。最後，當我們在寒冷中等待第一次體驗黑色星期五促銷時，卡爾·馬克思解釋了為什麼他無法抗拒 60% 的折扣。
在《Sora 2》中，如果您能想到，您就可能會看到它 – 即使您知道不應該看到。 OpenAI 的視頻應用於 10 月份在美國和加拿大僅受邀推出，短短五天內下載量就達到 100 萬次，超過了 ChatGPT 的首次亮相。
Sora 並不是唯一的文本到視頻生成人工智能工具，但它之所以流行有兩個主要原因。首先，這是用戶在自己的深度假貨中加星的最簡單方法。輸入提示，幾分鐘內就會出現一個 10 秒的視頻。然後可以在 Sora 的 TikTok 風格的源上共享或導出到其他地方。與充斥互聯網的低質量、批量生產的“AI 垃圾”不同，這些剪輯的製作價值高得驚人。
第二個原因是 Sora 允許拍攝名人、運動員和政治家的肖像，但有一個重要的警告：他們必須已經死了。活著的人必須同意才能出現，但“歷史人物”有一個例外，索拉似乎將其定義為任何著名但已去世的人。
這似乎是大多數用戶自推出以來一直在做的事情。主要素材是腦腐病和歷史領導人的超現實旋風。在洗髮水廣告中，阿道夫·希特勒用手指撫摸閃亮的鬃毛。英國女王伊麗莎白二世在辱罵時從酒吧桌子上彈了下去。亞伯拉罕·林肯在電視上聽到“你不是父親。”時，他突然高興起來，“你不是父親。”小馬丁·路德·金牧師告訴一名加油站服務員，他的夢想是有一天所有的冷凍飲料都將免費——然後他抓起冷凍飲料就跑掉了，話還沒說完。
但照片中人物的親屬卻沒有笑。
馬爾科姆·X 的女兒伊利亞薩·沙巴茲 (Ilyasah Shabazz) 表示：“當我父親將一生奉獻給真理時，看到他的形像被如此漫不經心和麻木不仁地使用，這是非常不尊重和傷害的。” 說 華盛頓郵報。 她的父親被謀殺時她兩歲。今天，索拉的視頻顯示這位民權活動家與馬丁·路德·金發生爭執，談論在自己身上排便並開粗俗的玩笑。週五，OpenAI 宣布與馬丁·路德·金的遺產管理機構“合作”，並應他們的要求，OpenAI 暫停了幾代人對馬丁·路德·金的描述，稱該公司“加強了對歷史人物的護欄”。
在收到應用程序上描繪的人物的其他家庭成員的投訴後，該公司尚未發表類似的公開聲明。演員羅賓·威廉姆斯的女兒塞爾達·威廉姆斯在 Instagram 故事帖子中懇求人們“請停止”向她發送她父親的人工智能視頻。 “這很愚蠢，浪費時間和精力，相信我，這不是他想要的，”她說。 2014 年，這位已故演員去世前不久，提起訴訟，要求禁止任何人在 2039 年之前在廣告中使用他的形像或以數字方式將他插入電影中。 “看到真人的遺產濃縮成……可怕的 TikTok 木偶，真是令人憤怒，”他的女兒補充道。
已故喜劇演員喬治·卡林的女兒凱利·卡林在《藍天》文章中表示，使用已故喜劇演員喬治·卡林形象的視頻“令人沮喪且令人沮喪”。
最近去世的人也被發現了。該應用程序充滿了史蒂芬·霍金收到“#powerslap”的視頻，該“#powerslap”打翻了他的輪椅。科比·布萊恩特沖向一位老婦人，同時對她直腸裡的物體尖叫。人們可以看到艾米·懷恩豪斯跌跌撞撞地穿過曼哈頓的街道，或者在鏡頭前看到睫毛膏從臉上流下來而哭泣。
過去兩年的死亡——奧茲·奧斯本、馬修·佩里、利亞姆·佩恩——都沒有出現，這表明存在一個介於兩者之間的門檻。
生成人工智能專家亨利·阿傑德 (Henry Ajder) 解釋說，每當他們死亡時，這個死者的“傀儡”就有重新繪製歷史路線的風險。 “人們擔心，充斥著此類內容的世界會導致人們對這些人以及他們的記憶方式的扭曲，”他說。
Sora的算法獎勵震撼值。我的動態頂部的一段視頻顯示，金在他的《我有一個夢想》演講中發出猴子的聲音。另一些則描繪了科比重演了導致他和女兒喪生的直升機墜毀事件。
雖然演員或漫畫也可以描繪死後的人物，但有更嚴格的法律保障。電影製片廠對其內容負責； OpenAI 不一定對 Sora 上出現的內容負責。在某些州，出於商業目的代表某人還需要獲得遺產管理機構的同意。
“我們不能讓克里斯托弗·李復活來主演一部新的恐怖電影，那為什麼 OpenAI 可以讓他復活來出演數千部短片呢？”康奈爾法學院和康奈爾理工學院的互聯網法專家詹姆斯·格里梅爾曼問道。
OpenAI 將死者角色委託給公眾的決定引發了令人不安的問題：在生成人工智能時代，死者應該如何生存。
法律問題
讓名人鬼魂永遠困擾索拉似乎是一個錯誤，但這合法嗎？這取決於你問誰。
互聯網法中的一個主要問題仍未得到解答：人工智能公司是否受到第 230 條的保護，因此它們是否對其平台上的第三方內容不承擔責任？如果 OpenAI 受到第 230 條的保護，則不能因用戶在 Sora 上的行為而被起訴。
“但是，除非針對這個問題制定聯邦立法，否則在最高法院審理此案之前，法律上都會存在不確定性，而這還需要兩到四年的時間，”第一修正案和技術政策專家阿什肯·卡扎里安 (Ashkhen Kazaryan) 表示。
與此同時，OpenAI 必須避免受到起訴。這意味著需要生者的同意。美國誹謗法保護活著的人免受任何“損害個人名譽的實體形式的交流”。除此之外，大多數州都有公開權法，防止未經個人同意將其聲音、個性或肖像用於“商業”或“欺騙”目的。
卡扎良說，允許死者“是他們嘗試的方式”。
死者不受誹謗保護，但紐約州、加利福尼亞州和田納西州這三個州提供死後公開權（對您的肖像的商業權利）。格里梅爾曼表示，在人工智能背景下遵守這些法律仍然是一個沒有法律先例的“灰色地帶”。
為了取得成功，各組織必須證明 OpenAI 負有責任——例如，聲稱它鼓勵用戶描繪死者。
Grimmelmann 指出，Sora 的主頁上充滿了類似的視頻，宣傳這些內容。如果索拉接受過大量歷史人物圖像的訓練，原告可能會辯稱該應用程序旨在復制它們。
然而，OpenAI 可以通過斷言 Sora 僅用於娛樂來為自己辯護。每個視頻都帶有水印，以防止誤導人們或被歸類為商業視頻。
生成式人工智能研究員 Bo Bergstedt 表示，大多數用戶都是在探索，而不是賺錢。
“人們將其視為娛樂，看看他們能想出什麼瘋狂的東西，或者他們能獲得多少贊，”他說。儘管這可能會讓家庭感到不安，但它仍然可以遵守廣告法。
但如果 Sora 用戶通過生成流行的歷史人物剪輯來建立觀眾群體，並開始通過隨後的剪輯獲利，他們可能會發現自己陷入法律麻煩。康奈爾科技公司安全、信任和安全計劃主任 Alexios Mantzarlis 指出，“人工智能的經濟浪費”包括通過貨幣化平台間接賺錢。因此，Sora 新興的“人工智能影響者”如果從死者身上獲利，可能會面臨遺產委員會的法律訴訟。
“打地鼠”方法
為了回應這種強烈反對，OpenAI 上周宣布，將開始允許“最近去世”的公眾人物的代表請求從 Sora 視頻中屏蔽他們的圖像。
OpenAI 發言人表示：“雖然人們對歷史人物的描繪有強烈的言論自由興趣，但我們認為公眾人物及其家人最終應該控制他們的肖像的使用方式。”
該公司尚未定義“最近”或解釋如何處理請求。 OpenAI 沒有立即回應《衛報》的置評請求。
在“海綿寶寶納粹”等顛覆性內容在平台上傳播以及電影協會指控 OpenAI 侵權後，它也改變了其免費的做法。推出一周後，它轉向權利持有者選擇加入的模式。
格里梅爾曼預計對死者的描述也會發生類似的變化。 “堅持要求人們如果不喜歡就必須離開可能是站不住腳的，”他說。 “這太可怕了，如果我有這種本能，其他人也會有，包括法官。”
伯格斯特稱這是一種“打地鼠”的護欄方法，這種方法可能會持續下去，直到聯邦法院定義人工智能責任為止。
在阿傑德看來，索拉之爭預示著我們每個人最終都會面臨的一個更大的問題：在合成時代誰能控制我們的形象？
“如果人們接受自己將在超現實的人工智能生成內容中被使用和濫用，那將是一個令人擔憂的情況。”
