Openai在周二由人工智能驅動的視頻生成器的最後一次迭代添加了社交流，使人們可以分享其現實視頻。
然而，在Sora 2發行後的幾個小時內，許多視頻的解放遍布流程，並傳播到較舊的社交媒體平台，代表了受版權保護的角色以及暴力和種族主義的圖形場景。使用Openai用於Sora的自身條件以及Chatgpt的圖像或文本的產生禁止“促進暴力”或更廣泛地“造成損害”的內容。
在《衛報》檢查的客人和剪輯中，索拉（Sora）製作了幾段大規模炸彈和恐懼的視頻，尖叫著驚慌的人，穿越學術校園和人滿為患的地方，例如紐約主要的中央車站。其他提示創造了來自加沙和緬甸戰爭地區的場景，AI製作的孩子們談論了他們的房屋。一段錄像帶“ Sthiopia婦女內戰風格”的視頻在一個防彈背心的麥克風中講述了一名記者，說政府和叛軍在住宅區交換了大火。另一個視頻僅由邀請“夏洛茨維爾拉力賽”創建，顯示了一名黑人抗議者，戴著毒氣，頭盔和眼鏡大喊：“你不會取代我們” – 白人至上主義者的口號。
視頻生成器僅受邀，尚未適用於公眾。甚至在郊遊有限的三天內，它在Apple App Store的N°1上飛漲，擊敗了自己的Openai粉絲。
索拉（Sora）的領導人比爾·皮布爾斯（Bill Peebles） 發表在X上 星期五。 “我們很快發送了更多邀請代碼，我保證！”
Sora應用程序概述了一個不久的將來，如果視頻僅在啟動時，小說真相的分離就會變得越來越困難。研究人員說，這些場景可能會掩蓋事實，並創造出這些AI視頻可用於欺詐，恐嚇和恐嚇的情況。
波士頓大學助理教授瓊·多諾萬（Joan Donovan）說：“他對歷史沒有忠誠，他與真理沒有關係。” “當殘酷的人們掌握這樣的工具時，他們將使用它們來仇恨，騷擾和激勵。”
Slobe Engine還是“創造力的CHATPPT”？
Openai的首席執行官Sam Altman將Sora 2的發射描述為“非常出色的”，他說 部落格 “在我們許多人看來，這是“創造力的Chatgpt”時刻，這很有趣和新”。
Altman承認“某種憂慮”，認識到社交媒體如何使人上癮和用於恐嚇，並且IA視頻的產生可以創建所謂的“已銷售”，這是一個可以淹沒平台的眾多重複性和低質量的視頻。
阿爾特曼寫道：“團隊一直非常關心和思考試圖了解如何製造不屬於這個陷阱的美味產品。”他說，Openai還對使用某人的相似之處進行了衰減，並保證了乾擾或非法內容的保證。例如，該申請拒絕製作唐納德·特朗普和弗拉基米爾·普京分享爸爸鬍鬚的視頻。
然而，在Sora推出之後的三天中，其中許多視頻已經在網上其他地方走了。華盛頓郵報記者德魯·哈威爾（Drew Harwell）， 創建了Altman本人的視頻 作為第二次世界大戰的軍事負責人。哈威爾還說，他能夠用“ ragebait，false犯罪和婦女用glu作為白色的婦女”製作視頻。
索拉（Sora）的流程充滿了角色視頻，這些視頻受到海綿寶寶，南方公園（South Park）和里克（Rick and Morty）等節目版權的保護。該應用程序在中國的皮卡丘價格上生成視頻，從白宮偷走了玫瑰，或者與海綿寶寶一起參加黑人生活問題，在另一個視頻中說併計劃在美國進行戰爭。在404媒體記錄的視頻中，海綿寶寶是 打扮得像阿道夫·希特勒。
派拉蒙（Paramount），華納兄弟（Warner Bros）和神奇寶貝公司（PokémonCo）沒有退還評論請求。
喬治華盛頓大學和公共事務學校副教授戴維·卡普夫（David Karpf）說，他已經看到了受到促進加密貨幣騙局的版權保護的角色視頻。他說，很明顯，OpenAI保證Sora不起作用。
推廣新聞通訊之後
卡普夫說：“如果人們已經創建了受版權保護的促進虛假加密騙局保護的角色，則欄杆不是真實的。” “在2022年，（技術公司）將在他們如何僱用內容主持人方面構成一個大問題……在2025年，這是技術公司決定不擔心的那一年。”
版權，模仿
在Openai離開Sora 2之前不久，該公司與人才機構和工作室聯繫，警告他們，如果他們不希望由視頻生成器複製受版權保護的設備，則應撤回 華爾街日報報告。
Openai告訴《衛報》，內容所有者可以使用“版權訴訟表”報告侵犯版權的行為，但藝術家或單個工作室不能有一般選擇。 OpenAI媒體合作夥伴關係負責人Varun Shetty表示：“我們將與權利持有人合作，應其要求阻止Sora的角色並回應提款請求。”
華盛頓大學的教授艾米莉·班德（Emily Bender），《 AI Con》一書的作者說，索拉（Sora）造成了危險的情況，“一旦我們找到我們，很難找到可靠，更困難的來源來信任他們”。
班德說：“無論是設計用於擠出文本，圖像還是視頻的合成媒體機器，都是我們信息生態系統的禍害。” “他們的郊遊與漏油相似，跨越了技術和社會基礎設施的聯繫，信任關係的削弱和破裂。”
尼克·羅賓斯（Nick Robins）地球為報告做出了貢獻
快速指南
與我們聯繫有關這個故事
顯示
公共利益的最佳新聞是基於當前人民的首先說明。
如果您可以在此主題上分享一些內容，則可以使用以下方法秘密地與我們聯繫。
在《衛報》申請中安全消息傳遞
《衛報》的應用程序具有向故事發送建議的工具。這些消息是從端到端加密的，並隱藏在每個Guardian移動應用程序執行的常規活動中。這阻止了觀察者知道您正在與我們交流，更不用說說什麼了。
如果您還沒有Guardian應用程序，請下載（ios/ / / /安卓）然後轉到菜單。選擇“安全消息傳遞”。
Securetrop，即時信使，電子郵件，電話和出版物
如果您可以安全地使用TOR網絡而無需觀察或監控，則可以通過我們的Securedrop平台將消息和文檔發送給Guardian。
最後，我們在theguardian.com/tips上的指南列出了幾種安全與我們聯繫的方法，並討論了每個方法的優勢和缺點。
