倫敦——英國首相凱爾·斯塔默的 61 秒視頻如果屬實，將會令人震驚。
“英國正準備從每天晚上 11 點開始實施全國宵禁，”他在過去六個月發布的數千個 TikTok 視頻中的其中一個中似乎這樣說道。 “根據這項新規定，未經官方許可，任何人不得在晚上 11 點之後離開家。”
斯塔默從未制定過此類政策或公告。但得益於人工智能技術的飛速發展，短視頻中的總理看上去與真人出奇的相似，鼻音韻律十足。該假視頻吸引了超過 43 萬次觀看，並在社交平台 X 和 Facebook 上引發了類似帖子。
該視頻以及其他類似視頻似乎已被中國社交媒體公司刪除，該公司正式禁止“虛假權威消息來源或危機事件，或在某些情況下歪曲公眾人物”。
但這段視頻只是 5 月至 12 月間由 NewsGuard（一家追踪網上錯誤信息的公司）發現的 6,042 個此類視頻之一，其中大多數都是 Starmer 的。該公司在最近的一份報告中表示，這些視頻是由假冒英國新聞機構名稱（例如“BBB UK News”和“Daily Britain News”）的帳戶發布的。截至報告發佈時，這些賬戶的粉絲總數已超過 100 萬。
“他一直在模仿斯塔默，”NewsGuard 俄羅斯影響力高級分析師伊娃·梅特蘭 (Eva Maitland) 說。 “它產生虛假或未經證實的說法，對斯塔默政府來說看起來很糟糕，而且它們的創建是為了引起人們的強烈反應，以便他們點擊它們。”
梅特蘭表示，這些視頻似乎並不是俄羅斯等外國對手或總理國內政治對手為了在選民眼中傷害他而協調行動的一部分。相反，據她說，它們是由內容製作者創建的，他們的主要目標是通過製作病毒視頻來賺錢。
她說：“部分原因是內容質量較低，發布規模較大。”她補充說，這些視頻“有點垃圾內容，類似標題黨，沒有任何明確的政治動機。”
在TikTok平台上，一旦創作者的賬戶達到一定的關注者門檻並且視頻超過一定的觀看次數，創作者就會獲得報酬。這可能會激發他們製作大量爆炸性視頻，希望其中一些視頻能夠獲得巨大成功並廣泛分享。
TikTok 沒有透露每個視頻具體賺多少錢。但牛津大學教授、國際信息環境小組主席菲利普·N·霍華德 (Philip N. Howard) 表示，光是宵禁視頻這一點，製作者就可以賺到 3,500 美元。
“如果與中華人民共和國或俄羅斯政府感興趣的特定問題無關，那麼通常只是為了賺點錢，”他說。
OpenAI 的 Sora 等易於使用的人工智能視頻生成工具的廣泛採用，大大增加了 TikTok 和其他社交媒體平台上的虛假視頻數量。
斯塔默的辦公室沒有回應置評請求。
目前尚不清楚有多少英國人觀看了這些視頻。梅特蘭表示，NewsGuard 無法識別某人點擊 TikTok 視頻時的位置，很大程度上是因為該公司不共享這些數據。
但這些虛假視頻出現之際，總理正處於特別困難的時刻，他的民意調查結果已經非常低了。在一些調查中，斯塔默的支持率是自首次進行調查以來所有英國領導人中最低的。
除了聲稱斯塔默宣布全國宵禁的視頻外，其他視頻也利用了同樣戲劇性且同樣虛假的說法，可能會讓英國選民感到不安。
在一段視頻中，首相似乎宣布了新的駕駛執照法，這可能會剝奪許多英國人在該國合法駕駛的能力。標題是：“突發事件：令人震驚的新 DVLA 規則可能會在一夜之間取消你的駕照。”
另一段視頻顯示斯塔默的假聲音宣稱新規則將允許當局訪問任何英國人的手機及其私人數據。
在 NewsGuard 12 月 9 日發布報告後的幾天裡，斯塔默的許多視頻仍然可以在 TikTok 上觀看。到 12 月 19 日，大多數內容似乎已從平台上刪除。
但霍華德表示，人工智能在政治中的使用正在迅速增長，特別是作為政治顧問和競選經理測試問題對公眾影響的一種方式。
“這就是壞演員學習的方式，”他說。
霍華德位於瑞士的組織專門研究與人工智能相關的偏見和錯誤信息，該組織最近發表的一項研究表明，類似的政治內容已在世界各地傳播。
“我們知道它現在在國際上很普遍，”他說。 “目前全球五分之四的選舉都包含人工智能生成的政治垃圾，這些垃圾未註明來源且明顯具有誤導性。”
