不，牙買加人在等待下雨時不會參加派對或巡遊。他們正在熱切地為加勒比地區颶風梅麗莎的毀滅性襲擊做準備，人工智能生成的大量危險的虛假信息將在颶風過後被釋放。
• 另請閱讀： 奧根“梅麗莎”：牙買加已有三人死亡
• 另請閱讀： 視頻中通過“梅麗莎”的眼睛：這就是2025年最大颶風的樣子
• 另請閱讀： 牙買加、古巴、多米尼加共和國：多個加勒比國家將受到颶風“梅麗莎”的影響
隨著政治當局和緊急服務部門向高危人群組織和廣播定制信息，法新社在社交網絡上發現了數十種虛假內容，其中大多數帶有 OpenAI 視頻生成模型 Sora 的簽名。
法新社聯繫 OpenAI 小組時，並未做出回應。
這場颶風可能是襲擊牙買加最猛烈的颶風，已造成多人死亡，並有可能引發災難性的洪水和山體滑坡。
週一，信息部長兼牙買加參議員達納·莫里斯·迪克森表示，他和其他部長出席了新聞發布會，提供有關這場毀滅性風暴的“正確信息”。
“我加入了很多 WhatsApp 群組，我看到了所有這些視頻。其中很多都是假的，”他感嘆道。 “我們請您收聽官方渠道。”
這些視頻展示了一系列捏造的情況，從虛假新聞報導到致命洪水、鯊魚偷獵和人類苦難的悲慘場景。
其他的似乎展示了當地人——通常帶有濃重的牙買加口音，顯然是為了強化刻板印象——在颶風到來之前聚會、航行、駕駛私人船隻或快樂地游泳。
虛假內容忽略了重要的安全預防措施並導致用戶低估危險。
假的，但可信
“虛假內容破壞了政府的嚴肅工作，”使用人工智能預測極端天氣的專家、俄克拉荷馬大學氣象學教授艾米·麥戈文說。 “它們將對人類生命和財產造成損害。”
法新社認定的剪輯主要在 TikTok 上播放。如果平台應該給人工智能生成的內容貼上這樣的標籤，那麼只有其中一些內容帶有強制性標籤。
據法新社報導，TikTok 週二刪除了兩打以上的此類視頻，以及幾個專門分享這些視頻的賬戶。但在 Facebook 和 Instagram 上也發現了其他例子，它們的規則應該是相同的。
對於網絡安全公司 Getreal Security 的聯合創始人兼加州大學伯克利分校教授 Hany Farid 來說，颶風梅麗莎表明新的文本視頻模型“加速了虛假可信內容的擴散”。
因此，新的應用程序使得創建超現實的人類化身成為可能。法新社在視頻評論中指出，儘管有水印，許多用戶仍認為相關圖像是假的。
就像這位老人在 TikTok AI 視頻中大喊“不要喘氣”。 “上帝請拯救爺爺的房子和芒果樹，”一位評論者在下面寫道，而另一位評論者則呼籲提供有關他們財產狀況的更多最新信息。
另一段視頻中也出現了類似的祈禱，視頻中一名婦女抱著孩子在無屋頂的房子下哭泣求救。
哈尼·法里德告訴法新社：“信息時代的悖論在於，隨著信息量的增加，我們作為公眾的信息卻越來越少。”
