您有 Reddit alt、Secret X、Finsta 或 Glassdoor 帳號嗎？人工智慧可能讓揭開你的面具變得更加容易。這就是一個結論 最近發表的一項研究這表明在網路上保持私密會帶來一些令人不安的後果——儘管現在還不是為匿名舉行葬禮的時候。
這項未經同行評審的發現來自蘇黎世聯邦理工學院人類與機器學習聯盟和理論學者計畫的研究人員。他們使用未指定的樣本建立了一個人工智慧代理的自動化系統，能夠像人類研究人員一樣搜尋網路並與資訊交互，以測試大型語言模式如何有效地重新識別匿名資料。該系統在去匿名化帳戶、大規模搜尋文本中查找個人細節方面「顯著優於」傳統計算方法。
該系統的工作原理是將帖子或其他文本視為一組線索。它分析文本中的模式——寫作怪癖、剖析傳記細節、發文頻率和時間——這些可能表明某人的身份。它會掃描數百萬個其他帳戶，尋找相似的特徵。潛在的匹配被標記，更詳細地比較，並轉換成潛在身份的候選名單。
該團隊沒有針對毫無戒心的用戶，而是使用從公開貼文中提取的資料集來評估系統，這些貼文包括 Hacker News 和 LinkedIn 上的內容、Anthropic 對科學家關於如何使用 AI 的採訪記錄，以及故意分成兩個匿名部分進行測試的 Reddit 帳戶。該論文報告稱，基於法學碩士的方法正確識別了高達 68% 的匹配帳戶，每種設定的準確率高達 90%。相較之下，幾乎沒有發現可比較的非法學碩士方法，例如連接大型資料集中的分散資料點。
每個資料集的結果並不統一，當模型包含更多結構化資訊時，模型的效能會更好。在一項檢查 Reddit 用戶在主要 r/movies subreddit 和較小的電影社群中發布有關電影的實驗中，該系統能夠將 3% 的時間只提到一部電影的帳戶連結起來，準確率達到 90%。當使用者指定 10 個或更多影像時，成功率幾乎減半。
同時，一項利用 Anthropic 對科學家進行調查的實驗，從 125 名受訪者中識別出了 9 名，召回率約為 7%。在該測試中，系統根據每個受訪者答案中的線索建立了他們的個人資料，然後在網路上搜尋公開資訊以尋找潛在的匹配項。在一個範例配對中，研究人員強調了「導師」如何指稱博士生，以及英式英語的使用如何暗示英國的隸屬關係。結合物理科學的背景和目前的生物研究工作，該系統能夠將領域縮小到特定的候選人。
然而，研究人員認為，從非結構化文字中識別任何受訪者的能力非常出色，只需幾分鐘即可反映出人類研究人員需要數小時才能完成的工作。另外，他們也說 邊緣 隨著人工智慧系統變得更有效率並能夠存取更大的資料池，效能可能會得到提高。他們警告說，更廣泛地說，假設用假名發文可以保護過去或未來的線上身分已不再安全。
“原則上法學碩士發現的一切都可以由人類研究人員發現。”
「資訊在網路上永遠存在，」蘇黎世聯邦理工學院研究員、該研究的作者之一丹尼爾·帕萊卡 (Daniel Paleka) 說。研究人員警告說，這種堅持可能會給依賴假名的記者、持不同政見者和活動人士帶來切實的、現實世界的危險，同時也可能導致「高度針對性的廣告」和「高度個人化」的詐騙。
帳戶去匿名化的風險並不新鮮，也不是人工智慧獨有的。 「原則上法學碩士發現的一切都可以由人類研究人員發現，」帕萊卡說 邊緣。
帕萊卡認為，新鮮的是端到端自動化。曾經是勤奮的研究人員在貼文中搜尋所需資訊的苦差事，現在可以變得更加容易，也更加誇張。
它也很便宜。研究人員表示，他們的實驗成本不到 2000 美元，每個運行 AI 代理程式的設定檔成本在 1 到 4 美元之間。 「現在的經濟學完全不同了，」合著者西蒙·勒曼說 邊緣它警告說，較低的進入門檻可能會擴大到那些有能力嘗試突破網路匿名性以及激勵措施的人。他說，歷史上「在雷達下飛行」的團體將發現很難繼續這樣做。
人們可能會「誤解這項重要的研究，並得出隱私已死的結論」。它不是。
重要的是不要誇大研究結果。牛津互聯網研究所副教授盧克·羅徹（Luke Rocher）表示：“儘管這些演算法正在改進，但距離人類的能力還很遠。” 邊緣。工作與現實世界並不完全對應；實驗是在實驗室條件下使用精心策劃的匿名數據集進行的，用於測試目的。他們表示，他們擔心公眾「可能會誤解這項重要的研究並得出隱私已死的結論」。他們爭辯說，事實並非如此。
羅徹表示，儘管多年來揭露匿名用戶身分的技術不斷進步，「比特幣發明者中本聰的身份在十多年後仍然是個謎」。他們補充說，舉報人仍然可以在不暴露的情況下與記者交流，而像 Signal 這樣的工具「到目前為止已經成功地保護了我們的集體隱私」。
在論文中，研究人員表示，出於道德的考慮，他們避免在真實的假名用戶身上測試他們的系統。出於類似的原因，他們沒有公佈其方法的完整技術細節，並拒絕在被要求時提供演示。該團隊也沒有透露他們是否在研究範圍之外測試了該系統，再次引用了道德問題，並留下了該系統在現實世界帳戶中的運作可靠性問題。
對於已經深深致力於匿名的人來說，實際影響可能是有限的。基本的預防措施——保持帳戶獨立、限制個人資訊、避免明顯的模式，例如只在你所在時區的清醒時間發布——仍然是關鍵。
帕萊卡和勒曼建議用戶仔細考慮公共論壇上發布的內容，甚至是應該匿名的帳戶，並記住，已經存在的內容可能比大多數人想像的更容易混淆。
研究人員認為，責任不應該完全由消費者承擔。勒曼表示，人工智慧實驗室應該監控其工具的使用方式，並建立保障措施，以防止它們被用來對人們進行去匿名化。他補充說，社群媒體平台可以遏制抓取和大量資料提取，從而使此類努力成為可能。
換句話說，中本聰可能不會受到人工智慧偵探的攻擊。你在 Reddit 上發表過 AITA 貼文嗎？可能是別的東西。
