個人算法如何欺騙你的大腦給出錯誤的答案

由於可供探索的內容很少，因此這些參與者在後續測試中經常回答錯誤的問題。即使他們錯了，他們也會對自己的反應表現出極大的信心。

俄亥俄州立大學心理學博士論文的一部分進行了這項工作，Giwon Bahg 說，這些結果令人擔憂。

即使沒有先驗知識，算法也會產生偏差。

大多數現有的個人算法研究都考察了算法如何影響人們對政治或社會問題的看法，而人們至少已經有所了解。

“但我們的研究表明，即使你對某個主題一無所知，這些算法也會立即開始產生偏見。它可能會導致對現實的扭曲看法，”現為賓夕法尼亞州立大學博士後學者的巴格說。

研究結果出現在 實驗心理學雜誌：綜述–

研究合著者、俄亥俄州立大學心理學教授布蘭登·特納表示，研究結果表明，人們可能會很快從算法中獲取有限的信息。並概括通常毫無根據的結果

“人們在遵循算法時會錯過信息。但他們認為自己所知道的內容會推廣到他們以前從未經歷過的其他特徵和環境的其他部分，”特納說。

電影介紹示例

展示這種偏差是如何發生的。研究人員描述了一個簡單的情況：一個從未看過某個國家的電影的人決定嘗試一下。點播流媒體服務提供推薦

觀眾選擇動作驚悚片是因為它們出現在列表的頂部。然後，該算法會推廣更多動作驚悚片。哪些觀眾繼續選擇

“如果這個人的目標無論是明確的還是暗示的，事實上，是為了了解這個國家電影的總體情況。算法建議最終會扭曲一個人的理解。這是一個嚴重的問題，”作者寫道。

只觀看一種類型可能意味著忽略其他類型的優秀電影。它還可能引起對這些電影中呈現的文化或社會的不准確和過於籠統的假設。作者指出

測試 演算法 虛構生物的效果

Bahg 和他的研究團隊與 346 名在線參與者探討了這一想法，以確保沒有人提出先驗知識。因此，研究人員使用了完全虛構的學習任務。

參與者研究了幾種類似水晶的外星人。每種類型由六個特徵定義，這些特徵因類型而異。例如，外星人的矩形棋子在某些類型中可能顯示為深黑色，而在其他類型中可能顯示為淺灰色。

目標是學習如何在不知道外星人數量的情況下識別每種類型的外星人。

算法如何指導學習？

在實驗中，外星人的外表隱藏在一個灰色的盒子後面。在一種情況下，參與者必須單擊所有功能才能查看每個外星人的完整數據集。

在另一種情況下，參與者選擇要檢查的特徵。個人算法會選擇他們最有可能最常採樣的項目。該算法使他們重複檢查相同的特徵。隨著時間的推移，他們還可以查看任何屬性。但他們被允許完全跳過其他資格認證。

結果表明，在個性化算法指導下的酒店總體上看到的酒店較少。並以有選擇和有模式的方式這樣做。然而，當他們在以前從未見過的新外星人樣本上進行測試時，他們經常錯誤地排列它們，然而，參與者對自己的答案仍然充滿信心。

“當他們對自己的選擇做出錯誤的決定時，他們會變得更加自信。這比正確的決定更令人擔憂，因為他們對此知之甚少，”巴格說。

對兒童和日常生活學習的影響

特納指出，這一發現具有現實意義。

“如果你有年幼的孩子，他們真的想了解世界，並且他們正在與優先考慮讓用戶消費更多內容的在線算法進行交互。會發生什麼？”特納說。

“消費類似的內容往往與學習不相容。這最終可能會給用戶和社會帶來問題。”

俄亥俄州立大學心理學教授弗拉基米爾·斯勞茨基（Vladimir Sloutsky）也是該研究的合著者。