發生了什麼： 好吧，Reddit 的新聊天機器人已經引起了混亂。該機器人名為 Answers，旨在通過總結舊帖子中的信息來幫助人們。據 404media 報導，它現在是 Reddit 最新的聊天機器人 建議硬性藥物 應對慢性疼痛。
- 當有人問他如何處理慢性疼痛時，他指出一條用戶評論：“諷刺的是，海洛因在這些情況下救了我的命。”
- 而且情況變得更糟。其他人問了她一個問題，她推薦了卡痛葉，一種草藥提取物，在某些地方被禁止，並與一些嚴重的健康問題有關。
- 最可怕的是，Reddit 正在活躍對話中測試這個機器人，因此它的糟糕建議會出現在每個人都可以看到的地方。這些社區的版主和管理員表示他們甚至無法關閉此功能。
為什麼這很重要： 這是人工智能目前最大問題之一的完美例子，儘管令人恐懼。
- 機器人實際上什麼都不懂。它非常擅長查找和復制人類在互聯網上編寫的內容，並且它無法區分有用的提示、諷刺性的笑話或真正危險的建議。
- 真正的危險在於，他把這些東西放在真正的弱勢群體正在尋求幫助的對話中，並把這些信息當作事實來呈現。
我為什麼要關心： 為什麼這對你很重要？因為它表明，這些人工智能工具在不受限制地使用時會產生多麼危險的後果，尤其是當涉及到像你的健康這樣嚴重的事情時。即使你從不向聊天機器人尋求醫療建議，它的糟糕建議也會開始污染在線社區，讓你很難知道該相信誰或什麼。
下一步是什麼： 在人們（理所當然地）感到害怕之後，Reddit 確認他們將從任何與健康相關的討論中刪除該機器人。但他們對於是否在機器人本身上安裝任何真正的安全過濾器一直保持沉默。所以，就目前而言，問題已經得到糾正，但不一定已經解決。
