隨著聊天機器人變得越來越流行，我們已經看到人工智能對查詢提供了一些非常奇怪的響應。今天，Reddit Answers 在主持人之後成為人們關注的焦點 已被標記 一種人工智能工具，可以提供危險的醫療建議，他們無法禁用或隱藏這些建議。
編輯看到 Reddit 的回答建議患有慢性疼痛的人停止服用當前的處方，並服用高劑量的卡痛葉，這是一種不受管制的物質，在某些州是非法的。該用戶表示，他們向 Reddit 詢問了其他醫療問題。他們收到了治療新生兒發燒的潛在危險建議以及一些微妙的程序，以及海洛因可用於緩解慢性疼痛的建議。其他幾個版主，尤其是來自關注健康的 Reddit 子版塊的版主，對原始帖子做出了回應，並表示擔心當 Reddit Answers 在其社區中提供不准確或危險的信息時，他們無法阻止或報告問題。
Reddit 的一位代表表示 404媒體 Reddit 答案已更新，以解決一些 mod 問題。該發言人告訴該出版物：“此次更新確保敏感主題的‘相關答案’將不再顯示，這些答案以前可能在帖子的詳細信息頁面（也稱為聊天頁面）上可見。” “實施這一更改是為了改善用戶體驗並保持平台內適當的內容可見性。”我們已聯繫 Reddit，徵求有關排除主題的更多評論，但目前尚未收到回复。
雖然該代表表示 404媒體 Reddit Answers“不包括來自私人、孤立和 NSFW 社區的內容，以及一些成熟的主題”，很明顯，該 AI 工具似乎無法正確提供醫療信息，更不用說處理其他 Reddit 用戶可能提供的諷刺、挖苦或潛在的糟糕建議了。除了最近不出現在“敏感主題”中之外，Reddit 似乎並不打算提供任何工具來控制 AI 在 Reddit 子版塊中的顯示方式或時間，這可能使本來就很困難的審核任務變得幾乎不可能。
