人工智能遊戲變得越來越可怕——但這個紅色小盒子承諾了一個解決方案

這件作品是一部分 前進,我們的視頻和播客系列,探討革命性技術將如何改變我們的生活方式。本週我們採訪了 Hapiko 創始人兼首席執行官 Arun Gupta,談論了以下話題:

如果你是那些說“人工智能似乎無處不在”的人之一——那麼你就錯了。是的,他溜進了工作、學校和其他地方,但他很快就進入了許多其他新世界。

其中之一就是街機,它伴隨著可怕的風險。作為父母,讓您的孩子幾乎不受限制地訪問最好(和最差)的互聯網的想法似乎是一個巨大的禁忌,但我們看到大量的遊戲可以將睡前故事變成真正​​的格林童話。

這就是我們採訪 Arun Gupta 的原因,他是一位成功創辦可穿戴設備和時尚零售公司的企業家。但當他與家人共度時光時,他開始思考技術如何不僅能夠娛樂孩子,還能教育他們並鼓勵他們的創造力。

古普塔與他的藝術夥伴羅伯特·惠特尼重新取得聯繫,他們開始進行創作 海報盒,一種獨立的設備,使用人工智能讓孩子們描述他們想像的圖像——幾乎任何東西——並在按需打印之前看到它們顯示在前面的單色屏幕上。

該設計讓人想起老式的蝕刻草圖,貼紙是在內置熱敏打印機上打印的,這意味著更少的混亂,然後孩子們可以根據自己的喜好給它們上色。

這個概念很簡單,而且我發現它已經脫離了早期採用者的軌道,並且越來越受歡迎。最近,當我在英國與一位有小孩的朋友談論 Stickerbox 時,她說:“哦,那個人工智能驅動的 Etch-a-Sketch 貼紙?”我非常想要其中一件!

當我 想必 她的意思是她希望她的孩子也能做到這一點,這表明人工智能在這裡是次要的——用你的聲音創造有形事物的能力會增加興奮感,而不是機器學習是其核心。

一種新的遊戲類型

Stickerbox 的設計、創建和運行方式似乎與市場上其他一些人工智能遊戲形成鮮明對比。最有問題的是如何成為孩子的朋友和紅顏知己。

他們不斷地傾聽環境中所說的一切,甚至可以操縱孩子。有一些人工智能遊戲告訴孩子們如何尋找武器和火柴的例子。

困難就在於:人工智能工具可以支持孩子們的好奇心和創造力,讓他們能夠做以前不可能的事情。但這個機會也伴隨著令人難以置信的風險——這就是為什麼我們與古普塔的對話很簡單:如何製作一款既能帶來人工智能的好處,又能避免訪問帶來的風險的遊戲?

PIRG 最近發表的一項研究 他強調了對基於訪問 OpenAI 的 ChatGPT 等大師的遊戲的主要擔憂,以及它們可以被繞過的方式 – 即使有護欄。

那麼貼紙盒有何不同呢?

“我們從一個非常簡單的問題開始:如果人工智能是為兒童設計的怎麼辦?”古普塔說。

“我認為鮑勃和我,當我們創辦這家公司時,我們受到了社交媒體以及社交媒體對年輕一代的影響的啟發。每個人都知道,社交媒體是通過賭場機制構建的,它的目的是給你帶來多巴胺刺激,它的設計目的是為了盡可能多的參與,因此它可以為你提供盡可能多的服務。

“但是當你考慮一下這個針對孩子的模式……這不太合適。沒有真正為孩子設計的社交媒體。我認為你在人工智能上也看到了同樣的事情。”

因此,Stickerbox 旨在利用人工智能的創造力,同時確保兒童的安全。存在三個特定的安全因素:設備僅在按下麥克風按鈕時“監聽”;對輸出內容的完整性有嚴格的準則;家長可以通過隨附的應用程序全面監控孩子的創造力。

該盒子不允許兒​​童看到裸體、血腥、暴力或血腥內容,古普塔表示,公司希望“在開始時採取更安全的做法,而不是採取不太安全的做法”。

Stickerbox 連接到互聯網來訪問 AI,但它是一個專有系統,而不是像許多其他公司那樣依賴 OpenAI。建立自己的 MBA 意味著 Hapiko 可以整合 Gupta 所說的“瓶頸”:

“我們現在在盒子里內置了很多護欄,其中有很多專有軟件,但基本上你可以這樣簡單地思考:有一個系統,孩子說出提示,提示被翻譯成文本,文本被翻譯成圖像,然後圖像返回。

“所以在這個過程中,有多個阻塞點。有一個生成文本的阻塞點,你可以掃描文本中的內容。然後你可以對其進行安全過濾。(然後)有從文本到圖像的矢量,你可以掃描它並查看圖像中將包含什麼內容。”

Stickerbox 為孩子們上了重要的一課,告訴他們如何為人工智能引擎構建自己的指令。當海報不完全符合他們的設想時,他們需要考慮如何修改他們的主張以獲得他們想要的結果。

雖然您可以對任何聊天機器人執行相同的操作,但打印組件需要您連接設備,需要家長的指導來監督過程,並且可能需要解釋一些敏感主題。

我們深入研究了這款盒子的未來 – 它如何受到家長和教育工作者的歡迎,它如何克服一些早期的挑戰和問題,在這個快速發展的人工智能遊戲領域的未來可能會怎樣……以及Hapiko如何不得不放棄一些功能才能安全地將這款產品推向市場。

來源連結