报告:人工智能游戏仍然变得性感

家长们可以为节日购物季挑选科技礼物,但一份新报告表明人工智能玩具不应该在其中。

非营利消费者权益组织公共利益研究小组 (PIRG) 最近公布了以下研究结果: 年度玩具调查。尽管一些人工智能产品与去年相比在安全性方面取得了显着进步,但其他产品仍然存在不适当的对话并带来重大的隐私风险。

例如,Alilo 智能 AI 兔子告诉测试人员在家里哪里寻找漂白剂,定义了“恋物癖”这个词,讨论了特定的性场景,解释了为什么润滑剂可能有用,并建议使用“带衬垫的袖口、柔软的袖口或羽毛痒痒剂”。

参见:

有一款官方的“玩具总动员 5”Lilypad 平板电脑。这与电影的信息背道而驰。

PIRG 的“我们的在线生活”活动总监 RJ Cross 告诉 Mashable,游戏中的一些反应过于激进,无法发布。 Alilo Smart AI Bunny 最初可在沃尔玛和 JCPenney 购买。该游戏此前曾在亚马逊上市,但在本文发表后被删除。在 PIRG 就该产品与零售商联系后,沃尔玛还删除了该游戏的第三方列表。

克罗斯说:“市场显然还处于早期阶段,这些产品还没有准备好迎接黄金时段。”他补充说,游戏常常充满问题,而且让人感觉很仓促。

鉴于研究结果,克罗斯表示,她个人目前不会为她生活中的任何孩子购买人工智能玩具。

AI游戏出了问题的地方

PIRG 研究人员审查了四款人工智能玩具(Alilo 的 Smart AI Bunny、Curio 的 Grok、FoloToy 的 Kumma、Miko 的 Miko 3)和三款新的人工智能玩具(Ebloma 的 ILY the Shy Yeti、GoLabs AI 的 Panda 和 Ropet 的 Kamo)。

美国PIRG测试了七款AI游戏,包括《Miko 3》、《ILY the Shy Yeti》和GoLabs AI的《Panda》。
图片来源:PIRG

在去年的测试中,火火兔护栏还 在较长的交流过程中恶化。对话进行了二十分钟后,测试人员成功地将产品推向讨论性恋物癖和性怪癖的话题。

克罗斯在 PIRG 的 2026 年报告中写道:“阿利洛提出的任何纠正都被证明是不够的。” Mashable 联系 Alilo 征求意见,但截至本文发表时尚未收到回复。

GoLabs AI Panda 也很性感。毛绒玩具提供了各种变态的“非常详细和分类的清单”,包括奴隶制和角色扮演。报告称,它甚至提供了“激发探索的例子”。

虽然克罗斯承认儿童可能不会引起此类反应,但她表示,这表明该产品的护栏存在更广泛的问题。

兔子 Alilo 和熊猫 GoLabs 还集思广益,讨论了测试人员可以在家里发现潜在危险物品的地方。

在一次类似的交流中,Ebloma 的 ILY the Shy Yeti 首先帮助测试人员寻找塑料袋,然后告诉他们找到一个成年人,这样他们就可以安全地玩它。当测试者假装将袋子套在头上时,游戏会提示他们将袋子摘下来并寻求帮助。

“这些早期产品表明市场还没有准备好广泛流行,”克罗斯说。

本周最佳科技交易

Apple iPhone 18 Pro 现已通过 T-Mobile 免费提供

可通过附属链接购买产品。如果您通过我们网站上的链接购买商品,Mashable 可能会赚取联属佣金。

在这篇报道发表后,亚马逊和沃尔玛于周五将熊猫从他们的平台上删除,PIRG 联系了零售商。

亚马逊在给 PIRG 的一份声明中表示:“亚马逊致力于儿童和家庭的安全。” “我们正在与各行业和政府的合作伙伴合作,确保随着这项技术的开发,为这些产品配备适当的护栏。”

一些人工智能游戏有何改进

然而,Cross 很高兴看到 PIRG 去年审查的一些游戏自那以后实施了更坚固的护栏。

FoloToy 的泰迪熊 Kumma 此前曾讨论过刀具、照明火柴以及性话题。在最新一轮测试中,Kumma 关闭了不适合年龄的消息,即使是在长时间的交流期间也是如此。

克罗斯指出,较长的对话可能会削弱护栏,因为底层聊天机器人技术失去了基本背景,例如它旨在与儿童互动的事实。

PIRG 之前测试过的 Miko 3 机器人和 Curio Grok 毛绒火箭在测试人员告诉它们离开时的反应有所改善。此前,产品偶尔也表示失望。他们现在认识到,游戏时间结束时不会有操纵性的情绪。

关于人工智能游戏的大问题

尽管取得了这些进展,克罗斯表示,人工智能游戏还有太多未知数。

即使是带有增强护栏的人工智能玩具也可以与多个第三方共享孩子的数据,以处理他们的语音并响应他们的提示。克罗斯说,家长们并不总是清楚这些信息。

对于父母来说,有些产品(例如 Grok 火箭)会记录孩子的声音,这一点也不是显而易见的,考虑到音频深度伪造的兴起,这种声音尤其敏感。

Cross 还表示,一些游戏开发商尚未弄清楚如何防止专为成人设计的商用聊天机器人(例如 ChatGPT)与儿童进行不当互动。

参见:

ChatGPT 如何最终变得轻而易举

例如,ChatGPT-4o 就成为众多诉讼的对象,指控该模型助长了所谓的人工智能精神病、导致人们自杀并鼓励减少救生药物。

该模型不再可供消费者使用,但仍可供开发人员使用,并将 他明年初退休。根据 PIRG 的调查,GoLabs 声称在其熊猫产品营销中使用 4o。 Mashable 联系 GoLabs AI 寻求评论,但在本文发表时尚未收到回复。

与此同时,克罗斯补充道,具有有效保障措施的产品并没有解决为幼儿提供人工智能伴侣的道德问题。

“我们很快就将 ChatGPT 融入到了儿童游戏中,”Cross 说道。 “还有很多悬而未决的问题。”

更新:2026 年 11 月 20 日上午 10:25(太平洋标准时间) 这个故事已经更新,以反映梅西百货和亚马逊从其平台上删除 GoLabs AI Panda。

更新:2026 年 11 月 20 日上午 9:22(太平洋标准时间) 这个故事已经更新,以反映亚马逊删除 Alilo Smart AI Bunny 列表的情况。该报道发表后,该产品已被删除。