OpenAI 希望将 ChatGPT 转变为更多的教育工具，而不是针对未成年用户的情感支持系统。
公司 介绍 “ChatGPT for Teens”于周二推出，这是一套新的安全护栏和功能，旨在防止家长和老师多年来一直指出的滥用行为。据OpenAI称，所有年龄在13岁到17岁之间的用户都会自动开启年龄特定模式。该公司还将监控某些指标，例如一天中使用聊天机器人的时间，以自动标记试图躲避雷达的未成年用户。 （OpenAI 对 ChatGPT 的最低年龄限制是 13 岁，但该公司在执行这一限制方面遇到了困难。）
针对青少年的 ChatGPT 被宣传为未成年用户的健康中间立场：“青少年应该能够使用人工智能来学习、创造和探索，”OpenAI 在一篇博客文章中写道。 “但这种访问必须附带反映其发展阶段的保护措施，加强现实世界的关系，并随着时间的推移促进健康使用。”
特定年龄的模式包括一个新的“负责任的家庭作业提醒”，例如，它会自动检测年轻用户何时试图从 ChatGPT 获得有关学校作业的快速回复，并通过聊天机器人的学习模式功能帮助引导他们逐步解决问题。根据 OpenAI 的博客文章，它还旨在阻止与自残、饮食失调、性内容和其他“高风险领域”相关的敏感内容。
一个不太个性化（但仍可定制）的聊天机器人
至少根据投资数十亿美元建造人工智能的公司的说法，人工智能的一大前景是，它将很快让我们每个人都能全天候 (24/7) 联系私人助理、健康教练、老师，甚至朋友；全部合而为一。问题是事情常常变得非常个人化。
聊天机器人经过训练可以模仿人类语言并最大限度地提高用户参与度，而不是现实或个人福祉。许多人，包括青少年，因此开始相信这些自动系统实际上是有意识的存在，并与它们形成了情感甚至浪漫的联系。这有时会带来悲惨的后果。去年的 OpenAI 提起诉讼 十六岁亚当·雷恩 (Adam Raine) 的父母声称，ChatGPT 在他们儿子自杀的决定中发挥了作用。
Facebook 和 Instagram 背后的科技巨头 Meta 也处于不断升级的法律纠纷的中心：从周二开始，该公司将在法庭上为自己辩护，反对科罗拉多州、加利福尼亚州、新泽西州和肯塔基州总检察长提起的诉讼，指控其故意损害未成年用户的心理健康。各州正在寻求高达 2000 亿美元的赔偿。
OpenAI 表示，其新的针对青少年的 ChatGPT 模式将降低未成年用户与聊天机器人形成情感联系的可能性，这在过去曾让该公司陷入困境。根据新的博客文章，ChatGPT 更新了其模型属性，以防止它使用“浪漫语言”或暗示它是一个情感、有意识的实体。
OpenAI 试图实现的平衡行为的一部分是让 ChatGPT 对于未成年用户来说更安全，但又不会过于僵化或无聊，以至于您放弃聊天机器人而选择其他工具。为此，OpenAI 表示仍将允许一些简单的自定义选项，例如强调颜色和音频变化。 [to] 帮助让体验变得个性化，同时又不会模糊有用工具和人际关系之间的界限。”
