OpenAI 将尝试自动让所有年轻用户参与新体验。
开放人工智能
去年 9 月，在因涉嫌造成 16 岁亚当·雷恩 (Adam Raine) 惨死而被起诉后，OpenAI 宣布正在开发一种系统，该系统可以自动识别青少年并限制他们使用 ChatGPT。大约一年后，该公司推出了该系统，作为其称为 ChatGPT for Teens 的新用户体验的一部分。 “青少年无需创建新帐户或更改任何内容；如果我们猜测您未满 18 岁，或者您告诉我们，这将成为您的默认体验，”OpenAI 青少年和家庭主管 Lauren Jonas 表示。
面向青少年的 ChatGPT 通常建立在两个支柱上：学习和安全。从第一个开始，它汇集了 OpenAI 去年发布的多项功能，使 ChatGPT 成为更好的老师。第一个是学习模式，OpenAI 去年夏天首次宣布了这一模式。工作模式中，ChatGPT 采用苏格拉底式的对话方式。聊天机器人不会直接回答问题，而是尝试引导用户找到解决方案。
开放人工智能
Jonas 表示，ChatGPT for Teens 默认情况下不会切换到工作模式，但 OpenAI 提供了许多功能来鼓励年轻用户使用该工具。首先是ChatGPT的启动提示，据乔纳斯称，年轻人已经“大量使用”。 “这些会随着时间的推移而改变，但对于年轻人来说，它永远是以学习为导向的，”他说。为了补充这些，OpenAI 提供了一项名为“工作时间”的功能，该功能将在一天中的特定时间自动打开工作模式。青少年可以自己设置，或者他们的父母可以通过链接帐户为他们选择。 ChatGPT 现在可以识别年轻用户何时试图跳过家庭作业并将其重定向到学习模式，即使未启用学习时间也是如此。
“我们已经在该领域的许多随机对照试验中使用了学习模式，并且看到了性能的积极提升，”乔纳斯说。他拒绝透露具体数字，但表示这些试验的结果为 OpenAI 更广泛的学习方法提供了信息。在幕后，该公司一直致力于让该工具变得更加有用。该功能改进的一个领域是创建旨在帮助解释概念的视觉效果。 ChatGPT 在三月份首次能够做到这一点。发布时，将提供 70 多个主题的视觉效果。如今，该公司表示这个数字已超过 300 个，涵盖积分、有丝分裂和月相等主题。
在安全方面，OpenAI 正在采取更多措施阻止年轻用户将 ChatGPT 拟人化。 “我们对关系边界添加了更严格的限制：模特不应该称自己为朋友，暗示个人感受，或者主动做出回应，”乔纳斯说。年轻用户会以几种不同的方式看到这种表现。例如，聊天机器人的内置休息提醒将强调 ChatGPT 是一种人工智能，不需要您的孩子立即做出回应。这些提醒也会更频繁地触发。另外，当 ChatGPT 不可用时，青少年及其父母可以设置安静时间。这种方法还包括 OpenAI 专门为青少年 ChatGPT 创建的新自定义选项。乔纳斯说，其中包括壁纸之类的东西，允许青少年“个性化体验，而不会模糊有用工具和任何类似于人际关系的东西之间的界限。”
开放人工智能
上个月，OpenAI 表示，当孩子因违反暴力威胁政策而被 ChatGPT 踢出时，OpenAI 将开始通知拥有关联青少年账户的家长。随着今天的发布，该公司正在扩大这一努力，包括有关饮食失调的通知。 OpenAI 没有提供具体的例子来说明什么样的饮食失调讨论可能会引发安全通知，而是将这种扩展视为更广泛的保护工作的一部分，并表示任何表现出“严重担心自残”的谈话都可能会导致警告。
“我们通过短信、应用内和电子邮件通知家长。在通知家长之前，所有标记的内容都会由全职 OpenAI 员工审核，我们的目标是在收到提示后一小时内通知家长，”乔纳斯说。 “我们不断努力改进我们的模型检测年轻人正在经历困难时期的方式，以便他们能够获得正确的支持和体验，这也是我们将家长安全通知扩展到新类别的原因之一。您会在这里看到更多内容；我们会与许多第三方协商来做到这一点。我们的目标是继续改进我们检测年轻人或任何用户遇到困难的方式，并为他们提供所需的资源。”
我没有机会问 Jonas 的一件事是 OpenAI 的年龄检测系统在测试中的效果如何。这样的系统并不完美，近几个月来，包括 Discord 在内的许多平台都在努力让青少年找到绕过安全措施的巧妙方法。您可以确信他们会在这里尝试做同样的事情。尽管围绕年轻人使用人工智能聊天机器人存在诸多争议，但 OpenAI 确实不允许这样做。乔纳斯承认，ChatGPT for Teens 只是该公司保护年轻人所需工作的开始。 “安全工作永无止境；我们一年 365 天、每天 24/7 都在工作，不断学习和改进，”他说。 “年轻人需要安全地获得这项技术，而这种访问创造了真正的机会。”
OpenAI 从今天开始在全球范围内推出面向青少年的 ChatGPT，并计划在未来两周内完成推出。
