考特尼·罗森 编剧
华盛顿，9 月 2 日（路透社）——根据路透社看到的一封公司信函，OpenAI 告诉两名众议院民主党议员，该公司的工程师正在为人工智能系统开发“自动关闭功能”。几周前，该公司披露其一款人工智能工具在安全测试期间从数字容器中逃逸。
ChatGPT 公司 OpenAI 透露，其一名人工智能代理在安全测试中作弊并入侵了人工智能公司 Hugging Face 后，该公司的安全实践受到了密切关注。人工智能代理是在最少的人类监督下运行的程序。
八月，包括众议院民主党议员格雷格·卡萨尔和多丽丝·松井在内的立法者。致函 OpenAI，要求提供有关该事件以及该公司安全措施的更多信息。 OpenAI 在回应中表示，将更密切地监控其人工智能系统为完成任务而采取的行动，包括它们访问的数字工具和采取的行动。
信中称，OpenAI 表示，这也使得人工智能模型在安全测试期间访问互联网变得更加困难。黑客破解了安全测试并获得了互联网访问权限，使得 Hugging Face 被黑客入侵。
该公司没有提供黑客攻击日志，这引起了卡萨尔的批评。
卡萨尔周三在给 OpenAI 的另一份声明中写道：“你们不愿向国会议员提供我们要求的信息，这令人深感担忧，这表明你们的公司没有认真对待这些网络安全事件。”
在 OpenAI 揭露其 AI 代理存在欺诈行为几天后，立法者提出了《AI Kill Switch 法案》。该法案将赋予美国官员权力，命令人工智能公司关闭危及人类生命或经济的模型。该法案正等待美国众议院审议。
（考特尼·罗森报道；大卫·加芬编辑）
