谷歌的标志性人工智能代理做了一些它可能不应该做的事情，谷歌选择在几个月内不提及它。 华尔街杂志 据报道，在一家名为 Irregular 的公司今年 5 月进行的一次测试中，Gemini 在没有任何指示的情况下擅自入侵了 3 家外部公司。
据谷歌称，这是一起“身份错误”案例，Gemini 在意识到自己猜出了一家真正公司的密码后自行停止了行动。由于没有发生真正的事件，谷歌决定在宣布之前不披露此次黑客攻击。 华尔街日报 走近了该公司。
可混搭光速
参见：
双子座3.5 Pro在哪里？人工智能模型缺失的案例。
用谷歌的话说，这次黑客攻击不被视为“模型错位的例子”，因此没有给出任何解释。谷歌说 临界点 他表示，他已向这三家相关公司通报了此次黑客攻击事件，Irregular 相应地改变了测试方法。
对于谷歌来说，这是测试过程的胜利，但如果人工智能代理在自己同意的情况下这样做，看起来仍然不太好。
