诉讼、抗议、丑闻层出不穷，人工智能行业面临巨大压力

投资者和行业专家长期以来都担心AI行业会 。在历史性的中期选举周期可能挑战大型科技公司的利益之后，人工智能行业正面临着来自各方的巨大压力。

英伟达前首席执行官黄仁勋是人工智能快速发展的领军人物，他卷入了涉及婚外情和中国间谍指控的肮脏丑闻。 SpaceXSI 所有者埃隆·马斯克 (Elon Musk) 在中期选举期间在共和党竞选活动中投资并损失了数百万美元，他和其他大型科技领导人希望这将为更大的人工智能基础设施打开闸门。除了国内心理健康危机之外，OpenAI 和 Anthropic 还卷入了多起网络安全丑闻。 Google、Meta 和 OpenAI 的 ChatGPT 处于儿童安全评估的中心，该评估可能永远改变教育和社交媒体。

该行业面临的最新挑战是安全和民间社会组织 Public Citizen、Irreplaceable Education Fund、Heat Initiative 和 The Alliance for Secure AI 今天（11 月 12 日）提起的诉讼。这些组织认为，人工智能开发者意识到人工智能对人类构成的“迫在眉睫的灾难性风险”，并敦促法院以公共安全的名义完全冻结该行业的发展。

Public Citizen 联席总裁罗伯特·韦斯曼 (Robert Weissman) 在一份新闻稿中写道：“尽管人们不断警告其产品对公共安全甚至文明本身构成严重风险，但人工智能公司高管仍在争先恐后地开发和部署日益先进的人工智能系统。” “我们人民绝不能简单地袖手旁观并容忍人工智能高管以牺牲公众利益为代价而不受限制地冒险。我们的诉讼要求法院适用现有法律，取缔人工智能公司鲁莽的做法，并冻结人工智能的进一步发展。”

该组织认为，这些公司开发和营销他们承认具有潜在危害的产品，从而将公共安全置于危险之中，并且根据加州的不公平竞争法，可以阻止进一步的开发。

Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 和 OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 此前一致认为，需要放慢高度先进人工智能系统的开发速度。在 9 月份的一篇文章中，阿莫代提出了一项“加速人工智能前沿发展”的三点计划，奥特曼后来表示支持。

儿童权益倡导组织 Heat Initiative 的首席执行官布鲁克·伊斯托克 (Brooke Istook) 表示：“孩子们已经为将利润置于安全之上的大型科技公司付出了代价。我们看到聊天机器人驱使孩子们自杀，人工智能工具将他们的普通照片变成人工智能生成的儿童性虐待材料。” “现在这些公司正在争先恐后地构建他们承认可能无法控制的人工智能系统。如果发生这种情况，我们多年来一直在努力争取的保护措施将不够。”

家长们聚集在一起抗议并要求采取行动

一些人认为，即将召开的民主党国会可能最终会让科技公司陷入困境。在提起诉讼的同时，数十名幸存的家长权益倡导者写信给加州总检察长罗布·邦达（Rob Bonda）和特拉华州总检察长凯西·詹宁斯（Kathy Jennings），敦促他们迫使 OpenAI 重组其公司结构和董事会成员，以更好地支持安全的人工智能发展。该组织认为，牵头对 OpenAI 最近的重组进行联合调查的两个州可能会 迫使AI公司采取更强的安全措施。

当行业争论适当的监管、法院审查法律体系对人工智能的权威时，学校正在成为他们自己的战场。

在此类第一起与教育相关的诉讼中，一个家庭声称，他们的青少年在学校 Chromebook 上使用人工智能对她的心理健康构成了生命威胁。

随后，11 月 11 日，学校和儿童安全组织联盟在全国范围内引发了抗议活动，抗议谷歌备受争议的新学校政策。在一周前的一份声明中，谷歌宣布其人工智能工具现在将成为默认工具，包括人工智能搜索。由于搜索的人工智能工具无法禁用，因此禁止人工智能的地区将被迫在允许搜索或违反人工智能指南之间做出选择。

支持者认为，谷歌的“最后通牒”提供了一个机会，迫使这家科技巨头放弃其一些长期人工智能目标。许多人敦促各地区取消与该公司的合同并寻找非人工智能替代品。