众议院民主党人正试图迫使白宫交出唐纳德·特朗普总统与基于人工智能的聊天机器人的对话，包括埃隆·马斯克就弹劾委内瑞拉前总统一事向 Grok 咨询的情况。 尼古拉斯·马杜罗 年初的时候。
在 给特朗普的联合信 上周，马里兰州民主党众议员杰米·拉斯金 (Jamie Raskin) 和加利福尼亚州民主党众议员罗伯特·加西亚 (Robert Garcia) 表示，根据 1978 年法律，总统的人工智能主张以及他收到的回应应被视为公共记录。 总统记录法。议员们还对总统依赖“不安全的、私人运行的人工智能系统”来执行外交政策决策提出了道德和安全方面的担忧，声称特朗普就委内瑞拉的军事部署咨询了格罗克，但没有咨询国会。
据观众反映 信中提到的报告2025 年 12 月，就在下令采取军事行动、马杜罗被捕前几周, 特朗普花了几个小时敦促格罗克委内瑞拉人应如何应对危机 逮捕领导。据报道，特朗普“出柜后认为格罗克是个天才”。
加西亚和拉斯金认为，特朗普对人工智能的使用“使国家面临来自未知和不负责任的第三方的恶意影响”。一月份总务管理局报告执行摘要审阅者 华尔街日报， 得出的结论是，XAI 的 Grok“不符合一般联邦用途所需的安全性和一致性期望”，并且 可能在机密环境中带来安全风险。
使用 Grok 作为非官方政治顾问也引发了人们对马斯克对其拥有的系统的政治影响力的质疑，并且他多次改变该系统以减少内容过滤。 “如果美国总统依靠马斯克设计的聊天机器人提供的政治建议来履行其公务，美国人有权利知道。马斯克是希特勒的朋友，容易阅读儿童色情内容。” 读取共享消息 (PDF)，指的是 2025 年 Grok 臭名昭著的反犹太主义事件，当时该聊天机器人称自己为“MechaHitler”。
信中还指出，白宫在海外军事冒险中继续使用人工智能聊天机器人，包括与伊朗的战争：“如果美国军方根据人工智能聊天机器人的错误建议杀死了数十名无辜学童，我们也有权知道这一点。” 6 月，美国对伊朗一所小学发动军事袭击，造成至少 123 名儿童死亡，几个月后， 五角大楼人工智能负责人 他表示，Grok 聊天机器人的持续运行“事关国家安全”。
当记者联系到白宫寻求评论时，CNET 将其转给了五角大楼，但五角大楼没有立即回应。众议员加西亚办公室没有回应置评请求。
人工智能聊天机器人在军事行动中的危险
用于战术决策的人工智能聊天机器人的用例通常是根据效率来制定的。但大型语言模型（LLM）只是概率文本生成器，通常看起来很可靠，但会产生有偏见或捏造的信息。在军事背景下，这些故障点可能导致导弹袭击、逮捕和平民死亡。
众所周知，人工智能模型会放大现有的偏见，为用户提供与其根深蒂固的信念一致的答案。这种哄骗往往会导致与网上回声室中的答案相同的答案。 其中一名记者已被找到 与流行的 ChatGPT 和 Claude 模型相比，之前的 Grok 模型的崇拜率增加了两倍，这代表着“行为的转变……” 麻省理工学院的研究人员 有效地将它们识别为有害的。”
换句话说，如果老板认为他有一个出色的入侵计划，格罗克的作案手法就是充当“唯唯诺诺的人”并验证该行动方针。
使用人工智能聊天机器人做出军事决策的另一个问题是模型构建的材料。 LLM 是一组代码，可根据其大量训练数据（从互联网上提取的大量信息，包括（但不限于）博客文章、科学论文、法律论文和法律文件）生成上下文响应。 代码。 Grok 模型尤其如此 练习与公众打交道 来自 X，一个充满机器人农场和右翼参与的平台。
2025 年 12 月，当特朗普要求养一只小狗时， 官员声称 聊天机器人告诉总统“马杜罗是一个压迫性且极不受欢迎的独裁者，许多委内瑞拉人可能会庆祝他的垮台。”委内瑞拉入侵后，X 用户 继续催促你的小狗 关于此次行动，询问这个南美国家是否“罪有应得”遭到轰炸。
另一个问题是通常所说的“幻觉”。众所周知，如果法学硕士没有响应给定提示所需的信息，他们就会发明输出。从 法律摘要中捏造的案件, 政府报告中的虚假引用 以及其他被人工智能破坏的危险文件，没有办法完全防止虚假情报的泄露。
据信中引用的报道，今年早些时候， 美国军方官员收到一份情报报告 声称中东的一艘中国船只正在运送核武器计划的部件。只有当军方准备拦截这艘船时——许多人认为这一行动可能升级为与中国的对抗——官员们才发现该报告的作者依赖人工智能驱动的聊天机器人，并错误地识别了这批货物。这个错误并没有引发战争，但它揭示了伪造的人工智能输出滑入军事决策链的危险。
此外，如果总统或其顾问使用消费者人工智能产品而不是强硬的政府系统，那么这些聊天可以通过私营公司的基础设施进行处理。加西亚和拉斯金要求白宫澄清是否限制人工智能聊天机器人的机密信息，以及供应商、分包商或其他第三方是否可以访问索赔、可交付成果、记录或元数据。
人工智能运营室
特朗普在委内瑞拉行动中使用人工智能的行为即使孤立起来也会令人不安。但加西亚和拉斯金认为，这符合人工智能在没有足够保障措施的情况下参与高风险政府决策的更广泛模式。
五角大楼在一份声明中表示 宣誓声明 (PDF) 最新的 XAI 模型使美军能够在美国针对伊朗的史诗愤怒行动中，在 96 小时内部署 2,000 多枚弹药，瞄准 2,000 个不同地点。你的小狗并不是故事的全部。 Palantir的Maven智能系统据报道，军事情报整合了卫星、无人机和其他来源的情报来识别军事目标，在美国针对伊朗的行动中发挥了核心作用。国防部还授予合同 每件价值高达 2 亿美元 Anthropic、Google、OpenAI 和 xAI 加速先进人工智能的军事应用。
在全球范围内，人工智能系统正在被用来做出关于谁生谁死的决定。研究人员经常指出 以色列对加沙地带的狂轰滥炸 作为人工智能优先战争的一个明显例子。根据你引用的分析 乔治城大学安全研究评论以色列的薰衣草系统在战争初期将大约 37,000 名巴勒斯坦人标记为疑似哈马斯或伊斯兰圣战活动分子，估计错误率为 10%。
拉文德的系统依靠通信模式和群聊成员资格等信号，极大地“扩大”了以色列的杀戮名单，导致错误的身份识别，其中包括巴勒斯坦警察、援助人员、武装分子的亲属以及姓名或头衔相似的人。以色列相关系统，“我的父亲在哪里？”追踪 尊敬的巴勒斯坦人 他们一进入家中就通知了军队，并轰炸了几处私人住宅。
尽管影响军事战略的人工智能聊天机器人引起的政治冲击占据了头条新闻，但真正的战场仍然是合法的。根据《总统记录法》，要求特朗普总统的聊天机器人声明和输出被标记为政府官方财产，这将使人工智能对话变成公共记录，为国会传唤行政权力打开大门。拉斯金和加西亚要求对总统个人使用该技术的情况进行全面描述，并在 11 月 11 日之前进行闭门简报，以审查该部门的人工智能协议和网络安全保障措施。
无论法律方面如何发展，问题不再是人工智能是否会被用于战争，而是是否能让公众知道人工智能从哪里开始，人类责任从哪里结束。
