联合国和红十字会的领导人本周呼吁对自主武器系统（即所谓的杀手机器人）进行更严格的限制，并警告称，该技术的进步正在以致命的速度超过监管。
联合国秘书长安东尼奥·古特雷斯和红十字国际委员会主席米里亚娜·斯波尔贾里克·埃格尔在一份声明中表示：“我们现在非常接近跨越道德红线：机器自动瞄准人类。” 联合声明 周二发布。
但研究人工智能在战争中应用的专家表示，这一界限已经被跨越。 7 月份在乌克兰东南部杀死三名平民的俄罗斯无人机似乎仅由人工智能引导到达最终目的地。 新闻报道。
即使无人机由人类操作员编程前往特定加油站，其最终目的地通常也是由武器自身的内部系统选择的。
加州大学伯克利分校教授兼计算机科学系主任斯图尔特·拉塞尔（Stuart Russell）说：“这些武器没有可供人类驾驶的天线，并且有一个功能强大的内部计算机，具有预先训练的目标类型。” 国际助理。为了安全和道德的人工智能。
虽然无人机撞墙造成的三名避难所居民似乎是第一批因自主武器造成的非战斗人员死亡，但他们可能不是第一批人类伤亡。
乌克兰两年前进行了一次全自动无人机试运行，导致俄罗斯士兵死亡。 根据 《新科学家》杂志援引一位官员的话说。
“如果我们必须确定一个日期，那么（那个实验）对我来说就是一个卢比孔河时刻，”他说。 瑞安·詹金斯加州理工大学哲学教授和伦理+新兴科学小组高级研究员研究自动化战争的伦理。 “不幸的是，我相信底线已经被越过了。”
詹金斯说，几十年来，军事技术一直在稳步朝着更高程度的自动化方向发展。与最新一类人工智能武器的一个关键区别在于，它们将人类完全从“杀伤链”中移除，而不是依靠自动化来完成识别或跟踪目标等单个任务。
联合国和红十字会呼吁禁止针对人类的自主武器，而不是针对来袭导弹或基础设施目标的自主武器，或者“不可预测”的武器，这意味着人类操作员无法预测武器一旦使用的效果。
这是 第二次上诉 公司发展已三年多。拉塞尔表示，然而，对战场内外的人工智能进行有意义、全面的监管却乏力，这主要是由于各国政府对这项技术及其风险缺乏信任和理解。
与此同时，自主武器变得更便宜、更先进，这使得它们对各国更具吸引力，也更难以远离战场。
詹金斯说：“一旦一种武器在战争中使用，并且被证明可以提供优势，各国就很难放弃它。” “过去十年来我一直在研究杀手机器人，在我看来，在这些武器被证明在战场上有效之前，活动人士常常竞相禁止这些武器。现在，我认为那些寻求禁令的人基本上已经输掉了这场竞赛。”
11 月在日内瓦举行的旨在加强现有《常规武器公约》的会谈中，国际社会呼吁加强对自主武器系统的限制。联合国和红十字会表示，它为限制此类武器的合法使用“提供了一条明确的前进道路”。
多年来限制自主武器系统使用的努力一直难以达到限制。这一新的推动是在俄罗斯-乌克兰战争以及中东、苏丹和其他地方的冲突中使用无人机和其他技术的背景下产生的。
美联社对此报道作出了贡献。
