微软首席执行官：自愿的人工智能安全承诺还不够

杂货店的乳制品过道似乎不太可能是开始谈论人工智能安全的地方。但微软总裁布拉德·史密斯表示，它为如何监管技术提供了有用的比较。

接受英国广播公司采访 大老板专访 播客 10 月 11 日，史密斯呼吁制定全球人工智能安全规则，认为牛奶等日常产品面临着日益强大的人工智能系统的更大保护。

“目前，你的洗衣机需要遵守比人工智能更多的安全规则。你在杂货店看到的每个牛奶盒都需要遵守安全规则和检查，”史密斯说。

拟议的保护措施不仅仅是要求公司承诺其技术是安全的。史密斯希望法律要求公司在流氓人工智能代理破坏其系统时报告安全事件并通知受害者。他还呼吁制定规则，确定独立评估者何时应在新技术发布前对其进行审查，以及可能暂停或减慢人工智能系统速度的“紧急刹车”。

“我们知道如何对其他产品做到这一点，”史密斯说。 “我们需要发展这些知识并思考如何将其应用到人工智能中。”

史密斯的言论引起共鸣 比尔·盖茨的最新警告。唐纳德·特朗普总统支持该行业的自我监管，推动加强人工智能保护。在 9 月份的白宫会议上，主要人工智能公司同意自愿安全标准，包括与独立审计师合作评估其系统是否按预期运行。

史密斯对这项协议表示欢迎，并表示微软很高兴签署该协议。但他认为，自愿承诺已经不够了。 “这是一个很好的步骤，一个必要的步骤……但我认为这还不够，”他告诉英国广播公司。

他说，问题在于负责任的公司遵守自愿规则。那些不太负责任的人可能不会这样做。

谁来制定规则？

Mashable 在报道人工智能领导者呼吁加强安全标准时也提出了这个问题。正如丽贝卡·鲁伊斯 (Rebecca Ruiz) 9 月报道的那样，专家警告说，企业可以支持保障措施，同时努力保持对这些措施运作方式的控制。

人道技术中心政策与研究高级主管皮特·弗隆 (Pete Furlong) 告诉 Mashable，公司在透明度方面的努力必须超出他们自己设定的预期。

“制定透明度条款不能完全由这些公司掌控，”他说。

史密斯表示，英国可以凭借其技术专长来领导全球规则的制定。 人工智能安全研究所。通过自愿协议，该研究所已经可以在部署之前访问大型人工智能模型，从而能够评估其能力和风险。

史密斯表示，下一步是强制执行安全义务，包括要求公司在出现问题时告诉人们。

“你需要担心的是那些不那么负责任的公司，”他说。

想要了解更多有关充分利用您的技术的信息吗？订阅 Mashable 的热门新闻和优惠时事通讯 今天。