国王查理三世周四敦促 OpenAI、Anthropic、Google DeepMind 和 Nvidia 的高级领导人确保人工智能处于控制之中并为人类和地球服务。
这次在苏格兰召开的会议旨在讨论人工智能如何造福社会，会议召开之际正值该技术的关键时刻，围绕快速进步是否会很快超越人类能力的争论不断。
根据开场白，金表示：“人工智能的发展——其实质和速度——既令人着迷，又令人深感担忧。”
他说，“这种技术落入坏人之手并以潜在灾难性的方式使用所带来的生存危险”应该得到紧急考虑。
“当然，我们需要足够的控制手段，以免为时已晚？”
金要求包括 Nvidia 首席执行官 Jensen Huang 和 Google DeepMind 主席 Demis Hassabis 在内的与会者考虑指导人工智能开发的“基本原则”。
ChatGPT 制造商 OpenAI 的首席财务官 Sarah Freer 以及英国人工智能部长 Kanishk Narayan 也出席了会议。根据白金汉宫的一份声明，预计一名民族志代表也将出席。
相关视频
这次会议召开之际，全球的注意力都集中在人工智能的可怕进步上，并警告称人工智能可能会失控，威胁人类。它在苏格兰艾尔郡的邓弗里斯宫举行，这里是国王慈善机构国王基金会的总部。
获取每日全国新闻
将每日加拿大新闻发送到您的收件箱，这样您就不会错过当天最好的故事。
在一位人类研究人员宣布辞职并对该技术的风险发出可怕警告后，引起了全世界的关注，人类首席执行官达里奥·阿莫迪 (Dario Amodi) 发表了一篇文章进行回应，暗示该行业可能需要放慢工作速度。
他的建议之一是让公司和国家针对这种经济衰退制定协调计划。
金没有具体点名任何国家或公司，他表示，他希望会议参与者考虑两个问题：如何“确定和安全”地利用人工智能的好处，以及如何“建立国际合作和共识”来做到这一点，不让任何国家掉队。他没有创建任何国家或公司。
查尔斯告诉科技高管，他们的工作“不仅仅是推进技术发展，而是确保技术始终坚定地为人类、社区和自然世界服务。”
OpenAI 在其关于令人担忧的人工智能行为的最新报告中报告了其模型的六起“意外或相关”行为案例，包括忽略常见约束、在不询问用户的情况下上传文件以及伪造数据。
虽然金是一位重要人物，他对社会问题的评论可能具有影响力，但当前人工智能安全辩论的大部分内容都集中在美国科技公司及其与中国竞争对手的竞争上，英国扮演的角色虽小但仍然很重要。
英国的人工智能安全研究所是政府研究机构，知名度很高，该国培养了许多人工智能研究人员，包括谷歌 DeepMind 主席德米斯·哈萨比斯 (Demis Hassabis) 和 Anthropic 的考克森 (Coxon)。
周二，一位英国高级官员表示，政府负有减轻人工智能带来的风险的“重要责任”。
“如果没有适当的铁路建设，我们的国家安全和社会显然将面临巨大风险，”事实上的副总理、第一秘书路易丝·海伊(Louise High)说。
© 2026 加拿大出版社
