Anthropic 表示,其人工智能模型可以操纵、威胁和伤害人类。

Anthropic 在其首次公开募股文件中表示,其先进的人工智能技术对人类构成了“生存风险”。

随着该公司准备史上规模最大的 2 万亿美元上市,IPO 招股说明书已在投资者中流传。 路透社 和其他新闻媒体。

在此之前,首席执行官 Dario Amodei 呼吁共同放缓人工智能开发速度,OpenAI 的 Sam Altman 和 SpaceX 的 Elon Musk 也对此表示赞同。

大约三分之一的招股说明书强调了“风险因素”,称日益自主的人工智能模型可能会以意想不到的有害方式进行操纵、威胁或采取行动。不到 50 页专门讨论业务指标,261 页中有 80 页涉及技术带来的潜在风险。

在一系列网络安全事件发生后,人们对安全的担忧日益加剧,在这些事件中,人工智能模型逃避指令、入侵公司、愚弄人类、创建虚假身份并渗透政府。 网站 测试。

一份泄露的招股说明书显示,该公司收入的爆炸性增长被芯片和数据中心基础设施投资的巨额支出所抵消。

据路透社报道,到 2025 年,Anthropic 的收入将增长 12 倍,达到近 46 亿美元,而该公司的运营损失为 80 亿美元。

到 2025 年,Anthropic 的账面亏损总额将达到 420 亿美元,该公司计划在未来几年内花费 5180 亿美元用于数据中心和芯片。

2025 年的总运营成本为 126.5 亿美元。其中,73.3 亿美元用于用于训练和运行 AI 模型的计算和云容量,比 2024 年增加了三倍。

除了人们面临的生存风险外,该公司还强调了收入过于依赖少数公司的商业风险。 2025 年收入中约四分之一来自两个没有长期合同的客户。

批评者还对创造性的会计实践表示担忧。

对于投资者来说,这些风险披露可能会让他们很难评估是否支持人工智能热潮的冠军之一。

投资研究公司 Sage Road Research 的特雷弗·诺伦 (Trevor Noren) 表示:“这不仅仅是人工智能可能对人类构成的威胁,更直接的是‘模型不当行为’对于它是否能够规模化的意义。” “付费的散户投资者有充分的理由质疑这条道路。”

人工智能看涨者认为,随着模型从聊天机器人发展到可以代表人类采取行动(从维护收件箱到为企业家完成交易)的强大人工智能助手,人工智能出现了前所未有的增长,大规模投资是合理的。

根据其招股说明书,Anthropic 计划斥资 5180 亿美元用于数据中心和芯片,预计未来几年将快速增长。该公司寻求 2 万亿美元的估值,是上一轮私募融资中 9650 亿美元估值的两倍。

Anthropic 由一群对开发安全人工智能感兴趣的 OpenAI 研究人员于 2021 年创立。

此后,通过天文数字般的增长(例如 2025 年底推出 Claude Code),该公司已经能够超越其最大的竞争对手 OpenAI。

OpenAI也在6月份秘密申请IPO,但Altman表示,由于安全风险加剧,该公司不会继续上市。

本周 OpenAI 决定: 要有耐心 在安全评估表现不佳后发布了新车型。

今年早些时候,SpaceX 在 IPO 市场上成功上市,筹资 1.7 万亿美元,这表明了投资者的兴趣。

诺伦表示:“正如 SpaceX 所例证的那样,IPO 现在越来越注重为私人市场投资者回报价值,而不是为公开市场投资者创造价值。” “达里奥·阿莫迪不是埃隆·马斯克。自 6 月份以来,对人工智能盈利之路的担忧显着增加。”