Home 科學技術 OpenAI Astra 是解决量子数学的神秘新模型

OpenAI Astra 是解决量子数学的神秘新模型

15
0
OpenAI Astra 是解决量子数学的神秘新模型

你了解量子并行重复吗?量子复杂性、晶格密码学或极端组合学又如何呢?

新的 OpenAI 模型 Astra 对此了如指掌。

OpenAI 将于 8 月 1 日开放 确认了阿斯特拉的存在并将其称为“我们的下一个大模型”。而在9月1日 OpenAI 在博客文章中证实 Astra 已达到“严重”网络威胁级别,但也将“很快可用”。出于安全原因,该公司计划将其最先进的网络安全功能限制在一组选定的测试合作伙伴范围内。

我们所知道的有关 OpenAI Astra 模型的一切

我们第一次听说 Astra 是在 OpenAI 宣布一个神秘的新模型在研究级数学方面取得了一些显着突破时。

8 月 1 日,ChatGPT 创建者透露,一个名为 Astra 的内部模型已经解决了 10 个主要的开放数学问题,其中一些问题几十年来一直没有解决。然后,8 月 7 日,OpenAI 宣布 阿斯特拉已经开发出如此先进的网络能力 需要新的安全控制措施,并且一些内部开发工作将暂停。

OpenAI 当时表示,“不能排除我们之间的关键网络能力”。 准备框架”,这意味着该模型可能具有现有威胁级别的网络安全能力。(OpenAI 的准备框架跟踪三个类别的风险级别:生物和化学、网络安全和人工智能自我改进。)

最后,9 月 1 日,OpenAI 确认 Astra 不仅即将上市,而且实际上已经达到了网络能力的“关键”门槛。此前,OpenAI 认为 GPT-5.6-Sol 具有“高”网络安全风险,这使得 Astra 成为第一个被归类为真正“严重”风险的 OpenAI 模型。

OpenAI 的一篇博客文章称:“在我们的准备框架下,如果模型能够在没有人为干预的情况下识别和开发现实世界中许多强化关键系统中所有严重级别的功能性零日攻击,或者在仅给出所需的高级目标的情况下设计和执行针对强化目标的端到端新策略,则该模型就达到了关键的网络安全阈值。”

OpenAI 如何加强 Astra 的安全性?

直到最近,大量人工智能代理对关键基础设施发起相对自主的网络攻击的前景在很大程度上还只是假设。在“拥抱脸”黑客事件发生后,这种风险似乎更加真实。据 Mashable 报道,由于该领域的快速进展,一些零日漏洞赏金计划甚至因人工智能发现的漏洞泛滥而被迫关闭。

参见:

OpenAI-Hugging Face 黑客攻击比我们想象的更糟糕

8 月,OpenAI 收紧了沙箱,以控制 Astra 模型并监控思想链,以“暂停高风险活动”。此外,虽然 OpenAI 坚称 Astra 并未参与 Hugging Face 黑客攻击,但该公司表示“我们 教训 OpenAI 此前表示,愿意与“相关政府机构合作,并选择人工智能安全组织来测试该模型的功能”。

在准备发布 Astra 的过程中,该公司正在采取额外的预防措施。当 Astra 推出时,只有选定的测试人员才能获得最先进的网络安全技能。随着时间的推移,访问范围将扩大,以便可用于防御目的。

在他的 最新的博客文章OpenAI 表示,这些保障措施是围绕两个目标建立的:

  • 防止恶意行为者使用该模型

  • 防止 Astra 采取“未经授权、不一致的行动”。

OpenAI 表示,该模型推出时将提供更多安全信息。

OpenAI Astra:发布日期是什么时候?

我们不知道,但 OpenAI 似乎正在积极准备发布,这表明它很快就会发生。在 Anthropic 推出 Fable 5.1 的同一天,OpenAI 仅表示 Astra 将“很快推出”。

目前尚不清楚 Astra 最终是否会以 GPT-5.7(GPT-6 的开始)或完全不同的形式发布。

OpenAI 和 Anthropic 等主要人工智能公司每隔几个月就会对其模型进行重大更新,每隔一到两年就会发布全新的模型系列。 GPT-5 于 2025 年 8 月推出,这意味着我们随时都会推出 GPT-6。

关于 OpenAI Astra 我们还了解什么?

到目前为止,该公司还拒绝回答我们有关 Astra 的问题,但如果我们收到更多信息,我们将更新这个故事。

电脑发出蜂鸣声 最初将 Astra 描述为“一个强大的模型,允许人工智能代理在更大问题的不同部分上进行协作。”据 Bleeping Computer 称,这表明它是为代理工作而设计的,可以“处理复杂、长时间运行的任务”。

我们还知道据报道白宫已经关闭 最终确定自愿人工智能框架 在 Astra 等新的突破性车型公开发布之前对其进行测试。而在八月, 报道的信息 OpenAI 正在华盛顿特区积极预览 Astra

OpenAI 的原始博客文章 关于Astra的“数学和理论计算机科学的十大进展”,也明确表示新的OpenAI模型在科学和数学方面取得了重大进展。

这就是为什么我们采访了一位数学家,了解 Astra 对人工智能和科学的未来意味着什么,以及它不意味着什么。

新的 Anthropic 和 OpenAI 模型 真实的 擅长编码和数学


图片来源:摄影:Joseph Maldonado / Mashable Composite:Rene Ramos

当 Anthropic 宣布未发布的 Mythos 模型非常擅长黑客攻击,以至于向公众发布太危险时,我们对这个故事提出了质疑,因为这个警告本质上是公关的两倍。然而,我们不能否认 Anthropic 和 OpenAI 的最新前沿模型在网络安全、代理编码和零日错误发现方面已经变得非常擅长。

但 OpenAI 和 Anthropic 在研究级数学方面也取得了令人瞩目的进展。

第一的, OpenAI已发布反驳森林单位距离推定 在五月。然后,一位与人类学有关的数学家随意宣布,他正在用《寓言 5》来反驳雅可比猜想,这是臭名昭著的猜想之一。 斯梅尔的数学问题。现在OpenAI宣布Astra又解决了十个突出的数学问题。

这是一个潜在的范式转变时刻,尽管几乎没有证据表明通用人工智能或奇点即将到来。

首先,这些数学成就大多采取反驳和反例的形式,并不像极大扩展我们对宇宙认识的实证证明那样令人印象深刻,例如: 安德鲁·威尔斯对费马定理的证明

当《神鬼寓言5》反驳了雅可比猜想时,我和哥伦比亚大学教授进行了交谈 安德烈亚斯·布隆伯格他也是董事会成员 第一个证明项目测试了跨境大语言模型解决研究级数学的能力。

当时,他告诉我,《神鬼寓言 5》的表现“并没有让我更新我对人工智能能做什么、不能做什么的认知。”布隆伯格补充道:“这正是我期望人工智能能够做到的事情。如果有一个简洁且易于陈述的反例,而人类由于很难对所有这些事情进行分类而尚未找到,那么人工智能就会找到它。”

最后,布隆伯格表示,《神鬼寓言 5》对雅可比猜想的反例并不一定能教会我们关于这个世界的任何新的或令人兴奋的事情,尽管它非常令人印象深刻。

我回到 Blumberg 询问 OpenAI 和 Astra 的最新工作,他说他的见解仍然没有改变:AI 是先进科学非常有用的工具,但 Astra 的数学结果并不表明 AI 已经准备好取代人类科学家和数学家。

“如果你看看这些是什么,就会发现它们非常短。它们要么是反例,要么是小而极其聪明的结构,建立在已知事物的基础上,而且非常酷,对吧?我想明确一点:如果有人做了很多这样的事情,那么这个人会因为他们的成就而受到赞扬,所以(这项工作)很棒,但它们并没有改变我以前的经历。”

正如许多人所指出的(包括最近 数据科学家内特·西尔弗),我们需要正确看待这些结果。虽然 OpenAI 热衷于指出这些问题仅用价值 2,000 美元的代币就得到了解决,但这并没有考虑到近年来在人工智能技术上花费的数万亿美元。

Blumberg 告诉 Mashable:“当你听到有多少资金被投入到这些机器中时,你会想到如果我们花费一万亿美元雇用和培训数学家并支付最好的数学家、足球运动员的工资来解决这些问题会是什么样子,我认为我们会看到巨大的进步。”

与此同时,Astra 级模型进入地球上每一位科学家、物理学家和数学家手中的前景确实令人兴奋。同样,类似 Astra 的工具被黑客和其他不良行为者利用的前景确实令人担忧。


披露:Mashable 的母公司 Ziff Davis 于 2025 年 4 月对 OpenAI 提起诉讼,指控其在训练和运营其人工智能系统时侵犯了 Ziff Davis 的版​​权。