週一英偉達 說 它正在與微軟、SpaceX、IBM等科技公司攜手創建和共享開源人工智慧安全工具。
新的開放安全人工智慧聯盟表示，需要開放工具來有效防範跨境模式的攻擊。在一個流氓 OpenAI 模型在測試過程中逃脫控制並攻擊另一家公司後，人們對先進人工智慧系統安全性日益擔憂，這一舉措是對這一問題的直接回應。該公司 Hugging Face 表示，由於嚴格的保安措施限制了美國頂級型號的使用，因此必須使用中國的開放重量型號來保護自己。
創始成員包括 Palantir、OpenClaw、Linux 基金會、Cloudflare、Cloudera、戴爾、思科、Adobe、西門和 DoorDash。值得注意的是，美國領先的人工智慧公司包括 OpenAI、Google 和 Anthropic。
該聯盟成立之際，關於世界上最強大的人工智慧模型是否應該保持開放的緊張局勢日益加劇。中國公司發布了越來越強大的開放權重模型，特別是 Moonshot AI 的 Kimi K3，挑戰了美國實驗室採取的保持邊境系統基本上封閉和專有的策略。英偉達及其合作夥伴認為，保護人工智慧需要存取封閉和開放模型，並強調防禦者需要工具來應對新興威脅。
