不規則籌集了8000萬美元以確保邊境人工智能模型

週三，Inrgular Security Company宣布了由紅杉資本和Redpoint Ventures領導的巡迴演出的8000萬美元的新融資，Wizaf Rappaport首席執行官的參與。接近交易的消息人士說，不規則的旅行量為4.5億美元。

聯合創始人丹·拉哈夫（Dan Lahaf）告訴TechCrunch：“我們的觀點是，很快，人類與AI和AI-AI互動的互動將很快。”

它以前稱為實驗室模式實驗室，它已經是人工智能評估的重要參與者。該公司的工作是在安全評估中引用的 克勞德3.7奏鳴曲 除了 Openai的O3和O4-Mini型號。通常，公司的框架註冊了檢測模型弱點的能力（解決方案解決方案它被廣泛用於行業。

儘管不規則在當前模型的風險中做得很好，但該公司以對更雄心勃勃的事情收集捐款：在出現在曠野之前，發現風險和新興行為。該公司建立了詳細的模擬環境系統，可以在發布之前對模型進行激烈的測試。

“當我們接管前鋒和後衛的角色時，我們有一個複雜的網絡模擬，” CO -Founder的Amer Nevo說。 “因此，當新模型出現時，我們可以看到防禦措施的位置以及它不做的地方。”

安全已成為人工智能行業的密集重點，因為邊境模型帶來了更多風險的潛在風險。考慮到公司的潛在間諜，Openai在今年夏天採取了內部安全措施。

同時，人工智能模型在尋找軟件弱點方面越來越巧妙 – 對攻擊者和防守者都有嚴重影響的力量。

對於不規則的創始人而言，這是大語模型越來越多的能力引起的許多安全性頭痛中的第一個。

拉哈夫說：“如果邊境實驗室的目標是創建更複雜且越來越能力的模型，那麼我們的目標是確保這些模型。” “但這是一個動人的目標，所以從本質上講，有很多事情，將來必須做更多的工作。”