向任何人詢問他們對AI的最嚴重恐懼，您會發現一些重複的事情 – 例如，對AI工具和集體破壞以及AI設計的自動戰爭武器失去了批判性思想。大多數人有一個共同點：失去人類控制。
許多人工智能專業人員擔心許多AI專業人員會擺脫我們的抓地力嗎？埃隆·馬斯克·格羅克（Elon Musk Grok）。
Grok旨在與流行的AI系統競爭，例如Anthropic和Openai的Chatgpt。從頭開始，其銷售位置是鬆散的gardrails。 Xai，Musk的AI初創公司，在2023年11月推出Groke時，廣告 說 它“回答被許多其他AI系統拒絕的被拒絕的香料”和“將會有一個叛逆的系列，因此，如果您討厭幽默，請不要使用它！”
一年半的快速前進，AI的最前沿更加危險，多家公司增加了其係統開發化學和生物武器的風險。發生這種情況時，雜貨商的“叛逆系列”所花了很多次。當它的“辛辣”答案大有幫助時，Slapdash Solutions不接受可以維持巨大威脅的專家。
參議員伊麗莎白·沃倫（Elizabeth Warren）（D-MA）週三致信美國國防部長皮特·赫斯特（Pete Hegset），並解釋了她對國防部決定向XAI授予2億美元合同以應對複雜國家安全挑戰的擔憂。即使交易也開業了，去了人類和Google，但對與沃倫的Xai的交易有特別的擔憂，她在她看到的信中寫道 邊緣 – “馬斯克及其公司可能會從領導政府能力部門的領導時獲得的國防部數據，而他獲得的信息可能會從無與倫比的訪問中受益，”“ XAI的使用以及對精緻政府數據的使用權”以及提供雜貨商“錯誤的產品和虛假信息”。
它是。沃倫 這些報告被引用 XAI在特朗普政府的比賽結束之前沒有被視為此類協議。
今年夏天流行了，今年夏天流行了。該公司沒有立即回應該評論的請求。
“補丁工作”的安全政策
到目前為止，雜貨商的力量的高度是在X中向消費者問題發布答案。但是，即使在相對有限的能力下，它也會增加爭議，通常通過補丁工作調整和補丁工作解決方案解決。在2月。 5月，南非的“白屠殺”一直流行。 7月，它習慣於發現馬斯克對以色列和巴勒斯坦，移民和墮胎等熱門話題的看法。最受歡迎的是，上個月它是一種反情緒的彎曲者 – 散佈關於猶太人的刻板印象，稱讚阿道夫·希特勒（Adolf Hitler），並向他自己“ Mechitler”（Mechitler）。
該公司回應說，該公司正在解決此問題，並且已經發生了，因為它過於符合消費者的提示。請，對操縱非常感興趣。 “但是這一事件發生在麝香幾週後 表示失望 那個雜貨商“被傳統媒體偽裝”，問 X用戶 格羅克建議“在政治上有缺陷，但實際上事實是“提供雜貨商培訓的事實”，而新的系統促使格羅赫說明“從媒體中收集的主觀觀點是從媒體上偏見的”。失敗後，調整了提示，以重新規範雜貨商邊緣的積極認可。
對雜貨商的groks的步行方法是該領域的專業人員的關注點，即使是故意設計的，也很難將AI系統陷入有害行為，從一開始就專注於某些安全性。如果您不這樣做……所有的賭注將被關閉。
卡內基·梅隆大學（University of Carnegie Mellon）的研究員愛麗絲·基恩（Alice Kian Zhang）說，XAI採取的拼湊而成的政策很難“合理化”。 Kian Zhang特別不清楚，因為當前的政策對人或公司的商業模式不利。
她說：“在危害已經碰巧解決問題之後，這是非常困難的 – 最好乾擾初始階段。” “網上有很多壞事，所以我認為當您製作一個可以觸摸互聯網所有角落的工具時，這是不可避免的。”
XAI尚未發布任何類型的安全報告或系統卡 – 通常描述其最新模型Groke 4的安全功能，道德問題或疑慮以及其他含義。儘管此類報告是自願的，但在AI行業中通常是最小的，尤其是在發布可識別的，可識別的，複雜的模型中。
本·卡明（Ben Cumming）在生活學院未來（FLI）的未來，以降低AI的風險。 ”
7月中旬釋放Grok 4後兩週，XAI員工發布了 在x 他在XAI僱用了我們的AI安全團隊！我們需要緊急強大的工程師/研究人員才能在邊境AI開發週期的各個階段工作。 “回應評論“ XAI使安全”？員工 回答 該公司正在“努力”。
“有了希特勒的問題，如果可能發生，可能還有很多其他事情發生。” “您發生的一切都無法調整到系統提示中。研究人員的觀點（即）您需要總結一個級別而不是一個特定的例子……傷害了我對同一補丁工作的傷害。”
大規模殺傷性武器
Grok的方法更危險地解決了當今領導AI公司的一些最大問題。
最近，他們認為OpenA和Anthropic都達到了高風險水平，以幫助創建生物學或化學武器，稱他們已經實施了額外的安全性。五月份的人類，並於六月開放 書面 它的模型能力可能是“濫用，以幫助最熟練的演員構成生物學威脅或創造生物-bioepp”。馬斯克聲稱現在是“世界智能AI”，邏輯上代表XAI的論點也必須考慮類似的風險。但是該公司並不建議擁有這樣的框架，讓它激活它。
AI現在是該研究所的首席AI科學家，他專注於AI安全和自動武器系統的評估，他說，對於大規模的國家威脅，AI公司的化學，生物學，放射學和核安全程序並不是所有的偽造，他們不會構成大型威脅。但是它們可以幫助減少某些損失。另一方面，XAI甚至可能沒有嘗試：它不公開接受此類防禦。
該公司可能永遠不會以這種方式工作。 Grok的寬鬆的園藝可以在X的某些地方進行良好的作用，但是最傑出的AI公司的收入來自公司和政府產品。 。
特朗普的政府在最近的AI行動計劃中，似乎並不是一個侵略性的問題，它與馬斯克政治的“覺醒”最合適，並在Macahits事件發生後獲得了最新的DOD交易。但是，也有一些部門促進AI的描述和能力出席，提到這些功能的問題可能會導致在有保護，國家安全和生命危險的其他應用程序中引起高締合問題。
然而，目前，在雜貨，生物學和化學武器方面，這甚至不是引起焦慮的大原因 邊緣 說話。他們非常關心廣泛的監視 – 這是一個繼續關注安全的問題，但對於雜貨商的政策來說，這是非常危險的。
ISTAR-情報，監視，目標獲取和監視活動 – 目前對於保護CBRN更為重要，因為它已經在發生。它有能力與雜貨商一起培訓公共X帖子。
克拉夫說：“格羅赫的具體風險是什麼，可能不是其他提供商？對我來說，這是最大的提供者之一。”
特朗普政府政府機構，包括移民和海關執法，可以使用X中的數據進行情報分析。卡明說：“不僅是恐怖分子建造生物浪費或失去對超級情報系統的控制 – 所有這些AI公司都被公開承認為身體威脅。” “這是為了利用和濫用這些大規模監視和人們的監督系統（AS），然後傳感並折磨不受歡迎。”
缺乏雜貨店和缺乏誠信不僅保持集體監視，而且還評估和分析了有關預期的方式和未經處理的方式，以不斷監測少數群體或弱勢群體。儘管他曾經對先進的AI表示擔憂，但馬斯克Xai的重點更多地致力於擊敗Openi和其他對手，而不是確保Musk Xai可以控制自己的系統並清楚地表明自己的系統。
卡明說：“安全不只是重新思考。” “不幸的是，這種躁狂的市場競爭並不能在確保人們安全並確保人們時產生最佳的激勵措施。因此，我們需要像其他行業一樣的安全標準。”
在Groch 4的生活方式發布中，馬斯克說，他“擔心AI迅速受過教育並最終“不好或好”的智慧。我認為這很好，很好。 “
0 評論
