“代理AI系統是武器。”
這是擬人化情報報告的第一行，該報告描述了濫用Claude的各種情況 – 以及許多其他受歡迎的AI代理商和聊天機器人。
首先：“氛圍。”。一個先進的網絡犯罪環，即擬人化的最近使用的clad代碼，已被破壞，以在一個月內從全球至少17個不同機構中利用數據。 huck派對包括衛生保健機構，緊急服務，宗教機構和政府機構。
Anthropic的威脅性情報團隊Jacob Clean說：“如果您是一名高級演員，可以在人工代理系統的幫助下處理一群高級演員。” 邊緣 在面試中。他說，在這種情況下，克勞德（Claude）“端到端運營行動”。
在擬人報告中，AI是技術顧問和活躍操作員，從更加困難和時間造成的攻擊開始。 “例如，克勞德（Claude）專門用於撰寫”以精神定位的剝削要求。 ”然後，網絡犯罪的數據製作了具有醫療保健數據，經濟信息，政府證書等的數據，以及在黑網和人類上，超過500,000 000。
克倫說：“這是我見過的代理商最先進的……用於網絡犯罪。”
在另一項案例研究中，Cloud幫助朝鮮IT工人在美國的財富500家公司獲得工作，以資助該國的武器計劃。通常，在這種情況下，朝鮮試圖影響那些上大學並具有經驗或具有英語溝通的人進行清潔的人，但是在這種情況下，朝鮮的人們會在大型科技公司接受技術採訪並保持工作。
在克勞德（Claude）的幫助下，乾淨說：“我們正在研究那些不知道如何編寫代碼，不知道如何進行專業交流，對英語或文化的了解很少的人，他們要求在克勞德（Claud）做所有事情……然後在下班後，他們實際上是在與克勞德（Claude）做很多工作。”
另一個案例研究有浪漫史上的騙局。有10,000多人的Telegram Bot Claude已被推廣為“高EQ模型”，以幫助創建精神智能的信息。它允許寫免費的信息，說服非本地的英語說話者使受害者對美國，日本和韓國的信任，並向他們索要錢。該報告的一個例子上傳了一個人打領帶的照片，並詢問如何祝賀他。
在報告中，該公司製定了複雜的安全和安全措施以防止濫用其AI，即使行動“通常是有效的”，不良行為者仍然能夠找到周圍的方式。 Antropic說，AI減少了AI的高級網絡犯罪障礙，並介紹了不良演員的受害者，自動化其方法，創建虛假識別，分析被盜數據，竊取信用卡信息等等。
報告中的每個案例研究，AI公司都會增加證據，表明與他們創造並進入世界的技術相關的社會風險通常無法維持。該報告指出：“儘管案例研究在下面提交，儘管克勞德是獨一無二的，但仍反映了所有邊界AI模型中穩定行為的模式。”
對於每個案例研究，它都禁止了會員帳戶，與適當的政府機構（例如情報機構或執法部門）創建了新的分類或其他身份措施以及共享信息，並得到了確認。他說，案例研究使他的團隊是AI事故發生廣泛變化的一部分。
“ AI系統不僅是聊天貓，因為他們現在可以採取多個動作，”他們將能夠如我們在這裡看到的那樣執行動作或活動。 ”
0 評論
