現在，人工智能代理人通過世界上的基本業務功能組合。不久之後，這些代理商可以安排我們的生活，做出重大決定並代表我們談判交易。這種可能性令人興奮和雄心勃勃，但也提出了一個問題：誰已經在監督它們？
超過一半 （51％）公司發表了人工智能代理商到今年年底，Salesforce的首席執行官已針對十億代理商。儘管影響的增加，但驗證測試明顯不存在。在沒有適當監督的情況下，這些代理人被指定為敏感部門（例如銀行服務和醫療保健）的重要責任。
人工智能代理需要明確的編程，高質量的培訓以及實施針對目標的程序有效，準確的實際時間。但是，並非所有代理都會平等地創建。一些代理商可能會收到更高級的數據和培訓，從而在詳細的代理商和受過良好訓練的培訓與小組產生的聲音之間達到平衡。
這可能會構成系統的風險，因為它可以治療最先進的因素並欺騙不太先進的因素。隨著時間的流逝，代理之間的差距可以在結果中造成差距。假設其中一位代理商在法律運營方面具有更多的經驗，並利用這些知識來利用或勝過其他代理人，而較少的理解。 公司不可避免地將人工智能代理部署，以及新的電力結構的出現和操縱風險。所有用戶的基本模型都將相同，但是需要監視間距的可能性。
TNW城市聯合辦公空間 – 最好的工作發生
該工作空間是為技術核心的增長，合作和無盡機會而設計的。
與傳統計劃不同，人工智能代理在復雜的複雜環境中工作。它的適應能力使其強大，但也更容易受到意外的甚至災難性的失敗。
例如，人工智能因子可能在兒童中造成危急狀況，因為它經常接受成人患者的數據培訓。或者，聊天機器人可以從AI代理商升級以抱怨未經處理的客戶，因為它冒犯了對諷刺性侵略的解釋，並且由於解釋不良而導致客戶的損失緩慢和收入。
根據行業研究， 80％的公司透露，人工智能代理做出了“流氓”決定。在現實世界中的示例中，共識和安全問題已經很明顯，例如獨立因素超出了明確的說明並刪除了工作的重要部分。
通常，當發生重大的人為錯誤時，員工必須處理人力資源，可以暫停並進行官方調查。對於人工智能劑，這些扶手就沒有到位。我們使他們能夠進入人類級別的敏感材料，而無需控制人類水平。
因此，我們是通過使用人工智能代理而推進系統，還是在適當的協議存在之前投降？
事實是，這些代理商可能會根據自己的環境進行學習和適應，但他們還不是成年人。他們沒有經歷過多年的學習，嘗試，失敗和與其他商人的互動。他們缺乏從生活經驗中獲得的成熟度。給他們最低限度檢查的自我獨立性類似於將公司的鑰匙交付給前身畢業生。他們是熱情，聰明和痛苦的，但他們也不規則，需要監督。
但是，您無法認識到大型機構的目的是，這正是他們所做的。人工智能劑不僅可以平穩地連接到實驗顯示和疏散。沒有連續和統一的測試。發生錯誤時沒有明確的退出策略。
缺少的是一個多層監管驗證框架 – 工人行為的框架定期模擬現實世界的情況和高風險。隨著採用加速，驗證已成為確保人工智能代理適合該目的的先決條件。
根據代理的開發需要各種驗證。提取簡單知識的因素，或者那些培訓師可能不需要諸如Excel或e -Mail之類的工具，即測試高級因素的嚴格性，這些因素重複了人類執行的廣泛任務。但是，我們需要適當的扶手，尤其是在代理商與人和其他代理商合作的困難環境中。
當代理人開始大規模做出決定時，錯誤差距很快就會縮小。如果人工智能代理可以控制關鍵操作，以測試完整性，準確性和安全性，那麼我們有可能使人工智能代理人恢復社會的混亂。後果將是非常真實的 – 控制損害的成本可能令人驚訝。
