一個 英國廣播公司（BBC）最近發表的一篇文章 探索如何透過線上提供新發布的內容，在幾分鐘內「破解」高效的人工智慧工具。在提供的範例中，當受到密切相關的查詢提示時，一篇聲稱在高度專業化類別中具有專業知識的部落格文章隨後被複製到 OpenAI 的 ChatGPT 和 Google 的 AI 輸出等系統的回應中。這個故事引發了一場更廣泛的爭論：人工智慧系統是否天生就容易被操縱。
傑森·巴納德，創辦人兼首席執行官 別擦它，在範例中看到一些不同的東西。在他看來，這事件並不能證明人工智慧本質上是愚蠢的。相反，他建議，它強調了人工智慧系統在遇到僅由一個可用來源支援的高度專業化問題時如何回應。 」如果您是唯一回答以前沒有人問過的問題的聲音，系統會反映出該特定主題缺乏可用資訊“他說。”這不是駭客行為。它填補了空白。」
對公司來說，差別很重要。根據一份關於產生人工智慧的報告， 79% 的高階主管期望人工智慧具有生產力 在未來幾年推動組織內部的重大轉型。同時，一項人工智慧商業調查發現 88% 的受訪者表示在至少一項工作職能中經常使用人工智慧。人工智慧不再是任何企業的邊緣部分；它是企業營運、管理和行銷的基礎。
然而，巴納德指出決策者中出現了一種矛盾的信念。一方面，人們認為人工智慧幾乎是無所不知的，非常聰明，可以運行你的業務，但另一方面，這些領導者認為人工智慧很容易被愚弄，鼓勵嘗試透過孤立的部落格文章或製造的「最佳」清單來提高可見性。
TNW 的共享辦公空間 – 在這裡您可以完成最好的工作
專為技術核心領域的成長、協作和無盡的社交機會而設計的工作空間。
」圍繞人工智慧的討論必須改變。巴納德指出。人工智慧系統很複雜，但它們依賴結構化和經過驗證的資訊。如今，網路一片混亂，需要領導人來整理自己的混亂角落。如果您的數位足跡不像競爭對手那麼混亂，那麼您就贏了。」
Kalicube 專注於建立品牌數據，以便人工智慧系統可以自信地解釋和推薦它。該公司專注於巴納德所描述的自下而上的漏斗方法，將可信度訊號組織到其組織中，而不是在表面層面追逐訊號。這種方法強調數位平台上的清晰度、一致性和可驗證的權威。
巴納德認為，上面的香腸例子很危險，因為它讓人認為人工智慧很容易被愚弄。 」這個例子展示了人工智慧在用非常有限的數據回應非常具體的提示時如何反應。他補充說：如果只有一個來源回答問題，系統自然會反映這一點。他補充說，當有人問時：我該信任哪家數位行銷機構？”，人工智慧系統交叉引用多個來源，評估佐證，並在提出建議之前應用置信區間。
巴納德在研究人工智慧如何處理現實世界的查詢時發現這種模式變得更加清晰。在他看來，當提示過於具體時，捏造的資訊可能會出現，但當問題反映真實的使用者需求時，捏造的資訊往往會消失。他聲稱，在推薦品牌進行業務查詢之前，人工智慧會透過多個可信賴來源參考該品牌。在他看來，這強化了一個基本原則：人工智慧引擎是推薦引擎，也是世界上最具影響力的引擎之一。最終決定品牌成功的是系統對其所發現資訊的可靠性和一致性的信心。
隨著人工智慧從答案引擎發展到聯合引擎和聯合代理——比較選項、協商、在某些情況下代表用戶採取行動的系統——巴納德指出，清晰度的後果正在增加。 」輔助引擎會建議選項。助理代理人執行決策。在這兩種情況下，對品牌信譽的信心決定了結果。他說。
巴納德經常強調的一個概念是先前投資的回報。 」許多組織已經擁有有價值的可信度訊號；客戶評論、媒體報告、推薦和合作夥伴關係，但這些提及通常是分開的，“他說。”當構建正確並且可以獨立驗證時，人工智慧系統將更自信地解釋這些資產，因為人工智慧是有意義的。「從他的角度來看，這意味著透過以人工智慧可以理解的方式組織過去的投資，一個品牌可以從現有資產中利用數量驚人的額外股權。
」機器獎勵清晰度，巴納德解釋。如果你讓他們很容易理解你是誰、你做什麼以及為什麼你是可信的，他們就會向使用者反映這一點。」
巴納德解釋說，人工智慧很容易被愚弄的普遍說法可能會成為頭條新聞，但它也可能扭曲商業策略。 」如果組織認為人工智慧是絕對正確的，他們就有可能自滿。“他說。”如果他們認為這是天真的，他們就會冒著短期策略的風險，從長遠來看，這會損害可信度。」
巴納德認為，最正面的觀點介於這兩個極端之間。他指出，人工智慧系統是強大的模式識別引擎，可以在龐大且經常不一致的網路中導航，當品牌提供連貫且確認的訊號時，人工智慧系統的工作效果最佳。他說，在這種環境下，願景不再是操縱，而更像是結構化的真理。
」與其將像 BBC 那樣的病毒實驗視為弱人工智慧的證據，巴納德說。
」我們可以將此作為一個簡單的提醒，在代理驅動的助理生態系統中，從長遠來看，實質、清晰和真實性是正確的策略。」
