近185,000人 他們在民航事故中喪生 自從一個多世紀前動力飛行出現以來。然而，在過去五年中，美國航空公司 死亡風險幾乎為零。事實上，你贏得大多數彩票的機會比作為一名美國航空公司的乘客死去的機會要大得多。
飛行如何變得如此安全？我們能否將航空業來之不易的安全經驗應用到人工智能中？
當人類引入一種能夠改變範式的新技術，並且該技術在全球範圍內迅速採用時，未來的後果是未知的，恐懼往往是集體的。這 介紹動力飛行 1903 年萊特兄弟的設計也不例外。這項新技術遭到了許多反對，包括宗教和政治方面的反對。 慣用語 恐懼。
動力飛行引入後不久，發生了第一起飛機事故——我指的是不久前的同一天。有一天發生了這樣的事 萊特兄弟的第四次航行。第一個在飛機失事中喪生的人 五年後，即 1908 年，他被殺。自那時以來，全球已發生超過89,000起航空事故。
我是研究員 研究航空旅行安全我發現今天的人工智能行業與早期（當然也不太安全）的航空業非常相似。
從研究事故到預測事故
雖然是悲劇，但每一次事故和死亡都代表著反思和學習的時刻。事故調查人員試圖重現每起事故並確定事故前兆和根本原因。一旦調查人員確定了每起事故的原因，飛機製造商和運營商就會採取安全措施，以防止發生更多事故。
例如，如果早期航空時代的飛行員在著陸前忘記放下起落架，則很可能會發生著陸事故。因此，業界決定安裝警告系統，能夠提醒飛行員起落架的不安全狀況——這一教訓只有在事故發生後才能吸取。儘管這種互動過程是必要的，但學習如何提高安全性需要付出高昂的代價。
在二十世紀的過程中，航空世界不斷發展 組織和標準化其流程、程序和操作。 1938 年，富蘭克林·羅斯福總統簽署了《民用航空法》，… 民航局成立。美國聯邦航空局的前身包括航空安全委員會。
隨著時間的推移，完全被動的安全模型轉變為主動且最終的預測模型。 1997 年，一群工業界、勞工界和政府航空組織組成了一個名為 商業航空安全團隊。他們開始查看數據，試圖尋找趨勢並分析用戶報告，以便在風險和危險全面爆發之前識別出風險和危險。
該組織包括美國聯邦航空管理局（FAA）和美國宇航局（NASA），很早就決定，在安全方面，航空公司之間不會存在競爭。業界將公開共享安全數據。您最後一次看到航空公司廣告活動聲稱“我們的航空公司比他們的航空公司更安全”是什麼時候？
這是關於數據的
商業航空安全團隊通過採用系統的、數據驅動的方法來解決安全問題，幫助行業從被動轉向預測。該數據是根據人員報告和飛機數據生成的。
世界各地每天都會發生數百萬次航班，每次航班都會記錄數千個數據點。現在已被航空安全專業人士使用 飛行數據記錄儀 – 長期以來，它一直被用來在事故發生後進行調查 – 分析每次航班的數據。通過仔細檢查所有這些數據，安全分析師可以做到這一點 發現新興和顛覆性事件和趨勢。例如，通過分析數據，訓練有素的安全科學家可以在著陸事故發生之前檢測出某些接近跑道的飛機是否由於空速過大和對準不良等因素而變得更加危險。
YSSYguy/維基共享資源, CC BY-SA
為了進一步提高主動和預測能力，航空系統內的任何人都可以申請 安全報告是匿名且非懲罰性的。如果沒有匿名保證，人們可能不願意報告問題，航空業將錯過重要的安全相關信息。
所有這些數據 存儲、收集和分析它們 由安全科學家負責，他們會研究整個系統，並試圖在事故發生之前找到事故的先兆。美國航空公司乘客的死亡風險現已結束 不到 9800 萬分之一。你更有可能死去 開車去機場時 比飛機失事還多。現在，動力飛行出現 100 多年後，航空業在吸取了慘痛的教訓後，變得非常安全。
人工智能模型
人工智能正在迅速滲透到生活的許多方面，從自動駕駛汽車到刑事司法程序，再到就業和貸款決策。然而，這項技術絕不是萬無一失的，人工智能所犯的錯誤已經改變了生活——在某些情況下甚至…… 生死 – 結果。
幾乎所有的人工智能公司都在嘗試實現其中的一些 安全措施。但他們似乎是單獨做出這些努力，就像航空業的早期參與者所做的那樣。這些努力在很大程度上是被動的，你等待人工智能犯錯誤然後採取行動。
如果有一個像商業航空安全團隊這樣的團體，所有人工智能公司、監管機構、學術界和其他相關方齊聚一堂，啟動主動和預測流程，以確保人工智能不會導致災難，結果會怎樣呢？
從報告的角度來看，想像一下，如果每個人工智能界面都有一個報告按鈕，用戶單擊該按鈕不僅可以向每個公司報告致幻和不安全的發現，還可以向類似於商業航空安全團隊的人工智能組織報告。此外，人工智能係統生成的數據（就像我們在航空中看到的那樣）也可以被收集、匯總和分析以發現安全威脅。
儘管這種方法可能不是防止人工智能危害的最終解決方案，但如果大型科技公司吸取其他公司的經驗教訓 高後果行業 就像航空業一樣，它可能會學習如何調節、控制，是的，讓人工智能更安全地供每個人使用。
