配備人工智能的警察隨身攝像頭經過訓練，可以檢測加拿大埃德蒙頓市“高風險”觀察名單上約 7,000 人的面孔，這是一項現場測試，旨在檢驗被認為過於侵入性的面部識別技術是否可以在北美警務中佔有一席之地。
但在執法記錄儀製造商 Axon Enterprise, Inc. 表示警方使用面部識別技術引發了嚴重的道德問題六年後，上周啟動的試點項目正在遠遠超出埃德蒙頓這個非洲大陸最北端、人口超過 100 萬的城市敲響警鐘。
Axon 人工智能道德委員會的一位前主席（該委員會導致該公司在 2019 年暫時放棄了面部識別）對美聯社表示，他擔心這家總部位於亞利桑那州的公司在沒有對社會風險和隱私影響進行足夠的公開辯論、測試和專家審查的情況下向前推進。
前董事會主席、現任紐約大學法學教授巴里·弗里德曼 (Barry Friedman) 表示：“至關重要的是，我們不使用這些技術，因為它們會帶來非常實際的成本和風險，除非有明確的好處。”
Axon 創始人兼首席執行官 Rick Smith 表示，埃德蒙頓試點不是產品發布，而是“早期現場研究”，將評估該技術的性能並揭示負責任地使用該技術所需的保障措施。
史密斯在博客文章中寫道：“通過在美國以外的現實條件下進行測試，我們可以收集獨立信息，加強監測框架，並將這些經驗教訓應用於未來的評估，包括在美國的評估。”
埃德蒙頓警察局代理警長庫爾特·馬丁（Kurt Martin）表示，該試點項目旨在讓埃德蒙頓巡邏人員更安全，讓他們的隨身攝像頭能夠檢測到任何被當局歸類為“暴力或攻擊性、武裝和危險、武器、逃跑風險和高風險罪犯”等“旗幟或警告”的人。馬丁在 12 月 2 日的新聞發布會上表示，到目前為止，該觀察名單上共有 6,341 人。他說，一份單獨的觀察名單增加了 724 名至少持有一份嚴重刑事逮捕令的人。
“我們確實希望確保它的目標是那些犯有嚴重罪行的人，”Axon 負責任的人工智能總監 Ann-Li Cooke 說。
如果試點項目擴大，可能會對世界各地的警務工作產生重大影響。 Axon 是一家以開發泰瑟槍而聞名的上市公司，是美國領先的隨身攝像機供應商，並越來越多地向加拿大和其他地方的警察部門提供此類攝像機。去年，Axon 擊敗了最接近的競爭對手、總部位於芝加哥的摩托羅拉解決方案，向加拿大皇家騎警出售隨身攝像機。
摩托羅拉在一份聲明中表示，它也有能力將面部識別技術集成到警察執法記錄儀中，但基於其道德原則，它“有意避免部署此功能進行主動識別”。這並不排除將來使用它。
艾伯塔省政府於 2023 年強制要求該省所有警察部門（包括首府埃德蒙頓）配備隨身攝像頭，並將其描述為一項透明度措施，旨在記錄與警察的互動、收集更好的證據並縮短解決調查和投訴的時間。
儘管美國的許多社區也歡迎隨身攝像頭作為問責工具，但在公共場所進行實時面部識別的前景在整個政治領域都不受歡迎。公民自由倡導者的強烈反對以及有關種族不公正的更廣泛討論導致 Axon 和 Big Tech 公司暫停向警方銷售面部識別軟件。
最令人擔憂的是研究表明該技術存在缺陷，顯示出因種族、性別和年齡而產生的偏見結果。它在實時視頻中的面部匹配也不像在身份證或警察照片中的面部匹配那樣準確。
儘管唐納德·特朗普總統的政府現在正試圖阻止或阻止各州監管人工智能，但美國的幾個州和數十個城市已試圖限制警察使用面部識別。
歐盟已禁止在歐盟所有 27 個國家使用實時面部檢測技術，除非用於綁架或恐怖主義等嚴重犯罪。
但在不再屬於歐盟的英國，當局十年前就開始在倫敦街頭測試這項技術，並在過去兩年中利用該技術逮捕了 1,300 人。政府計劃在全國范圍內擴大其使用範圍。
有關埃德蒙頓試點項目的許多細節尚未公開披露。 Axon 並未創建自己的人工智能模型來識別人臉，但拒絕透露其使用的是哪家第三方供應商。
埃德蒙頓警方表示，試點項目將持續到 12 月底，並且僅在白天進行。
“顯然這里天黑得很早，”馬丁說。 “照明條件、冬天的寒冷溫度，所有這些因素都將成為我們成功概念驗證的設想因素。”
馬丁表示，大約 50 名正在試用該技術的警官不會知道面部識別軟件是否匹配。稍後將在空間站對輸出進行分析。然而，馬丁說，在未來，它可以幫助警方檢測附近是否有潛在危險的人，以便他們可以尋求幫助。
只有當警察開始調查或響應電話時，而不是走進人群時，才會發生這種情況。馬丁說，接到電話的警官可以將攝像頭從被動記錄模式切換到具有更高分辨率圖像的主動記錄模式。
“我們確實希望尊重個人的權利及其隱私利益，”馬丁說。
艾伯塔省信息和隱私專員黛安·麥克勞德 (Diane McLeod) 辦公室表示，12 月 2 日，即 Axon 和警方官員宣布該計劃的同一天，它收到了埃德蒙頓警方的隱私影響評估。該辦公室週五表示，目前正在審查評估結果，這是對收集“高度敏感”個人數據的項目的要求。
阿爾伯塔大學犯罪學教授特米托普·奧里奧拉 (Temitope Oriola) 表示，考慮到該技術在機場安檢和其他環境中已經無處不在，該市嘗試實時面部識別技術並不令他感到驚訝。
“埃德蒙頓是這種工具的實驗室，”奧里奧拉說。 “這很可能被證明是一種改進，但我們不確定。”
奧里奧拉表示，警察部門有時與原住民和黑人居民的關係“冷淡”，特別是在去年南蘇丹社區一名成員被警察槍殺之後，面部識別技術是否能讓警務更安全或改善與公眾的互動還有待觀察。
Axon 過去在技術部署方面曾遭遇挫折，例如 2022 年，弗里德曼和 Axon 人工智能倫理委員會的其他七名成員辭職，以抗議對配備泰瑟槍的無人機的擔憂。
自從 Axon 選擇不識別人臉以來，首席執行官史密斯表示，該公司“繼續在受控實驗室研究”技術，該技術“變得更加精確”，現在已準備好在現實世界中進行測試。
但 Axon 在給美聯社的一份聲明中承認，所有面部識別系統都會受到“距離、光線和角度等因素的影響，這些因素可能會對膚色較深的人的準確性產生不成比例的影響。”
Axon 表示，每場比賽都需要人工審核，其測試的一部分還涉及“了解人工審核員需要進行哪些培訓和監督，以減輕已知風險。”
弗里德曼表示，Axon 應該披露這些估值。他希望看到更多證據表明面部識別技術已經得到改善，因為他的委員會認為面部識別技術不夠可靠，無法在道德上證明其在警察攝像頭中的使用是合理的。
弗里德曼表示，他還擔心警察機構未經當地立法者審議和嚴格的科學測試就批准使用該技術。
“這不僅僅是警察部門應該做出的決定，更不是賣家應該做出的決定，”他說。 “試點是一個好主意。但應該有透明度、問責制……這些都沒有。他們只是向前邁進。他們找到了一個願意向前邁進的機構，他們正在向前邁進。”
