亞馬遜向軍方出售公開監控辨識系統,遭到大量輿論抗議

透過亞馬遜的技術可以監控「團體照片、擁擠人群以及機場等公共場所中的所有面孔」。此消息一出,瞬間引發了一系列抗議活動,要求亞馬遜執行長貝佐斯停止向政府出售 Rekognition 。
評論
photo credit: Amazon
評論

本篇來自合作媒體 36 氪 ,INSIDE 授權轉載。

亞馬遜開始向軍方推銷起 AI 武器來了。據悉,亞馬遜正在為政府和員警部門推銷其一款名為 Amazon Rekognition 的產品,這款產品可以即時識別,跟蹤和分析人員,並在單幅圖像中識別多達 100 個人。它還可以快速掃描收集的資訊,與資料庫數千萬張面孔進行比對。

這意味著,透過亞馬遜的技術可以監控「團體照片、擁擠人群以及機場等公共場所中的所有面孔」。此消息一出,瞬間引發了一系列恐慌。美國公民自由聯盟(ACLU)組織了 30 多個民權組織聯合反對亞馬遜的此行為,並舉行一系列抗議活動,反對美國政府使用人臉識別技術,並要求亞馬遜執行長貝佐斯停止向政府出售 Rekognition 。

大部分民眾認為,透過 Rekognition ,政府現在可以構建一個自動識別和跟蹤任何人的系統。如果員警配備的隨身攝像頭配備了人臉識別裝置,那麼原本用於執法透明和問責制的裝置將轉變為針對公眾的監視器。

亞馬遜Rekognition的精準人臉識別
亞馬遜 Rekognition 的精準人臉識別

「風口浪尖」的亞馬遜

此舉一出,亞馬遜內部及其用戶議論紛紛。

在亞馬遜內部,許多員工加入民權團體,對其行為進行抗議,並認為這將對公民權利、特別是對移民和人民會產生獨特威脅。

6 月份,亞馬遜內部的 100 多名員工更是向執行長傑夫·貝佐斯(Jeff Bezos)遞交了一份公開信,要求公司停止向 ICE 和其他執法機構出售侵入性和違憲的 Rekognition 面部識別技術。

photo credit: Amazon
photo credit: Amazon

除了要求停止出售 Rekognition 之外,亞馬遜員工在信中還呼籲公司停止對資料分析公司 Palantir 提供支援。

Palantir 是 Peter Thiel 於 2003 年創立的大數據公司,為執法部門提供預測性警務工具,並透過亞馬遜網路服務公司與 ICE 簽訂了大量合同(Thiel 曾秘密資助了一起導致 Gizmodo 的前母公司 Gizker Media 破產的訴訟)。

但是,對此情況,亞馬遜並不買帳。面對「內外夾擊」般的抗議,亞馬遜並沒有像 Google 一般將項目推遲,而是選擇了「正面硬剛」。亞馬遜回應:不能因為技術可能會被濫用就限制其進步。並表示其將堅決的捍衛 Rekognition 。

在商言商,從商業角度來看,亞馬遜的行為沒有原則性的問題,但是,當人臉識別技術牽涉的「倫理」、「隱私安全」等敏感領域時,這就不像亞馬遜說的這樣簡單了。

人臉識別,想說愛你不容易

人臉識別技術已經投入市場中有相當長的時間了,可是從其表現來看,並沒有想像中優異。智慧相對論(AI xdlun)分析師柯鳴認為,人臉識別技術的發展,其依然存在著較多問題。

1.「冤枉了 98% 的好人」

人臉識別的準確率,遠沒有我們想像中的那麼高。在此前倫敦議會聽證會上,大都會警察局局長 Cressida Dick 透露出,本地警察局部署的人臉識別系統準確率僅為 2%。

去年 6 月的歐冠聯賽上,當南威爾士警方的人臉識別相機首次應用時,系統發出了 2470 次警報。也就是說,在這場球賽中每隔三秒就會提示嫌犯來了,系統的努力程度著實令人感動。

但是,在這兩千多次的預警中,只有 173 次是正確的判斷,AFR 的錯誤率高達 92%。英國警方給出的統計資料顯示,截止到今年 5 月份,南威爾士警方的 AFR 識別錯誤率平均為 91%。

歷史上最著名的人臉誤判案例可能是 1903 年在美國堪薩斯州發生的 William West-Will West 案件。當時一個名為威爾•韋斯特 (Will West) 的犯人正要被收押進萊文沃思 (Leavenworth) 監獄。監獄職員看他面熟,問他以前是否來過這裡,威爾說沒有。

接著職員調出了 William West 的照片給威爾看,威爾說:「這的確是我,可是你們是怎麼拿到這張照片的呢?以前我從未到這兒來過。」從此,從美國開始,各國監獄和司法系統開始用指紋進行罪犯身份登記和管理。

顯然,此類的烏龍事件讓人啼笑皆非的同時也不免有陣陣隱憂。如此「不靠譜」的人臉識別,真的能夠成為安防等領域的保護傘嗎?

2. 人臉識別,道阻且長

先不論人臉識別本身的正確率,其自身運作中也存在著一部分問題。

首先,人臉識別並不是精準資訊對比,而僅僅是相似度對比。因為人臉識別和算大技術不同,值的設定方法完全不同,評判的標準自然也不同,即使從識別實際效果看,其包括誤識率(FAR):將其他人誤作指定人員的概率;以及拒識率(FRR):將指定人員誤作其他人員的概率。這些結果都受到訓練和測試空間樣本的影響,難以做到完全精確。

其次,人臉圖片的採集如果不做活體監測,就易招致基於用戶照片的重放攻擊。活體檢測的話,對後臺的計算資源和網路的傳輸資源要求較高,所以在目前實際上線的人臉識別都是非常容易攻破的。

最後,人臉形態的易變形讓人臉識別更易出錯。人可以透過臉部的變化產生很多表情,而在不同觀察角度,人臉的視覺圖像也相差很大,另外,人臉識別還受光照條件 (例如白天和夜晚,室內和室外等)、人臉的很多遮蓋物 (例如口罩、墨鏡、頭髮、鬍鬚等)、年齡等多方面因素的影響。

隱私的無情洩露,你的臉還好嗎?

在大量的抗議面前,三大公司中微軟首先選擇了低頭。在關於人臉識別的潛在用途和濫用的一篇博客文章中,微軟總裁 Bradford L. Smith 將該技術與受到全面監管的藥品和汽車等產品進行了比較,並敦促美國國會展開研究並監督人臉識別技術的使用。

作為人臉識別軟體主要製造商之一,微軟表示它將採取措施降低這些系統產生偏差的可能性;制定新的公共原則來管理技術;並會更謹慎地出售其在該領域的軟體和專業知識。微軟指出,雖然技術行業需要對其產品負責,但是政府也要採取行動。

人臉識別是目前 AI 領域裡應用最廣泛的技術之一,但在推廣的過程中也引起了越來越多的爭議。今年 4 月,個人隱私保護組織向美國聯邦貿易委員會提起訴訟,稱 Facebook 在未獲得使用者適當許可的情況下開啟了新的人臉識別服務。

當前,大數據、雲計算和人工智慧等技術推動移動互聯網中新的應用場景層出不窮,但其背後的隱私和資料保護,已經成為網路平臺和移動終端迫在眉睫的要務。從整體移動終端市場來看,應用領域資料濫用的情況十分突出。協力廠商應用對於個人資訊過度收集、隱秘收集和誘騙收集的情況日漸增多。

使用者隱私資料安全挑戰加劇主要出於三方面原因:

第一,過於籠統的「使用者協定」販賣了使用者資訊,獲取和收集使用者個人資訊的授權,導致個人資訊使用的不規範甚至大量洩漏。

第二,使用者本身對保護個人資訊重視程度不足。出於方便的考慮,不少用戶在多處使用簡單重複的帳號和密碼,當一處資訊洩露便導致整體資訊暴露。

第三,法律層面的缺失。當資料如同能源一樣重要時,法律法規的滯後在一定程度上導致了資料安全和隱私保護的缺失。資料所有權、資料交易規則等基礎法律界定仍未明確。例如,個人資料原本屬於使用者本身,但使用者在網路平臺中所產生的資料,如交易資料和行為資料,在經過脫敏後其所有權和使用權歸屬用戶還是平臺,仍未有答案。

從目前來看,人臉識別的場景也主要分為兩種:一種是線上,如電腦透過你上傳的使用者圖像識別你的身份;另一個是線下,如系統透過你在街上被監視器拍到照片來識別你的身份。而當前的情況是,線上與線下的資料保護都做的遠遠不夠。所謂的用戶授權更多是形同虛設,誰真正擁有了我們的「臉」?臉部識別軟體的政府監管,將如何進行?人臉隱私保護這條路,似乎還需要堅強的走下去。


警戒升級,店面安全也升級!月租型 HomeSecurity AI 店家防護,小店業者無痛導入

監視器不稀奇,不過在盡量不外出的管制期,還要另外花錢購買監視器,對於備受衝擊的業者來說彷彿又多剝一層皮。幸好還有台灣大寬頻月租型「HomeSecurity AI 店家防護」,每月不用千元即可遠端守護店面安全。
評論
Photo Credit:iStock
評論

全國三級疫情警戒,市景進入半封城的模樣,人人自危。許多店家也只好選擇暫停營業,減少營運成本;尤其雙北限制餐廳內用後,不少店家也改做外帶/外送服務,關閉原本的室內用餐空間。門可羅雀不是最可怕的,最可怕的是當在家防疫、減少外出的同時,店面安全出現破口,遭有心人士闖空門。既然花錢請一個人專門顧店或是花時間親自坐鎮都不是好辦法,此時引進智慧監控系統,才是明智之舉。

月租型HomeSecurity AI 店家防護,安心無負擔

監視器不稀奇,不過在疫情嚴峻期間,花費破千、破萬的預算購買昂貴監視器,對於備受疫情衝擊的業者來說,彷彿又多剝了一層皮。此時此刻最需要的,應該是能夠減緩大筆支出,陪伴業者度過艱難時期的店家防護系統。

對此,台灣大寬頻的月租型「HomeSecurity AI 店家防護」是很好的解決方案,不只遠端守護店面安全,搭配指定光纖上網方案,每月也只要 999 元起的價格,十分超值划算。

異地監控店家,同步更新雲端、方便即時察看與回放

價格好入門可不是「HomeSecurity AI 店家防護」唯一的優點。一般來說,架設閉路電視系統監控、將監視器的影像即時上傳網路,同時還要 AI 智慧監控功能,總要耗費不少資金成本。不過為了讓眾多小店家業者享有同等級的監控服務,台灣大寬頻推出月租型「HomeSecurity AI 店家防護」能以相對實惠的方案,滿足小型店家的科技監控需求。

首先,店主可以根據店面需求,選擇「槍型」或「吸頂」等網路攝影機款式。接著,店主可以跨裝置檢視監控畫面,無論是桌機、筆電、智慧型手機、平板,都能觀看 1920x1080p 的高畫質即時監控影像;此外,分割畫面也能讓店主同時監看多角度或連鎖分店的情況。

拜先進的雲端技術之賜,「HomeSecurity AI 店家防護」的監控影像可以即時串流雲端,店主能不限時間、地點登入網頁或 App 服務,觀看各網路攝影機的即時影像與錄影回放,不必再辛苦傳輸資料畫面或手動上傳雲端,監控管理十分方便。

AI 影像告警,聰明防竊;另有最高 36 萬竊盜損失補償

更讓人安心的是,「HomeSecurity AI 店家防護」最重要的核心技術「AI 人像辨識」。簡言之,就是網路攝影機能將拍攝畫面快速回傳至技術平台並分析數據,進而精準判斷畫面中是否有「人」入侵。一旦AI影像告警確認店內有人為入侵,便會立即以電話、簡訊、App 推播等管道主動通報緊急聯絡人。

不只聰明防竊,也另有完善的配套讓店主安心。萬一真的不幸發生竊盜損失,台灣大寬頻和富邦產險合作,能提供竊盜損失補償,因此只要在案發 30 天內,以報案後憑警察機關刑事報案證明三聯單以及相關影像證據提出申請,店主最高可獲得每年 36 萬元的補償。

防疫期間,同島一命。台灣大寬頻推出「HomeSecurity AI 店家防護」以相對平易近人的方案,提供台灣小型企業店家安心智慧的守護,以嚴密堅實的智慧監控,陪伴業者迎來雨過天青的彼日。