無處不在的攝像頭,幾乎遍布每一個生活場景的人臉識別,其中存在著哪些認知誤區?又存在著哪些隱憂?清華大學法學院勞東燕教授帶來她的觀點分享。
『一』
生活在這個社會,我們逐漸習慣了越來越多的攝像頭。
很多人可能與我先前一樣,會以為這樣的攝像頭,不過是記錄自己在公共場所的行蹤,防止諸如交通違規之類的行為,所以并不為意。實際上,遍布的攝像頭,正是為了與人臉識別技術相配套,方便這項技術大展威力。
去年以來,由于底層技術實現質的突破,人臉識別的準確率大為提高,其應用場景出現爆炸式的增長。
一如既往地,人們將之視為新技術的拓展,平靜甚至是相當愉悅地接納了它在諸多場景中的應用。有人甚至還開起玩笑,這下整容業要大受影響了。這樣的擔心有些杞人憂天。即便整容,由于人的雙眼瞳孔之間的距離是不變的,所以,根本不用擔心識別技術會發揮不了作用。
面對人臉識別技術的迅速推廣,人們所表現出的平靜與愉悅,大體上是因為,很多人將人臉識別技術理解為單純的識別與印證,不覺得有什么風險。同時,除了在抓捕罪犯的場景,人們也往往沒有將這種技術的應用,與到處遍布的攝像頭關聯起來,或者是下意識地將自己視為是監控的例外。
從此種意義上來說,人們普遍的并不為意,以及接受這項新技術時的平靜與愉悅,多少有些陷于盲目,并不知曉自身所處的真實境況。
將人臉識別技術理解為單純的識別與印證,是一種重大的誤解。實際上,這種技術不僅用來抓取個人的面部生物信息,并與既有數據庫中的相應數據相比對。它還能進一步追蹤到個人的身份信息、日常的行蹤軌跡、人與車的匹配、親屬關系的匹配以及經常接觸人員的匹配等。這是它與遍布各處的攝像頭相配合的結果。而這一切,只取決于掌控之人想不想使用。
最新的人臉識別技術,不僅能夠指示性別與估計年齡,還能夠辨別個人的面部表情。由于它屬于人工智能與深度學習的范疇,隨著技術的進一步發展,經解讀與分析而得出關涉隱私的信息,可想而知會越來越多。多到足以為任何個人勾勒準確的用戶畫像。
如此海量的個人信息,若是全能公正的上帝在收集、保管與使用,自然沒必要擔心。問題在于,這樣的假設并不成立。這是一個無神論的社會。
至于沒有什么隱瞞老百姓就無需擔心之類的安撫話語,要是真地信了,未免太過天真。拋開頻頻出現的無罪案件與刑事冤案不論,果真如此的話,監獄里關著那么多的原國家工作人員,算是怎么回事呢?政府哪還需要高調倡導反腐,又怎么可能有層出不窮的保護傘需要打擊?
這意味著,人們對人臉識別技術的普遍接受,要么是基于一廂情愿的盲目樂觀,要么是選擇性地無視或低估風險的結果。總而言之,就是在信息匱乏的情況下,做出了有失偏頗的判斷。這也正是人臉識別技術一直未成為公共話題的重要原因。
『二』
稍做了解便可發現,現行的人臉識別技術,無論是在收集、保管還是使用的環節,都存在諸多的問題。這些問題關涉國民重大的切身權益,絕不只是要求放棄一些隱私方面的權益那么簡單。
首先,從數據收集環節來看,人臉識別具有無意識性與非接觸性,可以遠距離發揮作用,并能長時間大規模地積累數據而不被用戶察覺,具有很強的侵入性。
人臉識別的技術,能夠在人們根本沒有感知的情況下,遠距離地進行抓取與記錄相應的數據。根據《中國新聞周刊》的報道(《人臉識別十字路口:臉的恐慌》),有專家稱,中國人每天要暴露在各種攝像頭下超過500次。所以,不用懷疑,只要開始使用人臉識別技術,就始終有一雙眼睛隨時緊盯著你我。成為透明人一樣的存在,不是出于想象,而就是活生生的現實。
然而,面部的生物數據明顯屬于個人信息,即便按現在的法律規定,人臉識別的收集環節也涉嫌嚴重的違法甚至犯罪。因為很多場合對個人面部數據的獲取,根本沒有征得被收集人的同意,難以認為是依法取得。
根據現行的刑法規定,不經同意而非法獲取,或者將合法取得的個人信息出售或提供給第三方,此類行為均涉嫌構成侵犯公民個人信息罪。
某些應用人臉識別的場景,表面看來是在被收集人有認知的情況下進行,似乎已征得其同意。實際上,由于信息告知不充分,包括收集的主體、收集的數據范圍、使用目的及范圍、保護措施與相應風險等均未予明示的前提下,被收集人事實上的認可,在法律上并不成立有效的同意,故收集行為仍屬違法。
其次,從數據保管環節來看,一旦收集主體未能善加保護,就會導致大規模泄露的情況;即便其采取合理的保管措施,也仍然面臨被黑客侵入而泄露的危險。由于個人的生物學數據具有穩定不變性,一旦泄露,相應的風險及危害即不可逆轉,也無法有效進行彌補。
今年有多起新聞報道涉及人臉數據泄密的問題。先是國內提供人臉檢測與人群分析的一家科技公司,被發現其人臉識別數據庫未設密碼保護,一直對外開放,導致256萬用戶信息被泄露。近期又有媒體發現,在網絡商城中有商家公開售賣人臉數據,數量達17萬條。
這些泄露后的人臉數據,究竟會被什么樣的人使用,用于怎樣的場合,是否可能導致財產的損失與其他人身權益的侵犯,對此,我們都一無所知。可以確定的是,人臉數據的泄露,所帶來的潛在的安全風險,遠比手機號與賬戶信息的泄露更為嚴重。
今年推出的一款AI換臉軟件,只需要一張正臉照,就可以將視頻中人物的臉進行替換。換臉技術的出現,讓詐騙行為與制造社會恐慌等,都變得更為簡單易行。想想近些年電信詐騙的猖獗程度,就可推知,人臉數據的大規模泄露,會給社會帶來多大的恐慌,會讓多少普通人遭受重大的損失。
更何況,人臉識別技術本身就存在諸多的技術漏洞。《中國新聞周刊》的前述報道提到,在一次安全極客的賽事上,畢業于浙大計算機專業的一位90后女選手,僅用兩分半鐘就破解了人臉識別門禁系統,將設備中存儲的人臉予以更換。
人臉識別的應用場景經歷了爆炸式的增長,但是,在如何保護相關數據的問題上,卻沒有做任何的強制性規定,而完全取決于收集方的意思。可想而知,因數據泄露而引發的風險根本難以評估。猶如一個火藥桶,只要有一絲火星,就足以引發爆炸性的社會事件。
最后,從數據使用環節來看,由于未作任何限定,隨著人臉識別技術應用場景的大肆擴張,濫用與歧視的現象必將不可避免。
當下常見的應用場景,除了安保、門禁、支付與認證等之外,人臉識別技術也被廣泛用于商場流量統計、社區管理、養老金領取、辦稅認證、物品保存、景區出入與演出場所的檢票等。它甚至還進一步被推廣用于教學過程,以監控與管理學生的課堂行為。還有,就是開始出現于地鐵的安檢之中。
拋開收集與保管環節的問題不論,從前述諸多的應用場景來看,當前對人臉識別技術的運用,顯然存在濫用的傾向。這樣的濫用,使得大規模的潛在操縱成為可能,而監控變得無所不在。有關濫用的風險,當前所揭示出來的一些情況,無疑只是巨大冰山的一角。
人臉識別技術還可能引發歧視的問題。研究表明,人臉可以顯示性傾向,且預測結果大部分正確。所以,同性傾向的人很可能會成為歧視對象。自然,歧視的領域遠不只此,還包括種族、性別、民族、地域與職業等方面的歧視。
『三』
可想而知,單是技術本身的突破,難以解釋人臉識別技術在應用上的迅速推廣。它在當前的大肆擴張,背后有兩大推動的力量,一是權力,二是資本。
從權力的角度,政府終于找到便捷的技術工具,以安全為名,對全社會做天羅地網式的防控。在資本的維度,從事研發推廣的企業,接近瘋狂地拓展業務,是為了盡快提升自身的市場估值與利潤。
不得不說,正是在權力與資本的親密合作下,人臉識別技術的跑馬圈地,得以像洪水一樣勢不可擋。由于對如何收集、保存、傳輸、使用與處理數據,以及是否允許出售或提供給第三方,能否放在網上等,現行法律并未做任何的介入,這就使得應用場景的大肆擴張所可能引發的風險,也呈幾何倍數地增長。這不只是細思極恐,根本就是不敢想象。
對于權力與資本的這種合作,或許可以提出這樣的兩點質疑:第一,抓獲違法犯罪分子,難道是我們這個社會的首要任務嗎?第二,資本追逐利潤,難道不需要顧及起碼的社會責任嗎?
很多人誤以為,人臉識別技術的運用,不過是出讓少許個人的隱私,為效率與安全計,犧牲一些也無妨,這仍是一樁值得做的買賣。然而,如果認清人臉識別技術的實質,并獲知在數據收集、保護與使用各環節存在的諸多問題,恐怕只能說,這是一場與魔鬼進行的交易。
個人需要放棄的遠不只是一些隱私,而是絕大部分,甚至是全部的隱私。更為重要的是,人們也根本不可能獲得臆想中的安全。
是的,在安保中推廣人臉識別技術,的確可以多抓幾個犯罪分子。但你真地確定,這么微小的收益,就足以抵消個人的生物信息被泄露與濫用的風險?
認真思量一下,平時生活中,普通人遭受犯罪侵害的概率有多高。在沒有推行人臉識別技術之前,難道我們成天面對來自犯罪的威脅嗎?
一個號稱自身很安全的社會,怎么可能會有這么多的犯罪分子?一方面聲稱,這個社會特別地安全,經常以此自傲于世界;另一方面又認為,普通人無時無刻地受到犯罪分子的威脅,故有必要用天網技術來對付無所不在的犯罪分子。不覺得人格分裂嗎?我以為,這樣的人,要么是裝腔作勢的騙子,要么是愚笨得無可救藥。
不難發現,這樣一種對風險的隨意估測,顯得極為盲目。這或許是被權力與資本洗腦后的產物。問題在于,權力與資本明明在聯合算計著你我,以微利進行引誘,如果還反過去替對方著想,豈不可悲至極,愚蠢至極?
『四』
為了些許的效率,我們需要放棄的,遠不止是個人隱私,還有基本的安全。我們真地確定,這樣的放棄是值得的嗎?
在此,有必要回應三種常見的質疑觀點。
其一,既然指紋識別能推廣,為什么人臉識別就不行?
這種觀點缺乏基本的邏輯。至少存在四個理由可予反駁。
首先,對公權力機構而言,在申領身份證時采集指紋,至少有《居民身份證法》的授權;而對個人面部信息的采集,卻并無任何的法律授權。從各國的情況來看,強制采集國民的指紋,仍是較為少見的現象。雖然對外國人采集指紋的做法變得普遍,但在法治國家,往往以侵犯個人自治甚至違憲的理由,禁止政府采集普通國民的指紋。
其次,采集指紋的侵入性,在程度上明顯較人臉識別為低,風險也要小得多。畢竟,指紋不具有直接的可視性,與行蹤軌跡等其他信息之間的關聯性較小,監控性也弱。相反,人臉識別與無處不在的攝像頭相結合,會形成高度的監控性。同時,在泄露與濫用的風險方面,人臉識別也比指紋識別要可怕得多。
再次,指紋識別的應用場景有限,且大多用于個人的手機或單位內部,而人臉識別強制應用的場景過多過濫。進行指紋識別時,個人對此一般都有認知;而使用人臉識別時,個人卻經常并不知曉。我們每天數百次地在不知情的情況下,被進行人臉識別。反之,有多少人能接受,每天數百次地進行指紋識別呢?
最后,只因指紋識別已在應用,便推導出推廣人臉識別亦無不可,這在推理邏輯上也存在問題。質疑者的邏輯是,既然已經讓政府獲得采集指紋的權利,為什么就不能進一步放棄人臉數據方面的權利?問題是,法律沒有明文授權,個人憑什么讓渡自己的合法權利。照此邏輯推理,下一步,個人的體態數據乃至基因數據,是不是也可全盤放棄,交由某個組織全盤掌握呢?
其二,為什么機場可以用人臉識別,而地鐵與其他的公共領域就不能用?
這種觀點似是而非。否定的理由有三點。
首先,這種質疑預設了未經證明的前提。人臉識別并非機場安檢的必備要件,而是近兩年方予應用。試問,此前難道就不存在有效的機場安檢了嗎?從我這兩年到德國、法國、英國與日本的旅行經歷來看,相應的機場均未見使用人臉識別技術,難道人家就不進行機場安檢了嗎?
其次,即便機場例外地有必要運用人臉識別,也不代表在地鐵或其他的公共領域可予推廣。機場的安檢原本就代表最高級別,不分場合實行同級別的安檢,呈現的只能是治理思路的混亂。不僅在必要性上存疑,也給民眾的出行造成嚴重的妨礙。
最后,即便人們在機場安檢時接受人臉識別,也不意味著相應的面部信息就可用于機場安保之外的目的與場景。人們同意在機場安檢時進行人臉識別,相應的數據自然也只能用于機場安檢的目的,不代表可以隨意移用于其他場合。不然,就是超越用戶同意的范圍,而非法收集與使用個人的面部生物信息。
其三,在地鐵中運用人臉識別,可以讓大家自愿來選擇,為什么不給這樣的選擇機會?
這種觀點表面看來言之成理,實際上完全不可行。
首先,自愿選擇的前提是明確而充分的風險告知。如果將人臉識別技術的實質,以及在收集、保管與使用的環節中存在巨大風險進行充分的告知,我嚴重懷疑,會有多少人愿意為些許的效率,而全然放棄自身的隱私與安全。
其次,地鐵實行人物同檢的安檢措施,必要性本身就存在疑問。倫敦、巴黎與東京等城市的地鐵,均經歷過恐怖襲擊,但都并未選擇實行人物同檢。理由顯然不是人家缺乏安保經費,而是經過理性考量,不適宜在地鐵這樣的場所推行人物同檢。
最后,考慮我國地鐵的擁擠程度,設立兩種安檢通道的做法,缺乏基本的可行性。因為這意味著,在地鐵安保方面,還要進一步加大投入。除了浪費國民的稅收,實在看不出這樣做的意義。財政收入是固定的,政府選擇將很多預算用到地鐵的安檢,勢必要減少民生方面的投入。
綜上,前述三種質疑觀點,要么邏輯混亂,要么似是而非,要么不具可行性,均無法成立。
『五』
我不是技術的保守主義者,也不是要全盤反對人臉識別技術的應用。但是,在未獲得法律的明確授權之前,我反對公權力機構收集普通國民的面部生物信息,因為這樣的收集缺乏基本的合法性。
至于人臉識別技術的商業性運用,由于涉及個人信息的收集,收集方必須嚴格遵守有關個人信息保護方面的法律規定。不僅要確保對數據的收集與保管的規范化,而且要對人臉識別技術的應用場景做嚴格的限定。
在商業性的場景中,對人臉識別技術的運用,至少應當符合四方面的要求。
第一,收集方必須就相關信息與風險做明確而充分的告知,并事先征得被收集人的同意。未經被收集人的明示同意,不得將個人數據以任何形式提供給第三方(包括政府部門),或者讓第三方使用相應的數據。在涉及犯罪偵查或國家安全的場合,可例外地予以允許,但需要嚴格限定適用條件與程序。
第二,收集程序應當公開,并確保所收集的數據范圍合乎應用場景的目的,未超出合理的范圍。收集方不允許超范圍地收集個人的面部數據,收集的范圍應當符合相應適用場景的目的,并以合理與必要為原則。
第三,收集方在收集個人的面部生物數據之后,應當盡好保管義務。收集方應盡合理的努力,對所收集的數據妥善保管;違反保管義務,應當承擔相應的法律責任。同時,如果被收集人撤回同意,或者明確要求刪除自己的數據,收集方應當對相應數據予以刪除。
第四,對人臉識別技術的應用場景,必須確保合法與合理,并避免侵入性過強的舉措。收集方在特定場景中所收集的數據,原則上不允許運用于其他的場景,除非該場景是在合理的預見范圍之內。如果擅自擴大或者改變數據的應用場景,收集方應當承擔相應的法律責任。
值得指出的是,與一般的個人信息相比,面部生物數據的敏感特性,使得現有法律根本不足以提供充分的保護。尤其是,以同意為基礎的法律保護機制,在應對科技發展給個人信息的保護所帶來的挑戰時,已經完全顯得捉襟見肘。基于此,法律界有必要做專門的調研,嘗試探尋有效而合理的規制路徑與保護措施。
個體的生物信息,包括人臉、基因、指紋、虹膜與步態等,均具有不可更改性。所以,一旦泄露后果不堪設想,包括法律在內的諸多手段,都難以提供有效的救濟。相應的風險完全不可逆,根本不可能恢復到泄露之前的基本狀態。
這意味著,在沒有對收集、保管與使用的環節做嚴格的法律規制之前,人臉識別技術的肆意推廣,打開的就是潘多拉的盒子。我們付出的,絕不只是隱私的代價,還有孜孜以求的安全。
因此,圍繞人臉識別技術的公共爭論,根本就不是隱私與安全之爭。它既危及隱私,也威脅安全。無隱私即無自由。長此以往,等待我們的,將是一個既無自由也無安全的社會。若結局如此,人們還會愿意貪圖眼下的一時便利,而放手讓權力與資本大肆推廣人臉識別技術的應用嗎?
在人臉識別技術如何運用的問題上,只有撥開安全與效率的迷霧,不為權力與資本所綁架,才有可能做出理性的選擇。
評論
查看更多