近日，一款名為“ZAO”的換臉APP引發(fā)輿論關(guān)注。用戶上傳照片，就可以把影視劇主角的臉替換成用戶自己的臉。在過(guò)把“明星癮”的同時(shí)，也讓大眾關(guān)注到“換臉”帶來(lái)的個(gè)人信息泄露風(fēng)險(xiǎn)。

信息時(shí)代，“臉面”不僅僅是一個(gè)人的名片，刷臉打卡、刷臉登錄、刷臉進(jìn)站、刷臉付款……面部信息成為個(gè)人財(cái)產(chǎn)保險(xiǎn)箱的一把鑰匙。而一旦鑰匙掌握在別人手中，將會(huì)對(duì)個(gè)人財(cái)產(chǎn)安全等構(gòu)成極大威脅。

為此，《中國(guó)科學(xué)報(bào)》走訪了科研院所、人工智能（AI）科技企業(yè)，請(qǐng)技術(shù)專家解析以刷臉為代表的生物識(shí)別技術(shù)背后的安全風(fēng)險(xiǎn)，同時(shí)進(jìn)一步探索：應(yīng)如何設(shè)置保障措施，來(lái)應(yīng)對(duì)AI技術(shù)打開(kāi)的潘多拉魔盒？

人眼難辨，造假越來(lái)越容易

“人工智能帶來(lái)的安全和隱私問(wèn)題早已引起國(guó)內(nèi)外的關(guān)注，AI換臉只是最近出現(xiàn)的一個(gè)新例子而已。”中國(guó)科學(xué)院院士、清華大學(xué)人工智能研究院院長(zhǎng)張鈸開(kāi)誠(chéng)布公地說(shuō)。

早在20多年前，基于三維模型的AI換臉技術(shù)已經(jīng)走進(jìn)研究領(lǐng)域，但換臉的效果不盡如人意。近年來(lái)，隨著生成對(duì)抗網(wǎng)絡(luò)技術(shù)的引入，換臉效果大幅提升，人眼已經(jīng)很難發(fā)現(xiàn)換臉痕跡。

換臉的本質(zhì)是面部生物信息在人工智能領(lǐng)域的應(yīng)用，此外，人類早已實(shí)現(xiàn)指紋、虹膜、掌紋、手形、靜脈、筆跡、步態(tài)、語(yǔ)音等生物信息的應(yīng)用。

但是，個(gè)人生物信息泄露引發(fā)的安全問(wèn)題從未如此備受關(guān)注。談及原因，清華大學(xué)孵化的人工智能公司RealAI(瑞萊智慧)算法科學(xué)家蕭子豪表示，一方面，近年來(lái)大眾越來(lái)越關(guān)注個(gè)人隱私問(wèn)題；另一方面，AI技術(shù)發(fā)展迅速，技術(shù)越來(lái)越成熟，效果越來(lái)越逼真，操作越來(lái)越簡(jiǎn)單，使得應(yīng)用領(lǐng)域和場(chǎng)景越來(lái)越多。

“以前世界頂尖科研團(tuán)隊(duì)才能完成的‘換臉術(shù)’，現(xiàn)在尋常人躺在沙發(fā)上動(dòng)動(dòng)手指就能輕松實(shí)現(xiàn)，大大降低了造假成本。” 蕭子豪告訴記者。

北京郵電大學(xué)模式識(shí)別實(shí)驗(yàn)室教授鄧偉洪認(rèn)為，“ZAO”收集的人臉圖像和人臉生成技術(shù)如果被濫用，將會(huì)帶來(lái)極大的風(fēng)險(xiǎn)。

此前，鑒于對(duì)個(gè)人隱私獲取的擔(dān)憂，美國(guó)舊金山、薩默維爾市先后禁止人臉識(shí)別的應(yīng)用。

過(guò)度攫取用戶信息，濫用風(fēng)險(xiǎn)加劇

“ZAO”引發(fā)關(guān)注的另外一個(gè)重要原因是，該應(yīng)用中含有涉及個(gè)人隱私保護(hù)的“霸王條款”。

該APP最初的用戶協(xié)議規(guī)定，用戶自行上傳的內(nèi)容，一旦發(fā)布，平臺(tái)即默許已獲得用戶和影片原主人公的肖像授權(quán)，且ZAO及其關(guān)聯(lián)公司有權(quán)在全球范圍內(nèi)“完全免費(fèi)、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可”地使用、修改、編輯這些內(nèi)容素材。用戶如果不同意協(xié)議，便無(wú)法使用該APP。

該規(guī)定很快引發(fā)公眾對(duì)個(gè)人信息安全及隱私保護(hù)的質(zhì)疑。

與此同時(shí)，相關(guān)生物識(shí)別技術(shù)應(yīng)用需要用戶上傳越來(lái)越多的個(gè)人信息。以“ZAO”為例，該APP要求用戶提供個(gè)人高清圖片外，還要求上傳點(diǎn)頭、眨眼等活體檢測(cè)的視頻。

蕭子豪對(duì)記者說(shuō)，軟件應(yīng)用開(kāi)發(fā)方獲取大量的個(gè)人生物信息后，能夠豐富訓(xùn)練數(shù)據(jù)，用以模型優(yōu)化，可大大提高應(yīng)用精度和準(zhǔn)確率，進(jìn)而增強(qiáng)用戶體驗(yàn)，但這也意味著個(gè)人信息的完全暴露。

今年8月，中國(guó)信息通信研究院發(fā)布的《人工智能數(shù)據(jù)安全白皮書(shū)》顯示，AI應(yīng)用可采集的人臉、指紋、虹膜等信息具有強(qiáng)個(gè)人屬性，且具有唯一性。個(gè)人數(shù)據(jù)的過(guò)度采集，將加劇隱私泄露風(fēng)險(xiǎn)。

針對(duì) “ZAO”App用戶隱私協(xié)議存在不規(guī)范行為、存在數(shù)據(jù)泄露風(fēng)險(xiǎn)等網(wǎng)絡(luò)數(shù)據(jù)安全問(wèn)題，9月3日，工業(yè)和信息化部網(wǎng)絡(luò)安全管理局對(duì)北京陌陌科技有限公司（以下簡(jiǎn)稱陌陌科技）相關(guān)負(fù)責(zé)人進(jìn)行了問(wèn)詢約談。

該局要求陌陌科技要“組織開(kāi)展自查整改，依法依規(guī)收集使用用戶個(gè)人信息”，同時(shí)責(zé)令其“規(guī)范協(xié)議條款，強(qiáng)化網(wǎng)絡(luò)數(shù)據(jù)和用戶個(gè)人信息安全保護(hù)”。

換臉或能突破支付，數(shù)據(jù)管理僅靠自律？

ZAO引發(fā)大量關(guān)注之后，“支付寶安全中心”8月31日通過(guò)官方渠道發(fā)布聲明稱，不管換臉有多逼真，都無(wú)法突破刷臉支付。

支付寶安全中心解釋說(shuō)，刷臉支付采用的是3D人臉識(shí)別技術(shù)，在進(jìn)行人臉識(shí)別前，會(huì)通過(guò)軟硬件結(jié)合的方式進(jìn)行檢測(cè)，來(lái)判斷采集到的人臉是否照片、視頻或者模擬生成的，能有效避免各種人臉偽造帶來(lái)的身份冒用情況。

話雖如此，但考慮到刷臉支付還沒(méi)有得到大規(guī)模應(yīng)用，潛在的安全風(fēng)險(xiǎn)可能還并未浮出水面。

鄧偉洪也告訴記者，盡管目前還沒(méi)有利用個(gè)人面部信息突破刷臉支付等功能的案例，但這并不代表刷臉功能的絕對(duì)安全。并且，造假生成技術(shù)不斷升級(jí)，未來(lái)存在突破現(xiàn)有刷臉支付功能的可能性。

他介紹了一種可能性：AI換臉軟件收集了大量人臉圖像，這些信息如果被濫用，技術(shù)上可以準(zhǔn)確地恢復(fù)出用戶的三維面部信息，結(jié)合三維打印模型和面具，足夠?qū)λ⒛樦Ц兜认到y(tǒng)進(jìn)行攻擊。

鄧偉洪提出，管理部門和學(xué)術(shù)界應(yīng)該重視這些風(fēng)險(xiǎn)問(wèn)題，并制定或研發(fā)出效的防御策略。

應(yīng)如何保障個(gè)人生物信息安全？張鈸表示，至少應(yīng)該加強(qiáng)管理和約束，包括數(shù)據(jù)的管理和合理使用。

他舉例，最近一些公司的語(yǔ)音合成技術(shù)已經(jīng)達(dá)到足可亂真的水平，這與“換臉”技術(shù)一樣很容易被濫用。從這點(diǎn)出發(fā)，這些公司已經(jīng)制定了自律規(guī)則，對(duì)這類AI技術(shù)加以限制使用，以保障用戶個(gè)人生物信息的安全。

“目前，個(gè)人生物信息獲取多少，又該如何使用，缺乏行業(yè)標(biāo)準(zhǔn)。如何制定規(guī)則有效管控個(gè)人生物信息的使用是當(dāng)務(wù)之急。”張鈸告訴《中國(guó)科學(xué)報(bào)》。

今年4月，清華大學(xué)成立了戰(zhàn)略與安全研究中心，開(kāi)展國(guó)際戰(zhàn)略與安全相關(guān)的學(xué)術(shù)研究和政策研究工作。其中，AI安全政策的制定正是該中心的一項(xiàng)重要內(nèi)容。

“真相”“假臉”難辨，防反之爭(zhēng)或?qū)缛粘志?/strong>

目前有沒(méi)有技術(shù)手段，能夠鑒別哪個(gè)是“真相”、哪個(gè)又是“假臉”呢？

答案是既肯定又否定。鄧偉洪告訴記者，由于原始人臉圖像特征已經(jīng)完全被覆蓋，目前沒(méi)有特別可靠的技術(shù)可以反推出原始頭像。但計(jì)算機(jī)視覺(jué)技術(shù)比人眼更精密，可以有效地檢測(cè)出因?yàn)閾Q臉留下的圖像痕跡。

他舉例說(shuō)，去年美國(guó)國(guó)防部發(fā)布了一款A(yù)I偵測(cè)工具，對(duì)換臉的檢測(cè)精度可達(dá)到99%以上。加州大學(xué)伯克利分校的科研人員也提出了通過(guò)特定人物的面部行為細(xì)節(jié)，準(zhǔn)確地“揪出”模仿各種名人的假視頻。

鄧偉洪所在的科研團(tuán)隊(duì)也據(jù)此進(jìn)行了初步的實(shí)驗(yàn)。實(shí)驗(yàn)結(jié)果顯示，假視頻的檢測(cè)率可達(dá)到98%以上。

不過(guò)，在見(jiàn)識(shí)了美國(guó)國(guó)防部研發(fā)的“反AI變臉”刑偵工具后，達(dá)特茅斯大學(xué)的數(shù)字取證專家Hany Farid 認(rèn)為，目前的一個(gè)關(guān)鍵問(wèn)題是，機(jī)器學(xué)習(xí)系統(tǒng)可以接受更先進(jìn)的訓(xùn)練，然后超越當(dāng)前的反變臉工具。

這也就意味著，這些“以AI攻AI”的反變臉工具僅僅是個(gè)開(kāi)始——AI視頻偽造者和數(shù)字刑偵人員之間或?qū)⒄归_(kāi)一場(chǎng)長(zhǎng)期持久的AI軍備競(jìng)賽。

技術(shù)濫用頻頻，何以解憂引人深思

引發(fā)個(gè)人信息安全及隱私保護(hù)問(wèn)題的AI技術(shù)，不只有換臉。

近日，一組課堂上學(xué)生行為分析的視頻截圖在網(wǎng)上引發(fā)熱議。照片中，攝像頭通過(guò)計(jì)算機(jī)視覺(jué)算法獲取學(xué)生的課堂表現(xiàn)，并以標(biāo)簽的形式計(jì)算出“聽(tīng)講、閱讀、舉手、趴桌子、玩手機(jī)、睡覺(jué)”等動(dòng)作次數(shù)。截圖顯示該技術(shù)方案來(lái)自曠視科技。

盡管曠視科技隨即在9月3日回應(yīng)稱此系該公司“技術(shù)場(chǎng)景化概念演示”，目前“僅停留在技術(shù)展示階段，尚未落地應(yīng)用”，也難免教育界人士直呼，智慧課堂行為分析已變成“全景敞視監(jiān)獄”。

AI技術(shù)發(fā)展至今，以“賦能”之姿已在安防、醫(yī)療、教育、工業(yè)等各行各業(yè)帶來(lái)了巨大變化，甚至扮演著顛覆行業(yè)的角色。然而，面對(duì)一波未平一波又起的技術(shù)濫用問(wèn)題，AI應(yīng)用背后的個(gè)人隱私保護(hù)問(wèn)題、信息安全問(wèn)題，如何規(guī)范使用AI技術(shù)，的確發(fā)人深思。

美國(guó)一些城市以及歐盟的做法是嚴(yán)字當(dāng)頭，甚至采取禁止法案。正如前文提及，在舊金山，政府機(jī)構(gòu)擅自使用人臉識(shí)別技術(shù)、“靠人臉識(shí)別技術(shù)獲得某些信息”都是被禁止的違法行為；在瑞典，一所高中因試驗(yàn)用人臉識(shí)別系統(tǒng)統(tǒng)計(jì)學(xué)生出勤率，而被瑞典數(shù)據(jù)監(jiān)管機(jī)構(gòu)處以20 萬(wàn)瑞典克朗（約合14.8 萬(wàn)元）的罰款，理由是“數(shù)據(jù)的所有者及數(shù)據(jù)的管理者之間存在明顯的信息不對(duì)稱”。

“圍繞個(gè)人隱私、群體安全問(wèn)題，對(duì)于人臉識(shí)別等技術(shù)的使用需要一個(gè)平衡。” 商湯科技聯(lián)合創(chuàng)始人徐冰在近期的一次采訪中對(duì)記者說(shuō)：“這個(gè)平衡，就是一個(gè)好的規(guī)則規(guī)范——不僅要去規(guī)范人臉識(shí)別技術(shù)企業(yè)，還要去規(guī)范使用這些技術(shù)的政府。”

“實(shí)際上，人臉識(shí)別技術(shù)所創(chuàng)造的價(jià)值是被認(rèn)可的。”徐冰不希望諸如人臉識(shí)別這樣的新技術(shù)只是簡(jiǎn)單粗暴地被一禁了之： “作為發(fā)明和使用新技術(shù)的人們，都要去認(rèn)真思考這些問(wèn)題，并且一起努力促使新規(guī)范的形成，而不是直接禁止掉。”

來(lái)源：科學(xué)網(wǎng)