您所在的位置:康巴傳媒網(wǎng) >> 新聞 >> 社會(huì)民生 >> 瀏覽文章

“換臉”游戲火爆 “丟臉”后果很嚴(yán)重

甘孜日?qǐng)?bào)    2019年09月12日

近日,一款基于人工智能技術(shù)的“換臉”APP走紅網(wǎng)絡(luò)。使用者只要上傳自己的高清照片,即可將本人面孔與大量影視片段中的明星面孔置換。既可以自己過(guò)明星癮,又可與心愛(ài)偶像“同框”出演,大量年輕用戶選擇將自己面孔上傳網(wǎng)絡(luò),“換臉”娛樂(lè)。記者發(fā)現(xiàn),如此“換臉”,用戶面部生物特征信息被盜或失控的“丟臉”風(fēng)險(xiǎn)不小。該款A(yù)PP用戶協(xié)議中載明:用戶一旦上傳自己的照片進(jìn)行視頻“換臉”,將在全球范圍內(nèi)完全免費(fèi)、不可撤銷地將包括人臉照片在內(nèi)的肖像資料授權(quán)給該公司和其關(guān)聯(lián)公司。雖然此后相關(guān)企業(yè)在輿論壓力下,對(duì)其用戶協(xié)議進(jìn)行了部分修改,但風(fēng)險(xiǎn)依然存在。

風(fēng)險(xiǎn)一“丟臉”能導(dǎo)致“丟錢”

當(dāng)前,大部分銀行等金融機(jī)構(gòu)開(kāi)設(shè)了人臉識(shí)別登陸APP功能?!八⒛槨敝Ц渡踔潦沁h(yuǎn)程簽約等場(chǎng)景也越來(lái)越多見(jiàn)。如果用戶的“臉”不安全,“錢”也將面臨莫大風(fēng)險(xiǎn)。

企業(yè)通過(guò)用戶協(xié)議等手段取得的用戶面部識(shí)別信息面臨被泄露風(fēng)險(xiǎn)。據(jù)記者了解,今年2月,國(guó)內(nèi)某面部識(shí)別公司的數(shù)據(jù)庫(kù)發(fā)生信息安全事故,數(shù)百萬(wàn)條個(gè)人信息被泄露;8月,歐洲一家公司發(fā)生大規(guī)模信息泄露事件,數(shù)百萬(wàn)人面部識(shí)別信息被泄露……公眾面部信息被濫用風(fēng)險(xiǎn)增大。

記者在一些知名網(wǎng)購(gòu)平臺(tái)輸入“人臉面具”“硅膠頭套”等關(guān)鍵詞,發(fā)現(xiàn)有不少商戶出售“人臉頭套式面具”,其中一些甚至可以按客戶提供照片定制。記者獲知,通過(guò)3D打印等技術(shù),“人臉面具”可以獲得較高仿真度,且面部識(shí)別數(shù)據(jù)越詳實(shí)仿真度越高,對(duì)以面部識(shí)別信息作為密碼賬戶的突破力就越強(qiáng)。此前已有人使用3D打印面具通過(guò)某知名網(wǎng)絡(luò)支付平臺(tái)面部驗(yàn)證。

“貿(mào)然將自己的清晰正面照上傳并授權(quán)他人進(jìn)行存儲(chǔ)或另作他用,關(guān)乎‘錢袋子’安全?!敝醒胴?cái)經(jīng)大學(xué)金融法研究所所長(zhǎng)黃震認(rèn)為,目前法律對(duì)“AI換臉技術(shù)”規(guī)范不足,因此保護(hù)好自己的面部信息在當(dāng)下十分必要。他建議,有關(guān)部門應(yīng)加快推廣相關(guān)技術(shù)規(guī)范落地應(yīng)用。

記者從多家已啟用人臉識(shí)別功能的金融機(jī)構(gòu)處了解到:當(dāng)前金融機(jī)構(gòu)設(shè)置的人臉識(shí)別安全等級(jí)高于智能手機(jī)相關(guān)功能,但由于不少交易場(chǎng)景中識(shí)別標(biāo)準(zhǔn)并不統(tǒng)一,因此風(fēng)險(xiǎn)仍在。多名專家建議,用戶將面部識(shí)別設(shè)置為財(cái)產(chǎn)賬戶密碼時(shí),應(yīng)同時(shí)設(shè)置其他驗(yàn)證辦法,減小風(fēng)險(xiǎn)。

風(fēng)險(xiǎn)二“丟臉”能導(dǎo)致“丟清白”

當(dāng)前,“換臉”技術(shù)被用在一些涉嫌違法犯罪領(lǐng)域的情況已不少見(jiàn)。記者發(fā)現(xiàn)一些網(wǎng)站用“AI換臉”“換臉視頻”等方式提供用知名藝人“面孔”“嫁接”出的視頻。這些視頻往往涉嫌色情淫穢,且難辨真假。另外,記者在QQ群和百度貼吧中以“換臉”和“換臉視頻”為關(guān)鍵詞檢索發(fā)現(xiàn),有不少社交群組打著“技術(shù)交流”幌子兜售此類“明星換臉”視頻。

知情人告訴記者,除販賣“換臉”非法音視頻產(chǎn)品牟利外,一些不法分子還利用手中掌握的貸款人人臉信息,以此類技術(shù)進(jìn)行非法催收活動(dòng),直接侵害貸款人人格權(quán)、名譽(yù)權(quán),甚至滋生出敲詐勒索等其他嚴(yán)重犯罪活動(dòng)。

北京師范大學(xué)網(wǎng)絡(luò)法治國(guó)際中心執(zhí)行主任吳沈括認(rèn)為,AI“換臉”法律風(fēng)險(xiǎn)點(diǎn)多,從現(xiàn)實(shí)案例看,名譽(yù)侵權(quán)是高發(fā)問(wèn)題。尤其是惡意拼接制作侮辱性、污蔑性視圖素材或者予以非法傳播、利用的,將對(duì)受害人造成的傷害難以及時(shí)發(fā)覺(jué)且極難有效救濟(jì),需要有關(guān)部門高度關(guān)注、積極預(yù)防。他建議,由于該領(lǐng)域技術(shù)性強(qiáng),相關(guān)企業(yè)眾多,規(guī)模大小不一,應(yīng)強(qiáng)化職能部門監(jiān)管力度,杜絕選擇性事后執(zhí)法,建立全行業(yè)全流程公平監(jiān)管,依法嚴(yán)懲違法違規(guī)主體,打造穩(wěn)定、良性的可預(yù)期市場(chǎng)環(huán)境。

風(fēng)險(xiǎn)三“丟臉”能導(dǎo)致“被貸款”

有過(guò)網(wǎng)貸申請(qǐng)經(jīng)歷的人對(duì)于“點(diǎn)點(diǎn)頭”“搖搖頭”“張張嘴”之類的動(dòng)作也許并不陌生。借貸者在錄入身份信息后,網(wǎng)貸機(jī)構(gòu)會(huì)對(duì)申請(qǐng)人進(jìn)行“活體檢測(cè)”,以確保放款對(duì)象為本人,把關(guān)借貸安全。但記者發(fā)現(xiàn),一些基于相關(guān)技術(shù)的修圖APP能夠“起死回生”,讓靜態(tài)面部照片模仿生物活體“動(dòng)”起來(lái)。

記者使用一款知名修圖軟件,載入一張包含人物面孔的照片后使用其“3D塑顏”的功能,圖片中的人物便能按記者需要完成“上下點(diǎn)頭”和“左右搖頭”等“動(dòng)作”。

在另一款宣傳語(yǔ)為“讓你的照片活過(guò)來(lái)”的APP中,只要載入一張包含人物面孔的照片,就可以一鍵讓照片中的人物“開(kāi)口說(shuō)話”。記者發(fā)現(xiàn),使用者還能利用該APP決定說(shuō)話內(nèi)容,并可對(duì)錄入聲音進(jìn)行聲線處理,調(diào)整音色音調(diào),視聽(tīng)感覺(jué)十分逼真。

有業(yè)內(nèi)人士告訴記者,目前不少網(wǎng)貸機(jī)構(gòu)進(jìn)行“活體檢測(cè)”時(shí)仍使用人工審核或技術(shù)含量偏低的機(jī)器審核,一旦公眾的面部識(shí)別信息被不法分子掌握,用這些黑科技“活”過(guò)來(lái)的面孔,很可能以假亂真,讓不知情者“被網(wǎng)貸”背上巨額債務(wù)。此前“3·15”晚會(huì)上就有人演示用“活”照片成功突破某款手機(jī)的“刷臉”登陸系統(tǒng)。記者還發(fā)現(xiàn),在蘋果和安卓手機(jī)商店中有不少利用AI“換臉”類APP供人挑選。

中國(guó)信息安全研究院副院長(zhǎng)左曉棟認(rèn)為,隨著AI“換臉”使用場(chǎng)景更豐富,行業(yè)和監(jiān)管部門應(yīng)當(dāng)研發(fā)相應(yīng)的“反換臉”檢測(cè)技術(shù),來(lái)篩選相關(guān)視頻是否由“換臉術(shù)”完成。他建議,要加快建立人工智能算法的安全評(píng)估制度,對(duì)不同場(chǎng)景下AI“換臉”技術(shù)進(jìn)行評(píng)估,解決相關(guān)技術(shù)濫用問(wèn)題。據(jù)新華社

記者體驗(yàn)

40多款人臉APP “霸王”條款屢見(jiàn)不鮮

一夜之間,換臉軟件火了,火到服務(wù)器都扛不住了。在2019世界人工智能大會(huì)上,已經(jīng)有專家指出,人工智能應(yīng)及時(shí)系上“安全帶”。為了進(jìn)一步印證類似的人臉App安全性,記者體驗(yàn)了40多款涉及人臉信息識(shí)別的App,發(fā)現(xiàn)不少問(wèn)題。

記者上傳了一張網(wǎng)絡(luò)照片,并進(jìn)行視頻制作。在等待了1分鐘后,視頻生成。記者選用的替換視頻是瑪麗蓮·夢(mèng)露的幾段影視作品。替換的視頻中,女孩的五官和視頻中的瑪麗蓮·夢(mèng)露融合在一起,表情也很自然?!斑@個(gè)月花700萬(wàn)租的服務(wù)器,今晚已經(jīng)消耗1/3了。”8月31日晚間,ZAO官方微博發(fā)出這樣一句感嘆。然而,即便如此,這款軟件仍然無(wú)法應(yīng)對(duì)海量用戶需求。一時(shí)間,“ZAO崩了”迅速成為微博熱點(diǎn)話題。

記者實(shí)測(cè)發(fā)現(xiàn),8月31日20時(shí),在平臺(tái)上傳照片并點(diǎn)擊“造視頻”,頁(yè)面顯示的是:當(dāng)前制造任務(wù)已滿,無(wú)法制造;23時(shí)30分,記者用另一個(gè)賬號(hào)登錄后,平臺(tái)顯示“當(dāng)前服務(wù)器制造量過(guò)大,請(qǐng)稍后再試。”與此同時(shí),ZAO在蘋果手機(jī)App Store的免費(fèi)App排行榜中已經(jīng)飆升至第二名。

次日早上7時(shí),記者再次嘗試,發(fā)現(xiàn)平臺(tái)運(yùn)行恢復(fù)正常。可上午10時(shí),記者制作視頻時(shí),服務(wù)器再次顯示“繁忙”,又回歸“累崩”狀態(tài)。

涉及人臉信息識(shí)別的App不光有ZAO,記者體驗(yàn)了40多款涉及人臉信息識(shí)別的App后發(fā)現(xiàn),與ZAO類似的“霸王”條款屢見(jiàn)不鮮。這些App中,沒(méi)有一款在注冊(cè)登錄頁(yè)有勾選按鈕,都是通過(guò)手機(jī)號(hào)或者微信等社交媒體賬號(hào)注冊(cè)。著急登陸并試玩用戶,可能并不清楚一閃而過(guò)的注冊(cè)頁(yè)面后,自己接受了哪些“霸王條款”,注冊(cè)之后用戶必須同意授權(quán)提供設(shè)備信息等權(quán)限,才可繼續(xù)使用。并且,其中僅有不到10款A(yù)pp的《用戶協(xié)議》,在協(xié)議開(kāi)頭就人臉信息的收集和使用規(guī)范做出特別提示,并在用戶協(xié)議里設(shè)置了有關(guān)人臉信息的條款。

記者還發(fā)現(xiàn),數(shù)十款換臉類App根本沒(méi)有《用戶協(xié)議》和《隱私政策》。

北京晚報(bào)


  • 上一篇:州車管所“放管服” 便民又利民
  • 下一篇:沒(méi)有了