您的位置:首頁 >生活 >

抖音“螞蟻呀嘿”刷屏特效火了又涼了 涉及隱私安全等問題

2021-03-04 11:18:26 來源:東方網(wǎng)

“螞蟻呀嘿,螞蟻呀呼,螞蟻呀哈,螞蟻呀哈哈......”過去一周,在微信朋友圈、微博、抖音等社交媒體平臺(tái),相信不少人都被這個(gè)魔性的音樂配合著夸張扭動(dòng)的變臉視頻刷屏了。

然而這款名為Avatarify,火爆全網(wǎng)的AI換臉軟件從2月底沖上蘋果App Store免費(fèi)榜第一,到今天從App Store中國區(qū)悄然“下架”只用了不到一周的時(shí)間。目前官方未給出具體下架原因,業(yè)界猜測該款軟件可能涉及隱私安全等問題。

AI換臉你體驗(yàn)過了嗎?

Avatarify的名稱來源于“阿凡達(dá)”電影,創(chuàng)作者是一位開發(fā)工程師,最初只是因?yàn)橐咔槠陂g過于太無聊,才開發(fā)了這款變臉應(yīng)用并將其開源。其實(shí)Avatarify早在去年7月就已經(jīng)上線,但一直不溫不火,直至”螞蟻呀嘿“特效躥紅后,才帶火了這款軟件。

軟件運(yùn)行的原理是將別人的臉套在自己的表情上進(jìn)行實(shí)時(shí)驅(qū)動(dòng)。用戶只需要三步:導(dǎo)入手機(jī)里的人臉圖片,選擇視頻模板,軟件就能自動(dòng)生成短視頻,再一鍵保存即可。如果想要照片中的多人都動(dòng)起來,根據(jù)抖音中大多數(shù)視頻制作教程,則還需要一些剪輯軟件加以輔助。

Avatarify軟件背后用到的是deepfakes這項(xiàng)強(qiáng)大的AI人臉交換技術(shù),這項(xiàng)技術(shù)不僅可以生成圖片,還可以生成視頻。Deepfakes,是由“deep machine learning”(深度機(jī)器學(xué)習(xí))和“fake photo”(假照片)組合而成,本質(zhì)是一種深度學(xué)習(xí)模型在圖像合成、替換領(lǐng)域的技術(shù)框架,DeepFakes的出現(xiàn)可以說是人臉交換技術(shù)的一個(gè)重要突破。

AI換臉安全爭議不可回避

然而,就像過往的任何一款換臉AI軟件一樣,Avatarify不可回避地也遇到了可能涉及的安全和隱私問題。人臉是非常隱私且重要的個(gè)人信息,由于換臉軟件在使用過程會(huì)收集用戶個(gè)人信息,如照片、面部特征等。如果將這些信息通過AI技術(shù)合成,一旦被泄露被盜取,很可能會(huì)對(duì)個(gè)人財(cái)產(chǎn)造成損害,以及由此帶來一系列未知風(fēng)險(xiǎn)。早前在國內(nèi)火爆一時(shí)的“ZAO”也曾因?qū)﹄[私泄露的擔(dān)心引發(fā)公眾焦慮和談?wù)?,并被工信部約談后下架。

對(duì)于Avatarify的下架,有網(wǎng)友表示:“技術(shù)是好技術(shù),但是應(yīng)該有正確的使用規(guī)范。在沒有規(guī)范的前提下應(yīng)當(dāng)謹(jǐn)慎使用。”“AI換臉最怕的就是被不法分子利用。”

2019年11月底,國家網(wǎng)信辦、文旅部和廣電總局等三個(gè)部門聯(lián)合發(fā)布了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》,其中明確了“利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的虛假圖像、音視頻生成技術(shù)制作、發(fā)布、傳播謠言的應(yīng)當(dāng)及時(shí)采取相應(yīng)的辟謠措施”等針對(duì)換臉技術(shù)的新規(guī)定。規(guī)定同時(shí)指出,利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實(shí)音視頻信息的,應(yīng)當(dāng)以顯著方式予以標(biāo)識(shí)。且不得利用該技術(shù)“制作、發(fā)布、傳播虛假信息”。此外,規(guī)定還強(qiáng)調(diào),不得利用相關(guān)的音視頻技術(shù)“侵害他人名譽(yù)權(quán)、肖像權(quán)、隱私權(quán)、知識(shí)產(chǎn)權(quán)和其他合法權(quán)益”。

任何AI技術(shù)的運(yùn)用都是人類科技發(fā)展進(jìn)步的體現(xiàn),但是在使用任何高科技和新手段的時(shí)候一定要守住法律和道德的底線。用戶在體驗(yàn)App的時(shí)候更要多留一份心眼。不能只顧好玩而忽略了信息安全及個(gè)人隱私的泄露問題。(解敏)