每經(jīng)編輯 孫志成    

建瓴高屋觀大勢(shì) 言為心聲謀發(fā)展

奮斗中國(guó)#企業(yè)家建言兩會(huì)#

2021每日經(jīng)濟(jì)新聞特別策劃??↓↓↓

“螞蟻呀嘿，螞蟻呀呼，螞蟻呀哈，螞蟻呀哈哈......”過(guò)去一周，在微信朋友圈、微博、抖音等社交媒體平臺(tái)，相信不少人都被這個(gè)魔性的音樂(lè)配合著夸張扭動(dòng)的變臉視頻刷屏了。

然而這款名為Avatarify，火爆全網(wǎng)的AI換臉軟件從2月底沖上蘋(píng)果App Store免費(fèi)榜第一，到3月2日凌晨從App Store中國(guó)區(qū)悄然“下架”，只用了不到一周的時(shí)間。目前官方未給出具體下架原因，業(yè)界猜測(cè)該款軟件可能涉及隱私安全等問(wèn)題。

因“螞蟻呀嘿”特效火爆全網(wǎng)

最近，在某短視頻社交平臺(tái)上，一個(gè)叫作“螞蟻呀嘿”的特效火了。許多網(wǎng)友都將自己的照片導(dǎo)入一款名為Avatarify的“變臉”軟件中，照片會(huì)被算法驅(qū)動(dòng)，變成一段跟著節(jié)奏晃動(dòng)的視頻。

這款軟件有多火？

據(jù)東方網(wǎng)，移動(dòng)應(yīng)用數(shù)據(jù)分析平臺(tái)七脈數(shù)據(jù)顯示，2月25日0點(diǎn)，Avatarify在中國(guó)區(qū)App Store的免費(fèi)App榜單僅排名第65，而到了當(dāng)日下午五點(diǎn)，Avatarify躥升至免費(fèi)榜第一名，并一直持續(xù)到3月1日。

直到3月5日，抖音#螞蟻呀嘿#相關(guān)話題播放總量已超29億次，特效被 785 萬(wàn)人使用。

據(jù)東方網(wǎng)，Avatarify的名稱來(lái)源于“阿凡達(dá)”電影，創(chuàng)作者是一位開(kāi)發(fā)工程師，最初只是因?yàn)橐咔槠陂g過(guò)于太無(wú)聊，才開(kāi)發(fā)了這款變臉應(yīng)用并將其開(kāi)源。其實(shí)Avatarify早在去年7月就已經(jīng)上線，但一直不溫不火，直至”螞蟻呀嘿“特效躥紅后，才帶火了這款軟件。

這款軟件通過(guò)AI換臉技術(shù)讓圖片動(dòng)起來(lái)，為網(wǎng)友帶來(lái)新奇好玩的娛樂(lè)體驗(yàn)，同時(shí)，螞蟻呀嘿短視頻的靈魂在于BGM，為人物增加了反差效果，從馬斯克、馬化騰等科技公司大佬，吳京、甄子丹等演藝界明星，到蒙拉麗莎等世界名畫(huà)，甚至貓貓狗狗們，都唱起了“螞蟻呀嘿”。

軟件運(yùn)行的原理是將別人的臉套在自己的表情上進(jìn)行實(shí)時(shí)驅(qū)動(dòng)。用戶只需要三步：導(dǎo)入手機(jī)里的人臉圖片，選擇視頻模板，軟件就能自動(dòng)生成短視頻，再一鍵保存即可。如果想要照片中的多人都動(dòng)起來(lái)，根據(jù)抖音中大多數(shù)視頻制作教程，則還需要一些剪輯軟件加以輔助。

據(jù)中國(guó)商報(bào)，目前的換臉技術(shù)與國(guó)外一款開(kāi)源的AI換臉軟件deepfake極為相似。deepfake的核心技術(shù)是一種名為生成式對(duì)抗網(wǎng)絡(luò)（GAN）的框架，該網(wǎng)絡(luò)有兩個(gè)模塊，一個(gè)負(fù)責(zé)生成偽圖，另一個(gè)負(fù)責(zé)鑒別生成圖片的質(zhì)量，通過(guò)“對(duì)抗博弈”的方式不斷進(jìn)化，達(dá)到以假亂真的水平。

從中國(guó)區(qū)App Store下架

就在一眾網(wǎng)友玩的興起的時(shí)候，3月2日，在火爆了不到一周后，Avatarify卻悄然從App store下架了。

關(guān)于下架原因，目前官方并未說(shuō)明。有網(wǎng)友表示，Avatarify只從中國(guó)區(qū)App Store下架，其余地區(qū)仍可正常下載，下架原因或與此前火爆一時(shí)的“ZAO”下架原因類似，涉及隱私安全等問(wèn)題。但目前在App Store上，還有一批“螞蟻呀嘿同款特效”的App。

實(shí)際上，Avatarify遇到的問(wèn)題早就出現(xiàn)過(guò)。

早在2019年，一款名為“ZAO”的換臉社交軟件在朋友圈刷屏，這款A(yù)pp由陌生人社交巨頭陌陌開(kāi)發(fā)，用戶只需要一張正臉照，就可以替換影視作品或者小視頻中的人物，生成以自己為主角的視頻片段。

不過(guò)，這項(xiàng)技術(shù)在帶來(lái)創(chuàng)新體驗(yàn)的同時(shí)，也存在被濫用甚至侵害他人權(quán)益等額外風(fēng)險(xiǎn)，這也是Avatarify和ZAO引發(fā)質(zhì)疑的共同原因。

雖然ZAO曾在其官方微博發(fā)布聲明稱，沒(méi)有采集任何個(gè)人生物識(shí)別特征、不會(huì)存儲(chǔ)個(gè)人面部生物識(shí)別特征信息、使用ZAO不會(huì)產(chǎn)生支付風(fēng)險(xiǎn)等，但依然無(wú)法打消用戶的疑慮，并引起了有關(guān)部門(mén)的關(guān)注。ZAO的口碑遭遇“滑鐵盧”。

值得注意的是，由于Avatarify采用的是免費(fèi)下載+內(nèi)購(gòu)的形式，用戶若想在生成的動(dòng)圖及視頻中去除水印、增加內(nèi)存，則需要付費(fèi)。據(jù)了解，此前Avatarify一周的使用價(jià)格為人民幣18元，包年價(jià)格為253元，首周免費(fèi)。對(duì)于這個(gè)價(jià)格與服務(wù)，用戶的接受度并不高。

賺錢的反倒是網(wǎng)店。盡管Avatarify被突然下架，大眾對(duì)“螞蟻呀嘿”類視頻需求并沒(méi)有因此減弱。據(jù)北京日?qǐng)?bào)，目前在淘寶、閑魚(yú)等平臺(tái)上仍有這類視頻的代制作服務(wù)?！昂芏嗳讼胗谩浵佈胶佟@樣的視頻上傳抖音，但并不會(huì)花錢去買Avatarify，所以會(huì)托我們制作?！币晃惶詫氋u家表示，他們團(tuán)隊(duì)已經(jīng)達(dá)到了10人，可以最快在30分鐘內(nèi)完成相關(guān)視頻的制作，收費(fèi)為一張9.9元。

AI換臉安全爭(zhēng)議不可回避

據(jù)央視新聞，類似”螞蟻呀嘿“這樣的特效，也是存在相應(yīng)風(fēng)險(xiǎn)的。?在采訪中，演示人員為央視記者演示了如何利用深度合成中的表情操縱方法的安全漏洞攻擊人臉識(shí)別系統(tǒng)。

演示人員 張?zhí)燹龋耗F(xiàn)在看到的這段視頻，就是利用深度合成中的表情操縱的方法生成的一段偽造的視頻。就是說(shuō)我們可以操縱一張圖片，讓它做出和右邊這個(gè)視頻一樣的動(dòng)作來(lái)。比如說(shuō)點(diǎn)頭、搖頭、說(shuō)話?？梢杂糜诠羧四樧R(shí)別系統(tǒng)的這種場(chǎng)景當(dāng)中。?

總臺(tái)央視記者 杜思源：我們能看一下具體的攻擊過(guò)程嗎？?

演示人員 張?zhí)燹龋?/span>我們可以生成系統(tǒng)指令的這些，張嘴、點(diǎn)頭、搖頭之類的指定的動(dòng)作，然后最終我們就可以冒充這個(gè)人完成了人臉驗(yàn)證的環(huán)節(jié)。?

總臺(tái)央視記者 杜思源：也就是說(shuō)我們只需要這個(gè)人的一張照片，就可以冒充他，然后攻破這個(gè)系統(tǒng)。?

演示人員 張?zhí)燹龋菏堑摹?

2019年11月底，國(guó)家網(wǎng)信辦、文旅部和廣電總局等三個(gè)部門(mén)聯(lián)合發(fā)布了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，其中明確了“利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的虛假圖像、音視頻生成技術(shù)制作、發(fā)布、傳播謠言的應(yīng)當(dāng)及時(shí)采取相應(yīng)的辟謠措施”等針對(duì)換臉技術(shù)的新規(guī)定。規(guī)定同時(shí)指出，利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實(shí)音視頻信息的，應(yīng)當(dāng)以顯著方式予以標(biāo)識(shí)。且不得利用該技術(shù)“制作、發(fā)布、傳播虛假信息”。此外，規(guī)定還強(qiáng)調(diào)，不得利用相關(guān)的音視頻技術(shù)“侵害他人名譽(yù)權(quán)、肖像權(quán)、隱私權(quán)、知識(shí)產(chǎn)權(quán)和其他合法權(quán)益”。

近年來(lái)，圍繞人臉識(shí)別的爭(zhēng)議不斷。由全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)等機(jī)構(gòu)發(fā)布的《人臉識(shí)別應(yīng)用公眾調(diào)研報(bào)告（2020）》顯示，有九成以上的受訪者使用過(guò)人臉識(shí)別，有六成受訪者認(rèn)為人臉識(shí)別技術(shù)有濫用趨勢(shì)，還有三成受訪者稱已經(jīng)因?yàn)槿四樞畔⒈恍孤逗蜑E用而遭受到隱私或財(cái)產(chǎn)損失。

用戶的個(gè)人信息安全問(wèn)題也引起了有關(guān)部門(mén)的重視。早在2019年11月底，國(guó)家網(wǎng)信辦、文旅部和廣電總局三個(gè)部門(mén)就聯(lián)合發(fā)布了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，其中第十一條指出，基于deepfake技術(shù)制作的換臉視頻“應(yīng)當(dāng)以顯著方式予以標(biāo)識(shí)”，且不得利用該技術(shù)“制作、發(fā)布、傳播虛假新聞信息”。

在近日召開(kāi)的全國(guó)政協(xié)十三屆四次會(huì)議新聞發(fā)布會(huì)上，大會(huì)新聞發(fā)言人郭衛(wèi)民也表示，個(gè)人信息保護(hù)法草案已經(jīng)提請(qǐng)全國(guó)人大常委會(huì)審議，對(duì)保護(hù)個(gè)人信息安全將發(fā)揮重要作用。

編輯|孫志成?肖勇

校對(duì)|何小桃

每日經(jīng)濟(jì)新聞綜合東方網(wǎng)、中國(guó)商報(bào)、北京日?qǐng)?bào)、央視新聞等

截至3月4日6:23，全球新冠肺炎確診115033409例，死亡2556515例。關(guān)注全球新冠肺炎疫情動(dòng)態(tài)，請(qǐng)點(diǎn)擊↓↓