每經(jīng)編輯 杜宇

4月18日，女星張馨予在社交平臺發(fā)文，稱有商家利用AI技術(shù)復(fù)制其聲音售賣減肥藥，引發(fā)關(guān)注。

張馨予表示：“近期發(fā)現(xiàn)有品牌Ai復(fù)制我的聲音，未經(jīng)授權(quán)編造剪輯廣告視頻，還有減肥藥廣告，我覺得這樣的行為很惡劣。在此說明我從來沒有推薦過任何減肥藥，有商家利用Ai技術(shù)非法剪輯投放廣告，我一定追究到底。”

圖片來源：張馨予社交平臺

評論區(qū)，不少網(wǎng)友表示自己此前也刷到過類似的視頻，不仔細看很容易被騙。

張馨予曾多次因“減肥”相關(guān)話題登上熱搜。

2025年2月1日，張馨予發(fā)文，自曝一個月胖了9斤，曬出體重稱達到了歷史新高。

圖片來源：張馨予微博

隨后，3月27日，張馨予再次發(fā)文稱：干凈飲食才是正確的瘦身思路！雞蛋西藍花等可以作為午餐，再加一拳頭碳水，粗糧是首選，等于是任意蔬菜、蛋白質(zhì)、優(yōu)質(zhì)碳水為一個組合，目前已經(jīng)恢復(fù)到53公斤啦！接下來加入健身。

張馨予還在評論區(qū)回復(fù)網(wǎng)友，如果管不住嘴就看看喜歡的身材，比如她自己就喜歡看鐘楚曦。

圖片來源：張馨予微博

據(jù)公開資料顯示，張馨予，1987年3月28日出生于江蘇省蘇州市昆山市，影視女演員，代表作有《封神英雄榜》《武媚娘傳奇》《神雕俠侶》。2009年，出演個人首部電視劇《青春進行時》，從而正式進入演藝圈。2014年，因在武俠劇《神雕俠侶》中飾演李莫愁再次受到關(guān)注。2015年，憑借古裝神話劇《封神英雄榜》入圍第17屆華鼎獎古裝劇最佳女主角獎。2018年8月5日，張馨予宣布與綜藝節(jié)目《奇兵神犬》中的教官何捷結(jié)婚，8月27日，二人在上海舉行婚禮。

除了張馨予，還曾有不少明星成為AI偽造視頻的素材。

3月5日，演員古天樂、林峯所在的經(jīng)紀公司發(fā)布聲明，稱有線上游戲平臺利用AI技術(shù)，將自己的肖像、聲音及過往視頻片段，合成制作為帶有賭博性質(zhì)的代言宣傳片。

經(jīng)紀公司否認其與有關(guān)游戲平臺合作，或代言、推廣它們的業(yè)務(wù)，提醒各方人士不要輕信，以免受騙上當。對于盜用兩人名義或肖像作虛假宣傳或詐騙的行為，公司必然追究。

3月3日，演員劉曉慶回應(yīng)遭AI換臉：“我點進去看了一下，畫面是我，聲音很像我，但不是我！這是怎么做到的？大家以后不會搞不清楚哪個才是真的我了吧？我在各個平臺都叫劉曉慶！”

圖片來源：劉曉慶微博

3月4日，小米集團創(chuàng)始人雷軍接受央視總臺記者專訪時表示，“AI技術(shù)發(fā)展以后，AI換臉、AI擬聲在網(wǎng)上已經(jīng)成為了重災(zāi)區(qū)，我本人也是主要的受害者，呼吁盡快立法重點整治。”

3月6日，就AI換臉這個代表、委員關(guān)注的話題，中國傳媒大學(xué)副教授張鸝對瀟湘晨報表示，AI換臉帶來的風險，主要體現(xiàn)在三個方面：

一是有不法分子通過AI換臉技術(shù)進行詐騙，給普通民眾造成財產(chǎn)損失；

二是AI換臉技術(shù)孳生了一些灰色產(chǎn)業(yè)，例如用AI換臉技術(shù)制作冒充教授或明星的視頻，甚至發(fā)布不當內(nèi)容；

三是公眾人物受到AI換臉技術(shù)的侵害，致使個人形象、聲譽受損。

張鸝也指出：“AI技術(shù)在帶來風險的同時，也具有潛在的應(yīng)用價值。例如在內(nèi)容生產(chǎn)領(lǐng)域，AI技術(shù)讓視頻制作更加便捷、降本增效，這本身就是生產(chǎn)力的某種釋放。因此，對待AI技術(shù)不能采取‘一刀切’的態(tài)度，不能看到風險就全面禁止其應(yīng)用。”

張鸝認為，對于普通用戶來說，AI換臉技術(shù)更像互聯(lián)網(wǎng)上的一場狂歡，主要用于制作趣味視頻，很多其實無傷大雅，如果未明確侵害他人利益，這種娛樂本身也是學(xué)習(xí)AI技術(shù)的途徑之一。“技術(shù)本無善惡、有利也有弊，其中的邊界也比較模糊。”

“假如AI換臉被過度濫用，或許將來某一天，我們不得不在發(fā)布真實錄制內(nèi)容時進行聲明、強調(diào)內(nèi)容的真實性。如果那一天真的到來，整個社會對真實性的鑒別成本將會非常高，因此目前就要采取辦法避免該技術(shù)泛濫成災(zāi)。”張鸝說。除立法外，公眾人物也可以考慮采用這種類似“白名單制度”的方法進行真實性聲明。

“人們對于真實的認定門檻的確是在不斷提高的，這或許是互聯(lián)網(wǎng)普及和AI技術(shù)發(fā)展不可避免的宿命。在技術(shù)飛速發(fā)展的年代，要通過各種方式增強民眾的警惕性和鑒別力，這一點尤為重要。”張鸝說。

每日經(jīng)濟新聞綜合央視新聞、瀟湘晨報、張馨予微博、劉曉慶微博、公開資料

封面圖片來源：視覺中國