下一個(gè)被“AI分身”的，又會是誰？
采寫/一然
編輯/萬天南
?
11月2日，演員溫崢嶸竟在同一時(shí)間現(xiàn)身三個(gè)直播間。屏幕上分明都是她的臉，卻透著幾分詭異與諂媚，她一遍遍催促粉絲，“快下單！”
不明真相的粉絲，被“偶像”迅速“撬”開了錢包，殊不知，屏幕那端只是AI生成的幻影，一個(gè)沒有靈魂的數(shù)字傀儡。
溫崢嶸的遭遇，只是這場AI換臉侵權(quán)風(fēng)暴的冰山一角。
從一線頂流到翻紅老戲骨，乃至奧運(yùn)冠軍等，只要具備一定的辨識度和號召力，都可能成為“數(shù)字李鬼”的目標(biāo)。這些AI仿冒明星賬號的粉絲量，從幾百、幾千甚至數(shù)十萬不等，構(gòu)成了一個(gè)金字塔式的灰色流量生態(tài)。
當(dāng)AI技術(shù)開始掙脫法律和道德的韁繩，在現(xiàn)實(shí)和虛擬的夾縫中，我們該如何守護(hù)真實(shí)的邊界？鏈接可以下架，賬號可以被封禁，可一旦信任遭透支，又該如何贖回？
未來，我們每個(gè)人獨(dú)一無二的“數(shù)字身份”，是否都將淪為被隨意克隆、肆意濫用的獵物？
或許，明星們正在經(jīng)歷的今天，就是每個(gè)普通人即將面對的明天。
一
AI李鬼肆虐！明星集體“中招”
“對不起，溫崢嶸，是我們錯怪你了?！?/p>
鏡頭前，張柏芝面色凝重，對著鏡頭深深鞠了一躬。緊接著，劉濤、戚薇、舒淇等一眾女星也陸續(xù)出鏡，言辭懇切地表達(dá)著歉意和感謝。
這場看似真誠的“集體致歉”，在社交平臺迅速發(fā)酵。不少粉絲以為，這是明星之間的聯(lián)動，畢竟致歉的緣起，是溫崢嶸推薦的一款“人皮面膜”，讓眾女星感嘆“用晚了”。
可真相卻是，這場道歉的背后，竟藏著一場由AI編織的騙局。視頻中所有明星的人臉，均來自AI換臉技術(shù)盜用。
AI如同一個(gè)隱形的導(dǎo)演，將碎片化的影像剪輯、拼接，再配上偽造的臺詞，炮制出足以以假亂真的“集體致歉”，讓粉絲在不知不覺中掉入陷阱。
除了這類精心策劃的騙局，AI仿冒明星直播帶貨的亂像早已泛濫成災(zāi)。
早在今年4月，溫崢嶸就曾發(fā)布打假視頻，對著鏡頭鄭重聲明：“我只有一個(gè)官方賬號直播，其他所有以‘溫崢嶸’之名帶貨的直播間，全是假的！”
彼時(shí)，她的聲明并未引起足夠的重視。
直到電視劇《許我耀眼》熱播，她憑借“趙露思婆婆”一角精湛的演技再度翻紅，冒用其形象賣貨的直播間也悄然增多。
其粉絲曾在一天之內(nèi)舉報(bào)了18個(gè)“假溫崢嶸”直播間，但往往“舉報(bào)一個(gè)又冒出來一個(gè)，如同打地鼠游戲，永無止境?！?/p>
更荒誕的是，某個(gè)深夜，
“溫崢嶸”竟以三種不同妝發(fā)造型，同時(shí)出現(xiàn)在三個(gè)直播間。
當(dāng)看見“自己”在直播間諂媚又怪異地催促粉絲，“寶貝們，快下單！”，她又驚又怒，直接質(zhì)問，“你是溫崢嶸，那我是誰？”結(jié)果卻被踢出了直播間并拉黑。
溫崢嶸的遭遇并非個(gè)例，如今越來越多明星淪為“數(shù)字李鬼”的獵物。
今年2月，北京市海淀區(qū)市場監(jiān)管局接到消費(fèi)者舉報(bào)：某直播間正在售賣“深海多烯魚油”，主播竟是央視主持人“李梓萌”。
身穿職業(yè)套裝的“李梓萌”，語氣嚴(yán)肅地強(qiáng)調(diào)：“正品保證，假一罰四！魚油必須吃起來，吃了這個(gè)，別的咱都不用再吃了！”
直播間展板更赫然標(biāo)注“適合頭暈頭痛、手腳麻木、記憶力下降人群”等醫(yī)療宣傳語。
其實(shí)，視頻中的“李梓萌”純屬AI技術(shù)偽造。宣稱“能治病”的深海魚油，執(zhí)行標(biāo)準(zhǔn)實(shí)為糖果，不具備任何治療功能。
這是北京查處的首例濫用AI技術(shù)發(fā)布虛假廣告案，而類似騙局早已在網(wǎng)絡(luò)空間蔓延。
有人在某電商平臺看見“迪麗熱巴”在賣10塊錢的素顏霜。奧運(yùn)冠軍全紅嬋、孫穎莎、王楚欽等人，也都曾是AI克隆技術(shù)的受害者。
一個(gè)賬號盜用全紅嬋的聲音賣土雞蛋，視頻中模仿其稚嫩的腔調(diào)說道：“大家好，我是你們的嬋寶，今天有事請大家?guī)兔?，嬋妹就是想幫助媽媽，讓家里的生活過得更好一點(diǎn)?！?/p>
這條充滿“情感共鳴”的虛假視頻，點(diǎn)贊量高達(dá)1.1萬，商品鏈接顯示已售出4.7萬件。而全紅嬋的家人早已公開澄清，她從未為相關(guān)農(nóng)產(chǎn)品代言或授權(quán)。
這些“AI李鬼”，不僅盜用了明星的臉，更竊取了他們積累多年的公眾信任。而受損的，遠(yuǎn)不止明星個(gè)人權(quán)益，更是整個(gè)社會賴以運(yùn)轉(zhuǎn)的信任體系。
二
算法獵殺情感：AI仿冒背后的精準(zhǔn)詐騙
?
“以前我們說‘眼見為實(shí)’，可現(xiàn)在眼睛看到的，可能是AI編織的謊言。”一位粉絲在經(jīng)歷了“假明星”騙局后，發(fā)出這樣的感慨。
“寶貝，我愛你們，我也好愛好愛這款面膜，快下單吧！”“克隆明星”的一聲聲呼喚，如同細(xì)密的針尖，精準(zhǔn)刺入粉絲的情感軟肋。
“偶像推薦的東西肯定靠譜！”、“已經(jīng)下單了，支持偶像！”直播間滾動顯示的下單記錄，營造了一種“手慢無”的緊張搶購氛圍。
“這個(gè)AI仿冒的溫崢嶸把我媽騙得團(tuán)團(tuán)轉(zhuǎn)，買了一大堆廉價(jià)護(hù)膚品?！币晃环劢z無奈吐槽。而另一位網(wǎng)友稱，為了支持“偶像”，一次性購買了5、6支低檔口紅。
“我一直覺得她說話怪怪的，眼神也特別呆滯，但我媽說這就是她的偶像，還說偶像親測有效了，非讓我?guī)退聠?。一款原價(jià)100多的韓國面膜，假直播間只賣39.8元，我媽一次就買了20盒?！币晃痪W(wǎng)友爆料，母親已經(jīng)在假明星直播間陸續(xù)花了近萬元。
AI技術(shù)本無善惡，可當(dāng)它被惡意使用時(shí)，便成了最精準(zhǔn)的情感獵殺工具。對詐騙分子而言，聲音克隆、面部替換不過是技術(shù)手段，真正捕獲受害者的，是對人性弱點(diǎn)的精準(zhǔn)拿捏。
而從各大平臺的評論區(qū)不難發(fā)現(xiàn)，受騙群體多以中老年人為主。
“我媽看見明星賣貨就想買，我告訴她是假的，她還跟我大喊大叫，說自己親眼看見的怎么會是假的?！币晃痪W(wǎng)友的吐槽，道出了無數(shù)家庭的無奈。
但很多年輕網(wǎng)友坦言，自己也能理解父母被騙的遭遇。畢竟許多假冒明星的直播間，AI仿冒效果十分逼真，年輕人尚且難以分辨，何況是對AI技術(shù)認(rèn)知較為薄弱的老年人，
早在5月份，就有細(xì)心的粉絲察覺異常：“我看見溫崢嶸在倆直播間同時(shí)直播，一個(gè)穿著藍(lán)裙子，有1萬多人在線，另一個(gè)有3000多人。我在人少的直播間說，你這肯定是假的，立馬就被踢出來了?！?/p>
但更多粉絲仍被“李鬼明星”所迷惑。
有的賬號通過AI換臉技術(shù)冒充楊冪、劉亦菲賣減肥茶，誘導(dǎo)消費(fèi)者瘋狂下單。
在某平臺，一個(gè)昵稱像是亂碼的賬號，卻擁有3378個(gè)粉絲，并通過AI仿冒溫崢嶸帶貨視頻，獲得了10.3萬次點(diǎn)贊。該賬號的商品櫥窗僅陳列面膜、眼油、防曬等3個(gè)商品，已售件數(shù)高達(dá)5928單，跟買人數(shù)是5852人。目前，該賬號的作品及商品櫥窗均已清空。
《財(cái)經(jīng)故事薈》分析發(fā)現(xiàn)，仿冒賬號帶貨商品高度集中在化妝品、護(hù)膚品、保健品、日用品等高頻或者暴利品類，大多以“明星自用”為噱頭。
這些商品的共同特點(diǎn)是目標(biāo)群體廣、利潤空間大、質(zhì)量難以直觀判斷，且極度依賴明星信譽(yù)背書，恰好契合了“AI仿冒”的詐騙邏輯。
三
平臺明星用戶都“受傷”
截至11月7日，在某平臺搜索“溫崢嶸”，仍可顯示近百個(gè)相關(guān)賬號。除個(gè)別授權(quán)“切片”賬號外，大多數(shù)已轉(zhuǎn)為私密狀態(tài)。
事實(shí)上，溫崢嶸團(tuán)隊(duì)早在今年4月就啟動了維權(quán)，他們通過錄屏、截圖等方式保存證據(jù)，也曾投訴過50多個(gè)仿冒賬號，成功封停了至少20多個(gè)直播間。
其團(tuán)隊(duì)工作人員坦言，造假者的成本極低，僅需截取一段影像，通過簡易工具就能生成虛假內(nèi)容，但維權(quán)取證卻需耗費(fèi)大量精力，即便發(fā)送了律師函，目前調(diào)查到的也只是一部分造假商家。
侵權(quán)者的手段遠(yuǎn)比想象中更為狡詐。許多賬號擅長“打時(shí)間差”，專挑凌晨3、4點(diǎn)這類平臺監(jiān)管薄弱的時(shí)間段進(jìn)行直播，一旦賬號被封禁，立刻更換ID、頭像，借新賬號卷土重來。
而溫崢嶸為何遭遇如此多AI造假？
答案在于，除了近期翻紅之外，她本人就直播帶貨，這為造假商家提供了豐富“素材”。第三方直播監(jiān)測平臺數(shù)據(jù)顯示：溫崢嶸抖音賬號粉絲數(shù)385.8萬，今年以來共直播200多場，場均觀看人次近百萬，所售商品品類中，美妝護(hù)膚類占比54.19%。
而一份關(guān)于“溫崢嶸肖像權(quán)網(wǎng)絡(luò)侵權(quán)情況”統(tǒng)計(jì)表格顯示，其被侵權(quán)的產(chǎn)品也大多是化妝品，價(jià)格從300多到7.8元不等。
面對這場席卷而來的AI侵權(quán)風(fēng)暴，平臺其實(shí)也是受害者。
抖音集團(tuán)副總裁第一時(shí)間回應(yīng)了“演員溫崢嶸被AI盜播帶貨”事件。據(jù)他澄清，“三個(gè)直播間同時(shí)開播”的案例并非發(fā)生在抖音平臺。
不過，AI內(nèi)容侵權(quán)識別是行業(yè)性技術(shù)難題，惡意仿冒賬號也在不斷地與平臺進(jìn)行技術(shù)對抗。
面對AI克隆明星，抖音的出手是最快的。今年10月，抖音電商已啟動“仿冒名人宣傳”專項(xiàng)治理行動。截止目前，已處置1.1萬個(gè)違規(guī)帶貨賬號、6700多個(gè)違規(guī)商品，并對違規(guī)賬號，采取中斷其直播間、下架違規(guī)商品、凍結(jié)成交額等措施。平臺還引導(dǎo)多位達(dá)人開啟“阻止相同侵權(quán)內(nèi)容傳播”功能，已攔截?cái)?shù)萬條侵權(quán)視頻。
但其他平臺，同樣存在AI克隆明星的侵權(quán)情況。
當(dāng)信任被反復(fù)透支，當(dāng)真實(shí)被不斷模糊，最終受損的，是整個(gè)數(shù)字生態(tài)的健康穩(wěn)定。
四
拆解AI換臉產(chǎn)業(yè)鏈
在小紅書的角落，一條僅一人點(diǎn)贊的帖子，卻隱藏著AI換臉交易的隱秘入口。帖子里是令人驚嘆的AI融合效果演示。
《財(cái)經(jīng)故事薈》以客戶身份咨詢：“你們這AI換臉技術(shù)是怎么操作的？怎么收費(fèi)？”
等了一個(gè)多小時(shí)，對方回消息稱，“服務(wù)包含訓(xùn)練人臉模型、遠(yuǎn)程安裝調(diào)試，再加長期免費(fèi)售后，一口價(jià)1980，永久使用?！?/p>
我們追問：“能用明星的臉嗎？”對方秒回：“可以，不加錢?！?/p>
對方承諾，付款后可獲得一男一女兩個(gè)演示模型和一個(gè)私人定制模型，模型訓(xùn)練僅需2-3天，安裝當(dāng)天即可完成，生成的“數(shù)字人”，不僅外形逼真，還能實(shí)時(shí)互動、直播帶貨。
再追問細(xì)節(jié)，對方突然警覺起來，未直接回答，反而甩過來一張圖片——一條空曠的公路，指示牌被P上了一行微信ID。緊接著又來一句：“換個(gè)地方聊吧?！?/p>
兩日后，對方通過微信好友申請，要求先支付500元定金，承諾模型訓(xùn)練好之后可以部署至用戶電腦，教直播帶貨操作，但不負(fù)責(zé)引流。
對方還透露，若為MCN機(jī)構(gòu)操作多個(gè)賬號可優(yōu)惠，并提供兩個(gè)方案：一、技術(shù)買斷19800包售后，不限制賬號數(shù)量，但不建議多個(gè)賬號用同一張臉；二，按賬號計(jì)費(fèi)，原價(jià)1980元，優(yōu)惠價(jià)1580元，并稱已與兩家傳媒公司達(dá)成合作。
某平臺上，多個(gè)已轉(zhuǎn)為私密狀態(tài)的明星關(guān)聯(lián)帶貨賬號，曾標(biāo)注過同一MCN機(jī)構(gòu)?！敦?cái)經(jīng)故事薈》致電詢問合作，對方極為警覺，稱暫不合作，并粗暴掛斷電話。
當(dāng)加其微信，表明“自家產(chǎn)的化妝品尋求克隆明星合作時(shí)”，對方卻未拒絕，也未詢問是否具備合格資質(zhì)，僅要求先看文字介紹。
《第一財(cái)經(jīng)》曾報(bào)道顯示，AI換臉的黑灰產(chǎn)業(yè)鏈已形成牟利閉環(huán)，涵蓋上游數(shù)據(jù)獲取、中游技術(shù)生成、下游場景應(yīng)用及洗錢變現(xiàn)等環(huán)節(jié)。
上游通過爬蟲抓取、二手設(shè)備提取、音頻截取等方式，獲取受害者生活照、聲紋切片與3D頭模；中游包括通過技術(shù)手段實(shí)現(xiàn)人臉替換、動態(tài)驅(qū)動、對抗檢測等；下游則將這些“數(shù)字李鬼”應(yīng)用直播帶貨、詐騙勒索、虛假宣傳等違法行為。
在閑魚上，人臉識別教學(xué)視頻+人臉提取業(yè)務(wù)售價(jià)僅49.9元。但賣家在商品詳情頁標(biāo)注，“需確保素材不侵權(quán)，小鋪不承擔(dān)非法使用責(zé)任?！睂L(fēng)險(xiǎn)完全轉(zhuǎn)移給買家。
某購物平臺，雖無法通過“AI換臉”搜到商品，但通過“定制視頻”等隱蔽關(guān)鍵詞，仍能找到出售換臉軟件，及定制服務(wù)的賣家。
除了換臉工具，批量生產(chǎn)的虛假內(nèi)容也在暗中流通。
《財(cái)經(jīng)故事薈》調(diào)查發(fā)現(xiàn)，某平臺商家出售AI明星語音包、視頻合成服務(wù)。部分商家甚至打出“定制明星祝福視頻，真人語音，最低50元起?！?/p>
當(dāng)詢問能否定制一段“楊冪祝福生日”視頻，對方爽快回應(yīng)：“可以。100字50秒450元，30字左右250元，若加急，則需要300元?！痹摰赇亙H有203個(gè)粉絲，卻已售出1533件商品。其中“定制明星視頻”鏈接顯示，已售出21件。
最荒誕的是，這條灰色產(chǎn)業(yè)鏈還衍生出了“局中局”。
一些不法分子售賣“AI克隆直播引流教程”，但有網(wǎng)友爆料，所謂AI數(shù)字人直播課程，根本就是一場騙局。對方先以“羅永浩做數(shù)字人直播”的案例誘其入局，再要求交298元試學(xué)7天課程，結(jié)果3天過去了，什么有用內(nèi)容也沒教。
最具諷刺意味的是，他們展示的“學(xué)員答謝視頻”，竟也是AI生成的虛假內(nèi)容。
盡管，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》及《生成式人工智能服務(wù)管理暫行辦法》已陸續(xù)出臺，但在執(zhí)行層面仍面臨挑戰(zhàn)。
AI數(shù)字人虛假營銷，涉及技術(shù)提供方、內(nèi)容生成者、直播平臺、商家等多個(gè)環(huán)節(jié)，現(xiàn)有法律并未清晰劃定各方責(zé)任，給維權(quán)帶來極大難度。
今年9月1日，《人工智能生成合成內(nèi)容標(biāo)識辦法》正式施行，要求所有AI生成的文字、圖片、視頻等內(nèi)容都要“亮明身份”。但在實(shí)踐中，平臺審核海量內(nèi)容難免疏漏、商家刻意規(guī)避標(biāo)識等現(xiàn)象，使新規(guī)落地效果大打折扣。
面對日益精進(jìn)的AI技術(shù)，我們只能先掌握一定的識別技巧。例如，AI換臉視頻可能存在細(xì)微的不自然之處，如面部表情僵硬、眨眼頻率異常、光線與面部不協(xié)調(diào)等微小破綻。同時(shí)，務(wù)必保護(hù)好個(gè)人身份信息，不隨意上傳手持身份證照片或視頻。若發(fā)現(xiàn)信息被冒用或遭遇可疑詐騙，第一時(shí)間保存證據(jù)并報(bào)警。
對于消費(fèi)者而言，選擇正規(guī)渠道和官方認(rèn)證賬號是避免受騙的重要方式。在觀看明星直播間時(shí)，應(yīng)認(rèn)準(zhǔn)明星的官方賬號，特別是帶有加V認(rèn)證的賬號。
技術(shù)是一面鏡子，照出了使用者的良知與底線。
當(dāng)AI以極低成本復(fù)制一個(gè)“明星”，當(dāng)信任成為可以量化的收割工具，我們面臨的不僅是法律的漏洞，更是人性與科技的博弈。
未來，唯有讓法律跟上技術(shù)的腳步，讓平臺扛起監(jiān)管的責(zé)任，讓個(gè)體提高警惕，或許才能在這場洶涌的AI浪潮中，守護(hù)住那個(gè)不被復(fù)制的、獨(dú)一無二的“我”。
END
?
