“你是溫崢嶸，我是誰(shuí)？”近日，演員溫崢嶸在直播間發(fā)出的質(zhì)問(wèn)，揭開(kāi)了AI換臉盜播亂象的荒誕一面。今年11月初，她發(fā)現(xiàn)自己被AI“分身”在多個(gè)直播間同時(shí)帶貨，質(zhì)問(wèn)后竟遭拉黑。

此類事件并非孤例，從央視主持人李梓萌到奧運(yùn)冠軍全紅嬋，公眾人物正成為AI仿冒的重災(zāi)區(qū)。

隨著《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》落地，平臺(tái)專項(xiàng)治理相繼啟動(dòng)，但技術(shù)濫用形成的黑色產(chǎn)業(yè)鏈仍在侵蝕直播電商的信任基石。當(dāng)“證明我是我”成為維權(quán)難題，AI技術(shù)的倫理邊界與治理體系亟待重構(gòu)。

AI技術(shù)正將科幻敘事推向現(xiàn)實(shí)?！缎侣勁?》中通過(guò)AI“復(fù)活”已故主播梁景仁的劇情尚在熱議，演員溫崢嶸已遭遇真實(shí)版的“數(shù)字分身”危機(jī)。

近日，演員溫崢嶸自爆遭AI盜播，曾在凌晨三四點(diǎn)拍完戲后，刷到有直播間出現(xiàn)她的帶貨形象，而彼時(shí)她并未開(kāi)播，質(zhì)問(wèn)后被對(duì)方立刻拉黑。

溫崢嶸在采訪中表示，“早在4月份之前，就說(shuō)我出現(xiàn)在多個(gè)直播間，同一時(shí)段，妝發(fā)不同，不同的產(chǎn)品，說(shuō)著同樣的話?！蹦壳?，多個(gè)直播間同時(shí)出現(xiàn)的“溫崢嶸”均非其本人出鏡，此類內(nèi)容都是AI合成的虛假直播及盜播、錄播的過(guò)往片段。

11月5日晚，平臺(tái)方發(fā)布了相關(guān)處置信息，通過(guò)專項(xiàng)治理，共處置下架溫崢嶸相關(guān)仿冒侵權(quán)的視頻1萬(wàn)余條，其中帶貨類視頻6900余條，并對(duì)37個(gè)違規(guī)賬號(hào)予以處罰。

這些數(shù)字背后，是一條基于AI技術(shù)的黑灰產(chǎn)鏈條，正在悄然侵蝕直播電商的信任根基。這種“真假難辨”的荒誕感，折射出深度偽造技術(shù)普及后的身份認(rèn)知困境。有忠實(shí)粉絲曾一天內(nèi)舉報(bào)18個(gè)偽造直播間，仍陷入“封一個(gè)、冒一個(gè)”的拉鋸戰(zhàn)。

11月6日，針對(duì)近期“演員溫崢嶸被AI盜播帶貨”事件，抖音集團(tuán)副總裁李亮發(fā)文回應(yīng)稱，經(jīng)核查，“三個(gè)直播間同時(shí)開(kāi)播”案例并非發(fā)生在抖音平臺(tái)。但他同時(shí)指出，平臺(tái)確實(shí)存在利用AI技術(shù)仿冒名人進(jìn)行帶貨的違規(guī)內(nèi)容。

李亮表示，這類AI侵權(quán)仿冒行為嚴(yán)重?fù)p害各方信譽(yù)，平臺(tái)已開(kāi)展專項(xiàng)治理，嚴(yán)禁使用AI技術(shù)仿冒他人身份進(jìn)行營(yíng)銷。據(jù)悉，抖音電商安全中心9月2日已發(fā)布公告，強(qiáng)調(diào)將嚴(yán)厲打擊AI內(nèi)容濫用行為，對(duì)違規(guī)視頻和賬號(hào)采取下架、清退等措施。

目前平臺(tái)發(fā)現(xiàn)的主要違規(guī)形式包括：利用AI生成虛假商品展示、冒充專家名人進(jìn)行帶貨、編造虛構(gòu)測(cè)評(píng)誤導(dǎo)消費(fèi)者等。抖音方面承諾將持續(xù)加大技術(shù)投入，維護(hù)創(chuàng)作者、商家和消費(fèi)者的合法權(quán)益。

近年來(lái)，利用AI換臉換聲生成虛假內(nèi)容的案件屢見(jiàn)不鮮。在二手平臺(tái)，甚至僅需不到20元即可購(gòu)買AI換臉?lè)?wù)，不法商家通過(guò)截取公眾人物影像，利用各種技術(shù)規(guī)避平臺(tái)審核。

6月份，北京市海淀區(qū)市場(chǎng)監(jiān)管局查處了某公司利用AI技術(shù)冒用央視主持人李梓萌名義和形象的虛假?gòu)V告案，并對(duì)其進(jìn)行了行政處罰；8月份，在某社交平臺(tái)上，有博主利用AI仿冒奧運(yùn)冠軍全紅嬋的聲音賣土雞蛋

消費(fèi)者誤認(rèn)本尊推薦而下單。這種低成本、高收益的仿冒模式，已成為商家“蹭流量帶貨”的捷徑。

業(yè)內(nèi)觀點(diǎn)認(rèn)為，技術(shù)濫用不僅侵犯?jìng)€(gè)體權(quán)益，更扭曲市場(chǎng)競(jìng)爭(zhēng)秩序。當(dāng)AI盜播能夠批量生成且維權(quán)成本高昂時(shí)，合規(guī)商家面臨“劣幣驅(qū)逐良幣”的擠壓。直播電商的核心競(jìng)爭(zhēng)力本應(yīng)建立在內(nèi)容創(chuàng)新與商品品質(zhì)上，但AI仿冒將行業(yè)拖入“拼噱頭”的畸形競(jìng)爭(zhēng)。當(dāng)侵權(quán)成本遠(yuǎn)低于維權(quán)成本，造假收益遠(yuǎn)超合規(guī)收益，長(zhǎng)此以往將損害行業(yè)創(chuàng)新活力。

更嚴(yán)重的是，這種亂象正在透支數(shù)字生態(tài)的信任基礎(chǔ)，當(dāng)“假臉”成為常態(tài)，正規(guī)直播與合法代言也會(huì)被質(zhì)疑。

抖音電商近期公布的典型案例顯示，溫崢嶸、董宇輝、李玫瑾、羅永浩等名人都成了被仿冒的重災(zāi)區(qū)。中國(guó)商業(yè)聯(lián)合會(huì)直播電商工作委員會(huì)副會(huì)長(zhǎng)、網(wǎng)經(jīng)社電子商務(wù)研究中心主任曹磊指出，除直播帶貨外，也將應(yīng)用到各行各業(yè)。AI數(shù)字人播已是直播市場(chǎng)新型主播發(fā)展的重要方向之一，但數(shù)字人對(duì)替代真人主播非黃金時(shí)段起到了輔助作用，但還不能完全替代真人主播。至于這種仿冒的AI盜播，是嚴(yán)重影響直播帶貨營(yíng)商環(huán)境的。

網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員、上海漢盛律師事務(wù)所高級(jí)合伙人李旻從法律角度分析道，AI盜播的商家未經(jīng)過(guò)溫崢嶸的同意，使用溫崢嶸的形象直播、帶貨，違反了《中華人民共和國(guó)民法典》（以下簡(jiǎn)稱《中華人民共和國(guó)民法典》）第一千零一十九條，侵犯了溫崢嶸的肖像權(quán)。如果盜播帶貨時(shí)，還明確以溫崢嶸的名義進(jìn)行，則違反《中華人民共和國(guó)民法典》第一千零一十四條和《中華人民共和國(guó)反不正當(dāng)競(jìng)爭(zhēng)法》第七條，侵犯了溫崢嶸的姓名權(quán)，且存在不正當(dāng)競(jìng)爭(zhēng)行為。此外，如果帶貨商品出現(xiàn)質(zhì)量問(wèn)題或虛假宣傳等引發(fā)消費(fèi)者投訴 【下載黑貓投訴客戶端】，由于直接使用了溫崢嶸的形象、姓名等，消費(fèi)者可能誤將責(zé)任歸咎于溫崢嶸，這將違反《中華人民共和國(guó)民法典》第一千零二十四條，侵犯了溫崢嶸的名譽(yù)權(quán)。

他補(bǔ)充表示，AI盜播的這種誤導(dǎo)消費(fèi)者的行為還涉嫌違反《中華人民共和國(guó)廣告法》第四條。如商家存在欺詐行為，且違反了《中華人民共和國(guó)消費(fèi)者權(quán)益保護(hù)法》第五十五條，消費(fèi)者可以要求三倍賠償。上述行為情節(jié)嚴(yán)重的，可能還會(huì)觸犯《中華人民共和國(guó)刑法》的虛假?gòu)V告罪、詐騙罪等，最高可能判處無(wú)期徒刑。

消費(fèi)者成為技術(shù)濫用的最終受害者。基于對(duì)明星的信任，消費(fèi)者可能購(gòu)買到質(zhì)價(jià)不符的商品，而侵權(quán)賬號(hào)頻繁更換IP地址、使用虛擬定位等手段，導(dǎo)致責(zé)任主體難追溯。

溫崢嶸事件評(píng)論區(qū)中，網(wǎng)友互相詢問(wèn)“哪個(gè)直播間是真的”“商品是否為正品”，凸顯出公眾的困惑與不安。一旦商品出現(xiàn)問(wèn)題，消費(fèi)者往往面臨售后無(wú)門(mén)的困境，而明星口碑也可能因虛假帶貨受損，形成雙輸局面。

面對(duì)AI濫用，各方都在行動(dòng)。政策層面已邁出立法步伐。今年9月施行的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》明確要求AI生成內(nèi)容添加顯著標(biāo)識(shí)，為治理提供法律依據(jù)。

然而現(xiàn)實(shí)中，部分商家將標(biāo)識(shí)藏于角落或技術(shù)性遮擋，平臺(tái)審核滯后使侵權(quán)內(nèi)容有機(jī)可乘。李旻稱，依照《中華人民共和國(guó)民法典》第一千一百九十五條，電商平臺(tái)存在“通知——?jiǎng)h除”義務(wù)，在收到有關(guān)直播間的侵權(quán)通知后，電商平臺(tái)應(yīng)當(dāng)及時(shí)采取措施，阻止侵權(quán)行為。如果未能夠及時(shí)關(guān)停直播間防止損害擴(kuò)大，對(duì)于損害的擴(kuò)大部分，電商平臺(tái)也要承擔(dān)連帶責(zé)任。同時(shí)平臺(tái)對(duì)出現(xiàn)了名人等的直播，應(yīng)當(dāng)進(jìn)行巡查以盡到合理注意義務(wù)，否則可能因違反《中華人民共和國(guó)民法典》第一千一百九十七條而承擔(dān)連帶責(zé)任。而盜播直播間作為直接侵權(quán)人，應(yīng)當(dāng)根據(jù)《中華人民共和國(guó)民法典》等法律規(guī)定，停止侵權(quán)行為，消除對(duì)溫崢嶸的不利影響，賠禮道歉并主動(dòng)澄清以有效地恢復(fù)其名譽(yù)。

李旻表示，從監(jiān)管部門(mén)的角度來(lái)說(shuō)，針對(duì)如今發(fā)展愈發(fā)迅速的AI技術(shù)，應(yīng)當(dāng)推動(dòng)相關(guān)立法，明確各方主體的權(quán)利和義務(wù)。雖然現(xiàn)在《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》已經(jīng)對(duì)AI生成內(nèi)容作出了要求，所有AI生成的文字、圖片、視頻等內(nèi)容都要“亮明身份”，但是在現(xiàn)實(shí)執(zhí)行上還存在著技術(shù)手段等方面的諸多不完善。在執(zhí)法上，監(jiān)管部門(mén)應(yīng)當(dāng)加大執(zhí)法力度，重點(diǎn)打擊這種違法現(xiàn)象。

電商平臺(tái)作為提供者，也應(yīng)當(dāng)盡到相應(yīng)的監(jiān)管義務(wù)，作為最直接、第一線的監(jiān)管者，應(yīng)當(dāng)做到事前全面審查、事中有效監(jiān)督以及事后及時(shí)彌補(bǔ)。平臺(tái)應(yīng)當(dāng)事前通過(guò)對(duì)名人信息進(jìn)行核驗(yàn)，事中使用技術(shù)手段監(jiān)管，事后有效地配合當(dāng)事人解決問(wèn)題、化解糾紛。AI技術(shù)的發(fā)展，也為現(xiàn)有法律帶來(lái)了不小的沖擊，需要平臺(tái)作為行業(yè)領(lǐng)頭人配合政府監(jiān)管部門(mén)一同守護(hù)好人民的合法權(quán)益。李旻補(bǔ)充道。

來(lái)源：財(cái)經(jīng)網(wǎng)