不法商家用AI技術造出“假溫崢嶸”帶貨。圖/央視新聞
據央視 身著三套不同服飾，在賣著不同的產品，演員溫崢嶸在同一個時間，出現在了不同的直播間直播帶貨。傳說中的分身術怎么在現實中出現了？這反常的“同步開播現象”，這幾天在網上引發熱議。可以肯定的是，溫崢嶸并無分身之術，而是這幾個直播間要么是錄屏摳圖，要么是盜用她過往直播素材，經過深度合成重塑形象與語音，嵌入直播間進行模擬互動。
三個“溫崢嶸”帶貨，一個真的都沒有
早在4月，溫崢嶸就對此進行過聲明，也進行過維權，但并沒能阻擋住網絡盜播和AI冒充行為的泛濫。
近日，有網友發現演員溫崢嶸同時“現身”三個不同直播間，她身著不同服裝推廣著不同的產品，動作神態與本人高度相似，這一情況很快引發熱議。溫崢嶸并無分身之術，這三個直播間或是錄屏摳圖，或是商家盜用她過往直播素材，經過深度合成重塑形象與語音，嵌入直播間進行模擬互動。
“AI的這種手段，混淆大家視聽。我的形象、肖像受侵權，是對我莫大的一個傷害。信任我的觀眾朋友，下單之后如果買到假貨，我心里會難過。”溫崢嶸表示，她團隊的工作人員發現虛假視頻在網絡傳播后，便持續進行舉報，一天內曾集中舉報50個假冒賬號，有的造假賬號被平臺下架處理，有的則剛下架就換個形式重新出現，讓人防不勝防。對于這樣的情況，工作人員告訴記者，部分商家只需截取一段影像，用簡易工具就能生成虛假內容，而他們取證卻要花費很大的精力。
溫崢嶸團隊工作人員介紹，這些假冒賬號喜歡在凌晨三四點，大家都在休息的時候，打時間差發帶貨視頻。團隊已經送達了律師函，在早前更是陸陸續續處理了很大一批造假賬號。
AI侵權泛濫，治理困境“困”在哪
盜播和AI仿冒名人直播，讓網友無從分辨真假，憤怒又無奈。9月1日，《人工智能生成合成內容標識辦法》正式施行，要求AI生成內容必須“亮明身份”，但是為何亂象依舊呢？治理困境又“困”在了哪里呢？
根據民法典及個人信息保護法，未經授權使用他人肖像進行AI合成，雖涉嫌侵犯肖像權與個人信息權益，但司法實踐中，多數案件賠償金額不足萬元，遠低于商家的非法收益。
北京師范大學法學院教授劉德良介紹，通過AI或者深度偽造的技術，如果未經別人允許，把別人改變面部或者改變聲音，或者把面部移到另外一個人的身上的話，有可能侵犯別人的肖像權、聲音權，“如果把這種行為利用于廣告宣傳、直播營銷的話，可能會涉及廣告法上的虛假宣傳”。
面對亂象，監管部門已針對AI虛假直播出臺治理措施。國家網信辦聯合多部門共同發布《人工智能生成合成內容標識辦法》，明確要求AI生成的肖像、視頻需標注“AI生成”，否則將面臨最高10萬元罰款。但記者調查發現，很多造假者將標注藏在視頻或者直播簡介的角落，或者用極小的字體顯示，消費者很難注意到。
專家認為，網絡平臺應對其直播間里的內容負有監管責任，在AI時代，監管部門也可以同樣使用AI手段對網絡內容實施監管。
“消費者首先可以向平臺投訴，如果平臺拒不履行監管的義務，這個時候可以要求平臺承擔連帶責任，比如說一些投訴的機制，監管部門也可以利用AI來實時地來應對這種投訴，對于有效及時地發現假冒行為，有些是可以通過技術的方式來解決，當然技術解決不了的，還是要通過法律。”劉德良說。
AI仿冒名人帶貨，侵犯權益，涉嫌欺詐，更觸動了數字社會賴以存續的信任根基。“AI李鬼”越來越像真的，靠普通消費者來識別和防范是遠遠不夠的。將仿冒者打回原形，需要更細化法規，明確追責，要內容發布平臺實實在在扛起把關責任，讓“失信者付代價、讓縱容者擔責任”。
責編：劉茜
一審：劉茜
二審：印奕帆
三審：譚登
來源：瀟湘晨報
