今天小編分享的科技經驗：AI造假入侵抖快書，商家用AI變聲制造“假明星代言”，歡迎閲讀。
文 | 新識研究所
某綜藝節目上，" 唐嫣 " 居然説自己女兒小時候比同齡小孩矮很多，喝優米復合鈣，半年時間就追上來了。
" 應采兒 " 也表示自己孩子有幾年一直不長個，後來給他弄的元德吉鈣一下漲了幾公分，" 謝娜 " 還在一邊幫腔：" 楊紫跟我説過。"
" 黃景瑜 " 則是透露自己一直是 " 睡覺困難户 "，一直很痛苦，好在從中醫那裏拿了希珂黎葡萄飲，睡眠質量直線上升，精氣神都回來了。
現在明星帶貨都這麼生猛，綜藝上直接明晃晃給不知名品牌帶貨？
新識研究所最近觀察發現，最近在抖音、快手、B 站、小紅書等視頻平台上，搜索 " 跟着綜藝學 XX" 詞條，跳出一大堆綜藝節目切片。節目裏明星或者講師會説明自己親身遭遇的困擾，因為吃了某種產品得到明顯改善，視頻評論區還會給用户指路去淘寶、京東搜 "XX 店鋪 "。
然而這些視頻切片全是 " 移花接木 "，内容雖用了綜藝節目的片段，但人物語音和字幕等卻是商家以 AI 技術進行篡改偽造的，目的是植入品牌和帶貨。平台方也沒有提示 " 該畫面可能由 AI 生成，請注意鑑别 "。
不但多位名人和節目 IP 被造假，名譽和肖像權受損，消費者也在不知情的情況下買了假冒偽劣產品，平台也成了這場 " 造假風波 " 中推波助瀾的工具，最終受益的只有那些造假的商家。
01 AI 打造假明星代言，帶貨套路防不勝防
近年來，消費者對減肥健身、美容養顏、疾病預防的關注度與日俱增。
部分白牌商家也是抓住了這波風向，在年輕人聚集的社交平台，借用綜藝節目中 " 專家 " 和 " 明星 " 的權威背書，讓消費者誤以為真，掉進他們精心編制的陷阱裏。
向晴最近刷抖音看到一檔名為《國醫少年志》的綜藝節目，其中有中醫介紹如何有效減小肚子贅肉時，除了介紹蘋果、紅棗、枸杞等食材用以煮水飲用能提升代謝外，還特意提了一句 " 身怡安的阿膠八珍膏就很不錯 "。
心動的向晴當即根據品牌名在電商平台搜索并花費 200 多元下了一單。幾天體驗後，向晴發現減肥效果遠沒有達到視頻宣傳的程度，體重沒有絲毫變化。
被騙的還有大學生石芊芊，她某次看到《中國中醫藥大會》短視頻切片時，專家稱 zoao 葉黃素對黃斑很有效果，她搜索發現這個牌子有旗艦店，用户評價裏也有大批網友稱買給孩子吃，便放心買了 5 盒，結果吃了兩瓶沒啥感覺，皮膚還顯著發黃。
後來她去咨詢了專業醫生，對方稱這只是普通壓片糖果，都不算保健品，可以緩解眼睛疲勞，吃多了會傷肝，每天吃點藍莓效果是差不多的。
新識研究所發現，類似視頻切片在短視頻平台中比比皆是，由于使用了 AI 聲音克隆技術，音頻确實是根據明星本人聲音復制過來，并且仿制了節目組風格的字幕，不仔細甄别還真難以分清真偽。
究其緣由，《國醫少年志》《中國中醫藥大會》等綜藝節目中，由于有專家傳播健康養生類知識，通過短視頻傳播後被一眾消費者所追捧，也讓他們成為部分商家收割的對象。
這些切片傳播賬号幾乎全是個人賬号，之前還發有個人生活視頻，私信聯系并未得到回復，疑似是長期未使用的垃圾賬号或是被盜賬号。
抖音客服稱，對于視頻違規，平台有自動檢測機制，用户也可以進行舉報，但客服無法單獨标記賬号給予封禁之類的操作。
對此，新識研究所詢問了這些視頻中出現的品牌店鋪，絕大部分都是 2024 年新注冊的，大部分客服都稱自己的產品通過食藥監備案，也不否認在出現在產品信息出現在視頻切片裏，不過這些店鋪的粉絲量基本都只有幾千，商品評論區也是清一色的好評。
值得注意的是，不少商品資質不明、廠商不清，搜索帶貨的 " 茯苓膏 "" 丁香膏 "" 赤菊膏 " 會跳出一大堆品牌和產品，它們的宣傳封面、產品包裝、文案説辭幾乎一樣，生產廠商卻不盡相同。
這種隐性的帶貨方式和真假難辨的畫面，讓不熟悉 AI 技術的中老年人很難辨别，也自然成了被收割的對象。在社交平台上可以看到不少用户吐槽家裏老人聽信 " 專家視頻 " 買回一大堆高價無用的保健品，還推薦給身邊的朋友。
這些現象顯然也被節目方關注到，1 月 3 日《國醫少年志》官方發文表示，部分社交媒體上營銷賬号未經授權擅自剪輯節目圖片、視頻實施產品推廣行為，歪曲了節目内容。節目組從未授權任何第三方賬号利用節目内容宣傳相關的任何產品，" 任何非我司官方賬号或非節目原片所發布的我司及與我司合作生產相關產品的信息均為虛假信息。"
但如今過了兩個月，根據節目仿冒的不實内容仍在被傳播，相關現象愈演愈烈，這種造假方式依舊在 " 野蠻生長 "。
02 明星們，要被 AI" 變聲假帶貨 " 玩壞了
在廣電總局網絡視聽司發布針對 "AI 魔改 " 的管理提示新規出台 3 個月後，互聯網上仍頻繁有 AI 魔改的音頻、視頻出現，影視角色、明星、甚至企業家，都成了被魔改的對象。
通過 " 克隆 " 名人聲音制作的惡搞、獵奇類視頻，在相關平台播放和點贊量均不低，有的甚至還被推上平台熱搜。發布者也相應獲得流量曝光、粉絲增長、廣告收入等播放收益。
今年兩會期間，全國人大代表、小米集團創始人雷軍建議 " 加強‘ AI 換臉拟聲’違法侵權治理 "，他本人曾是 "AI 換臉拟聲 " 的 " 受害者 "，在過年期間被制作了大量 AI 鋭評惡搞視頻。
新識研究所在應用商店搜索發現，"AI 配音 " 相關 App 有數十款，下載量最高超千萬次。
經過新識研究所實測，只需幾塊錢，就可以使用聲音克隆 App 復制音色，随便錄幾秒鍾的音頻，AI 就會根據聲音生成各類内容的出鏡口播視頻，甚至連錄制者在發音時的吐字習慣也能模仿。
對于一些較短的語句，很難識别出這是機器合成的語音，但只要多試幾次，還是很容易得到好用的素材。通過語音大模型生成的名人聲音，基本可以以假亂真，且錄入名人聲音不需要提供任何授權證明。
除了雷軍，靳東、劉曉慶等演員都成了被侵權 " 重點對象 "，還有平台利用 AI 技術，将古天樂、林峰等港星的肖像、聲音及視頻片段，合成為線上賭博、遊戲的代言宣傳片。
3 月 5 日，兩人的經紀公司随後發布了聲明，明确指出該宣傳片是通過合成技術制作，并非真實合作内容。
聲明中強調，兩人并未與任何相關遊戲平台進行合作，也未代言或推廣其業務。公司提醒社會各界人士提高警惕，不要輕信此類虛假宣傳，以防上當受騙。對于任何盜用兩人名義或肖像進行虛假宣傳或詐騙的行為，經紀公司表示将堅決追究法律責任。
北京嘉濰律師事務所羅钰律師表示，民法典規定：" 對自然人聲音的保護，參照适用肖像權保護的有關規定。" 因此，明星對其聲音也享有類似于肖像權等人格權益，未經其授權，不得擅自使用其聲音，利用 AI 技術冒用明星的聲音的行為構成侵權。
通過 AI 技術冒用明星聲音打廣告，導流到其他電商平台内的賣家。在此過程中，冒用明星聲音發布廣告的主體屬于廣告發布者，廣告導流到的電商賣家是廣告主。廣告發布者發布的廣告内容是虛假的，其中表現之一即冒用明星聲音騙取閱聽人信任。所以，廣告主即電商賣家和廣告發布者即短視頻或直播平台的賬号的經營者需要對虛假廣告承擔連帶責任。
03 寫在最後
AI 換臉最開始确實造福了不少行業。
不論是 "AI 孫燕姿 " 讓孫燕姿再度成為頂流女歌手，還是用 AI 視頻復活逝去的親人，彌補人生遺憾，更不用説直播電商通過 AI 克隆人讓主播成了 24 小時坐班的 " 牛馬 "，讓頭部平台和電商主播賺得盆滿缽滿。
但技術的進步，如果得不到合法應用，"AI 詐騙 " 會比以往所有的詐騙手段更難防備、排查和整治。
随着 AI 技術的迅猛發展和用户規模的指數級增長，立法規範 AI 生成合成内容的制作和使用，已經迫在眉睫。
( 文中受訪者均為化名 )
