今天小編分享的社會經驗:AI喬任梁、李玟“復活”背後成本不足百元 律師:或構成違法行為,歡迎閲讀。
AI" 復活 " 親人是緬懷逝者的方式,但 " 復活 " 去世明星或合成當紅明星的 AI 視頻可能違法違規。
逝世明星的 AI 視頻近期頻繁出現在短視頻平台,視頻中,AI 李玟表示 " 希望你們都能活得很好 ",AI 高以翔稱 " 你們的每一個留言、每一份關懷我都感受到了 ",AI 喬任梁也在跟粉絲問好。
但此類 AI 視頻很快引起逝者家屬意見反彈,喬任梁父親 3 月 16 日公開稱," 不能接受,感到不舒适,希望對方下架 ",并表示 " 他們未征求我們同意,是我侄女刷到視頻發給我的,這是在揭傷疤 " 。
記者 3 月 17 日在視頻平台看到,一些此前流傳的 AI 喬任梁視頻已搜索不到,但仍有不少 AI 李玟、AI 科比、AI 姚貝娜、AI 高以翔等已逝明星的 AI 視頻存在。第一财經記者以 AI 視頻潛在購買者或合作者身份咨詢制作者,了解到目前制作一條 30 秒 ~1 分鍾時長的視頻價格 80~600 元,拿到視頻後可自行在視頻平台發布。不少發布視頻的創作者對外接單,有的在招收學徒和代理。
電商平台上也出現了低價的明星模型,這些 " 免訓練、可直接合成 " 的女明星 " 萬能模型 " 售價幾乎都在 8 元 -25 元以下。AI 合成明星正形成一個灰色產業,律師提醒,合成明星視頻後發布有違法違規的風險。
AI" 復活 " 成生意
不久前,商湯創始人湯曉鷗以 AI 數字人的方式出現在商湯線上年會,商湯技術團隊征得家屬同意,使用商湯如影技術高度還原了湯曉鷗的神态等細節。AI 技術 " 復活 ",成為親人朋友追思逝者的新方式。但随着越來越多 AI" 復活 " 明星的視頻出現在視頻平台,引起的争論開始發酵。
在一些視頻平台上,已逝明星在 AI 視頻中表達着他們的 " 想法 "。AI 高以翔稱 " 聽説我離開的這段時間裏,有人開始健身,有人學會了做飯 …… 我不在你們身邊,但我一直在另一個世界陪伴着你們 "。AI 姚貝娜稱 " 我去的地方還是能盡情歌唱 "。AI 科比用英語表示 " 很高興以這樣的方式再次和你們相見 "。
視頻平台上 AI" 復活 " 明星的視頻
相比湯曉鷗演講視頻的高還原度,這些 AI 明星視頻在細節處顯得粗糙,臉部表情、嘴巴和眼睛的動作有不流暢之處,但若不仔細看,仍像是真人在説話。評論區中,有粉絲希望視頻制作者能繼續發布其喜歡的明星的 AI 視頻,也有人認為 AI 視頻應由逝者家屬發布更合适。
發布 AI" 復活 " 明星的視頻,是短視頻平台上這些制作者招攬客户的一種方式,一些制作者的主頁顯示承接數字人制作、" 復活 " 親人等業務。記者以 AI 視頻潛在購買者或合作者身份咨詢了這些制作者。一名制作者表示可以制作一名已逝明星的 AI 視頻," 只需提供已逝親人的照片及想表達的話即可定制,30 秒内 89 元 "。AI 視頻制作完成後,付費購買者可以發布在視頻平台上,視頻制作者征求同意後也會發布在其賬号上。
另一名制作者表示,只要提供素材便可復活已逝明星,包括 1 分鍾清晰講話聲音素材和正臉視頻畫面。生成 1 分鍾講話畫面收費 200 元,後續每分鍾收費 20 元,若除了講話畫面還需加入其他畫面剪輯,每分鍾需加收 50 元剪輯費,下單要轉至電商平台。記者看到,其店鋪銷售 AI 數字人制作、AI 視頻制作、AI 音頻處理,相關產品售出 30 餘份。
此外,有 AI 明星視頻制作者發出了價格單,顯示提供逝者照片後生成 1 分鍾内説話視頻,若選擇 AI 配音收費 198 元,若選擇逝者聲音則收費 398 元。除普通話外,視頻還能以逝者的音色生成方言,根據聲音的生成方式和還原度,收費 398~598 元。後續,制作團隊還計劃推出語音及文字實時互動聊天、實時視頻通話聊天產品。
AI 視頻制作者發來的價格表
該團隊還在招學徒和代理,要成為代理,需向其交 980 元,由該團隊提供視頻并制作,代理在外接單,該團隊向代理的報價是價格表的 6 折,差價是代理的收益。該制作者稱,學徒的收費更高,但并未透露收費價格。
目前已有多種 AI 工具可用于制作 AI 數字人。此前,有 B 站 UP 主制作了已逝親人的 AI 視頻,并介紹了 AI" 復活 " 的過程。包括将照片上傳至 Midjourney 并優化、錄音導入音頻編輯軟體并切割成短音頻、将語音上傳到百度飛槳 AI Studio 語音合成項目訓練模型、輸入文本嘗試語音合成、将合成的語音包下載到本地。還可以讓 ChatGPT 角色扮演進行對話,再用 D-ID 數字人 AI 視頻平台網站,上傳頭像生成模型、上傳文字和音頻,進行合成。
普通人要使用 AI 工具制作視頻,收費門檻不算太高。其中,記者從 AI 視頻創作者了解到,Midjourney fast 快速出圖模式每月時長 15 小時,收費約 300 元,在非專業影視制作者使用且非大量出圖的情況下基本夠用。D-ID 試用前兩周免費,按年收費不同模式下價格為 56~1293 美元。
電商平台 9.9 元可 " 合成 " 明星
要合成明星視頻,還有一種 " 自己動手 " 收費更低的方式。在淘寶上,"9.9 元生成楊幂 " 已不是夢。
3 月 17 日,記者查看淘寶發現,搜索 "AI 女明星 " 等關鍵詞,一些女明星的形象正被制作成人物模型素材包,以方便購買者實現 AI 換臉女明星。這些 " 免訓練、可直接合成 " 的女明星 " 萬能模型 " 售價幾乎都在 8 元 -25 元以下,消費者下單後,後台立刻發貨。
記者嘗試拍下了一件标價為 9 元的楊幂萬能模型,後台立刻自動回復了一個網盤鏈接,網盤中有一個可供下載的壓縮檔案,包含 1.4G 的楊幂相關素材,商家表示,通過 DeepFaceLab 軟體,配合該楊幂模型,用户可以将導入的視頻中的人全部換成楊幂。同時,記者還注意到了一件名為 "SRC 高質量稀有明星人臉素材 " 的商品标價 23.8 元,涉及唐嫣、楊紫、倪妮等眾多明星,商品詳情頁面顯示,該人物模型合集包括 10 萬張明星圖片,包含眾多影片截圖、劇照等。
電商平台上的明星人臉素材商品介紹
DeepFaceLab 是一款用于 AI 換臉的開源軟體。而對于難以自行下載或對官方版本存在使用困難的用户,淘寶商家還推出了 DeepFaceLab 的新版本,表示 " 全部漢化,修復了很多 BUG,新增很多功能,可以查看角度 ",售價為 10 元。
" 生成女明星 " 似乎正在變成一件低成本、低門檻的事,但實際上,許多風險暗藏其中。
記者注意到,該類產品幾乎都不支持 7 天無理由退貨,且均在詳情頁面或自動回復中表示產品為虛拟產品,一經發貨、概不退換,這也意味着,若消費者購買的產品與預期不符或 " 換臉 " 效果不佳時,可能存在維權困難。
私下向視頻制作者付費而不通過平台,以制作喜愛明星或已逝親人的 AI 視頻,也有一定潛在風險。一名視頻制作者表示,下單方式是直接向其支付寶轉賬,但其對于私下交易是否安全的問題并未回應。另一名視頻制作者表示,直接下單或要成為代理需私下加其社交賬号溝通,關于私下交易的安全性,該制作者則稱可用人格擔保。
記者從律師了解到,不論是生成已逝明星 AI 視頻并發布在視頻平台,還是在電商平台上銷售明星模型,都可能是違法違規的行為。
廣東國鼎律師事務所律師廖建勳告訴記者,未經去世明星家屬同意發布 AI" 復活 " 視頻甚至用于商業牟利是侵權行為,侵犯了肖像權。據《民法典》規定,死者姓名、肖像等受到侵害,親屬有權請求行為人承擔民事責任,要求消除不良影響、支付精神損害撫慰金等,且可要求平台删除侵權視頻。相對粉絲制作視頻不用于商業牟利,商業牟利者需承擔的責任更重。
河南澤槿律師事務所主任付建則提醒,由于商家售賣的明星模型是在沒有授權的情況下提供給消費者使用,可能會侵犯明星的肖像權、名譽權或者隐私權。這些商品還可能為不法分子實施違法犯罪提供便利,造成不良社會影響。
付建認為,消費者在購買這些服務時,應該注意是否違反法律法規的規定,是否侵犯他人合法權益,是否在法律所允許的範圍内進行使用服務。例如,當消費者在未經允許的情況下擅自生成他人的 AI 視頻,并在互聯網傳播時,便有可能侵犯他人的肖像權和名譽權。根據《民法典》的規定,被侵權人可以要求對方停止侵害肖像權和名譽權的活動、消除影響、賠禮道歉、賠償損失、恢復名譽等;如果情節嚴重,構成犯罪的,侵權人還需要依法承擔相應的刑事責任。