今天小编分享的社会经验:AI乔任梁、李玟“复活”背后成本不足百元 律师:或构成违法行为,欢迎阅读。
AI" 复活 " 亲人是缅怀逝者的方式,但 " 复活 " 去世明星或合成当红明星的 AI 视频可能违法违规。
逝世明星的 AI 视频近期频繁出现在短视频平台,视频中,AI 李玟表示 " 希望你们都能活得很好 ",AI 高以翔称 " 你们的每一个留言、每一份关怀我都感受到了 ",AI 乔任梁也在跟粉丝问好。
但此类 AI 视频很快引起逝者家属意见反弹,乔任梁父亲 3 月 16 日公开称," 不能接受,感到不舒适,希望对方下架 ",并表示 " 他们未征求我们同意,是我侄女刷到视频发给我的,这是在揭伤疤 " 。
记者 3 月 17 日在视频平台看到,一些此前流传的 AI 乔任梁视频已搜索不到,但仍有不少 AI 李玟、AI 科比、AI 姚贝娜、AI 高以翔等已逝明星的 AI 视频存在。第一财经记者以 AI 视频潜在购买者或合作者身份咨询制作者,了解到目前制作一条 30 秒 ~1 分钟时长的视频价格 80~600 元,拿到视频后可自行在视频平台发布。不少发布视频的创作者对外接单,有的在招收学徒和代理。
电商平台上也出现了低价的明星模型,这些 " 免训练、可直接合成 " 的女明星 " 万能模型 " 售价几乎都在 8 元 -25 元以下。AI 合成明星正形成一个灰色产业,律师提醒,合成明星视频后发布有违法违规的风险。
AI" 复活 " 成生意
不久前,商汤创始人汤晓鸥以 AI 数字人的方式出现在商汤线上年会,商汤技术团队征得家属同意,使用商汤如影技术高度还原了汤晓鸥的神态等细节。AI 技术 " 复活 ",成为亲人朋友追思逝者的新方式。但随着越来越多 AI" 复活 " 明星的视频出现在视频平台,引起的争论开始发酵。
在一些视频平台上,已逝明星在 AI 视频中表达着他们的 " 想法 "。AI 高以翔称 " 听说我离开的这段时间里,有人开始健身,有人学会了做饭 …… 我不在你们身边,但我一直在另一个世界陪伴着你们 "。AI 姚贝娜称 " 我去的地方还是能尽情歌唱 "。AI 科比用英语表示 " 很高兴以这样的方式再次和你们相见 "。
视频平台上 AI" 复活 " 明星的视频
相比汤晓鸥演讲视频的高还原度,这些 AI 明星视频在细节处显得粗糙,脸部表情、嘴巴和眼睛的动作有不流畅之处,但若不仔细看,仍像是真人在说话。评论区中,有粉丝希望视频制作者能继续发布其喜欢的明星的 AI 视频,也有人认为 AI 视频应由逝者家属发布更合适。
发布 AI" 复活 " 明星的视频,是短视频平台上这些制作者招揽客户的一种方式,一些制作者的主页显示承接数字人制作、" 复活 " 亲人等业务。记者以 AI 视频潜在购买者或合作者身份咨询了这些制作者。一名制作者表示可以制作一名已逝明星的 AI 视频," 只需提供已逝亲人的照片及想表达的话即可定制,30 秒内 89 元 "。AI 视频制作完成后,付费购买者可以发布在视频平台上,视频制作者征求同意后也会发布在其账号上。
另一名制作者表示,只要提供素材便可复活已逝明星,包括 1 分钟清晰讲话声音素材和正脸视频画面。生成 1 分钟讲话画面收费 200 元,后续每分钟收费 20 元,若除了讲话画面还需加入其他画面剪辑,每分钟需加收 50 元剪辑费,下单要转至电商平台。记者看到,其店铺销售 AI 数字人制作、AI 视频制作、AI 音频处理,相关产品售出 30 余份。
此外,有 AI 明星视频制作者发出了价格单,显示提供逝者照片后生成 1 分钟内说话视频,若选择 AI 配音收费 198 元,若选择逝者声音则收费 398 元。除普通话外,视频还能以逝者的音色生成方言,根据声音的生成方式和还原度,收费 398~598 元。后续,制作团队还计划推出语音及文字实时互动聊天、实时视频通话聊天产品。
AI 视频制作者发来的价格表
该团队还在招学徒和代理,要成为代理,需向其交 980 元,由该团队提供视频并制作,代理在外接单,该团队向代理的报价是价格表的 6 折,差价是代理的收益。该制作者称,学徒的收费更高,但并未透露收费价格。
目前已有多种 AI 工具可用于制作 AI 数字人。此前,有 B 站 UP 主制作了已逝亲人的 AI 视频,并介绍了 AI" 复活 " 的过程。包括将照片上传至 Midjourney 并优化、录音导入音频编辑軟體并切割成短音频、将语音上传到百度飞桨 AI Studio 语音合成项目训练模型、输入文本尝试语音合成、将合成的语音包下载到本地。还可以让 ChatGPT 角色扮演进行对话,再用 D-ID 数字人 AI 视频平台网站,上传头像生成模型、上传文字和音频,进行合成。
普通人要使用 AI 工具制作视频,收费门槛不算太高。其中,记者从 AI 视频创作者了解到,Midjourney fast 快速出图模式每月时长 15 小时,收费约 300 元,在非专业影视制作者使用且非大量出图的情况下基本够用。D-ID 试用前两周免费,按年收费不同模式下价格为 56~1293 美元。
电商平台 9.9 元可 " 合成 " 明星
要合成明星视频,还有一种 " 自己动手 " 收费更低的方式。在淘宝上,"9.9 元生成杨幂 " 已不是梦。
3 月 17 日,记者查看淘宝发现,搜索 "AI 女明星 " 等关键词,一些女明星的形象正被制作成人物模型素材包,以方便购买者实现 AI 换脸女明星。这些 " 免训练、可直接合成 " 的女明星 " 万能模型 " 售价几乎都在 8 元 -25 元以下,消费者下单后,后台立刻发货。
记者尝试拍下了一件标价为 9 元的杨幂万能模型,后台立刻自动回复了一个网盘链接,网盘中有一个可供下载的压缩檔案,包含 1.4G 的杨幂相关素材,商家表示,通过 DeepFaceLab 軟體,配合该杨幂模型,用户可以将导入的视频中的人全部换成杨幂。同时,记者还注意到了一件名为 "SRC 高质量稀有明星人脸素材 " 的商品标价 23.8 元,涉及唐嫣、杨紫、倪妮等众多明星,商品详情页面显示,该人物模型合集包括 10 万张明星图片,包含众多影片截图、剧照等。
电商平台上的明星人脸素材商品介绍
DeepFaceLab 是一款用于 AI 换脸的开源軟體。而对于难以自行下载或对官方版本存在使用困难的用户,淘宝商家还推出了 DeepFaceLab 的新版本,表示 " 全部汉化,修复了很多 BUG,新增很多功能,可以查看角度 ",售价为 10 元。
" 生成女明星 " 似乎正在变成一件低成本、低门槛的事,但实际上,许多风险暗藏其中。
记者注意到,该类产品几乎都不支持 7 天无理由退货,且均在详情页面或自动回复中表示产品为虚拟产品,一经发货、概不退换,这也意味着,若消费者购买的产品与预期不符或 " 换脸 " 效果不佳时,可能存在维权困难。
私下向视频制作者付费而不通过平台,以制作喜爱明星或已逝亲人的 AI 视频,也有一定潜在风险。一名视频制作者表示,下单方式是直接向其支付宝转账,但其对于私下交易是否安全的问题并未回应。另一名视频制作者表示,直接下单或要成为代理需私下加其社交账号沟通,关于私下交易的安全性,该制作者则称可用人格担保。
记者从律师了解到,不论是生成已逝明星 AI 视频并发布在视频平台,还是在电商平台上销售明星模型,都可能是违法违规的行为。
广东国鼎律师事务所律师廖建勋告诉记者,未经去世明星家属同意发布 AI" 复活 " 视频甚至用于商业牟利是侵权行为,侵犯了肖像权。据《民法典》规定,死者姓名、肖像等受到侵害,亲属有权请求行为人承担民事责任,要求消除不良影响、支付精神损害抚慰金等,且可要求平台删除侵权视频。相对粉丝制作视频不用于商业牟利,商业牟利者需承担的责任更重。
河南泽槿律师事务所主任付建则提醒,由于商家售卖的明星模型是在没有授权的情况下提供给消费者使用,可能会侵犯明星的肖像权、名誉权或者隐私权。这些商品还可能为不法分子实施违法犯罪提供便利,造成不良社会影响。
付建认为,消费者在购买这些服务时,应该注意是否违反法律法规的规定,是否侵犯他人合法权益,是否在法律所允许的范围内进行使用服务。例如,当消费者在未经允许的情况下擅自生成他人的 AI 视频,并在互联网传播时,便有可能侵犯他人的肖像权和名誉权。根据《民法典》的规定,被侵权人可以要求对方停止侵害肖像权和名誉权的活动、消除影响、赔礼道歉、赔偿损失、恢复名誉等;如果情节严重,构成犯罪的,侵权人还需要依法承担相应的刑事责任。