今天小编分享的互联网经验:9.9元AI写真“敲醒”了三群人,一次公众隐私意识的觉醒,欢迎阅读。
图片来源 @视觉中国
钛媒体注:本文来源于微信公众号IT 时报(ID:vittimes),作者 | 孙妍,编辑 | 孙妍,钛媒体经授权发布。
已经很久没见到朋友圈刷屏相似风格的照片,证件照、古风照、港风照……成片效果甚是精美逼真,还以为是海马体、天真蓝出写真拍摄优惠套餐了,没想到是 9.9 元就能拥有的 AI 写真,出自一款叫 " 妙鸭相机 " 的小程式之手。
其实,这是一款用 AI 生成风格化照片的应用,上传 20 张正脸高清照片,支付 9.9 元,AI 就能帮你生成数字分身,然后挑选不同风格,一键生成写真风的照片,如果需要下载原图或生成高清版照片需要耗费 2 钻石,1 钻石折合 0.1 元,钻石 6 元起充。
" 妙鸭相机 " 小程式在 7 月 17 日上线,微信指数显示,从 7 月 18 日开始," 妙鸭相机 " 这一关键词的搜索指数便直线上升,7 月 24 日指数为 688 万,日环比 247.15%。
可能连它自己都没预料到,以致于算力准备不充分,高峰期排队制作时间长达十几小时,四五千人排队,这几日排队时长已缩短到几小时。
" 妙鸭相机 " 的刷屏," 敲醒 " 的第一群人是海马体、天真蓝等连锁写真摄影机构。
不需要花一两小时化妆换装,不需要等几天的修片时间,最重要的是,不用支付 100 至 500 元的昂贵费用,用户可以收获同样精致的写真照,而且离逼真已不远。这些摄影机构虽然已经开始采用 AI 修图工具,但它们没有预料到,AI 写真这一 " 价格屠夫 " 来得如此快。
如出一辙的证件照生意抢定了,流水线生产的写真照抢定了,也许结婚照、婚纱照的生意也快被抢。生成不同风格的模板并不难,稍有难度的是双人、多人头像的处理。
其实,最有危机感的是第二群人——数字人圈、元宇宙圈,甚至 AIGC(生成式人工智能)圈。
圈内人表面平静,私底下已吵翻天,没想到打开 C 端市场的 AIGC 应用是一个如此简单的应用。也许,简单、刚需、门槛低就是现象级产品的王道。
让数字人圈甚至元宇宙圈忌惮的是,阿里大文娱的野心。没错," 妙鸭相机 " 主体是未序网络科技(上海)有限公司,也是土豆网的主体公司,而优酷土豆早就被阿里大文娱收购。
细读 " 妙鸭相机 " 的用户服务協定,可以读出不少门道,首先,阿里大文娱的野心很大,准备把数字分身搬到元宇宙,这就涉及到 2D 照片转换成 3D 形象,从技术上来说,还需一段时间的沉淀,但让用户用起来是最重要的,阿里大文娱至少迈出了第一步。
当年,微信革了中国移动 " 飞信 " 的命只是开端,固定电话、移动电话等社交方式都发生了巨大的变革;外卖革了方便面的命只是开端,到店就餐等生活方式也发生了巨大变革。
" 妙鸭相机 " 革了海马体等连锁摄影机构的命只是一个开端,创意图库、视频制作等行业都将很快被 " 革命 ",速度取决于 AIGC 圈的合规工作,C 端产品将更快点燃市场。一个重要的节点是,8 月 15 日起,《生成式人工智能服务管理暂行办法》将正式施行,一场 AIGC 改变社交、生活方式的变革正在酝酿。
比起阿里大文娱抓住了生成式 AI 的财富密码,更令人欣喜的是,这是一次公众隐私保护的觉醒。
在 " 妙鸭相机 " 走红后,其过度索取隐私数据的 " 霸王条款 " 便引发争议。最初的用户協定显示,用户需授权 " 妙鸭相机 " 在全世界(包括元宇宙等虚拟空间)范围内享有永久的、不可撤销的、可转让的、可授权的、免费的和非独家的许可,使得 " 妙鸭相机 " 可以任何形式、任何媒体或技术(无论现在已知或以后开发)使用用户的内容。" 妙鸭相机 " 系为了能够提供、确保和改进本服务(包括但不限于使用 AI 生成内容作为再训练数据等)。
初版用户協定
最终,用户的质疑促使 " 妙鸭相机 " 修改了用户協定和隐私条款并发布声明,表明用户上传照片只用于数字分身制作,不会提取也不会用于识别和其他用途,且分身制作完后自动删除。
用修改后的協定来看," 妙鸭相机 " 确实删除了不可撤销的授权许可,以及过度索取授权等问题。
修改后協定
曾记得,在用户换脸 " 出演 " 电影经典片段刷屏时,只有媒体或安全圈人士在呼吁用户注意个人隐私保护,绝大多数用户并没有意识到隐私泄露的严重性。这几年,《个人信息保护法》、《数据安全法》等法案的出台,也渐渐唤醒了用户、相关公司的隐私保护意识。
多位从事安全工作的 " 白帽子 " 对记者说,还是不敢轻易尝试这类制作数字分身的工具,"20 张高清正脸照片,可以做很多事了。""90% 以上的信息泄露都是监守自盗,而不是黑客攻击,公司可能没有主观恶意,但对员工没有很好的约束力。" 一看到要上传高清正脸照片,他们的腦海里就会闪过深度伪造技术和无数的案例。
前不久,10 分钟被骗 430 万元、9 秒钟被骗 245 万元等巨额诈骗,都是受害者在微信视频通话后,才将钱转给了所谓的 " 好友 ",诈骗分子极有可能利用了 AI 换脸、AI 换声等技术。一位大学教授最近也跟记者说起,自己经历了类似的 AI 换脸骗局,诈骗分子盗用的是一位地方领导的微信,所幸这位教授识破了骗局。
在此之前,诈骗分子甚至用假人脸骗过了安全防范等级极高的银行 App。国内安全团队瑞莱智慧 RealAI 就曾通过对抗样本攻击,破解 19 款安卓手机的人脸识别解锁系统。即便是搭载了互動式活体检测功能的十余款金融和政务服务类 App,也都被轻易破解。
连安全专家也没有很好的技术手段来规避这类骗局,但都提醒道,普通人尽量不要在社交媒体上大量晒个人及家人的照片、视频等,因为深度伪造视频的原材料就是这些,数据越多,训练出来的视频越逼真。
待到 C 端用户的 AIGC 应用百花齐放时,隐私安全、版权保护等问题必将涌现。微信、抖音包围人生的时代,即将发生变化,AIGC 会创造一个新时代,颠覆总发生在意想不到的边缘,谁会是下一个微信、抖音?
更多精彩内容,关注钛媒体微信号(ID:taimeiti),或者下载钛媒体 App