今天小编分享的科技经验：这些女网红，越来越假，还有点吓人，欢迎阅读。
随着开源大模型不断壮大、使用成本不断降低、应用场景越来越丰富。
咱们普通用户，也能现学现用，吃上不少新鲜的 AI 应用。
比如之前机哥就写过的「豆包一句话修图」，用过的都说好。
不过真要说起来，AI 技术这玩意儿，就跟菜刀一样。
好人只会用它来砍瓜切菜，守护好自家厨房。
而坏的人，就往往会用来搞诈骗，骗别人的钱。
就这一两个月以来，机哥已经过看到好几例「AI 作恶」的事儿。
AI 又被拿来做坏事
现在 AI 绘图技术有多猛，机友们应该能从各类新闻中，或者实际测试中感受得出来。
早在 2023 年，我就聊到小红书上突然冒出了很多美女网红。
只是和真人不同的是。
这些账号里的美女照片，其实都不是真人，而是背后运营者用 AI 工具生成。
时间来到 2024 年 9 月。
抖音、小红书等平台上，又冒出一新的 AI 网红账号。
在 Flux 模型的加持下，这些账号的美女照片，简直是到了以假乱真的程度。
关键是这技术迭代到现在，使用门槛几乎为零。
网上就有开箱即用美女生成工具，把你想要的动作、衣服和人物表情给描述好，按下「立刻生成」就完事儿。
此时的 AI 绘图，就成了一把锋利的菜刀。
有人用来切菜做饭，有人用来砍人伤人。
根据澎湃新闻报道呢。
最近就有团伙用批量生成的 AI 美女，在短视频平台起号引流，进行 " 广撒网式 " 行骗。
具体的操作并不复杂。
团伙里面分工合作，有人专门用 AI 来调整参数，生成美女。
有人充当聊天业务员，和被害人聊天 " 建立恋爱关系 "。
有人专门提供虚假证件和病例，一步步把受害人的钱骗过来。
而且有时候，你真的不能怪受害人警惕性不高，又或者是人傻钱多。
从团伙提供的 AI 美女照片能看出，他们 "AI 炼丹 " 的技术已经是很炉火纯青了。
甭管是人物主题，还是背景的街道，愣是看不出啥明显破绽。
（团伙利用 AI 生成的照片）
（团伙利用 AI 生成的照片）
机哥盲猜一手啊。
那团伙用的应该还是 Flux+Comfyui 那一套工作流，能在控制人脸不变的情况下，生成出各种背景和衣服不同的图片。
这套技术主打的就是生成效率高，而且效果够好。
很多网友看到那团伙生成的图，都不由得背后发凉。
要是被骗子盯上的是自己。
那不得被狠狠爆金币啊。
即使是那些精通刷机 Root，每天在网上高强度冲浪，对诈骗套路无比熟悉的老哥。
遇上这样的图片，也很难一眼看出是真人还是 AI。
反正最后官方通报的结果是——
那个 10 人团伙，通过 AI 生成美女、聊天建立关系和骗钱一条龙操作，骗到了近千名男性，涉案金额也来到 200 多万元。
所以说 AI 发展得太快，也未必是件好事啊。
除了明面上的搞诈骗，最近机哥还看到一种很离谱的 AI 玩法：数字人。
顾名思义，就是用 AI 生成特定的人物画面和配音，说一些针对性很强的话来骗中老年人互动、关注乃至掏钱下单。
机哥刷短视频，就刷到不少类似的数字人账号。
有一说一啊，光看封面我是压根看不出他不是真人。
还得是点进去 " 欣赏 " 好几个视频后，才初见端倪。
只见这哥们整个肢体相当僵硬。
而且永远都是皱着个眉头，情绪稳定得可怕。
配音更是重量级。
初听可能觉得没啥违和感，但多听几次就会发现人机味儿太冲了。
一点人类说话该有的抑扬顿挫、情绪变化都没有。
更让人觉得逆天的，是账号的内容调性。
说白了，纯纯是冲着家里有点闲钱，但又对互联网了解不深的中老年人去的。
我给大伙展示点片段就懂了。
这哥们一会儿说要给 " 姐姐 " 们跳个舞。
接着让 " 姐姐 " 们评价一下跳得怎么样。
视频标签也是演都不演了，标了个# 姐弟和# 情感。
大姐大妈们，看到一个穿西装的小伙子，搁这激情热舞。
早已失去激情多年的内心，又久违泛起了波澜。
可天上不会掉馅饼。
互联网上，也不会有真正免费给你跳舞的人。
机哥在其他视频中能看到，账号里的数字人总会在视频结尾，引导观众去橱窗消费。
有时候这数字人甚至会开启带货直播。
左下角橱窗带的货也基本是保健品、家具日用品和生活消耗品。
大伙都懂吧。
这类产品特性很明显，价格便宜、退货率低，平时又用得上。
哪怕大姐大妈们本来用不着。
主播也能用花言巧语，哄得她们当场下单。
" 姐姐，这是弟弟花了很长时间为你准备的，拍了后要告诉弟弟哦。"
" 姐姐，你知道吗，当我浏览你的作品的时候，我仿佛看到了一位天使，真的无法用言语，不知道姐姐可不可以帮弟弟拍一单。"
紧接着直播间的弹幕，就变成了这样。
在我们看来，这不过是一场逆天程度极高的带货。
但大妈们又怎么会知道，在镜头前对她嘘寒问暖、深情表白的人，其实是个 AI 数字人呢。
更逆天的是。
机哥搜索相关关键词，发现这哥们居然使出了影分身之术。
关键是好几个直播间的人气和热度都不低。
可想而知，有多少大姐大妈，为了讨好这个可爱的弟弟，心甘情愿掏钱下单。
有多少颗真心，又被这一堆由代码和数据组成的数字人，骗得死去活来。
这不会是第一个，也不会是最后一个。
反正机哥在平台上随手一搜，就能看到贼多这种，内容文案完全冲着中老年人去的 AI 账号。
一口一个姐姐，一口一个家人们。
有针对大姐大妈的，自然也有针对大叔大爷的。
最终目的，也只不过是让姐姐们打开商品橱窗，掏钱下单。
据我全网高强度深挖。
这样的 AI 数字人账号，可谓是遍布各大平台，流程也大致相同。
文案内容主打情感、养生，自称也是妹妹、弟弟，给中老年人亲切的感觉。
最后丝滑带货变现一条龙。
机友们可能会说，这些账号其实流量也不多啊。
确实。
但因为搞这玩意成本低，背后的运营团队，基本上能用一个 AI 形象，运营几十上百个账号。
能爆一个视频，就能带来不少收益。
而聊到这儿，机哥心里多少有点复杂。
大概是从一年前开始吧。
市面上关于 AI 诈骗、AI 爆老年人金币的案例，便数不胜数。
有的直播间，用 AI 换脸技术，把主播的脸换成大明星带货。
也有的人，用靳东的人脸和声音素材，合成出和本人有九成相似的数字人形象，在短视频平台诱导中老年人互动和消费。
这些狗狗祟祟的团队，也能用 AI 换脸俄罗斯美女，把大爷们的养老金榨得一滴不剩。
这下看懂了。
这些事情的本质，不特么都是" 秀才迷倒大妈 "的套路复现么？
一个秀才倒下了，千千万万个 AI 换脸、AI 数字人账号原地起号。
只是这次不同的是。
以前忽悠人的，还算个人。
现在忽悠人的，甚至都不是人。
有时候机哥都觉得，平台光是在视频底下标注个小字儿——" 内容由 AI 生成 "，都不太管用了。
那些低质量、批量化，诱导消费又明显的 AI 账号。
留着给它玩下去，又有啥意义呢？
好消息是，抖音前阵子已经表示要出手打击骗老年人的 AI 账号。
小红书这边，今年同样把 AIGC 黑灰产，作为重点打击对象。
不管怎么说，希望 AI 大模型和 AIGC，能回归到真正实用、向善的价值吧。
