大酷樂
  • 汽车
  • 理财
  • 军事
  • 科技
  • 游戏
  • 互联网
  • 娱乐
  • 财经
  • 科学
  • 社会
  • 亲子
  • 电影
  • 健康
  • 教育
  1. 首頁
  2. 科技

他们正在用AI,疯狂给互联网“下毒”

2025-03-23 简体 HK SG TW

今天小编分享的科技经验:他们正在用AI,疯狂给互联网“下毒”,欢迎阅读。

先上一张图,这是一组 AI 生成视频的封面,如果你看到这些图片就已经感到不适,再细想一下,这要是你随手下滑,自动播放的短视频呢?

如果你看这张图已经不适,你最好不要再点击下面的视频|图源:404 Media

您目前设备暂不支持播放

上图的每一张封面,可能都是一条这类视频。10 秒左右,前几秒是平淡无奇的日常,画风突变后,AI 生成出一幅极其诡异的景象,最终停留在让人不寒而栗的一帧。

该视频 Instagram 上观看量达到 3.62 亿,收获 349 万赞。

这种传播量意味着它作为爆火内容,会跳出算法随机推送给用户,如果你不小心刷到了,好奇心让你多看了一会儿,而后又过于震惊,以至于没有快速划走,那算法会把你推向 AI 生成视频的深渊。

那里是一个人类利用 AI 生成出的恐怖谷,将给你造成极大的精神污染,毁掉你的上网体验。

精神污染的 "AI 深渊 "

发布这条 " 蜘蛛长颈鹿人 " 的短视频博主的主页里,全是类似视频,这也让他在建号 2 个月时间里,收获了 12 万的关注者,和上万美金的平台收入。

想象一下,有成千上万的类似账户每天产出数十条这类视频,再投放到各大短视频平台里。

这类视频都有着 "AI 生成,十秒左右,画风突变,精神污染 " 的共性,这些人只要调教好对 AGI 视频模型的提示词和参数,可能在你被吓到之前,他们就诞生了一条新 " 作品 "。

而这类视频和其他 AI 短视频不同之处在于:在画面上极度诡谲和猎奇。它已经跳出了 AI 和现实擦边的恐怖谷,而是在普通的生活场景里,突然让人畸变,长出异常的肢体,变成不可名状的怪物。

不同于人类导演精心编排的恐怖片,AI 生成的视频是一种 " 无意的恐怖 ",比刻意制造的恐怖更令人不安,因为它没有任何轨迹可以预判。

在看这些内容时,它超出了人类的理性认知,我们会不自觉地感到 " 这个东西不应该存在 "。

而这类视频的本质就是触发你深层的不适和惊悚感,瞬间让你大腦短路,甚至不敢点击螢幕把视频划走。

在 404 Media 报道这种乱象的文章里,作者 Jason Koebler 把这种用 AI 生成内容,去赌算法推荐的方法比喻成 " 暴力破解 "。

这些视频制作者的目的并不针对个人,而是为了操纵平台算法。利用 AI,他们可以批量生成并投放内容,不断试探流量机制,总有一条能钻进流量的缝隙,一旦某条视频被推爆,更多同类视频就会接连涌入,形成恶性循环。

哪怕平台快速出手,把这类猎奇视频限流。但这些人换一批提示词,又可以开始新一轮 " 流量赌博 "。因为 AI 生产内容太快了,远远快过人类创作和平台的算法变化,无论平台怎么调整,都会面临政策赶不上对策的窘境。

人类创作者需要研究平台算法、策划选题、拍摄制作,耗时耗力耗钱制作出一条优质视频。AI 分秒钟生产数十条垃圾视频,发到平台上不火也没关系,马上再上传几十条。

人类用质量换流量,AI 只需要用数量。

就像一位密码学家正在绞尽腦汁研究密码算法时,AI 已经把 00000 到 99999 的 10 万种可能性都试过了,总有一个对的,这就是最简单的 " 暴力破解 "。

与此同时,由于 AI 生成内容的泛滥,让真正由人类创作的内容越来越难以被发现。低质量、假信息占据了用户的信息流,不管是创作生态还是平台内容,都往劣币驱逐良币的方向滑落。

至此,视频制作者获得了流量,每一个刷到视频的用户受到精神污染,整个内容平台被这些猎奇、低质的 AI 生成内容所侵蚀。

只有这些毫无底线利用 AI 的人赢了。然而流量带来的快钱,正在驱使越来越多的人加入这个行当。

流量和财富密码

Jason Koebler 每天都会收到一个 17 岁的 YouTuber Daniel Bitton 的营销邮件。

点开这名 YouTuber 的主页,他有 11.7 万订阅者,最火的一条视频《我复制粘贴一个 YouTube 频道,让我每个月赚到 10 万美元》有 74 万播放量。这条视频的主旨就是:雇人作内容太贵了,我们决定用 AI 复制爆火视频。

于是他随便修改一下爆火科普视频的脚本,再加一些争议性话题比如《亚洲人为什么眼睛小》,配上 AI 制作的惊悚动画,大量投放到各大短视频平台,不火就马上调整选题,加入更多争议要素。

而 Bitton 营销邮件就是卖他这套 " 成功公式 ",他在邮件里写道 " 花时间制作高质量的 YouTube 视频在经济上没有意义,其他人花 5~6 个小时制作一个 " 完美 " 的视频,我们不到半小时就能做出 8~10 条短视频。" 或是"YouTube 短视频的算法已经坏了,现在正是用 AI 短视频来利用这个漏洞最佳时机。"

Bitton 的引路人是 Mustafa,去年 Mustafa 就靠同样的玩法赚到百万美金。如今他已经 " 产业更新 ",靠出售 AI 工具和营销服务赚钱,他的付费社区共有 80000 名会员,40 美元 / 月的会费。这还只是学习 Mustafa 理论的价格,实操工具又是另一个费用。

具体到这条产业链上,他们出售的 AI 工具有 AI 视频文案模版,AI 语音和自动剪辑,TikTok 账号批量管理,他们甚至开发出了绕过 TikTok 版权检测的工具,可以自动抓取 YouTube 片段转制成短视频。

以最受社区推崇的 Crayo.ai 为例,该平台号称 " 一次制作出无限短视频 ",提供了各类专门迎合 TikTok 算法的内容模板,比如 " 无真人出镜内容 "、"Reddit 故事改编 " 以及 " 科普解说短视频 "。

从内容抓取到配音剪辑,再到一次性大量上传,Crayo.ai 可以让 AI 短视频生产流程全自动化,10 秒钟就能做出来一条 1 分钟的短视频,基础套餐只需要 19 美元,每月提供 20 条 AI 短视频。

而 Mustafa 在社区里直言 " 在 TikTok 上起号最简单和最常见的方法,就是从著名内容创作者和热门长视频里抄内容,重新剪辑后上传。"

算法和数据思维的挑战

抄袭其他创作者,猎奇视频恐吓用户,无限投放 AI 制造的垃圾内容 …… 这些乱象难道平台方就坐视不管吗?

TikTok 暂未有明显动作,但 Meta 不仅放任这些内容泛滥,还在助长这一现象。

去年,马克 · 扎克伯格在投资者会议里就提到 "AI 帮助人们创作,能让用户刷短视频的体验更好 …… 我们将增加一个全新的内容类别:AI 制作。"

Meta 甚至调高了用户信息流里 AI 内容的比重,同时把 AI 制作工具卖给广告商,他们推出的 Advantage+ 服务能让广告商一次性生成 50 条广告,再投放到平台里去赌算法推荐。

扎克伯格秉持着 "AI 生成内容是趋势,用户终将会习惯 " 的立场也不奇怪。根据 Meta 去年的数据显示,AI 内容大量注入平台后,用户在 Facebook 留存时间增加了 8%,Instagram 增加了 6%。

对 Meta 来说,只要 AI 能带来更多流量和广告收入,AI 垃圾内容的泛滥就不是问题,反而是内容平台紧随 AI 趋势的进化,如果用户对 AI 生成的内容不满,那是他们跟不上时代,不是平台的问题。平台的首要目标是有源源不断的视频上传带来流量,有流量就有广告商,从而创造营收。

的确如此,文章开头那条视频带来了 3.62 亿的播放量,哪怕评论区有大量用户评论表达了厌恶、反感、不适,但就像互联网的流量定律:负面内容越极端,评论和转发就越多,算法就越爱它。

扭曲畸形的婴儿、拟人化的畸变动物、深度伪造的名人影像、披着科普外衣的阴谋论 …… 这些原本只会在特定圈子内流传的猎奇内容,如今被 AI 工具批量复制,投放到大众化的社交平台。

就像开头视频下方点赞破千的评论所写:某人的奶奶肯定会觉得这视频是真的。

这让未来的社交媒体,可能不再是人与人之间的交流平台,而是一个赌场,AI 垃圾制造者在赌平台算法,用户在赌下一条视频,不会给自己造成精神污染,平台在赌自己能在流量和内容崩坏之间找到盈利的平衡。

而如果事情走向极端,这可能会导向一个 AI 生成内容主导,人类创作沦为边缘,真假信息难以辨别,用户被垃圾内容 "Mindfxxk" 的互联网时代。

现在不少平台已经要求创作者,在 AI 生成内容上标明 "AI 制造 " 的标签,但或许人们需要一个更细分、更周详地对于 AI 生成内容的规范,来保护 " 不明真相 " 的用户。

至少,对于因为写下稿件,而被这些 AI 噩梦折磨了一周的我来说,就非常需要一个 " 一键屏蔽 AI 内容 " 的按钮。而读这篇稿件的你,也同样需要。

熱門排行
  • 王治郅:杨瀚森主要的问题是速度 他 王治郅:杨瀚森主要的问题是速度 他 郟君昊 | 2025-05-05
  • 贸易战烧进电影院:特朗普拟重税打击 贸易战烧进电影院:特朗普拟重税打击 習又夏 | 2025-05-05
  • 贷款追高炒黄金的人后悔了!有人一天 贷款追高炒黄金的人后悔了!有人一天 寸飛蘭 | 2025-05-05
  • 手机电池突破8000mAh?硅碳技术的回 手机电池突破8000mAh?硅碳技术的回 衛青柏 | 2025-05-05
  • 贷款追高炒黄金的人后悔了!有人一天 贷款追高炒黄金的人后悔了!有人一天 繁綺文 | 2025-05-05
  • 任天堂对Genki提起Switch 2商标侵 任天堂对Genki提起Switch 2商标侵 郜萌運 | 2025-05-05
  • 哪吒汽车APP和官网恢复正常 知情人 哪吒汽车APP和官网恢复正常 知情人 袁曼雁 | 2025-05-05
  • 极越汽车 CEO 夏一平名下青岛/义乌 极越汽车 CEO 夏一平名下青岛/义乌 集玲琳 | 2025-05-05
  • 全国经济第一大省明确,推动组建农商 全国经济第一大省明确,推动组建农商 佼昌翰 | 2025-05-05
  • 桑保利:亚马尔有配合意识&有点像梅 桑保利:亚马尔有配合意识&有点像梅 甄正浩 | 2025-05-05
  • 高露现身上海虹桥机场 黑色外套点缀亮色爱心装饰俏皮亮眼 高露现身上海虹桥机场 黑色外套点缀亮色爱心装饰俏皮亮眼 惠惠君 | 2023-05-02
  • 《歧路旅人2》:向光而生 《歧路旅人2》:向光而生 衛青柏 | 2023-05-02
  • vivo X90S曝光:处理器更新为天玑9200+ 安卓最强芯 vivo X90S曝光:处理器更新为天玑9200+ 安卓最强芯 袁曼雁 | 2023-05-05
  • “懒癌”发病率上升,定期体检别忽视 “懒癌”发病率上升,定期体检别忽视 幸聽楓 | 2023-05-02
  • 宋慧乔获百想视后 韩素希发图手动加爱心表情庆祝 宋慧乔获百想视后 韩素希发图手动加爱心表情庆祝 賁芳蕤 | 2023-05-02
  • 曹操墓,里面都有啥? 曹操墓,里面都有啥? 衛青柏 | 2023-05-02
  • 十年了,他们终于要HE! 十年了,他们终于要HE! 惠惠君 | 2023-05-07
  • 中央部署经济工作,释放5大信号 中央部署经济工作,释放5大信号 郜萌運 | 2023-05-02
  • 高德上线手机弯道会车预警功能 高德上线手机弯道会车预警功能 習又夏 | 2023-05-02
  • 陈自瑶抱病为爱女做蛋糕庆生,王浩信点赞没露面 陈自瑶抱病为爱女做蛋糕庆生,王浩信点赞没露面 賁芳蕤 | 2023-05-02
  • 等比例长大的童星,李兰迪算一个 等比例长大的童星,李兰迪算一个 郟君昊 | 2023-05-02
  • 高端国产车:军车血统,目前电动车越野的“天花板”? 高端国产车:军车血统,目前电动车越野的“天花板”? 謝飛揚 | 2023-05-02
  • 《云襄传》终于抬上来啦,男O女A让人好上头! 《云襄传》终于抬上来啦,男O女A让人好上头! 集玲琳 | 2023-05-02
  • 这些被抓来做实验的流浪狗,最终拯救了无数糖尿病人 这些被抓来做实验的流浪狗,最终拯救了无数糖尿病人 集玲琳 | 2023-05-02
  • 21家A股游戏公司2022年收入651亿 今年“游戏+AI”能否逆风翻盘? 21家A股游戏公司2022年收入651亿 今年“游戏+AI”能否逆风翻盘? 衛青柏 | 2023-05-04
  • 与周立波夫妇闹纠纷成老赖,唐爽被司法拘留15日 与周立波夫妇闹纠纷成老赖,唐爽被司法拘留15日 寸飛蘭 | 2023-05-05
  • 信用风险释放趋缓,结构性风险需重点关注 ——2023年一季度债市信用风险回顾与下阶段展望 信用风险释放趋缓,结构性风险需重点关注 ——2023年一季度债市信用风险回顾与下阶段展望 袁曼雁 | 2023-05-02
  • 普京签署总统令,批准对俄刑法典相关法条的修正案 普京签署总统令,批准对俄刑法典相关法条的修正案 集玲琳 | 2023-05-02
  • 解除资格!停止一切合作 解除资格!停止一切合作 佼昌翰 | 2023-05-02
  • 中银证券给予南京银行增持评级 中银证券给予南京银行增持评级 袁曼雁 | 2023-05-03
  • 3699起 联想小新mini主机上架 13代酷睿标压处理器 3699起 联想小新mini主机上架 13代酷睿标压处理器 習又夏 | 2023-05-05
  • 前董事长被免,天山生物全面进入“中植系”时代?股价曾在一月内暴涨超400% 前董事长被免,天山生物全面进入“中植系”时代?股价曾在一月内暴涨超400% 惠惠君 | 2023-05-02
  • 疯成这样,怎么还能被全网吹捧? 疯成这样,怎么还能被全网吹捧? 郜萌運 | 2023-05-02
  • 狂吼11次“让一下”!交警咆哮开道嘶吼到吐 狂吼11次“让一下”!交警咆哮开道嘶吼到吐 寸飛蘭 | 2023-05-03
  • 摩根大通收购美国第一共和银行 摩根大通收购美国第一共和银行 謝飛揚 | 2023-05-02
  • 台剧赢麻了,又来一部8.9 台剧赢麻了,又来一部8.9 衛青柏 | 2023-05-02
  • 事关农村土地承包和农民权益,《农村土地承包合同管理办法》5月1日起施行 事关农村土地承包和农民权益,《农村土地承包合同管理办法》5月1日起施行 郟君昊 | 2023-05-02
  • 下降45分,上涨35分!34所自划线院校复试分数线涨幅汇总 下降45分,上涨35分!34所自划线院校复试分数线涨幅汇总 袁曼雁 | 2023-05-07
  • "三高"已盯上青少年,做好这件事是关键 "三高"已盯上青少年,做好这件事是关键 習又夏 | 2023-05-05
  • 五一档没一个能打的 五一档没一个能打的 集玲琳 | 2023-05-05
  • 恐怖韩剧下神坛,这次胆小可入 恐怖韩剧下神坛,这次胆小可入 袁曼雁 | 2023-05-05
  • 这剧是不是用ChatGPT写的呀? 这剧是不是用ChatGPT写的呀? 惠惠君 | 2023-05-02
  • 200户连夜疏散,原因让人愤怒!“损失超一亿”,官方通报 200户连夜疏散,原因让人愤怒!“损失超一亿”,官方通报 袁曼雁 | 2023-05-03
  • 性骚扰惯犯,滚出娱乐圈 性骚扰惯犯,滚出娱乐圈 謝飛揚 | 2023-05-05
  • 48岁何炅自曝已老花眼,黄磊睡前认老,《向往的生活》证实将停办 48岁何炅自曝已老花眼,黄磊睡前认老,《向往的生活》证实将停办 佼昌翰 | 2023-05-02
  • 一个《长月烬明》倒了,《狐妖》《长相思》《与凤行》…在路上了 一个《长月烬明》倒了,《狐妖》《长相思》《与凤行》…在路上了 惠惠君 | 2023-05-02
  • 当年轻人开始不随份子钱 当年轻人开始不随份子钱 袁曼雁 | 2023-05-02
  • 张天爱假期晒“酷”存照 卷发披肩穿黑色吊带裙大秀好身材 张天爱假期晒“酷”存照 卷发披肩穿黑色吊带裙大秀好身材 嬴覓晴 | 2023-05-02
  • 毕滢用8年时间成功逼宫?曾被传已婚生子的她,不容小觑 毕滢用8年时间成功逼宫?曾被传已婚生子的她,不容小觑 幸聽楓 | 2023-05-03
  • 宋慧乔获视后首次晒照,拿奖杯笑容温柔 宋慧乔获视后首次晒照,拿奖杯笑容温柔 郜萌運 | 2023-05-02

©2022 大酷樂 版權所有

隱私政策 | 服務條款 | 聯繫我們