大酷樂
  • 汽车
  • 理财
  • 军事
  • 科技
  • 游戏
  • 互联网
  • 娱乐
  • 财经
  • 科学
  • 社会
  • 亲子
  • 电影
  • 健康
  • 教育
  1. 首頁
  2. 财经

AI已经在编造历史,别把DeepSeek们当权威

2025-03-15 简体 HK SG TW

今天小编分享的财经经验:AI已经在编造历史,别把DeepSeek们当权威,欢迎阅读。

最近,一条 " 有顶流明星在澳门输了 10 亿 " 的传闻火了,个中细节写得绘声绘色,网友们纷纷猜测,能抵押豪宅和私人飞机填补赌债的明星到底是谁。

漩涡之中,多位明星被推上了风口浪尖,杰威尔音乐、黄晓明本人下场辟谣。

最终由公安网安部门查明,此事是有人用了 AI 造谣。

而昨天我们体验的最新 Gemini 2.0,突破了 AI 文生图可控性问题,指哪改哪,但也意味着图文并茂的以假乱真在使用上的门槛已经极低。

太阳底下没有新鲜事,生成式 AI 的本质决定了,AI 有概率生成看似合理但不正确的内容。

但当 AI 越来越能自圆其说,越来越多的用户将 AI 生成的答案奉为圭臬,越来越多的有心人故意用 AI 编造事实,那么 AI 幻觉的影响,也就更加无法想象。

本就存在很多空白和创造空间的时事历史、社会热点,已经成了 AI 幻觉的重灾区。

AI 拿捏文笔和故事,但容易编造历史

AI 容易产生幻觉,是一个客观事实。文笔出众的 DeepSeek,同时也有着高幻觉率。

根据 Vectara HHEM 的 AI 幻觉测试,DeepSeek-R1 的幻觉率达到 14.3%,远高于 DeepSeek-V3 的 3.9%。

当我让 DeepSeek-R1 以三国真实的历史背景写故事时,发现它的文笔和情节设计得不错,但很容易出现时间点的错误。

一个例子是,DeepSeek-R1 写的魏文帝曹丕临死前的场景,提到曹丕死时是 " 建安二十五年冬 ",然而,曹丕在黄初七年去世,建安二十五年是曹操逝世和曹丕称帝的年份。

文中提到的 " 十五岁那年 …… 铜雀台大宴群臣 " 也是错的,曹丕 15 岁时是建安七年,司马懿在曹操手下担任文学掾是建安十三年,邺城铜雀台始建于建安十五年,前后差了好几年,所以不可能发生这样一幅画面。

同样的问题,出现在 DeepSeek 写蜀国将领姜维的时候。这个故事的背景是成都之乱,发生在 264 年,姜维在 228 年投奔蜀国,成为诸葛亮的部下,但文中提到 " 二十七年前 ",暗示 237 年姜维还在魏国,显然是不对的。

更离谱的是,当我让 DeepSeek 帮我想象,在乌孙生活了半个世纪、70 岁返回长安两年后就病逝的西汉和亲公主刘解忧,可能会留下什么遗言,虽然奏疏写得情真意切,但它居然提到了东汉末年的蔡文姬,不符合历史顺序。

我这般咬文嚼字,确实有些为难 AI。为什么大模型有幻觉呢?这是生成式 AI 的预测机制决定的。大模型不是数据库,它们学习的是语言模式和概率分布,而非明确存储事实,预测 " 下一个词最可能是什么 ",而不是查询 " 这个事实是否正确 ",它们也并不理解,输出的信息是否是真实的。

而在创意写作时,模型被激励发挥创造性,为了让故事流畅,模型会主动 " 填补空白 ",在历史记录不足的地方创造场景和对话,不会明确区分 " 我确定知道的历史事实 " 和 " 为了故事合理而假设的情节 ",又增加了出错风险。

AI 出错很正常,但被有心人利用,就是另一回事了。历史博主 @知北遊 就遇到过这样的糟心事,一个网友发给她 AI 编的文献资料,行文风格符合当时的年代,直到她发现时间人事对不上,并动用线下的人脉去验证,才肯定都是伪造的。

图片来自:豆瓣 @知北遊

每个人物的一生,都是历史的一部分。然而,一种使用 AI 的方式,已经打破了基本的底线。每当明星过世,会出现很多的纪念文章回顾他们的职业生涯,但其中不乏用 AI 浑水摸鱼的。

比如写方大同的这篇,行文一股 DeepSeek 味," 最后一条微博 " 的内容明显是和现实不符的事实错误,文末甚至明目张胆地提及,参考了材料,但进行了文学化改编,揣摩了人物的心理活动。

互联网是有记忆的,更早之前,一篇自称 " 梁文锋 " 的知乎回应,也疑似 DeepSeek 写就。2 月 6 日,DeepSeek 团队出来打假,表示官方账号只有三个,微信公众号、小红书、X,其他以 DeepSeek 或者相关负责人名义发布信息的,都是仿冒账号。

怎么治理恶意传播不实信息的 AI 生成内容,已经成了微博等平台的新问题。

然而,可以想象,以后产出这类信息的速度只会越来越快,越来越多的营销号抱上 AI 的大腿张口就来,同时,辨别的成本也会变得越来越高,因为我们不可能在每个领網域都是专业人士,总有一款虚假信息适合你。

AI 的答案不等于知识,追溯源头的事实核查成了刚需

DeepSeek 的爆火,真正地让很多用户知道和用上了生成式 AI,同时出现了一个奇怪的现象:认为 AI 说的就是对的,微博上隔三差五地出现以 DeepSeek 为主语的热搜,替代了从前的 " 专家说 "。

大模型给出的信息不等同于知识,轻信 AI、将 AI 作为权威的结果是,不走心的人类容易上当受骗。

最近就有一个现身说法的例子,上海译文出版社的陀思妥耶夫斯基精选集,推广文案里引用了 " 鲁迅 " 的评价,但这句话并不是鲁迅说的。博主 @斯文稗类 查证了一番,虽然没有原始出处,但一个模拟鲁迅的文心智能体的回答里,提到了这一句。

图片来自:微博 @斯文稗类

幽默的事情发生了,意识到问题后,引用了虚假评价的营销推文,把 " 鲁迅说 " 编辑成了 " 有人说 "。

然而,以讹传讹,传的人多了,假的也就成真的了。这条所谓的 " 名言 " 已经污染了互联网,去问 AI 搜索,AI 搜索认为是鲁迅说的。

如果虚假信息是有意为之的,那么危害就更加微妙。追踪新闻网站可靠性的 NewsGuard,发现了一种引导舆论的新方式:通过大量虚假信息渗透 AI 模型的检索数据,从而影响这些模型对特定话题的回应。他们调查的一起事件中,AI 引用错误信息的概率高达 33%。

这也说明,虽然加了联网搜索之后,可以降低 AI 的幻觉,但也并不是绝对的。

联网搜索可以让 AI 获取实时信息,克服知识截止时间的局限,对于模型训练数据中罕见的主题,也能获取更准确的信息,但它也引入了新的问题,如果搜索到的信息本身就是错误的,AI 可能会放大这些错误,并且难以充分评估检索内容的可靠性。

AI 固然能提高效率,但查找资料这件事,反而应该变得更谨慎。我们需要更在意,某篇文章是谁写的,信息的最早出处是哪里。

更值得警惕的,是 AI 改变了获得情绪价值的方式

AI 只是工具,它所导致的问题,根源在于人类自己。生成式 AI 之前,胡编乱造的信息也并不少,AI 起到的作用是,让真假参半的内容生产得更快、成本更低,甚至行文更加有模有样,质量高于很多营销号内容的下限。

AI 幻觉,反过来看便是 AI 的创造力。或者,我们可以将 AI 幻觉理解为 " 有逻辑的合理补白 "。它的幻觉内容,通常符合语言、逻辑、知识的一般结构,基于训练数据分布,填补了信息空白处的 " 最可能内容 "。

这不禁让我联想,历史有时候比想象的还荒谬、还没有逻辑,不能以常理揣度,钟会为什么反了,曹丕为什么学驴叫,尔朱荣怎么会被元子攸刺杀了 ……AI 的补白,或许就是某种平行时空的可能性、某种历史的如果。

有时候,我们阅读文章和故事,不是为了汲取信息,而是为了获得情绪价值。AI 就能很好地承担这个角色,弥补真实历史的遗憾,以及我们内心的 " 意难平 "。就像一位教授所说," 历史的尽头就是文学的开始 "。

我曾让 DeepSeek 模仿李白的风格,给杜甫的《天末怀李白》回一首诗。

我也曾让 DeepSeek 尝试想象,如果元稹没有死在 831 年的武昌任上,而是和白居易在洛阳养老,他们会怎样以诗相和。

那些用 AI 造假明星生平和时事热点的内容,本质也是用情绪挑动读者的神经。

AI 提供答案的即时性、吐出各种文体的创造力,总让人着迷。它是很多人的焦虑来源,却也是方便快捷的告慰渠道。这也提醒着我们,警惕一个变本加厉的 " 后真相时代 "。

" 后真相 " 指的是,客观事实在塑造公众舆论方面的影响力,反而低于诉诸情感和个人信仰的内容。它被《牛津词典》评为 2016 年年度词汇,至今依然适用,甚至变得更加准确—— AI 内容写得出彩,就存在被传播的可能性,真实与否反而显得不重要了。

当 AI 可以用更快的速度制造不限量的内容,更轻松,更无痛,更真假难辨,更容易让人高度依赖单一的信息获取方式,比任何的造假信息更值得我们警惕。但这并不是 AI 的问题,容易失真的镜子里,照见的还是人类对于情绪价值的渴望。

熱門排行
  • 王治郅:杨瀚森主要的问题是速度 他的速度跟不上现代篮球的节奏 王治郅:杨瀚森主要的问题是速度 他的速度跟 郟君昊 | 2025-05-05
  • 贸易战烧进电影院:特朗普拟重税打击外国电影 逼好莱坞等回美拍片 贸易战烧进电影院:特朗普拟重税打击外国电影 習又夏 | 2025-05-05
  • 贷款追高炒黄金的人后悔了!有人一天亏掉6年工资,卖掉舍不得,不卖扛不住 贷款追高炒黄金的人后悔了!有人一天亏掉6年 寸飛蘭 | 2025-05-05
  • 手机电池突破8000mAh?硅碳技术的回旋镖:「折寿」换容量 手机电池突破8000mAh?硅碳技术的回旋镖:「折 衛青柏 | 2025-05-05
  • 贷款追高炒黄金的人后悔了!有人一天亏掉6年工资,卖掉舍不得,不卖扛不住 贷款追高炒黄金的人后悔了!有人一天亏掉6年 繁綺文 | 2025-05-05
  • 任天堂对Genki提起Switch 2商标侵权诉讼,后者回应称将严肃对待 任天堂对Genki提起Switch 2商标侵权诉讼,后 郜萌運 | 2025-05-05
  • 哪吒汽车APP和官网恢复正常 知情人士:之前断网因流量欠费 哪吒汽车APP和官网恢复正常 知情人士:之前断 袁曼雁 | 2025-05-05
  • 极越汽车 CEO 夏一平名下青岛/义乌两家公司被列入经营异常 极越汽车 CEO 夏一平名下青岛/义乌两家公司 集玲琳 | 2025-05-05
  • 全国经济第一大省明确,推动组建农商联合银行 全国经济第一大省明确,推动组建农商联合银行 佼昌翰 | 2025-05-05
  • 桑保利:亚马尔有配合意识&有点像梅西 姆巴佩更专注进球&更像C罗 桑保利:亚马尔有配合意识&有点像梅西 姆巴佩 甄正浩 | 2025-05-05
  • 高露现身上海虹桥机场 黑色外套点缀亮色爱心装饰俏皮亮眼 高露现身上海虹桥机场 黑色外套点缀亮色爱 惠惠君 | 2023-05-02
  • 《歧路旅人2》:向光而生 《歧路旅人2》:向光而生 衛青柏 | 2023-05-02
  • vivo X90S曝光:处理器更新为天玑9200+ 安卓最强芯 vivo X90S曝光:处理器更新为天玑9200+ 安卓最 袁曼雁 | 2023-05-05
  • “懒癌”发病率上升,定期体检别忽视 “懒癌”发病率上升,定期体检别忽视 幸聽楓 | 2023-05-02
  • 宋慧乔获百想视后 韩素希发图手动加爱心表情庆祝 宋慧乔获百想视后 韩素希发图手动加爱心表 賁芳蕤 | 2023-05-02
  • 曹操墓,里面都有啥? 曹操墓,里面都有啥? 衛青柏 | 2023-05-02
  • 十年了,他们终于要HE! 十年了,他们终于要HE! 惠惠君 | 2023-05-07
  • 中央部署经济工作,释放5大信号 中央部署经济工作,释放5大信号 郜萌運 | 2023-05-02
  • 高德上线手机弯道会车预警功能 高德上线手机弯道会车预警功能 習又夏 | 2023-05-02
  • 陈自瑶抱病为爱女做蛋糕庆生,王浩信点赞没露面 陈自瑶抱病为爱女做蛋糕庆生,王浩信点赞没露 賁芳蕤 | 2023-05-02
  • 等比例长大的童星,李兰迪算一个 等比例长大的童星,李兰迪算一个 郟君昊 | 2023-05-02
  • 高端国产车:军车血统,目前电动车越野的“天花板”? 高端国产车:军车血统,目前电动车越野的“天花 謝飛揚 | 2023-05-02
  • 《云襄传》终于抬上来啦,男O女A让人好上头! 《云襄传》终于抬上来啦,男O女A让人好上头! 集玲琳 | 2023-05-02
  • 这些被抓来做实验的流浪狗,最终拯救了无数糖尿病人 这些被抓来做实验的流浪狗,最终拯救了无数糖 集玲琳 | 2023-05-02
  • 21家A股游戏公司2022年收入651亿 今年“游戏+AI”能否逆风翻盘? 21家A股游戏公司2022年收入651亿 今年“游 衛青柏 | 2023-05-04
  • 与周立波夫妇闹纠纷成老赖,唐爽被司法拘留15日 与周立波夫妇闹纠纷成老赖,唐爽被司法拘留15 寸飛蘭 | 2023-05-05
  • 普京签署总统令,批准对俄刑法典相关法条的修正案 普京签署总统令,批准对俄刑法典相关法条的修 集玲琳 | 2023-05-02
  • 信用风险释放趋缓,结构性风险需重点关注 ——2023年一季度债市信用风险回顾与下阶段展望 信用风险释放趋缓,结构性风险需重点关注 — 袁曼雁 | 2023-05-02
  • 中银证券给予南京银行增持评级 中银证券给予南京银行增持评级 袁曼雁 | 2023-05-03
  • 解除资格!停止一切合作 解除资格!停止一切合作 佼昌翰 | 2023-05-02
  • 3699起 联想小新mini主机上架 13代酷睿标压处理器 3699起 联想小新mini主机上架 13代酷睿标压 習又夏 | 2023-05-05
  • 前董事长被免,天山生物全面进入“中植系”时代?股价曾在一月内暴涨超400% 前董事长被免,天山生物全面进入“中植系”时 惠惠君 | 2023-05-02
  • 疯成这样,怎么还能被全网吹捧? 疯成这样,怎么还能被全网吹捧? 郜萌運 | 2023-05-02
  • 狂吼11次“让一下”!交警咆哮开道嘶吼到吐 狂吼11次“让一下”!交警咆哮开道嘶吼到吐 寸飛蘭 | 2023-05-03
  • 摩根大通收购美国第一共和银行 摩根大通收购美国第一共和银行 謝飛揚 | 2023-05-02
  • 台剧赢麻了,又来一部8.9 台剧赢麻了,又来一部8.9 衛青柏 | 2023-05-02
  • 事关农村土地承包和农民权益,《农村土地承包合同管理办法》5月1日起施行 事关农村土地承包和农民权益,《农村土地承包 郟君昊 | 2023-05-02
  • 下降45分,上涨35分!34所自划线院校复试分数线涨幅汇总 下降45分,上涨35分!34所自划线院校复试分数线 袁曼雁 | 2023-05-07
  • "三高"已盯上青少年,做好这件事是关键 "三高"已盯上青少年,做好这件事是关键 習又夏 | 2023-05-05
  • 五一档没一个能打的 五一档没一个能打的 集玲琳 | 2023-05-05
  • 恐怖韩剧下神坛,这次胆小可入 恐怖韩剧下神坛,这次胆小可入 袁曼雁 | 2023-05-05
  • 200户连夜疏散,原因让人愤怒!“损失超一亿”,官方通报 200户连夜疏散,原因让人愤怒!“损失超一亿”, 袁曼雁 | 2023-05-03
  • 这剧是不是用ChatGPT写的呀? 这剧是不是用ChatGPT写的呀? 惠惠君 | 2023-05-02
  • 性骚扰惯犯,滚出娱乐圈 性骚扰惯犯,滚出娱乐圈 謝飛揚 | 2023-05-05
  • 48岁何炅自曝已老花眼,黄磊睡前认老,《向往的生活》证实将停办 48岁何炅自曝已老花眼,黄磊睡前认老,《向往的 佼昌翰 | 2023-05-02
  • 一个《长月烬明》倒了,《狐妖》《长相思》《与凤行》…在路上了 一个《长月烬明》倒了,《狐妖》《长相思》《 惠惠君 | 2023-05-02
  • 张天爱假期晒“酷”存照 卷发披肩穿黑色吊带裙大秀好身材 张天爱假期晒“酷”存照 卷发披肩穿黑色吊 嬴覓晴 | 2023-05-02
  • 当年轻人开始不随份子钱 当年轻人开始不随份子钱 袁曼雁 | 2023-05-02
  • 毕滢用8年时间成功逼宫?曾被传已婚生子的她,不容小觑 毕滢用8年时间成功逼宫?曾被传已婚生子的她, 幸聽楓 | 2023-05-03
  • 宋慧乔获视后首次晒照,拿奖杯笑容温柔 宋慧乔获视后首次晒照,拿奖杯笑容温柔 郜萌運 | 2023-05-02

©2022 大酷樂 版權所有

隱私政策 | 服務條款 | 聯繫我們