今天小编分享的科技经验：网传Gemini用文心一言训练？可能谷歌也是受害者，欢迎阅读。
AI 可以污染互联网，也能被互联网污染。
热闹的 AI 圈，今天（12 月 18 日）又传出一个大瓜：谷歌 Gemini 的中文回答自曝自己是文心一言？
据科技媒体量子位报道，有网友爆料：在谷歌 Vertex AI 平台使用该模型进行中文对话时，Gemini-Pro 直接表示自己是百度语言大模型。
图源 | 量子位
紧接着，微博大 V@阑夕发布微博表示，在 AI 聚合网站 Poe 上进行测试时，Gemini 模型同样在多次问答里把自己当成了文心一言。
为了验证，量子位分别在 Peo、Bard 以及谷歌 AI Studio 都进行了三轮测试。
最后证明：Gemini-Pro 确实在中文的训练数据上使用了百度文心。
但当事情曝光之后，我们又挖掘到一些有趣的信息。
AI 犯错后，谷歌紧急修复？
在阑夕以及量子位的测试里，都提到了 Poe 这个 AI 聚合网站。
这是一个由知名问答平台 Quora 推出的 AI 聊天机器人应用。
虽然名头不小，但实际上这只是一个聚合了多种主流的 AI 模型的网站，包含了 GPT、Claude、PaLM 等大厂模型，包括此次的 Gemini-Pro，都能在该网站上进行免费体验。
当笔者在 Poe 上对 Gemini-Pro 进行提问后，大模型给出的答案其实并没有提到任何与文心一言相关的内容。
紧接着，笔者加上了 " 文心一言 " 的关键词进行追问后，Gemini-Pro 依然否认自己与文心一言的关系。
可见，即使是 " 钓鱼式提问 "，Gemini-Pro 还是努力在避免不上当。
不过在回答里，Gemini-Pro 提到了文心一言的底层模型是谷歌的 Transformer 模型。
而文心一言的官方表述是：百度飞桨开源深度学习平台中的基础模型库。
既然 Poe 的回答很正常，那么谷歌官方平台是否修复了呢？
在谷歌 AI Studio 里，笔者同样围绕 " 文心一言 " 关键词提了几个问题。
与量子位测试的结果进行对比来看，Gemini 大模型否认了自己使用文心一言来训练中文模型。
但在答案里，Gemini 提到了不少中文训练集的数据来源，并提到自己可以从 ERNIE、阿里巴巴达摩院 M6 以及腾讯优图实验室 GLM 等中文语言模型中进行预训练。
由此可见，在曝光数小时后，谷歌技术人员紧急修复了这个 "bug"。
不只是文心一言？
虽然按照正常流程没有钓鱼成功，但笔者还是挖到了一个彩蛋：
在 Poe 网站上新建一次对话后，Gemini-Pro 竟然把自己介绍成 "小爱同学"，回答也是非常离谱。
而在多次反问 " 你不是 Gemini-Pro 吗 " 后，Gemini-Pro 再次给出了离谱的答案。
虽然不清楚是不是网站接口出现了问题，但可以肯定的是，目前的 AI 聊天机器人并没有想象地那么神奇，免费的 AI 聚合网站更是 " 图一乐 "。
实际上被互联网污染了？
这不是谷歌 Gemini 第一次 " 闯祸 "。
在该模型刚发布当天，就有人质疑演示视频的真实性。
结果，谷歌官方真就承认了 Gemini 演示视频是经特殊剪辑处理，非实时画面，但否认视频系 " 造假 "。
事实上，为了避免现场演示翻车，绝大多数科技公司都会稍微对演示视频进行调整，这非常普遍。
但为了与 GPT-4 进行对比，从而进行夸大剪辑，只能说谷歌的营销手段还是 " 翻车 " 了。
而在今天爆出的 " 文心一言训练中文语言模型 " 这件事上，我们同样可以看出谷歌 Gemini 其实并不是有意。
对于中文数据来说，百度确实算得上一个重要来源，但缺点在于：中文互联网上存在大量低质量内容，让人眼花缭乱。
自从 AI 火爆之后，不少快速生成的劣质内容开始充斥互联网，并逐渐造成数据污染。
对于互联网获取数据的 AI 模型来说，在无法很好地辨别信息的真实性和可信度的情况下，极有可能产生造成 "AI 被互联网污染，再生产更劣质信息" 的恶性循环，最终出现不可逆的缺陷。
这里笔者做了假设：谷歌 Gemini 在训练中文时 " 偷懒 " 使用了未经辨别与筛选后的中文数据，最终造成了这次 " 翻车 "。
只能说，作为一款对标 GPT-4 的重磅产品，Gemini 背负着 " 再次领跑 AI 浪潮 " 的使命，所以谷歌的技术人员还是用点心吧。
