今天小编分享的互联网经验:美国国父大变黑人!谷歌AI人物成像新功能“离大谱”,拟下线几周,股价盘中跌超4%,欢迎阅读。
谷歌上周刚刚推出重大更新的人工智能(AI)大模型 Gemini 1.5 Pro,就被几周前上线的新 AI 功能打脸。投资者看来在用脚投票,表达他们对谷歌在 AI 领網域竞争地位的担忧。
美东时间 2 月 26 日周一,上周五微幅收跌的谷歌母公司 Alphabet 低开低走,加速下跌,盘中跌破关键位 50 日均线,刷新日低时,日内跌逾 4.2%,势将创 1 月 5 日以来收盘新低。
有评论指出,谷歌股价大跌正逢该公司在竭力应对旗下 Gemini 大模型招致批评的负面影响。
华尔街见闻注意到,周一当天出席巴塞罗那举行的世界移动通信大会时,谷歌 AI 研究部门 DeepMind 的负责人 Demis Hassabis 称,谷歌计划在 " 未来几周内 " 恢复被叫停的生成人物影像功能。他说:" 我们希望在很短的时间内重新上线。"
按照 Hassabis 所说,谷歌的 AI 人物影像生成功能将下线几周。上周四,谷歌在该功能招致大批网友批评后宣布暂停该功能。
在原名推特的社交媒体 X,网友提到的谷歌 Gemini 模型这一 AI 功能有多离谱呢?据说,Gemini 公然 " 篡改历史 ",生成的美国开国元勋和中世纪英格兰国王都出现了黑人的身影。
X 网友要求 Gemeni 生成 1943 年二战期间的德国士兵图片,它生成的一些士兵竟然有亚裔和非裔。
对于有关现代社会人群的生成图片,Gemini 也显示了 " 无视 " 白人群体的倾向。X 用户名为 debarghya_das 的谷歌前工程师、发现,美国、英国、德国、瑞典、芬兰、澳大利亚女性的肤色都可能偏黑。
为什么 Gemini 生图如此过度偏重群体多样化?Hugging Face 的首席道德科学家 Margaret Mitchel 分析,谷歌可能对 AI 进行了多种干预。一是,谷歌可能在幕后为用户提示词增加了 " 多样化 " 的形容词,比如将 " 厨师的肖像 " 改成 " 土著厨师的肖像 "。二是谷歌可能优先显示 " 多样化 " 的影像,假设 Gemini 为每个提示词生成 十张影像但只显示四张,用户更有可能看到排在前面的 " 多样化 " 影像。
上周四,谷歌在 X 发帖称,意识到 Gemini 在一些历史影像生成的描述中提供了不准确的信息,已经在努力解决 Gemini 影像生成功能最近出现的问题,将暂停该功能并很快发布改进版本。
当天谷歌在博客文章中承认," 三周前 " 为 Gemini 对话 App 推出的影像生成新功能出了错,并解释说,Gemini 出的问题部分源于,随着时间推移,Gemini 模型变得 " 比我们预期的要谨慎得多 ",它拒绝全面回答某些提示词,将一些无害的提示词错误地解读为敏感词。
本周一,Hassabis 也提到 Gemini 演化存在的问题。他解释说,谷歌正在应对,推出旨在生成文本、影像和照片的 " 多模态 " 系统时面临的困难。他说:" 这是高级 AI 带来的细微差别之一。这是一个我们都在努力应对的领網域。"