今天小编分享的互联网经验:防堵AI深伪诈骗!谷歌搜索结果将标注由AI生成的影像,欢迎阅读。
谷歌周二表示,计划对谷歌搜索进行调整,使用户更清楚地知道搜索结果中,哪些影像是由 AI 生成或由 AI 工具编辑的。
该公司表示,在接下来的几个月中,谷歌将在搜索、Google Lens 和 Android 上的 Circle to Search 功能的 " 关于此影像 " 視窗得標记 AI 生成和编辑的影像,类似的提示可能会出现在 YouTube 等其他谷歌的其他平台上。谷歌表示,将在今年晚些时候分享更多相关信息。
值得注意的是,只有包含 "C2PA 元数据 " 的影像才会在搜索中被标记为 AI 处理过的。C2PA(内容来源与真实性联盟)是一群致力于制定技术标准的组织,旨在追踪影像的历史,包括捕获和 / 或创建影像的设备和軟體。
目前,包括谷歌、亚马逊、微软、OpenAI 和 Adobe 在内的公司都支持 C2PA。然而,该联盟的标准尚未得到广泛采用。此前有媒体报道,C2PA 在推广和互操作性方面面临诸多挑战,目前只有少数生成式 AI 工具和徕卡、索尼的相机支持该组织的规范。
此外,与任何元数据一样,C2PA 元数据可以被删除、擦除或损坏到无法读取的程度。而一些流行的生成式 AI 工具(如 xAI 的 Grok 聊天机器人用于影像生成的 Flux)生成的影像不含 C2PA 元数据,部分原因是它们的开发者尚未同意支持该标准。
但分析认为,尽管如此,有措施总比没有好,尤其是在 AI 深度伪造(deepfakes)迅速传播的情况下。调查显示,大多数人都担心被深度伪造欺骗,以及 AI 可能会助长虚假宣传的传播。根据一项估计,涉及 AI 生成内容的骗局在 2023 年到 2024 年之间增长了 245%。德勤预计,与深度伪造相关的损失将从 2023 年的 123 亿美元飙升至 2027 年的 400 亿美元。