今天小编分享的科技经验:麻省理工学院开发“PhotoGuard”技术, 保护影像免受 AI 编辑,欢迎阅读。
IT 之家 7 月 25 日消息,随着基于 AI 的深度伪造技术不断提高,人们愈发难以仅凭肉眼分辨 " 哪些内容是 AI 伪造的 ",麻省理工学院日前宣布了一项名为 Photoguard 的技术,经过 Photoguard 技术处理的图片难以直接被 AI 识别篡改,有助于防止图片被爬虫修改后遭到误读。
据悉,这一 "PhotoGuard" 技术主要是通过对影像进行微小的修改,来防止 AI 识别出影像内容。该技术提供了两种阻止图片被 AI 修改的方案,一种是 " 编码器 " 法,通过修改影像的像素来干扰算法模型对影像的理解能力;另一种是 " 扩散 " 法让 AI 以为图片甲是图片乙,从而生成错误的影像。
不过 IT 之家经过查询得知,该技术实际上应用空间有限,研究人员警告,PhotoGuard 技术更多适用于反爬虫场景,技术本身也有一定局限性,攻击者只需要裁剪或翻转经过处理的图片,即可破解该技术。
研究人员表示,除技术外,解决 AI 造假还需要模型开发者、社交媒体平台和相关部门共同努力,才能提供一个全面的 " 反 AI 造假 " 解决方案。
▲ 图源 Pixabay