今天小编分享的互联网经验：韩国N号房再现，Deepfake 还有解否？，欢迎阅读。
人工智能驱动的骗局已经成为国际关注的问题，据《韩国时报》报道，最近在消息应用程式 Telegram 上发现了许多涉嫌创建和分发带有普通女性和女性军人被篡改照片的深度伪造色情材料的聊天室。据报道，肇事者使用 Instagram 等社交媒体平台保存或截屏受害者的照片，然后用于制作深度假色情材料。
类似 "N 号房 " 的事件再次发生，引发了公众对深度伪造技术（Deepfake）滥用的担忧。这种技术通过人工智能算法，能够将人物的面部特征无缝地替换到另一个人的身上，从而制造出极其逼真的伪造视频或图片。
愈演愈烈
Deepfake 源于 2017 年，一名 Reddit 用户通过深度学习算法将色情女演员的面部替换成了一些美国知名演员，引起了一些争议。
其后，层出不穷的 Deepfake 技术的滥用也引发了广泛的社会关注和争议。例如，攻击者可以利用该技术生成虚假的视频和音频内容，以误导公众、散布谣言或进行诈骗等不法行为。这些行为严重威胁到了信息的真实性和社会的信任体系。
不久前，一场由 Deepfake 技术创建的虚拟 " 马斯克 " 在深夜直播，引起了极大的关注，上万名观众在线围观并打赏。这位 " 马斯克 " 不仅手舞足蹈模仿火箭发射，甚至还与网友连麦互动，活力满满不似本尊。
外媒曾报道过一名 82 岁的美国退休老人因信以为真的虚拟马斯克宣传视频，损失了 69 万美元的退休金。诈骗分子利用 Deepfake 制作了 " 马斯克 " 宣传投资机会的视频，诱导老人将钱投资给了虚假的公司。自去年年底以来，马斯克出现在近 1/4 的深度伪造诈骗视频中，其中针对加密货币的视频出现率更是达到 90%。
如何甄别
真实影像与篡改影像在纹理、颜色等显性特征，以及肉眼不可见的隐性特征上存在差异。通过深度学习模型，能够深入挖掘和分析这些差异，从而有效检测并识别 Deepfake 影像。
合合信息影像算法研发总监郭丰俊告诉动点科技记者，当人们在网上发送含有个人信息的图片时，这些资料包含的信息很可能被不法分子使用 OCR 技术提取并泄露。OCR 对抗攻击技术可对场景文本或者文档内文本进行扰动，为个人或企业的重要檔案 " 上锁 "，防止第三方通过 OCR 系统读取并保存影像中所有的文字内容，降低数据泄露的风险，达到保护隐私信息的目的。
郭丰俊指出，今年的 AI 影像篡改检测技术相比去年有了显著的优化和更新，尤其是在处理截图篡改方面。" 区别于传统影像，截图场景几乎没有背景纹理，这对篡改检测提出了更高的挑战。合合信息技术团队通过大规模样本预训练模型，成功拟合出截图篡改中微弱信息，实现了对截图场景的有效篡改检测。这一技术还能够通用推广到扫描文档的场景中。"
相比影像和语音，视频鉴伪可以利用的线索更多，所以准确率往往更高。例如，即使单个伪造画面看上去都没有瑕疵，但连续伪造画面可能会出现时序瑕疵，例如画面抖动、违反物理规律的现象，这些都会在视频鉴伪模型里加以建模。
据了解，瑞莱智慧打造的 DeepReal，就能够快速、精准地对影像、视频、音频、文本内容进行真伪鉴别，有效打击 AI 诈骗、色情黑产、虚假宣传、证据造假等违法违规行为，主要服务于监管机构、公安机关等。而 RealBelieve 则是瑞莱智慧首个可实时检测 AI 合成内容产品，它直接面向终端用户服务，能够提供主动实时检测防护，可接入视频流鉴别人脸真伪，也可在用户浏览网页内容时提供 AIGC 合成可能性提示，现在正在进行内测。
瑞莱智慧联合创始人、算法科学家萧子豪告诉动点科技记者，随着生成式人工智能技术的迅猛发展，深度伪造内容越来越逼真且多元。主要挑战在于新的伪造技术层出不穷，网络传播环境的日趋复杂，加上基于深度神经网络的检测算法存在结构性缺陷等，反深伪检测技术也面临 " 强对抗性 "，需要持续更新与迭代优化。类似于 " 猫鼠游戏 "，深度伪造和检测在不断学习攻防过程中会自我进化，规避上一代的对抗技术。这是一场没有终点的对抗，需要持续进行大量投入。
信也科技副总裁、大数据和 AI 负责人陈磊则指出："（人工智能）一般是先有生成的能力，才会有鉴伪的能力，所以从大的原理上来说，它其实就是在不断地对抗。我们一方面要关注单点上面技术的对抗，另外一方面要综合看一些实际的问题，比如针对风险或者欺诈，不能从单一的维度看语音或者影像，而是要综合各个维度进行综合的判断。技术进步可能在单点上能有很大的突破，但从全局角度来讲，需要更系统地进行融合，既要看对话的部分，也要看历史表现的部分。"
结语
随着人工智能技术的飞速发展，Deepfake 技术带来的挑战日益凸显，它不仅在社交媒体上引发了关于隐私和安全的广泛担忧，也对现有的法律和伦理规范提出了严峻考验。从 " 韩国 N 号房 " 事件到虚拟名人诈骗，Deepfake 技术滥用的案例不断提醒我们，技术进步的同时也需要加强监管和防范措施。
面对这一挑战，全球范围内的科技公司、监管机构和社会各界都在积极探索解决方案。一方面，加强技术研发，提升 Deepfake 内容的检测和识别能力，以确保信息的真实性和可信度；另一方面，完善法律法规，明确界定 Deepfake 技术的合法使用范围，加大对滥用技术的惩处力度，同时提高公众的防范意识和自我保护能力。
未来，随着技术的不断进步和应用场景的不断拓展，Deepfake 技术也将面临更多的挑战和机遇。如何在保障个人隐私和公共安全的前提下，合理利用这一技术，将是我们共同需要思考和解决的问题。这场关于技术与道德、法律与伦理的讨论，无疑将持续下去，直到我们找到最佳的平衡点。
