今天小编分享的科技经验：案件细节曝光！AI换脸伪造女明星涉黄视频，还有人换成暗恋女生，欢迎阅读。
"AI 换脸 " 相信大家都不陌生。只需要一张照片，通过人工智能深度合成技术，任何人都能成为视频中的主角，甚至连表情和动作都能以假乱真。然而，这项新技术，却让一些人产生了不良想法，杭州的虞某就利用 "AI 换脸 " 軟體生成大量淫秽视频进行传播，被换脸的有不少女明星等公众人物，虞某甚至还提供换脸定制服务。
"AI 换脸 " 伪造女明星涉黄视频
2022 年 8 月，杭州市萧山警方在网上巡查中获取一条线索，辖区内有人利用 AI 技术制作淫秽视频在网上进行大量传播，警方依法对此立案侦查，并迅速抓获了犯罪嫌疑人虞某，随后该案被移送至杭州市萧山区人民检察院审查起诉。
杭州市萧山区人民检察院检察委员会专职委员章蕾表示，虞某通过在互联网上发现了有一个 AI 换脸的技术軟體，他自己通过学习这个軟體，掌握了使用技能，从此开始利用 AI 换脸的技术去牟利。
检察机关调查发现，虞某从 2020 年开始接触 "AI 换脸 " 軟體，起初，他想通过在网上推广该项技术以及相关的軟體来获利，但是，一段时间过后关注他的人却很少，一次偶然的机会，虞某看到有人在社交群组中发布淫秽信息来吸引他人关注，于是他也动起了类似念头。
杭州市萧山区人民检察院第七检察部检察官助理陈禹尧表示，他可能发现仅仅通过贩卖軟體的方式，可能很难获取到一般人的关注。因为他在网络上看到有一些网络群组在传播一些淫秽色情视频，他就想到说通过换脸軟體制作一些淫秽色情视频，然后先放在互联网群组上，从而吸引流量，吸引大家来关注这个軟體或者换脸视频。
据虞某供述，为了吸引更多的关注和流量，他在社交軟體上创建了 " 浏览群 " 和 " 私人定制群 "，" 浏览群 " 主要用来传播 "AI 换脸 " 的淫秽视频吸引、招揽观看者，其中包括一些经过虞某换脸的视频，当有人提出 " 定制换脸 " 的需求，虞某会将这些人引入所谓 " 私人定制群 "。
杭州市萧山区人民检察院第七检察部检察官助理陈禹尧表示，通过收取入（浏览）群费用的方式，一个 198 元、298 元或者 398 元。另外一个就是虞某还提供人脸视频定制服务，相当于客户如果需要定制一个换脸的视频，他可以根据时长，根据视频的难度大小收取相应的费用。
据萧山检察，截至案发，公安机关共在虞某某所组建的公开群内查获淫秽视频 1200 余部、图片 1600 余张。
私人定制→ " 只要能看到脸的都能换 "
据检察机关调查，虞某一边通过传播换脸的淫秽视频来 " 吸粉引流 "，同时又通过出售 "AI 换脸 " 軟體和提供所谓 "AI 换脸 " 的私人定制服务，在不到半年的时间里就获利数万元。而被 "AI 换脸 " 侵害人脸敏感信息的受害者，不仅包括多位知名公众人物，还有很多不特定的普通人。
据检察机关调查，虞某根据 "AI 换脸 " 视频的长度、清晰度等难易条件，按照 5 分钟 300 元、10 分钟 500 元等标准来收取定制的费用。虞某声称，" 只要能看到脸的都能换 "。
杭州市萧山区人民检察院第七检察部检察官助理陈禹尧表示，首先这个价格也是他自己定的，再一个初级、中级、高级，可能在这个视频最后完成换脸的效果上有一定的区别。有些人可能一开始购买了初级的教程，初级的一些素材和材料，发现最后达到的效果不能达到他所期望的效果，那么有可能会继续付费去购买一些高级的视频，包括高级教程。
杭州市萧山区人民检察院检察委员会专职委员章蕾表示，他通过 VIP 定制，就是客户提要求 " 我今天想要把脸换成是谁的脸，你帮我定制一下，我支付相应的报酬 "，通过这样牟利的方式。
" 定制 " 换脸对象既有公众人物也有普通人
据检察机关了解，虞某的客户要求 " 定制 " 换脸的对象不仅包括一些知名的公众人物，也有生活中的普通人，其中就有人提出想要定制自己暗恋女生的换脸视频，而对于这些未经同意就擅自侵犯他人敏感信息的违法行为，虞某也是来者不拒。
另外，虞某除了进行定制化的换脸服务，还将 "AI 换脸 " 軟體分为初级、中级和高级三个等级进行销售并传授使用教程，同时还提供网上非法收集的他人人脸素材。
杭州市萧山区人民检察院第七检察部检察官助理陈禹尧表示，这个軟體的入门的门槛其实是比较低的，它的操作相当于通过一些已经设定好了的运行的程式和代码，相当于我只要按照你的步骤，把需要进行换脸的视频放在它规定的一个檔案夹里，或者是按照步骤来进行操作，它自动对你所要替换的人脸视频里面的人脸信息，或者照片里的信息是自动提取，自动建立学习模型进行学习，然后下一步是自动进行合成的。
据检察机关收集的证据显示，虞某创建的众多社交群组中，最少的成员 95 人，最多的成员达 2053 人，通过销售换脸淫秽视频以及定制换脸淫秽视频等违法行为，虞某先后收取口令红包 200 余次，总金额共计 6 万余元。
除追究刑责，检察机关还提起民事公益诉讼
检察机关认为，作为 "AI 换脸 " 技术的使用者，虞某通过传播侵犯公民个人信息的方法和手段，使得更多 " 不特定主体 " 个人信息被侵害的社会危险性进一步扩大。因此，杭州市萧山区人民检察院在依法追究虞某刑事责任外，同时还提起民事公益诉讼。2023 年 7 月，杭州互联网法院对这起公益诉讼案进行审理，这也是我国首例关于 "AI 换脸 " 侵犯公民个人信息公益诉讼案的审理判决。
2023 年 4 月 14 日，杭州萧山区人民检察院决定对虞某 "AI 换脸 " 侵犯公民个人信息公益诉讼案立案，当日履行公告程式，公告期满，无适格主体提起诉讼。6 月 9 日，检察机关依法对虞某提起民事公益诉讼。7 月 28 日，该案在杭州互联网法院一审公开审理。
在庭审中，检察机关出示了虞某侵犯公民个人信息、损害社会公共利益的详细证据，包括公安机关对虞某所作的讯问、询问笔录、勘验记录、检查记录、鉴定意见，以及淫秽视频 1200 多部、图片 1600 多张等电子数据。
杭州互联网法院互联网审判第一庭庭长肖芄表示，过去我们常常认为眼见为实，耳听为实，但是随着深度合成技术以及新技术的运用，我们眼见也不一定为实，新技术的不当应用或者是一种滥用，实际上冲击了我们社会公众主体相互之间的信任关系，特别是在互联网空间这样一种建立起来的信任关系。那么对于这种信任关系、社会关系的一种侵害，其实本身也是对社会秩序的一种损害。
杭州互联网法院经审理认为，虞某利用 "AI 换脸 " 技术侵犯公民个人信息的违法事实确凿，因此支持检察机关作为公益诉讼起诉人的全部诉讼请求：判令被告虞某删除非法获取的个人信息，公开赔礼道歉、消除影响并赔偿损失共 60000 元，这些款项将专门用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项。
杭州互联网法院常务副院长朱敏明表示，任何一项新技术，首先这个技术它总是有中立性的，那么在技术本身我们是持接纳支持的这种态度，但是技术开发应用的目的，它必须是有利于全人类的公益，不能是为了这个技术，用于个人的非法牟利，然后侵犯其他公民、集体、国家、社会的合法权益，一旦越界了就要承担相应的责任。那么这个案子中因为由检察院来提起公益诉讼，然后法院来依法审判，充分发挥审判司法职能对新技术的规范。
技术无善恶但有边界 须在法律规制内使用
2023 年 11 月，杭州市萧山区人民法院判决被告人虞某犯制作、传播淫秽物品牟利罪，判处有期徒刑七年三个月，并处罚金 6 万元。
" 仅凭几张照片，任何人都可能成为受害者。" 从网络主播换脸女明星直播带货，再到换脸被嫁接到淫秽视频中，滥用 "AI 换脸 " 技术实施各类侵犯个人信息的行为时有发生，甚至在灰色领網域甚至违法犯罪领網域滥用。那么，"AI 换脸 " 技术的法律边界在哪里，又该如何规范和治理呢？
杭州互联网法院互联网审判第一庭庭长肖芄表示，我们国家的民法典对于侵害他人，通过深度伪造方式侵害他人人身权益是有明确的规定的，禁止通过深度合成的方式去侵害公民的人身财产权益，这是民法典的规定。随着技术的发展，个人信息保护法对于深度合成也有相关的规定，因为不管是面部的一个替换还是声音的替换，它实际上都需要收集公民的个人信息，那么这些都是属于个人信息保护法特别保护的敏感的生物识别信息。
我国目前除了 " 民法典 "" 个人信息保护法 "，2023 年正式实施的《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》中也明确规定，强调使用者不得利用深度合成衣务从事法律、行政法规禁止的活动，要求深度合成衣务提供者要落实信息安全主体责任。
注意！"AI 换脸 " 用来搞笑也存法律风险
法官认为， "AI 换脸 " 技术即便只是用来搞笑或者制作恶搞照片，也有可能涉及侵犯肖像权、名誉权，造成严重后果的，还可能构成侮辱罪或者诽谤罪。
而 "AI 换脸 " 技术的滥用，看似是对被侵害的个人的人格权、肖像权、名誉权、隐私权的侵害，实际上更是对社会公序良俗的践踏，是对稳定的社会环境和清朗的网络空间的挑战。
杭州互联网法院常务副院长朱敏明表示，一项新技术的产生往往专门针对这项新技术的法律法规会有所滞后，但是总的来说我们现在国家整个的法治体系已经相当完善，每个人你哪些行为是可以做的，哪些行为是不可以做的，它的原则性规定都是已经比较健全了。我想正常人都是能够判断得出来的，你去运用这项新技术，你的目的是有益于整个人类，有利于就是人民生活水平的提升，福祉的提升，还是说为了个人谋取不当的利益。那么我就想把握好这个界限，这些新技术都是能够为我们美好生活服务的。
