只需要一张照片，
通过人工智能深度合成技术，
任何人都能成为视频中的主人公，
甚至连表情和动作都能以假乱真。
然而，这项技术
却让一些人产生了不良想法
杭州的虞某利用「AI换脸」软件生成大量淫秽视频进行传播，被换脸的有不少女明星等公众人物，虞某甚至还提供换脸定制服务。
「 AI换脸」伪造女明星涉黄视频
2022年8月，杭州市萧山警方在网上巡查中获取一条线索，辖区内有人利用AI技术制作淫秽视频在网上进行大量传播，警方依法对此立案侦查，并迅速抓获了犯罪嫌疑人虞某，随后该案被移送至杭州市萧山区人民检察院审查起诉。
杭州市萧山区人民检察院检察委员会专职委员 章蕾： 虞某通过在互联网上发现了有一个AI换脸的技术软件，他自己通过学习这个软件，掌握了使用技能，从此开始利用AI换脸的技术去牟利。
检察机关调查发现，虞某从2020年开始接触「AI换脸」软件，起初他想通过在网上推广该项技术以及相关软件来获利，但是关注他的人却很少。一次偶然的机会，虞某看到有人在社交群组中发布淫秽信息来吸引他人关注，于是他也动起了类似念头。
据虞某供述，为了吸引更多的关注和流量，他在社交软件上创建了「浏览群」和「私人定制群」，「浏览群」主要用来传播「AI换脸」的淫秽视频吸引、招揽观看者，其中包括一些经过虞某换脸的视频。 当有人提出「定制换脸」的需求，虞某会将这些人引入所谓「私人定制群」。
杭州市萧山区人民检察院第七检察部检察官助理 陈禹尧： 通过收取入（浏览）群费用的方式，一个198元、298元或者398元。另外一个就是虞某还提供人脸视频定制服务，相当于客户如果需要定制一个换脸的视频，他可以根据时长，根据视频的难度大小收取相应的费用。
据萧山检察，截至案发， 公安机关共在虞某某所组建的公开群内查获淫秽视频1200余部、图片1600余张。
虞某某组建该聊天群并在群中传播合成的淫秽视频
「 只要能看到脸的都能换 」
据检察机关调查，虞某一边通过传播换脸的淫秽视频来「吸粉引流」，同时又通过出售「AI换脸」软件和提供所谓「AI换脸」的私人定制服务，在不到半年的时间里就获利数万元。
据检察机关调查，虞某根据「AI换脸」视频的长度、清晰度等难易条件，按照5分钟300元、10分钟500元等标准来收取定制的费用。 虞某声称，「只要能看到脸的都能换」。
杭州市萧山区人民检察院检察委员会专职委员 章蕾： 他通过VIP定制，就是客户提要求「我今天想要把脸换成是谁的脸，你帮我定制一下，我支付相应的报酬」，通过这样牟利的方式。
据检察机关了解，虞某的客户要求「定制」换脸的对象不仅包括一些知名的公众人物，也有生活中的普通人， 其中就有人提出想要定制自己暗恋女生的换脸视频， 而对于这些未经同意就擅自侵犯他人敏感信息的违法行为，虞某也是来者不拒。
另外，虞某除了进行定制化的换脸服务，还将「AI换脸」软件分为初级、中级和高级三个等级进行销售并传授使用教程，同时还提供网上非法收集的他人人脸素材。
据检察机关收集的证据显示， 虞某创建的众多社交群组中，最少的成员95人，最多的成员达2053人， 通过销售换脸淫秽视频以及定制换脸淫秽视频等违法行为，虞某先后 收取口令红包200余次，总金额共计6万余元。
追究刑责！提起民事公益诉讼 ！
检察机关认为，作为「AI换脸」技术的使用者，虞某通过传播侵犯公民个人信息的方法和手段，使得更多「不特定主体」个人信息被侵害的社会危险性进一步扩大。因此，杭州市萧山区人民检察院在依法追究虞某刑事责任外，同时还提起民事公益诉讼。2023年7月，杭州互联网法院对这起公益诉讼案进行审理，这也是 我国首例关于「AI换脸」侵犯公民个人信息公益诉讼案的审理判决。
2023年4月14日，杭州萧山区人民检察院决定对虞某「AI换脸」侵犯公民个人信息公益诉讼案立案，当日履行公告程序，公告期满，无适格主体提起诉讼。6月9日，检察机关依法对虞某提起民事公益诉讼。7月28日，该案在杭州互联网法院一审公开审理。
在庭审中，检察机关出示了虞某侵犯公民个人信息、损害社会公共利益的详细证据，包括公安机关对虞某所作的讯问、询问笔录、勘验记录、检查记录、鉴定意见，以及淫秽视频1200多部、图片1600多张等电子数据。
杭州互联网法院经审理认为，虞某利用「AI换脸」技术侵犯公民个人信息的违法事实确凿，因此支持检察机关作为公益诉讼起诉人的全部诉讼请求： 判令被告虞某 删除非法获取的个人信息，公开赔礼道歉、消除影响并赔偿损失共60000元 ，这些款项将专门用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项。
2023年11月，杭州市萧山区人民法院判决被告人 虞某犯制作、传播淫秽物品牟利罪，判处 有期徒刑七年三个月，并处罚金6万元 。
法官：
技术无善恶但有边界，须在法律规制内使用
「仅凭几张照片，任何人都可能成为受害者。」 从网络主播换脸女明星直播带货，再到换脸被嫁接到淫秽视频中，滥用「AI换脸」技术实施各类侵犯个人信息的行为时有发生，甚至在灰色领域甚至违法犯罪领域滥用。那么，「AI换脸」技术的法律边界在哪里，又该如何规范和治理呢？
杭州互联网法院互联网审判第一庭庭长 肖芄： 我们国家的民法典对于侵害他人，通过深度伪造方式侵害他人人身权益是有明确的规定的，禁止通过深度合成的方式去侵害公民的人身财产权益，这是民法典的规定。随着技术的发展，个人信息保护法对于深度合成也有相关的规定，因为不管是面部的一个替换还是声音的替换，它实际上都需要收集公民的个人信息，那么这些都是属于个人信息保护法特别保护的敏感的生物识别信息。
我国目前除了「民法典」「个人信息保护法」，2023年正式实施的【互联网信息服务深度合成管理规定】【生成式人工智能服务管理暂行办法】中也明确规定，强调使用者不得利用深度合成服务从事法律、行政法规禁止的活动，要求深度合成服务提供者要落实信息安全主体责任。
来源：央视新闻
编辑：樊金石
