24日，一則
「涉黃AI換臉案」的新聞，
沖上熱搜
有人將涉黃影片
AI換臉成暗戀女生
2020年
浙江杭州的虞某
接觸了「AI換臉」軟件
為吸引流量
他利用該軟件
制作大量淫穢影片並傳播
據虞某供述
為了吸引更多的關註和流量
他在社交軟件上建立了
「瀏覽群」和「私人客製群」
「瀏覽群」主要用來傳播
「AI換臉」的淫穢影片
吸引、招攬觀看者
其中包括一些
經過虞某換臉的影片
當有人提出「客製換臉」的需求
虞某會將這些人
引入所謂「私人客製群
虞某聲稱
「只要能看到臉的都能換」
有人甚至要客製
暗戀女生的換臉影片
據檢察機關調查
虞某根據「AI換臉」影片的
長度、清晰度等難易條件
按照5分鐘300元、10分鐘500元等
標準來收取客製的費用
除追究刑責，檢察機關
還提起民事公益訴訟
檢察機關認為
作為「AI換臉」技術的使用者
虞某透過傳播
侵犯公民個人資訊的方法和手段
使得更多「不特定主體」個人資訊
被侵害的社會危險性進一步擴大
因此
杭州市蕭山區人民檢察院
在依法追究虞某刑事責任外
同時還提起民事公益訴訟
杭州互聯網法院經審理認為
虞某利用「AI換臉」技術
侵犯公民個人資訊的違法事實確鑿
因此支持檢察機關
作為公益訴訟起訴人的
全部訴訟請求：
判令被告虞某
刪除非法獲取的個人資訊
公開賠禮道歉、
消除影響並賠償損失
這些款項將專門用於
個人資訊保護、
人臉深度合成技術不當套用的治理
等公益事項
最終
虞某犯制作、傳播淫穢物品牟利罪
被判有期徒刑七年三個月
並處罰金6萬元
註意！「AI換臉」
用來搞笑也存法律風險
法官認為，「AI換臉」技術
即便只是用來搞笑
或者制作惡搞照片
也有可能涉及
侵犯肖像權、名譽權
造成嚴重後果的
還可能構成侮辱罪或者誹謗罪
而「AI換臉」技術的濫用
看似是對被侵害的個人的
人格權、肖像權、
名譽權、私密權的侵害
實際上更是
對社會公序良俗的踐踏
是對穩定的社會環境
和清朗的網絡空間的挑戰
網友呼籲：盡快規範
看到審判結果
多數網友表示
支持嚴懲！堅決抵制！
有網友呼喚規範AI使用
有網友提醒
在網上釋出照片要小心
註意保護好自己的私密
發現不法行為第一時間報警
別讓不法行為毀了新技術
也毀了自己
AI換臉
這是新技術產生的新玩法
但不管怎麽玩
都必須在法律法規允許的範圍內
絕不能踩線越界
運用AI技術將他人的
臉部資訊合成到色情影片中
再將影片售賣牟利
顯然已經侵犯了他人的肖像權
還涉嫌傳播淫穢物品罪
嚴重挑戰了社會公序良俗
侵權人的伏法有力
說明了一個道理：
盡管現在還沒有
專門針對AI技術的法律法規
但中國現有的法律體系
已經比較完善
足以懲治
運用新技術違法犯罪的行為
誰都必須對此心懷敬畏
管住濫用新技術的心和手
一項先進技術的產生並不容易
我們要依法用好
別讓不法行為毀了新技術
也毀了自己
來源：反詐課堂
