夕小瑤科技說 原創
作者 | 海野
近日，一起針對女性的網路犯罪刷爆全網——
「施暴者」利用一門名為deepfake（深度偽造）的AI換臉技術，將不雅視訊的「女主角」的臉，換成身邊女性的臉並大肆進行宣傳。
受害女性們受到了莫須有的網路暴力，顏面掃地、名譽全無。
被偷走的，不僅是受害者的臉，還有身份、名譽、私密、尊重。近乎無解。
直到今天，一位勇敢的小姐姐站了出來： 張欣怡。
張欣怡，作為一名演算法研究工程師，她一直在deepfake檢測工作深耕。近期參加了外灘大會的全球Deepfake攻防挑戰賽。
而同樣作為一名女性，deepfake事件對女性帶來的傷害，讓她無比的震驚與憤怒。
我們會將參賽使用的AI模型向全球免費開源，讓所有有需要的人都可以對抗deepfake。希望透過技術手段，為每一個可能受到傷害的人提供保護。
在如此艱難的戰鬥中，張欣怡率先站了出來，利用自己的畢生所學，在技術層面，果斷舉起火把，為受害者女性點燃出一片光明。
回顧一下deepfake事件
簡單描述一下現在的deepfake技術，那就是：
只需要一張照片，就可以實作超逼真AI換臉。
這項技術最早可以追溯到兩年前，有人在YouTube上上傳過deepfake技術的教程：
而隨著時間推移，deepfake的真實度也越來越高。
現在，只需要不到10美元，就能在幾分鐘時間內制作出大量偽造視訊。
每項技術的發展，我們都期待它在友好的領域發光發熱。比如在deepfake技術加持下，抖音上的AI整蠱特效：
但我們不得不承認，它的濫用在犯罪領域得到了更好地發揮。
利用deepfake技術，施暴者針對女性制作了大量淫穢視訊，這起事件在南韓最為猖獗，在全球各國也均有發生。
更甚，施暴者收集了合成後的AI視訊，以及家庭住址等個人私密資訊，進一步針對受害者，展開財物上的敲詐。
而令人膽寒的是，這件事情的爆發，居然是來源於南韓的一所學校：
據韓聯社報道，從2021年7月至2024年4月，首爾大學畢業生樸某和姜某，涉嫌利用deepfake技術換臉合成色情照片和視訊，並在Telegram上私密傳播，受害女性多達61人，包括12名首爾大學學生。
這次事件，最大的受害者，是學校裏的學生和老師。
最大的加害者，居然也是學生！
這只是deepfake犯罪的冰山一角，南韓女性人權振興院今年釋出的【2023數位性犯罪受害者支援報告】顯示，去年有8983名數位性犯罪受害者尋求幫助。
史丹佛大學互聯網觀察站也發現，在大型AI資料庫LAION中，至少有數千張疑似兒童性虐待的影像。
而南韓政府的無作為，南韓社會的沈默不語，更加大了作案人員的囂張氣焰。迄今，南韓已有至少200所學校的學生成為deepfake事件的受害者。
有網友制作了一張受害者所在學校的地圖，其中密密麻麻的紅標觸目驚心：
甚至，deepfake的受害者不得不跑到推特和微博上，尋求其他國家的幫助：
這件事情，很難不讓人聯想到2017年的美國#MeToo運動，以及2020年的南韓的N號房事件。
前者是美國女明星們對性騷擾醜聞的抗爭，後者是對脅迫南韓女性（甚至是未成年）拍攝淫穢視訊事件的揭露。
N號房事件，至少有26萬名會員參與，也就是說，在南韓，每50名男性就有1人圍觀過N號房。
這次的deepfake事件，也有至少22.7萬人參與過。要知道，南韓在2023年的出生人口數也只有23萬。
這讓我們不得不反思： 女性和未成年人遭遇的侵犯與不公，就算在後工業文明時代的已開發國家依舊頑固地活躍著。
雖然我們不能改變深植在部份人心裏對女性的蔑視和「羞辱」，那我們至少要有堅強的力量，維護好屬於女性的合法權益。
「 既然有人用技術造假，那麽我們也要用技術去阻止他們得逞。 」張欣怡如是說。
於是，為了幫助更多女性脫離deepfake苦海，張欣怡團隊毅然決然地「girls help girls」，將他們的研究成果免費開源使用。
張欣怡團隊開源的模型名為：DeepFakeDefenders。在全球Deepfake攻防挑戰賽上，成功取得三等獎。
開源地址：https://github.com/VisionRush/DeepFakeDefenders
這是一個非常強大的影像鑒別模型，它透過模擬人類的視覺能力，在整體和局部上分別對色彩和紋理進行辨識，從而鑒別圖片是否由deepfake偽造。
而鑒於模型的使用難度，張欣怡團隊正在開發更方便、更快捷的軟體，降低使用門檻。
小結
張欣怡及其團隊的研究和舉措，如枯木逢春般，給當下深受deepfake迫害的女性群體，帶來了一株名為希望的花。
怎樣才能避免陷入「我」不是我的自證迴圈？怎樣才能分清虛擬與現實？張欣怡幫我們打出了第一槍。技術應該是造福人類、造福社會，而不是增加有色眼鏡、釀成爾虞我詐的悲劇。
但想杜絕如同deepfake類似的問題出現，也許依舊需要法律層面的追責，還需要個人道德規範的支撐。
不過至少，女性群體在受到侵害時，能擁有相應的「武器」幫助。消除不公，走向和平，也正是技術不斷發展的目的。
就像張欣怡說的那樣：
「這個世界有黑暗，也有照亮黑暗的光。如果一個人的火把太小，我們就把火把傳給世界的每一個人。」
眾人拾柴火焰高。願世界女性都能為了更美好的未來，一起加油。
也希望在技術越來越強大的未來，能還予社會以信任，還予女性以尊重。
