兩個月前，2024 世界人工智慧大會暨人工智慧全球治理高級別會議（以下簡稱 WAIC 大會）在上海舉辦。與往年不同，本屆 WAIC 大會把 AI 的治理提到了前所未有的高度，圖靈獎、費爾茲獎、諾貝爾獎得主以及國內外頂級院士聚集一堂，共同探討 AI 帶來巨大紅利的同時，必須面對的多重風險與挑戰。
與此同時，外灘大會智慧科技創新大賽（簡稱 AI 創新賽）開始「接棒」，將 AI 安全可信從理論探討推進到實戰落地，邀請全球各國 AI 技術人才，針對 Deepfake（深度偽造）的欺詐風險進行攻防實戰演練。
生成式 AI 突飛猛進的當下，AI 的安全可信變得愈發關鍵。
時至今日，濫用 Deepfake 技術的危害已經有目共睹，透過 AI 生成看似真實的虛假影像和音視訊，已經給越來越多人帶來了傷害。然而面對更加擬真且激增的「AI 換臉」，人工分辨既不現實，也不明智，我們亟須技術乃至生態層面的推動。
9 月 6 日，外灘大會 AI 創新賽·全球 Deepfake 攻防挑戰賽表演賽在外灘大會現場舉行，在現場無數雙眼睛的註視下，多組參賽隊伍的 AI 模型互相挑戰，展示了用 AI「去偽存真」的高效與實用性，更便利地幫助我們發現隱藏在真實內容中深度偽造內容。
但與 Deepfake 的對抗註定不止於比賽。 從「AI 馬斯克」騙走老人退休金，再到南韓女性遭遇的「AI 換臉」性犯罪，濫用 Deepfake 的受害者早已從政治人物和娛樂明星擴大到了無數普通人。
而就在幾天前，參與外灘大會 AI 創新賽·全球 Deepfake 攻防挑戰賽的多組選手，包括中科院、澳門大學、中國海洋大學等參賽隊宣布，願意把參加這場大賽的 AI 模型面向全球開源，幫助更多人用技術手段對抗「AI 換臉」。
作為外灘大會 AI 創新賽·全球 Deepfake 攻防挑戰賽的主辦方，這亦是螞蟻所願意看到的。
在頂級 CV 大賽上，打假「AI 換臉」
客觀地說，Deepfake 是一場全球性的技術挑戰，根本上離不開全球技術人才的交流與共同進步。
作為 CV（電腦視覺）領域的頂級國際賽事，外灘大會 AI 創新賽·全球 Deepfake 攻防挑戰賽由中國工程院院士王耀南擔任專家委員會名譽主席，由螞蟻數科 ZOLOZ 和天璣實驗室作為大賽出題方，分成影像和音視訊雙賽道，參賽者需要開發並送出 AI 模型，經過大賽數據集的測試。
盡管還是首屆，但外灘大會 AI 創新賽·全球 Deepfake 攻防挑戰賽吸引了來自全球 26 個國家和地區的 2200 多名選手、1500 多支隊伍， 既有來自清華、中科大、中科院等國內頂級高校和機構的參賽者，更有來南洋理工大學、多倫多大學、史丹佛大學、帝國理工學院以及微軟亞洲研究院等全球頂尖院校和機構的參賽者。
大賽除了高達 100 萬元的獎金池，還提供了極其難得的實戰環境，數據集中圖形和音視訊生成數據超過 150 萬，覆蓋各種生成方式和攻擊組合。螞蟻數科的出題團隊還根據人口統計學分布和實戰經驗，在數據集中充分考慮了全球各地的人種、年齡、拍攝環境、影像遮擋等多重變量，確保參賽者面臨的比賽環境在最大程度上接近真實世界中的 Deepfake 攻擊。
所謂「真金不怕火煉」，也只有高度擬真的實戰環境，才能檢驗出真正具備實際套用的 AI 模型。
而在經過大賽數據集檢驗以及專家評審後，TOP 戰隊才得以脫穎而出：澳門大學代表隊和個人參賽者唐永威分別獲得圖片和音視訊賽道冠軍，此外獲獎的還有在新加坡工作的字節跳動代表黃江波、小紅書代表隊 ShuKing 以及來自中國科學院自動化研究所的 2 支隊伍。
9 月 6 日下午，本次大賽的 TOP 戰隊受邀參加了外灘大會 AI 創新賽·全球 Deepfake 攻防挑戰賽表演賽，面對由螞蟻數科和中國科技大學網路空間安全學院聯合設計的高逼真 Deepfake 內容，進行「終極考察」。
由知名科普博主畢導主持，TOP 戰隊兩兩輪流 PK，在真實影像/視訊與高逼真 Deepfake 影像/視訊中更準確地分辨出 AI 生成的虛假內容。這不僅是一次技術上的對抗，更是一次對 AI 安全技術極限的檢驗。
火熱的不只是參賽選手和 AI 模型，現場觀眾也不由自主投入到比賽之中， 「本來以為只需要隔岸觀火，不曾想到，自己也被卷進了戰鬥狀態，試圖用肉眼與 AI 一較高下，」有現場觀眾說到。
此外，比賽過程中還有新加坡科技研究局前沿人工智慧研究中心 (CFAR) 首席科學家周天異、中國科學技術大學副教授周文柏以及 ZOLOZ 技術總監姚偉斌，給所有觀眾科普了 Deepfake 技術以及 AI 辨識的重要知識。
對 AI 技術，尤其是 Deepfake 的濫用，已經對我們造成了嚴重的威脅。從 AI 冒充名人進行詐騙到偽造視訊操縱公眾輿論，AI 濫用的後果觸目驚心。透過這場賽事，普通人第一次深刻認識到 AI 帶來的潛在風險，以及如何透過技術手段去對抗這些風險。
從一定角度上，這場比賽的意義遠遠超越單純的技術對抗。
在這個資訊迅速傳播的時代，Deepfake 內容的泛濫不僅削弱了人們對媒體和內容的信任，更可能引發嚴重的信任危機。外灘大會 AI 創新賽·全球 Deepfake 攻防挑戰賽在做的，正是透過匯聚全球的 AI 技術精英，在實戰演練中交流和提高全球的對抗水平，實際上是在為我們建立一道「分辨真假」的防線，一道「信任」的防線。
「Deepfake 攻防是一場看不見硝煙的持久戰，螞蟻和所有對抗技術的研究者，是戰友關系。」螞蟻數科 CTO 王維也坦言，螞蟻舉辦這次大賽的初心就是希望把服務產業的技術經驗、研究積累的數據集與行業分享，以攻促防，同時希望推動更多的人才投身其中，提高整體的防禦水位。
AI 時代的打假師，真實與虛假的「守門人」
當【鐵達尼號】的經典一幕再次出現在眼前，包括畢導以及現場很多觀眾始終都沒發現奧納多·狄卡比奧飾演的 Jack 原來被進行「AI 換臉」，融入了畢導的臉。但現場的的 AI 模型仍舊從「蛛絲馬跡」之中分辨出了 Deepfake 的幹預。
這不僅是對技術的極限考驗，也展示人類與 AI 合作如何突破虛假資訊的迷霧。
Deepfake 技術的偽造能力極強，竄改的細節可能只是影像邊緣的微小失真，或聲音訊譜中極其細微的不一致性。 即便是最為細心的普通人，也難以憑借肉眼分辨偽造內容的真假。
中科院團隊的王博在采訪中還提到，生成式 AI 發展迅猛，而且各種工具的使用門檻實際上越來越低。在這樣的背景下，普通人越來越難以應對這些偽造內容的侵襲。
還有更多人也意識到，「AI 換臉」帶來的不只是技術上的挑戰，還可能導致普通人對 AI 技術普遍的不信任。若沒有足夠的安全防範措施，AI 技術的發展將成為一把雙刃劍。這也更加體現了所有參賽者以及這場大賽的難能可貴。
生成式 AI 的火熱早已無需多言，當更多人都在湧向 AI 技術的套用與發展，有一批人卻看到了這場技術浪潮的另一面——AI 存在的風險與危害，並且投身其中成為「AI 打假師」。 某種程度上，這些「AI 打假師」們不只是在與 Deepfake 對抗，更是在防止虛假資訊蔓延，用技術守護真相。
借用下作家蘇心的那句話：哪有什麽歲月靜好，不過是有人替你逆浪而行。
正如在今年 WAIC 大會上，上海人工智慧實驗室主任、首席科學家，清華大學惠妍講席教授周柏文提出的「人工智慧 45° 平衡律」理論，我們應該在大體上沿著 45° 平衡發展 AI 的安全能力和效能。
事實上，在外灘大會 AI 創新賽·全球 Deepfake 攻防挑戰賽表演賽稍後舉辦的圓桌討論上，同濟大學電腦科學與技術系副主任，CCF 數位金融分會秘書長衛誌華就明確指出，大模型以勢不可當的架勢發展起來，但這個過程中的安全問題遠遠沒有跟上：
如果安全問題沒有跟上的時候，不可能大面積鋪開套用，但我們都是做矛和盾是同步發展的。
螞蟻數科 CTO 王維也認同這一說法，並且認為用紅藍攻防對抗的方式解決技術可能產生的漏洞或攻擊，在大模型時代可能會越發重要，就如古語所言，「魔高一尺，道高一丈。」
這恰恰需要我們必須更多地重視 AI 安全能力的提升，AI 安全領域人才的培養，也正是外灘大會 AI 創新賽·全球 Deepfake 攻防挑戰賽的初心所在。
AI 向善，螞蟻的答案
過去一段時間，在南韓發生的 Deepfake 性犯罪事件引發了全球範圍內高度關註，螞蟻作為賽事主辦方在本次大賽中發起了開源 AI 模型的動議，希望透過技術手段對抗愈發猖獗的 Deepfake 濫用行為，很快就率先得到了中國科學院自動化研究所 VisionRush 和澳門大學 JT Group 的積極響應。
9 月 1 日，中科院 VisionRush 參賽隊就對外宣布開源了參賽模型，加入「程式碼接力」行動。 而截至目前，已有近百名選手及所在隊伍都表示願意參與程式碼接力 ，並且規模還在不斷擴大中。
同時開源不僅僅意味著可以免費使用技術保護每一個可能受到傷害的人，實質上也推動全球更多的技術力量共同參與到 Deepfake 對抗的行動中，更好地完善開源模型，為更多人提供更好的保護。
毋庸置疑，發展與安全是 AI 的一體兩翼。AI 以前所未有的速度向各行各業滲透的同時，對 AI 的誤用和濫用可能導致的多重安全風險和挑戰，同樣不容忽視。而面對 AI 浪潮，螞蟻透過大賽也繼續表明了自己態度：
既要發展，也要安全，只有這樣才能確保 AI 向善。
而螞蟻前瞻性的觀點以及 AI 向善的價值觀，具象到外灘大會 AI 創新賽·全球 Deepfake 攻防挑戰賽，不僅在推動全球範圍內對抗技術的發展，也在透過賽事培養了具備實戰能力的優秀 AI 技術人才，從而全面提高全球 AI 安全水平。另一方面，這也讓這場大賽成功贏得全球各界的高度關註和認可，以及大賽未來的期待。
在此之外，這場大賽也讓外灘大會的影響力超越為期三天的議程，在 AI 領域建立了一個全球性的長期關註焦點。更重要的是，外灘大會借助這一賽事強化了整個行業以及公眾對於 AI 安全的重視，為 AI 安全可信的持續推進奠定堅實的基礎。
