斯威夫特成為AI換臉者最愛女星
作為普通人，你自己能接觸到的人工智能（AI）產品是什麽?是透過語言大模型(LLM）編寫文案？還是制作影視解說影片？無論你用AI做什麽，AI的確正在影響人類的生活。
不過凡事總會有對有錯，AI也不例外。不知道大家聽沒聽說過一種名為「深度偽造」（deepfake）的技術，國內很多人將其俗稱為「AI換臉」。
這種技術可以透過使用機器學習和生成對抗網絡（GANs）的方式來建立極其逼真的影片和影像，使得人們難以分辨真偽。
然而，現在這項技術愈發的濫用，特別是在制作色情內容方面，已經引起了公眾的廣泛憤怒，並促使全球多國開始立法禁止這一行為。
根據路透社的訊息，澳洲宣布將出台立法，禁止在未經同意的情況下創作和分發深度偽造色情內容，即人們以數碼方式將色情影像更改為他人的正常肖像。
如果翻看行事曆，你會發現最近一個月不止澳洲這麽做了。
半個月前，英國政府正式宣布，利用生成式AI制作深度偽造（deepfake）色情影像的人將被定罪。並且罪罰十分嚴厲，任何未經同意創作這些色情影像的人，無論是否分享都將被視為犯罪並處以無上限的罰款。如果這些影像傳播廣泛，那麽就不是罰款的問題了，而是直接判刑。
就在同一時間，歐盟下令包括Pornhub、Xvideo在內的全球幾大成人網站必須全部下架深度偽造（deepfake）內容，如果不遵守將面臨歐洲網站關閉和巨額罰款。
緊接著4月23日那天，日本知名圖片制作和社交平台Pixiv也宣布該網站存在的色情內容將永遠不會出現在美國和英國。Pixiv公布的五項禁止條款中，第三條就是禁止在美國、英國展示深度偽造」（deepfake）內容。
筆者查閱的報告
在筆者查閱國外的一份立法建議報告中看到：從2022年至2023年短短兩年間，深度偽造（deepfake）色情內容的數量增加了超過400%，造成的欺詐事件增加了3000%。而這些數碼還在不斷飆升。
目前全球主流國家當中，歐盟、美國（以地方州立法的形式）、英國、南韓、印度、加拿大以及最近的澳洲都已立法嚴禁制作和傳播深度偽造（deepfake）色情內容。
今天下午，當我看到澳洲立法禁止時，有的國外網友對此很不以為然，覺得是小題大做。
其實不然，且不論如果你的愛人、兒女甚至父母被人利用深度偽造（deepfake）惡意制作虛假色情內容時，你還會不以為然嗎？
央視新聞
最關鍵的是，隨著AI技術的發展速度加快，深度偽造（deepfake）很有可能做到人眼無法辨識的地步，那時候犯罪分子可以肆無忌憚的利用該技術進行非法犯罪活動。我推薦大家可以看一部這兩年新出的英劇，叫【真相捕捉】。
具體我就不劇透了，總之，你看到的不一定是真相，然而最可怕的是，劇中的技術其實並不難實作。
舉個例子。
以後你的孩子和你要學費，你開啟影片，影片中的人就是你的孩子，無論長相還是聲音一模一樣。這時候你會不會給孩子轉學費？
所以，你覺得這事兒是小題大做嗎？
