這兩年以來，AI算是徹底火了。
光是在機圈這兒，咱都沒少聽手機廠商們，宣傳各種AI功能。
端側大模型、AIGC消除和自然對話，都成功落地於最新一批旗艦。
在「文生圖」和「文生影片」領域，AI的前進演化更是不講道理。
Sora橫空出世，能根據文字描述，直接生成時長1分鐘的影片。
不僅畫面逼真，符合現實物理規律，生成的門檻還很低。
只要用文字描述得詳細一些，AI就能幫你把事兒辦成。
但門檻低，也意味著技術，很容易被搞黑灰產的老哥利用。
光是這半年來，機哥就看到不少，網友利用AI作惡的例子。
最新鮮熱辣的，莫過於這幾天上了熱搜的：
「主播用AI換臉成楊冪、劉亦菲，在直播間帶貨賺錢」。
AI換臉咱們平時沒少見，直播帶貨更是早就火遍了互聯網。
但這兩者結合，用來帶貨引流。
多少是給廣大網友，帶來了一點科技震撼。
而且這換臉效果不能說差，只能說和楊冪本人非常接近。
很多觀眾在抖音快手，刷到這類直播間真的被騙到，以為楊冪在這帶貨。
於是該下單的下單，該送禮物的送禮物，明星效應在直播帶貨中，被發揮得淋漓盡致。
可能有機友會說：
「動態換臉總不能這麽逼真吧。」
可事實是，只要主播在鏡頭前不做振幅太大的動作，基本很難翻車。
當然，AI換臉，換的主要是眼鼻嘴。
如果主播的臉型輪廓，和楊冪本人差異較大。
那換臉的效果確實會被大幅削弱。
怎麽說呢。
能辨識出換臉問題的，多半是混跡互聯網比較久的年輕人。
如果是咱們家中的長輩，看到帶貨直播出現了個明星，大概不會懷疑其身份真假。
所以很多網友一致認為，利用AI換臉，把主播的臉換成明星。
本質上就是在欺騙普通觀眾和消費者。
聊到這兒，大夥可能以為：
「直播AI換臉，一定是啥昂貴又難以入手的技術吧？」
恰恰相反。
大多數直播間，用的都是免費開源的DeepFaceLive。
只要提前準備好訓練模型、一張RTX 20系以上的顯卡、一個DeepFaceLive換臉工具。
誰都能整一個即時直播換臉。
實在是搞不懂的話，現在網上隨手一搜，都能搜到詳細上手教程。
即使是零基礎小白，看完教程都能整點花活。
這也是為什麽，AI會被各種惡意利用。
它效果越來越好的同時，門檻還在不斷降低。
要是平台不上點強度來整治。
我估計楊冪被用來直播帶貨，只會是一個開頭。
以後主播帶著個什麽明星臉來帶貨，我都不覺得奇怪了...
除了被運用於直播上。
AI最近還被很多商家，用來「復活」那些逝去的人。
這裏說的，自然不是真正意義上的復活。
而是利用AI技術，深度學習某個人生前的人臉圖片和聲音，最終生成一個動態的數碼化形象。
最近熱度比較高的，就是音樂人包小柏「復活」女兒的新聞。
這事兒當時在網上，引起了不少爭議。
但有爭議，就意味著會有流量。
於是乎，更多「數碼生命」，在互聯網上相繼出現。
首先是明星李玟，在影片中，李玟以親切的口吻向大家問好，讓粉絲不要擔心。
AI復活技術的存在，讓所有逝者都獲得了好好道別的機會。
很多李玟的粉絲看到，心裏既感動，又欣慰。
但很多理性的網友蚌埠住了。
這不是純純對逝者不尊重麽？
興許是嘗到了「AI復活明星」，帶來的流量甜頭。
後續又有人制作了「復活」高以翔的影片。
AI的發揮依舊穩定。
無論是五官、聲音還是神情，都和高以翔本人幾乎一致。
網友們第一時間想到的，也不是惋惜和悼念。
而是：
「消費死者博流量有意思？」
「能不能尊重一下他們的親人？」
很顯然，這事兒在某些商家眼裏，是停不下來的。
對於AI復活，廣大網友看到的是倫理和道德上的爭議。
而商家看到的，是把豬扔進去，都能飛起來的風口。
在主流電商平台，很快出現了所謂的，「客製數碼人」和「親人復活」生意。
價錢也在100元到500元不等。
你說這筆買賣劃算嗎？
肯定是不劃算的。
無論是人臉合成，還是聲音還原，在全球最大同性交友網站Github上，都有開源免費的專案，商家做得還是資訊差生意。
比如在聲音複制這一塊。
已經有專案能做到，輸入5秒的人聲素材，生成一個能隨意講話的人聲模型。
有UP主專門為這個專案，做了個詳細使用教程。
結果在B站大受歡迎，播放量足足有372萬。
這也能看出，其實網友對於新鮮的AI技術，興趣還挺濃厚。
但新鮮感褪去，迎來的是後怕。
萬一這些效果好、門檻低的技術，被壞人利用了。
網友們真能分辨出來是AI？
我想，大概率是分不出來。
像是今年2月份，就有一家跨國公司，被詐騙分子換臉偽裝成公司高層，騙走了公司2億元。
你說公司不專業吧，人家可是資產過億的跨國公司。
但依舊招架不住，AI換臉詐騙的猛攻。
更別說在短影片平台上，一直有博主用特效換臉，把自己偽裝成外國人賣貨賺錢。
我知道啊，有機友會想著：
換臉帶貨也好，AI復活也罷，只要自己提高警惕，總不會有啥問題叭？
emmm...大夥別忘了，AI的使用門檻在降低。
當它低到，足以讓一個普通網友都能輕松使用時。
咱們上網沖浪，不見得能快樂到哪去。
雖然，AI換臉和聲音複制，都需要素材餵給AI工具訓練。
可現在誰不玩幾個社交平台？
誰沒在社交平台發過點照片和影片，這可都是現成的素材啊。
好訊息是，大廠都關註到了這個問題。
對於技術上能辨識到的AI內容，該提示的提示。
壞訊息是。
AI工具的前進演化速度也很快，有時候連平台都沒法辨別出，內容是否AI生成。
這場真實和虛擬的博弈，註定會持續很久。
以後上網沖浪，還是給自己留點私密比較好。
圖片來自網絡
