近期，多地公安機關釋出了多起利用AI工具實施造謠的相關案件。上海市公安局城市軌域和公交總隊釋出警情通報：兩名行銷人員為博取關註造謠地鐵站發生持刀傷人的情況，被上海警方依法處以行政拘留。其中一人使用AI軟體生成視訊技術，編造了地鐵行兇的虛假視訊等不實資訊釋出到網上，造成惡劣社會影響。
資訊時代，各種資訊滿天飛，有些事情本身就真假難辨，容易混淆視聽。謠言往往具有傳播速度快、影響範圍廣的特點，一旦形成規模，就會對社會秩序和社會穩定造成威脅。使用AI技術讓造謠更加便捷和高效，並提升了謠言的數量級和傳播力，進一步加劇了謠言的危害性。去年，上海發生一起女童走失事件，一個造謠團伙以「標題黨」「震驚體」方式，惡意編造炒作「女孩父親系繼父」「女孩被帶往溫州」等系列謠言。該團伙利用AI工具等生成謠言內容，透過114個帳號矩陣，在6天內釋出268篇文章，多篇文章點選量超過100萬次。
鑒於自媒體造謠嚴重傷害了網路生態，監管部門依法加大了對網路謠言的打擊力度。今年4月，中央網信辦部署在全國範圍內開展為期兩個月的「清朗·整治‘自媒體’無底線博流量」專項行動，整治的重點之一是「擺拍釋出涉及國內外時事、社會民生等領域虛假事件資訊。拼湊剪接網路視訊圖片，篡改事件發生的時間、地點、人物等要素，以假亂真欺騙公眾」。
不得不說，目前網路造謠的成本還是太低了。據央視報道，江西南昌一家MCN機構使用AI技術，最高峰一天生成4000至7000篇謠言，最高的一條收入700元，初步估算每天收入1萬元以上，但相關責任人僅僅被處以行政拘留5日。
【刑法】第291條規定：「編造虛假的險情、疫情、災情、警情，在資訊網路或者其他媒體上傳播，或者明知是上述虛假資訊，故意在資訊網路或者其他媒體上傳播，嚴重擾亂社會秩序的，處三年以下有期徒刑、拘役或者管制；造成嚴重後果的，處三年以上七年以下有期徒刑。」據此，對網路造謠（及故意或惡意傳謠）行為，除治安處罰外，情節嚴重的應追究刑事責任，切實提高其造謠成本，方能以儆效尤。
AI造謠呈現出門檻低、批次化、辨識難等特點，亟待加強監管，斬斷背後利益鏈條。線下的懲處力度固然要加強，線上的技術監管和追蹤也要更新叠代。利用AI技術批次造謠往往涉及大量的網路活動和數據傳輸，相關部門應加強對網路空間的監管和追蹤，及時發現和處置謠言資訊。
對於涉及的網路平台，也應追究其監管責任。用技術解決技術，用魔法打敗魔法，在大數據和新技術面前，辨識利用AI炮製的垃圾資訊，並沒有那麽困難。如果平台未能有效監管和清理謠言資訊，應依法對其進行處罰，並責令其加強內容稽核和管理。此外，網路平台、媒體機構等應加強自律，遵守法律法規，不傳播未經證實的資訊。各行業之間也應加強合作，共同打擊利用AI批次造謠的行為。
「造謠一張嘴，辟謠跑斷腿。」當前也亟須透過教育和宣傳，幫助公眾提高對謠言的辨識能力，做到理性看待網路資訊，避免被謠言誤導。尤其是看到聳人聽聞的資訊時，不妨多留個心眼，讓子彈再飛一會兒，切莫落入資訊陷阱之中，甚至盲目跟風轉發評論，有意無意助紂為虐。
文/胡欣紅
（北京青年報客戶端）
