近年來,AI技術發展迅速,成為全球科技領域的熱點。AI已經從單純的學術研究發展成為改變人類生活方式的重要力量。然而,卻有一些別有用心之人將其變為造謠、斂財的工具。
2024年8月,一則令人震驚的訊息在網路上迅速傳播。「南平松溪縣遭遇嚴重大風襲擊,造成棗嶺街一人死亡」。這則訊息圖文並茂,甚至還有逼真的視訊片段,一時間引得大量網民關註和轉發。但經公安機關核查發現,這竟然是用 AI編造而成的網路謠言視訊。
經查,該謠言系釋出者周某為博取關註、獲取流量,透過AI軟體生成的。周某對圖片和視訊剪輯拼湊後,制造出「有圖片」「有文字」「有聲音」的虛假資訊,釋出至網路平台上,造成社會不良影響。
公安機關依法對周某給予行政處罰。
案例分析
造謠者利用AI低成本、高效率、操作簡單的特點,透過提供關鍵字,AI軟體便會自動在網路上抓取相關資訊,以熱點新聞和隨機網路音視訊為素材,批次化生產網路謠言,投放到各大網路平台上,實作吸引眼球或流量變現的目的。謠言的傳播率和影響力成倍增加。
當謠言披上AI的外衣時,不但能自動生成文本,還能生成逼近真實的圖片和音視訊,讓不存在的場景變得栩栩如生,讓虛構的人物仿佛真實存在一般。這就完全顛覆了我們常規認知裏的「有圖就有真相」,使我們對網路謠言本身難辨其真假。
AI謠言已經成為亟需治理的一道網路新課題,那麽在日常生活中,我們怎樣擦亮眼睛,辨識並抵制AI謠言呢?
好奇之心要適度
面對新奇誇張的資訊,先別急著一探究竟,AI就是選擇、抓取大家關註話題來制造網路謠言,利用網民好奇心進行傳播。
來源不明不輕信
切記不要盲目相信和傳播未經證實的資訊。在社交媒體或網路上看到可疑資訊時,可以先進行核實或者等待官方訊息釋出後再做判斷。
權威渠道常關註
在上網瀏覽資訊時要保持對資訊來源的警惕性,多訂閱官方媒體、政府部門的帳號,盡量選擇權威、可信賴的媒體或機構作為資訊來源。
邏輯分析不可少
註意網路資訊的邏輯性,如果發現一條資訊在邏輯上存在明顯的漏洞或矛盾,它很可能是經過篡改或杜撰的。
來源| 南平公安、延平公安
編輯| 遊雨欣
責編| 張學梅
編審| 李 薇