近日，第七屆中國模式辨識與電腦視覺大會（簡稱「PRCV 2024」）在烏魯木齊舉辦。大會由中國自動化學會（CAA）、中國圖像圖形學學會（CSIG）、中國人工智慧學會（CAAI）和中國電腦學會（CCF）聯合主辦，新疆大學承辦。作為模式辨識和電腦視覺領域學術盛會，PRCV 2024吸引了眾多國內外科研工作者及行業從業者參與，分享最新理論研究進展和技術研發成果，促進產學研交流與合作。
影像是資訊的主要載體之一。近年來，基於虛假圖片產生的欺詐事件對社會造成了惡劣的影響，影像內容安全在電腦視覺領域的重要性日益突出。合合資訊影像演算法研發總監郭豐俊博士受邀分享了合合資訊在智慧影像處理及影像內容安全方面的最新研究成果和套用實踐。
AI「慧眼」讓證照造假無所遁形
證件影像是造假的「重災區」，即便是一張小小的行駛證，也可延伸出多種花式造假方法。在【生成式Al時代的內容安全與系統構建加速】主題分享中，郭豐俊提到，在汽車交易、運輸等業務中，涉及大量駕駛證、行駛證真實性核查需求。以二手車交易為例，行駛證涉及車輛買賣合法性，不法分子透過偽造、變造車輛登記證、行駛證號牌號碼、發動機號碼等的方式實施合約詐騙，從中牟利，給相關企業造成了高額的經濟損失。
圖說：合合資訊影像篡改檢測技術定位行駛證造假位置 采訪物件提供（下同）
除上述局部篡改手段外，AIGC技術的普及，讓「無中生有」成為了一種新的造假形式。今年5月，上海市寶山區人民法院審結了一起偽造國家機關證件案：為幫助違章駕駛人代扣分來獲取利益，被告人開發「行駛證美化」模組。使用者上傳行駛證照片後，模組自動生成帶有行駛證版式、各省市交通部門印章的「新」行駛證。多名「黃牛」使用該模組生成假證20萬張，交給代扣分駕駛員用以違章處理，獲利超過30萬。
「由於篡改手段的多樣性、篡改文本的隱蔽性，檢測任務目前存在篡改痕跡微弱、篡改文本與鄰近文本高度相似等難點，對檢測方法的精度和泛化性提出了挑戰。」據郭豐俊介紹，面對復制貼上、拼接、擦除及混合造假形式，合合資訊影像篡改檢測技術能夠捕捉影像在篡改過程中留下的細微痕跡，在保持極低誤檢率的同時，準確辨識並定位圖片中文本的篡改行為；面對生成式影像造假，合合資訊影像篡改檢測技術可基於空域與頻域關系建模，利用多維度特征以鑒別影像是否由 AI 生成，並給出相應的警告或提示。
現階段，合合資訊影像篡改檢測技術已被套用於卡證篡改檢測中，不僅在駕駛證、行駛證檢測中實作了良好的鑒偽效果，也在銀行移動開戶、信用卡申辦、保險理賠，財務報銷審批及其他商業消費場景中廣泛落地，為機構、企業規避影像偽造帶來的經濟風險。
圖說：合合資訊影像篡改檢測技術定位財務報銷材料造假位置
產學研攜手共築影像安全防線
在大模型飛速發展的背景下，需要更高級別的技術手段來應對偽造技術的不斷進步。本次大會期間，譚鐵牛院士【大模型背景下的數位內容取證】主旨報告廣受矚目。報告針對虛假資訊帶來的嚴峻挑戰，指出了包括視覺偽造檢測、AIGC檢測在內的數位內容取證技術的重要性，為在大模型背景下保障數位內容的真實性和可信性提供了重要方法和思路。
用科技手段應對日益復雜的資訊偽造和濫用問題，是全社會共同關註並為之努力的「大課題」，也亟須建立起可靠、可信的專業標準，為行業發展指引方向。今年9月，由中國圖像圖形學學會、中國資訊通訊研究院、合合資訊、中國科學技術大學等高校、公司聯合編制，中國互聯網協會釋出的【文本影像篡改檢測系統技術要求】圍繞「細粒度」視覺差異偽造影像鑒別、生成式影像判別等行業焦點議題，建立了統一的評估框架，將助力文件影像處理技術安全、有序發展。
新民晚報記者 金誌剛
