財聯社2月6日訊（編輯 史正丞）根據不完全統計，2024年將有50多個國家、半個地球的人將面對政府改選。與此同時，隨著AIGC技術最新一輪的大爆發，AI技術對互聯網輿論生態的威脅也達到前所未有的高度。近些日子「冒牌拜登來電」、知名女星DeepFake照片等事件，都引發國際輿論的強烈擔憂。
在整件事情變得愈發不可控之前，社交媒體平台臉書、Instagram和Threads決定做一些嘗試，透過辨識並標記平台上的AI內容，將社交媒體平台上的AI生成內容和真實生活區分開來。
（來源：Meta Blog）
辨識、檢測和標記
Meta表示，在未來幾個月內，臉書、Instagram和Threads將嘗試對上傳到平台上的照片進行檢測，並打上「AI標簽」。
這件事情要分成兩個層面來講：「有據可循」的AIGC圖片，以及雜亂無章的AI影片、音訊內容。
首先，是標準比較清晰的圖片領域。以Meta自家的AI「文生圖」功能為例，透過這種途徑生成的圖片，不僅左下角會有看得見的浮水印，同時圖片的後設資料中也會被打上「看不見的浮水印」。
（來源：Meta AI）
Meta表示，正在開發能夠批次辨識這類浮水印的工具，特別是C2PA和IPTC技術標準——意味著當谷歌、OpenAI、微軟、 Adobe、Midjourney、Shutterstock等公司按照計劃在AIGC工具中加入後設資料後，Meta就能在社交媒體平台上批次辨識並標註出這些公司生成的AI圖片。
當然，光靠幾家巨頭合作並不能解決所有問題，而且那些惡意使用AI的人，也有辦法去除AI圖片中的標記浮水印。
前英國副首相、Meta全球事務和通訊總裁尼克·基利格補充稱，Meta現在也在開發分類器，目的是自動檢測那些由AI生成，但沒有數據浮水印的圖片。同時，Meta的AI實驗室近些日子剛分享了一種名為「穩定簽名」的數碼浮水印技術，將浮水印機制直接整合到影像生成的步驟中，這對於許多開源模型來說會非常有價值。
那影片、音訊怎麽辦？
Meta透露，與圖片有「隱形浮水印」標準不同，AI生成的音訊、影片缺乏這方面的共識，所以現在無法透過檢測訊號來打標簽。
對此，Meta決定引入自主申報和處罰機制。除了讓使用者自主申報AI影片和音訊外，Meta可能會對那些故意創作深度偽造（deepfake）內容且故意不報的使用者進行處罰。
基利格進一步表示，如果Meta認定某些AI創作或修改的影像、影片或音訊內容，在重要問題上實質性欺騙公眾的風險特別高，可能會酌情添加一個更醒目的標簽。
即便對於「AI大鬧大選年」心存顧慮，但基利格依然認為這種情況在今年「席卷Meta平台」的可能性並不高。基利格表示：「我們不可能很快看到完全由人工合成的、具有重大政治意義的影片或音訊，我只是不認為會有這樣的結果。」
基利格同時提到，Meta內部已經在測試依照社區準則訓練的大語言模型，並稱這項技術提供了一種高效的「分流機制」，確保人工稽核員看到的貼文，的確是需要人工判斷的邊緣案例。
