封面新聞記者 閆雯雯
什麽是真？什麽是假？在人工智慧的時代，顯然區分真假將更加困難。
上周，人工智慧公司Open AI釋出了能夠根據文本生成超現實視訊的工具Sora，在業界一片叫好，認為其將改變諸多行業的生態，讓人人都能有機會使用更簡單的方式進行視訊創作。該工具目前正在測試和評估潛在的安全風險，尚未確定公開釋出的日期。
但是，事情永遠也不會那麽簡單。還不到一周時間，已經有專家提出警告，Sora等新的人工智慧工具很可能會帶來假視訊的泛濫，而人們也會越來越難以分辨這些視訊的真假。
Sora生成的視訊
Sora的能力讓人「害怕」
2023年10月，美國總統拜登在一次采訪中提到，他看過網上一個關於他的視訊。看完之後他說：「我什麽時候說過這樣的話？」這個小小的笑料之外，讓拜登陷入了思考，一段只有3秒鐘、AI生成的影像，足以冒充本人，甚至可以欺騙受害者的家人。那麽，詐騙犯們很容易就可以使用這段視訊來欺騙受害者的家人。
而Sora的出現，似乎就像是一個對於未來的預言。
OpenAI 在其網站上解釋說：「Sora能夠生成具有多個角色、特定型別的運動以及主題和背景的準確細節的復雜場景。」「該模型不僅了解使用者在提示中提出的要求，還了解這些東西在物理世界中的存在方式。」
這意味著，Sora不僅能夠從物理的角度，比如說重力下落，人類在咀嚼時肌肉的運動，海浪隨著潮汐運動對於海岸的拍擊……更重要的一點是，作為人工智慧，Sora還能夠在未來的學習中讓這些場面變得更加逼真。那麽，這很可能意味著，未來人們在看到一段視訊的話，很難分辨它是真還是假。
因此，有專家甚至稱Sora「讓人害怕」。
身份驗證公司 iProov 的首席科學官紐維爾博士表示，Sora能讓「惡意行為者更容易生成高品質的假視訊。」
Sora生成的視訊
人工智慧恐影響大選
專家們說這樣的話，有一個重要的背景，2024年是美國的大選之年，人工智慧技術在政治領域可能被濫用。如前文拜登所說，他在看到AI生成的自己視訊時，都會有所遲疑，那麽對於普通民眾來說，分辨這是否是參選人所說的話，就更加困難。
專家警告說，新的人工智慧工具可能導致美國總統大選之前虛假視訊的增加。
TruMedia創始人埃齊奧尼不無擔憂地表示，生成式人工智慧工具發展得如此之快，而在社群網路時代是致命的，而且這一切發生的時機再糟糕不過。過去一年，人工智慧生成的影像、音訊和視訊的品質迅速提高，OpenAI、Google、Meta 等公司競相開發更先進、更易於使用的工具。
盡管給出的範例都是一些「真善美」，但是專家們卻警告，這項新技術可能會引發新一波的惡意偽造事件。
2024年1月，全球頂流女歌手泰勒·斯威夫特宣布了和美國NFL橄欖球運動員Travis Kelce的戀情。幾乎就在一夜之間，泰勒·斯威夫特在球場的露骨照片就傳遍了網路，而這些照片流傳度之廣，甚至驚動了白宮。白宮發言人被問及此事時表示，「我們對此類影像流傳感到擔憂，更確切地說，是虛假影像，這令人擔憂。」
實際上，在這些照片瘋狂傳播的2周前，網路上還傳出過一個泰勒·斯威夫特送名牌鍋的視訊。而視訊被泰勒·斯威夫特和品牌雙方否認，這又是一則由人工智慧生成的視訊。
問題來了，視訊有人生成，但有人管嗎？誰能夠為這些虛假的視訊負責？
上周五，亞馬遜、谷歌、Meta和OpenAI等科技公司簽署了一項協定，采取「合理的預防措施」，防止人工智慧工具被用來擾亂世界各地的大選。
Meta全球事務總裁尼克·克雷格表示：「每個人都認識到，沒有一家科技公司、沒有一個政府、沒有一個民間社會組織能夠獨自應對這項技術的出現及其可能的惡意使用」。
影視行業恐怕將被覆滅
很多人擔憂的是未來影視行業的前景。
電影導演兼視覺效果專家麥可·格雷西表示：「看看我們在影像生成的一年裏取得了什麽進展。 一年後我們會在哪裏？」
實際上，在2023年，好萊塢就曾經進行了長達半年的罷工，其導火索跟人工智慧有關。
2023年5月2日，好萊塢編劇協會罷工一部份原因是「爭取串流媒體播放與重播分成」，另外一個原因就是巨頭們有意使用人工智慧取代一部份編劇的工作。7月14日，美國演員工會也加入了罷工的行列，16萬成員全部響應，包括演員、特技師、配音演員、動捕演員等，整個罷工一直持續到11月9日才結束。
在罷工時，曾經有報道提出過，有人希望能夠把群演們全身掃描一遍，只給一天的薪資。之後，這些制片公司擁有掃描檔、群演的影像和肖像。在未來任何影視計畫中，公司想用就用，無需群演同意，也無需給額外的錢。
盡管到最後，這個想法並沒有成立，但在未來，巨頭們肯定不會放棄這個低成本的演員使用方案。因此，人們才擔心，未來影視行業的前景。
或許，就在不久的將來，人們在熒幕上將很難看到活生生的演員了。
