當前位置: 華文世界 > 科技

Sora為何出道即碾壓主流AI視訊模型:文生視訊最長紀錄,對世界有全面認知

2024-02-19科技

近日,AI(人工智慧)新銳巨頭OpenAI推出文生視訊模型Sora,將人們的視線再次引到了AI視訊生成賽道。

由於在AI生成視訊的時長上成功突破到一分鐘,再加上演示視訊的高度逼真和高品質,Sora立刻引起了轟動。不過,OpenAI尚未宣布Sora對公眾正式開放的日期。Sora將首先被提供給安全團隊,以評估產品的危害或風險,一些視覺藝術家、設計師和電影制作人也能獲得Sora的存取許可權。

在Sora推出之前,已經出現了一些使用者認可度較高的AI生成視訊模型。為什麽Sora能引發如此大的轟動?多家外媒對三款熱門文生視訊模型Runway、Pika Labs和Stable Video進行了分析,並比較了Sora和它們之間的技術差別。

時長:60秒 vs 16秒

在Sora橫空出世之前,Runway一直被視為AI生成視訊的預設選擇,尤其是自去年11月推出第二代模型以來,Runway還被稱為「AI視訊界的MidJourney」。第二代模型Gen-2不僅解決了第一代AI生成視訊中每幀之間連貫性過低的問題,在從影像生成視訊的過程中也能給出很好的結果。

Runway能夠生成已經很逼真的四秒短視訊。來源:Runway

而在Sora釋出後,Runway的CEO凱瑞斯托瓦爾·巴倫蘇埃拉(Cristóbal Valenzuela)便在X平台上釋出了兩個字:「Game On(比賽開始了)。」

Sora最震撼的技術突破之一在於其輸出的視訊時長。Runway能夠生成4秒長的視訊,使用者可以將其最多延長至16秒,是AI生成視訊在2023年所能達到的最長時長紀錄 。Stable Video也提供4秒的視訊,Pika則提供3秒的視訊。在這一方面,Sora以1分鐘的時長向競爭對手們提出了挑戰。

Sora傳播度最高的時長60秒的視訊之一,女子行走在東京街頭。來源:Sora

Sora模型能夠實作視訊時長突破,主要功臣是其所采用的擴散Transformer架構,而Sora的創始者之一、現任OpenAI工程師的William Peebles剛在去年和別人一同釋出了針對該架構的研究論文。

本質上,Sora和Pika、Runway采用了相似的底層模型,即Diffusion擴散模型。不同之處在於,Sora把其中的實作邏輯進行了變化,將U-Net架構替換成了Transformer架構。

不過目前,外界尚不清楚Sora提供了哪些功能以供使用者客製輸出視訊,因此Runway仍可能是Sora的替代方案之一。今年1月,Runway剛宣布,使用者將能夠透過多頭運動筆刷(Multi Motion Brush)功能實作對AI生成視訊中多個元素的運動控制。此外,Runway也因其提供了集合多種AI工具的視訊制作解決方案而備受推崇。

鏡頭語言:運動鏡頭 vs 靜止視角

值得註意的是,X平台上的一些使用者表示,在OpenAI推出Sora的2月15日晚上,AI視訊生成初創公司Stability AI也在官網和X平台上釋出了新動態,宣布了Stable Video Diffusion更新1.1版本。但是,幾分鐘後,這兩條訊息都迅速消失了。

被Stability刪掉的文章螢幕擷取。來源:X平台

外界無從得知這究竟是由於操作失誤,還是Stability觀察到了兩種AI生成視訊之間的巨大品質差異,選擇重新制作廣告。Stable Video和前兩款產品一樣,都沒能脫離現有文生視訊的一般模式,即輸出單一的、通常是靜止視角的短視訊片段。相比之下,Sora的宣傳視訊包括變換攝影機角度、電影式剪輯和場景變換,也就是人們常說的鏡頭語言的使用。

此外,許多分析都指出,Sora帶有世界模型的特質。所謂世界模型便是對真實的物理世界進行建模,讓機器能夠像人類一樣,對世界產生一個全面而準確的認知 。這一特性使得AI視訊生成更流暢、更符合邏輯,降低了視訊模型的訓練成本,提升了訓練效率。

由Sora生成的「賽博龐克背景下機器人的生活故事」。來源:Sora

和Runway一樣,Stability AI的CEO埃馬德·莫斯塔克(Emad Mostaque)也在X平台上感慨「阿特曼(OpenAI的創始人兼CEO)真是一個魔術師」,並稱Sora可以被視為AI視訊的GPT3,將在未來幾年內得到擴充套件、細化、調整和最佳化。

劣勢:有無免費選項,能否開源

和前輩們相比,Sora也存在兩個可能令其不會被使用者青睞的問題:有無免費選項,以及能否開源。

作為AI視訊領域的新晉競爭者,Pika Labs於去年11月推出了生成式AI視訊工具Pika 1.0,也在推出時憑借精美的演示視訊引起了轟動。Pika已於去年12月公開,與Runway具備相似的品質,並在短時間內建立了一個非常活躍的使用者社群。

Pika生成的視訊截圖。來源:Pika

最重要的是,和其他競爭對手相比,Pika提供了更具吸重力的免費使用選項。Runway只會給使用者125個不可續的免費積分,而Pika每天都會給使用者發放30個積分,這使得它在短時間內擁有了一個龐大且活躍的使用者社群。

Stability AI旗下的Stable Video Diffusion則是一款開源的視訊生成模型。類似於影像版的Stable Diffusion,該模型可以根據使用者自己的需求進行客製,並且可以在個人裝置上進行本地安裝,而Sora大機率永遠不會提供這種功能。

目前,Stable Video Diffusion也僅供部份使用者試用,在Stability的官網上可以加入等待列表。

(本文來自澎湃新聞,更多原創資訊請下載「澎湃新聞」APP)