當前位置: 華文世界 > 科技

警惕!OpenAI放寬軍事禁令,AI技術與美軍深度融合潘朵拉之盒開啟

2024-02-09科技

作者:AI歌舞大魔王

正文:

在全球範圍內引領人工智慧(AI)潮流的OpenAI公司最近低調調整了其關於禁止AI技術用於軍事領域的相關政策措辭,此舉引發了公眾對於美國科技巨擘與美軍方潛在深度合作的廣泛疑慮。這一變化揭示了美國國防及軍事領域與生成式AI技術日趨緊密的融合趨勢,而五角大廈為此專門設立了研究生成式AI在國防套用的專項機構。

據報道,OpenAI在其政策頁面未作公開聲明的情況下作出了重大改動。早先,OpenAI堅決禁止其大型語言模型套用於任何軍事或戰爭相關場景,但在修訂後的政策中,規定變為「OpenAI的產品不可用於對自己或他人造成傷害,包括透過武器研發帶來的傷害」。盡管OpenAI發言人在回應中聲稱改動旨在使政策檔更清晰易懂,但對於「傷害」定義的模糊性是否涵蓋所有軍事用途則避而不談。

與此同時,OpenAI已承認與五角大廈開展了軟體計畫的合作,其中包括與網路安全相關的計畫,這讓外界對其與美國國防部的關系產生了更多聯想。

盡管OpenAI堅稱不會直接開發武器,但新的政策框架可能允許其向五角大廈提供人工智慧軟體,用於協助分析人員解讀數據或編寫程式碼等工作。然而,正如俄烏沖突中所示,數據處理與戰爭行為之間的界限並不如OpenAI所設想的那樣涇渭分明。例如,烏克蘭運用大數據分析軟體顯著提升了炮兵部隊的目標定位和打擊效率。

值得關註的是,五角大廈已經建立了名為「利馬」的生成式AI工作群組,致力於在整個國防部內分析和整合生成式AI工具,尤其關註大語言模型的運用。該工作群組在國防部首席數位和人工智慧辦公室的指導下運作,旨在評估、協調和推進生成式AI在各個軍事領域的套用,力求在維護國家安全的同時保持技術上的領先地位。

美國軍方對於AI大模型的具體軍事套用仍保持著一定的神秘感,但已有跡象顯示,生成式AI正逐步滲透到情報分析、作戰規劃等多個環節。例如,美國海軍陸戰隊高級作戰學院的一次演習中,一款名為「赫爾墨斯」的實驗性大語言模型展示了其在軍事規劃中的巨大潛力。

值得註意的是,美國科技產業與五角大廈之間的聯系正以前所未有的速度加強,不少科技公司的高層人士先後加入軍方管理層。從Lyft的機器學習主管轉任國防部首席數位和人工智慧辦公室負責人,到蘋果公司高管執掌國防創新部門,再到谷歌前CEO轉型成為五角大廈科技顧問,這種「旋轉門」現象反映了矽谷與美國軍方關系的微妙變化。

盡管過去曾有過谷歌員工因反對Project Maven計畫而發起大規模抗議的歷史,但現在越來越多的科技企業選擇與五角大廈合作,包括谷歌本身在內,都在為美國軍方提供基於AI的解決方案和技術支持。

對此,有分析認為,AI技術在軍事領域的深化套用將極大地改變未來戰爭形態。一方面,AI可以幫助指揮官快速洞悉戰場動態、制定精準策略;另一方面,借助大模型構建的智慧系統有可能實作戰場無人化,甚至導致不同陣營間出現技術代差,進一步加劇戰爭的殘酷性和不對稱性。

然而,AI軍事化的道路上暗藏風險,尤其是在AI可能產生誤導性資訊乃至操控決策系統的背景下。中國資訊協會常務理事朱克力指出,AI技術的誤用或濫用可能導致無法預料的後果,如自動武器系統的失控行為,以及加劇國際間的軍事競賽和緊張態勢。

綜上所述,OpenAI政策調整背後的深層意義在於,隨著AI技術愈發成熟,其與軍事力量的結合正揭開一個充滿不確定性的新篇章,這也促使全球範圍內的決策者們必須審慎思考如何規範此類技術的發展,以防止「潘朵拉盒子」中的隱患釀成無法挽回的後果。