過去一年，全球迎來新一輪人工智慧（AI）熱潮，從ChatGPT的更新叠代，到Sora的出現，大量與 AI 相關的研究快速推進。
「時隔一年回到博鰲，可以看到與 AI 相關的技術產業已發生了翻天覆地的變化。」中國工程院院士、清華大學智慧產業研究院院長張亞勤表示。
而與此同時，AI 潛在的安全風險也引發越來越多的關註與討論。包括歐盟、聯合國等國際組織正加速推動相關監管法案的制定工作。那麽，2024年，全球AI領域監管將走向何方？如何推動在全球形成統一的AI治理框架和標準規範？
日前舉行的博鰲亞洲論壇2024年年會上，與 AI 相關的分論壇共有三場，分別是科技革命「奇異點」離我們有多遠、AIGC改變世界，以及人工智慧全球治理。鈦媒體App簡單梳理其中的關鍵發言。
AI 一日，人間一年
在不少專家看來，AI 技術不僅能顯著提高生產效率，在改善人類福祉方面也是潛力巨大。
張亞勤認為，大模型和生成式AI之間的關系是前者為後者提供了基礎。他預計，大模型將朝多模態、自主智慧和邊緣智慧方向發展，而生成式AI不再局限於傳統的辨識任務，還能進行創造和生成工作，如編寫程式碼、設計藥物等。
【人工智慧：現代方法】作者、加州大學柏克萊分校電腦科學系教授史超活·羅素表示，「AI改變著創意產業，作者、商業作曲者和藝術家都將被AI取代，這些都很難預測。雖然幾十年來有人說技術帶來的失業是不存在的，我們有理論可以證明這一點。但現在有人說這種理論是錯的，人類的薪資可能會變為零。」
咨詢公司羅蘭貝格全球管理委員會聯席總裁戴璞(Denis Depoux)稱，大量資本正流入AI領域，尤其是投向開發大語言模型的公司。
他指出，早期AI技術與企業現有系統的整合挑戰，正被語言模型所克服，它們成為了關鍵的介面。這一發展預示著將加速AI的采納，開啟了一系列用例，包括加速工程速度、由機器驅動的產品研發，以及提升服務行業的生產力和品質。
「一個顯著的例子是呼叫中心，降低成本往往導致服務品質下降，因為接聽電話的人員技能不足，無法恰當地服務客戶。用AI替代這些角色可以確保更高品質的服務，將人力資源重新分配到重視個人互動的任務上。」戴璞稱，AI的部署推廣需要時間，其許多客戶正就具體用例「詢問非常具體的問題」，這一趨勢預計將持續增長。
「 AI 是人類的未來，我們要全力以赴，搶占先機。」在小i集團董事長兼執行長袁輝看來，AI 所帶來的變革，不僅是改變某些產業，而且會變得像空氣和水一樣，無處不在。
如今，AI 技術變革加快，AI 一日，人間一年。AI 相關學科發展、理論建模、技術創新、軟硬體升級等整體推進，正引發鏈式突破，推動經濟社會各領域從數位化、網路化向智慧化加速躍升。
袁輝強調，「數位經濟是未來發展的趨勢，數位經濟的核心是人工智慧。誰能透過演算法掌控數據，誰就擁有話語權。」
科大訊飛研究院副總裁、研究院院長劉聰表示，「這一波通用大模型浪潮席卷了全球，AI 非常受關註，包括過去一年中國在通用大模型和產業套用也做了非常多的套用。我們在內容的生產、在全自動地完成任務互動上，包括顛覆原來傳統的編程，以及科研新範式，都在產生快速的進展。在這個過程中我可能更多地談在中國我們怎麽樣做通用大模型。在中國，我覺得我們自己現在跟國際上頂尖水平還是有差距的，這是一個共識，當然這個差距我們也在持續地追趕。在中國我們有一個點就是關於自主可控，關於軟硬體自主可控這塊還是非常關鍵的點，我仍然認為，現在整個通用大模型發展是系統性的機制，但是主戰場我認為還是底座大模型。從這樣一個角度，我們認為在自主可控的硬體平台上去研發可以對標國際頂尖大模型。有了這樣的大模型後，我們的行業套用其實有更好的發展舞台，用人工智慧+非常有可能成為發展新智生產力的非常重要的引擎。」
劉聰在博鰲期間向鈦媒體App等透露，科大訊飛計劃在今年6月正式釋出對標GPT-4 （Turbo）當前能力的訊飛星火大模型V4.0版本。
建立全球AI治理架構迫在眉睫
「AI發展風險需引起重視。」張亞勤認為，AI發展對算力非常依賴，演算法效率低下的問題值得關註。
史超活·羅素坦言，當前的 AI 是錯誤的方向。
「當前我們所擴充套件的大語言模型好像黑匣子，他們是看不透的，它們能夠滿足的目標是我們現在不清楚的，這是錯誤的方向，我們不應該朝這個方向走。」史超活·羅素表示， 中美 AI 領域的競爭是良性的，他不同意「零和賽局」這個說法。
他直言，「如果AI是安全的，能夠讓人類受益，甚至比人類能力更強，那麽它就能夠成為人類無限財富的基礎，所有的人都可以利用這樣的技術，我們很多人都會因此而享受。從這個角度來講，這個競爭並沒有意義。所以核心問題是我們如何安全地與這個技術共存，安全是一個方面。AI系統提供受益是另外一方面。」
首爾大學電子與電腦工程系教授Kyoung Mu Lee則表示：「AI有無限的能力，同時也會帶來一些風險。」
他指出，「大家都知道AI發展非常迅速，不能夠完全預測它的未來。我們對於AI的恐懼並不是來自於AI巨大的能量，而是來自於我們並不知道AI實際的運作方式，以及將來它會變成什麽樣子，因為未知所以恐懼。這樣一個新的怪物會淘汰我們所有人，還是拯救我們所有人？我們能夠控制它嗎，或者它會控制我們發生什麽樣的劇變？因此，我們需要對AI進行好的治理。」
AI將給人類帶來怎樣的風險與影響？經濟發展與合作組織秘書長馬蒂亞斯·柯曼從就業的角度切入。
他認為，AI會給全球勞動力市場帶來巨大的動蕩，給人類教育和技能的發展造成很大的挑戰。有些人可能會在AI導致的勞動力市場動蕩中失去自己的就業機會，所以政府要制定相關的政策來應對勞動力市場的變化。
經濟發展與合作組織秘書長馬蒂亞斯·柯曼
Kyoung Mu Lee也表示：「我們需要更加務實的監管AI系統，這些大模型會影響到我們的生活，會影響到我們的經濟決定，會影響到我們的國家問題。所以AI的影響不是遙遠的，而是就在我們的身邊。」
布魯金斯學會高級研究員、清華大學客座教授唐睿思指出，目前人類從AI獲得的益處還是有限的，盡管已經有幾個大型科技公司變得非常的富有，因為這些公司賣底層的技術。但是對於社會其他成員帶來的益處我們並沒有看到。
「另外還有一個事實是，如果在2030年達到我們對AI的預期目標，不管這些目標是否正確，我們都需要增加4萬個核電廠才能夠為這些AI機器提供動力，因為它們是極其耗能的。與此同時，大國之間的賽局以及資金與人才的缺乏都會使AI技術的創新延遲或減速，我們如何保證這樣的創新不會使全球經濟破產。更何況我們所要監管的AI行業現在還不掙錢，我們如何保證AI治理在鼓勵技術創新的同時不會給行業帶來太多的負擔。」唐睿思說。
與會嘉賓表示，目前國際社會在AI治理的基本原則上已達成一定共識，包括以人為本的AI，關註生態體系，關註安全，尊重國際法律等。關鍵是如何把這些道德規範變成統一的監管框架，包括盡快填補AI數位鴻溝，以及建立全球AI治理架構。
從分散走向協同，全球AI治理需加強對話
全球AI治理架構的建立需要各國加強對話和協同合作。
Kyoung Mu Lee表示，盡管AI系統可能是一家公司或一個國家開發的，但這個AI系統會帶來全球的影響，會影響整個人類，所以不只是一個國家的問題。「我們需要各國之間的合作來討論解決方案，利益相關者應該參與到（監管規則）制定過程中來，使得監管規則變得更加有效。」
柯曼也認為：「我們需要國際論壇上的對話，比如透過二十國集團，透過金融組織，透過聯合國，有不同級別的國際上的對話進行交流，我們希望看到這些會議帶來安全的、符合倫理的方式。我們不介意技術創新，但也希望人類不會受到技術創新的傷害。」
值得註意的是，國際上關於AI治理方面的對話依然存在一定的不足與不平等。唐睿思指出， 這是因為當前AI行業並沒有均衡的分配權利，比如算力本質上是由美國主導的，其他國家的缺口很大。所以如果想要全球推廣AI治理的話就必須要依賴美國的技術是好是壞，本質上來講這就是一種權利的聚集。
「如果（各經濟體）想坐這個桌子上參與討論，我們就必須讓每一個國家都找到方法去建立自己的算力、自己的堆站。有兩種方法，一個是透過監管，另一個是透過加強合作，當然也要創新。算力是由一小部份國家所控制，因為它非常昂貴，所以我們需要建立自己的算力基礎設施，否則沒有人可以為此進行負擔。手機之所以平價，是因為各國政府、公司花非常多的錢來投資、推廣基礎設施，各國的人才相互合作，才能夠使得手機下降到如此的價格。而在AI領域，美國在做自己的事情，中國也在做自己的事情，所有投資都要再重新發生一次，我們是在冗余的投資，而不是在解決問題。」唐睿思稱。
對於這一現象，清華大學公共管理學院教授、院長朱旭峰分析道：「每一個國家都是自由主權的國家，他們是根據自身的內外部環境做出相應決策的。」
透過研究全球62個國家的300多個AI治理政策，朱旭峰發現，有四個因素會影響到國家AI治理規則的制定：一是國家是否有強有力的創新能力和產業化的能力；二是人口結構，老齡化嚴重的國家往往更關心AI的發展；三是資本和勞動力市場的關系，比如美國近期有很多汽車生產企業工人罷工、演員罷工等；四是社會規範。如果社會規範更關註的是個人私密和道德的話，就會建立更加嚴格的AI治理機制。
清華大學公共管理學院教授、院長朱旭峰
「研究是幫助我們理解不同國家在AI治理決策方面所做出的努力，所以對我們普通人來說，我們必須理性地觀察不同國家的行為和他們的決策過程，同時每個國家都是遵循理性的，所以AI的全球治理需要國際組織，比如聯合國來幫助我們達成。」朱旭峰表示。
彌合AI「數位鴻溝」，實作全人類共享
2024年3月21日，聯合國大會透過第一個關於AI的全球決議【抓住安全、可靠和值得信賴的人工智慧系統帶來的機遇，促進永續發展】。據悉，該決議的草案由美國發起，並得到中國等120多個聯合國會員國的共提或支持。該決議的透過有望促進國際電信聯盟等聯合國實體在AI問題上進一步開展工作.
關於這一決議，與會嘉賓認為，從中國的角度來看，這個決議仍然有一定的提升空間，比如它並沒有充分地提及開發中國家的AI能力建設，以及他們如何能夠從AI開發中獲益。
朱旭峰也贊同打破全球AI技術障礙。在他看來，從人類文明的角度去看，技術可以分成三類，一類是能源方面的技術，讓人類去了解能源，開發更多的能源來利用，比如太陽能 。第二類技術就是資訊科技，資訊科技更多的是促進人類之間的溝通，特別是關註在精英與普通民眾之間缺口的彌合。第三類技術是幫助人類提升效率，減少能源的使用。
「AI是橫跨第二類技術和第三類技術的，它既是資訊科技，可以幫助我們推進一個平權的社會，普通民眾也可以獲得更多的資訊、知識，也有了更多權利和力量。同時AI也是涉及到效率方面的第三類技術，使得我們的社會、我們的工業更加有效率，AI就是如此。這種技術使得世界的資源得以重新分配，不僅是能源，還有其他的資源，像礦產和土地資源。 只有少數的人掌握了AI技術行業中的頭部。因此，我們必須要打破在AI使用方面的障礙，從而建設一個平權社會。 」朱旭峰說。
中國科學院自動化研究所、聯合國高層顧問專家曾毅教授表示，未來的 AI 將走向何方，誰能真正引領？AI 走向何方這沒有任何一個專家能說清楚，所以根本沒有真正的引領方。
「我不認為美國真正引領未來的 AI ，我也更不認為中國能引領未來的 AI 。AI 的發展是基礎性的、賦能性的技術，這個世界足夠大，讓中國、美國以及更多的國家在構建基礎設施和套用方面都找到機會。但是對於 AI 帶來的潛在風險，同樣的，世界需要理解和保護人類。所以在這樣的問題下，我們確實是首先要共同地探索未來的可能性，那就是全世界如何團結起來真正地為人類安全、人類繁榮構造一個更安全、更可靠、更可信的人工智慧，這才是世界更團結的目標。美國不會引領，中國不會引領，世界上任何一個國家都不會。」曾毅表示。
（本文先發鈦媒體App，作者｜任穎文，編輯｜林誌佳）
