文|饒少陽
近年來，人工智能的發展勢如破竹，在金融、教育、醫療等行業，以及軟件編程、自動駕駛等領域展現出極大的套用潛力，成為驅動全球數碼經濟發展的重要動力。與此同時，人工智能的快速發展也對實作技術套用和規範約束套用之間的平衡提出了更高要求。
人工智能治理（AI治理）是指國際組織、政府機構和AI企業等透過建立敏捷有效的監管方式，把AI打造成安全可信、風險可控、造福人類的新型生產工具的過程，旨在「促進」和「約束」之間尋找博弈平衡，以保障人類在享受AI技術發展紅利的同時，基本權益得以保障。AI治理關系著全球經濟的發展和人類的共同命運，正在成為世界各國的共同課題。
全球AI治理的演變
隨著AI技術的發展和實踐，AI治理的主要內容從鼓勵AI創新演變成規制和創新協同，當前正走向全球合作治理，各國政府的態度和關註重點也在不斷發生變化。
2016年到2019年期間，全球人工智能頭部前驅企業和行業聯盟等在各大技術論壇、公開討論中不斷投擲關於科技與倫理的話題，旨在探索顛覆性技術的治理實踐，比如倫理準則、演算法原則等。這個階段，鼓勵AI創新和開放AI市場逐漸成為企業呼籲的主基調。為避免在全球AI競爭中落伍，各國政府對AI發展也主要持包容性態度，更多關註人工智能發展和產業規劃布局，鮮有約束。
2020年到2022年期間，隨著AI技術套用範圍擴大和深度拓展，人工智能對全球經濟和國家安全的影響日益引發關註。國際組織和研究機構開始高度關註人工智能可能帶來的多重風險，各國政府開始廣泛開展人工智能領域治理框架、技術標準、套用規範和相關政策的討論和擬定。治理內容不僅包括AI使用數據的安全性，還包括AI演算法的透明度、公正性和責任性。
2022年至今，尤其是在以生成式人工智能（GenAI）為代表的技術快速叠代和ChatGPT為代表的新型生產工具浮現後，產業發展實作躍遷，套用範圍從專用於單一場景邁向多個領域的通用場景，主要能力從「感知、判斷」轉向「理解、生成」。生成式AI治理的重要性和緊迫性迅速提升，各國政府均加速了生成式AI治理政策的制定頒發。與此同時，各國政府已經意識到單一國家難以左右生成式AI發展治理，必須依靠全球力量才能實作有效治理。
在此背景之下，全球AI治理主要呈現以下特點：
第一個特點是多元共治，治理思路多樣化。當前，參與AI治理的主體眾多，不同主體依據自身角色內容采取不同的AI治理手段。從國家層面來看，各主權國家正透過頒布政策檔、成立統籌機構、釋出指導框架等方式，逐步加強人工智能監管與統籌，以確保人工智能的健康發展並應對潛在風險；從國際組織層面來看，以聯合國為代表的國際組織在AI治理方面提出倡議、建立共識，推動各國針對人工智能發展表達合理關切、尋求解決方案；從科技企業層面來看，科技企業透過簽署承諾書、實施最佳實踐、設定風險閾值等自律方式，大力推動全球人工智能技術的安全和可靠。
在治理思路方面，全球AI治理的差異化也十分顯著。先是治理理念分化，歐盟堅持倫理優先的治理模式，警惕AI技術和AI套用可能帶來的倫理風險；美國堅持創新優先原則，確保AI企業在技術和產業領域保持全球領先地位；中國則兼顧AI倫理治理和創新發展，秉持審慎穩健的同時兼顧產業創新。再是治理架構形態不一，歐盟采取高效的傘形垂直治理架構，形成從歐盟到成員國再到企業層面的垂直治理體；美國傾向於行業主導、分散監管審查的治理架構。
第二個特點是全球AI治理的話語權爭奪顯著加劇。當前全球AI治理規則尚不明確，各國紛紛爭取AI治理的制高點和話語權，全球各主要經濟體和國際組織正積極研究制定AI治理規則，如歐盟理事會正式批準【人工智能法案】，以期繼續在AI治理領域發揮「布魯塞爾效應」，引領全球AI治理規則的建構。同時，美國、加拿大、日本、南韓、新加坡、巴西等國積極布局並陸續開展實質性立法和監管工作，爭取在人工智能監管領域的話語權。部份西方已開發國家更是利用自己在技術和產業方面的優勢地位，透過各種平台不斷打造AI治理的「小圈子」，希望把主導人工智能國際規則的能力控制在少數國家內部，尋求在全球新一輪科技治理規則制定中占據主導位置，並且堅持本國利益至上的基本思路，推動將本國國內規則國際化。
第三個特點是全球AI治理對治理機制敏捷性的需求更加突出。人工智能有著演化自主、叠代迅速、權責隱蔽等特點，這也容易造成追責難、跟進難和演進失控等問題。因此，AI治理模式亟須轉變為靈活、及時、強適應的敏捷模式。
從靈活性來看，AI治理強調建立能適應人工智能技術自主叠代和多場景切換的靈活響應機制，在宏觀層面設定普適性約束底線，在微觀層面將演算法、數據、平台等治理物件匹配到具體場景中，設定個人化場景規則，構建普適性與個人化相結合的靈活治理模式；從及時性來看，AI治理愈發強調能夠針對不同時期的需求實行不同治理模式，形成「事前正向引導、事中及時調適、事後全程追蹤」的動態治理模式；從適應力來看，AI治理愈發強調尊重新興技術的發展尺度，踐行包容審慎的治理原則，挑選重點領域開展治理試點測試，不斷探索監管沙盒式試驗性監管制度（指先劃定一個範圍，對在「盒子」裏面的企業采取包容審慎的監管措施，同時杜絕將問題擴散到「盒子」外面，屬於在可控的範圍之內實行容錯糾錯機制，並由監管部門對執行過程進行全過程監管，以保證測試的安全性並作出最終的評價），講究治理手段軟法先行，充分引導與保障新興技術發展，提供試錯機會。
構建中國特色AI治理體系
在充分借鑒國外先進經驗的同時，我們還需探索構建具有中國特色AI治理體系，促進產業的健康平穩發展。
一是「軟硬兼施」，探索特色實踐。
一方面，軟法先行，以軟促新。充分發揮組織倡議、行業引導、實踐案例的「軟」作用。引入風險分類分級管理措施，透過監管沙盒機制允許企業在受控環境中測試人工智能產品，提升創新能力和風險控制水平；發揮標準的引領作用，推動制定有關人工智能公平性、可解釋性和安全性的國際標準及團體標準，形成人工智能倫理治理的示範經驗。另一方面，硬法善後，以硬止險。構建與AI治理配套的法律法規體系。重點針對演算法偏見、數據泄露和深度偽造等風險，開發相應的風險評估與監測工具，逐步完善相關法律法規，對高風險領域設定紅線「硬」約束。
二是多元協同，提升國際話語權。
在人工智能領域，中國需要匯聚多方力量，透過協同合作與對話，推動人工智能的高質素發展。為此，應鼓勵中國政府、企業、學術機構、非政府組織等多元主體在全球治理平台上就演算法倫理、私密保護等熱點問題發聲，推動形成有效的監管框架，明確人工智能套用的邊界和責任歸屬，逐步實作從「規則適應者」向「規則制定者」的轉變。同時，中國應積極融入全球AI治理行程，透過舉辦行業峰會、設立國際聯合研究機構、深化跨國科技合作專案等方式，促進各方共識的形成，凝聚具有中國特色的價值主張，並將中國倡議轉化為國際實踐。
三是開放合作，彌合全球智能鴻溝。
中國應進一步加強國際交流合作，分享先進技術和實踐經驗，參與全球人工智能產業鏈分工，並積累治理經驗，為構建更加平衡和公正的全球科技生態奠定基礎。此外，應繼續支持聯合國在全球AI治理中的主導作用，創新多邊合作機制，深入理解發展中國家的核心關切，推動國際社會在人工智能領域形成廣泛共識，確保「全球南方」在人工智能發展行程中平等受益。
展望未來，AI治理將打破國界，協同發展，加速治理理念向可操作方案的轉化。AI技術的發展將進一步推動治理方式的升級，繼續向智能、敏捷、多元共治的方向邁進，實踐「用AI治理AI」，「用AI促進AI」。
（本文作者系中國電信研究院戰略發展研究所所長）
