近年來，人工智慧技術快速發展，在賦能人類社會經濟進步的同時也帶來安全隱患和風險挑戰。既要促進人工智慧技術發展和套用，又要確保其發展過程中的安全性、可靠性和可控性，構建人工智慧治理體系的緊迫性日益凸顯。世界各國都積極探索人工智慧治理的方法路徑。
今年3月，美國白宮行政管理和預算辦公室（OMB）釋出【致行政部門和機構負責人的備忘錄】（以下簡稱「【指南】」）。【指南】要求，設立首席人工智慧官（CAIO）、成立人工智慧治理委員會、推動人工智慧套用創新、遵循最低風險管理實踐等，為推進人工智慧治理、創新和風險管理確立了新的管理要求和實踐指引。作為負責任的科技大國，中國也積極推動人工智慧治理體系最佳化完善，【指南】中的一些內容對於促進中國政府部門人工智慧套用和治理實踐具有參考價值。
【指南】的主要內容
首先，強化人工智慧治理架構體系。一是設立首席人工智慧官。各聯邦機構自【指南】釋出60日內設立首席人工智慧官，【指南】還對首席人工智慧官的角色、職責、級別、職位以及匯報結構做出明確要求。二是組建人工智慧治理委員會，由委員會召集高級別官員會議，統籌管理本單位人工智慧套用，並且掃除障礙、管控風險。三是實施遵從計劃管理，各聯邦機構自【指南】簽署180天內至2036年，每兩年向OMB送出指南遵從計劃，確保本單位治理原則與治理方向與【指南】保持一致。四是實施用例清單管理。各聯邦機構需建立人工智慧用例清單，並以年度為單位送出至OMB，同時面向公眾公開。各聯邦機構還需辨識影響安全和權利的人工智慧用例，披露用例風險細節與風險防控措施。
其次，推動負責任的人工智慧創新。一是落實人工智慧戰略管理。各聯邦機構需自【指南】釋出365天內制定並公開釋出本單位人工智慧發展戰略，辨識並掃除人工智慧套用障礙，提升本單位人工智慧發展整體成熟度。二是為負責任地使用人工智慧掃除障礙。【指南】明確了「負責任地使用人工智慧」的基本原則，即強化底線監管的同時消除人工智慧使用的不必要和無益障礙，確保各聯邦機構擁有使用人工智慧的足夠柔性，並提出IT設施、數據、網路安全、生成式人工智慧等四個方面具體指導建議。三是強化人工智慧人才培養。【指南】明確各聯邦機構需強化機構內部人工智慧人才的選擇、使用、培育、留用，提升機構人工智慧創新套用能力。四是推動人工智慧共享合作。各聯邦機構需以有利於政府與公眾再利用與協同的方式共享其人工智慧程式碼、模型和數據，保障人工智慧套用的法律政策遵從與公眾權利保護。
最後，有效管控人工智慧套用風險。一是實施最低風險管理實踐。所有聯邦機構對涉及安全與權利的人工智慧（系統）實施最低風險管理實踐。各機構需於2024年12月1日前實施該項管理，終止使用不符合最低風險管理要求的人工智慧。二是實施定期審查、報告披露與豁免管理制度。各聯邦機構需定期開展審查評估，明確人工智慧系統是否對安全和權利造成影響、是否符合【指南】規定的最低風險管理實踐，對不符合要求的人工智慧系統決定終止使用或尋求豁免。各聯邦機構需記錄並報告審查結果，在必要時向公眾披露。
【指南】本質上是基於原有網信安全、私密保護、公民權利、數據開放等法律基礎，編織出一套以「人工智慧套用」為核心的監管治理體系，既鼓勵人工智慧套用與創新，同時亦形成對人工智慧（尤其是生成式人工智慧）風險的系統性防控。
【指南】的釋出，是對通用人工智慧廣泛套用的主動回應，既為政府部門部署和使用人工智慧提供了可靠遵循，又形成對市場部門的示範性實踐與軟性行為約束。
中國人工智慧治理的主要特點
作為負責任的科技大國，中國積極推動人工智慧治理體系最佳化完善。目前，已形成以【中華人民共和國網路安全法】【中華人民共和國數據安全法】【中華人民共和國個人資訊保護法】為主體的人工智慧治理法律框架，對人工智慧涉及數據采集、數據處理、網路安全、數據安全、個人資訊保護等做出明確要求。【生成式人工智慧服務管理暫行辦法】對生成式人工智慧服務的提供與使用做出規範，包括技術發展、服務規範、監督檢查和法律責任等。【國家人工智慧產業綜合標準化體系建設指南】【國家新一代人工智慧標準體系建設指南】的釋出亦有效推進中國人工智慧標準體系的形成。
國內治理方面，推出【科技倫理審查辦法（試行）】和【生成式人工智慧服務管理暫行辦法】，提出人工智慧治理的中國方案。全球治理方面，積極倡導國際合作與全球共治，【全球人工智慧治理倡議】【人工智慧全球治理上海宣言】，堅持「以人為本、智慧向善」，為世界提供了基於人類命運共同體理念的人工智慧治理新視角，為全球人工智慧治理積極貢獻中國智慧。
2022年【關於加快場景創新以人工智慧高水平套用促進經濟高品質發展的指導意見】提出尊重人工智慧發展規律，發揮政府和市場的積極性，共同為場景創新提供制度供給，促進人工智慧創新發展與監管規範相協調。2024年6月，工信部等四部門釋出【國家人工智慧產業綜合標準化體系建設指南（2024版）】亦是要求完善治理標準，結合人工智慧治理實際需求，規範人工智慧的技術研發、營運服務和全生命周期治理。中國人工智慧治理不斷走向體系深入。
中國雖然透過制定上述法律法規及標準指南構成人工智慧治理基本遵從，但在細分領域（包括政務），如何使用和治理人工智慧（尤其是生成式人工智慧）尚缺乏可靠的規範指引。同時，由於中國在人工智慧治理架構設定、制度規範方面仍然存在一些短板和不足，缺乏類似首席人工智慧官、人工智慧治理委員會的治理架構設定及諸如遵從計劃管理、用例清單管理、部門發展戰略管理、最低風險管理實踐、定期審查與報告披露等制度規範，中央或省級政府層面難以形成對內部人工智慧使用情況的全面掌握和有序統籌，各部門無法在人工智慧套用創新和人工智慧風險管理上形成有效協同。
此外，中國還存在高層次指南性檔缺位的問題，這將造成三方面不利影響：一是不利於政府內部各部門條線形成協同一致的人工智慧部署套用和治理監管；二是不利於政府引導示範作用發揮。政府采購與使用是最好的「產業政策」，通常會形成對各行業的示範引領作用；三是不利於人們消除對人工智慧系統套用的焦慮與抗拒。
加快制定符合中國實際的人工智慧治理指南
它山之石可以攻玉，其他國家在人工智慧治理和套用實踐方面的一些有益探索也可以為我所用。當前，應結合中國人工智慧治理和套用實踐，加快制定符合中國實際的人工智慧治理指南。
第一，最佳化人工智慧治理組織架構。由中央政府或省級政府統籌本級行政單位人工智慧的套用和治理。在當前強化數據要素管理的基礎上，嘗試引入首席人工智慧官和人工智慧治理委員會制度，形成包含各層級、各部門的人工智慧治理體系和報告體系。
第二，完善人工智慧治理工具體系。建議引入遵從計劃管理、用例清單管理、部門發展戰略管理、最低風險管理實踐、定期審查與報告披露等管理工具，完善中國政府部門人工智慧治理工具體系。
第三，推廣人工智慧治理最佳實踐。在全國範圍內征集政府部門人工智慧套用和治理最佳實踐，並基於【國家新一代人工智慧標準體系建設指南】，結合生成式人工智慧廣泛套用實際，形成並推廣具有全國範圍約束力的政府人工智慧套用和治理指南。
（作者單位：中國電信研究院）
來源：經濟參考報
