近年來，人工智能已經成為新一輪科技革命和產業變革的重要驅動力量。與技術層面的突破相比，人工智能技術和套用在治理層面遇到的挑戰日益加劇。自2016年至2021年間，人工智能立法已經在世界範圍內掀起了一波高潮。2017年，國務院印發並實施【新一代人工智能發展規劃】；2020年7月，【國家新一代人工智能標準體系建設指南】頒布，就人工智能標準建設工作展開重點部署。此外，近年來頒布的數據安全法、個人資訊保護法等也在多個條文中提出建立和完善與人臉辨識、人工智能等新技術新套用相關的標準體系，推動形成具有廣泛共識的國際標準規範。人工智能立法需求已經日益緊迫，與之相配套的法律制度也應迎頭趕上。
隨著人工智能技術的快速發展和廣泛套用，人工智能演算法的影響也日益加深，這對人工智能的監管理念和監管機制變革均提出了迫切要求。目前中國在人工智能立法方面面臨的問題主要有：
人工智能技術多元化套用中的演算法不當行為引發新型風險。隨著以演算法為代表的人工智能技術越來越多被套用到包括刑事裁判、醫療服務、金融決策、住房貸款審查、自動駕駛等社會多元化公私場景，演算法不當行為日益增多，給政治安全、個人私密安全、系統性技術風險等方面帶來新的、破壞性的風險點。因此，亟須加強人工智能治理，以應對這些風險挑戰。
演算法影響評估制度和演算法審計制度有待完善。演算法影響評估和演算法審計是人工智能風險防控的重要抓手，目前在對演算法審計、部署和執行的全部流程的動態評估方面還存在不足，尤其是在教育、就業、住房、信貸、醫療和保險等公共場景演算法套用系統規制有待完善。
針對這些情況，應盡快啟動人工智能立法準備。鑒於人工智能立法在人工智能產業發展和治理領域的基礎性、引領性和支撐性作用，世界主要經濟體均將人工智能綜合立法列為人工智能發展戰略的重要環節。中國在人工智能立法的發展道路上與世界主要經濟體處於同一跑道，面對這一重要機遇視窗，能否快速破局、迎上領軍，對於今後及未來的人工智能產業發展和戰略布局具有重要意義。中國【新一代人工智能發展規劃】提出已近5年，在人工智能所涉眾多領域雖已具備一定的法律基礎，但分散化、單一化的立法使其難以有效支撐人工智能領域的穩健發展。因此，應盡快啟動人工智能立法準備工作。
以演算法立法為先導基礎推動人工智能立法。目前，中國的演算法安全治理逐步形成以分類分級為內核、以演算法安全主體責任為杠桿，以演算法權利體系為外部約束的整體化治理路徑。治理框架雖初具雛形，但落地方案仍處探索之中。有鑒於中國的演算法治理實踐，未來應透過健全演算法治理工具體系的方式推進演算法精準治理的落地，同時註重演算法治理規則與個案司法裁判的良性耦合，以全要素視角打造「數據、平台、演算法」多層互嵌的一體化治理格局，為人工智能綜合性立法奠客製度基礎。
建立人工智能全球合作夥伴框架。中國作為人工智能科技大國，應積極籌備領導人工智能全球合作夥伴框架，積極打造人工智能全球治理生態圈，以人類命運共同體思想為指引，構建人類人工智能治理共同體，積極發揮中國在人工智能時代全球治理中的重要引領作用，為有效化解人工智能時代全球治理風險和共築可信安全的人工智能全球治理秩序提供中國方案。
（作者系全國政協委員，華東師範大學國家安全與應急管理研究院院長、特聘教授，同濟大學城市風險管理研究院執行院長）
原文刊登於2024年4月2日【人民政協報】第3版
作者：伍愛群
