推動人工智慧安全高效發展
自動駕駛的汽車安全穿行在城市的車流中，人工智慧（AI）生成的文章與圖片在社交媒體上頻頻出現，工廠裏搭載著智慧系統的流水線以前所未有的高效率運轉……人工智慧正在成為重塑生產生活、引領時代變革的重要力量。與此同時，隨著人工智慧技術的持續發展，套用場景不斷拓展，一系列安全風險與挑戰隨之產生。如何讓人工智慧在安全、穩定、高效的軌域上良性發展，成為業界普遍關註的問題。
垂直領域機遇空前
作為先進技術的標桿，人工智慧領域的任何風吹草動都可能引發全球關註。從ChatGPT橫空出世到Sora重新整理認知，只用了1年多的時間。在此期間，國內的「百模大戰」打得如火如荼，一批透過備案的大模型已經向各行業及社會公眾開放。全球範圍內，人工智慧的競爭日趨激烈。
咨詢機構麥肯錫預計，以AIGC為代表的AI技術將給全球經濟帶來超過7.9萬億美元價值，到2030年之前，如果生成式AI套用於各行業，每年總經濟效益高達6.1萬億美元至7.9萬億美元。
近日，在中國發展高層論壇2024年年會「人工智慧發展與治理專題研討會」上，中國科學院副院長吳朝暉表示，人工智慧將成為第四次工業革命的標配，將加速傳統產業的轉型升級，實作品質變革、效益變革和動力變革，重塑工業的基礎再造、生產和服務模式創新的各個環節，引領新型工業化發展，為智慧經濟發展提供全新動能。
如何在新一輪產業革命中搶占先機？這是機遇，也是挑戰。
人工智慧作為一種技術工具，需要與產業結合，推動產業數位化轉型，從而促進經濟社會發展。中國龐大的人口規模、套用場景與完整的產業鏈，為產業落地提供了堅實的環境支持。360集團創始人周鴻祎表示，如果企業在某個業務領域有獨特的業務數據，就應在這一垂直領域把大模型訓練好，並將其與企業業務工具結合在一起。未來，企業裏將不會只有一個超級大模型，而是有多個小規模的、百億級的大模型，每個大模型只從事一個場景的工作。
充分發揮場景落地優勢，在垂直領域發力，正成為當前國內企業發展人工智慧的共識。騰訊雲副總裁、騰訊雲智慧負責人、優圖實驗室負責人吳運聲介紹，目前，騰訊已將AI大模型套用到多個業務場景中，在產業落地方面，基於騰訊雲TI平台推出的行業大模型，透過結合行業專業知識和數據訓練，以及企業自身的數據進行精調，幫助企業快速生成專屬模型，目前已經面向20多個行業輸出了超過50個行業大模型解決方案。
3月27日，百度智慧雲「AI Cloud Day：大模型套用產品釋出會」釋出透過大模型重構和升級之後的7款產品，覆蓋行銷內容的創作、數位人、智慧客服等七大垂直領域。百度智慧雲副總裁喻友平表示，大模型作為一種普適性的套用，一定要和場景緊密結合。當前業界普遍思考，怎樣把大模型用到企業中去。
業內人士認為，對多數企業，特別是中小微企業而言，以小規模、垂直化的大模型作為切入點，可以高效快速實作人工智慧對產業的數位化賦能。同時將企業在垂直領域的智慧化套用開發交給專業的智慧產品服務商，使「專才」更專，效率更高。
作為生產智慧化產品和解決方案的服務商，山東浪潮智慧生產技術有限公司基於基礎通用模型，正在訓練研發圍繞智慧生產的「智產大模型」。浪潮智慧生產總經理宋誌剛表示，對於制造業來說，以人工智慧與行業場景的深度融合為主線，與制造業企業生產環節深度結合，充分發揮深度學習、自主決策等優勢，才能提升生產過程的智慧化水平。浪潮智慧生產以智產大模型為支撐，以「多維數據融合與智慧最佳化引擎」為技術核心，打造了智慧生產數據分析平台，並已實際套用於多家制造業企業，對生產效率有顯著提升作用。據了解，專精於發動機活塞環制造的福建東亞機械有限公司在采用該智慧平台後，透過機器視覺數據與行業數據集微調，生產效率提高20%，產品合格率由之前的90%提升到99%。
監管面臨新的挑戰
人工智慧在創造前所未有機遇的同時，也伴隨著超越以往範疇的風險，對監管提出了嚴峻考驗。
人工智慧帶來的安全問題，呈現在AI模型的數據獲取、數據訓練以及套用上線營運全過程。吳運聲認為，AI本體安全或AI內生安全，要重點關註AI模型和演算法自身在可靠性、公平性、可解釋性、透明性等方面的安全缺陷；AI套用安全，是AI模型從開發、測試、部署到執行互動等完整生命周期內的套用安全；AI衍生安全，也叫AIGC內容安全，主要是生成內容的涉黃、涉暴等違法違規內容的稽核。長期來看，伴隨著生成式AI的發展，AI倫理和AGI可控性將是AI安全的焦點。
百度法律研究中心主任陳晨表示，隨著大模型的普及和快速叠代，確保其輸出的內容符合使用者預期和法律要求變得至關重要。大模型的內容輸出風險，本質上是模型的推理能力和邏輯風險。這些風險主要體現在模型可能出現「偏見」「誤判」「幻覺」等現實情況。因此，多後設資料集對大模型發展至關重要。當前，中國生成式人工智慧和大模型技術創新仍處於初級階段，數據訓練需要盡可能地包容和多樣，而高品質、具有良好價值觀的數據往往具有版權。如果因為高品質內容的缺失，而使生成式人工智慧產生某種偏見，產生推理邏輯風險，將不利於產業的深度融合和公共服務水平的提升。
從企業角度出發，宋誌剛認為，數據是一個核心點。智慧模型的決策，建立在訓練數據基礎之上，一方面，訓練數據的不準確會影響智慧模型的決策，而用於訓練樣本的數據則面臨被泄露或者被篡改的風險。他建議，可以基於傳感器等生產智慧化裝置，多維度采集數據，建立起與數據準確性、完整性、有效性相關的管理機制。同時，加強技術攻關，基於小樣本數據進行快速學習，不斷調優模型參數。此外，還可以建立數據多重授權和安全防護機制來保障數據安全。
隨著人工智慧越來越廣泛套用於生產生活的方方面面，在使用中產生的關於真實性、道德要求、權責歸屬等議題的討論逐漸增多。
大模型具有工具內容，既可以成為好人的幫手，也可能成為壞人的幫兇。周鴻祎表示，合理的監管，可以對人工智慧帶來正向的推動作用。除了監管，還要尋找技術方法，比如在AI生產視訊裏加入不可更改、不可替換、不可修改的內部浮水印等。
中國政法大學數據法治研究院教授張淩寒認為，應透過技術發展回應和解決安全問題。不發展是最大的不安全，我們在技術和產業的國際競爭中必須以發展為制度設計的總目標。
治理體系逐步完善
人工智慧的安全與治理問題，關乎產業發展方向與速度，關乎供給雙方權利與義務，更關乎國際競爭中的優勢與主動。
北京航空航天大學法學院院長助理、副教授趙精武表示，一國對人工智慧的法律規制不僅影響著本國的產業發展和風險治理，更決定著該國在全球人工智慧治理中的話語權。同時，在全球化的背景下，人工智慧技術的發展和套用的跨國特性也要求國際社會共同面對和解決技術發展帶來的挑戰。
2023年10月18日，中國釋出【全球人工智慧治理倡議】，圍繞人工智慧發展、安全、治理三方面系統闡述了人工智慧治理中國方案。倡議提出，人工智慧技術帶來難以預知的各種風險和復雜挑戰，各國應在人工智慧治理中加強資訊交流和技術合作，不斷提升人工智慧技術的安全性、可靠性、可控性、公平性。
行之有效的治理方案，既能夠為人工智慧的創新發展與產業套用提供良好的發展環境，還能妥善應對技術發展過程中的風險與問題。
中國信通院政策與經濟研究所高級工程師程瑩告訴記者，演算法治理是在已有成熟業態之後，圍繞網路平台展開的相對穩定、清晰、可預期的治理。當下的大模型具有擴充套件性強、叠代快速、商業模式尚在探索的階段特性，全球主要經濟體共同面臨著「邊發展邊摸索邊治理」的重大挑戰。在中國，人工智慧治理正從原則理念轉化為可落地的規則規範。立法層面，既有民法典、個人資訊保護法、電子商務法等條款針對深度偽造、大數據殺熟等具體問題的治理，也有在部門規章層面關於演算法推薦、深度合成、AIGC領域的要求。倫理層面，在【關於加強科技倫理治理的意見】規範下，進一步推進【科技倫理審查辦法（征求意見稿）】落地實施。標準層面，中國釋出了【國家新一代人工智慧標準體系建設指南】【生成式人工智慧服務安全基本要求】等，對人工智慧提出了具體落地要求。
人工智慧領域的專門法也在逐步推進中。今年，在十四屆全國人大二次會議新聞釋出會上，大會發言人婁勤儉表示，下一步將研究推進科技創新方面的立法，特別是深入研究人工智慧、生物技術等前沿科技領域有關倫理、道德、安全等重要問題，不斷完善科技法律體系。
來源：經濟日報
流程編輯：U032
