當前位置: 華文世界 > 科技

【數博訪談】胡振泉:應對大模型數據安全風險要「以模制模」

2024-08-30科技

今年數博會上,360數位安全集團帶來數據安全資產態勢感知系統。該系統圍繞數據全生命周期做安全監測和檢測,立足於360過去20年來在實戰攻防積累方面的經驗,基於全球最大的安全大數據管理分析能力沈澱而成。

360數位安全集團總裁胡振泉認為,在人工智慧時代,數據是企業的核心資產,保證數據不被泄露是重要工作。用數據進行模型訓練時又會帶來挑戰,包括采集數據也可能會有不規範之處。在當下生成式人工智慧時代的訓練是一種黑盒訓練,黑盒訓練出的結果具備一定隨機性,模型無法對私密數據進行精準判斷,也會帶來數據私密、數據合規上的風險。

360作為國內領先的數位安全服務企業,在人工智慧時代下,如何保障數據安全?呼應「數智共生」的概念,從技術的角度來講,胡振泉解釋:「生成式的人工智慧訓練,數據量要大、品質要高,如果沒有好的數據作為基礎和依托,就不可能訓練出一個高品質的大模型。」胡振泉認為,隨著數位化的程度越高,面臨安全的風險和挑戰也越大。為解決上述問題,首先要做好數據安全營運,建立起對數據全生命周期的風險監測體系。其次,大模型本身面臨的問題也超脫於數據安全,依靠傳統的網路安全解決方案不行,要「以模制模」,再訓練專門的垂直小模型,即時動態進行審視和檢查,避免數據泄露問題和數據私密問題出現。

據介紹,360與貴州的合作始於2016年,雙方共同開展了全國第一個城市級實網攻防演練活動,這次演練引領中國網路安全行業正式進入了「實網、實兵、實戰、實效」新時代。貴陽演練取得成功後,逐步成為貴州省大數據安全領域的重要抓手,後續也規劃建設了貴陽國家大數據安全靶場,推動數據安全能力測評服務體系落地。2021年,360與貴州省大數據發展管理局、貴陽市人民政府、貴安新區管理委員會、貴陽經濟技術開發區管理委員會簽訂戰略協定,圍繞網路安全及大數據等方面展開合作,合作落地360城市安全營運總部。

胡振泉介紹,接下來,360還將繼續深化與貴州的合作,雙方將共同建設城市級綜合防禦體系,基於貴陽優質的數據資源和豐富的算力,在人工智慧方面也將跟貴陽加強合作,訓練更多垂直的行業大模型。未來,360將發揮「上山下海助小微」企業使命,立足於貴陽,放射線貴州全省,幫助貴州的大中小微企業解決在數位化轉型當中的數位安全問題。

記者 舒銳 文/圖