当前位置: 华文世界 > 科技

【数博访谈】胡振泉:应对大模型数据安全风险要「以模制模」

2024-08-30科技

今年数博会上,360数字安全集团带来数据安全资产态势感知系统。该系统围绕数据全生命周期做安全监测和检测,立足于360过去20年来在实战攻防积累方面的经验,基于全球最大的安全大数据管理分析能力沉淀而成。

360数字安全集团总裁胡振泉认为,在人工智能时代,数据是企业的核心资产,保证数据不被泄露是重要工作。用数据进行模型训练时又会带来挑战,包括采集数据也可能会有不规范之处。在当下生成式人工智能时代的训练是一种黑盒训练,黑盒训练出的结果具备一定随机性,模型无法对隐私数据进行精准判断,也会带来数据隐私、数据合规上的风险。

360作为国内领先的数字安全服务企业,在人工智能时代下,如何保障数据安全?呼应「数智共生」的概念,从技术的角度来讲,胡振泉解释:「生成式的人工智能训练,数据量要大、质量要高,如果没有好的数据作为基础和依托,就不可能训练出一个高质量的大模型。」胡振泉认为,随着数字化的程度越高,面临安全的风险和挑战也越大。为解决上述问题,首先要做好数据安全运营,建立起对数据全生命周期的风险监测体系。其次,大模型本身面临的问题也超脱于数据安全,依靠传统的网络安全解决方案不行,要「以模制模」,再训练专门的垂直小模型,实时动态进行审视和检查,避免数据泄露问题和数据隐私问题出现。

据介绍,360与贵州的合作始于2016年,双方共同开展了全国首个城市级实网攻防演练活动,这次演练引领我国网络安全行业正式进入了「实网、实兵、实战、实效」新时代。贵阳演练取得成功后,逐步成为贵州省大数据安全领域的重要抓手,后续也规划建设了贵阳国家大数据安全靶场,推动数据安全能力测评服务体系落地。2021年,360与贵州省大数据发展管理局、贵阳市人民政府、贵安新区管理委员会、贵阳经济技术开发区管理委员会签订战略协议,围绕网络安全及大数据等方面展开合作,合作落地360城市安全运营总部。

胡振泉介绍,接下来,360还将继续深化与贵州的合作,双方将共同建设城市级综合防御体系,基于贵阳优质的数据资源和丰富的算力,在人工智能方面也将跟贵阳加强合作,训练更多垂直的行业大模型。未来,360将发挥「上山下海助小微」企业使命,立足于贵阳,辐射贵州全省,帮助贵州的大中小微企业解决在数字化转型当中的数字安全问题。

记者 舒锐 文/图