8月1日，由360集團AI安全實驗室、中國科大網絡空間安全學院主辦的人工智能安全趨勢發展論壇在京順利召開。三六零（下稱「360」）集團提出了系統化的大模型安全解決方案，圍繞「安全、向善、可信、可控」安全四原則搭建系統化工具，透過技術革新，實作大模型風控效率提升100倍，幻覺比例下降50%，為全球大模型安全賦能。與此同時，基於本屆論壇搭建產、學、研對話平台，集聚行業之力形成大模型安全風險和威脅應對策略，推動構建安全、可靠的人工智能生態。
隨著人工智能技術的廣泛套用，安全問題也日益凸顯，成為當下不可忽視的重要議題。360集團智腦總裁張向征在致辭提到，大模型已成為數智化系統的關鍵基礎設施，其潛在的主體地位和套用廣度，也帶來了新的安全風險和安全挑戰。為此，360也號召學術界和產業界在政府機構的指導下緊密合作，共同推動人工智能安全技術的創新與發展。
作為數碼安全領軍企業，360確立了安全和AI發展雙主線，躬身入局攻克大模型世界級安全難題，應對大模型在落地套用過程中遇到的四大安全風險——模型環境漏洞、生成惡意內容、生成錯誤資訊以及Agent流程失控，提出「安全、向善、可信、可控」四原則，構建系統化的大模型安全解決方案。
360集團AI安全實驗室主任鄒權臣在分享中提到，該方案包含國內首個支持系統化安全檢測、提示註入風險檢測的人工智能系統安全檢測平台「AISE」，能夠對大模型乃至全生態鏈安全進行檢測，確保大模型訓練工具與部署環境安全；智腦風控引擎實作了內容加固和風險過濾，同時引入自動化攻防工具，大幅提升風控效率；此外，基於幻覺檢測Agent最佳化模型可信度，測試顯示大模型幻覺比例下降50%以上；透過AI Agent可控框架對大模型的場景進行統一編排呼叫，設定安全措施確保大模型的「手」和「腳」可控，保證人在決策鏈路，從而有效避免Agent流程失控問題。
此外，針對安全行業存在的諸多痛點，360運用全新技術路線構築「看見—處置」安全大模型。360數碼安全集團網絡安全資深專家楊波表示，360安全大模型將套用於解決安全行業「產品協同困難、安全能力不足、營運效率低下、安全專家缺乏」等痛點。值得關註的是，該模型創新性打造類腦框架，五大中樞可以類比人類大腦實作專家級安全能力，為企業打造7*24小時高級安全專家團隊。
安全作為發展的基石和底線，與人工智能的融合將成為驅動大模型套用和產業發展的重要驅動力。未來，360將透過技術創新和生態合作，推動人工智能技術與數碼安全融合發展，為構建安全、可靠的人工智能生態貢獻力量。
