8月30日下午，2024年國家網絡安全宣傳周上海地區活動徐匯區大模型主題分論壇在上海「模速空間」創新生態社區舉行。
上海市委網信辦總工程師楊海軍透露，截至目前，全國已經有188款大模型完成備案，上海市共34款，其中徐匯區21款。目前，上海還有兩批次17款大模型正在備案流程中。模速空間生態集聚效應顯現。記者註意到，截至8月30日，上海市累計已完成30款生成式人工智能服務登記。
2022年底以來，以大語言模型為代表的生成式人工智能技術與套用快速發展，服務公眾，賦能行業。同時，大模型也引發業界和公眾對人工智能安全和倫理的擔憂。
楊海軍說，為應對生成式人工智能帶來的風險挑戰，國家及上海市持續出台相應法規政策，促進創新與依法治理相結合。2023年8月15日，國家網信辦等七部委聯合出台的【生成式人工智能服務管理暫行辦法】正式施行，成為全球生成式人工智能服務監管立法的先行者。
2024年世界人工智能大會上，「上海人工智能安全治理實驗室」正式揭牌。「我們將持續統籌發展與安全，在推動人工智能賦能千行百業的同時，不斷加強安全保障，提升安全性、可靠性、可控性和公平性，推動人工智能以人為本、智能向善。」楊海軍說。
當天，論壇圍繞「大模型浪潮下的安全挑戰」主題，聚焦大模型最新的技術進展及其所面臨的安全難題，邀請相關領域的學者、科研專家、行業大咖，就大模型科研動態、發展趨勢、技術實踐以及安全挑戰等話題展開深入的研討與交流。
上海市資訊保安測評認證中心總工程師李宏達以【生成式人工智能內容安全指引及備案】為題作交流分享。智巡密碼（上海）檢測技術有限公司副總經理、高級工程師劉軍榮帶來【密碼技術守護大模型安全】的主題分享，深入探討了密碼技術與大模型的融合套用與創新發展。
此外，上海商湯智能科技有限公司、上海數碼安全科技有限公司、觀源（上海）科技有限公司、深圳奧聯資訊保安技術有限公司等單位的行業專家圍繞【大模型浪潮下的安全挑戰】主題展開圓桌討論。
澎湃新聞高級記者 李佳蔚
(本文來自澎湃新聞，更多原創資訊請下載「澎湃新聞」APP)
