當前位置: 華文世界 > 科技

致力設計標準化框架,微軟/輝達等廠商聯手組建 CoSAI 安全聯盟

2024-07-21科技

IT之家 7 月 21 日訊息,專門推動全球結構化資訊標準的非營利組織 OASIS Open(由微軟、輝達、英特爾、谷歌、OpenAI、IBM、亞馬遜、思科等廠商組建)在 7 月 18 日宣布建立 CoSAI 安全聯盟(Coalition for Secure AI,安全 AI 聯盟)。

IT之家獲悉,該聯盟計劃與學術界共同解決三大重點領域,分別是 AI 軟體供應鏈安全性、網路領域安全性及 AI 安全治理性。同時將與 Frontier Model Forum、Partnership on AI、Open Source Security Foundation、ML Commons 等 AI 安全組織合作,以共同推動「負責任的 AI」。

具體來說,CoSAI 計劃建立一個協作生態體系分享與 AI 安全設計有關的「方法、標準化框架及工具」,並透過一系列被認證為「安全」的 AI 系統來構建、部署營運環境,以降低「模型操縱、模型盜竊、惡意訓練數據、提示詞‘越獄’」等情況發生的可能性,從而為 B 端市場提供安全的解決方案。

OASIS 組織表示,安全需要「集體行動」,為了安全地參與數位生態體系,大家都應該采用通用的安全標準,在 AI 方面「也並不例外」。