資訊科技大大促進了人類社會的發展，也讓資訊保安不斷受到關註。不久前，特斯聯在AI研究中取得新突破，可在機器學習領域中強化數據保護，該研究成果已被人工智能領域頂級學術期刊IEEE T-PAMI 收錄。
互聯網時代，各類資訊保安事故層出不窮。具體到AI領域，AI在機器學習過程中需要「投餵」大量的數據，如何確保這些數據不涉及個人私密、企業乃至國家機密，尤為重要。
此外，AI對話、文字創作等AI工具可收集並儲存使用者輸入的資訊，甚至可能從一些涉密敏感人員數據中推斷出敏感資訊；AI還可以快速生成大量仿真度高的文稿、圖片和音影片，近期流傳的AI模擬某企業高管錄音就是典型案例。
應對資訊泄露，能夠從技術上杜絕此類風險無疑是最理想的手段之一。不久前，斯聯首席科學家、特斯聯國際總裁邵嶺博士及其合作團隊釋出最新研究成果，提出了基於線上拉普拉斯近似的貝葉斯聯邦學習框架。該框架透過線上拉普拉斯近似方法來最佳化聯邦學習中的聚合誤差和局部遺忘問題，不僅推動了機器學習技術的發展，也為解決現實世界醫療、金融、制造等場景中的復雜問題提供了新的思路和工具。該研究成果已被人工智能領域頂級學術期刊IEEE T-PAMI 2024年46卷第一期收錄。
該研究成果在機器學習領域具有重要的長遠意義：在數據私密保護方面，該框架強化了數據私密保護，符合當前對數據安全和私密日益增長的需求；在異構數據處理能力方面，這一方法改進了在異構數據環境下的模型訓練效果，對於現實世界中常見的數據分布不均的場景尤為重要；在模型泛化能力方面，透過減少聚合誤差和局部遺忘問題，該研究提高了模型的泛化能力，使得模型在未見過的數據上也能表現良好；在演算法效率方面，透過線上拉普拉斯近似和多變量高斯乘積機制，該研究提高了聯邦學習演算法的效率，減少了計算和通訊成本；最後，在機器學習模型的健壯性方面，該方法透過先驗損失的設計，增強了模型在面對不同客戶端數據分布時的健壯性。
近日，相關部門提醒，面對人工智能技術帶來的機遇與挑戰，既要用好人工智能促進生產生活，也要提高人工智能安全意識，共同維護國家安全。特斯聯相關AI研究成果，有望從技術領域，減少人工智能帶來的資訊保安風險。
來源：新聞晨報
