信息技术大大促进了人类社会的发展，也让信息安全不断受到关注。不久前，特斯联在AI研究中取得新突破，可在机器学习领域中强化数据保护，该研究成果已被人工智能领域顶级学术期刊IEEE T-PAMI 收录。
互联网时代，各类信息安全事故层出不穷。具体到AI领域，AI在机器学习过程中需要「投喂」大量的数据，如何确保这些数据不涉及个人隐私、企业乃至国家机密，尤为重要。
此外，AI对话、文字创作等AI工具可收集并存储用户输入的信息，甚至可能从一些涉密敏感人员数据中推断出敏感信息；AI还可以快速生成大量仿真度高的文稿、图片和音视频，近期流传的AI模拟某企业高管录音就是典型案例。
应对信息泄露，能够从技术上杜绝此类风险无疑是最理想的手段之一。不久前，斯联首席科学家、特斯联国际总裁邵岭博士及其合作团队发布最新研究成果，提出了基于在线拉普拉斯近似的贝叶斯联邦学习框架。该框架通过在线拉普拉斯近似方法来优化联邦学习中的聚合误差和局部遗忘问题，不仅推动了机器学习技术的发展，也为解决现实世界医疗、金融、制造等场景中的复杂问题提供了新的思路和工具。该研究成果已被人工智能领域顶级学术期刊IEEE T-PAMI 2024年46卷第一期收录。
该研究成果在机器学习领域具有重要的长远意义：在数据隐私保护方面，该框架强化了数据隐私保护，符合当前对数据安全和隐私日益增长的需求；在异构数据处理能力方面，这一方法改进了在异构数据环境下的模型训练效果，对于现实世界中常见的数据分布不均的场景尤为重要；在模型泛化能力方面，通过减少聚合误差和局部遗忘问题，该研究提高了模型的泛化能力，使得模型在未见过的数据上也能表现良好；在算法效率方面，通过在线拉普拉斯近似和多变量高斯乘积机制，该研究提高了联邦学习算法的效率，减少了计算和通信成本；最后，在机器学习模型的健壮性方面，该方法通过先验损失的设计，增强了模型在面对不同客户端数据分布时的健壮性。
近日，相关部门提醒，面对人工智能技术带来的机遇与挑战，既要用好人工智能促进生产生活，也要提高人工智能安全意识，共同维护国家安全。特斯联相关AI研究成果，有望从技术领域，减少人工智能带来的信息安全风险。
来源：新闻晨报
