Google今天宣布了一个很酷的新项目，叫做「AI Cyber Defense Initiative」，就是用人工智能来保护网络安全的。这个项目的目的是让AI能够更好地发现网络威胁，自动修复漏洞，还能提高应对网络事件的效率。听起来很厉害吧？
其实，网络安全是一个很难的问题，因为攻击者只要成功一次就可以造成很大的损害，而防御者则必须一直保持最高的警惕，不能有任何失误，这就是所谓的「防御者的困境」。Google认为，如果能够大规模地使用人工智能，就可以解决这个困境，让防御者有更多的优势。
这个新项目不仅要用AI来应对威胁，还要用AI来预测和消除威胁。为了做到这一点，他们开发了一些可以分析网络威胁模式的AI算法。
Secure AI Framework
其实，Google已经在去年6月推出了一个叫做「Secure AI Framework」（SAIF）的安全AI框架，这是一个专门为使用生成式AI的企业设计的安全解决方案。
Google还呼吁行业和政府一起努力，推动以人工智能为主导的安全措施的进步，以对抗网络威胁。
除此之外，Google还公开了一个用于检测恶意软件的AI工具「Magika」，这是一个可以准确识别二进制文件和文本文件的文件格式识别系统。Magika使用了Google自己研发的深度学习模型，可以在CPU上在几毫秒内识别文件格式。Google研究人员表示，跟传统的识别方法相比，Magika在一些难以识别的VBA、JavaScript、PowerShell等内容上，整体精度提高了30％，最高可达95％的高精度。
不过，Google不是唯一关注人工智能安全问题的公司。微软和OpenAI也在前一天发布了一份报告，讲述了政府和与威胁行动者相关的人工智能滥用问题，并表示为了应对人工智能滥用攻击，与包括政府在内的防御者社区合作非常重要。
你觉得这些人工智能安全项目怎么样？你有什么想法或建议吗？欢迎在评论区留言分享你的看法！
