当前位置: 华文世界 > 科技

网易易盾安全大模型亮相2024 ISC.AI

2024-08-02科技

随着人工智能等前沿科技的飞速发展,一个崭新的时代拉开序幕,安全与人工智能的融合成为驱动产业发展的关键动力。在此背景下,历经十二载春秋的ISC大会正式升级为ISC.AI 2024,于7月31日在北京国家会议中心盛大开幕。

作为全球首场数字安全和AI双域盛会,ISC.AI 2024备受瞩目。本届大会由中国互联网协会、中国人工智能学会、中国软件行业协会等主办,中国计算机学会计算机安全专业委员会、中国人工智能学会人工智能与安全专业委员会、中国网络空间安全协会人工智能安全治理专业委员会、中关村数智人工智能产业联盟、北京信息化和工业化融合服务联盟、大模型产业联盟等支持。

本次大会,网易易盾作为ISC高级合作伙伴,携AI在内容安全、业务安全和应用安全产品能力,以及安全大模型亮相参展,与参会企业和专家代表共话如何以「AI+安全」,推动人工智能技术与数字安全融合创新、协同发展,共同构建安全可信、可控的发展生态。

内容安全

在当前以GenAI为核心的人机共存时代,AI的发展极大地扩展了内容的创造力和分发速度,同时也带来了内容审核的复杂性、数据隐私保护的难度和对抗性攻击的挑战。内容安全的风险管理不仅是一场持久战,更是一个持续迭代和完善企业安全框架的动态过程。

通过深度学习和自然语言处理,网易易盾能够帮助企业精准识别并过滤掉色情、暴力、政治敏感等违禁内容,无论是文本、图像还是音视频,都能得到实时且有效的监测。这种多模态的内容理解能力,显著提升了审核的准确性和深度,确保了内容生态的健康与秩序。

业务安全

在AI时代,企业业务安全面临了更多挑战,尤其是以黑灰产形成的成熟上下游产业链,他们已经开始利用最新的AI技术,如合成人脸,来绕过业务的真人核身机制。在面对复杂且不断进化的黑灰产,企业必须不断提升自身的防护措施,以应对不断变化的威胁。这要求业务从内生设计开始,将安全建设作为重要考量,确保其贯穿于整个产品生命周期之中。

协同共进是构建强大安全防御体系的关键,通过网易易盾的专业知识和技术支持,结合业务方的深入理解,可以共同设计出更有效、更适应业务需求的安全解决方案。通过这些措施,企业可以构建一个更加全面、系统、可量化的安全管理体系,确保在人机共存的时代中,保障企业的稳定发展和用户的安全体验。

应用安全

随着AIGC技术和移动互联网技术的蓬勃发展,用户享受到了前所未有的便利,但同时也面临着隐私泄露等安全隐患。个人信息泄露问题尤为突出,如诈骗电话和短信等,这些都指向了一个核心问题——应用安全。

网易易盾凭借对监管政策的深入理解、应用商店上架政策的熟悉,以及服务众多客户积累的经验,能够帮助开发者快速发现并解决这些问题。通过这些措施,网易易盾致力于为用户提供一个安全、可靠的移动互联网环境,保护用户隐私,防御潜在的安全威胁。

安全垂域大模型

在这场以「打造安全大模型,引领安全行业革命」为主题的安全行业大会上,网易易盾也带来了自研的安全大模型。在复杂多变的企业业务场景中,通用大模型显然并不能提供符合安全需求的最优解。

网易易盾基于自身业务的特性,从客户的需求和实际应用场景出发,坚持深耕垂直领域,研发了聚焦数字内容风控场景下的行业大模型。应用安全大模型的数字内容风控通过大模型对风控尺度的理解,对风险内容实现标签的自动、精准标识,提升人工审核效率。

安全是一场持久战,网易易盾的产品和服务始终保持着对行业动态的高度敏感和动态的发展,不断适应着安全威胁的演变和业务需求的变化。凭借其在AI领域的深厚专业知识和丰富经验,网易易盾努力为客户打造了一个全面、智能、可靠的安全环境,让客户的业务运行更加稳健,用户体验更加安全。