当前位置: 华文世界 > 科技

云天励飞亮相2024北京安博会,以边缘AI开启「大模型+警务」新时代

2024-10-22科技
10月22日-25日,2024安博会在北京举行。本届安博会以「数智世界 全域安全」为主题,全面展示近年来人工智能与警务结合应用的最新技术成果。
在本次安博会上,云天励飞全面展示利用边缘AI技术和产品打造「大模型+警务」创新应用的成果。
1个边缘AI技术底座
云天励飞自主研发了两大技术平台——多模态大模型「云天天书」、NPU加速计算平台,这两大技术平台为云天励飞边缘AI构筑起了一个坚实的技术底座。
「云天天书」系列大模型使用自研训练框架,全栈适配国产算力,在可伸缩训练、断点续训等业界难点问题上屡次取得创新突破。采用首创SPACE高性能推理引擎,同等条件下推理速度提升超80%,做到「算得快、算得多、算得精」。具备边缘端硬件在线微调学习能力,通过能力蒸馏研发的1.8B轻量化模型和MoE大模型,边缘应用性能普遍优于同等参数模型,可支撑大模型在边缘设备的广泛落地。「云天天书」大模型已于2023年底正式通过中央网信办备案。
基于NPU加速计算平台,云天励飞从成立至今已完成3代指令集架构、4代神经网络处理器架构的研发,且已陆续商用。2023年底最新推出的 AI 芯片 DeepEdge10 基于自主可控的先进国产工艺打造,支持Chiplet技术,可实现单芯片算力的灵活扩展,满足不同场景的算力需求。目前DeepEdge10 已在摄像头、边缘服务器、机器人、汽车等边缘设备落地应用。
2款面向警务的边缘AI产品
本次安博会上,云天励飞带来两款全新的「天舟」大模型推理一体机产品D222B和D228B。
「天舟」是云天励飞基于自研芯片、加速卡和大模型打造的面向大模型应用的软硬一体化产品,可实现大模型低成本部署、开箱即用。
本次展出的两款新品内置云天励飞自研IPU-X2000加速卡。IPU-X2000基于DeepEdge10打造,峰值算力达32Tops@int8,单卡支持 40 路 1080P 视频解析,单路最大支持 800W 像素视频流,适配Transformer模型、BEV模型等各类不同架构的主流模型。
D222B和D228B分别支持80路和320路视频算法分析,实现大模型在监所、督查、交管、治安等场景的快速赋能。
3项创新智慧警务功能
基于「云天天书」大模型,云天励飞针对警务的行业特性,打造了「云天天书警务大模型」,并结合云天励飞10年来沉淀的丰富警务行业知识,为各类警务应用提供智能支撑。
本次展会上,云天励飞重点展示3项创新功能——视频巡逻、语义搜和视图增强。
视频巡逻:智能识别危险动作、风险行为,有效预防风险、降低警情、节约警力。
语义搜:将VQA(Visual Question Answering)与TSG(Temporal Sentence Grounding)技术巧妙融合,实现「一句话就是一个技战法」。
视图增强:实现图像超分辨率、夜景增强、智能去噪、素描转换图像、图像着色,以及年龄变化模拟(加龄减龄)等。
N项创新警务应用
本次展会上,云天励飞还全面展示了多项行业与大模型结合的创新解决方案,包括「深海」警务多维大数据应用解决方案、电动自行车综合治理解决方案、智慧监所解决方案、智慧安防社区解决方案、AIGC视图增强解决方案等。
(本文来源:咸宁新闻网。本网转发此文章,旨在为读者提供更多信息资讯,所涉内容不构成投资、消费建议。对文章事实有疑问,请与有关方核实或与本网联系。文章观点非本网观点,仅供读者参考。)