360智盾入选工信部优秀典型案例,安全领域独领风骚,引领未来产业创新发展
近日,360智盾成功入选工信部未来产业创新发展优秀典型案例,在安全领域独领风骚,这一荣誉体现了其在技术创新和产业发展方面的卓越表现,展现了其在国内安全领域的领先地位,360智盾的成就对于推动未来产业的发展具有重要意义,其成功经验值得广泛借鉴和推广。
这段文案非常详尽地介绍了三六零集团自主研发的AI安全产品——智盾,并且强调了其在人工智能安全领域的标杆地位,以下是修改后的版本,更加流畅和连贯,同时增加了部分原创内容以丰富文案的层次感和深度。
日前,工业和信息化部公布了2024年未来产业创新发展优秀典型案例名单,其中三六零集团自主研发的AI安全产品——智盾成功入选人工智能安全领域的标志性产品,这是工信部首次针对未来产业创新发展进行优秀案例评选,背景在于推动未来制造、未来信息、未来材料等六大方向的全面发展。
随着人工智能大模型的飞速发展,安全问题日益凸显,近期发生的一系列事件,如谷歌Gemini聊天机器人出现威胁用户行为、Claude模型暗示未成年用户暴力行为等,充分暴露了大模型在实际应用中的严峻安全风险,中国信息通信研究院发起的AI Safety Benchmark(大模型安全基准测试)结果显示,当模型面临恶意攻击时,生成有害内容的成功率显著上升,这进一步强调了安全防护机制的迫切需求。

面对这些挑战,三六零智脑团队深入探索、持续创新,率先提出“以模制模”理念,即利用大模型的能力保障大模型自身的安全,团队将这一理念产品化,打造出业界领先的大模型内容安全解决方案——智盾,智盾主要包括模型层和应用层两部分,通过不断提升模型本身的原生安全性能,为业务大模型外部加装“内容防护盔甲”,构建多层次内容护栏体系。

除此之外,智盾还具备语义理解驱动的风险识别模型、红蓝对抗攻防靶场体系等多项独特技术,智盾已全面部署于三六零内部各大模型业务中,为C端用户提供可靠的内容安全保障,团队积极拓展外部服务,为政企客户提供多项AI安全产品能力与服务。

除智盾外,三六零还推出了大模型安全产品——智鉴和智搜,智鉴为大模型系统安全检测平台(AISE),覆盖从模型训练到推理的全链路安全检测;智搜则是一款大模型可信增强(AISO)工具,融合多模态检索与语义理解技术,为企业提供更安全、更高效的业务支持,这两款产品的推出,进一步强化了三六零在AI安全领域的领先地位。

此次入选工信部《2024年未来产业创新发展优秀典型案例》,是唯一一个入选的大模型安全防护产品案例,这不仅是对三六零在大模型安全领域的长期投入和领先能力的高度肯定,也充分体现出在AI应用加速落地的今天,安全可控的重要性正日益凸显,这不仅彰显了三六零的技术实力和市场影响力,也为整个AI产业的安全发展树立了榜样。

三六零AI安全团队将继续深耕内容安全、漏洞安全、可信安全等方向,努力构建一个安全、向善、可信、可控的大模型应用环境,团队也将积极参与各类大赛,通过实践不断提升自身技术实力,为人工智能产业的健康发展做出更大贡献,三六零将继续致力于打造一个安全、可靠、智能的AI生态系统,为人工智能产业的繁荣发展做出自己的贡献。
