12月17日,由360集团牵头发起的大模型安全联盟(以下简称“联盟”)在北京成立。据了解,包括联想、腾讯云、百度智能云、火山引擎、MiniMax、清华大学等监管机构、科研院所、大模型伙伴、算力与基础设施伙伴及安全伙伴等参与了联盟启动仪式。大模型安全联盟汇聚了多元力量,旨在打造资源共享、共创共赢的大模型安全生态集群,共同推动大模型安全标准的制定、安全技术的创新和安全能力的提升,打造大模型安全发展的新范式。
联盟成立仪式上,360展示了其在人工智能与安全领域的最新成果,推出了多款具有重要行业价值的企业级应用新产品。包括大模型全链路安全检测的“智鉴”、内容安全护航的“智盾”、搜索增强利器“智搜”,以及知识管理平台“智能文档云”和情报监测工具“舆情卫士”。这些创新产品全面覆盖了大模型系统安全、内容安全、智能知识管理与情报分析等关键领域,显示了360在大模型安全技术研发与生态建设上的全面布局。
“360智鉴”为大模型系统安全检测平台(AISE),该产品覆盖了从模型训练到推理的全链路安全检测,支持对模型服务的相关组件识别、生态链漏洞扫描和多语言代码审计,确保大模型系统安全。这一体系的核心优势包括具有全链路、多场景、易扩展的特点,支持400多种公开漏洞的检测,覆盖RAG、Agent、prompt等场景的安全性分析,可以快速扩展到记忆、缓存等新的风险场景的安全检测。据悉,360智鉴已成功应用于多个行业,帮助企业在大模型上线前进行全方位的安全评估,显著降低了潜在的安全隐患。
“360智盾”是大模型内容安全护栏系统(AISG),该产品支持大模型输入输出有害内容检测、风险问题安全代答、自动攻防巡检和安全运营。基于大模型与多模态风险内容识别能力,360智盾打造了全流程、多种类、多模态、场景化的内容安全体系,能够全面把控大模型内容安全,支持100多类风险内容的识别过滤,支持文本、音频、图片、视频等多种模态的风险防护,并通过平台定制化场景风控策略,满足不同场景的风控需求。据了解,360智盾已涵盖超过200多种对抗内容防御技术,能够显著降低业务内容风险。
“360智搜”则是一款大模型可信增强(AISO)工具,融合多模态检索与语义理解技术,能够提供精准的搜索结果,并支持基于企业私域数据的知识提炼与总结。其独特之处在于整合多领域精品知识库,实现全网与私域知识的无缝对接,提升信息获取效率。更重要的是,360智搜通过精确的知识整合,帮助大模型缓解幻觉问题,减少虚假或不准确信息,提升大模型的可信度与可靠性,从而为企业提供更安全、更高效的业务支持。
基于360大模型安全系列产品智鉴、智盾、智搜的深度赋能,本次发布会上还推出了“360智能文档云3.0”和“360舆情卫士”两款智能产品。其中,智能文档云是一款专为企业打造的智能知识管理与应用平台,涵盖从数据采集、存储、处理到应用的知识管理全流程。通过深度融合企业内外部数据,该平台能够帮助企业实现知识的“搜、学、写、用”,大幅提升决策效率与业务能力。
360舆情卫士则以AI为核心驱动,针对情报监测与分析提供了一站式解决方案,支持多模态数据处理与深层语义分析,为企业提供关于舆情分析、市场趋势、消费者行为、竞争对手动态、识别潜在的风险和威胁、发现新的业务机会和技术创新、揭示客户的偏好和需求、了解市场格局等关键信息,帮助企业做出基于数据和洞察的明智决策。
作为以“安全+AI”为双主线的科技企业,360不仅凭借自身技术优势推出了多款创新产品,还积极践行行业与社会责任,通过发起大模型安全联盟,将行业伙伴紧密联合在一起,共同推动大模型安全技术的应用普及。联盟旨在通过共享资源、联合研发等形式,打造更加安全、可信的人工智能生态。
在发布会上,360集团创始人周鸿祎多次强调,只有确保大模型的安全性,才能真正推动人工智能在社会经济中的健康发展。为此,360提出了“安全、向善、可信、可控”的四大原则,并在其发布的多款产品中贯彻了这一理念。
据悉,上述360新产品将以SaaS服务和私有化部署两种模式向市场推出,满足不同企业的多样化需求。未来,360将继续通过技术创新与生态建设,为行业树立标杆,也为行业的长期健康发展注入新动能。
4000520066 欢迎批评指正
All Rights Reserved 新浪公司 版权所有