在2025年11月8日举办的世界互联网大会乌镇峰会上,360数字安全集团推出了《大模型安全白皮书》,该白皮书全面剖析了大模型在运行过程中面临的五大关键风险,并提出了构建全链路安全防御的理念和方法。
五大关键风险揭示大模型安全挑战
随着大模型技术在政务、金融等多个领域的广泛应用,其安全问题日益突出。白皮书通过分析2025年国内外的大模型安全事件,归纳出五大风险领域:基础设施安全、内容安全、数据与知识库安全、智能体安全以及用户端安全。这些风险相互交织,对个人权益、企业发展乃至国家安全构成严峻挑战。
“外挂式安全+平台原生安全”双轨治理策略
面对这些复杂挑战,白皮书提出了“外挂式安全+平台原生安全”的双轨治理策略。外挂式安全注重模型外部的防护,而平台原生安全则着重于将安全能力内嵌至核心组件中,两者协同构建起大模型的全链路防护网。
360提供的七大核心产品能力
360依托于“外防风险、内固架构”的理念,推出了覆盖大模型安全全链路的解决方案,通过七大核心产品能力,形成了外挂式与平台原生相结合的纵深防御体系。这些产品包括大模型卫士算力主机安全系统、检测系统、防护系统、幻觉检测与缓解系统等,旨在从外部工具到核心组件,全方位保护大模型安全。
目前,360已将这些安全能力应用于政务、金融、制造等行业,将大模型安全从理论转化为实战方案。未来,360计划联合产学研各界,推动安全标准建设与技术共享,共同构建安全、可信的AI生态。