在第22届中国网络安全年会（即国家网络安全宣传周网络安全协同防御分论坛）上，国内首次面向AI大模型的公开众测成果正式发布。本次测试由中央网信办网络安全协调局指导，国家计算机网络应急技术处理协调中心主办，共吸引559名白帽子安全研究人员参与，对市面上15款主流AI大模型及其应用产品进行了深度安全检测。
此次测评范围广泛，涵盖底层基础大模型、智能体系统以及模型开发平台等多种形态，旨在模拟真实攻击场景，挖掘潜在安全隐患。最终结果显示，累计发现各类安全漏洞达281个，其中属于AI大模型特有的新型漏洞有177个，占比超过六成。这一数据表明，AI模型不仅面临传统信息安全威胁，还存在大量与生成式能力、提示工程等密切相关的新类型风险。
测试过程中暴露出的主要问题包括：部分产品存在严重的不当内容输出风险，信息泄露类漏洞较为常见，提示注入攻击成为普遍存在的安全隐患。同时，尽管部分厂商已部署一定的防御机制，但在应对资源无节制调用和恶意高频请求方面仍显薄弱。此外，传统安全层面的漏洞依然广泛存在，不可忽视。
在参测的主流大模型中，腾讯混元大模型、百度文心一言及阿里巴巴通义App表现相对出色，所暴露的安全漏洞数量较少，体现出较强的综合防护能力，为行业树立了安全建设的标杆。
会议尾声，主管部门提出四项AI大模型安全治理重点方向：强化系统性安全防护措施，推动建立统一的漏洞分类与评级标准，积极引导社会白帽力量参与安全共建，并将安全管理贯穿于AI系统设计、开发、部署到运维的全生命周期之中。
