当大模型加速涌入金融、政务、能源等关键领域，其“越智能，越危险”的安全悖论正引发行业警觉。在2025年世界互联网大会乌镇峰会上，360数字安全集团正式发布国内首份《大模型安全白皮书》，系统性揭示大模型全生命周期中的五大核心风险，并首次提出“外挂式安全 + 平台原生安全”双轨治理框架，为高危ai时代拉起一道纵深防御屏障。
白皮书指出，大模型的安全威胁已形成跨层级、强耦合的复杂矩阵，涵盖五大维度:
基础设施层:算力集群、训练平台遭攻击可能导致模型被投毒或窃取;内容层:生成虚假信息、违规内容或“AI幻觉”引发社会风险;数据与知识库层:训练数据泄露、知识库被污染将动摇模型可信根基;智能体层（Agent）:自主决策的AI代理若被操控，可能执行恶意任务;用户端层:提示注入、越权访问等攻击可绕过防护直接操控模型行为。
面对这一多维威胁，360提出双轨并行的安全策略:
“外挂式安全”:在模型外部部署监测、过滤与审计系统，如内容合规网关、异常行为检测;
“平台原生安全”:将安全能力内嵌至大模型研发、训练、部署、推理各环节，实现“安全即代码”。
基于该理念，360已构建覆盖数据脱敏、模型加固、内容过滤、Agent行为审计、API防护、红蓝对抗、安全合规等七大核心能力的全链路解决方案，并在金融、制造、政务等多个行业落地实践。
360强调，单靠企业防护远远不够。未来将联合产学研各方，推动大模型安全标准制定、威胁情报共享与开源安全工具共建，打造开放、协同、可信的AI安全生态。
AIbase认为，在大模型从“技术秀场”迈向“生产基础设施”的关键节点，360的白皮书不仅是一份风险预警，更是一张AI安全新基建的路线图。当智能成为生产力，安全必须成为底线——这场由360发起的防御战，关乎的不只是技术，更是AI能否被社会真正信任与托付的未来。
以上就是乌镇峰会重磅发布！360首发《大模型安全白皮书》，首提“全链路AI安全防线”应对智能时代新威胁的详细内容，更多请关注php中文网其它相关文章！
每个人都需要一台速度更快、更稳定的 PC。随着时间的推移，垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是，许多工具可以让 Windows 保持平稳运行。
广告
收藏
收藏
收藏
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号
816
