如何给智能体装个「AI护栏」？英伟达有3项全新微服务

ai应用部署安全至关重要：英伟达推出nim微服务守护生成式ai

Gartner预测，到2028年，AI将广泛应用于企业决策和流程。然而，AI智能体的信任、安全和合规性问题日益突出。为解决这一难题，英伟达发布了全新的NIM微服务，作为NeMo Guardrails软件工具包的一部分，旨在提升生成式AI应用的安全性、准确性和可扩展性。

NIM微服务：三道安全防线，兼顾效率与安全

NeMo Guardrails是一个开源工具包，允许开发者为基于大型语言模型（LLM）的会话系统添加可编程“护栏”。 新推出的三项NIM微服务，能有效控制AI智能体在规模化运行时的行为：

• 内容安全NIM微服务（Content Safety NIM）： 基于高质量的Aegis内容安全数据集（超过35000个人工标记样本，已在Hugging Face公开发布）训练，有效防止AI生成偏见或有害内容，确保输出符合道德标准。英伟达企业AI模型、软件与服务副总裁Kari Briski评价其为“同类数据集中质量最高的数据源之一”。

• 话题控制NIM微服务（Topic Control NIM）： 将对话引导至预先审核的话题，避免偏离主题或出现不当内容。

• 越狱检测NIM微服务（Jailbreak Detection NIM）： 加强对试图绕过安全防护措施的防御，确保AI在对抗性场景下的完整性。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

来源：英伟达官方

轻量级“护栏”策略，高效提升安全性和合规性

JoinMC智能客服

JoinMC智能客服，帮您熬夜加班，7X24小时全天候智能回复用户消息，自动维护媒体主页，全平台渠道集成管理，电商物流平台一键绑定，让您出海轻松无忧！

23

查看详情

NeMo Guardrails采用多个轻量级专业模型作为“护栏”，避免了“一刀切”方法的不足，有效弥补了单一全局策略的漏洞。 测试结果显示，增加5个护栏，延迟仅增加约1.25秒，展现了其在保障能力和效率之间的良好平衡。

跨行业应用，构建安全可信的AI智能体

NeMo Guardrails已开源，其NIM微服务已在汽车、金融、医疗、制造、零售等多个行业得到应用。例如：

• Amdocs: 在其amAIz电信生成式AI框架中集成NeMo Guardrails，增强平台安全性。

• Cerence AI: 用于车载助手，提供更安全、准确的上下文交互。

• 劳氏公司: 用于提升员工客户服务能力，确保AI回复的安全性与可靠性。

此外，NeMo Guardrails具有良好的开放性和可扩展性，可与ActiveFence、Fiddler、Weights & Biases等其他AI安全和可观测性平台集成，并提供NVIDIA Garak开源套件用于AI安全测试和漏洞扫描。

目前，NeMo Guardrails微服务以及相关工具已向开发者和企业开放，助力构建更安全、可靠的AI应用。

以上就是如何给智能体装个「AI护栏」？英伟达有3项全新微服务的详细内容，更多请关注php中文网其它相关文章！