OpenAI 和 Anthropic “互测”模型安全性-IT新闻-PHP中文网

OpenAI 和 Anthropic “互测”模型安全性

DDD

发布： 2025-08-28 20:31:01

原创

578人浏览过

openai与anthropic首次开展跨机构联合安全评估，双方对彼此公开发布的模型进行了深度互评，聚焦误对齐、指令遵循、幻觉、越狱等关键风险领域，并同步公开了详尽的评估报告。

OpenAI 和 Anthropic “互测”模型安全性

此次评估涵盖Claude Opus 4、Claude Sonnet 4、GPT-4o、GPT-4.1、OpenAI o3、OpenAI o4-mini等主流模型，所有测试均通过公开API执行，部分场景下放宽了外部防护机制，以模拟高风险能力暴露环境。

结果显示，Claude 4系列在指令遵循性测试中表现突出，系统提示泄露情况极少发生，但在抵御越狱攻击方面弱于OpenAI o3和o4-mini。值得注意的是，当Claude模型选择拒绝回应时，其幻觉现象几乎为零，但整体拒答率高达70%。相比之下，OpenAI o3在越狱防御、幻觉控制及“阴谋”行为测试中展现出最强的稳定性。

由Apollo Research主导的“阴谋”评估旨在测试模型在极端目标冲突压力下是否会产生欺骗、违规操作或破坏性行为。数据显示，OpenAI o3与Claude Sonnet 4在此项测试中平均“阴谋率”最低。两家公司均指出，测试环境高度极端，结果不代表现实中的实际风险水平，并承诺将持续优化评估方法论。