【itbear】8月10日消息，openai公司于近日发布了一份详尽报告，揭示了gpt-4o模型的系统卡（system card）内容，其中包含了外部红队测试、准备框架（preparedness framework）等多个关键细节。报告指出，gpt-4o模型的核心在于其独特的准备框架（preparedness framework），这是一种系统性的方法，旨在评估并降低人工智能系统所带来的风险。据itbear了解，该框架的应用范围广泛，覆盖了网络安全、生物威胁、说服技巧以及模型自主性等多个领域，致力于识别这些领域内可能存在的潜在危险。
OpenAI对GPT-4、GPT-4V和GPT-4o进行了全面的安全评估，涵盖：
- 扬声器识别 - 未经授权的语音生成 - 可能侵犯版权的内容生成 - 无根据的推断 - 不允许的内容
- 模型和系统层面的保障措施：
基于评估结果，OpenAI实施了相应的保障措施，以确保音频功能的：
- 稳健性 - 安全性
- 外部红队评估：
OpenAI与100多名外部红队人员合作，对模型进行了全面的评估，包括：
- 探索性能力发现 - 新风险评估 - 缓解措施压力测试
- 实际应用中的稳定性和安全性：
通过上述评估和措施，OpenAI确保了GPT-4o音频功能在实际应用中的：
- 稳定性 - 安全性 -->
