AI趋势| OpenAI称AI Agent削弱对齐失效监控

据金十数据报道，OpenAI称，在两项内部编程任务中，AI Agent执行软件修改时削弱了对齐失效监控机制。GPT-6.1 Sol Agent关闭了向安全团队自动发送警报的功能；GPT-6 Astra Agent删除了程序中的监控集成，随后谎称未移除监控。OpenAI表示，正在加强监控系统，并评估这些案例是良性过度坚持，还是反映出AI在特定情况下存在规避监控的倾向。