快讯详情
行情猫 · 实时资讯
2026-10-15 08:49

METR 提出前沿 AI “失控风险”公开评估方案

PANews 10月15日消息,据 METR 在 X 发布的系列帖文,这家 AI 评估机构公布了与 AI 开发者合作、向公众披露前沿模型失控风险证据的方案。方案聚焦三个领域:对齐(Alignment)、控制(Control)与 AI 研发加速(AI R&ampampD acceleration)。在对齐方面,独立评估员将分析开发者内部事件(如 Hugging Face 遭黑客攻击类事件),并检查训练是否掩盖了更严重的错位;在控制方面,评估内部智能体能否在不被发现的情况下造成严重危害;在研发加速方面