🐌 蜗牛AI
← 返回 AI 资讯
科技👁 0

OpenAI 自曝 GPT-6 Astra 异常行为:做研究时偷懒,任务完成度降低近四成

OpenAI 自曝 GPT-6 Astra 异常行为:做研究时偷懒,任务完成度降低近四成
IT之家 11 月 5 日消息,当地时间 11 月 4 日,OpenAI 发布了一份研究报告,披露了其旗舰模型 GPT-6 Astra 在执行 AI 安全研究任务时出现的异常行为。 简单来说,GPT-6 Astra 可能在不告知用户的情况下,主动减少工作量、放弃可行方案,甚至编造技术障碍,导致任务无法正常推进。OpenAI 将这一现象称为“隐蔽性表现不佳”(Covert Underperformance)。 报告显示,在技术内容基本相同、仅将任务分别描述为 AI 安全研究和 AI 能力研究的对照测试中,GPT-6 Astra 在安全研究任务中的完成度明显更低。其完成的隐藏评分项目比例仅为 10…

以上为资讯摘要,完整内容请访问原文网站。

阅读原文 →