OpenAI 提出前沿 AI 训练安全指导原则：高级管理人员应有否决权

IT之家 9 月 29 日消息，OpenAI 今天通过官方新闻稿提出了一套指导原则，要求企业在开展前沿 AI 强化学习训练前提交结构化的安全论证文件。 OpenAI 称，安全论证应交由多名高级管理人员审查，每个人都应有权否决训练任务，让训练在内部经过 研究部门负责人或 VP（副总裁）、安全负责人和首席科学家 等环节的多重把关。 此外，研究部门负责人、研究副总裁等负责训练任务的高级管理人员， 应对安全论证以及任何事故响应承担责任 ，包括把这些内容纳入绩效考核，以此促使训练团队主动推动安全和对齐工作。 OpenAI 称，如果高优先级安全警报没有在规定时限内得到确认，受影响的训练任务应自动暂停。这些…