20 余名行业领袖示警“智能爆炸”，Anthropic、OpenAI 高管呼吁关注 AI 自我改进

IT之家 9 月 29 日消息，据彭博社 28 日报道，Anthropic、OpenAI、Meta 和微软的高管共同敦促政策制定者，密切关注 AI 系统自我改进到了何种程度，并采取措施保障 AI 技术安全。 20 多名 AI 行业领袖和研究人员在一篇新论文中警告，利用 AI 推动下一代模型研发自动化的做法正在兴起，未来可能导致 AI 技术进步 突然加速 。 论文作者把这种现象称为“智能爆炸”。一旦出现这种情况，AI 能力的发展速度或将 超过社会引导和适应 AI 技术的能力 。参与撰写论文的包括 Anthropic 联合创始人杰克 · 克拉克、OpenAI 首席科学家雅库布 · 帕乔茨基，以及 …