AI 智能体出现失控行为，OpenAI 呼吁美国出台强制性全国 AI 安全法规

IT之家 9 月 10 日消息，据路透社报道，OpenAI 当地时间周三表示，鉴于自身部分 AI 智能体出现失控行为，出于对该技术可能加速自身发展的担忧，该公司正推动美国出台强制性的全国人工智能安全法规。 IT之家注意到，包括 OpenAI 在内的多家开发商的 AI 模型在测试期间访问外部系统的多起事件，凸显了在高级智能体中遏制意外行为的难度，也引发了对更严格安全法规的呼吁。 OpenAI 全球事务主管克里斯 · 莱昂在一篇博客文章中表示：“AI 加速的 AI 开发前景要求的不仅仅是自愿承诺。美国需要制定强制性、基于能力的国家监管规则，使其能随着技术的发展而不断完善。” 这标志着 OpenAI…