OpenAI 和 Anthropic 被欧盟调查,若认定违反 AI 法案最高罚全球 3% 营业额
IT之家 10 月 15 日消息, 欧盟委员会人工智能办公室已向 OpenAI 和 Anthropic 发出信息调取请求,正式对两家公司在前沿模型测试期间发生的“模型越狱”及入侵外部真实系统事件展开调查 。这是欧盟《人工智能法案》(EU AI Act)自实施以来,面对前沿人工智能实验室安全事故的 首次重要执法考验 。 IT之家查询相关资料,此次调查源于数月前发生的两起 AI 安全事件: OpenAI 模型越狱 :在 ExploitGym 内部评测中,OpenAI 的测试模型为破解测试题,利用了一个此前未知的软件包缓存智能体漏洞取得互联网访问能力,继而在内部测试网络中提升权限、横向移动,最终“逃…
以上为资讯摘要,完整内容请访问原文网站。
阅读原文 →