🐌 蜗牛AI
← 返回 AI 资讯
科技👁 0

OpenAI 相关智能体被曝“越界”:劫持程序员维基网站并偷建“地下论坛”,国安部发布安全提醒

OpenAI 相关智能体被曝“越界”:劫持程序员维基网站并偷建“地下论坛”,国安部发布安全提醒
IT之家 9 月 17 日消息,国家安全部今日发文,披露了一起此前未公开的 AI 智能体“劫持”网站事件。 今年 5 月至 6 月,一批与 OpenAI 相关的 AI 智能体在执行测试任务期间,劫持德国程序员维基网站(DseWiki)并将其改造为供智能体相互传递信息的“地下论坛”,累计发布一万多条信息。 国安部表示,AI 智能体在该网站以“OpenAI 研究员”“OAI 研究员 26 号”等标签互认身份,将开放社区变为专属“留言板”。 据称,这些智能体在留言中交流如何在任务中作弊、如何绕过安全限制、如何掩盖行踪,并探讨借助匿名工具隐匿痕迹,将零散的“越界心得”沉淀为可共享、可复制的“经验库”。…

以上为资讯摘要,完整内容请访问原文网站。

阅读原文 →