六人利用 AI“越狱”生成淫秽物品最终获刑，法官提醒“技术中立≠技术无罪”

IT之家 9 月 8 日消息，中央广播电视总台中国之声今天（8 日）报道称，曾是某游戏公司程序员的郑某组建研发团队，通过改写系统提示词实现 AI 模型“越狱”、设定角色卡诱导对话场景等方式，为用户输出淫秽内容提供技术条件。近日，浙江省余姚市人民法院审结这起 利用生成式 AI 制作淫秽物品牟利案，认定郑某等人构成制作淫秽物品牟利罪 。 被告人郑某曾是国内一家游戏大厂的员工，在 AI 领域有一定影响力，也曾赴国外进行深造，2024 年 7 月，他接触到境外一款 AI 色聊机器人后，萌生了开发同类软件非法牟利的想法。 在产生这一想法后，郑某邀请同事谢某及在网上认识的严某等 6 人组建研发团队，经过调…