近日，浙江省余姚市人民法院审结一起利用生成式人工智能制作淫秽物品牟利案，被告人郑某曾是某游戏公司程序员，其组建研发团队，通过改写系统提示词实现人工智能模型“越狱”、设定角色卡诱导对话场景等方式，为用户输出淫秽内容提供技术条件，法院认定郑某等人构成制作淫秽物品牟利罪。

　　被告人郑某曾是国内一家游戏大厂的员工，在AI领域有一定影响力，也曾赴国外进行深造，2024年7月，他接触到境外一款AI色聊机器人后，萌生了开发同类软件非法牟利的想法。

　　浙江省余姚市人民法院刑事审判庭法官助理 孙钰萍：有了想法以后，郑某邀请同事谢某，还有在网上认识的严某等6人，组建了一个研发团队，在经过一段时间的调试，2025年1月，他们研发的生成式人工智能模型在境外平台上线了，还接入了“第四方支付”、虚拟币等多种渠道向用户收取费用。

　　郑某等人通过技术手段对基础模型实施“越狱”，突破了大模型内置的色情内容安全限制。

　　浙江省余姚市人民法院刑事审判庭法官助理 孙钰萍：用户在充值付费后，就可以在这个模型中选择角色卡和AI机器人进行色情聊天，这些聊天内容还可以通过消耗积分来生成淫秽的静态或者动态图片。

　　2025年7月，公安民警在发现违法犯罪线索后进行立案侦查。历时2个月，将郑某等6名被告人全部抓获归案。

　　浙江省余姚市人民法院刑事审判庭法官助理 孙钰萍：这个AI模型运营期间，一共生成了静态图片37万多张，动态图片6000多张，用户充值金额有24000美元，折合成人民币大概17万元。经鉴定在随机抽取的12500张静态图片和全量动态图片中有9000多张静态图片，5000多张动态图片被认定为淫秽物品。

　　法院经审理认为，被告人郑某等6人以牟利为目的，结伙利用AI技术制作淫秽物品，情节严重，其行为均已构成制作淫秽物品牟利罪。综合考虑其犯罪事实、情节、认罪悔罪态度以及对社会的危害程度等情形，分别判处被告人郑某等6人有期徒刑三年一个月至三年十个月不等，并处罚金。一审判决后，当事人均未提起上诉。目前，判决已经生效。

　　转自：中央广播电视台中国之声 微泰州