红星资本局1月13日消息,国内首起AI服务提供者因涉黄获刑的案件迎来新进展。红星资本局获悉,该案二审将于明日(1月14日)在上海市第一中级人民法院开庭审理。
2025年9月,该案一审宣判,案涉App的两名创始人被认定犯制作淫秽物品牟利罪,分别获刑4年、1年6个月,并处罚金400万元和20万元。随后两人提起上诉。
1月13日,其中一名当事人的代理律师周小羊向红星资本局表示,一审中当事人的诉求是无罪辩护,二审也将作无罪辩护。
与此前公开的个人利用AI工具制黄案不同,此起案件是法律首次认定提供工具的“服务提供者” 为主要责任主体。
AI聊天App涉黄
创始人一审获刑4年罚金400万元
红星资本局了解到,案涉App“Alien Chat”由梁某和王某(均为化名)开发运营,2023年6月上线,定位为AI伴侣聊天应用,为年轻群体提供亲密陪伴和情感支持。用户注册会员后,可以通过软件和大语言模型与虚拟角色进行交互聊天。
但因涉黄内容,App创始人梁某和王某站上了被告席。一审判决书显示,该App用户11.6万余人,其中充值用户2.4万余人,产生了400万余段交互聊天。经随机抽样鉴定,150名用户中有141人聊天内容涉黄,12000多段聊天中,有3600多段涉黄。
截图自Alien Chat小红书账号
根据证人证言,“案涉App聊了之后会有很多色情、淫秽、露骨描述性行为的内容”“别的软件都有限制词,这个不设限制词”“大部分用户都是冲着这点玩软件的”。
红星资本局注意到,案涉App提供两档会员服务,尊享会员收费138元/月,高级会员收费68元/月,累计收费高达363万余元。
一审法院认定,案涉App产生了“大量具体描绘性行为或露骨宣扬色情的内容”,属于淫秽物品。无论是从淫秽物品数量、会员人数,还是从违法所得数额来看,均远超相关司法解释所规定的入罪标准,具有刑事可罚性。
最终,一审法院认为,被告人梁某和王某以牟利为目的,制作淫秽物品,情节严重,行为构成制作淫秽物品牟利罪。梁某被判处有期徒刑4年,并处罚金400万元;王某被判处有期徒刑1年6个月,并处罚金20万元。
目前,该App已下架,各大应用商店均搜索不到。
二审即将开庭
当事人主张无罪
梁某的代理律师北京盈科(上海)律师事务所周小羊律师向红星资本局表示,一审中当事人的诉求是无罪辩护,二审也将作无罪辩护。
主要理由包括:一是梁某主观上不能认定为故意,编写、修改系统提示词并不是为了传播淫秽物品,修改提示词是希望把大模型调整得更拟人化、更灵动,满足用户的情感陪伴需求;二是本案中“涉黄”聊天内容是一对一的,封闭的,不具有传播价值,也没有被传播出去。
一审判决书显示,法院认同梁某和王某的行为不构成传播淫秽物品牟利罪。其中提到:本案中的色情聊天内容是人际互动时产生的、一对一的,通常情况下仅有参与聊天的会员能看到,具有一定的封闭性。
但法院认为,构成制作淫秽物品牟利罪,主要理由是:被告二人主观上积极追求色情淫秽聊天内容的产生,客观上通过编写、修改系统提示词等方式突破大语言模型的道德限制,将“Alien Chat”软件训练成可持续对外输出色情淫秽内容的工具,对外宣传“Alien Chat”软件具有“聊黄”功能引导用户参与聊天,且在明确知晓会员交互聊天中产生大量淫秽内容的情况下,继续向用户提供“Alien Chat”软件运营和技术支持服务,对涉案色情淫秽聊天内容的产生具有决定性作用。
一审判决后,两人提起上诉。红星资本局获悉,该案二审将于明日(1月14日)在上海市第一中级人民法院开庭审理,采取不公开开庭的方式。
有业内声音认为,此案的特殊点在于,法律首次认定提供工具的“服务提供者”是主要责任主体。
红星资本局注意到,此前也有多起利用AI工具制黄案披露。2025年7月,人民法院报报道称,湖北省大冶市人民法院审结了一起利用AI生成色情小说牟利案,被告人柯某使用AI文本工具生成色情小说,在境外网站售卖760余篇次,获利2.2万余元,最终被判处有期徒刑10个月。
红星新闻记者 强亚铣
编辑 余冬梅
审核 官莉
