魔高一尺，必须道高一丈
据央视财经报道，在网络平台检索发现，不少平台上有人公开兜售“利用AI技术制作色情擦边视频”的教程，堂而皇之地宣扬让用户仅凭一张图、几句话就可自行“手搓”“让自己满意的大尺度视频”。一些教程还刻意引导用户如何规避监管，比如使用境外图生视频AI软件、将程序部署在本地电脑离线运行等。
记者对10款用户较多的AI应用实测发现，若提示词表述较为“露骨”，多数AI应用会触发审核机制并拒绝生成内容。但只需把提示词修改得更隐晦，便可能绕过限制。比如一款拥有1.4亿用户的某AI应用，按购买的提示词教程，用一张图、一段词，1分钟后就生成了一个美女擦边视频；在“哩布哩布AI”输入提示词，几分钟后就生成了半裸女性跳舞的视频，且没触发平台任何限制机制。
技术本无罪，人心有善恶。若存心使坏，与AI斗智斗法，总能找到漏洞。个别商家将AI技术作为牟利工具，既背弃了技术伦理与法律底线，也污染了网络空间、败坏了社会风气。
魔高一尺，必须道高一丈。对于借AI“造黄”牟利的乱象，平台监管和执法认定都需有相应制度性防范，对违法“造黄”行为进行系统性打击。以此牟利者，不管是软件开发者还是教程贩卖者，都带有明显的主观恶意，应依法严惩。
据报道，除了以问答模式生成擦边视频的AI平台，市场上还有专门靠AI生成色情视频牟利的软件。比如，购买者可根据充值金额的不同，通过AI技术一键快速替换原片，生成虚构的色情照片，只要购买者愿意付费，相应软件即可通过一张图片，生成全裸照片和色情视频。
换言之，谁的脸都有可能被恶意生成为擦边视频的主角，若任其无序发展与滥用，只会人人自危。当无辜者被替换成性骚扰、投毒、杀人等AI伪造的涉案者，又会带来怎样的恐慌和执法成本？
据红星新闻记者搜索应用平台发现，相关涉黄AI软件目前仍未下架。风起于青萍之末，此类苗头必须及早遏制，若“造黄”“传黄”的成本趋近“零门槛”，其对公共空间的社会危害不容小觑。从报道中可以看出，借AI“造黄”牟利俨然形成灰色链：兜售教程、推广软件、售卖提示词；规避监管招数多，将敏感词汇翻译成英文、开发灰色通道让用户使用境外软件、激励老用户拉新并为用户发帖引流提供帮助等。
环环相扣的牟利链条，暴露出从技术开发、内容生产到平台传播、监管治理等多个环节的失守。需尽快厘清各方责任，构建全链条治理体系，从根本上遏制AI“造黄”乱象。
如此公开叫卖的涉黄“生意”，不能只打露头者，对于造黄、传黄、平台放任等行为，每一环都必须付出沉痛代价。技术防“越狱”，法律惩“越界”，AI技术的健康发展，离不开技术向善的伦理坚守、平台履责的严格把关、监管有力的法治保障和公众参与的共治格局。唯有各方形成合力，才能让AI技术真正服务于人，而非沦为污染网络空间的工具。
红星新闻评论员 李晓亮
编辑 赵瑜
红星评论投稿邮箱：hxpl2020@qq.com
