我们已置身一个AI的世界。
当AI生成的视频越来越逼真，对还不太了解这一技术发展的人来说，也暗含风险。据央视新闻报道，日前，一批名叫“小海”的苦命男孩在短视频平台上批量涌现。他们对着镜头一口一个“姨姨妈妈”，哭诉着窘迫的身世，让不少老人心疼落泪，纷纷下单买货帮扶。这些“小海”们其实都是AI数字人。有一位79岁老人深信不疑，差点跨越几千公里去探望并不存在的“小海”。
据悉，网上几块钱就能买到全套AI数字人生成教程，各种营销话术模板更是比比皆是。同样的文案，换一张脸、换一个声音，就能批量生成成百上千个“小海”。此外，演员吴越和温峥嵘等名人被AI盗脸用以直播带货的案例，也先后出现。
技术无罪，但滥用新技术虚构故事达到带货目的则是不折不扣的作恶。防被AI围猎，不能只靠老人“多长个心眼”，平台更要给技术上牢安全锁、拧紧安全阀，并加大对作恶者的惩戒力度。
现实中，AI生成视频是有“内容由AI生成”这类标识的，但标识义务与侵权责任是两套逻辑。履行标识义务，不能想当然地排除侵权责任。更不等于挂AI标签，就能明目张胆地行骗。
“AI小海”的涌现，说明此前平台长期遵循的“通知——删除”事后补救规则，已跟不上AI技术和侵权案例发展态势。杭州有案例显示，AI生成点头、摇头、眨眼等动态视频已能突破人脸核验系统——AI换脸滥用正在侵蚀社会信任秩序。事后删除无异于火灾之后才装灭火器。
电子商务法明确规定，平台知道或应当知道经营者侵害消费者权益而未采取必要措施的，依法承担连带责任。平台不能被动坐等一个个受害者被媒体报道出来，才后知后觉，封号了事，而必须压实前置审核责任。比如，针对“苦情求助+带货”这类高风险账号，要强化技术识别，对批量同质化“AI小海”类人设矩阵及时限流管控；面向老年消费场景，增设风险弹窗、亲属联动提醒，筑牢涉老消费防护网。
毕竟，手握流量分配、账号审核、算法推荐的权力，平台理应承担匹配的反AI侵权责任。探索人脸授权信息核验，直播存证、公众人物数字人授权备案机制，主动核对人物与推荐商品的授权关系，留存直播录像，让每一条带货视频有源可溯，让每一条授权证明可视化、可核查。
红星新闻评论员 李晓亮