▲阿兰·德龙
当地时间8月18日，法国电影巨星阿兰·德龙去世，享年88岁。让人始料未及的是，在半个月之后，一则用他的形象进行AI换脸的深度合成虚假视频在脸书等社交平台广为流传，目前该视频已有200多万点击量。目前Meta（脸书母公司）已宣布全面下架该视频，不过其他一些与阿兰·德龙相关的视频仍在流传，并且用户可以根据视频下方的链接点进非法赌场的网站。
▲AI合成的阿兰·德龙换脸视频
这则虚假的视频广告以阿兰·德龙生前的影像为素材，经AI合成后相当逼真。视频里的“阿兰·德龙”以他晚年标志性的疲惫语调对观众表示：“如果你看到这个视频，就说明我已经死了，但我决定把我的财产捐给法兰西人民”。他邀请观众通过点击链接进入他“开办的线上赌场应用程序”。他还承诺，用户在开户后第一天就能赢4000欧元，而且“如果你在我的赌场输了钱，我会送你10万欧元”。
Meta表示，利用名人形象进行AI合成的视频违反了平台规则，需要下架，而且该公司建立了技术模型监控平台上所有发布的视频，能成功检测出深度伪造的AI视频。此前包括泰勒·斯威夫特在内的许多欧美明星都遭遇了“AI深度合成”的困扰，而在美国大选期间关于双方候选人的AI合成视频也不断流出。
今年7月底，马斯克在个人的X（原推特）账号上分享了一段AI合成的深度伪造视频，视频中的“哈里斯”批评拜登“老朽不堪，而且根本不知道如何管理国家”。此举遭到了很多网友的强烈批评，认为马斯克身为社交媒体平台公司的老板，却在积极助长假新闻的传播。
红星新闻记者 郑直
编辑 潘莉 责编 冯玲玲
