45位女星换脸视频卖49元 AI换脸产业链隐患令人担忧

本篇文章1776字，读完约4分钟

最近，一款名为“zao”的变脸软件突然流行起来，引起了争议。在“造”热的背后，人工智能的灰色产业链开始浮出水面。根据中信经纬的调查，出售明星变脸的淫秽视频，提供定制的视频变脸服务，教授变脸技巧已经成为一项业务。

律师指出，制作和销售人工智能不雅视频已构成传播淫秽物品牟利罪，并涉嫌侵犯他人肖像权和名誉权。此外，律师还提醒，变脸视频可能被用于诈骗或敲诈，造成更大的危害，应引起全社会的重视。

40多名女演员被更换，数百个视频以49元的价格售出

卖家颜瑜(化名)告诉中信经纬，他有数百个45位女明星的人工智能变脸视频资源要卖。随后，颜瑜将上述视频的目录截图发给了中信经纬。“网上送货，网上观看，包装价格在49元。由于担心不能免费试用，流行的第一行(星号)的内容更好，第三和第四行(星号)的内容一般。”

另一位卖家还表示，数百个40多位女明星的人工智能变脸视频可以打包出售，价格为75元，可以免费试用并在网上发布。

上述两个卖家都建议不要在二手交易平台上交流内容，而是在qq上聊天。其中一个卖家对中信经纬说:“平台对此类信息进行严格监控，产品信息随时可能被删除。我们也很幸运，可以卖出一个订单。”

中信经纬注意到，9月2日晚，上述两个产品的信息都被平台删除了，但通过搜索“变脸”，仍然可以找到很多其他类似的产品信息。

变脸视频可以定制，10元一分钟

此外，在其他一些电子商务平台上，一些卖家表示，他们可以提供定制的视频变脸产品。只有买家需要提供一些脸部被改变的人的照片，卖家可以将照片中的脸部“转”给特定视频中的特定人。

“提供五到十张变脸者的照片和视频资料。费用从10元起一分钟，从现在起五分钟，从现在起一至两小时。如果视频很长，可能会很便宜。”卖家说:“你可以提供自己的视频，也可以用我的，但是视频越清晰越好。”不要面对或遮住你的脸。”

卖家强调这是他自己制作的视频，他有很多老客户。“做视频的时候，电脑什么也做不了，而且还会丢失显卡，所以我的价格很公道。”卖家说:“我要找的是做‘小黄片’，但更多的是做一些商品的宣传视频，每个人都有自己的用途。”

此外，在一些与" ai变脸"相关的qq群中，一些卖家表示，他们可以教授ai变脸技术，"提供教育和公平的价格"，还可以提供全套明星变脸视频资源。据了解，"学习"人工智能变脸技术的学费大约是500元，最早四五个小时就能学会。

一些用户对此表示担忧。网友“西溪”说:“有人会用我发布在社交平台上的自拍来做变脸视频吗？那太可怕了。”也有评论称，这个简单的应用程序可能被别有用心的用户用来制作各种色情和暴力的假视频。

律师:人工智能变脸被滥用的风险不容忽视

zao应用的突然流行引发了这一波对人工智能变脸技术的关注和讨论，但事实上，这项技术最近并没有出现。今年年初，在《射雕英雄传》中，一段用人工智能技术将朱茵的脸替换成杨幂的视频在网上引起了热烈的讨论。目前，一些视频网站上仍有大量人工智能变脸视频。

人工智能面貌改变的背后是深度伪装技术。deepfake指的是由fakeapp制作的人工智能软件制作的假视频，fakeapp可以实现人工智能变脸。

北京安立律师事务所资深合伙人王芯蕊曾表示，使用深度学习技术改变面貌的软件zao最大的问题是大规模采集生物特征信息和深度伪造给社会带来的安全风险，这一点目前被公众普遍低估，但实际上已经带来了严重的后果。

北京支林律师事务所律师赵占领在接受中信经纬采访时表示，制作和销售人工智能变脸淫秽视频无疑构成了传播淫秽物品牟利罪，也涉嫌侵犯他人肖像权和名誉权。对于购买人工智能淫秽视频的买家来说，情况正在发生变化，如果他们传播这些视频或通过传播这些视频获利，这也可能是非法的，甚至是犯罪。

赵占领进一步指出，除了使用人工智能变脸技术制作淫秽视频外，提供定制的视频变脸服务如果被非法使用，可能会造成更大的社会危害。“对于普通人来说，可能是为了取乐，有人拍了你的照片来改变视频的面貌，但也有可能是利用这个视频来欺骗和勒索被改变面貌的人的亲属。赵占领说:“我担心的是，这项技术被犯罪分子和心怀不轨的人滥用或使用，这相当于打开了潘多拉的盒子。”"

赵占领认为，对于这种新型的违法犯罪行为，有必要及时完善现有的法律规则和技术手段，同时有必要通过更多的手段让公众了解这种行为所带来的危害。

来源：搜狐微门户