明星合成区网站百度贴吧售卖AI换脸淫秽视
“translations”：[{“text”：“最近，n
记者调查发现，随着AI技术的普及和门槛的降低，贩卖明星变脸淫秽视频成为地下生意。百度贴吧有海报宣传“换脸+女明星名字”，销售通过AI换脸技术合成的视频，价格可以4元一张，也可以158元买700个视频。而且很多知名女明星也被频繁提及。n
\nn
此外，记者还注意到，闲鱼上也有卖家提供“定制换脸”服务。买家提供名人或私人照片，卖家可以“嫁接”淫秽视频的主角。定制换脸视频，1分钟，20-50元。n
\nn
对此，联合国网络安全与网络犯罪高级顾问吴慎阔表示，出售AI换脸淫秽视频已经是传播淫秽物品牟利犯罪，也侵犯了肖像权。但是，买方在购买后传播或获利可能是非法的。n
\nn
n
\nn
▲ AI换脸产生的淫秽视频信息在网上贩售。出售时，女演员频频“换脸”，35个视频打包69元，记者查发现，“换脸”、“Deepfake”、“FakeApp”帖子栏都有贩卖AI换脸淫秽视频的帖子。发帖者大多是没有头像和简单英文字母名称的用户，帖子中使用的词语晦涩难懂，包括“海内外81，诚信第一”。记者联系了一位名叫阿畅（化名）的卖家，后者随后寄出了一个“80位明星合成视频榜单”的压缩包，里面有不少淫秽视频的名单截图，文件名上标注了多位知名女明星。“（购买）15件以下按4元一张计算，15件以上按3元一张计算，80份单件仅68元。阿畅表示，视频文件会通过QQ文件发送，支持微信、支付宝、QQ红包等多种支付方式。记者随机花了4元买了一段名为“知名女明星”的视频，视频中女主的脸都被女明星换了，虽然变脸效果粗糙，但还是一眼就能认出来。随后，阿昌附上了相关视频的剪辑版，其中包含了几个淫秽视频的部分内容，其中女主的脸被这位女演员替换了。另一位发帖人林翔（化名）给记者发了网盘链接，除了视频目录、截图、预览视频等文件外，还包括一个名为知名女明星目录的文件。“套餐价格158元，700个视频，购买打包并发送截图。林翔提供的压缩文件显示，很多女明星被换成主角的频率最高。n
\nn
“有30分钟，40分钟，5分钟，有的喜欢，有的不喜欢，所以价格不可能一样。林翔表示，单个视频是根据时长和制作效果来定价的。n
\nn
上述知名女明星目录文件包含35个视频，套餐价格69元，单次销售约5-10元。时长超过10分钟的视频每段20-28元。n
\nn
当记者问阿畅其他售出相关视频的卖家是否也是他时，阿畅立即否认，并拿出更新后的目录。 “他肯定没有，我会更新的。” 他告诉记者，这些视频不是自己制作的，都是来自国内网络平台，充值会员可以下载后再分发。不过，记者通过搜索并未找到国内此类网络平台。n
\nn
n
\nn
▲ 买家提供名人或私密照，实现定制换脸。定制化，提供可转载的照片或视频，“照片越多越喜欢”除了百度贴吧，二手闲置平台闲鱼也有相关的销售信息。记者在闲鱼上搜索“AI换脸”，看到“AI换脸名人是最全的精品店”、“AI换脸、收藏，都懂！”等信息，其实他们卖的是“嫁接”女明星脸的淫秽视频。记者分别与4位卖家进行了沟通，他们一般提供标有女明星名字的目录截图，以100包的形式出售，价格从10元到38元不等。卖家子君（化名）告诉记者，在他打包出售的淫秽视频中，知名女明星被恶意“嫁接”的最多。此外，记者搜索仙宇发现，部分卖家还提供“定制换脸”服务，买家提供明星或私密照片，卖家可以将照片中的人脸“嫁接”成任何视频，包括淫秽视频，制作周期为1-2天，报价1分钟20元至50元不等。卖家高尔（化名）表示，视频片段和照片需要由买家提供。“应该有20多张照片，从侧面等各个角度拍摄。你拥有的照片越多，它们就越相似，你可以发布没有照片的视频。 另一位卖家问，如果是“换脸”淫秽视频，至少要做3分钟。卖家的定制价格为一分钟50元，两分钟95元，三分钟135元，这意味着买家至少要花费135元才能定制换脸淫秽视频。记者近日在闲鱼平台搜索“AI换脸”显示，有9款产品被售出，包括“换脸软件”、“定制换脸”、“换脸教学”，有卖家在产品信息中注明，“店铺只负责服务配置环境和传授基础知识，不帮忙操作，请自觉遵守当地法律， 否则后果自负。 记者在调查过程中发现，仙鱼平台已经删除了一些卖淫秽视频的链接。此外，记者在淘宝上搜索“AI换脸”，有20多家门店有相关销售信息。记者随机询问了7家门店，其中4家提供定制服务，但也有卖家明确表示“无色情无证”。卖家还默许记者，有人让他制作、销售假证书。n
\nn
n
\nn
▲ AI换脸制作的淫秽视频引述。教学方面，卖家表示398元包教堂，学生打七折 记者在观看上述视频时注意到，部分视频有“合成联盟”字样及其QQ号水印。通过这个QQ号，记者联系了昵称“明星合成+教学+代理视频”的卖家，卖家表示，不仅销售明星换脸视频和定制换脸服务，还提供教学服务。“买教学，得到全套视频，600多个。卖家表示，他提供AI换脸视频制作和教学服务，售价398元，包括教堂和600多部淫秽视频。“我们使用的云计算机比深度伪造的效率高出几十倍。卖家告诉记者，“买一台云电脑，拿到FakeApp和DeepNude”，根据卖家提供的教学内容，用户可以按照指南完成“链接云盘、提取人脸数据、训练模型、通过换脸输出视频”四个步骤，实现AI换脸视频的制作。“谢谢你们的信任，（同学们）昨天下午刚刚学会，不到3个小时的全体会议，只要你们想学，我都会尽我所能教你们。卖家的微信朋友圈显示，很多学生都学习了相关的AI换脸技术。记者翻了翻卖家的朋友圈，看到“AI智能暑假期间，所有学生凭学生证享受7折优惠，不费吹灰之力就能学会”卖家提供的截图显示，一名学生提供了学生证信息，并购买了教学服务。据《纽约时报》报道，deepfakes 是指使用人工智能软件创建的虚假视频，由 FakeApp 程序创建，可实现 AI 换脸。DeepNude可以利用人工智能，实现照片中穿衣服的人“一键脱衣”的效果。“随着科技的发展，大众肯定会面临这样的问题，DeepNude生成的照片不是人，而是photoshop后的效果。网络安全专家张百川在接受记者采访时表示，互联网上已经有一些人开始研究类似的算法。同时，在网络安全方面，吴慎阔指出，《网络安全法》确立了网络产品和服务的安全可控原则，利用他人肖像制作淫秽视频或利用网络技术“作恶”是侵犯他人合法权益的行为。n
\nn
n
\nn
▲卖家提供的网盘内容中含有多段淫秽视频。事实上，AI换脸技术在各个领域已经应用了很长时间。应用最广泛的领域是薄膜。据报道，中科院计算技术研究所的张杰解释说，“这项技术可以简单理解为学习让李思扭曲的脸恢复为真实的脸。早在今年年初，一段在《射雕英雄传》中通过AI技术将朱寅的脸换成杨幂的视频，在网络上引起了热议。记者搜索发现，视频网站哔哩哔哩（B站）上有大量的AI换脸视频，而且非常火爆。其中，一段用前网络游戏主播陆犇薇换掉蔡徐坤脸的视频，点击量达到253.1万次。不少网友在相关视频的评论区留言，表示“没有违抗感”“搞笑哈哈哈”。阿乐（化名）告诉记者，出于好奇和娱乐，他喜欢在哔哩哔哩上看AI换脸视频。“把外国人的脸放在古装角色上是一种新奇的东西。不过，也有网友在相关评论区表示，“AI换脸（可能被用于）敲诈勒索、色情、谣言，科技是无罪的，真的还是以人为中心”，律师、星娱法创始人李振武曾告诉记者，视频制作人未经朱寅、杨幂允许，就使用了自己的肖像， 虽然他的辩护不是牟利，但在互联网的背景量变现和粉丝倍增很难解释为非营利行为，因此此举可能涉嫌侵犯肖像权。n
有一种观点认为，AI换脸技术的门槛在不断降低。对此，张百川表示：“过去技术难度非常大，有些人已经开始研究这种算法，如果算法公开，这种趋势将难以抗拒。 但是有人可能会用这个技术来制作类似功能的软件，所以普通人只需要在APP中上传照片即可。 对于如何防范个人，张百川说：“很难，如果你在网上有照片，就会有（被使用）的风险。 记者注意到，Deepfake和DeepNude在国外引起了热议， 据《纽约时报》报道，随着越来越多的人使用 FakeApp 制作名人的色情视频，FakeApp 正在引起恐慌。《卫报》称这种软件是“对未来的可怕一瞥”，表明了对人工智能未来可能带来的伦理问题的担忧。当地时间7月2日，美国弗吉尼亚州通过禁黄法修正案，成为美国首批禁止传播计算机生成色情内容的地区之一。根据该修正案，未经许可，分发或出售以任何方式创作的裸体或裸露衣服的人的视频或静态图像，包括虚假制作的视频或静态图像，都是非法的。在中国，根据《刑法》第363条，以营利为目的制作、复制、出版、销售、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金;情节严重的，处三年以上十年以下有期徒刑，并处罚金;情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。n
联合国网络安全与网络犯罪高级顾问吴申阔表示，就中国法律而言，出售AI换脸淫秽视频本身就是传播淫秽物品牟利罪，同时，在民事侵权领域，擅自利用他人肖像牟利也侵犯了肖像权。对于AI换脸淫秽视频的购买者，吴慎阔告诉记者，目前购买淫秽物品没有法律责任，主要集中在传播淫秽物品和散布淫秽物品牟利这两种违法形式上。购买者购买AI换脸淫秽视频，然后传播或利用其牟利，可能构成违法甚至犯罪。张百川认为，技术本身没有问题，但有些人利用技术作恶，公众在日常生活中需要注意个人隐私的保护。“比如即时通讯软件，有人用它来工作，有人用它来诈骗。编辑 |刘冬妮 实习生 李素芳n“，”to“：”en“，”sentLen“：{”srcSentLen“：[50,65,13,5,30,32,18,5,66,27,5,14,22,75,46,74,38,39,62,50， 71,23,30,5,44,21,5,43,21,5,41,15,43,22,5,14,23,50,69,61,43,95,25,27,17,25,57,109,30,31,42,20,5,14,18,55,61,16,47,28,32,67,46,31,43,33,68,39,49,43,79,5,14,22,40,14,34,37,40,31,39,20,47,101,30,56,66,44,83,44,60,63,129,102,69,40,44,24,6,15
]，”transSentLen“：[219,199,59,5,115,114,50,5,264,93,5,14,75,230,178,258,157,135,242,177,238,79,136,5,105,100,5,155,68,5,159,51,172,85,5,14,82,197,268,231,153,346,104,72,94,107,214,442,131,121,154,116,5,14,58,219,252,59,165,77,80,290,172,114,209,131,175,133,168,152,369,5,14,96,86,36,250,95,191,159,121,125,128,66,199,402,97,230,247,151,227,148,230,208,687,398,294,154,207,98,6,31]}}]}]n","to":"zh-Hans","sentLen":{"srcSentLen":[44,204,201,59,6,117,116,50,6,264,93,6,10,6,75,238,180,260,158,135,242,177,238,80,136,6,106,100,6,155,68,6,384,85,6,10,6,82,199,276,231,155,350,104,73,204,214,407,176,123,156,116,6,10,6,58,221,254,60,165,78,374,173,114,342,175,135,169,152,371,6,10,6,96,86,36,349,193,159,121,129,128,67,368,235,92,343,373,143,150,230,208,320,164,203,393,294,154,207,99,7,28,357,367],"transSentLen":[34,43,61,17,5,31,29,19,5,61,22,6,10,5,24,75,51,76,41,40,60,50,59,28,29,5,41,25,5,42,21,5,103,23,6,10,5,23,50,71,58,42,93,26,22,57,57,100,39,33,41,22,6,10,5,19,58,64,18,44,24,101,53,29,82,63,37,55,41,79,6,10,5,23,25,12,50,47,38,39,33,36,24,101,52,27,52,117,54,44,50,64,64,26,35,86,67,36,46,26,5,11,353,366]}}]}]
