AI换脸“造黄谣”涉嫌什么罪名？律师：涉嫌传播淫秽物品罪、诽谤罪，行为人或被数罪并罚
那些照片出现后，林致(化名)的生活彻底被搅乱了。一周前，几名“求交友”的陌生人发来照片，内容让她吃惊——一些淫秽不堪的女性图片里，长着与自己极其相似的脸。
首先涌来的是羞耻、愤怒，在揭开真相的过程中，她又逐渐感受到了焦虑和恐惧。借助AI技术，那些隐藏在身边的施害者，让她陷入巨大的“不安全感”。
近些年，AI从最初的“工业级”技术逐渐“飞入寻常百姓家”，更低的使用门槛和创作成本，给施害者，甚至不法分子提供了便利。AI换脸诈骗、换明星脸直播卖货、换脸和明星“接吻”、乘地铁的照片被“脱衣”等案例层出不穷。AI盗脸“造黄谣”“一键脱衣”也突破了法律和伦理界线，侵入普通人的生活。
新京报记者调查发现，唾手可得的制图工具和难以追溯的传播渠道，让AI“黄谣”制造者更加猖獗。当他们肆无忌惮地散布谣言时，受害者却困于自证——不再信任社交网络，反复检视自己，对周遭世界的信任也逐渐瓦解。
在倚靠AI换脸衍生的其他领域，也不乏擦边投机者的身影。他们有些在社交平台兜售换上明星脸的淫秽视频；有些提供有偿定制换脸、脱衣图像的服务；还有的拿脱衣当噱头，销售“操作教学”。
突然收到多位陌生人的好友申请
一周前，林致突然收到近10名陌生人发来的微信好友请求，留言都是“小姐姐，交个朋友”。
林致觉得奇怪，平日她极少把微信号给别人。她社交圈很小，除了同事、朋友和家人外，几乎不加别人微信。她一一拒绝，但有两三个陌生人反复发送请求，最终她添加了其中一名。
陌生人称，他见过林致的一些“大尺度”照片。对方先是发来几张林致的生活照，林致认出，那是自己曾发在朋友圈里的照片。随后，是她从未见过的淫秽照片和视频，那些赤身裸体的女性脸上，长着与自己相像的五官。
“我被AI盗脸了。”林致很快反应过来，她没想到，这种事会发生在自己身上。
为了弄清真相，林致又同意了另两名陌生人的好友请求。在聊天中，林致了解到，他们是在国外社交软件Telegram(下称“电报”)的淫秽聊天群中，看到有人发布她的照片和视频，上面的文字总是带着“荡妇”“可撩”等字眼，有些暗示她是性工作者，他们再私聊发布者，获取了她的隐私信息。
尽管林致一开始就告诉他们自己已婚，但他们还是不断用轻浮的言语挑逗，“姐姐”“宠你，想追你”。
了解越多，林致越感到恐惧。制图者对她了如指掌，知道她的名字、年龄和家庭住址。而根据流出照片的时间跨度来看，制图者早就认识林致，“最早的照片是2022年5月发的，最晚的是今年5月初发的，我推测是熟人作案、长期蹲守。”
林致说，“黄谣”里既有真照片，又有AI换脸的假照片，两者很像，普通人难以分辨，就更增加了“真实感”。如果要自证清白，她就掉入造谣者的圈套。她想找到那个造谣者，给自己一个交代。
“我一直很纠结。”林致担心影响扩大，希望造谣者不要再发，可如果不发，就找不到他。林致和丈夫下载了电报，试图用陌生人提供的关键词找到线索。但只检索出许多盗用她脸伪造的淫秽图像，发布者不断销号、建新号，难以追踪。
为了抓到“活着的”制图者，她只能不停地搜索、查看，“每看一次都是精神污染。”
疫情期间，林致患上了抑郁症，两个月前病情才稳定，刚刚停药。但事发后，焦虑、怀疑和不安再次笼罩心头，脑鸣、失眠的症状也出现征兆。她担心，不久后又要服药了。
“你没有错，错的是造谣者。”丈夫和挚友不断鼓励林致。但有时，她还是会陷入自我怀疑。紧张焦虑时，她看谁都像是那个制图者。奶茶店的陌生男子、公司的同事，甚至家人，都成了她的怀疑对象。
事发后，林致弃用了十几年的微信号，在新账号的朋友圈里，她把隐私设置为“仅自己可见”。“一切分享欲都消失了，以后再不敢随便发照片。”
5月23日，林致去公安局报案，做了笔录。还有些受害者因为种种原因，选择了沉默。
一位受害者被AI盗脸造黄谣后，有陌生人加了她好友，一直给她打电话，发用AI伪造的淫秽视频。因为害怕，她不敢报警。“我又没做错什么。”她安慰自己，随后把陌生人拉黑，再不理睬。
另一位受害者告诉新京报记者，她发在社交媒体上的两张自拍照，曾被人用AI脱衣后传播。这件事让她意识到，“在任何地方都要保护好自己的隐私”才是解决之道。在她看来，电报等海外软件上的造谣者很难被抓到，维权艰难。
“那些人骚扰我时很恶心，但想到那些身体不是我的，就问心无愧吧。”
服务器架设境外导致难以溯源
电报以“隐私”“安全”著称，由于服务器架设在境外，相关部门更难追溯到造谣者。此外，记者注意到，“阅后即焚”的功能让警方难以获取证据——用户在注销账号时，可将先前发布的信息也一并销毁。
正是这些特性，让不法分子以为找到了安身之所。记者在电报搜索栏中输入含性暗示的关键词，显示近10个超过5000名订阅者的淫秽聊天群，其中一个群内有1.3万余名订阅者。
“反差”“曝光”“自毁”“社死”是这些群名里的高频词汇，其中的聊天内容也多为制作、公开女性的淫秽图像和隐私信息。除了图像，不少女性的身高、体重、年龄等信息被公开，甚至还有家庭住址、社交媒体账号和身份证号。
记者注意到，大量“荡妇羞辱”相关内容出现在聊天中，字里行间充斥着“狗”“贱”“欠”等辱骂性字眼。
关于制发淫秽照片的目的，一些发布者常常提到“欠骂”“报复”“羞辱”等词汇。在评论区，一些网友会索要被曝光女性的联系方式，有的发布者直接公开，有的则需要私聊。
记者发现，只需点击搜索到的群名，便可免费浏览所有历史信息，甚至不用进群。
一些仿真程度高的换脸视频能以假乱真，让人误以为生活照和淫秽图像中的是同一人，就连受害者自己见到时也会恍惚。林致告诉记者，她觉得假照片中人脸的五官，与自己非常相像，但细看会发现，脸型不一样。
而一些低质量的换脸图像，可以直接从脸部线条看出破绽。一些照片的面部线条模糊、扭曲，甚至断裂。评论区的网友也会指出，“一看就是换脸的”“太假了”。
然而，不管质量高低，评论区都会充斥大量性情节描述和辱骂词汇。因为受害者的隐私被公开，一些同城的网友声称要过去，意图骚扰。
发布者用视频当噱头出售软件
在流量加持下，一批不法分子趁机涌入，靠私人定制、搬运和卖课等方式获利。其中不乏擦边出售淫秽内容的投机者们，他们在一些主流社交平台定期更新AI作品，并暗示网友，可有偿制作淫秽图像。
一名“供应商”告诉记者，他可以按需求定制AI美女图像。根据图像画质高低，每张价格从100到180元不等。在记者提出要先看样图后，他随即发来一张AI生成的女性图片，图中女性的隐私部位露出。“看到了吧？一切按照你的要求。”他表示，随即撤回露点图片。
记者询问，能否对真照片进行AI脱衣，他表示，需要支付定金，便可操作。
此外，女明星的换脸视频成为投机者的主要噱头。记者发现，百度贴吧内，部分网友专门出售换了女明星脸的淫秽影像。
同时，在一黄色网站的“换脸AI”专区，充斥着换上女明星脸的淫秽视频。网站称，充值200元即可成为VIP会员，免费观看“换脸AI”专区内容。
在电报群里，类似的行为更加猖獗。记者搜索“AI换脸”“脱衣”等关键词，显示多个相关群，群内均在传播淫秽图像。在一个有4000余名订阅者的群中，充斥着大量AI换脸、脱衣的淫秽影像。
影像中被盗取的面容，不乏当下知名女星、网红。同时，普通女性在学校、商场、办公室、地铁等日常场景中的照片也成为AI盗脸的对象。她们被AI换脸，或脱去外衣，赤身裸体。“反差”“内在美”等词被用来形容换脸后的照片。每一条类似的群消息，都有数千甚至近万次的浏览量。
有发布者称，“适当娱乐，满足自己即可，千万不要发给对方或者骚扰对方，一旦报警麻烦不断！AI脱衣，你给我照片，我帮你做图。”
还有发布者拿淫秽视频当噱头，在群内发布AI换脸、脱衣软件的购买链接。“私人定制，无硬件门槛，全流程汉化，傻瓜式操作，即时能出作品。”
记者点进一购买链接询问。客服表示，直接提供软件，需收费200-350美元(手机和电脑端收费不同)，一年有效期，包教学。
直接制作图片30美元一张，视频50美元一条。用户付款后，仅需提供一张照片或视频作为素材，一小时后便可获得处理好的影像。客服还称，购买软件后，可进入VIP专属群，享受更多AI影像资源。
专家：AI换脸的门槛变低，易引发违法问题
记者调查发现，AI制作淫秽图片的成本和门槛都相对较低，在一些网站充值后，便可一键生成AI脱衣图像。
以国外一家一键脱衣网站为例，在不登录的情况下，只需等待40秒，上传符合网站要求的照片，再点击加工，不到半分钟，便可生成脱衣后的图像。此时，显示的图像是模糊的，如果想下载高清版，则需充值。充值29.95美元，便可一键生成100张AI脱衣图像。
“想复制一个人的人脸信息，往往收集一张照片就可以实现。”一位从事多年网络安全工作的专家告诉记者，以目前的AI技术，即便只有一张正面照，AI也可以通过深度学习补齐其他角度的图像，获得立体的人脸图像，再将图像映射到视频中。
专家向记者展示了一个案例：通过AI补齐，平面画作中的人物被立体化，原本只露出正脸的人物一转头，侧脸便露了出来。记者注意到，立体化后的人物动作流畅，被补齐的脸部细节自然。
专家表示，目前在主流社交平台发布的照片清晰度，大部分足够生成自然贴合度较高、难辨真假的换脸照片和视频。即便清晰度较低，也可以通过AI补齐，提高换脸图像的贴合程度。
这得益于AI深度学习技术已经成熟，网上有不少开源的人脸模型训练项目，具有较高的深度学习能力，很多都是操作简单的免费工具，这些都可以导出非常自然逼真的换脸视频。
AI运行时，对设备硬件的要求也已大大降低。许多AI换脸软件接入云服务器，操作在云端进行，完成后再回传本地。
在这位专家看来，尽管换脸后的图像可以达到极高的逼真程度，但只要仔细观察，还是有办法区分的。
比如，注意眼部、眉毛与肤色的过渡是否自然；光影效果是否自然；画面中人物与环境的比例是否真实。另外，还可以检查图像质量，换脸涉及图像处理、合成，因而图像质量可能会受到影响，出现模糊、失真或噪点高等现象。
一方面，低成本、低门槛的AI换脸技术让每个人都有机会使用这种娱乐工具；另一方面，唾手可得的技术，也更容易引发违法犯罪问题。
律师：受害者应截屏存证立刻报警
江苏法德东恒律师事务所高级合伙人律师蓝天彬表示，在未经当事人同意的情况下，不法分子利用AI技术制作、传播淫秽图片或视频，从民事层面来看，已涉嫌侵犯当事人肖像权、名誉权和隐私权。此外，行为主体还涉嫌违反《治安管理处罚法》，公安机关可对行为人治安处罚。
蓝天彬提到，若行为人以牟利为目的，且达到一定涉案数量或金额，那么行为人则涉嫌制作、传播淫秽物品牟利罪。
“即使没有牟利，行为人也可能涉嫌传播淫秽物品罪。”蓝天彬说。
河北厚诺律师事务所律师雷家茂认可上述观点。雷家茂分析，以往单纯的“造黄谣”行为，一般情况下仅为民事侵权，即侵犯名誉权，情节严重的可能涉嫌诽谤罪；而利用AI换脸技术传播他人的淫秽图片、视频及真实照片，则涉嫌传播淫秽物品罪、诽谤罪，行为人将会被数罪并罚。
雷家茂表示，该类案件维权难点主要在于取证及锁定违法犯罪。因不法分子可能采取关闭网站、删除链接等措施，导致无法固定证据。此外，网络信息易传播、发布者匿名化等原因，将难以锁定发布源头。
雷家茂建议，若遇到该情况，受害者应立即截屏存证，及时报警并向警方提供自己留存的证据及线索。
新京报记者 丛之翔 熊丽欣 【编辑:周驰】
