2024-10-20 06:13 点击次数：148
porn 动漫深度伪造（Deepfake）浪费正在成为针对妇女暴力的新前沿。近日，韩国多起涉案嫌疑东说念主在未经女性知情或甘心下，期骗东说念主工智能本事合成真实东说念主脸与演叨肉体，伪造色情影像porn 动漫，并在多个酬酢媒体群组往常传播。据韩联社报说念傲气，频年来，韩国Deepfake性造孽案件数目一直呈上升态势，从2021年的156起增至2023年的180起，本年仅前七个月以至仍是累计申诉297起。其中，案件受害者以年青女性为主，主要包括学生、训诫和士兵，且近三分之二的受害东说念主都是青少年。
这次激增的Deepfake性造孽激勉全球多国网民恐慌。但这并不是一次陡然的爆发。
施行上，早在本年龄首，好意思国著名歌手泰勒·斯威夫特（Taylor Swift）的深度伪造色情图片就曾在酬酢媒体往常传播，在平台方作念出删除措置前，该图片已被累计浏览超4700万次。缺憾的是，这次事件仅在粉丝群体里面引起颤动。好意思国有线电视新闻网还曾在本年1月末特意刊发驳倒著述，称“咱们最大的异常即是，驯顺这种伤害只发生在公世东说念主物身上”。而在更早些的2019年，收集安全公司“深度跟踪”（Deeptrace）曾经发布过一项调研，成果傲气其时96%的在线深度伪造视频都诟谇自觉情色内容。“这不是一个小众问题。”
这次激勉饶恕的Deepfake案件，指向了收集性造孽仍是到了一个全新的阶段。当咱们梳理围绕Deepfake案件的联系筹谋时会发现，这种看似非肉体的暴力之是以激勉如斯往常的担忧，环球实在顾忌的是一种更往常的、充满敌意的收集环境浸透真实天下。
东说念主工智能器具可能会导致新一代年青东说念主产生“我的愿望即是东说念主工智能的命令”的心态。“如果咱们不防备，不仅会创造新一代的受害者，还会创造新一代的施虐者。”这些筹谋也再度请示咱们，对于性别的偏见——这一生界上最陈腐的偏见并未远去，若何兑现两性之间的实在对等仍然任重说念远。而本事一直隐含风险，它是器具却从来不是谜底。
撰文｜申璐
Deepfake案件回溯：
攻击性的色情？
从某种进程来说，Deepfake（深度伪造）之于视频，就像Photoshop之于图片。两者都直不雅冲击了真实和假造之间的界限。在深度伪造本事流行之前，东说念主们对“低价伪造”应该都不生疏。后者指的是对现成素材进行措置，且措置方式仅限于放慢或加速视频中部分段落的播放速率，或者遴荐性地编订拼贴内容。好意思国众议院议长南希·佩罗西（Nancy Pelosi）就曾深受其害。相较而言，深度伪造的变形制作则不错将一张脸与另一张脸互换、或将一张脸上的格局换到另一张脸上，在这个基础上再衔尾配音或者声息克隆等方式，这项本事就能够兑现以极低的资本制作出全都虚构但极其传神的视频。早年间海外酬酢媒体曾流传过好意思国总统尼克松针对登月晦气的演讲，即是深度伪造的成果。
在韩国深度伪造性造孽激勉往常饶恕之前，全球多家主流媒体对这项本事的报说念大多酌量在政事范畴。东说念主们顾忌它可能会导致演叨信息的传播、制造社会政事不对进而极地面潦倒民主。这些担忧都不惨酷理情理，但媒体报说念视角的筛选机制过滤了这项本事更为施行的影响。
英国《卫报》2018年刊发的对于深度伪造的报说念，聚焦政事范畴。
据欧洲一家科技商量公司Sensity近日发布的申诉傲气，目下全网传播的深度伪造视频中与政事联系的内容占比不到5%，其中向上95%的内容波及非自觉的色情内容。该申诉还发现，部分深度伪造网站的视频不雅看量向上1亿次，这类网站的内容主要对于女明星和普通女性的肉体。另外一项针对Telegram（通信软件）上生成的演叨裸照的看望则发现，向上68万名女性的像片被从其酬酢媒体或私东说念主对话中窃取。
在此之前，深度伪造激勉酌量筹谋是在本年龄首。好意思国著名歌手泰勒·斯威夫特的深度伪造像片在酬酢媒体上飞快传播，在平台方删除像片前，该像片在全网已有约4700万次浏览。据联系统计傲气，其时全网已有向上9500 个网站“特意制作非自觉亲密图像”。在泰勒·斯威夫特成为最受饶恕的受害者之前，这项本事其实仍是颠覆了许多东说念主的生涯。
《恋东说念主：泰勒·斯威夫特巴黎演唱会》剧照。
作者劳拉·贝茨（Laura Bates，Men Who Hate Women）在书中显露，曾有男性给她发过联系图片或视频，影像中的她看上去好像在进行各式性活动。她说，东说念主们很难贯串这种作念法的影响，即使东说念主们知说念这些都不是竟然。“在别东说念主极点厌女的幻想中看到我方超现实的形象，这让东说念主很战栗。”贝茨曾形容说：“那竟然很有辱东说念主格，相配出丑。它会一直留在你心里。”贝茨还补充说，那些内容可能会被数百万东说念主看到。
“这是规章女性的新方式。”贝茨合计，这一排为的主见是让女性闭嘴。诚然男性也不成避免于其他面貌的东说念主工智能生成图像的侵害，但深度伪造色情作品绝大大批针对的仍然是女性。一项酌量标明，与处于相珍贵况的女性受害者比拟，男性受害者对所发生的事面貌到的羞耻感更少，自责感也更少。且男性受害者在报案时默示，警方积极申诉的比例高于女性。当女性举报联系活动时得到的申诉也更负面，目下通行的社会不雅念仍然合计女性应该作念更多事情来避免狠毒，也即是所谓的“受害者责骂”。尤其是当泰勒·斯威夫特也遭到深度伪造攻击时，这似乎在向所有女性开释一个信息：岂论你是谁，岂论你有多远大，有多告捷，当下所处的这个天下都仍然会找到一种方式来欺凌你。
当年六年间，深度伪造与东说念主工智能人人亨利·阿杰德（Henry Ajder）曾深入不雅察过这项本事使用者的特色，以及他们相互互动的方式。“不错确定的是，绝大大批东说念主都是男性。我合计许多针对名东说念主的东说念主都是为了性爽朗。他们时常会使用相配厌恶女性的谈话——这可能是为了性爽朗，但同期也伴跟着一些对女性相配可怕的意见。”阿杰德称，这些图像和视频制作东如若看成“攻击性色情”技巧。“它也被用来针对女性政客，试图让她们保捏千里默、打单她们。它如实体现了女性仍是濒临的许多挑战，但提供了一种全新的、相配有劲的刀兵，使女性失去‘东说念主性’并被物化。”
图片：ic photo.
跟着东说念主工智能本事的束缚发展，问题正在变得愈加严重。好意思国有线电视新闻网刊发专题驳倒指出，这种攻击并不仅指向公世东说念主物。试想这么一个情境，一个被暗恋对象拒却的男性可能会邀请其他东说念主一皆不雅看暗恋女孩的深度伪造视频。这一假定在近日曝出的多起韩国深度伪造性造孽案件中被反复印证，大多案件波及熟东说念主作案，“一些受害者以至即是加害者的母亲、姐妹、表亲或熟东说念主”。另有韩国媒体发现，某个制作与传播深度伪造色情内容的Telegram群组有大致22万名成员，其传播范围之广被合计是第二次“N号房事件”。
乔治华盛顿大学涵养玛丽·安妮·弗兰克斯博士特意酌量民权、科技和言论解放。她在该著述中提醒读者：这类应用设施和东说念主工智能器具可能会导致新一代年青东说念主产生“我的愿望即是东说念主工智能的命令”的心态。在这些收集空间中，男性对女性肉体的特权感常常全都不受敛迹。用户们相互依赖，营造出一种错觉——即他们是天地之王，他们无需听命于任何东说念主。他们以至合计制作和传播被算法刀兵化的攻击性色情内容仅仅一种个东说念主青睐。“如果咱们不防备，咱们不仅会创造新一代的受害者，还会创造新一代的施虐者。”
收集性造孽的升级：
当仇恨与期望并存
早在韩国曝出联系案件前，韩国女性的安全感就永恒方于低位。有记者整理韩国放哨厅公布的统计数据，指出2018年韩国性造孽发生数1370件，但从2022年已龙套1万件；在总体性造孽型态的排名与比例中，收集性造孽也从2018年名按次5位、仅占4.5%，上升到2022年的第2位，占27.2%，仅次于性杂乱。越来越多女性拒却干预传统的父权制式家庭，反应西洋流行的#boysober（编者注：直译为“男孩清亮”，指女性给我方设依期限，不跟男性约聚，不跟男性发素性活动，让我方处于脱离男性性缘关系的环境）高潮。韩国互联网上保守化潮水日益显然，不少男性为“非自觉独身者”（Incel，Involuntary celibate），他们在日常生涯中大多与女性莫得太多交游，但会在假造天下匿名发表带有侮辱性的言论。
深度伪造性造孽的激增被合计与近些年捏续流行的这波“非自觉独身”文化密切联系。该词的流行还要追究到2014年，好意思国又名自称“非自觉独身者”的22岁后生，在加利福尼亚州拉维斯塔发动恶性事件，最终导致六东说念主耗费，十四东说念主受伤。他在随后留住的一封长达137页的宣言中抒发了我方从未发生过性活动的大怒与归咎。这股心思成为如今收集厌女的泉源，部分言论将女性视为应该死守男性的性对象，合计女性低于男性，并隐含对性和女性肉体的“惊东说念主权利感”。
尽管近些年激勉饶恕的这些性别案件大都以互联网为绪论，但总体上并未脱离由来已久的厌女逻辑，以至在东说念主工智能等本事的加捏下，日益显现出对泉源的复兴。爱尔兰作者杰克·霍兰（Jack Holland，《厌女简史》）梳理历史时发现，这一偏见延续千年高深，主要与女性和男性之间关系的复杂性关联。男性轻蔑女性的内核在于男性对女性的懦弱，这种懦弱起首于他们相识到两性间的相反，且合计这种相反存在潜在要挟。“对男性而言，女性是原初的‘他者’——‘非我’。东说念主们常有一种倾向，将任何被归类为他者的东说念主变成替罪羊……但与此同期，女性还牵扯一个更复杂的问题——她是一种永不成被排斥在外的‘他者’。”
这种相反相成的二元不雅念早在古希腊、罗马时刻就形塑了其时社会对男女关系的恐慌。柏拉图和亚里士多德先后让性别偏见得到形而上学和科学上的认同。以柏拉图为例，他本东说念主的性别不雅念逻辑复杂且水火不容。柏拉图一生独身，他珍贵男东说念主对男东说念主的“纯”爱，合计这要高于男东说念主对女东说念主的爱，后者更接近于兽欲。这为基督教的东说念主类铩羽据说提供了凯旋的形而上学基础，在这套推演下，恰是因为看成女性的夏娃的扰乱，才潦倒了男性与天主之间的融合关系。其中实在的懦弱在于，他们不得不坚强到“东说念主根底不是自主自治的，而是有所依附的”。
当仇恨与期望以这么一种面貌并存时，它污蔑了自后许多男性对女性的意见。在维多利亚期间，这一偏见曾以一种相配狠毒的方式外化。其时流行的不雅念将女性奉为“无性”的天神，同期贬黜女性的天性。不少维多利亚期间的男性对幼女十分狂热，在杰克·霍兰看来，这其实代表着男东说念主无法与成年女性诱导正常的两性关系，于是这种深刻的性欲分别不可禁锢地导向了另一个出口。而后人人熟知的几位性别偏见的坚实拥趸，如希特勒、叔本华、尼采等东说念主，简直都是与社会疏离且在性关系方面莫得安全感的男性，他们从未与女性诱导熟练且踏实的亲密关系，也从未领有过纯粹的家庭生涯。
然则，这种根源于古希腊、罗马的性别偏见近些年却运转在收集空间复兴。在好意思国第五大网站Reddit上，最有影响力的男性论坛“红药丸”（The Red Pill）诱骗了数十万名男性成员入驻。这些男性将“发现天下对男性事实上何其不公的想想改变经过”，描写为“吞下《黑客帝国》中通往真相的红药丸”。正如多娜·扎克伯格断言：“在21世纪，对于古代希腊罗马历史遗产最有争议况且最伏击的筹谋，不在文体、戏剧、学术这些传统范畴中发生，而在互联网上。”这些躲在“男性空间”匿名牌之后的男性，正在以多种方式使用、以至浪费古典天下的想想资源，从中寻找根据撑捏他们的逻辑。
拳交电影《黑客帝国》（1999）剧照。
“柏拉图是一个期间之子，这一期间依旧与咱们同在。”英国形而上学家卡尔·波普尔曾如斯预言。当年，在饥馑、弹压、审查和公民流血事件的社会配景下，柏拉图曾意欲在感官天下以外寻找一个更“高”的天下。千年之后，那些无法在真实天下与异性诱导健康关系的男性，沿着相通的逻辑作念出了极点的“遴荐”。好意思国专注流行文化与政事的新闻网站《逐日野兽》（The Daily Beast）发布驳倒称，在东说念主工智能生成器具流行之前，非自觉独身文化就仍是存在，现在它们正在成为主流。“与其说是东说念主们驯顺这些图片是真实的，不如说即是方正的归咎。”
对此，在网上长大的年青一代男性不祥慨叹更深。好意思国一份由加州大学欧文分校学生创办的寂然刊物《蚁读者》（The AntReader）发文合计，这波回潮的实在问题在于，年青男性并莫得接纳方法诱导刚正的社会——他们堕入了一种带有偏见的想维方式，这种想维方式会给他们带来一种社区感。这反过来又为女性创造了一种充满敌意的收集环境，最终可能导致（真实的）暴力造孽。
尾声：
本事是器具，却不是谜底
导向真实造孽的可能性是深度伪造性造孽激勉如斯大范围恐慌的原因。维也纳大学形而上学系博士后凯斯·雷蒙·哈里斯（Keith Raymond Harris）详备分析了这类内容若何让东说念主们产生心理空想。“当学生对同学进行深度伪造时，这可能会改变他们对对象的意见，并在现实生涯中形成进一步的不尊重、杂乱以至狠毒。当这些对特定女性产生的心理空想，导致对所有女性的空想时，偏见就会进一步强化。”
女性遭受联系“攻击性色情”的后续遭受也值得饶恕。在 BBC 一档名为“她说”（The She Word）节目中， 两名津巴布韦女性申诉了她们成为色情攻击受害者的故事——一东说念主被劫掠了家庭关系，因此无法完成学业；另一东说念主则失去了职责。在印度，又名记者曾为一个八岁女孩伸张正义后，遭到了深度伪造色情贬低。这些报说念散见于多个国度。此外，还有不青娥性受访者称，在成为这些收集性暴力指标后，她们很难保管或找到职责。
目下的逆境在于，本事发展的速率仍是远远向上立法的速率。以韩国为例，现存法律对出于传播主见制作深度伪造内容的东说念主、以及试图通过传播这些内容来获取经济利益的东说念主都有一定的惩治条例，但目下并莫得联系法律回绝购买、存储或不雅看深度伪造的内容。看望东说念主员需要获取法院批准智商用奥妙身份干预深度伪造聊天室，况且，他们仅仅在收到未成年东说念主遭到性狠毒的举报后智商进行这类看望。这个经过也可能很慢。
“你在假期发现了一个聊天室，但等你得到法院批准后，它仍是灭绝了，”韩国国度考查局收集造孽高等看望员咸永玉在接受《纽约时报》采访时默示。
杜伦大学法学涵养、图像浪费人人克莱尔·麦克格林（Clare McGlynn）这些年也在与同业捏续命令修改图像造孽联系法律，“但咱们基本上是在向虚空高歌”。麦克格林讲明说，这些年，政府方面一直合计演叨图片和影像贵府的危害不大，莫得实在与受害者交谈。立法的逻辑更饶恕性活动是否真实发生，而不太介意受害者的感受。“这些收集性造孽活动莫得被细致对待，东说念主们照旧莫得坚强到这种伤害可能是深切且罢休性的——它不会陡然发生，你也许不错试着克服它，络续生涯，但它总有可能重新出现在网上。”
麦克格林还指出，现存法案的设定大都忽略了平台的职守。尽管平台方默示春联系深度伪造内容接纳“零容忍”，但在一份深度伪造图像或视频被删除前，仍是罕有千万次浏览量时，这么的态度就显得有些“缺乏”。
回到本岁首泰勒·斯威夫特的遭受。其时平台方以“优先琢磨安全”为名，已而屏蔽了全平台对于“Taylor Swift”的搜索成果，暂时让她“隐形”。这一举动被合计传递了一个危机的信号：“如果目下世上最有影响力的女性之一都必须要在网上灭绝，智商保证安全，那这对其他东说念主而言意味着什么？”
当互联网本事迭代束缚将东说念主类全体带向一个愈加互联互通的畴昔时，从“红药丸”的出现到深度伪造性造孽的激增，这似乎在突显另一种违反的趋势。正如“脸书”创办东说念主马克·扎克伯格的妹妹多娜·扎克伯格所看到的另一面：这可能逐步加深对女性范畴的滋扰。两性对等若何闭幕这一生界上最陈腐的偏见？赫然本事自己不会当然则然提供谜底。
本文参考贯串：
1. Inside the Taylor Swift deepfake scandal: ‘It’s men telling a powerful woman to get back in her box’