2024-10-20 05:04 点击次数：90
深度伪造（Deepfake）浮滥正在成为针对妇女暴力的新前沿。近日，韩国多起涉案嫌疑东说念主在未经女性知情或容或下，运用东说念主工智能本领合成真实东说念主脸与伪善躯壳，伪造色情影像，并在多个酬酢媒体群组无为传播。据韩联社报说念傲气，连年来，韩国Deepfake性违警案件数目一直呈上升态势，从2021年的156起增至2023年的180起色色女，本年仅前七个月以至一经累计答复297起。其中，案件受害者以年青女性为主，主要包括学生、西宾和士兵，且近三分之二的受害东说念主都是青少年。
这次激增的Deepfake性违警激发全球多国网民恐慌。但这并不是一次霎时的爆发。
实质上，早在本年事首，好意思国闻明歌手泰勒·斯威夫特（Taylor Swift）的深度伪造色情图片就曾在酬酢媒体无为传播，在平台方作念出删除处置前，该图片已被累计浏览超4700万次。缺憾的是，这次事件仅在粉丝群体里面引起震憾。好意思国有线电视新闻网还曾在本年1月末有益刊发驳斥著述，称“咱们最大的空虚等于，深信这种伤害只发生在公世东说念主物身上”。而在更早些的2019年，收集安全公司“深度跟踪”（Deeptrace）曾经发布过一项调研，效力傲气那时96%的在线深度伪造视频都短长自觉情色内容。“这不是一个小众问题。”
这次激发和顺的Deepfake案件，指向了收集性违警一经到了一个全新的阶段。当咱们梳理围绕Deepfake案件的连络筹商时会发现，这种看似非躯壳的暴力之是以激发如斯无为的担忧，大众真实缅想的是一种更无为的、充满敌意的收集环境浸透真实宇宙。
东说念主工智能器用可能会导致新一代年青东说念主产生“我的愿望等于东说念主工智能的命令”的心态。“如果咱们不预防，不仅会创造新一代的受害者，还会创造新一代的施虐者。”这些筹商也再度教唆咱们，对于性别的偏见——这一生界上最陈腐的偏见并未远去，若何完了两性之间的真实对等仍然任重说念远。而本领一直隐含风险，它是器用却从来不是谜底。
Deepfake案件回溯：
报复性的色情？
从某种进程来说，Deepfake（深度伪造）之于视频，就像Photoshop之于图片。两者都直不雅冲击了真实和编造之间的界限。在深度伪造本领流行之前，东说念主们对“低价伪造”应该都不生分。后者指的是对现成素材进行处置，且处置面貌仅限于放慢或加速视频中部分段落的播放速率，或者取舍性地裁剪拼贴内容。好意思国众议院议长南希·佩罗西（Nancy Pelosi）就曾深受其害。相较而言，深度伪造的变形制作则不错将一张脸与另一张脸互换、或将一张脸上的样子换到另一张脸上，在这个基础上再都集配音或者声息克隆等面貌，这项本领就能够完了以极低的资本制作出完满虚构但极其传神的视频。早年间海外酬酢媒体曾流传过好意思国总统尼克松针对登月糟糕的演讲，即是深度伪造的效力。
在韩国深度伪造性违警激发无为和顺之前，全球多家主流媒体对这项本领的报说念大多蚁合在政事范畴。东说念主们缅想它可能会导致伪善信息的传播、制造社会政事不对进而极地面拦截民主。这些担忧都不无兴味，但媒体报说念视角的筛选机制过滤了这项本领更为实质的影响。
英国《卫报》2018年刊发的对于深度伪造的报说念，聚焦政事范畴。
据欧洲一家科技筹商公司Sensity近日发布的答复傲气，现时全网传播的深度伪造视频中与政事连络的内容占比不到5%，其中当先95%的内容触及非自觉的色情内容。该答复还发现，部分深度伪造网站的视频不雅看量当先1亿次，这类网站的内容主要对于女明星和普通女性的躯壳。另外一项针对Telegram（通信软件）上生成的伪善裸照的走访则发现，当先68万名女性的像片被从其酬酢媒体或私东说念主对话中窃取。
在此之前，深度伪造激发蚁合筹商是在本年事首。好意思国闻明歌手泰勒·斯威夫特的深度伪造像片在酬酢媒体上赶快传播，在平台方删除像片前，该像片在全网已有约4700万次浏览。据连络统计傲气，那时全网已有当先9500 个网站“有益制作非自觉亲密图像”。在泰勒·斯威夫特成为最受和顺的受害者之前，这项本领其实一经颠覆了好多东说念主的生涯。
《恋东说念主：泰勒·斯威夫特巴黎演唱会》剧照。
作者劳拉·贝茨（Laura Bates，Men Who Hate Women）在书中涌现，曾有男性给她发过连络图片或视频，影像中的她看上去好像在进行各式性举止。她说，东说念主们很难连结这种作念法的影响，即使东说念主们知说念这些都不是确凿。“在别东说念主极点厌女的幻想中看到我方超推行的形象，这让东说念主很惊怖。”贝茨曾描写说：“那确凿很有辱东说念主格，相配难看。它会一直留在你心里。”贝茨还补充说，那些内容可能会被数百万东说念主看到。
“这是死心女性的新面貌。”贝茨以为，这一滑为的主见是让女性闭嘴。天然男性也不可避免于其他体式的东说念主工智能生成图像的侵害，但深度伪造色情作品绝大多量针对的仍然是女性。一项磋商标明，与处于相恻隐况的女性受害者比较，男性受害者对所发生的事情谊到的羞耻感更少，自责感也更少。且男性受害者在报案时默示，警方积极恢复的比例高于女性。当女性举报连络举止时得到的恢复也更负面，现时通行的社会不雅念仍然以为女性应该作念更多事情来避免摧残，也等于所谓的“受害者指责”。尤其是当泰勒·斯威夫特也遭到深度伪造攻击时，这似乎在向统统女性开释一个信息：岂论你是谁，岂论你有多浩大，有多得胜，当下所处的这个宇宙都仍然会找到一种面貌来玷辱你。
往常六年间，深度伪造与东说念主工智强人人亨利·阿杰德（Henry Ajder）曾深入不雅察过这项本领使用者的特色，以及他们相互互动的面貌。“不错细则的是，绝大多量东说念主都是男性。我以为好多针对名东说念主的东说念主都是为了性称心。他们平方会使用相配厌恶女性的谈话——这可能是为了性称心，但同期也伴跟着一些对女性相配可怕的主张。”阿杰德称，这些图像和视频制作东如果行为“报复性色情”技能。“它也被用来针对女性政客，试图让她们保抓千里默、敲诈她们。它照实体现了女性一经濒临的许多挑战，但提供了一种全新的、相配有劲的火器，使女性失去‘东说念主性’并被物化。”
图片：ic photo.
跟着东说念主工智能本领的不休发展，问题正在变得愈加严重。好意思国有线电视新闻网刊发专题驳斥指出，这种攻击并不仅指向公世东说念主物。试想这么一个情境，一个被暗恋对象拒却的男性可能会邀请其他东说念主通盘不雅看暗恋女孩的深度伪造视频。这一假定在近日曝出的多起韩国深度伪造性违警案件中被反复印证，大多案件触及熟东说念主作案，“一些受害者以至等于加害者的母亲、姐妹、表亲或熟东说念主”。另有韩国媒体发现，某个制作与传播深度伪造色情内容的Telegram群组有大致22万名成员，其传播范围之广被以为是第二次“N号房事件”。
乔治华盛顿大学栽培玛丽·安妮·弗兰克斯博士有益磋商民权、科技和言论解放。她在该著述中提醒读者：这类应用方式和东说念主工智能器用可能会导致新一代年青东说念主产生“我的愿望等于东说念主工智能的命令”的心态。在这些收集空间中，男性对女性躯壳的特权感常常完满不受敛迹。用户们相互依赖，营造出一种错觉——即他们是寰宇之王，他们无需听命于任何东说念主。他们以至以为制作和传播被算法火器化的报复性色情内容仅仅一种个东说念主意思。“如果咱们不预防，咱们不仅会创造新一代的受害者，还会创造新一代的施虐者。”
收集性违警的升级：
当仇恨与期许并存
早在韩国曝出连络案件前，韩国女性的安全感就永迢遥于低位。有记者整理韩国张望厅公布的统计数据，指出2018年韩国性违警发生数1370件，但从2022年已打破1万件；在总体性违警型态的排名与比例中，收集性违警也从2018年排名第5位、仅占4.5%，上升到2022年的第2位，占27.2%，仅次于性悔过。越来越多女性拒却干涉传统的父权制式家庭，反应西洋流行的#boysober（编者注：直译为“男孩廓清”，指女性给我方设依期限，不跟男性约聚，不跟男性发素性举止，让我方处于脱离男性性缘关系的环境）高涨。韩国互联网上保守化潮水日益昭彰，不少男性为“非自觉独身者”（Incel，Involuntary celibate），他们在日常生涯中大多与女性莫得太多构兵，但会在编造宇宙匿名发表带有侮辱性的言论。
深度伪造性违警的激增被以为与近些年抓续流行的这波“非自觉独身”文化密切连络。该词的流行还要回想到2014年，好意思国又名自称“非自觉独身者”的22岁后生，在加利福尼亚州拉维斯塔发动恶性事件，最终导致六东说念主升天，十四东说念主受伤。他在随后留住的一封长达137页的宣言中抒发了我方从未发生过性举止的大怒与归罪。这股心绪成为如今收集厌女的起源，部分言论将女性视为应该慑服男性的性对象，以为女性低于男性，并隐含对性和女性躯壳的“惊东说念主权利感”。
尽管近些年激发和顺的这些性别案件大都以互联网为弁言，但总体上并未脱离由来已久的厌女逻辑，以至在东说念主工智能等本领的加抓下，日益显现出对起源的复兴。爱尔兰作者杰克·霍兰（Jack Holland，《厌女简史》）梳理历史时发现，这一偏见延续千年深重，主要与女性和男性之间关系的复杂性连络。男性鄙弃女性的内核在于男性对女性的懦弱，这种懦弱着手于他们剖析到两性间的相反，且以为这种相反存在潜在恫吓。“对男性而言，女性是原初的‘他者’——‘非我’。东说念主们常有一种倾向，将任何被归类为他者的东说念主变成替罪羊……但与此同期，女性还遭灾一个更复杂的问题——她是一种永不可被扼杀在外的‘他者’。”
这种相反相成的二元不雅念早在古希腊、罗马时候就形塑了那时社会对男女关系的恐忧。柏拉图和亚里士多德先后让性别偏见得到形而上学和科学上的认同。以柏拉图为例，他本东说念主的性别不雅念逻辑复杂且鬻矛誉盾。柏拉图一生只身，他发达男东说念主对男东说念主的“纯”爱，以为这要高于男东说念主对女东说念主的爱，后者更接近于兽欲。这为基督教的东说念主类靡烂据说提供了径直的形而上学基础，在这套推演下，恰是因为行为女性的夏娃的干扰，才拦截了男性与天主之间的妥洽关系。其中真实的懦弱在于，他们不得不坚强到“东说念主压根不是自主自治的，而是有所依附的”。
当仇恨与期许以这么一种体式并存时，它诬陷了自后好多男性对女性的主张。在维多利亚时间，这一偏见曾以一种非凡粗暴的面貌外化。那时流行的不雅念将女性奉为“无性”的天神，同期贬黜女性的天性。不少维多利亚时间的男性对幼女十分狂热，在杰克·霍兰看来，这其实代表着男东说念主无法与成年女性竖耸峙常的两性关系，于是这种深刻的性欲差异不可遏制地导向了另一个出口。而后民众熟知的几位性别偏见的坚实拥趸，如希特勒、叔本华、尼采等东说念主，险些都是与社会疏离且在性关系方面莫得安全感的男性，他们从未与女性成立熟悉且强壮的亲密关系，也从未领有过耐心的家庭生涯。
但是，这种根源于古希腊、罗马的性别偏见近些年却运转在收集空间复兴。在好意思国第五大网站Reddit上，最有影响力的男性论坛“红药丸”（The Red Pill）劝诱了数十万名男性成员入驻。这些男性将“发现宇宙对男性事实上何其不公的想想回荡历程”，描画为“吞下《黑客帝国》中通往真相的红药丸”。正如多娜·扎克伯格断言：“在21世纪，对于古代希腊罗马历史遗产最有争议况且最报复的筹商，不在文体、戏剧、学术这些传统范畴中发生，而在互联网上。”这些躲在“男性空间”匿名牌之后的男性，正在以多种面貌使用、以至浮滥古典宇宙的想想资源，从中寻找字据撑抓他们的逻辑。
电影《黑客帝国》（1999）剧照。
“柏拉图是一个时间之子，这一时间依旧与咱们同在。”英国形而上学家卡尔·波普尔曾如斯预言。当年，在饥馑、弹压、审查和公民流血事件的社会配景下，柏拉图曾意欲在感官宇宙以外寻找一个更“高”的宇宙。千年之后，那些无法在真实宇宙与异性成立健康关系的男性，沿着相通的逻辑作念出了极点的“取舍”。好意思国专注流行文化与政事的新闻网站《逐日野兽》（The Daily Beast）发布驳斥称，在东说念主工智能生成器用流行之前，非自觉独身文化就一经存在，现在它们正在成为主流。“与其说是东说念主们深信这些图片是真实的，不如说等于贞洁的归罪。”
对此，在网上长大的年青一代男性粗略欷歔更深。好意思国一份由加州大学欧文分校学生创办的孤苦刊物《蚁读者》（The AntReader）发文以为，这波回潮的真实问题在于，年青男性并莫得选拔方法成立公说念的社会——他们堕入了一种带有偏见的想维面貌，这种想维面貌会给他们带来一种社区感。这反过来又为女性创造了一种充满敌意的收集环境，最终可能导致（真实的）暴力违警。
尾声：
本领是器用，却不是谜底
导向真实违警的可能性是深度伪造性违警激发如斯大范围恐慌的原因。维也纳大学形而上学系博士后凯斯·雷蒙·哈里斯（Keith Raymond Harris）详备分析了这类内容若何让东说念主们产生心计逸想。“当学生对同学进行深度伪造时，这可能会转变他们对对象的主张，并在推行生涯中变成进一步的不尊重、悔过以至摧残。当这些对特定女性产生的心计逸想，导致对统统女性的逸想时，偏见就会进一步强化。”
女性遭受连络“报复性色情”的后续碰到也值得和顺。在 BBC 一档名为“她说”（The She Word）节目中， 两名津巴布韦女性敷陈了她们成为色谍报复受害者的故事——一东说念主被抢掠了家庭关系，因此无法完成学业；另一东说念主则失去了责任。在印度，又名记者曾为一个八岁女孩伸张正义后，遭到了深度伪造色情责骂。这些报说念散见于多个国度。此外，还有不青娥性受访者称，在成为这些收集性暴力主见后，她们很难保管或找到责任。
图片：ic photo.
现时的窘境在于，本领发展的速率一经远远当先立法的速率。以韩国为例，现存法律对出于传播主见制作深度伪造内容的东说念主、以及试图通过传播这些内容来获取经济利益的东说念主都有一定的惩治条例，但现时并莫得连络法律阻扰购买、存储或不雅看深度伪造的内容。走访东说念主员需要赢得法院批准智力用秘要身份干涉深度伪造聊天室，况且，他们仅仅在收到未成年东说念主遭到性摧残的举报后智力进行这类走访。这个历程也可能很慢。
“你在假期发现了一个聊天室，但等你得到法院批准后，它一经消散了，”韩国国度窥伺局收集违警高等走访员咸永玉在摄取《纽约时报》采访时默示。
杜伦大学法学栽培、图像浮滥人人克莱尔·麦克格林（Clare McGlynn）这些年也在与同业抓续敕令修改图像违警连络法律，“但咱们基本上是在向虚空大叫”。麦克格林阐明说，这些年，政府方面一直以为伪善图片和影像贵府的危害不大，莫得真实与受害者交谈。立法的逻辑更和顺性举止是否真实发生，而不太介意受害者的感受。“这些收集性违警举止莫得被持重对待，东说念主们照旧莫得坚强到这种伤害可能是深切且烧毁性的——它不会霎时发生，你也许不错试着克服它，不绝生涯，但它总有可能再行出现在网上。”
麦克格林还指出，现存法案的设定大都忽略了平台的牵扯。尽管平台方默示对连络深度伪造内容选拔“零容忍”，但在一份深度伪造图像或视频被删除前，一经罕有千万次浏览量时，这么的态度就显得有些“缺乏”。
回到本岁首泰勒·斯威夫特的碰到。那时平台方以“优先沟通安全”为名，片晌屏蔽了全平台对于“Taylor Swift”的搜索效力，暂时让她“隐形”。这一举动被以为传递了一个危机的信号：“如果现时世上最有影响力的女性之一都必须要在网上消散，智力保证安全，那这对其他东说念主而言意味着什么？”
当互联网本领迭代不休将东说念主类全体带向一个愈加互联互通的将来时，从“红药丸”的出现到深度伪造性违警的激增，这似乎在突显另一种相背的趋势。正如“脸书”创办东说念主马克·扎克伯格的妹妹多娜·扎克伯格所看到的另一面：这可能逐渐加深对女性范围的骚扰。两性对等若何斥逐这一生界上最陈腐的偏见？昭着本领本人不会自但是然提供谜底。
本文参考连结：
1.Inside the Taylor Swift deepfake scandal: ‘It’s men telling a powerful woman to get back in her box’
https://www.theguardian.com/technology/2024/jan/31/inside-the-taylor-swift-deepfake-scandal-its-men-telling-a-powerful-woman-to-get-back-in-her-box
2.Opinion: The Taylor Swift AI photos offer a terrifying warning
https://edition.cnn.com/2024/01/31/opinions/taylor-swift-deepfakes-ai-segall/index.html
3.Why Mainstream Media Overlooks the Gendered Impacts of Deepfake Tech
https://endcyberabuse.org/why-mainstream-media-overlooks-the-gendered-impacts-of-deepfake-tech/
4.Deepfakes as a Security Issue: Why Gender Matters
https://wiisglobal.org/deepfakes-as-a-security-issue-why-gender-matters/
5.How Artificial Intelligence Is Fueling Incel Communities
https://www.thedailybeast.com/how-artificial-intelligence-is-fueling-incel-communities
6.Cyberbullying girls with pornographic deepfakes is a form of misogyny
https://theconversation.com/cyberbullying-girls-with-pornographic-deepfakes-is-a-form-of-misogyny-217182
7.Incel culture and misogyny online affects everyone
https://theantreader.org/2024/03/13/incel-culture-and-misogyny-online-perverts-everyone/
8.《韩国深伪色情违警激增，厌女文化生长收集性暴力》
https://cn.nytimes.com/asia-pacific/20240913/south-korea-deepfake-videos/
作者/申璐
编订/走走
校对/薛京宁色色女