点开大图,马赛克随即消失——一张凹着不自然Deepfake照,出现在了屏幕上。
3秒后,女性的照片,连同用以维权举证的证据,一同消失在了聊天记录中。
即便在国内,让女性经历一场赛博羞辱,并从法律制裁中逃逸,也如此简单。
作为脱去女性外衣的新型凶器,AI的出现,让网络性侵害的成本更低、速度却更快。在从业者发来的产品目录中,一段用AI生成的10秒内换脸视频30元,一张AI裸照只要10元,价目表上还特别注明:买5送1。
但一开始,Deepfake的背后、一项名为“生成对抗网络(GAN)”的技术,还几近人畜无害。
2014年诞生在谷歌大脑实验室的GAN,有着难以普及的一切要素:软件安装难度大、操作的技术门槛高,同时还需要昂贵的训练数据集和算力资源。这让Deepfake一度待在实验室里,没有被大众广泛使用。
事情走向失控,大致在2019年。
2019年,一款号称“30秒就能一键脱衣”的应用DeepNude诞生了——讽刺的是,这款软件用了一万张女性裸体照片训练而成,当用户输入一张男性照片,他无法脱下男性的衣物,只会为其添加一个女性的阴部。
DeepNude的背后,是几年间性能飞速提高的GAN技术,以及让使用难度大幅下降的开源生态。这让一名匿名的男性程序员Alberto(化名),基于加州大学伯克利分校的开源GAN架构,快速开发出了DeepNude。
一边,是迅猛发展的AI技术,和逐渐繁荣的开源生态;另一边,又是野蛮生长的Deepfake,和没有做好准备的社会意识和监管体系。
DeepNude让非自愿裸照的制作,变得像点击按钮一样简单。迫于舆论压力,DeepNude发布两周后,就选择了自主下架。Alberto(化名)在采访中解释,这款软件的开发完全出于“有意思”和“好奇心”:“我不是偷窥狂。我是技术的爱好者。”
DeepNude下架了,但千万个“DeepNude”,以更隐秘的姿态、更低的操作门槛、更逼真的生成质量,开始在互联网泛滥。
Deepfake与色情产业的相关数据制图:智能涌现
在论坛Discord上,DeepNude的安装包以20美元的价格出售。匿名卖家在主页中表示,他们提高了DeepNude的稳定性,与此同时,还删除了正版DeepNude给生成图片添加的水印——这一切,都让Deepfake裸照,看上去更加逼真。
下架不到三周,DeepNude又被开发出了更易上手的模式,成了嵌了Telegram上的一键脱衣Bot。
此后,事件的走向,和如今的韩国“N号房2.0”十分类似。Bot的使用者,自发在Telegram上建立了社群,超过10万名成员,成了“N号房”的初代居民。
最早监测到这款Bot的网络安全公司Sensity发现,上线不到一年,这款Bot已经产生了68万多名女性的虚假裸照,约104852张女性照片被公开发布在这款应用上。
向下的维权螺旋
从2019年至今,围剿DeepNude的行动一直在进行。
2019年7月,美国弗吉尼亚州通过了一条有关色情禁令的法律修正案,禁止出售或传播计算机生成的色情内容。同年年末,推特、谷歌、Facebook等平台着手整治Deepfake视频,措施包括给Deepfake视频打水印、赞助检测Deepfake的相关研究项目。
然而,无论是韩国“N号房2.0”,还是隐匿在QQ、支付宝、闲鱼中的地下灰产,都印证了一个令人沮丧的现实:Deepfake从未真正消失。
2019年,多伦多大学公民实验室曾发表了一项研究,试图探索微信如何自动审查巨量聊天中的图片。结果显示,微信对朋友圈和群聊的审查力度,大于一对一的私密聊天,同时,政治和社会新闻,是微信图片审查的核心主题。
这意味着,平台对色情内容的监管,依然存在漏洞。私密聊天中进行的Deepfake色情交易,很难通过平台进行披露,除非由人主动检举。
但人一定能主动站出来吗?
北京市两高律师事务所副主任张荆,20年来经手了不少侵害女性权益的案件。多年来,她帮助女性和具体到个人的加害者、不公平的结构,甚至法律系统的漏洞抗争。但Deepfake性侵害的发生,让她觉得女性的斗争,又走到了一个更为复杂的关卡。
“在技术不那么发达的过去,女性遭受性犯罪,起码能知道具体的受害者是谁,女性受到的伤害可以通过司法鉴定被量化。”张荆告诉《智能涌现》。但如今,无论是Deepfake内容的制作者,还是传播者,都面目模糊、数量难以确定,这对取证和量刑,都造成了极大的困难。
“报警不就好了?”在网络上,不少旁观者都提出了疑问,甚至有不少受害女性也曾认为,报警就好了。
但在报警之前,女性还要走过漫长的取证之路。张荆告诉《智能涌现》,“想要立案为刑事案件,去司法机关报案的前提是有基本的证据。”
而这些基本证据又包括:Deepfake传播的具体网站、侵权图片的数量(数量过少不足以被立案)、传播范围(传播范围过小不足以被立案)。
“说实话,对于不经常上网的人来说,完成这一步并不容易,她们可能甚至连网站该怎么进入都不知道。”张荆总结。
即便女性顺利走到了报警、立案的一步,加害者的处置结果往往不尽如人意。
在中国裁判文书网中输入“AI换脸”,一共只有16篇文书,最早的一起案件发生在2022年。两年来,能够诉诸刑事案件的Deepfake侵害事件,数量为0。
在层层阻碍下,女性针对Deepfake的维权,成了一条不断向下的螺旋:社会的压力,和严苛的立案流程,导致鲜少有愿意站出来的女性受害者;女性声量的不足,以及立案数量的稀少,又让立法的推进变得愈发艰难。
2023年12月,在中国台湾省,曾有一起判例,给了Deepfake受害女性些许希望。网名为“小玉”的男网红朱玉宸,使用Deepfake技术,将100多位知名女性合成A片,上网贩卖获利超过1300万台币(约288万元)。最终,他以违反《个人资料保护法》等罪名被起诉,并被判处5年有期徒刑。
只是,五年就够了吗?
“过去的黄色录像带、3D影片,是一个具体的小众产业,传播很难对一个鲜活的人产生伤害。”张荆说,“但今天的Deepfake,和过去色情产业的本质区别在于,它的传播,会对生活中具体的人产生伤害。”
这意味着,“依照传播淫秽色情内容对Deepfake进行量刑,程度一定是会偏轻的。”她总结。
加害者面前的,是看得到头的5年刑罚,但创伤可能会伴随女性走过更为漫长的岁月。
15岁那年,经历来自后桌男生的Deepfake骚扰后,小鱼开始不希望夏天到来。白色的短袖校服一旦被汗水浸湿,就会透出女生的内衣和身体的曲线。接近40摄氏度的高温下,小鱼依然选择穿两件短袖,阻挡男生的视线。
小鱼告诉《智能涌现》,她觉得告诉老师和家长,都是无用功。她记得,班上有男生曾经开女生的黄色玩笑,或是拽拉内衣的带子,但最后老师的回应是:都是小孩子之间的玩笑。
如今,离被骚扰已经过去了一年多的时间。升入高中后,小鱼和后桌男生失去了联系,生活又归于平淡。只是,夏天穿两件短袖的习惯,被小鱼保持到了现在。
在很长一段时间内,现实可能依旧惨淡。
看到韩国Deepfake事件后,鹿影科技联创李倩愤怒透顶,当即拉着创始人头脑风暴到深夜,口干舌燥之余,二人都很沮丧。“可能要带给你一个坏消息:没有什么办法能够从技术上,直接把Deepfake性暴力给杀掉。”李倩对《智能涌现》说。
虽然无法直接根除,“以其人之道还其人之身”,是一条常规路径。
瑞莱智慧联合创始人萧子豪向《智能涌现》介绍,公司内部会定期组织“红蓝对抗”,把工程师会分为“红军”“蓝军”两派,让“红军”模拟真实的攻击,而“蓝军”负责应对处置。“红军”一派的工程师们,为了了解黑产手段,甚至会潜伏到黑产群体中寻找线索,持续创新攻击手段。
对于用AI对抗Deepfake的人们来说,每天的工作,就是对抗各种意想不到的新案例。2周调优一个新版本、2个月迭代一版大模型,几乎是标配。
但这更多是在问题出现前后的预警提示。真正的侵害发生后,要想保护女性,更多需要依靠司法编织的网。
2022年11月,中国出台了第一条明确针对Deepfake提出的规定:《互联网信息服务深度合成管理规定》。这一规定对Deepfake内容制作者、技术服务提供商,以及制作、传播发布行为,都做出了规制。
但从法规的制定到真正落实,还有一条漫长道路。近20年来,张荆观察到,无论是办理刑事案件的律师,还是接到报案的警察、最终负责审判的检察机关,大多都是男性。
“这是一个结构性的问题,甚至立法机关,也基本上是男性。”张荆曾经参加过一个有关废除嫖宿幼女罪(比强奸罪量刑更轻)的研讨会。
在场的不少男性律师,给出了不少支持保留嫖宿幼女罪的理由,其中一个是:如果改用强奸罪定罪,犯罪行为人可能会铤而走险,反而让女性受害人陷入危险的境地。
现有的成功让加害者被拘留、定罪的个例,大多是女性积极自救的结果。
2023年的苏州大学黄谣和AI换脸事件中,受害者就潜入传播AI伪造图像的聊天房,进行取证,并利用排除法,将不同标记的照片在朋友圈中分组发布,进行逐个排除,最终将加害者抓获。
要进一步推动Deepfake性侵害的立法,和社会意识的前进,还需要一个真正的判例。
“有了判例,这段女性被迫害史才更有可能被写进义务教育的教科书,让性别教育前进一步。”一名在日本的女权活动者告诉《智能涌现》。
当下的AI行业,其实还是一个相当由男性主导的领域。某种程度上,从研发到产品落地过程中,都极易让女性成为被AI“压迫”的群体,成为产业中的一环。
李倩观察到的一个数据是,从互联网获得的视频模型训练数据,40%涉及成人内容,而其中的8成,内容都是女性身体。
“色情,是当下AI C端产品最成功的商业模式。”一名投资人对《智能涌现》如此评价。最终,Deepfake的泛滥被归结到了一个商业现实:用AI贩卖女性身体,会给利益者带来丰厚的商业回报。
对抗商业惯性,十分困难。
在融资过程中,部分投资人,无论男女都会告诉李倩,YoYo(鹿影科技的AI视频创作平台)如果对黄色擦边内容稍微宽容些,商业化会更顺利。
从第一天起女性友好,对人力、资金有限的AI初创公司而言,要不要走出这一步,是个尤为艰难的决定。李倩告诉“智能涌现”,从训练数据中剔除40%的黄色数据,意味着要花额外的成本补全;如果花人力和时间给用户输入的提示词设置违禁词,产品迭代的速度至少慢两个月。
“做创业者,是不是就要无性别地,看待商业世界?”但经历Deepfake事件后,李倩已经不这么认为了,“一旦开闸,行业又多了一块驱逐良币的劣币。”
如果女性能够在行业中获取更多技术主导权,未来会变得不一样。
2024年9月4日,中科院的女工程师张欣怡,将自己团队研发的Deepfake对抗模型,向全球开源。一旦有人需要帮助,就可以免费使用模型来检测Deepfake内容。
在自己的微博中,张欣怡写到:“如果一个人的火把太小,我们就把火把传给世界的每一个人。”
当新技术席卷世界,司法、技术都尚未完全跟上时,普通人每一次的发声、行动,才是社会进程得以向前推进的原因。
韩国就是一个活生生的例子——在极度男性主义的国家,女性权益的每进一步,都由布满血和汗的斗争之路造就。
自2015年之后,韩国女性在#MeToo、消除网络性暴力、终止怀孕非刑罪化等议题上开展了一系列女性主义运动,通过展开议题讨论、集会游行等等形式,这些活动从社会意识、立法制度层面,都争取到了宝贵的成果。
曾经揭露N号房丑闻的两位女记者姜京允、朴孝实,经受了旷日持久的网络谩骂、侮辱和精神折磨,其中一位记者甚至多次流产。
但韩女从没有停下脚步。N号房事件后,韩国就成立了专注于反对性剥削犯罪的女性团体“RESET”,推动了包括网络性犯罪相关法例的制定过程。而今年5月,将Deepfake其中一名嫌疑人送进监狱的,正是此前曾揭露N号房的两位大学生记者之一。
不能停止,不能放弃,是我们接触到的,奔走在Deepfake事件一线的韩国女性想法。“这不是仅仅为了我们这一代而奋斗,而是为了所有人的命运,”智英说,“我想要一个我的朋友、家人和所有女性都感到安全的世界。”
不同人种、国籍的女性,都开始了对韩国女性的声援。当地时间9月3日,一群居住在伦敦的中国女权主义者,从特拉法加广场走到韩国大使馆,高唱起韩国女权运动的标志性歌曲《再次重逢的世界》,声讨韩国偷拍、AI伪造等等非法行为。
红色的字,被印在各式各样的横幅标语上:“我的生活,不是你的色情片。”
△当地时间9月3日,一群居住在伦敦的中国女性主义者进行了反偷拍、反Deepfake游行。图源:伦敦的中国女权主义者
(为保护受访者,智英、恩静、小鱼均为化名。感谢星星、xwf、十月、lakyo、阿鸡、伦敦姐妹在访谈中提供的协助。)
他们给AI投币1美元,百万女性被拖入地狱!
在AI行业蓬勃发展的背景下,24岁以硕士学历毕业于上海交大的赵宏,今年顺利加入腾讯,成为AI算法工程师的一员,这是AI热潮中年轻人就业的一个缩影
2024-08-13 08:58:54AI人才战6个岗位抢1个人华尔街紧随硅谷脚步,加入了激烈的AI人才争夺战,焦点直指顶尖的AI专家。银行、对冲基金及私募股权公司竞相投入重金,争夺这些宝贵资源
2024-05-05 17:26:44AI人才争夺战迭戈·马拉多纳在1986年墨西哥世界杯半决赛对阵比利时的那场经典战役中所穿的球衣,即将成为收藏家们竞相争夺的珍品
2024-07-24 11:31:30马拉多纳世界杯半决赛球衣被拍卖