事情走向失控,大致在2019年。
2019年,一款号称“30秒就能一键脱衣”的应用DeepNude诞生了——讽刺的是,这款软件用了一万张女性裸体照片训练而成,当用户输入一张男性照片,他无法脱下男性的衣物,只会为其添加一个女性的阴部。
DeepNude的背后,是几年间性能飞速提高的GAN技术,以及让使用难度大幅下降的开源生态。这让一名匿名的男性程序员Alberto(化名),基于加州大学伯克利分校的开源GAN架构,快速开发出了DeepNude。
一边,是迅猛发展的AI技术,和逐渐繁荣的开源生态;另一边,又是野蛮生长的Deepfake,和没有做好准备的社会意识和监管体系。
DeepNude让非自愿裸照的制作,变得像点击按钮一样简单。迫于舆论压力,DeepNude发布两周后,就选择了自主下架。Alberto(化名)在采访中解释,这款软件的开发完全出于“有意思”和“好奇心”:“我不是偷窥狂。我是技术的爱好者。”
DeepNude下架了,但千万个“DeepNude”,以更隐秘的姿态、更低的操作门槛、更逼真的生成质量,开始在互联网泛滥。
Deepfake与色情产业的相关数据制图:智能涌现
在论坛Discord上,DeepNude的安装包以20美元的价格出售。匿名卖家在主页中表示,他们提高了DeepNude的稳定性,与此同时,还删除了正版DeepNude给生成图片添加的水印——这一切,都让Deepfake裸照,看上去更加逼真。
下架不到三周,DeepNude又被开发出了更易上手的模式,成了嵌了Telegram上的一键脱衣Bot。
此后,事件的走向,和如今的韩国“N号房2.0”十分类似。Bot的使用者,自发在Telegram上建立了社群,超过10万名成员,成了“N号房”的初代居民。
最早监测到这款Bot的网络安全公司Sensity发现,上线不到一年,这款Bot已经产生了68万多名女性的虚假裸照,约104852张女性照片被公开发布在这款应用上。
在AI行业蓬勃发展的背景下,24岁以硕士学历毕业于上海交大的赵宏,今年顺利加入腾讯,成为AI算法工程师的一员,这是AI热潮中年轻人就业的一个缩影
2024-08-13 08:58:54AI人才战6个岗位抢1个人AI时代来了,叠加经济下行,越来越多的独立开发者渴望ARR百万美元的故事。
2024-09-25 13:47:2817岁高中生做AI App华尔街紧随硅谷脚步,加入了激烈的AI人才争夺战,焦点直指顶尖的AI专家。银行、对冲基金及私募股权公司竞相投入重金,争夺这些宝贵资源
2024-05-05 17:26:44AI人才争夺战