中华网 china.com

新闻

AI换脸为什么韩国最泛滥 性别歧视与技术滥用下的危机

关键词:
2024-08-31 13:14:08  新京报

韩国再次面临“N号房”类型的丑闻,这一次与“深度伪造犯罪”紧密相连。这种犯罪形式利用先进的人工智能技术创造出高度逼真的虚假内容,导致女性受害者数目激增,相关色情材料的传播范围和影响力远超以往。受害者们不得不跨越国界,在包括中国微博在内的多个社交平台上发声,寻求更广泛的关注与帮助。

深度伪造技术核心在于生成对抗网络(GANs)和深度学习,通过算法的不断迭代,使生成的虚假内容几乎可以乱真。这一技术不仅限于视频和图像,声纹伪造同样成为可能。随着AI技术的发展,一些旨在创造真实图像的模型意外地促进了AI换脸和AI生成不当内容的现象,尽管部分功能已被调整,但技术的开源性让这类滥用难以彻底遏制。

在黑灰产领域,这些技术被用来谋取利益,如在Telegram平台上,存在大量以AI色情为诱饵的群组。一个公开可加入的群聊,专注于利用AI技术伪造知名网络红人的色情图片,成员规模竟达1.5万人,而通过付费,用户还能进入更为私密、内容更为露骨的群组。Telegram的加密特性和特定功能为这些非法活动提供了隐蔽空间,虚拟货币的使用进一步增加了监管难度。

韩国成为深度伪造犯罪重灾区,部分原因在于法律执行可能存在不足,但更深层次的问题在于性别歧视文化。尽管韩国已有相关法律应对,如《Telegram“N号房”事件防治法》,并计划加大对深度伪造性犯罪的惩处力度,但社会对女性的性物化态度不改,使得问题持续发酵。尤其令人担忧的是,这种技术在年轻群体中被当作娱乐工具般滥用,反映出社会价值观的扭曲。

针对防范和监管,专家建议从控制技术扩散着手,比如AI平台应加强对使用者的审核,打击提供黑产技术支持的工具和网站。同时,探索推广数字水印等防伪技术,确保内容的真实可追溯性,内容平台也应增强对深度伪造内容的识别能力。尽管完全阻止技术滥用不切实际,但通过这些措施可以在一定程度上减少其负面影响。

(责任编辑:张蕾)
关闭

王欣瑜2-0爆冷晋级武网八强 职业生涯新高点

王欣瑜2-0爆冷晋级武网八强2024-10-10 17:18:21

男子开解忧酒吧 有人跑300公里来倾诉

男子开解忧酒吧有人跑300公里来倾诉2024-10-10 17:18:20

中东爆发全面战争可能性有大多?听听专家怎么说

中东爆发全面战争可能性有大多2024-10-10 17:18:05

8岁女孩父母早逝学校成立帮帮团

8岁女孩父母早逝学校成立帮帮团2024-10-10 17:16:27

中东爆发全面战争可能性有大多?听听专家怎么说

中东爆发全面战争可能性有大多2024-10-10 17:18:05

赢了!国乒男团击败韩国进决赛

赢了!国乒男团击败韩国进决赛2024-10-10 17:02:24

王欣瑜2-0爆冷晋级武网八强 职业生涯新高点

王欣瑜2-0爆冷晋级武网八强2024-10-10 17:18:21

美媒:美官员透露,近几周拜登政府愈加不信任以方涉军事和外交计划言论

美媒:美官员透露,近几周拜登政府愈加不信任以方涉军事和外交计划言论2024-10-09 10:12:16

郑钦文:外婆姨父姨妈昨晚来看我比赛 心脏受不了提前回家了

可爱!郑钦文:外婆姨父姨妈昨晚来看我比赛 心脏受不了提前回家了2024-10-10 17:10:25

男子开解忧酒吧 有人跑300公里来倾诉

男子开解忧酒吧有人跑300公里来倾诉2024-10-10 17:18:20

辅警被无牌摩托车闯红灯撞飞,警方通报

辅警被无牌摩托车闯红灯撞飞2024-10-10 17:06:44

8岁女孩父母早逝学校成立帮帮团 爱心汇聚助成长

8岁女孩父母早逝学校成立帮帮团2024-10-10 17:08:18

黎真主党警告以色列:若继续袭击黎巴嫩,将加强对以打击

黎真主党警告以色列:若继续袭击黎巴嫩,将加强对以打击2024-10-09 10:09:36

以色列持续扩大攻势令多方忧虑,内塔尼亚胡放话:将像摧毁加沙一样摧毁黎巴嫩

以色列持续扩大攻势令多方忧虑,内塔尼亚胡放话:将像摧毁加沙一样摧毁黎巴嫩2024-10-10 09:46:23

朝鲜切断朝韩公路及铁路连接,韩军方首度回应

朝鲜切断朝韩公路及铁路连接,韩军方首度回应2024-10-10 09:41:14

美媒:内塔尼亚胡“最后一刻”否决以防长访美行程,再次表明“双方关系紧张”

美媒:内塔尼亚胡“最后一刻”否决以防长访美行程,再次表明“双方关系紧张”2024-10-09 09:59:26

拜登退出“四方会晤”,泽连斯基“胜利计划”峰会生变?

拜登退出“四方会晤”,泽连斯基“胜利计划”峰会生变?2024-10-10 09:52:00

县委书记国庆7天坐镇小西天景区指挥 安全与秩序并重迎游客潮

县委书记国庆7天坐镇小西天景区指挥2024-10-10 17:04:14

以总理提议将以军“铁剑”行动改名为“复兴战争”

以总理提议将以军“铁剑”行动改名为“复兴战争”2024-10-09 09:45:32

定了?美以领导人讨论对伊报复计划

定了?美以领导人讨论对伊报复计划2024-10-10 09:38:18

92岁抗美援朝奶奶10发97环 外籍教练震惊赞叹

92岁抗美援朝奶奶10发97环2024-10-10 17:16:02

杨妞花说不会接受余华英的道歉:我根本不想面对她

杨妞花说不会接受余华英的道歉2024-10-10 17:15:01

被爆与伊朗“秘密谈判”以达成地区停火协议,美方否认

被爆与伊朗“秘密谈判”以达成地区停火协议,美方否认2024-10-10 09:56:08

国足vs澳大利亚首发出炉 生死之战,谁能抢占先机?

国足vs澳大利亚首发出炉2024-10-10 17:09:00

英军情五处负责人称俄伊威胁日增,但中国“不一样”

英军情五处负责人称俄伊威胁日增,但中国“不一样”2024-10-10 09:41:42

坐地铁偷三轮的男子曾被抓20多次

坐地铁偷三轮的男子曾被抓20多次2024-10-10 17:13:12

奔驰客服回应215万迈巴赫漏水 内部系统未查到相关情况

奔驰客服回应215万迈巴赫漏水2024-10-10 17:16:02

以防长称对伊朗的打击将会“致命、精确且出人意料”

以防长称对伊朗的打击将会“致命、精确且出人意料”2024-10-10 09:39:00

以色列已作出关键决定

以色列已作出关键决定2024-10-10 09:30:12

法防长:援乌“幻影2000”明年初交付

法防长:援乌“幻影2000”明年初交付2024-10-10 09:35:17

小鹏P7全球首秀+能装下33个行李箱

小鹏P7+能装下33个行李箱2024-10-10 17:09:08

美军工复合体如何在菲操弄对华认知?

美军工复合体如何在菲操弄对华认知?2024-10-10 09:54:46

中国海军“破浪”号风帆训练舰访问斯里兰卡,印媒破防了?

中国海军“破浪”号风帆训练舰访问斯里兰卡,印媒破防了?2024-10-10 09:47:09

伊朗外长敏感时刻访问沙特,将讨论地区问题并制止以色列“罪行”

伊朗外长敏感时刻访问沙特,将讨论地区问题并制止以色列“罪行”2024-10-09 10:11:17

相关新闻