AI换脸为什么韩国最泛滥性别歧视与技术滥用下的危机

小大

用微信扫描二维码
分享至好友和朋友圈

关键词：

2024-08-31 13:14:08 新京报

韩国再次面临“N号房”类型的丑闻，这一次与“深度伪造犯罪”紧密相连。这种犯罪形式利用先进的人工智能技术创造出高度逼真的虚假内容，导致女性受害者数目激增，相关色情材料的传播范围和影响力远超以往。受害者们不得不跨越国界，在包括中国微博在内的多个社交平台上发声，寻求更广泛的关注与帮助。

深度伪造技术核心在于生成对抗网络（GANs）和深度学习，通过算法的不断迭代，使生成的虚假内容几乎可以乱真。这一技术不仅限于视频和图像，声纹伪造同样成为可能。随着AI技术的发展，一些旨在创造真实图像的模型意外地促进了AI换脸和AI生成不当内容的现象，尽管部分功能已被调整，但技术的开源性让这类滥用难以彻底遏制。

在黑灰产领域，这些技术被用来谋取利益，如在Telegram平台上，存在大量以AI色情为诱饵的群组。一个公开可加入的群聊，专注于利用AI技术伪造知名网络红人的色情图片，成员规模竟达1.5万人，而通过付费，用户还能进入更为私密、内容更为露骨的群组。Telegram的加密特性和特定功能为这些非法活动提供了隐蔽空间，虚拟货币的使用进一步增加了监管难度。

韩国成为深度伪造犯罪重灾区，部分原因在于法律执行可能存在不足，但更深层次的问题在于性别歧视文化。尽管韩国已有相关法律应对，如《Telegram“N号房”事件防治法》，并计划加大对深度伪造性犯罪的惩处力度，但社会对女性的性物化态度不改，使得问题持续发酵。尤其令人担忧的是，这种技术在年轻群体中被当作娱乐工具般滥用，反映出社会价值观的扭曲。

针对防范和监管，专家建议从控制技术扩散着手，比如AI平台应加强对使用者的审核，打击提供黑产技术支持的工具和网站。同时，探索推广数字水印等防伪技术，确保内容的真实可追溯性，内容平台也应增强对深度伪造内容的识别能力。尽管完全阻止技术滥用不切实际，但通过这些措施可以在一定程度上减少其负面影响。

(责任编辑：张蕾)

关闭

AI换脸为什么韩国最泛滥 性别歧视与技术滥用下的危机

相关新闻

今日热点

频道热点

AI换脸为什么韩国最泛滥性别歧视与技术滥用下的危机