在最近举行的一次数字安全盛会上,一个展位通过骑行者的现场体验,展示了数据保护的过程。随着参与者踏上自行车,心率、速度等个人信息被各种设备捕捉并实时显现在屏幕上,以此说明数据分类与传输中如何防范潜在的信息泄露和恶意攻击。
近期,人工智能技术,特别是大型模型的应用,引发了广泛关注。它们在带来高效与便利的同时,也引发了人们对隐私和数据安全的忧虑。人们在享受AI对话的便利时,不禁担忧个人及商业敏感信息的安全。这一话题成为了包括院士、学者和网络安全领域领头企业代表在内的众多专家在大会上探讨的焦点。
浙江大学金小刚副教授指出,在与大模型互动过程中,用户数据如位置、偏好可能被收集,因此选择信誉良好的平台至关重要。中国科学技术大学左晓栋教授则强调,生成式AI除了面临数据安全挑战,还需考虑其生成内容是否合规,以及如何保障涉及个人信息和商业秘密的数据权益。
针对AI技术的双刃剑特性,专家们提出,安全技术需与大模型同步发展并紧密结合,以应对不断涌现的安全威胁。现实中,不仅大模型的训练和使用存在隐患,AI深度伪造技术已被不法分子用于诈骗等非法活动,如“黑模型”的出现大大降低了犯罪的技术门槛。
AI已成为过去一年的网络热点,伴随其广泛应用,AI诈骗现象日益引起关注,尤其是运用AI换脸技术实施的诈骗案件屡见报端。
2024-04-22 15:11:05“AI换脸”骗走2亿港元阿里巴巴凭借现有的资金实力与云计算技术,正投资于未来的盈利场景,为自身发展增添了一层保障
2024-05-13 22:38:31阿里是中国AI最大金主2023年4月,产品经理松鹅告别腾讯,迅速北上,投身一家初创企业,该企业专注于基础大模型,名为“月之暗面”。彼时,该公司尚处起步阶段,团队仅松鹅一人独挑产品大梁
2024-05-13 11:04:49腾讯和字节的幽灵在中国AI的上空徘徊在遥远的未来,地球会怎样,取决于我们今天的选择。地球是全人类赖以生存的唯一家园。珍爱地球,人与自然和谐共生。
2024-04-22 15:49:19AI科幻大片丨珍AI地球近年来,随着人工智能技术的进步,一些不法分子开始利用AI技术融合他人面孔和声音,制造非常逼真的合成图像来实施新型网络诈骗,这类骗局常常会在短时间内给被害人造成较大损失。
2024-03-04 13:27:49AI换脸诈骗2023年世界互联网大会乌镇峰会将于11月8日至10日举办。这是乌镇与互联网的“十年之约”,十年征程再出发。
2023-11-07 20:41:40【乌镇“网事”】AI眼中的中国|千年乌镇“网”约十年