警惕AI数据污染冲击安全防线筑牢数据安全底座

小大

用微信扫描二维码
分享至好友和朋友圈

关键词：

2025-08-05 15:58:37 新浪财经

警惕AI数据污染冲击安全防线筑牢数据安全底座。国家安全部发布安全提示，指出人工智能训练数据存在良莠不齐的问题，其中包括虚假信息、虚构内容和偏见性观点，这导致数据源污染，给人工智能安全带来新的挑战。

数据是人工智能的基础，与算法和算力一起构成其三大核心要素。海量数据为AI模型提供了充足的训练素材，使其能够学习内在规律和模式，实现语义理解、智能决策和内容生成。高质量的数据还能驱动人工智能性能和精度的持续优化，促进模型迭代升级以适应新需求。

数据的数量、质量及多样性对AI模型至关重要。充足的数据量是充分训练大规模模型的前提；高准确性、完整性和一致性的数据能有效避免误导模型；多样化数据则能提升模型应对实际复杂场景的能力。随着数据资源日益丰富，“人工智能+”行动加速落地，促进了人工智能与经济社会各领域的深度融合，推动科技跨越式发展、产业优化升级以及生产力整体跃升。

然而，数据一旦受到污染，可能导致模型决策失误甚至系统失效，存在安全隐患。通过篡改、虚构和重复等“数据投毒”行为产生的污染数据，会干扰模型在训练阶段的参数调整，削弱模型性能并降低其准确性，甚至诱发有害输出。研究表明，即使少量虚假文本也会显著增加有害内容的比例。受污染的人工智能生成的虚假内容还可能成为后续模型训练的数据源，形成递归污染效应。互联网上的大量低质量及非客观数据导致AI训练数据集中的错误信息逐代累积，最终扭曲模型的认知能力。

数据污染还可能引发一系列现实风险，尤其在金融市场、公共安全和医疗健康等领域。在金融领域，不法分子利用AI炮制虚假信息，可能引发股价异常波动，构成新型市场操纵风险；在公共安全领域，数据污染容易扰动公众认知、误导社会舆论，诱发社会恐慌情绪；在医疗健康领域，数据污染可能导致模型生成错误诊疗建议，危及患者生命安全并加剧伪科学传播。

为筑牢人工智能数据底座，需加强源头监管，防范污染生成。依据相关法律法规，建立AI数据分类分级保护制度，从根本上防范污染数据的产生。同时，强化风险评估，确保数据在全生命周期环节的安全，并构建人工智能安全风险分类管理体系，提高数据安全综合保障能力。定期依据法规标准清洗修复受污数据，制定具体规则，逐步构建模块化、可监测、可扩展的数据治理框架，实现持续管理和质量把控。

(责任编辑：0882)

关闭

警惕AI数据污染冲击安全防线 筑牢数据安全底座

相关新闻

今日热点

频道热点

警惕AI数据污染冲击安全防线筑牢数据安全底座