“西安突发爆炸”“重庆巫溪一民房发生爆炸事故”……这些耸人听闻的消息,竟都是利用AI软件炮制的谣言。
近日,一些不法分子为赚取平台流量补贴,实现流量变现,利用AI合成技术编造谣言,严重扰乱社会秩序。真相到底如何?公安机关又将怎样处理?一探究竟↓↓↓
有图未必是真相
违法人员利用AI技术博取流量
今年1月,某网络平台出现一条关于“西安爆炸”的消息称,当月10日晚,西安突然响起巨大爆炸声,文字下方还配发所谓爆炸的图片。消息一经发布,很快在网上传播。
经调查,消息的发布账号归属于江西南昌一家MCN机构,这家公司的实际控制人为王某某。
经核实,民警发现当地没有发生类似事件,初步判定该MCN机构发布的数条信息涉嫌网络造谣,属不实信息。
警方对王某某进行约谈,得知网上发布的这条谣言,从文本到图片都是通过AI生成的。民警表示,利用AI软件生成新闻热点类文章和图片,全程基本不需要人工参与。
国内一网站可提供近期可能生成热点的新闻报道,违法人员王某某通过该网站获取热点关键词,并生成文章标题。
王某某通过AI软件,给出关键词,软件便会自动在网络上抓取相关信息,生成几百到上千字的文本,配上貌似和事件具有相关性的虚假图片,从而形成一段看起来信息量很大,实际上子虚乌有的内容。
通过AI软件生成内容的方式,这家MCN机构短时间内生成了大量文章,最高峰一天能生成4000至7000篇,最高的一条收入700元,初步估算每天的收入在1万元以上。