记者近日在多个短视频平台上搜索发现:有大量看似专业、实则身份不明的“虚拟专家”,他们看似言之凿凿,背后却另有目的。
貌似“交警”的人,在“车祸现场”煞有介事地讲解安全知识,话锋一转却开始兜售“破窗神器”;貌似“和尚”“师太”的人,张口“修行”、闭口“感悟”,满屏都是人生哲理,账号却推销着养生品和经书。你是不是也经常刷到这样的视频?他们看似某领域的专业人士,却没有任何标识或头衔,评论区里还时常出现对视频真实性的怀疑。
为了验明真伪,记者带着几段视频来到中国信通院。专家帮我们把视频导入鉴别平台,该平台拥有多种技术手段鉴别能力,可实现对视频、图片、文本的交叉鉴伪。几分钟后,结果出现,AI生成的概率高达96%。
中国信通院人工智能研究所安全治理部主任石霖:我们两个不同的鉴别引擎都判别出这段视频它是AI生成的。首先这个人过于完美,面部几乎没有瑕疵;重复的一些肢体动作过多;他的牙齿过于整洁,说话的过程中,仔细看是看不到舌头的。
针对另一个所谓“和尚”的视频也得到了同样的结果。这些未标注AI生成的视频捏造“警察”“僧人”等形象,利用大家对专业人设的信任,真实目的都是卖货。
记者调查中还发现,除了用AI捏造无中生有的人设,甚至还有人在盗用真实的专家形象。
北京眼科专家赵阳几个月前收到一位患者转来的视频,并询问他商品是否对眼睛真有帮助,视频里的赵阳正在推荐一款营养品。
北京眼科学会小儿眼科分会委员赵阳:我看这视频特别懵。因为他是拿着我的视频,把我的声音给改了,在卖他的产品。
赵阳一纸诉状把商家告上法庭。审理中才得知:商家委托了一家视频制作公司,用AI生成销售商品的音频,借他眼科专家的身份为产品背书。


































