算法根据用户口味去推送新闻,绑住用户,进而让“内容为王”渐渐过气。还有网络暴力,算法从中扮演了极不光彩的角色,难脱助推纵容之责。那些污秽言论频频亮相,算法推荐难辞其咎。由于算法的跑偏,越来越多的人被裹挟在流量和情绪的洪流之中,无法自拔,成为没有灵魂的迷失者。
例如,当前的一些短视频及新闻内容平台,通过收集用户的行为痕迹(停留时长、点击、分享、评论等)来构建用户“画像”,以此向用户进行基于算法的内容推荐。导致用户视野逐渐变窄,错过其他领域的优质内容,用户也就因此陷入“信息茧房”。
算法是人发明的,人就有能力改善它,去劣存优、扬利除弊。
《互联网信息服务算法推荐管理规定》的正式施行,标志着算法有规可依。但真正管住脱缰一般的算法,还需要下一番功夫。
与此同时,清华大学的研究团队利用两大数据集深入探究了人类与AI的互动模式。一组数据源自中国某热门短视频平台,详尽记录了超过11万名新用户的行为轨迹;另一组数据则取自某国外新闻网站,广泛覆盖了14个新闻主题,并包含了9万名用户的互动信息。
研究结果显示,多数用户在与AI进行交互后,所接触到的信息种类非但没有增加,反而呈现出减少的趋势。这一发现警示我们,用户可能正逐渐陷入一个被称为“信息茧房”的困境之中。
治理有迹可循
中央网信办秘书局、工信部办公厅、公安部办公厅、市场监管总局办公厅等四部门日前印发通知,就同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”、算法向上向善服务缺失侵害用户合法权益等重点问题,列出算法专项治理清单指引,部署开展“清朗·网络平台算法典型问题治理”专项行动。