在AI算法为人力资源开发带来效能提升的同时,一些隐蔽的风险也引发了各界的关注。
翁文磊曾长期在上海市妇联工作,密切关注女性就业的她注意到,如今的劳动者在求职时面临的情形和以往已大不相同。“互联网招聘平台的简历筛选过程基于人工智能算法,可以从已知数据中准确推测求职者的婚育状况,同时其自主学习能力会放大社会固有的部分性别偏见。”
“尽管目前还没有发现典型案例,但也要未雨绸缪。”翁文磊表示,互联网招聘平台带来的性别就业歧视更加隐蔽,只能通过长期招聘结果进行反推。“同时,劳动法规制性别歧视的主体是雇主,即便互联网招聘平台可以承担责任,其责任的履行也存在很大困难。”针对潜在的歧视风险,她认为,是否存在歧视要根据数据来看,还要加强对典型案例的数据分析,进而及时提出预警。
多管齐下共同监管
就业是最大的民生,就业歧视事关身在职场的每个劳动者,如何未雨绸缪防患于未然,各方都已行动起来,保障就业领域的公平公正。
针对算法新问题,杨海军介绍,国家先后出台了《互联网信息服务算法推荐管理规定》《关于加强互联网信息服务算法综合治理的指导意见》,并持续开展专项行动,深入排查整治各类企业的算法滥用现象。“主要是对企业算法的机制、机理、管理制度、应用场景,它的标签体系、用户权益保护等多个方面进行深入检查。基本上所有头部的招聘企业都纳入了检查名单。”杨海军说。
在监管发力的同时,技术手段也在加强。上海市科委总工程师赵健介绍,在2021年人工智能科技支撑专项项目审核中,上海专门部署了人工智能社会实验体系建设专题,强调要科学评估人工智能的社会综合影响,有效推进人工智能应用的标准建设,辅助支持人工智能应用的公共治理的决策。