中工娱乐

工人日报 2024年01月29日 星期一

【热点思考】规范自动化决策应用 保障劳动者权益

王倩
《工人日报》(2024年01月29日 07版)

观 点

算法管理的应用是科技创新和经济发展的结果,能够提升管理效率。但要对其作出的自动化决策进行合理纠偏,以规范其运行和发展,保障劳动者权益。

 

当前,平台用工的指令和规则大多被代码化,平台对网约工的管理很大程度上依赖算法系统。算法是通过代码设置、数据运算与机器自动化判断进行决策的一套机制,可以进行自动化决策,也可以用来辅助决策。平台用工中,算法被用于筛选、调度、监督和评价网约工。首先根据市场需求迅速核算出用工数量并匹配到可能合适的网约工人群,用不同方法激励其抢单或派单;在分配订单后监测其任务完成情况;通过监测到的履行情况和顾客评价来评估绩效、计算报酬、实施奖惩等,相关评估和决策结果可能影响网约工后续的接单机会和报酬水平。

近年来,算法管理给平台用工规范发展和劳动者权益保障带来了一定挑战。网约工不了解算法的运行机制和决策原理,比如算法如何决定订单分配、交易价格、排名高低;系统为何对网约工做出罚款、降级、封号等决定。国家政策提出“算法取中”要求,如何落实才能合理确定考核要素、预防劳动强度过大等问题?算法管理的应用是科技创新和经济发展的结果,能够提升管理效率,但要对其作出的自动化决策进行合理纠偏,以规范其运行和发展,保障劳动者权益。

首先,推进算法公开透明。平台与网约工之间的信息并不对等,面对算法不透明,网约工的知情权和参与权很难保障,因此,算法公开透明对于预防算法歧视十分重要。就算法作出的罚扣款项、降低评分、暂停接单等网约工权益有重要影响的具体决策,网约工可以通过主张个人信息保护法第24条第3款规定的算法解释权,要求平台说明情况。同时,根据个人信息保护法第44条,网约工还可以要求平台告知用何种设备和技术监视记录了自己哪些行为,监控的目的是预防调查偷盗、提高工作效率还是保障劳动安全,相关信息会被平台进行哪些后续处理等。

对于平台通过算法作出哪些决策及其考量因素、排名机制如何运行、系统分配订单时依据哪些标准、分别赋予各标准多少权重等问题,有必要在政策层面规定平台的算法信息披露义务。第一,应披露进入退出、订单分配、报酬构成、工作时间、奖励惩罚等直接涉及网约工权益的算法信息。第二,平台无需公布源代码、数据组、架构设置等算法开发细节,但应主动告知算法设计的目的意图和相关功能、算法处理的个人信息种类及其来源、算法评估的参考因素和主要标准、算法根据信息处理结果实施的行为等。第三,平台应在开始用工时、系统发生重大变化时,向工会、劳动行政部门披露相关信息。此安排能够有效地保障算法的目标、结果和影响的透明,网约工能够借此知晓算法对自己权益的影响,较好地平衡各方利益。

其次,网约工的劳动权益保障应成为算法的核心指标之一。平台作为算法的设计者和应用者,会将其商业逻辑和经营理念嵌入算法中,追求提高效率、降低成本,同时努力优化消费体验,但对于网约工的工作时长、劳动强度、收入保障、职业安全等基本权益保障重视不足。除了用劳资协商机制覆盖算法管理,充分听取网约工及职工代表的意见外,还应从算法设计源头入手将网约工劳动权益保护的理念和规则嵌入其中,把相关的法律规范以及法律原则设计成解决方案或计算机代码,从而实现算法在劳动用工方面的合规。

为了确保平台能够在算法的设计和应用过程中始终坚持劳动伦理,还需要事前评估、事中审计、事后追责的制度支持。就此,个人信息保护法第54、55、56条以及第七章的相关条款已有规定,但现行规定更侧重于数据保护。未来立法可以考虑规定平台有义务定期检查、评估自动化监控和自动化决策系统对于网约工工作条件的影响,确保系统可以预防相关工作环境的典型风险,采取合理的预防和保护措施。

最后,应对算法歧视还要避免通过数字画像分析网约工特征并预测其行为。有必要规定平台不得处理与合同履行无关的网约工数据,尤其是有关情绪和心理状态、私人谈话信息以及非工作时间产生的个人信息。另外,算法歧视是现实生活中各种就业歧视在系统中的再现,因此,要从根本上采取相应措施努力减少劳动力市场上的各种就业歧视。

应对算法歧视等不公平、不合理的自动化决策还可引入人工干预和审查机制,与劳动者权益有重大关联的决定不应完全由机器决定。在算法管理下,网约工遇到困难时常常难以联系上具体的负责人,只能在系统里反馈或向平台发送电子邮件,获得的大多是根据关键词生成的自动回复,既缺乏人类共情,也难以切实解决问题,有必要在平台内部为网约工设置沟通和救济渠道。根据个人信息保护法第24条第3款,网约工有权拒绝平台仅通过自动化决策的方式作出对其个人权益有重大影响的决定,该项免受自动化决策约束的权利凸显了保护人的主体性的宗旨。在未来的立法和完善中可规定,平台使用算法作出明显影响网约工工作条件的决策时,有义务指派专门的联系人负责讨论事实、澄清原因等沟通事宜,网约工认为权益受损的可要求平台安排人工重新审查决策。

(作者为上海政法学院教授、上海司法研究所社会法研究中心主任)

关于我们 | 版权声明 | 违法和不良信息举报电话:010-84151598 | 网络敲诈和有偿删帖举报电话:010-84151598
Copyright © 2008-2021 by www.workercn.cn. all rights reserved
扫码关注

中工网微信


中工网微博


中工网抖音


工人日报
客户端
×