2021年12月31日,国家网信办会同工信部、公安部、市场监管总局出台《互联网信息服务算法推荐管理规定》(以下简称“《算法推荐管理规定》”),全面规范互联网信息服务算法活动,旨在实现算法技术创新与用户权益保障之间的动态平衡。本文将对《算法推荐管理规定》的监管关注点以及企业需要着重注意的合规要求进行分析。
算法推荐服务的监管关注点
随着数字经济的高速发展,算法应用本身带来的社会问题不断积累,引起社会的广泛关注,《算法推荐管理规定》可谓是一个阶段性的法律回应。需要明确的是,算法监管的对象不是算法技术或应用本身,而是设计和使用算法的人。规则的设计意在通过义务设置引导人的行为。
根据相关参与立法支撑工作专家的说明,出台《算法推荐管理规定》主要聚焦在算法引发的五个方面的社会问题:
一是大数据杀熟问题;
二是诱导沉迷网络问题;
三是劳动权益保障问题;
四是偏见歧视问题;
五是未成年人和老年人权益保障问题。
为了解决这些问题,《算法推荐管理规定》一方面对所有算法推荐服务提供者的整体要求,例如“建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施,制定并公开算法推荐服务相关规则,配备与算法推荐服务规模相适应的专业人员和技术支撑”,另一方面则针对场景提出一系列具体要求。以下归纳为“十不得”和“十六应当”。
合规红线:“十不得”
基于算法引发的重点问题,《算法推荐管理规定》对算法推荐服务提供者提出了十项禁止性要求。企业应将“十不得”作为其合规红线,逐项排查。而且这些行为不仅违反《算法推荐管理规定》,也有可能违反其他法律规则。
主要合规义务:“十六应当”
《算法推荐管理规定》对算法推荐服务提供商提出了多项合规义务要求。总体来看,企业的算法合规义务可以分为完善信息服务规范、加强用户权益保护和特殊人群权益保护三方面。企业应当重点关注《算法推荐管理规定》明确要求的十六项应当履行的合规义务,并和前述五类问题进行对照。
总结
2022年可谓“算法监管元年”,《算法推荐管理规定》只是起点,后续预计还会有其他和算法有关的规则出台。尤其是《数据安全法》《个人信息保护法》《反垄断法》的多项配套措施将会颁布,也会涉及与算法有关规则的细化。目前算法监管的很多理论问题和具体标准都还没有定论,因此也是一个循序渐进的过程,目前观察总体方向将是场景化的精确治理。
在后续解读中,我们将同技术专家一起就不同类型的算法涉及的不同合规重点和难点进行讨论。
(本文作者:世辉律师事务所 王新锐 卢璟)
关注卓越空间
关注卓越微博
关注卓越微信