今年3月1日,作为《互联网信息服务算法推荐管理规定》(以下简称《管理规定》)的配套系统,我国“互联网信息服务算法备案系统”正式上线运行,由此开启了我国算法监管的新里程。算法备案作为多维一体算法监管体系的关键环节,将与算法评估、算法检查一道成为我国算法监管的“三驾马车”,协同推进算法透明、算法公平、算法安全等治理目标的实现,也必将推动算法治理体系的完善和企业算法应用的合规。
一、算法备案的重要意义
2021年9月,国家互联网信息办公室等九部委联合印发《关于加强互联网信息服务算法综合治理的指导意见》(以下简称《指导意见》),以三年为期规划了我国现阶段算法治理的基本蓝图,描绘了治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局。算法备案作为算法治理机制之一,其性质属于行政备案。此前,国家互联网信息办公室曾对非经营性互联网信息服务和qukuailian信息服务实行备案管理,算法备案是第三类适用“行政备案”监管的信息服务事项。算法作为个人信息处理者收集和处理数据、推送信息、调配资源的核心力量,一旦失范将会损害国家利益、社会公共利益和公民合法权益。有必要采用相对温和但具有强约束力的行政监管手段。
《管理规定》第二十四条规定,具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息,履行备案手续。算法推荐服务提供者的备案信息发生变更的,应当在变更之日起十个工作日内办理变更手续。算法推荐服务提供者终止服务的,应当在终止服务之日起二十个工作日内办理注销备案手续,并作出妥善安排。此即《管理规定》规定的算法备案制度,应特别注意要求算法推荐服务提供者提供算法类型、算法自评估报告、拟公示内容等信息。而监管部门通过对备案算法的风险评估,可以保证风险的源头控制;通过记录算法设计和检验,也能使监管机构有效地评估、追溯和验证复杂算法。
算法备案作为监管机关、算法运营者和用户之间的交点,是算法治理起承转合的关键,其既有助于监管机关随时系统摸排算法基本情况,为健全算法分级分类体系提供基础性支撑,也有助于为未来公众算法知情权提供制度性保障,还能倒逼算法推荐服务提供者积极进行风险评估和全流程记录,督促运营者在整个算法活动阶段考虑算法合规问题。可见,算法备案是算法治理体系中的重要一环。
二、算法备案的报备主体、产品功能和算法信息
今年3月1日,“互联网信息服务算法备案系统”正式上线运行。依据《管理规定》的相关要求,备案主体需通过该系统履行备案手续,填报算法主体信息、产品及功能信息、算法信息。
1.备案主体信息。正如《指导意见》中提及,“近年来,互联网信息服务算法在加速互联网信息传播、繁荣数字经济、促进社会发展等方面发挥了重要作用。算法不合理应用也影响了正常的传播秩序、市场秩序和社会秩序,给维护意识形态安全、社会和网民合法权益带来挑战”。伴随算法信息推荐技术产生的“算法黑箱”“信息茧房”“算法歧视”等问题,对人身安全、财产安全和公共安全都可能产生以点带面、以小见大的影响。《管理规定》则要求,具有舆论属性或者社会动员能力的算法推荐服务提供者应当在规定期限内进行算法备案。此次上线的备案系统,仍以“具有舆论属性或者社会动员能力的算法推荐服务提供者”作为被备案对象。相关主体需要填报真实有效的备案主体信息,提交《算法备案承诺书》以及《落实算法安全主体责任基本情况》等与主体资格核验相关材料。
2.产品及功能信息——填报链路多层嵌套。产品及功能信息的填报采用“产品信息—产品功能访问路径—路径功能下的基本信息”三层递进方式填写。其中“功能访问路径”根据产品的功能设置如存在多步导航的,需按顺序依次填写。根据《互联网信息服务算法备案系统使用手册》的截图信息显示,各访问路径下基本功能信息的介绍不能超过500字。
3.算法信息——以功能维度拆分Zui小备案单位。算法信息涉及基础属性、详细属性、产品及功能三项细化信息。其中产品及功能信息的填报拆分为产品使用算法、功能访问路径对应算法和特定功能对应算法三种具体的填写维度,建立起以功能为维度的Zui小备案单位。
三、算法备案需明确的问题
1.完善“社会动员能力”的主体界定标准。《管理规定》明确需要进行备案的主体为“算法推荐服务提供者”,并以“舆论属性”或“社会动员能力”作为限定要素。结合《管理规定》和《互联网信息服务算法备案系统使用手册》的相关介绍,五大类需要备案的算法推荐技术已经明确,但其中“社会动员能力”认定标准仍有需要完善之处。
现阶段,对于是否具有“社会动员能力”的判断标准可参照国家互联网信息办公室于2018年11月15日发布的《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》第二条的具体定义,即具有舆论属性或社会动员能力的互联网信息服务,包括下列情形:开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能;开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。该定义中对于“社会动员能力”的界定可以概括为“发动社会公众从事特定活动能力”,对该判断标准及具体的适用尚存以下疑问。
从实质层面看,如何判断算法推荐技术是否具有社会动员能力。结合当前的算法备案监管制度,算法备案是一种事前监管手段,由企业主动发起。是否“具有发动社会公众从事特定活动能力”需要由企业进行自我判断。是否具有社会动员能力是采用“应然标准”还是“实然标准”,是需要思考完善的一个关键问题。若采用“应然标准”,由企业通过算法评估等方式,自我分析判定其社会影响能力,则自主备案空间较大;若采用“实然标准”,则需要以先期实践作为判定的基础。
从程序层面看,如何分配社会动员能力的证明责任。判定信息服务是否“具有发动社会公众从事特定活动能力”的本质在于认定算法推荐技术是否具有“主观能动性”。延续上一个问题的思路,若采用“实然标准”,则第二个需要厘清的问题在于如何证实企业提供的信息服务是引发公众从事特定活动的诱因,且相关的证明责任由企业承担,还是由监管机构承担,有必要做深入思考和研究。
从操作层面看,如何选定适当的备案主体。该问题的产生,主要为了回答多主体合并备案与现有监管制度是否衔接的问题。根据《互联网信息服务管理办法》的规定,经营性网站必须办理增值电信业务经营许可证(经营性ICP证);非经营性网站要办理非营业性互联网信息服务业务备案证。以经营性增值电信业务为例,当前移动应用程序和网站大多提供综合信息服务,内嵌多种具体的实用功能。通过查阅部分App公示的证照信息发现,存在App和内嵌功能分别为属于不同ICP主体的情况。备案系统上线后,对于如何确定备案主体,企业可能存在诸多疑问。例如,以App运营者对应的ICP主体进行备案,还是以具体涉及具有舆论属性或社会动员能力业务功能所对应的运营主体进行备案?若同一算法推荐技术由某一集团内多个功能主体共享使用,是否需要全员备案?备案主体要求不明,将导致企业面临合规的困难。
2.算法备案应推行“告知备案”流程以明晰备案边界。备案系统上线之初,相关适用标准、备案流程、审核判断均需要一个摸索尝试的过程。过度依赖企业自律,由企业自我判断是否需要备案,容易导致两种极端情况的出现。企业“求全”可能加重系统运行负担,偏离对算法信息推荐服务定向监管的初心;企业“漏判”则可能面临xingzhengchufa风险,不利于营造具有相对确定性的营商环境。相关部门急需探索一种更为科学高效的备案管理方式。
算法备案有其对应的行政责任,其本质上属于一种行政监管手段。借鉴行政许可管理中的“告知承诺制”,推行“告知备案”的管理模式,给算法备案人清晰明确的“是否需要备案”“如何备案”的行为指引,可以极大提高算法备案的准确性和科学性。鉴于算法备案仍处于起步阶段,可分类分级分批选定算法备案主体,将企业的主动备案转化为主动配合,或可提高现阶段算法备案工作的执行效率,通过以点带面的方式完成三年期的算法治理目标。