随着数字经济的快速发展，大数据、算法已经成为人工智能的核心，算法推荐服务已融入社会生活的各个领域。应当看到，算法歧视、“大数据杀熟”、流量造假、电商平台强制“二选一”、诱导沉迷等算法乱象给社会带来严峻挑战，依法保护用户权益不受侵害，规范算法推荐服务行为，强化互联网企业算法合规体系建设，促进算法相关行业健康发展成为当务之急。

　　中共中央印发的《法治社会建设实施纲要（2020—2025年）》提出制定完善对算法推荐、深度伪造等新技术应用的规范管理办法。《网络安全法》《数据安全法》《个人信息保护法》等法律和《关于加强互联网信息服务算法综合治理的指导意见》《互联网信息服务算法推荐管理规定》等政策文件出台并作出相关顶层设计，预示着国家对网络空间的治理已经从数据治理迈向算法治理。

　　算法推荐服务规范的范围

　　算法推荐服务，属于信息自动化筛选、个性化分发的行为，需要以信息采集及分析等处理为基础。算法已经历多次变化，从开始的技术产品变为现在的网络平台工具，被用于向用户提供网络服务，承担网络空间的日常治理任务。尤其是人工智能技术的发展，算法已广泛应用于社会生活和公共管理的各种场景，目前整个社会信息分发市场中，智能算法推荐型分发模式占比已超过70%，依法对算法推荐服务的规制及法律责任承担，已成为全社会关注的热点话题。算法推荐涵盖了社会普遍关注的算法推荐热点问题，如用户模型、流量造假、个性化推送、未成年人身心健康保护、互联网平台劳动者权益保障、“大数据杀熟”等，容易影响政治安全、意识形态安全、社会秩序等。通常情况下，用户在注册使用某软件前需要提供基本个人信息，用户和算法推荐服务提供者之间存在着地位悬殊、认知局限等因素，用户的知情同意权难以得到有效保障。由于算法推荐技术的专业性、复杂性和不透明性等技术特征，引发个人信息泄露、算法歧视、算法归责困难等诸多法律问题，对用户的个人信息知情同意权、平等权和财产权等权益产生深刻的影响。

　　在《网络安全法》《数据安全法》《个人信息保护法》等顶层立法框架下，《互联网信息服务算法推荐管理规定》与国家网信办等出台的《网络信息内容生态治理规定》《互联网用户公众账号信息服务管理规定》《网络音视频信息服务管理规定》《互联网直播服务管理规定》《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》等互联网信息服务相关法律规范有效衔接，确定了算法推荐服务依法治理的主要制度。依法规范算法推荐保护用户权益的范围包括：生成合成类，主要规范内容聚合、内容自动化生成及内容合成服务；个性化推送类，主要规范基于用户画像而进行的内容、商品或服务的个性化推送服务；排序精选类，主要规范内容服务提供者的版面页面管理，诸如首屏、热搜、精选、榜单、弹窗等；检索过滤类，主要规范搜索引擎、内容检索、内容干预等服务或行为；调度决策类，主要规范工作调度服务，诸如快递平台、出行平台等。

　　依法规范算法推荐行为的制度

　　确立算法服务治理的基本原则。目前，少数算法推荐服务提供者采用技术手段实施流量造假、流量劫持以及虚假注册账号、非法交易账号、操纵用户账号等违法行为，组织“水军”制造虚假阅读量、评论量、转发量、点赞量、下载量、曝光量等，严重损害用户合法利益，迫切需要确定算法推荐服务的治理原则。算法推荐服务提供者既应当遵守法律法规，尊重社会公德和伦理，遵守商业道德和职业道德，也应当遵循公正公平、公开透明、科学合理和诚实信用的原则；坚持主流价值导向，优化算法推荐服务机制，积极传播正能量，促进算法应用向上向善。

　　确保算法推荐透明度和可解释性。算法作为蕴含在软件和网络平台内部的运行规则，具有很强的隐蔽性，长期以来，算法推荐服务的商业模式和竞争模式缺乏透明度，无法保证用户个人的知情权和自决权。算法透明是实施算法监督、自主选择的重要前提，也是用户进行权利救济的必要保障。为此，《个人信息保护法》明确要求个人信息处理者进行自动化决策时，应当保证决策的透明度。通过自动化决策方式作出对个人权益有重大影响的决定，个人有权要求个人信息处理者予以说明，并有权拒绝个人信息处理者通过自动化决策的方式作出决定。用户认为算法推荐服务提供者应用算法对其权益造成重大影响的，有权要求算法推荐服务提供者予以说明并采取相应改进或者补救措施。

　　建立分类分级管理制度和备案管理制度。目前，“网络水军”实施有偿删帖、虚假刷评、造谣引流、假冒新闻媒体敲诈勒索等违法行为，误导社会公众，严重损害了网民的合法权益，扰乱网络舆论环境，破坏公平竞争的市场秩序。根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等，对算法推荐服务提供者实施分类分级管理，并实施严格的监管措施。特别是具有舆论属性或者社会动员能力的算法推荐服务提供者，应当依法填报名称、服务形式、应用领域、算法类型等信息，履行备案手续，避免网络安全隐患，有效防范网络安全风险。

　　开展评估和监督检查。强化网络平台在算法运行中的全流程主体责任，规范具有舆论属性或者社会动员能力的算法推荐。国家相关政策文件明确将完善记入用户模型的用户标签管理规则作为算法推荐服务提供者的合规义务，要求完善有关事前事中评估，禁止迎合用户“恶趣味”的信息推送。《个人信息保护法》规定，利用个人信息进行自动化决策的，个人信息处理者应当事前进行个人信息保护影响评估，并对处理情况进行记录。评估内容主要包括：个人信息的处理目的、处理方式等是否合法、正当、必要；对个人权益的影响及安全风险；所采取的安全保护措施是否合法、有效并与风险程度相适应等。

　　重视特殊群体的权益保护。算法推荐服务提供者借助算法对用户消费数据及个人属性数据进行分析整理，形成用户模型或用户标签，并以此为基础进行精准推送。在互联网时代，未成年人沉迷网络和老年人上当受骗的问题引起社会的广泛关注。由于未成年人价值观尚未健全，缺乏辨别正确价值观的能力，老年人挡不住骗局的诱惑，极易掉进网络平台的“算法陷阱”里。算法推荐服务提供者应当向用户告知算法的基本原理、目的意图和主要运行机制等，充分保障用户选择关闭和获得算法解释的权利。依法对未成年人、老年人和劳动者履行特殊的保障义务，建立特殊群体维权投诉处理机制和赔偿制度，确保其获得法律保护。

　　保障算法实施结果的公平性。互联网平台企业运用大数据收集消费者的信息，分析其消费偏好、消费习惯、收入水平等，将同一商品或服务以不同价格卖给不同的消费者从中获取更多利益，这种交易价格差别待遇的违法行为严重损害了消费者权益。《个人信息保护法》响应社会对“大数据杀熟”规制的呼吁，规定网络平台利用个人信息进行自动化决策，应当保证决策的透明度和结果公平、公正，要求个人信息处理者必须对所用算法进行检查和审视，保证自动化决策的透明度和结果的公平、公正，不得对个人在交易价格等交易条件上实行不合理的差别待遇，以保证算法公平，维护广大网络用户的平等权。（作者：薛兴华）