【摘要】互联网平台随着算法技术的不断进步，抓取用户数据后进行的自动化决策水平也随之提高。人类社会中长期存在的歧视和偏见在互联网中更被加剧和固化，但这一歧视并不是技术本身具有的，而是人为干预的加入价值判断后的不公正待遇。质言之，聚焦于现代算法歧视本身，对其类型进行分类后探讨自动决策背后的人为干预并进行规制，本文的重心正在于此。

【关键字】算法；人为歧视；规制

一、算法歧视的内涵界定

（一）现代社会语境下的算法歧视

算法起源于算术，是对计算方法的系统性总称。更确切的说，算法指的是以一种确定、有限、行之有效的术式或模型通过计算机程序来解决问题的方法。算法的出现与计算机科学密切相关，进入大数据时代以后，算法彻底改变了社会生产方式，从个人生活的衣食住行到社会层面的政府管理，以算法为核心的决策体系开始取代传统的治理模式，数据不再是简单的符号，而是具有价值且关乎利益的信息。

现代社会一直追求资源与需求的低成本高效匹配，以算法为技术基础的互联网平台使资源高效匹配需求，社会进一步快速发展。在带来高效率的同时，算法也因人为干预、技术壁垒导致具有挑战性的问题出现。这一现象并非是算法自身所导致的，而是因为在数据分析中加入人为价值判断所产生的不公正倾向。算法歧视严格意义上来讲并非法学体系之中的用语，主要见于新闻报道和社会评论，其概念也并未有统一的意见。算法歧视是指互联网平台通过个人信息数据分析对特定群体的多次、重复、有预测性且导致区别待遇的程序性决策，“大数据杀熟”便是价格歧视的一种现象。

（二）歧视的根源与传统

人们对算法的认知经历了从中立到偏见的转变，算法自动决策过程曾被视为有步骤地执行某种程序命令，其中难以看到人为干预的影子，因而被认为是客观中立的。2016年的“快播案”进一步印证了人们对算法中立性的认识，公司首席执行官王欣辩护的主要理由便是如“技术中立”或“技术无罪”等主张。但在法院看来，视频播放技术的中立性与使用该技术的公司追求商业利益并不矛盾，这显然是一种商业行为而非技术行为。

在线下市场领域，定价歧视这一场景并不少见。砍价、分时定价、区域定价等具有个性化定制的销售模式普遍存在，商家为了追逐利益最大化所采用的多样化销售手段也符合经济规律。但线上平台的消费者对这一模式却抵触已久，特别是其对老客户、优质的定价高于“普通价格”，违背诚信原则与商业伦理、更违背消费者内心真实意愿。

算法所做出的决策与分析本质上是人脑思维的复刻，而人类思维又天然性地带着歧视与不可消除的偏见。正如帕斯奎尔教授所说：“算法并不会杜绝基本的歧视问题，而那些负面的和毫无根基的假设会汇集成为种种偏见。算法由人类编写完成，那么人类的价值观会嵌入到这些软件当中。它们经常也必然在使用数据的过程中带入人类的偏见”。^[]

二、算法歧视的类型及表现

公众受到的算法歧视是多类型且可以归类的，根据歧视产生的时间来划分，可以分为原始歧视和喂养歧视^[]。

原始歧视，是指算法在开发设计之初，开发者便将其带有偏见的价值选择内嵌到代码之中或潜移默化地将偏见代入算法之中，也就是设置规则时便人为干预的对群体进行划分。只要在算法设计时进入了这样一种规则，在代码程序运行之后便当然的得到必然的结果。诸如，招聘软件的算法分析到用户是女性后，便不会推送高薪工作或者开发者认为不适宜女性的工作；网购软件分析到用户的肤色是黑色后，便针对性的投放“美化肤色”的广告，开发者的价值倾向便通过算法侵害了用户的平等权。

喂养歧视在现代社会出现得更为普遍，例如打车软件对忠实用户的定价高于普通用户；网购软件对用户的订单数据进行分析后推送购买价格区间的商品等等。简而言之，喂养歧视是指通过算法对数据的处理，联系与之初设的相关设置或目标，并进行自我学习而产生一种新的智能形式，从而使的人为歧视逐渐外露和显化的对外结果。只要系统获得了数据，便能通过算法进行自我学习，在难以察觉的情况下分析用户的特征、偏好、习惯、趋势等，尽管在一定程度上提高了效率，但也加深了既有的不平等模式，给用户制造了“信息茧房”。

三、算法歧视的规制现状

以“大数据杀熟”为主要表现的算法歧违背民法诚实信用基本原则，更是严重侵害了用户知情权与选择权。尽管算法歧视现象非常普遍，但我国司法实践中还并未出现以价格歧视为由且获得相应赔偿的案例。可以明确的是，目前我国还未专门制定以算法歧视为对象的立法，可能规制算法歧视的是《消费者权益保护法》《电子商务法》《反垄断法》《价格法》及《个人信息保护法》等。经过检索发现，我国司法实践并不支持以消费者公平交易权或知情权而主张商家侵权，尤其是在算法的技术壁垒下，举证的难度和请求权基础缺失都直接导致了维权困难。

随着大众和学者对该问题的持续性关注，国家市场监督管理总局于2021年8月17日发布的《禁止网络不正当竞争行为规定（公开征求意见稿）》第二十一条拟规定：“经营者不得利用数据、算法等技术手段，通过收集、分析交易相对方的交易信息、浏览内容及次数、交易时使用的终端设备的品牌及价值等方式，对交易条件相同的交易相对方不合理地提供不同的交易信息，侵害交易相对方的知情权、选择权、公平交易权等，扰乱市场公平交易秩序。交易信息包括交易历史、支付意愿、消费习惯、个体偏好、支付能力、依赖程度、信用状况等”对经营者利用数据所进行的分析与决策行为进行了严格规制；国家互联网信息办公室在同年8月27日发布《关于〈互联网信息服务算法推荐管理规定（征求意见稿）〉公开征求意见的通知》第十八条拟规定：“算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者合法权益，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实行不合理的差别待遇等违法行为”再次回应了公众关切。《个人信息保护法》第二十四条：“个人信息处理者利用个人信息进行自动化决策，应当保证决策的透明度和结果公平、公正，不得对个人在交易价格等交易条件上实行不合理的差别待遇。通过自动化决策方式向个人进行信息推送、商业营销，应当同时提供不针对其个人特征的选项，或者向个人提供便捷的拒绝方式。通过自动化决策方式作出对个人权益有重大影响的决定，个人有权要求个人信息处理者予以说明，并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定”在借鉴GDPR的基础之上对作出自动化决策和个性化推送的信息处理者提出了更严格的监管要求。

现行立法多是在条文中对算法及算法歧视零星的涉及，还未形成具有整体性体、系统化的规制体系。随着《个人信息保护法》的落地实施，我国个人信息保护以及算法治理相关规则总体而言逐步取得进展，通过完善立法的形式避免违法使用公民信息形成算法歧视。

四、算法歧视的规制对策

（一）伦理性规制

大数据时代，智能设备和技术的治理以其本身的“智”为前提条件，因而伦理性规制常被采用为首要方法。智能技术运用场合中不同主体间信息公平失衡造成了社会分配正义失衡和社会不公正现象的产生，规制的着力点则为破解信息垄断实现信息公平分配。按照分配正义理论，社会基本要素都应该不分主体和对象的平等分配，网络平台亦应如此，公民在数据的获取与传输、利用与被利用上都享有平等的权利。

个人权利与算法之间的冲突除了价值判断的加入，更是由于“算法黑箱”“算法歧视”“信息茧房”“信息霸权”等技术障碍所导致的。普通公民难以认识到这样一种复杂且具有较强专业性的技术，在网络空间中并不具有平等地位更不具有优势。因此，要消除公民与算法权力之间的不平等问题，要充分认识到“数字弱势群体”的诉求，恢复个人主体性及其应有权益。在对其进行伦理性规制时，要在设计算法时体现人文关怀。基于算法正义的要求，在算法设计阶段便要体现平等、自由的价值观，从技术内部融入良好价值，进而改变传统的设计模式，促进公平的数据分配，消除政府或市场主导企业利用算法对用户的权利限制或侵害。

（二）技术性规制

相比于伦理性规制，技术性规制更具有操作性和可行性。从分析算法的运行机制来切入对其技术规制，主要包括对信息基础设施的完善和信息处理活动的监管。

实现大数据治理的重要路径便是缩小城乡差距，经济发展水平与基础设施的不一致也是影响数字鸿沟的因素之一。导致信息公平失衡，除了算法不公正倾向之外，还有主体的信息技术低水平，要消弭失衡状态的重中之重就是完善基础设施，构建多种平台和数据库来降低某些企业和公民因信息接入障碍和使用困难造成的利益损害。此外，公民在算法进程中受到侵害，除了算法本身的程序瑕疵外，也与信息处理的规则设置直接相关。具体到实际操作中，监管部门应要求企业明确相关技术规则，且对该规则严格清楚解释到用户，厘定权利与义务的边界范围，尽可能实现不同对象的流程标准化与统一化，保证信息资源公平分配。

（三）制度性规制

在算法及信息侵权逐渐成为社会性问题时，对相应制度的反思必须予以关注。结合社会实践来看，对算法歧视的制度性规制主要依赖的便是出台相关的法律或其他规范性文件。

当下已经出台的相关制度规定信息处理者要推进算法公开和透明、公民合理合法行使算法解释权以保证个人的“知情同意”，以及从制度层面要求反算法歧视和行使算法拒绝权等。可以看出，对算法的规制已经开始试图构建体系，以加强信息处理者义务的方式从源头杜绝歧视现象的出现，针对性地解决了目前出现的重点问题。但，针对算法歧视的侵权问题还未有相应的规范，例如寻求保护时其权利基础是如何的？相应的证据如何固定才能证明是同一时段不同待遇？在已有立法基础上，各主体在面对大数据遭到侵害时的救济路径还未明确。

规则的弥补应由相关的制度来弥补：在争议解决程序中，可以加强信息处理者的举证责任，如采用举证倒置的方式来证明其算法过程中没有歧视现象；在信息处理过程中，对算法的运行程序和技术在不影响商业秘密的前提下进行公开，把监督的权力交回到社会和公众手中。

五、结语

每一种不公平的现象都有导致其产生的主要原因，算法歧视本质上是不同主体对信息的获取、接收、处理等过程中的不平等状态。尽管人类社会一定程度上仍存在着公平失衡状态，但追求公正、公平、自由也同样是社会正常运行应有之义。为了能让这项技术更好地服务于人类社会，技术专家、法律专家甚至其他领域的专家应该携手合作，解决算法歧视问题并构建化解对策，提升个体尊严，共同促进社会公平与社会正义的实现。

 

作者：四川法也律师事务所   俞  剑、杜金秋

来源：成都市律师协会网络与高新技术法律专业委员会

此文系作者个人观点，不代表成都市律师协会立场

欢迎全市律师踊跃投稿，投稿邮箱：cdlxxc@163.com