国家市场监督管理总局主管

中国消费者协会主办

维护消费者合法权益,引导消费者合理消费

当前位置:首页 > 要闻
不公平的算法侵害消费者权益 专家建议消费者组织可提起公益诉讼
2021-01-11 18:31 本文来源:中国消费者报•中国消费网 作者:任震宇

中国消费者报报道(记者任震宇)算法本身是一种技术手段,合理的利用算法,可以提升经营效率,为消费者提供更丰富、优良的产品和服务。但近年来,一些经营者以不公平的算法侵害消费者合法权益,如大数据杀熟、搜索引擎竞价排名、网络直播推送违反法律规定和公序良俗等,引起了社会广泛关注。

近日,中国消费者协会在京召开“网络消费领域算法规制与消费者保护座谈会”。来自高校、法院、研究机构的专家学者、律师、地方消费者组织和消费者代表参加座谈会,围绕如何规制网络消费领域算法,保护消费者权益的话题进行了深入的探讨。

消费者:不公平的算法侵权让维权更困难

消费者张先生是网游爱好者,他告诉记者,现在网络游戏市场存在不少欺诈消费者、损害消费者权益的现象。

2016年,文化部发布《关于规范网络游戏运营加强事中、事后监管工作通知》规定,网络游戏运营企业采取随机抽取方式提供虚拟道具和增值服务的,不得要求用户以直接投入法定货币或者网络游戏虚拟货币的方式参与。网络游戏运营企业应当及时在该游戏的官方网站或者随机抽取页面公示可能抽取或者合成的所有虚拟道具和增值服务的名称、性能、内容、数量及抽取或者合成概率。公示的随机抽取相关信息应当真实有效。

“部分游戏公司并未严格遵守这一规定,采用多种手段对这一规定进行了规避。”张先生举了个例子,芜湖叠纸公司开发运营的游戏《闪耀暖暖》中,抽取获得虚拟道具分为4个档次,普通、稀有、非凡、闪耀。但是该游戏仅公布了每个档次的道具获取概率,并没有细化到具体道具获取。根据很多玩家的反馈,以及一些游戏攻略组的概率测试,价值比较高的道具裙子,在抽取时往往是最后一件获取的道具,明显不符合平均分布的概率规律。这说明在公示概率之外,对于同一档次不同道具可能存在未向玩家公示的后台机制。

张先生说,游戏公司往往采取各种各样的方式规避相关的法律法规,消费者个人想要通过合法手段维护自身权益非常困难,希望通过完善相关法律法规,健全互联网消费领域的监督监管机制,建立科学有效的消费者维权通道,从制度上根据杜绝互联网服务提供者对对消费者利益的损害。

消费者组织:缺乏算法领域第三方权威认证

“通过不公平的算法侵害消费者利益隐蔽性很强,维护消费者权益存在不少困难。”安徽省消费者权益保护委员会秘书长丁涛告诉记者,他们也接到过不少消费者对《闪耀暖暖》游戏的投诉,主要反映的也是游戏抽奖概率,占相关投诉总量的40.8%。

但在处理这些投诉过程中,他们也发现存在不少困难。首先是缺乏明确的处理规则,国家新闻出版广电总局、工业和信息化部出台的《网络出版服务管理规定》对网络游戏监管的规定比较简单,主要集中于出版发行管理方面,对于通过算法侵犯消费者权益的问题缺乏具体规定。

更大的问题在于缺乏权威的认证机构。丁涛告诉记者,运营《闪耀暖暖》的芜湖叠纸公司提供的整改报告称,几乎所有网络游戏均存在随机抽取的游戏系统,概率计算基础是全部相关数据,而不是有限局部数据,局部不能代表整体,所以对消费者投诉的内容不认可。该公司还对概率进行自证,称测试的实际概率和公示的概率相吻合。

丁涛说:“芜湖市消保委曾和市区两级市场监管部门、文旅部门、公安部门等相关部门联手,共同对叠纸公司存在的算法概率等问题进行调查核实,但因为对概率规则等问题缺乏专业的认定能力,也找不到权威第三方机构进行认定,使调查受到一定的阻碍。这个问题目前也没有得到很好的解决。”

北京市消协副秘书长陈凤翔表示,通过不公平的算法侵害消费者权益的不仅仅体现在网络游戏中,大数据杀熟、定向精确推荐广告等,也和各种算法扯不开关系。

陈凤翔认为,算法本质就是互联网的编程技术,有的编程者不懂法律,在编程过程中就可能会侵害消费者的权利。此外,技术演算造成消费者的伤害,可能是某种算法歧视。经营者通过算法进行大数据杀熟或者其他侵害消费者权益,具有隐蔽性、技术性和复杂性的特点。建议法律界应该加强这方面的探讨,健全相关的法律法规。消费者组织也可以考虑对算法侵犯消费者权益的经营者提起公益诉讼,推动社会各界协同共治。

专家观点:

不公平的算法侵害消费者权益

算法本身只是一种技术工具,没有价值观。中国政法大学副校长时建中认为,算法本来应该是中立的,但是算法一旦被商业化之后,就成了商家经营目的的工具,所以算法必然体现商家的价值观。算法的开发和算法的应用必须要道德化、法制化,至少可以进行道德评价和法律评价。算法本身的开发、算法本身的应用,都要坚持透明原则,要解决诚信问题。对应用算法的企业所实施的行为除了要进行道德评价、法制评价,还要强化企业的社会责任评价。

对外经济贸易大学法学院教授苏号朋表示,不公平的算法对消费者所造成的侵害,首先是对公平交易权的侵害。公平交易权是《消费者权益保护法》赋予消费者的重要权利,但在很多算法实践案例中,消费者公平交易权往往受到损害,例如外卖软件,算法让老顾客的等待时间可能更长。其次是对知情权和选择权的侵害。主要体现为在算法作用下,扭曲或隐瞒一些信息,或者它所提供的信息与实际不符,造成欺诈,或者误导了消费者的选择。

清华大学法学院副院长程啸也表示赞同,他认为,算法使得经营者和消费者之间信息不对称越来越严重。企业通过不公平的算法,用很低的成本对消费者采取有针对性的营销策略,本质上扭曲了市场竞争的公正性。本来是竞争关系的企业,但由于不公平买的算法,导致他们客观上合谋,共同故意垄断市场,侵害消费者权益。

发挥市场机制作用引导算法公平

对于不公平算法的危害,已经有了共识,但对于如何规制算法,保护消费者权益,一直有两种意见,一种是认为应该更多尊重市场的选择,利用市场力量使得算法得到有效规制;另一种则认为应该政府职能,保护消费者利益,规制不公平算法。

苏号朋对记者说:“应该首先用市场的力量规制算法,市场力量包括企业自律、行业协会的作用,消费者自己的努力,如果在这些手段无法达到有效规制的目的,那政府的规制还是非常有必要的。”

苏号朋认为,首先要规范企业对消费者数据的获取和使用,强调对个人信息的保护,限制企业过度获取和使用消费者数据。二是要求算法透明化。三是强调可追责,对于不公平的算法对消费者的损害,可以追究法律责任。对于算法的监管,一方面要以对互联网监管包容审慎的政策为基础,但在某些特别领域可以加强严监管,比如严重的侵害消费者权益的电商平台“二选一”问题、大数据杀熟问题,就需要更加严格的监管,以个案的方式引导企业在算法领域提高消费者保护水平。另一方面,对于推荐型算法,可以考虑允许消费者关闭此类定向推荐功能,从基本技术角度实现商家和消费者之间相对的平衡。

北京计算机学会数字经济专委会秘书长王娟表示,行业协会和第三方专业组织可以对平台企业算法规则进行规范和自律性约束要求,还可以进行一些测试,便于建立行业标准规范,并为立法做准备。互联网行业巨头也可以将数据交易公平性展示给社会,作为履行企业责任的一部分。

程啸则认为,有的问题可以通过技术方式来解决,比如可以鼓励针对市场有垄断地位企业的算法采取反制措施的算法的研究,用算法针对算法,促使算法之间产生相互的竞争关系,从而重塑市场竞争机制。

遏制不公平的算法滥用需要法律出手

除了发挥市场机制作用,完善相关法律,加强政府部门监管,也是遏制不公平的算法滥用的重要方式。

北京清律律师事务所主任熊定中告诉记者,对算法的监管,应该有所为有所不为,有三个领域的算法必须加强监管,首先是可能影响到公共安全的算法,例如外卖跑腿平台,如果平台的算法给骑手配送的时间让他只能违反交通规则,逆行送达,就是违反公共安全,应该进行监管。其次是跟生命相关的算法,也应当被监管机构、司法机构所关注。最后是涉及到老百姓财产的相关算法,比如大数据杀熟,不同的人给不同的定价,这种行为涉及到利用数据优势地位进行辨别,一个人一个价,这就需要加强监管。而且不管相关企业是否占据市场支配地位,都应该一视同仁进行监管。

中国政法大学传播法研究中心副主任朱巍则认为,算法其实没有那么高深,就是一个商业规则,希望法院判出几个把算法明确定性定位的案例。对于不公平算法滥用的现象,建议中消协以及消费者组织可以提起消费民事公益诉讼,对滥用不公平算法的企业形成震慑。此外还可以考虑在国家层面建立一个算法道德伦理委员会,它的职能是通过法律、监管、道德等方式干预算法的开发。大的互联网平台企业应该承担更多的道德责任,消费者组织应该更多盯着头部互联网企业,如果头部企业在严格的监管下规范了自己的算法,它就会盯着其他企业,因为它要防止其他小企业用不公平的算法吸引走自己的流量,它会想方设法要求其他企业达到和自己一样的标准。

北京互联网法院法官孙铭溪也支持消费者组织针对不公平算法提起公益诉讼,她表示,在司法实践中,一般不会轻易要求企业公开披露算法,进行算法评价。如果消费者组织发现企业利用算法大规模侵权,对此提起公益诉讼,就符合算法披露的原则。

责任编辑:47