案例资料摘要 | 开放性编码 |
网约车企业能够获得海量消费者及行为信息,包括用户电话号码、地理位置数据、信用卡号等。例如乘客下车之后,Uber应用还在记录乘客信息,因为平台对信息的聚集和利用重建了个体之间直接交易的可控环境。 | A1隐私泄露 A2用户数据不安全 A3实施数据定位 |
同一时间、同样3部手机、同一始发点及终点,路线为松坪村公交站–田心酒店,不同平台的拼车费用为微信第三方56.7元、微信小程序58.2元、App 57.8元,价格幅度为1%~2% (排除优惠券影响) | A4大数据杀熟 A5价格歧视 A6损害消费者利益 |
近年来,“美滴大战”、“杀熟”事件以及算法共谋使公众质疑了网约车平台有意损害消费者福利并实施不正当价格竞争;由于使用Uber App的司机基于Uber算法设定的价格收取车费,司机之间不会展开价格竞争,并且司乘双方也无法就车费进行协商,因此用户主张Uber与个体司机签订的纵向协议导致司机之间存在横向合谋。 | A7不正当价格竞争 A8诱导接受 A9签订协议 A10市场垄断 |
人们模糊知道自己被推荐的内容与自己观看某个领域内容的次数、时长等使用数据有关,但具体的计算规则以及详细权重等参数是看不到的。由算法黑箱所输出的个性化推荐内容减少了筛选信息的决策成本,提升了获取有效信息的效率,但其也将进一步推进算法权力的扩张,从而引致信息鸿沟。 | A11处理不透明 A12信息不公开 A13资源不公平 A14决策被干预 |
网约车平台通过提供统一的算法来控制相关市场并限制该市场中经营者之间的竞争,以追求利益最大化。算法的自动性和技术性使轴辐类算法共谋更具隐蔽性。轴辐类算法共谋由轴心网约车平台通过算法这一高度复杂且不透明的技术手段来实现。网约车平台通过收集和分析大量数据,在特定条件下自动确定或调整价格,形成了一套定价策略机制。 | A15限制竞争 A16技术不透明 A17协同效应 |
电商平台经营者在营销过程中为了攫取最大化利润,通过技术手段收集客户信息,再对这些信息加以分析测算,实现对客户的分类“画像”,进而根据消费者的消费能力和消费水平对其进行区别定价。 | A18客户信息曝光 A19经济水平区别 A20用户画像 |
经营者可以以较低的成本建立庞大规模的用户信息库,对用户实施精准营销。一旦用户信任并依赖该经营者时,用户将会把交易信息、浏览记录、工作信息等更多的关键信息固定在此,形成长久且稳定的依赖关系 | A21个人信息泄露 A22精准实施营销 |
该网友在3月7日在购物网站天猫超市用会员账号和非会员账号查看同一种饮品的价格,发现在同一时间同一界面中,会员比非会员价格高11元,结算时非会员免运费,会员反而要支付5元运费。 | A23价格歧视 A24平台数据杀熟 |
2018年5月27日,多位网友反映携程网预订酒店同房不同价。2018年10月,知名作家王小山在微博上称,偶尔发现通过自己经常使用的飞猪应用软件在预订同一航班机票时比其他人贵了1000多元。 | A25平台数据杀熟 |
电商平台的经营者滥用算法权利,过度挖掘和使用在线消费者的个人数据,不仅会破坏社会的信用环境,更会严重扰乱整个网络交易的秩序。 | A26算法权利被滥用 A27算法数据被扰乱 A28数据挖掘 |
其一,AI算法下,求职者们获得的数据信息存在差异,有失机会公平;其二,求职者对智能招聘中的算法了解甚微,从而无法得知自身数据与最终录用结果的联系,有失过程公平;有偏见的推送及筛选最终导致录用结果不公平,有失结果公平。 | A29推送偏见 A30数据歧视 |
线上交易过程往往形成浏览记录,交易平台对这些记录进行积累,形成交易大数据。算法对这些大数据的不当应用可能会给就业市场带来不利影响,例如通过购物平台交易记录来预测用户的性格、身体状况等。 | A31浏览记录泄露 A32对用户进行数据分析 |
在“招聘漏斗”的“筛选”阶段,算法会扫描求职者的简历,识别与成功招聘相关的关键词和特征信息,如工作经历、历任雇主、学历证书等,之后算法衡量每一个指标的分数并为每一个候选人进行评分排序。 | A33信息歧视 A34筛选门槛歧视 |
算法决策者可能以侵害算法决策对象的利益为代价故意操纵“人机交互决策”,与算法决策者和算法决策对象之间的“信息鸿沟”密切相关。算法开发者对于“结果变量”的设定往往是受到效率或者利益的驱动,可能导致算法技术在实际运行中产生歧视性后果。 | A35利益驱动 A36技术歧视 |
在劳动就业领域,算法基于对性别、工作表现、健康状况、行为偏好等数据的自动化区分、评级、排序和决策,所得出的结论可能影响人们的公平就业。“大数据–算法”决策模式传达给求职者、劳动者的数据信息差异会产生就业数据权限不平等,造成不公正的后果。 | A37数据差异不平等 A38信息自动区分 |
对于短视频运营商来说,为了获得更多的曝光率和经济驱动,很多内容制作商不得不依靠抖音的算法推荐,制作出符合相应推荐逻辑、迎合平台算法需求的内容,从而形成内容生产垄断。网络管理法规较网络数字发展落后、法律效力低等,导致网络空间建设工作任务困难。 | A39迎合平台需求 A40获得更多曝光率 A41平台发展落后 |
用户一开始可能只是出于好奇,或是为了学习某项技能接触这一类浅层次的信息,但算法却有可能将其一次性点击解读为深层兴趣。另一方面,受制于日常心境的变化,用户可能在心情不好时点击主题比较颓丧的视频,或在肚子饿时观看吃播视频,抑或是在失恋时关注情感治愈类视频。但是这种情绪并不是持续性的,用户也不需要平台一直推荐这类视频。 | A42用户需求偏差 A43平台审核质量差 |
短视频推荐算法中内嵌了用户偏好、社交关系、公共议题、场景、差异化和平台优先级六大价值观念要素,反映出流量至上和商业利益优先的算法价值观,以此为依据的短视频推荐算法实践带来了隐私泄露、信息窄化和算法歧视等伦理问题。 | A44隐私泄露 A45信息窄化 |
算法技术在信息采集、特定推送和个性定价三个阶段,以信息输入、数据整理、算法决策与幕后控制等运行环节为切入点,对消费者实施多阶段多环节的“显性歧视”或“隐性歧视”。算法歧视消费者使算法技术偏离工具理性,损害消费者权益,破坏市场竞争秩序。 | A46幕后控制 A47算法技术偏离工具理性 A48损害消费者权益 A49破坏市场竞争秩序 |
推荐算法尽管可以精准地向受众推送其感兴趣的内容,降低其搜寻成本,然而推荐算法过度强调技术理性与推送精准性,使受众丧失了对多样化内容获取的渠道,陷入“信息茧房”,部分平台还存在算法歧视。 | A50需求固化 A51内容窄化 A52精准推送 |