财新传媒

算法公平与算法治理的国际经验与中国探索

来源于 财新《中国改革》 2022年第3期 出版日期 2022年05月01日
算法公平与算法治理在中国呈现“1+N+1”政策体系这一现实格局
美国总统大选争议引发公众对社交媒体算法治理的广泛关注。普遍认为,2016年美国大选中,特朗普意外当选正是受益于他的人工智能算法团队对选民意愿的精准操纵。图 :Olivier Douliery/视觉中国

  文丨陈玲 孙晋 薛澜
  清华大学产业发展与环境治理研究中心

  中国正进入全场景人工智能算法时代。人工智能算法既被广泛应用于线上消费场景,也被大规模用于日常生活的方方面面。在日常生活方面,在私人部门,每天人工智能算法形成了超过2600万单出行推荐;在公共部门,人工智能算法广泛参与交通信号、地铁班次、路灯照明和交通系统运维管理。

  但与此同时,大规模应用的出行商旅领域,也成为较早暴发算法应用争议的“重灾区”,引发了“算法公平”的社会大讨论,进而对算法治理秩序的完善提上日程。

时代需要算法公平

  围绕着“算法公平”的代表性争议案例,是出行商旅领域“大数据杀熟”。《人民法院报》2021年7月13日公开的中国“大数据杀熟”第一案中,携程平台有违公平,将挂牌价1377.63元的商旅商品以2889元高价出售给享受8.5折优惠价的钻石贵宾客户。最终,法院判决携程赔付差价,支付3倍差价作为赔偿金,并要求携程修改“服务协议”和“隐私政策”,去除对用户非必要信息采集和使用的相关内容,修订版本需经法院审定同意。

版面编辑:李东昊
财新私房课
好课推荐
财新微信