南方财经全媒体实习记者吴立洋实习生李紫瑄广州报道
9月10日，在人力资源和社会保障部在平台企业管理指导会议当天，美团公司首次披露了骑手交付时间的计算规则，并介绍了预计交付时间背后的算法逻辑。在此之前，由于对乘客送货时间的苛刻要求，送货平台受到了社会的广泛批评。
2020年9月8日，《外卖骑手，困在系统里》今年5月,，北京大学社会学博士于2018年加入了北京第一骑手队，并提供了五个月的外卖。他的论文基于这项实地调查，阐述了乘客站台的“劳动控制”机制，这再次引起了公众对站台算法的质疑。
算法就像一个巨大的黑匣子，平台的最终用户不仅看不到整个画面，而且也看不到算法的解释。因此，不信任继续累积，披露算法的声音越来越强。
在国家对平台和资金监管力度不断加大的背景下，美团率先做出回应。
美团公共部分算法
9月10日，美团在其官方微信上发布公众号该网站上发布了一条题为“让交付算法更透明，让更多声音参与改变”的推文。文章宣布，美团外卖订单页面上显示的预计到达时间将是四个计算结果中最长的。这四个结果分别基于订单细节、区域供需和其他信息，基于城市地理和交通特征，基于从用餐、到达、乘车和配送四个时段的累积，以及基于不同的配送距离。
文章还说，美团正在进行两次连续的反复调整，以进一步减轻乘客的压力。首先，它将为非正常情况下的车手提供时间补充，例如慢餐、恶劣天气、节假日订单急剧增加以及难以进入社区。其次，在某些异常情况下，它会将“预计到达时间”更改为“预计到达时间段”。
但这只是整个配送算法的策略部分，Meituan只公开了计算配送时间的维度，没有具体的细节，而且这种策略没有特殊性，在产品设计中考虑这些因素是很正常的。广州的一家人工智能企业算法工程师在接受《21世纪经济报道》记者采访时，他指出，“这篇文章更多的不是关于披露技术，而是解释他没有挤压外卖工人。归根结底，这是一种姿态的表达。”
美团做出这样的选择并非毫无根据，外卖平台的算法问题也一直受到批评。
上述报告和研究直接指向了将该算法应用于外卖经销商管理的道德困境，即平台为实现效率最大化而设置的一系列严格算法，从订单分配、配送时间计算、路线规划、奖惩规则等方面，给外卖经销商的工作带来了巨大的压力和风险休闲经济在这种模式下，如果发生人身事故，很难保护外卖工人的劳动权益。
近年来，国家有关部门的重视和监督力度也有所加大。7月26日，国家市场监督管理局，国家网络信息办公室、国家发展和改革委员会、公安部、人力资源和社会保障部、商务部中华全国总工会，由七个部门联合发布《关于落实网络餐饮平台责任 切实维护外卖送餐员权益的指导意见》，指出考核要求不采用“最严格算法”，通过“算法获胜”合理确定订单量、准时率、上线率等考核要素，适当放宽配送时限，督促平台和第三方合作单位为建立劳动关系的外卖人员购买社会保险。
8月27日，国家互联网信息办公室发表于《互联网信息服务算法推荐管理规定（征求意见稿）》《公众咨询通知》要求算法推荐服务提供者以适当的方式宣传算法推荐服务的基本原则、宗旨和运行机制，并接受社会监督。
“这可以被视为公共关系的早期危机。”上海大学新闻与传播学院副教授洪长晖在接受《21世纪经济报道》记者采访时表示，美团之所以公开算法规则，与其说是为了让自己的操作透明，不如说是为了回应社会关注，回应社会对乘客和平台之间不平衡关系的担忧，回应社会对互联网平台对用户影响的担忧以及对员工权益保护的担忧。
美团回应了，但公众对算法的质疑是否得到了解答？
洪长晖认为，美团对分配时间算法决定的部分披露可以部分回应公众的质疑，但不会消除所有的质疑。“尤其是当损害乘客或消费者权益的极端案件再次出现时，质疑的声音将再次被放大。”
配送时间的优化策略已经公开，但也有无数算法“将配送乘客困在系统中”，比如配送路线的系统导航是否合理，乘客看到的所需配送时间是否与用户看到的预计到达时间一致，以及商家是否慢餐，消费者不合理要求造成的后果是否由骑手承担等等，仍然隐藏在算法的黑盒中。
算法公开的困难是什么
从美团披露的计算规则到相关的论文和报告，调查人员花费了大量精力来找出外卖平台算法的一些潜在逻辑，这揭示了算法披露的复杂性和难度。
作为一项与其核心商业利益相关的技术，算法受到多层专利的保护，不容易披露和出售。上海一家通信设备制造商的算法工程师表示，“算法是用计算机解决问题的一组程序和指令。原始算法模型经过反复验证后可以正常运行，这形成了技术障碍。保密的重要原因是防止竞争对手学习和破译。”。
但算法披露并非完全前所未有。“算法内容成熟，大家都在学习，不会影响公司的技术壁垒，仍将公开。”前述广州算法工程师表示，例如，美团的技术团队一直在其官网上撰写文章，分享一些介绍算法组成和实现原理的技术，省略了技术细节，为了让业界了解美团目前的成就。开源和托管软件github事实上，一些企业也会公开一些算法的源代码和技术细节，以便交流和学习。
然而，这种技术共享和源代码公开的方法很难对非编程公众和监管机构有实际参考价值：许多接受采访的专家告诉记者，平台的算法通常由一个技术团队编写，每个团队只负责一小部分，为了形成一个完整的算法系统，该系统可以实现基于数据集的自迭代和优化，也称为机器学习。数据集随着用户的增长而不断更新。一个拥有数千万甚至数亿用户的平台将拥有非常复杂的数据集，因此算法模型将更加复杂，并且无法手动控制。
因此，算法工程师本身可能无法解释整个算法系统的整体情况，这使得公众和监管机构更难理解其工作原理，判断算法在编程或机器学习方面是否存在歧视和偏见，杀死熟透的，侵犯隐私和其他问题。
值得注意的是，当前算法的复杂性迫使出现了另一种算法的开放方式——以易于理解的方式解释算法。然而，美团披露的“预计到达时间”计算规则反映了算法的解释存在模糊空间。根据中国人民大学法学院丁晓东副教授的论文《论算法的法律规制》如中所述，“基于大数据的算法所需的因果关系解释与可解释性具有完全不同的逻辑”，因此算法的解释也很困难。
如何提高算法的透明度
算法披露的法律监管已经开始推进。上述通知《互联网信息服务算法推荐管理规定（征求意见稿）》，规定算法推荐服务商应当制定并披露算法推荐的相关服务规则，对用户提供算法推荐服务进行重要告知，并公布基本原则，算法推荐服务的目的和运行机制。
上海申伦律师事务所律师夏海龙介绍，本部门的规定正式实施后具有法律效力，是人民法院审理相关案件的重要依据。它们可以要求企业公开算法，但对公开方法没有统一具体的形式或格式要求。
被称为“历史上最严格的数据保护法规”欧盟《通用数据保护条例》它还规定，公司应以清晰明了的语言解释个人隐私信息的处理过程，但尚不清楚该解释什么以及如何解释，这对不会侵犯专利的用户和监管机构来说是一个有意义的解释。
可见，法律层面仍在摸索如何提升算法透明度。另一方面，学术界也有很多研究。丁晓东《论算法的法律规制》指出算法公开不是对通用算法架构或源代码的公开和解释，而是对有意义的具体决策系统的公开，即关注相关算法和数据对主题的影响。
“例如（可以披露）数据主体相关数据的决策将发生哪些方向性变化，用于培训的数据记录与数据主体的数据最为相似，被划分为特定类别的数据主体的主要特征是什么，数据主体分类系统的信任区间是多少。“丁晓东在论文中引用了爱德华兹和维勒的分析。
同时，如果普通用户能够解读公开的算法，算法的透明性将更有意义。洪长晖还就如何提高公众对算法的理解发表了自己的看法，“首先，我们应该调动用户理解算法的积极性。其次，我们应该从整体上提高用户的知识素养，特别是数据素养，即人们阅读、理解、创建和传输数据并将其提取为信息的能力。一般来说，这种能力越高，开放的呼声就越高算法越简单，对算法规则的理解就越好。”
有关更多信息，请下载21财经应用程序
最新评论