4个Uber司机认为，该公司的算法错误地指控他们欺诈。现在他们希望法院可以迫使公司披露其神秘的决策过程。
Shahid 就是其中一位Uber司机，新冠疫情期间，每周六日他都在伯明翰街道附近通过Uber平台接单。在过去的五年里，他为自己争取到了一个很不错的评分：4.96分（满分5分）的客户评价和金牌驾驶员身份，但就在8月初的一个早晨，他发现他无法登录系统接客了。谁能接单？赚多少钱？这些都是Uber算法说了算。该算法监测到他“对Uber平台持续不当的使用”并已禁止他使用该系统， 而他声称自己并没有违背相关规定。他表示，Uber还拒绝确切告诉他做错了什么。他所收到的信息写道：“我们没法给出确切的细节，只能给出不当使用的例子，包括：同时使用乘客和司机帐户、创建重复帐户、接受无意完成的订单、收费欺诈、安装及使用能够操纵司机APP和行程详细信息的软件。基于上述原因，我们决定终止合作关系。你将不能通过Uber App提供独立的服务。”根据Uber的条款，Shahid被定性为“欺诈者”。尽管他否认有任何错误行为，但并没有任何上诉的途径。瞬间他失去了70％的收入，此后只能靠打车平台Ola谋生。Shahid不是唯一一个陷入类似困境的司机。2019年7月，也就是Shahid被取消运营资格一年前，Ali 在伦敦打开Uber准备上班却发现他无法登录。他收到Uber的信息，说他的帐户已被标记为“违反Uber的 条款和政策”。信息写道：“审查你最近的行程时，我们发现许多与欺诈有关的非正常行程。你的帐户已被标记为不当使用，因此已被停用。不幸的是，停用是永久的。”作为4个孩子的父亲，Ali宣称该APP是错误的，像Shahid一样，他否认有任何不当行为。他是个全职Uber司机，几个月前刚刚筹资买了一辆价值29000英镑的汽车，以使Uber APP可以评估他的车为商务车 。被解雇后，他还得为一辆无法使用的汽车偿还贷款。“在过去一年半里，我持续给Uber发送电子邮件、打电话，至少有50、60次。我遇到了困难，我恳求他们但没有回应。”Ali说。Shahid和Ali对Uber提起了诉讼，指控该公司通过算法对他们进行“攻击”。在这4名司机中，3名来自英国、1名来自葡萄牙，他们声称没有参与欺诈活动，Uber也没有拿出任何证据能够证明将他们开除是合理的。Uber也没有向警方报告这4名司机的欺诈行为。根据相关法律（https://www.adcu.org.uk/news-posts/app-drivers-couriers-union-files-ground-breaking-legal-challenge-against-ubers-dismissal-of-drivers-by-algorithm-in-the-uk-and-portugal），法院应否决导致司机被解雇的算法，并强迫Uber分享其收集的相关司机以及用于解雇他们的信息。这是根据《通用数据保护条例》（GDPR）第22条提起的首单此类诉讼。欧盟在2018年颁布了GDPR，该条款旨在保护用户数据，允许欧洲公民在认为算法（或仅由算法）作出与他们相关的决定时提供详细信息。如果他们获得成功，那么大量其他法律纠纷将随之而来。代表4名司机提起诉讼的“司机和快递员应用联盟” （App Drivers＆Couriers Union，ADCU）表示，自2018年以来，已经有超过1000多个私人案件，这些案件均是因为算法的错误导致司机被误认为存在欺诈行为，致使账户被立即中止且无权申诉。ADCU的司机代表James Farrar认为，Uber不能证明在其禁令中存在“有意义的”人为干预，因为司机在提出诉求时得到的都是自动回复。该论点是针对Uber索赔的核心，根据信息专员的观点（https://ico.org.uk/about-the-ico/news-and-events/ai-blog-automated-decision-making-the-role-of-meaningful-human-reviews/），如果人工智能系统仅用来支持或增强人类的决策能力，那么它将不受这些条款的约束。但是，一项决定不能仅仅因为已经“盖章”而超出GDPR第22条的范围：人类需要有意义的投入。英国信息专员办公室（Information Commissioner's Office，ICO ）和欧洲数据保护委员会（ European Data Protection Board）都曾表示，审阅人员必须积极参与检查系统生成的建议，并且不应“例行的”将自动生成的结论应用于个人；而且人类的参与必须是积极的，而不仅仅是象征性的姿态。指导意见指出，人应该对决策产生实际影响，具备审核系统自动生成建议的“权限和能力”。但这些疑议并没有考虑到Uber算法中嵌入的新信息。Farrar声称，自从Uber去年推出实时ID验证技术以来，自动解雇的情况有所增加，以帮助解决其与伦敦交通局（TfL）的许可证问题。他说，TfL在此解雇过程中是“负有连带责任的”，因为该机构促使Uber进行实时验证，这反过来又导致Uber“紧急上线有缺陷的技术并加剧了现有问题”，但是对此TfL拒绝置评。实时ID技术会定期要求司机为自己拍照以进行验证。然后，将这些自拍照与帐户持有人的个人资料图片进行匹配，然后再根据驾照进行检查。如果驾驶员未通过ID检查，则他们的帐户将被暂时停用，等待进一步检查，然后可能无限期地被停用。但是这项措施并未得到伦敦的交通运输当局的认可。在发现14000次行程中的43名司机在APP上伪造身份后，当局决定吊销Uber的伦敦牌照。涉案的41名驾驶员被TfL吊销了驾照（其中2人无牌）。Uber成功赢得了之后的上诉，获得了在伦敦运营的18个月临时许可证。9月28日的判决书指出，Uber与TfL之间的沟通已有所改善，法院对公司为保护客户对平台所做的改进感到满意。但是这种交涉并不一定要延伸到司机，他们长期以来一直抱怨Uber算法不够透明。算法为决定谁获得工作以及获得多少报酬奠定了基础，并针对不端行为、迟到等问题的对司机进行评分。2020年1月，Uber为英国的司机实施了一项名为“忠诚”的计划，提供免费的教育课程、路边援助、健身房会员资格和汽车保养打折，司机可以通过每趟行程积累的“积分”来换取相关服务。Uber 鼓励司机接受行程以达到各个状态：蓝色（基本级别）、金（伦敦500点，其他地区600点），白金（伦敦900点，其他地区1200点）和钻石（伦敦1300点，其他地区1800点） 。但司机表示他们不知道该算法如何通过这个分级系统来确定上车的乘客会是谁。当司机不想接客时会发生什么？这一点也无从得知。ADCU指的是Uber的共享准则，该准则将欺诈行为定义为拒绝派单以及为等待更高的溢价而选择性的退出登录。该机构指控Uber将原本属于业绩原因而导致的解雇行为伪装成因欺诈行为而导致的解雇行为，以此来减轻它本应对司机们履行的义务。新冠疫情期间，被Uber停用的司机一直在努力弥补收入损失。英国第3位向Uber提起诉讼的司机Ravi说：“目前我为Bolt、Ola和FreeNow工作（类似于Uber和滴滴，都是一站式出行平台），疫情很可怕。我每天从凌晨5点开始工作，到下午2点左右能赚27英镑，这比以前少多了，以前每天可以赚到150到200英镑。”在伦敦被解雇的司机将有14天的时间向TfL解释为什么他们不该被解雇，但问题是他们不知道自己被指控什么，或者如何证明自己的清白。本周启动的GDPR索赔所涉及的2名司机表示，今年夏天Uber分别与他们取得了联系，那已经是他们被解雇一、两年之后了。Farrar表示：“这是监管疏忽，向司机求证他们几年前所做的事情并不是真正明智的执法，由于TfL忽略了司机的工作条件，这种行径实际上使得实际操作的合理性更差了。”https://www.wired.co.uk/article/uber-fired-algorithm
实习/全职编辑记者招聘ing
加入我们，亲身体验一家专业科技媒体采写的每个细节，在最有前景的行业，和一群遍布全球最优秀的人一起成长。坐标北京·清华东门，在大数据文摘主页对话页回复“招聘”了解详情。简历请直接发送至zz@bigdatadigest.cn
