禁用人脸识别四个月后,旧金山人证明了他们的先见之明
从便利到恐惧
一百年来,旧金山时刻保持着自由捍卫者的先锋姿态。
四个月前,2019年4月5日,当旧金山监事会(The San Francisco Board of Supervisors)通过一项法案,禁止政府部门(受联邦政府管辖的机场、港口等出入境场所不在此例)使用面部识别技术,并规定城市机构在购买其他类型的监控技术之前获得城市议会批准,例如自动车牌阅读器和支持摄像头的无人机。
人们对于这种旧金山式的姿态习以为常,甚至还有人觉得旧金山人又左又作,走得太前。作为一座孵化出一批如雷贯耳互联网品牌的城市,同时也作为自由主义的堡垒,对于技术的破坏性一面,旧金山无疑比世界上其他城市要更早察觉到,而面部识别技术已经被视为是最恐怖的技术之一。
旧金山出台这项地方禁令之前,面部识别技术已经在美国被大范围应用。
据纽-约时-报的报道,美国已经在绝大多数机场的海关和大型体育场所使用面部识别技术,国际旅行者站在机场的摄像机前,系统将他们的照片与护照申请中提供的照片快速匹配,较之人工审核节约了大把时间;此外,还有一些城市使用面部识别技术,对无家可归者使用避难所的情况进行追踪调查;超过30个州允许地方或州当局或FBI搜索他们的驾驶执照照片,认为可以帮助执法部门更有效地制止犯罪。
批评者主要担心的是,面部识别技术的快速扩散,可能已经超过了政府对于保护个人自由和隐私的能力。由于面部监视能够可以在不知情或不同意的情况下,识别远距离或在线人员的身份和行为,因此,北加州ACLU的律师Matt Cagle认为,这项技术“为政府提供了前所未有的力量来跟踪人们的日常生活,但这与美国的民主传统并不兼容。
在美国,面部识别技术还引发一些当地特色问题——一份名为《性别阴影》(Gender Shades)的研究报告称,IBM和微软的系统在识别白人男性面部的性别方面,要比识别黑皮肤或女性面部的性别精准度方面要好得多。为此,一些NGO组织曾呼吁亚马逊停止将其技术出售给执法部门,警告非洲裔美国人,妇女和其他人很容易被错误地认定为嫌疑人并被逮捕。
继旧金山之后,同处于加州的奥克兰和马萨诸塞州的萨默维尔也相继出台了禁止政府使用面部识别技术。
以安全之名
相比之下,欧洲则要谨慎得多。
欧盟在2018年出台的GDPR规定,公司在收集用户包括面部等生物特征数据之前,必须经得个人同意,如有违反,企业可以被罚款金额可以达其全球收入的4%。
甚至以监督学生名义所进行的面部识别也被欧洲人视为非法。
前不久,瑞典数据保护局(DPA)对Skelleftea市政府开出了20万瑞典克朗的罚单,理由是非法使用学生的敏感生物数据。Skelleftea市政府此前进行了一项实验,目的是监督当地两所高中的22名学生每天进入教室的时间。根据DPA的裁决,虽然学校确保家长同意监督学生,但监管机构并不认为收集此类敏感个人数据是合法的充分理由。监管机构指出,虽然学校的某些部分可以被视为“公开”,但学生在进入教室时对隐私有一定的期望。这也是瑞典在GDPR下开出的第一笔罚款。
以维护公共安全之名进行的面部识别,也在英国遭到大规模抗议。
针对今年早些时候,英国伦敦大都会区警察局在伦敦进行的面部识别锁定犯罪嫌疑份子的试点试验。这项实验是国家数据分析解决方案(NDAS)的一部分,该方案计划使用来自地方和国家警察数据库的超过1TB的数据,包括被拦截和搜查的人员的记录以及所犯罪行的记录。从数据中可以识别出大约500万人。批评者认为,通过对过去逮捕记录进行预测,可能会加剧算法偏见。不久前,埃塞克斯大学(University of Essex)发布的一份长达128页的报告指出了面部识别(LFR)技术的方式存在的重大缺陷,并呼吁伦敦大都会区警察局应停止这项技术的应用。
避免失控
最先应用面部识别技术的科技公司也噤若寒蝉。
据NPR的报道,今年8月8日,美国第九巡回上诉法院裁定伊利诺伊州的一名Facebook用户可以通过面部识别技术起诉该公司。隐私和技术项目的律师Nathan Freed Wessler在一份声明中说:“这一决定是对不受约束地使用面部监视技术的危险性的强烈认可。”名Facebook对NPR的采访回应称“我们一直披露我们使用人脸识别技术,人们可以随时打开或关闭。”Facebook认为用户没有遭受过具体的伤害。但第九巡回法院小组指出,无形伤害仍然是具体的,并且它指出最高法院已经表示技术的进步会导致更多的个人隐私被侵犯。
Facebook是最早应用面部识别技术的科技公司之一。2011年,Facebook推出了一项名为“标签建议”的功能。它允许技术分析上传照片中人脸的细节 - 他们的眼睛,鼻子和其他特征之间的距离。用户可以选择退出该功能。Facebook表示,它只构建了打开该功能的Facebook用户的面部模板。NPR的报道称,“Facebook可以使用它来识别每天上传到Facebook的其他数亿张照片中的个人,以及确定个人何时在场在一个特定的位置。”据上诉方披露,Facebook拥有一个用户面部模板数据库,这些模板存储在包括俄勒冈州,爱荷华州,德克萨斯州和加利福尼亚州的服务器上。
另一个科技巨头亚马逊也在失去他们的政府客户。几年前,佛罗里达州奥兰多市警察局开始试用亚马逊的面部识别软Rekognition,将现场视频输入和面部识别技术的数据连接起来,实时观察和跟踪人群。警察局在奥兰多市的公共场所部署了四个监控摄像头,称仅用户检测警局的雇员。但由于独立调查报告的发布和持续的公众抗议,奥兰多市议会决定在完成其两阶段试点项目的第二阶段之后,立即取消亚马逊Rekognition的任何进一步试验。
面部识别技术仍在发展,它不仅能识别你的身份,还能洞悉你的情绪。VICE的报道称,亚马逊旗下的云服务AWS已经为其基于云的面部识别系统推出了情绪识别功能:包括恐惧、快乐、悲伤、愤怒、惊讶、厌恶、冷静、困惑等八种状态。此前,亚马逊已经将这项技术出售给移民和海关执法局(ICE)和边境巡逻队(CBP)等政府机构。最极端的批评声音,已经把亚马逊与ICE的合作,和IBM与纳粹合作相提并论。ZDNet的报道称,一些亚马逊员工曾联名发邮件给老板贝索斯,要求停止向警方出售Rekognition面部识别软件。