Nueva Zelanda
Español
compartir

美国人要小心了,亚马逊正在监控他们的一举一动

生活autor: 36氪的朋友们
美国人要小心了,亚马逊正在监控他们的一举一动
resumen以低廉价格和超高效率为顾客提供服务的亚马逊目前仍是美国第二大最受信任的机构。

划重点:

(本文约7000字,阅读全文大约需要10分钟)

以低廉价格和超高效率为顾客提供服务的亚马逊目前仍是美国第二大最受信任的机构。但这家互联网巨头正通过推出一系列的产品和服务,为家庭、社区和城市安装摄像头和麦克风,且似乎对用户隐私无动于衷。长此以往,其能否继续赢得人们信任?

以下为文章正文:

hougarden

亚马逊能够为你带来什么?你可能会想到便利购物——躺在沙发上比价购物,花更少的钱买到想要的任何东西;可能会想到服务全面——送货员会准时把包裹送到家门口,如果你对商品有什么不满意,还可以寄回去要求全额退款;也可能会想到人工智能——你可以让Alexa放首歌或电视节目,也可以让它帮你打开灯;甚至可能会想到业务多样——你可以通过Prime会员优惠购买全食超市的鳄梨。

以低廉价格和超高效率为顾客提供服务,有助于解释为什么亚马逊在一次又一次的调查中被评为美国最有价值的公司,也是最受美国消费者喜爱的品牌。最近的一项研究发现,亚马逊是美国第二大最受信任的机构,排在谷歌、警察和高等教育系统之前,仅次于美国军方。在隐私丑闻层出不穷、Facebook声誉扫地、谷歌因YouTube内容不受管控而名誉受损之际,亚马逊的声誉却比以往任何时候都要更高更强。

但是,亚马逊所打造的“售卖一切”、令人愉悦、值得信赖的公众形象,不仅掩盖了它已经成为一个神秘庞然大物的事实,也掩盖了其产品如何在线上线下侵蚀用户隐私的事实。就在竞争对手重新评估数据操作、反思社会责任、并呼吁出台新的监管规定之际,亚马逊却在加大对监控设备的投入,否认对技术的使用负有责任,并对员工、学者、媒体等各界人士提出的担忧置之不理。

上个月亚马逊就承认,即使Alexa和Echo用户选择从账户中删除和数字助理互动的音频文件,亚马逊也可以保存这些数据。亚马逊在6月28日致民主党参议员克里斯·库恩斯(Chris Coons)的信中明确披露了这一事实,信中内容也清楚解释了亚马逊数字助理在如何处理用户隐私方面的做法。

库恩斯曾质疑亚马逊会将有关用户与数字助理进行交互的音频以及文本文件保存多长时间。亚马逊在信中回复道:“我们会保留用户的语音记录和文本记录,直至客户选择删除。”

除此之外,一个问题是即使用户选择删除音频内容,亚马逊是否还会保存与Alexa进行语音交互的文本记录。亚马逊表示,其中一些记录或从记录中收集到的信息确实没有被删除,因为在某些时候,亚马逊会在未告知用户的情况下保存数据,若是删除则公司必须从全球数据存储系统的各个部分进行数据清理。

亚马逊负责公共政策的副总裁布莱恩·胡斯曼(Brian Huseman)在回应中表示,公司正在“持续努力,确保这些文字记录不会保存在Alexa的任何其他存储系统中”。换句话说,即使用户手动删除音频版本,一些文本记录仍然会保存在单独的存储系统中,到底保存多久时间也无法得知。亚马逊认为Alexa的功能集会因删除数据而受阻,因此公司坚持保留某些版本的数据。

亚马逊声称,它不会保留音频文件,但如果有人使用Alexa呼叫Uber服务或创建外卖订单,亚马逊可能会保留交易信息。“我们不存储Alexa回应的音频。但是我们可能仍然保留着客户与Alexa互动的其他记录,包括Alexa响应客户请求所采取的行动记录。”胡斯曼在信中写道。

这封信还指出,亚马逊公司甚至于Alexa的技术开发人员,都可以记录用户使用Echo设备进行的每一笔交易或日常安排。亚马逊表示,这确保了该任务易于重复,对用户也很方便。例如设置一个反复出现的闹钟,要求Alexa提醒用户周年纪念日即将来临等等。

“我们都希望他们不是在制造一种‘全景监视器’,”乔治敦大学法律公共代表研究院专职律师林赛·巴雷特(Lindsey Barrett)表示。今年上半年,作为由19个监管机构组成团体的法律顾问,该研究院呼吁联邦贸易委员会(FTC)调查亚马逊涉嫌违反保护儿童在线隐私的联邦法律。此外他们还发现,亚马逊的Echo Dot儿童版智能音箱有意保存孩子的语音记录和个人数据。亚马逊至少将部分问题归咎于软件缺陷,并表示该问题已得到修复。

虽然此案结果还有待观察,但投诉只是冰山一角。目前亚马逊运营着大量公共互联网;使用人工智能为包括美国中央情报局(CIA)在内的许多机构处理数据;跟踪用户的购物习惯,为目标广告建立详细的受众资料;并销售接入云端且内置人工智能的家用音箱和显示屏。亚马逊收购了一家生产Wi-Fi路由器的公司,从而可以接入用户的家庭网络。亚马逊旗下子公司Ring将监控摄像头安装在数百万个家庭的门铃上,并邀请他们在一个以预防犯罪为重点的社交网络上与邻居和警察分享视频。除此之外,亚马逊还正在向警方和私人公司推销人脸识别系统。

正如在专利申请、竞标合同和营销材料中所描述的那样,未来的亚马逊可能会无处不在。想象一下,Ring门铃摄像头无处不在,以至于你走在大街上都有可能触发警报;想象一下,这些摄像头内置了人脸识别系统,随时能够识别可疑的人;想象一下,汽车和无人机内置Ring监控摄像头,托儿所里有Ring婴儿监视器;从学校到酒店再到医院,亚马逊的Echo设备无处不在;想象一下,所有内置数字助理Alexa的智能音箱和显示器都能识别你的声音,并分析你的语音模式,以判断你是否在生气、是否生病或是否考虑购买商品。上周有媒体报道亚马逊在2015年提出的一份专利申请中,描述了所谓“监视即服务”(surveillance as A service)的系统。对于亚马逊已经在售的许多产品来说,这个词似乎很贴切。

在这一切的背后都是离不开亚马逊的身影。高管常常把用户隐私视为夸大其词,把内部异议看得无足轻重,把滥用亚马逊技术的可能性当作别人的问题。

亚马逊云业务主管安迪·雅西(Andy Jassy)在本月早些时候召开的代码会议上表示:“技术可能被滥用,但这并不意味着我们应该禁止并谴责它。”他表示,禁止人脸识别系统将类似于禁止电子邮件或刀具,这一新一旧的两种技术既可以用于好事也可以用于坏事。“你也可以偷偷地用刀,”他举例说。

应该说,亚马逊正在打造的一切都有其可取之处。其门铃摄像头可以捕捉门口的盗窃者;面部识别软件可以帮助追踪嫌疑人;智能家居设备中的数字助理Alexa也会有很多用处。但当你把这些东西放在一起,这些接入公司云服务的眼睛和耳朵使得消费者对隐私的担忧更为突出,相比之下Facebook和谷歌所作所为就显得微不足道。

hougarden

客厅里的耳朵在听你说什么

2014年11月,亚马逊推出了一款全新概念的智能音箱Echo,其最大亮点就是将智能语音交互技术植入到传统音箱中。迄今为止,内置Alexa设备的亚马逊Echo、Echo Dot和Echo Show已经走入成千上万个家庭,成为智能家居市场的主要产品。它们在用户厨房、客厅或卧室里内置了联网麦克风,有时还内置摄像头。客观上讲,仅仅这一点就可能成为很多消费者回避这种产品的理由:为什么要冒险在互联网和最私密空间之间开一扇永远存在的大门呢?但超过1亿买家已经接受了Alexa设备,完全相信亚马逊会保护他们的录音。

亚马逊表示,Echo设备只有在听到“Alexa”等预置唤醒词时才会开始录音。不幸的是这个系统远非万无一失,Alexa设备也有听错唤醒词并突然激活的时候。Alexa经常错误收集和存储用户的对话片段,亚马逊不止一次无意中就把录音发送给陌生人。亚马逊往往也忽视了智能音箱应当包含的数据隐私功能,从Echo中删除用户录音比从谷歌Home或苹果HomePod要困难得多。对于防止意外设置,亚马逊在Echo Show等设备上放置物理按键行动很慢,还不及Facebook。

作为一家引领人机关系革命的公司,亚马逊对用户担忧隐私的态度有时显得不屑一顾。去年在接受采访时,亚马逊Alexa引擎软件副总裁艾尔·林赛(Al Lindsay)被要求列出亚马逊存在的一项数据隐私问题,或者团队正在应对的一项与隐私相关的挑战。他说自己根本想不出来。

但亚马逊之外的监管机构已经发现了一些端倪。今年4月份,有报道称亚马逊在全球各地的办公室雇佣了数千名合同工,监听Alexa用户的录音。其目的不是监视,而是努力改进设备软件功能。在训练人工智能的公司中,这是一种常见的做法。Alexa和Siri等智能数字助理的用户也是训练过程的一部分,但亚马逊并没有明确向用户披露系统机制。苹果Siri和谷歌Assistant也使用用户数据训练人工智能,但他们会采取措施对用户录音做匿名处理,而Alexa的录音则与每个用户的账号、设备序列号和名字挂钩。

还有指控称亚马逊Echo Dot儿童版智能音箱违反了美国联邦《儿童在线隐私保护法》(COPPA)。除了在父母试图删除孩子个人信息时无果外,该设备还无限期存储这些信息,并使用有缺陷的方法征得父母同意。公共代表研究所的巴雷特说,她很难相信这样一家公司会在专为儿童打造的设备上做出如此直接侵犯隐私的行为。

对于相关报道,亚马逊发布了一份声明,表明它有严格协议来保护客户隐私和安全,并指出客户可以随时通过Alexa应用程序或通过访问在线Alexa隐私中心来查看和删除录音。

当考虑到亚马逊将Alexa设备安装在汽车、酒店房间、教室甚至儿童医院时,让人感到奇怪的是,该公司并没有在隐私和安全方面加大公关力度。上个月,亚马逊推出了一套新的Alexa隐私功能,包括“Alexa,删除我今天说的所有内容”。但这项功能最终变得相当复杂:Alexa不会在用户第一次提出要求时就删除录音,而是会引导用户打开智能手机上的Alexa应用程序,浏览一系列选项。在这些操作之后,用户还只能删除一天内的录音。删除所有内容则需要通过Alexa应用程序完成八个步骤的操作。亚马逊仍然没有像谷歌那样提供自动删除录音的选项。

到目前为止,亚马逊还没有在Alexa上投放语音广告,这可能有助于巩固其是一家销售产品而不是让用户成为产品的正面公司形象。但这并不意味着Echo设备没有收集和利用用户数据。它会跟踪用户购买和选择音乐等行为并用于推荐产品。虽然亚马逊并没有受到谷歌或Facebook那样的关注,但其数字广告业务正在悄然拓展开来:它现在是仅次于谷歌和Facebook的第三大数字广告公司。根据最近一项估计,到2019年,亚马逊预计将占据1300亿美元美国广告市场近10%的份额。

道路边的眼睛在看你干什么

2018年初,亚马逊又斥资20亿美元收购了“智能门铃”初创公司Ring,直接将监控摄像头装到了消费者家门口。其他互联网巨头大多将其窥探范围限制在用户在线行为上,而Ring则让亚马逊以及用户能够监控其他人在现实世界中的行为。其安装在家庭和企业门外的Wi-Fi连接设备连续测量半径达到了10米,探测到物体运动时就会录制视频。用户可以实时观看视频,并且可以付费存储和观看视频。

这些监控功能并不新奇:企业和豪宅长期以来都拥有昂贵的安全摄像系统。但Ring将门铃摄像头融入了一个简单的200美元套餐中,并积极向普通房主和警察部门推销产品,从而把这项服务普及开来。亚马逊现在是智能门铃摄像头市场的主导者,一位分析师预测到2023年整个市场将价值100亿美元。

亚马逊并不满足于让用户监视自家前门,Ring还通过一款名为Neighbors的应用将其摄像头变成了半公共的监控网络。Neighbors应用允许Ring用户上传、分享和评论邻里的监控录像,并允许用户可以选择将视频提供给警方。亚马逊在一份声明中表示:“Ring社区警报鼓励社区直接与当地警方合作,从而帮助维护社区安全。”

这一功能让美国一些执法机构感到头晕目眩。一份报告发现,从休斯顿到印第安纳州哈蒙德的不少警察部门正在与亚马逊合作,向市民提供Ring打折产品,同时鼓励他们分享视频。多亏了Ring,“我们的小镇现在完全被摄像头覆盖了,”新泽西州布卢姆菲尔德的一名警察表示。阿拉巴马州芒特布鲁克的警察局长称,通过Neighbors应用获取居民的Ring录像,相当于将安全摄像头覆盖到了全市,而且没有任何成本。亚马逊不要求用户与警方分享视频,但它的专用通道让警察可以轻松地向任何特定用户索要视频。从技术上讲,用户在应用程序中是匿名的,但其一般位置可见。Ring表示,它致力于保护用户隐私,并不支持要求客户与警方分享视频以换取该设备优惠的项目。

在网络隐私担忧日益加剧之际,一家大型科技公司在推出监控服务时或许会低调行事,但亚马逊并非如此。在Ring创始人杰米·西米诺夫(Jamie Siminoff)的领导下,公司内部一直很激进。2016年,西米诺夫向员工发放迷彩印花T恤,并向“肮脏的罪犯”宣战。

但公司自身的安全措施不时出现松懈:Ring曾被发现以纯文本形式存储客户的家庭无线网络密码。从2016年开始,Ring还允许乌克兰研发人员访问用户的个人视频记录进行分析。亚马逊后来表示,这种做法仅限于在Neighbors应用上公开分享的视频,但拒绝透露该策略何时生效。“作为一家致力于减少社区犯罪的安全公司,安全是Ring的核心,驱动着我们所做的一切,”Ring在一份声明中指出。“除非用户允许或主动分享,否则没有人可以查看用户的视频记录。”

亚马逊已经接受了Ring打击犯罪的理念。“我想不出比这更崇高的使命了,”亚马逊负责设备的副总裁戴夫·林普(Dave Limp)在2018年9月的一次活动上说。今年早些时候,Ring还在社交媒体平台Facebook上投放定向广告,向加州山景城居民展示一名女子试图闯入一辆汽车的真实监控录像。

“亚马逊本质上是在兜售恐惧,”马科姆社区学院英语教授克里斯·吉里亚德(Chris Gilliard)说。“他们宣扬的理念是,这样的社会更安全。”吉里亚德认为,Ring和Neighbors应用实际上会让社会对有色人种更加歧视,因为有色人种更惯于被认为“可疑”。在过去,如果一个居民看到一个他们认为可疑的人,可能会告诉邻居或者报警,“但他们不会把这件事传播到整个社区,”他说,“但现在会。”

云服务中的大脑在猜你干什么

尽管公众对亚马逊的电商零售耳熟能详,但事实上这家公司的很多利润都来自其亚马逊网络服务。2019年第一季度,亚马逊近半数利润都来自亚马逊网络服务。亚马逊这项服务是一些较小网站的基础设施提供商。而对于世界上一些大型机构和公司来说,亚马逊网络服务会挖掘和分析数据,解码文本和图像,为它们做出预测和建议。

这些客户中甚至有美国主要的执法和情报机构,如国土安全部、国防部和中央情报局。亚马逊在2017年成立了一个专门的亚马逊网络服务部门来处理政府机密情报。亚马逊网络服务客户中还包括彼得·泰尔(Peter Thiel)联合创办的硅谷大数据公司Palantir,后者主要为美国移民和海关执法部门(ICE)提供软件。现在,亚马逊网络服务正与微软Azure争夺一份价值100亿美元的巨额合同,将美国国防部纳入其云计算系统。此前谷歌在其员工压力下退出了这一项目。

亚马逊网络服务最具争议的服务是Rekognition,这是一个利用机器学习分析图像和视频片段的平台。Rekognition还提供了将视频记录中人脸与数据库中人脸进行匹配的功能,以及识别人脸特征和表情的面部分析技术。2018年发布的一份报告强调,亚马逊一直在向执法机构推销其人脸识别功能,并与佛罗里达州奥兰多和俄勒冈州华盛顿县的警方建立了合作关系。

hougarden

据报道,在韩国首尔举行的开发者大会上,亚马逊的兰祖·达斯(Ranju Das)解释说,奥兰多警方“在全市各处安装了摄像头”,可以实时分析视频。然后,它可以将监控视频中的人脸与数据库中的面部照片进行比对,从而为客户重建“感兴趣的人”的行踪。今年3月有报告详细描述了华盛顿县警长办公室如何利用Rekognition识别并逮捕一名盗窃商店的嫌疑人。

面部识别软件的主要问题是不够精确,在识别有色人种时尤为如此。2018年进行的一项测试中,Rekognition错误将28名国会议员与犯罪嫌疑人的脸部照片相匹配,其中有色国会议员的比例很高。亚马逊认为,这项研究在几个方面具有误导性,因为它对匹配对象使用的置信度阈值低于亚马逊网络服务的推荐值,而且使用的是未更新的Rekognition软件。

这些应用也影响到了亚马逊的一些员工。去年秋天内部人士透露,约450名员工给首席执行官杰夫·贝索斯(Jeff Bezos)写了一封信,呼吁该公司终止与Palantir合作,停止向警察部门提供Rekognition软件。员工们写道:“像我们这样的公司不应该从事监控业务。”在随后的采访中,相关人士表示,亚马逊管理层对这封信保持了“沉默”。

这并不奇怪,因为亚马逊网络服务副总裁特蕾莎·卡尔森(Teresa Carlson)在2018年7月的一次安全会议上称赞该公司“坚定不移地致力于”在警察和军队中推广使用人脸识别技术。亚马逊网络服务首席执行官安迪·雅西在一次内部会议上重申了该公司将Rekognition推广给执法部门的做法。他认为这项技术是积极的,并强调该软件在寻找和营救人口贩运受害者中所起的作用。雅西补充说,如果亚马逊发现客户违反了服务条款,它将停止与之合作。

亚马逊所要的是监视即服务的全景业务链

除了亚马逊现有的Echo设备、Ring摄像头门铃以及亚马逊网络服务分析工具之外,亚马逊的专利申请文件也潜在表明,该公司将扩大监控能力视为其未来业务的重要组成部分。

专利申请并不能告诉你一家公司究竟要做什么,但其仍然可以揭示某家公司在未来几年里对其所处市场竞争环境的看法。其中一些申请围绕数字助理Alexa和语音识别技术展开。2017年的一款应用程序描述了一种所谓“语音嗅探器”的算法,可以从朋友之间的对话中挑选出目标广告关键词。另一项研究建议从咳嗽、鼻塞或语调来推断人们的健康状况或情绪状态,同样是为了投放有针对性的广告。

亚马逊对未来的Ring也有宏大设想。本月早些时候,有报道称,亚马逊申请通过了一批设备商标,这些设备中包括安装在汽车或婴儿监视器上的摄像头,以及“家庭和商业监控系统”。2015年提交的另一项专利明确表明亚马逊早在购买Ring之前就一直在考虑这些问题:它描述了一个系统,顾客可以雇佣包裹递送无人机飞越指定目标拍摄相应视频。亚马逊将这一想法称为“监视即服务”。

除此之外,亚马逊还申请了一项专利,在文件中描述了共享数据的摄像头网络如何与软件协作,根据数据库存储的面部图像自动识别出可疑人员。这听起来很像一个将人脸识别与Ring和Neighbors应用程序相结合的系统。

在声明中Ring重申,专利申请并不一定意味着正在开发的产品。该公司表示:“我们一直在为邻里进行创新,让社区变得更美好、更安全,这项专利是提升服务质量的众多创意之一。”

智能音箱、人工智能数字助理、门铃摄像头和公共场所的人脸识别都有其优点。它们为人们提供了便利、安心,并有着预防犯罪的潜力。但把它们放在一起,并让一家庞大公司控制所有数据,制造出的是一种规模空前的监控设备。

假设没有人会阻止亚马逊建立这个网络,问题就在于我们是否可以信任亚马逊,是否可以信任亚马逊能够谨慎应对所收集到的大量用户数据,是否可以信任使用亚马逊技术的各个实体。

监视乌云笼罩在用户头顶

科技公司都想要自己打造成有理想有原则的好企业,但近年以来硅谷不断爆出的丑闻让各大科技公司都饱受侵犯公众隐私的质疑,被推到了风口浪尖之上。

为了重获公众信任,Facebook近年来一直在为自己的隐私过失而道歉,并承诺要自我修复;而苹果则把保护隐私作为一个明确的产品卖点。与之形成鲜明对比的是,亚马逊迄今对其庞大监控能力所带来的影响几乎没有表现出任何担忧。微软拒绝向警方出售人脸识别技术,谷歌也没有推销其人脸识别技术,相比之下亚马逊却在向全美警察部门兜售这项技术。

hougarden

亚马逊首席技术官沃纳·沃格尔斯(Werner Vogels)在接受采访时解释,确保其人脸识别系统得到合理使用并不是亚马逊的职责。“这不是我的决定,”他说,“这项技术在很多地方都得到了很好的应用。决定哪种技术在何种条件下适用是社会发展方向问题。”

2018年10月,在旧金山举行的一次科技会议上,贝索斯把自己公司开发的高科技监控工具比作书籍,他说,书籍可以被用来做好事,也被用来做坏事。“我们最不愿意做的事情就是阻止新技术的进步,”贝索斯如是指出。

几十年来,科技公司的策略往往体现着这样一种观点,创新的步伐不可避免,而新技术如何使用并不取决于公司。它隐含在“快速行动,打破陈规”的精神中,坚信创新者请求原谅比请求许可更好。但随着创新的社会成本越来越重,诸如Facebook、谷歌和Twitter等公司开始认识到其产品对社会造成的影响,并开始积极地去做出相应改进。

亚马逊似乎还没有加入它们的行列。

一直在研究Ring和Neighbors应用如何影响社会的研究人员吉里亚德说,他怀疑亚马逊将无法对其产品影响总保持如此淡漠的态度。“亚马逊还没有迎来剑桥分析丑闻的时刻,”他如是指出。

对亚马逊来说,那一刻会是什么样子?吉里亚德勾勒出一个假想的场景。他指出,亚马逊的送货上门服务允许送货员打开智能锁把包裹送到顾客的车库里。吉里亚德设想,一个有色人种的亚马逊送货员进入顾客车库,顾客从亚马逊自己的产品中得到出现可疑人物的警告。情况可能会变得很糟糕。“我真的希望这不会发生:我觉得有人会受伤,” 吉里亚德说,“亚马逊的一名员工将会被伤害、被逮捕、被攻击。”

在没有重大丑闻出现,或者亚马逊高管没有突然出现良心危机的情况下,防范该公司监控过度的最好办法可能是监管。今年5月,旧金山成为美国第一个禁止人脸识别的大城市。亚马逊自己的匿名员工警告称,如果公司不尽快采取行动,“危害将难以消除。”尽管人们可能希望亚马逊停止在门铃上、汽车上或无人机上安装人脸识别功能,但并没有任何迹象表面亚马逊高管认为这有问题。

亚马逊以前曾克服过社会信任障碍。1995年亚马逊作为一家在线书店上线,此时距离第一次网上购物仅仅一年时间。亚马逊和eBay一起说服公众,在网上使用信用卡并不像怀疑论者想象得那么疯狂无序。

尽管该公司在看似不协调的方向上进行业务扩张,但它仍严格专注于简化过去繁琐的流程,从快速廉价的商品投递到通过语音控制智能设备均是如此。但值得一问的是,在我们让监控变得像亚马逊一键购物那样简单和无处不在之前,社会是否应该让其变得更繁琐一些。(皎晗)


转载声明转载声明:本文系后花园转载发布,仅代表原作者或原平台态度,不代表我方观点。后花园仅提供信息发布平台,文章或有适当删改。对转载有异议和删稿要求的原著方,可联络[email protected]