贝索斯将AI武器化遭大规模抗议

2018-07-13 11:15  和讯网  小孟

白天

小字

【亚马逊人脸识别噩梦】贝索斯将AI武器化遭大规模抗议

新智元报道新智元编辑部

【新智元导读】亚马逊积极向美国警方推销自己的人脸识别产品, 引发了美国社会大规模抗议。亚马逊员工也给CEO贝佐斯写公开信:请停止武器化我们的技术!

《黑镜》中政府使用交通摄像头就能识别你的面部特征并且跟踪你这个人的情形可能不太远了。

亚马逊有一款名为Amazon Rekognition的产品,这将你最糟糕的噩梦。

这款产品可以实时识别,跟踪和分析人员,并在单幅图像中识别多达100个人。它还可以快速扫描收集的信息,与数据库数千万张面孔进行比对。

亚马逊正在为政府和警察部门推销Rekognition——根据亚马逊的市场推广资料,Rekognition可以监控“团体照片、拥挤人群以及机场等公共场所中的所有面孔”。除了其他功能之外,材料中还将“人员跟踪”描述为一种调查和监控人“简单而准确”的方式。

消息公布后引发了美国民众极其强烈的反响。美国公民自由联盟(ACLU)最近领导30多个民权组织联合举行抗议活动,反对美国政府使用人脸识别技术,要求亚马逊CEO贝索斯停止向政府出售Rekognition。

他们的主张是:“公民应该可以自由地走在街上而不被政府监视。”而人脸识别技术威胁到了这一点。

虽然亚马逊并不是唯一与警方合作的技术公司,但亚马逊的规模、影响力和能力让人觉得Amazon Rekognition将有很大可能被广泛采用。

ACLU在声明中表示,“通过Rekognition,政府现在可以构建一个自动识别和跟踪任何人的系统。如果警察配备的随身摄像头配备了人脸识别装置,那么原本用于执法透明和问责制的装置将转变为针对公众的监视器。

通过这项技术,警察将能够确定谁参加了抗议活动。 ICE(美国移民海关执法Immigration and Customs Enforcement)可以在移民开始新生活后持续监控这些移民。无论是否有理由怀疑犯罪活动,政府都可以定期追踪自己的居民。”

即使在拥挤的场所,亚马逊Rekognition也能检索和识别出多达100张脸孔

即使在拥挤的场所,亚马逊Rekognition也能检索和识别出多达100张脸孔

内部员工的公开信:请停止武器化我们的技术!

在美国,目前无证移民的数量和由于种族貌相而遭到非法监禁的受害人越来越多,包括《纽约时报》、《大西洋(600558,股吧)月刊》在内的众多媒体都发文质问:是否该采用这项技术?更进一步来说,这项技术真的必要吗?

今年6月,在一片抗议声中,奥兰多警察局放弃了对亚马逊Rekognition人脸识别试点项目的计划。

人脸识别公司Kairos的首席执行官Brian Brakeen更是公开表示,他的公司不会将这项技术出售给政府。

Brakeen写道:“在政府监督计划和执法机构的手中,根本无法确保人脸识别软件不会用于伤害公民。”

抗议并非全都来自外部。亚马逊内部员工也站起来表示抗议,他们加入股东,民权团体和有关消费者的行列,将亚马逊的面部监控技术称为:对公民权利,特别是对移民和人民的独特威胁。

这种强烈的反对在内部逐渐蔓延开来。

今年6月,亚马逊内部的100多名员工,包括高级工程师,给自己的老板、亚马逊CEO杰夫·贝索斯(Jeff Bezos)写了一封公开信,要求公司停止向ICE和其他执法机构出售侵入性和违宪的Rekognition面部识别技术。

他们在信中说道:“我们公司不应该从事监控业务; 我们不应该从事警务业务; 我们不应该支持那些监督和压迫边缘人群的人。”

亚马逊CEO杰夫·贝索斯

亚马逊CEO杰夫·贝索斯

加利福尼亚州ACLU技术和公民自由主任尼科尔·奥泽尔说:“我们支持这些员工呼吁贝索斯先生做正确的事,亚马逊必须停止向政府提供危险的面部监视。”

除了要求停止出售Rekognition之外,亚马逊员工在信中还呼吁公司停止对数据分析公司Palantir提供支持。

Palantir是Peter Thiel于2003年创立的大数据公司,为执法部门提供预测性警务工具,并通过亚马逊网络服务公司与ICE签订了大量合同(Thiel曾秘密资助了一起导致Gizmodo的前母公司Gizker Media破产的诉讼)。

亚马逊态度并未妥协

尽管面对内部与外部的双重抗议,但是亚马逊回应态度依然是捍卫Rekognition的。他们声明:不能因为技术可能会被滥用就限制其进步。

声明中说:“如果我们取缔新技术,我们的生活质量会更糟,因为有些人会选择滥用这项技术。”

“想象一下,如果客户无法购买计算机,因为有可能将该计算机用于非法目的吗?亚马逊要求客户遵守法律并在使用AWS服务时负责。当我们发现AWS服务正在使用时被客户滥用,我们暂停该客户使用我们服务的权利。”

此前,谷歌员工已经成功的阻止了自己的公司参与到一项军事竞标中。该竞标是美国五角大楼利用人工智能技术通过无人机进行攻击,并且另外一个项目也被迫暂停。

对比而言,亚马逊的态度,不妥协,挺强硬。

此外,根据今天的最新消息,奥兰多警察局计划重新启动人脸识别软件测试。

奥兰多警察局局长John Mina在一份声明中表示:“我们在测试这项技术方面取得了很大进展,并认为继续对其进行评估是非常重要的,这个评估将确定人脸识别是否能够在公民隐私和增强城市公共安全使命间权衡,从而增加不可估量的价值。”

从商业方面考虑,亚马逊的技术与市场策略也无可厚非,但是,我们仍然希望企业将安全与隐私作为自己商业布局的前提,并为此做出一些改变。

本文首发于微信公众号:新智元。文章内容属作者个人观点,不代表和讯网立场。投资者据此操作,风险请自担。

我要分享:0
查看更多