“知人知面”的技术能走多远?-瞭望智库
瞭望智库

2016年5月12日   星期四   丙申年   四月初六

设为首页 | 加入收藏夹           中文站 | EN

“知人知面”的技术能走多远?

云贺 | 瞭望智库副研究员

发布日期:2019-08-27

以目前的技术水平,人脸识别技术还远未达到大规模普及的程度,特别是在公共服务领域,一旦滥用或误用很容易引发一系列风险。

在今年美国拉斯维加斯举办的CES消费电子展上,人脸识别技术可谓大放异彩。特别是在出行领域,这个“知人知面”的技术成为了诸多汽车厂商概念车型的“杀手锏”之一:无需钥匙,车辆上配备的人脸识别功能将自动识别驾驶员身份并开启车门。

具体来说,人脸识别系统通过判定眼睛、鼻子、颧骨和下巴等面部特征的相对位置、大小和形状,来辨别出目标人物的真实身份。

实际上,人脸识别技术最初主要应用在军事和刑侦领域,它曾在伊拉克和阿富汗战场上为美军提供了关键技术支持。然而,随着这项技术在近年逐步投入民用,公众对其潜在风险的争议也越来越多:失误率过高、侵犯隐私权、种族和性别偏见等弊端,屡见报端。

今年8月,查塔姆学会的两位研究员林赛·杰斐逊(Lyndsey Jefferson)和艾米莉·泰勒(Emily Taylor)联名发布了题为《人脸识别技术的功与过》的文章,系统阐释了该技术的发展潜能与应用风险。文章认为,以目前的技术水平,人脸识别技术还远未达到大规模普及的程度,特别是在公共服务领域,一旦滥用或误用很容易引发一系列风险。

旧金山首发“禁令”

今年5月,美国旧金山监事会通过了一条禁令,禁止全市所有机构使用人脸识别技术,其中包括警察局和市政府等执法部门。至此,旧金山成为美国首个颁布人脸识别禁令的城市。

支持颁布禁令的一方认为,人脸识别技术虽然能在警务等领域发挥不少作用,但随着该项技术的民用普及化趋势愈加明显,技术门槛不断降低,在实际应用过程中很容易超越法律与道德红线,变成侵犯人权隐私的工具。从这一角度来考虑,人脸识别技术弊大于利,应该予以禁止。

查塔姆学会的两名研究员表示,相比旧金山市对于人脸识别技术的极度恐慌,全球其他城市的反应虽没有如此强烈,但也或多或少地意识到了该技术的潜在风险。

美国马萨诸塞州的萨默维尔市议会,也决定禁止市政府及各下属部门在公共场所使用人脸识别软件。奥克兰、纽约等城市,也都在考虑出台类似的禁令。

在极为重视隐私权的欧洲,以人脸识别技术为代表的人工智能系统也受到了来自许多机构的质疑。近日,欧盟人工智能高级别专家组就公开提议,欧洲应禁止人工智能系统深度参与到大规模监视和社会信用评分过程中。专家组认为,人工智能系统只有在充分尊重现有法律和公民基本权利,并符合社会伦理原则的基础上,才能进行大规模推广。而政府应承诺只采购和部署“值得信赖”的人工智能系统。

不过,也有一部分人并不看好旧金山市对人脸识别技术的“全面封锁令”。美国信息技术与创新基金会数据创新中心主任丹尼尔·卡斯特罗就认为,旧金山市颁布的这条禁令是“非常糟糕的榜样”。他表示,全面禁止使用人脸识别技术的做法未免过于极端,毕竟该项技术在找寻走失老人、打击性行为犯罪、快速识别恐怖袭击嫌疑人等许多社会安全领域都有巨大的应用潜能。

旧金山市居民安全维护组织——Stop Crime SF的副主席乔尔·恩加迪奥则认为,仅就目前的技术水平而言,人脸识别技术的失误率很高,应该暂时予以禁止;但同时,该禁令不该意味着“永远禁止”,而是应为技术的改善“留一条后路”。

在社会接受层面下功夫

虽然很少有人能彻底否认人脸识别技术的广阔应用前景,但如果仅从目前该项技术本身的成熟度来看,大规模普及应用的确会产生一系列问题,其根源在于:识别错误率过高。

此前,英国埃塞克斯大学的研究人员曾发布一份调查报告称,伦敦大都会警察局在甄别目标人物时所用人脸识别技术的准确率只有19%。研究人员在使用这套技术系统时,筛选出的42张“匹配人脸”中只有8张脸属于目标人物,错误率高达81%。

据悉,伦敦大都会警察局最早使用人脸识别技术是在2016年8月的诺丁山狂欢节上,该技术帮助警方实时监测人群动态,以备在突发情况时快速采取行动、锁定目标人物。随后,伦敦大都会警察局又于2017年的阵亡将士纪念日当天,在伦敦的10个人群聚集点部署了人脸识别系统。

实际上,埃塞克斯大学发布的这份报告已不是英国警方第一次被公众质疑了。2018年,英国南威尔士警方在使用人脸识别技术时,曾将2300名民众误认为是潜在犯罪分子。

更值得关注的是,人脸识别技术的失误率还是“因人而异”的。麻省理工学院媒体实验室和微软合作发布的一项研究显示,人脸识别的准确度与肤色有关。当被识别图像中为白人时,正确率超过90%;而对于肤色较深的女性,准确率仅为65%。

机器技术的“种族歧视”,并非空穴来风。众所周知,人工智能的学习能力来源于人类提供的数据。如果人脸识别系统的训练数据中白人居多,那么系统对白人的鉴别能力就会越强。

因此可以说,人脸识别“选择性失误”的背后,是人类社会中无处不在的偏见和资源的不平衡分布。

查塔姆学会的文章提出,人脸识别技术是由社会中的极少一部分人研发完成的,而这部分人与整个社会的人口结构并不相匹配。这意味着,少数族裔、年长者和女性等高科技从业人数较少的人群,并没有平等的机会将自己的意愿融入到研发过程中,而这也是导致人脸识别技术会出现“选择性失误”的主要原因。

可无论如何,人脸识别技术已经深深嵌入到很多地区、诸多领域之中,其市场价值和社会价值仍然很大,全面禁止该项技术的使用并不适合于大多数地区。

根据卡托研究所的调查数据,仅是美国政府所应用的面部生物识别技术,其市场规模预计会从2018年的1.369亿美元增长到2025年的3.75亿美元。

查塔姆学会的两位研究员认为,要消除人脸识别技术所带来的弊端,不单单需要不断提高技术水平和加强监管力度,更应在社会接受层面上下功夫。

比如,相对于人类发出的指令,普通人更倾向于听从计算机的指令,而这恰恰是导致包括人脸识别等技术被滥用的原因所在。因此,加强民众对前沿技术的认知,也是保护其权利不受侵犯的重要环节。(完)

来源:瞭望智库

版权所有,未经授权不得转载

瞭望智库紧扣“国家政策研究、评估和执行反馈”这一核心业务定位,利用新华社内外智力资源, 连接全球主要智库,服务中央决策和新华社调查研究,发挥政治建言、理论创新、舆论引导、社会服务、公共外交等功能, 在社会上形成广泛的知名度和影响力。

学术合作:韦薇 vickycedar@qq.com

商务合作:陈晶 13910894987 赵沁珩 15201538826

通讯地址:北京市东城区永定门西滨河路8号中海地产广场东塔16层.100077

客服邮箱:liaowangzhiku@outlook.com

©2015 瞭望智库(北京)科技发展有限公司 京ICP备10031607号-3