威尼斯人人脸识别屡遭非议,会成为“潘多拉魔盒”吗?

科技日报记者 操秀英

在国内,进入高铁站、在机场过安检、入住宾馆或到单位签到时使用人脸识别系统已是很普遍的事了。但奇怪的是,近来国外媒体时有人脸识别系统患上“脸盲症”的报道。近日,英国大都会警察局被曝其部署的人脸识别系统准确率仅达到2%。而美国民权组织在使用亚马逊面部识别系统时,扫描所有535位美国国会议员的面部照片,结果其中28人竟被识别成了罪犯。如此误差引起了人们的质疑,以及对警方使用该系统的担忧。
人脸识别是AI技术发展较快、应用较多的一个领域,国内警方的人脸识别系统屡屡精准识别逃犯,国外警方的人脸识别准确率为何如此之低?究竟是评价标准不同,还是技术上真有差别?
隐私忧虑或限制技术发展
对于中外人脸识别效果的巨大差异,航天科工智慧产业发展有限公司系统总体部专家何东昌在接受科技日报记者采访时解释,首先是国外的国情问题。“有些国家认为,人脸识别存在隐私问题,甚至对视频监控技术的应用都有一定限制。”例如在英国,面部识别和追踪技术就曾引发巨大争议,英国各界甚至发起一项“请警方停止用摄像头进行面部识别”的抗议活动。类似情况在美国也有发生,如亚马逊公司利用云计算平台、人工智能技术帮助警方使用人脸识别技术,美国公民自由联盟对此提出了抗议。
“国内人脸识别应用已相当广泛,并积累了相当多的实战经验,在人脸图像采集、预处理以及特征选取等方面的工程优化也做得很好。”何东昌说,除国情外,在国际上我国的人脸识别技术确实发展比较快。
美国国家标准与技术研究院组织的人脸识别算法测试FRVT2018结果显示,我国公司再度摘得桂冠。该测试以评测标准的严谨性、一致性和全面性著称。在测试中,我国的人脸识别算法在千万分之一的误报下达到识别准确率95.5%,成为当时全球业界在此项指标下的最好水平。
清华大学媒体大数据认知计算研究中心主任王生进教授说,当前人脸识别有三种应用模式:1∶1人脸识别、1∶N人脸识别、M∶N动态布控。
1∶1识别的本质是计算机对当前人脸与人像数据库进行快速人脸比对,并得出是否匹配的过程,“刷脸”登机、验票、支付都属此类;1∶N是在海量的人像数据库中找出当前用户的人脸数据并进行匹配,即从N个人脸中找出1个目标;M∶N是通过计算机对场景内所有人进行面部识别,并与人像数据库进行动态人脸比对,能应用于黑名单监控、VIP客户管理系统、校园人脸识别系统等多种场景。
“英国警局出现的情况,也未必是识别准确率低。可能是在特定环境下,采集的图片不够理想,或是M∶N的人脸识别,为达到更高的检出率和检测速度,在一定程度上牺牲了准确度。”何东昌说。
保护“刷脸”信息需多管齐下
在信息即价值的时代,个人隐私信息的商业价值日益凸显。在人脸识别技术火爆的同时,社会上出现了是否会侵犯隐私,人脸是否能被“假冒”的担忧和质疑。对此,何东昌认为,目前国内,从消费电子领域到安保、网络支付、金融等领域都在逐步引入人脸识别,但新技术有“双刃剑”属性,应防范其中潜藏的安全隐患。
特别是在“刷脸”过程中,用户的姓名、性别、年龄、职业,甚至用户在不同情境状态下的情绪等大量信息都被采集并储存。这些信息如果得不到妥善保管而被泄露,用户个人隐私就处在“裸奔”状态。“因此,面对刷脸产生的个人隐私问题,我们必须多角度共同保护。目前在人脸识别技术领域,我国尚无相应的安全监管机制,应及早未雨绸缪,预先防范。”何东昌说。
微软总裁兼首席法务官布拉德·史密斯也在其博文中表示:“考虑到这项技术被滥用的可能性和广泛的社会影响,政府在人脸识别方面的立法似乎显得尤为重要。”
“看好我们的脸”,公民应多一些戒备与防范意识,企业多一些技术层面的保障措施,监管也须及时跟进。业内人士也建议,政府应从管理者角度,通过立法方式强化面部识别领域的监管力度,保障公民个人信息安全;相关行业、企业应提升应用软件等载体及储存设备的安全技术水平,提升网络安全意识,避免公民隐私信息泄露或遭非法转卖;非必要的隐私数据不应采集。当前,人脸识别技术的开发仍有巨大拓展空间,国家有必要在数据共享和开放上加大引导力度,促进技术发展。另一方面,人脸识别技术在逐渐走向成熟,应用将越来越多,识别技术的各类标准,特别是保护公民隐私的标准应尽快出台;相关行业及企业需担负起社会责任,主动积极地规范行业标准,自觉维护采集、储存的公民隐私数据安全等。

人们对人脸识别技术的担忧从未停止。

据《华盛顿邮报》近日报道,最新公布的文件显示,美国联邦调查局、入境和海关执法局的特工利用国家驾照数据库进行人脸识别搜查,在民众不知情或未同意的情况下,扫描了数百万张美国人的照片。

威尼斯人 1

据称,美国众议院监督委员会主席伊莱贾·E·卡明斯(Elijah E.
Cummings)在给《华盛顿邮报》的一份声明中表示,“执法部门对数据库的访问”,尤其对是车辆管理局的数据库的访问,“往往没有征得同意,是在暗处进行的。”

另一则消息是,几天前,美国马萨诸塞州的萨默维尔市宣布禁止当地警方和市政部门使用面部识别软件,成为美国第二个禁止该技术的城市。今年5月份,旧金山出台法令,禁止警察和其他政府机构使用人脸识别技术。

“仔细分析会发现,对人脸识别等新兴技术的态度,与美国素来有反对政府权利过于集中及商业巨头垄断的传统有关,同时也不排除有美国各党派间政治和选战博弈的因素牵扯其中,但不管怎样,这些新态势提醒我们,美国各方开始从关注技术发展为主转向考量技术的人文、伦理等因素影响,这说明其意识到不受限制的技术发展带来的副作用,这对我们是很大的警醒。”公共卫生治理中心执行主任、美国德克萨斯州圣玛丽大学法学院兼任教授贾平告诉科技日报记者。

贾平说,去年以来,美国参议院和众议院分别举行了有关数据滥用的听证会,“这说明这个议题已经从公众、学者层面进入到政治考量。”

威尼斯人 2

中国社会科学院科学技术和社会研究中心主任段伟文认同这一观点。“美国公众强调对政府部门权利行使的限制,对监控技术的应用比较敏感,在加州可能装个摄像头的困难。”他说,国内公众从安全考虑不那么反对摄像头的安装,但这并不意味着人们可以接受摄像头的无序安装和监控,特别是随着人脸识别和智能分析技术的出现,大家必然会担心数据安全问题,美国对人脸识别技术的警惕确实对我们是个提醒。”

段伟文分析,人们对人脸识别技术的担忧主要来自侵犯隐私,及由此会带来的诸如滥用、歧视等问题。

尽管一些人脸识别数据平台表示在采集到照片后会对照片进行脱敏处理,只提取照片特征,而非照片本身,即使这些特征在传输过程中被窃取,也无法还原出照片,但是未经用户允许调用照片,本身就是一种对隐私的侵犯。并且,这些数据依然可以用来跟踪消费者的购物习惯,用于精准营销。

相关文章