“人脸识别第一案”扣响人工智能产业警钟,智能技术和信息安全

Di Pubblicato Febbraio 15, 2021

集微网报道,要隐私还是要智能?在智能化日益深入的时代下,这一问题的矛盾也愈发显现。

近日,被誉为“中国人脸识别第一案”的一审判决尘埃落定,备受争议的人脸识别相关合法性事宜在判决中获得回应,一审法院最终支持了原告郭某的部分诉讼请求。该案唤醒社会大众对人脸识别等生物特征的个人信息保护之重视,警示信息收集者、处理者审慎使用生物信息等方面意义重大,也提醒立法者对于相关法律法规的空白进行填补。

作为人工智能最广泛的应用场景,人脸识别近年来已渐渐成为最贴近日常生活的技术之一。但人脸识别涉及到生物信息的获取,其数据安全和隐私保护的问题历来是具有争议的。而人工智能要做到彻底的“与人为友”,未来受到的监督和管理只会愈发严格。

 

10d2097c414a418eb061e4eed7ba06ff.jpg

 

争端:人脸识别双刃剑亟需补上立法空白

“人脸识别第一案”的起因是,2019年7月,杭州野生动物世界引进了人脸识别技术,应用于年卡使用者的入园检票环节,取代原有的指纹识别方式。但此举受到作为年卡用户的浙大法学博士、浙江理工大学特聘副教授郭兵的质疑,而他于同年4月购入动物园年卡时当时约定的入园方式是指纹识别。郭兵不同意被采集人脸信息,要求退卡、退费,但遭到拒绝。同年10月28日,他将杭州野生动物世界告上法庭。

这确实反映了一个问题:在当今社会环境下,个人信息的获取太过方便且廉价,而相关法规并未对此有很好的约束。

在人脸识别技术的成熟和成本下降后,人脸识别应用场景大面积铺开,摆在技术眼前的是法律监管,反之则亦然。从技术层面出发,是否本身的特性注定人脸识别技术是一把双刃剑?

“目前针对人脸识别信息安全与隐私保护的问题,主要的风险点还是集中在数据的采集和存储环节。”IEEE高级会员,中国科学院自动化研究所副研究员,模式识别与图像处理技术专家 董晶在接受集微网采访时表示。

董晶指出,由于人脸识别系统需要比对当前采集的人脸数据(模板)与存储的数据(模板)之间的相似性来区分是否是同一个人,从而进行身份信息的认证,因而如何在采集和存储环节加强对敏感和隐私数据的脱敏和清洗,将识别匹配算法中需要的信息保留至识别系统的相应模块并进行数据的加密或脱敏处理是至关重要的。

那么,从技术层面如何有效防止人脸识别技术的安全和隐私隐患?

IEEE院士,浙江大学网络空间安全学院院长,人工智能安全领域专家任奎对集微网表示,首先要明确的是没有绝对的安全,从技术层面上要做的是让伪造所耗费的成本超出攻击者获得的利益,而这是可以做到的。

任奎指出,就隐私保护而言,需要求在设备本地和传输过程中均不包含人脸的原始敏感信息,做到用后立即销毁,而使用的仅仅是在人脸上提取的特征,例如通过提取器对人脸提取特征并通过加密传给服务器,而服务器通过加密数据的搜索与匹配技术,在完成人脸识别任务的同时保证原始人脸信息的安全。在人脸识别过程中,采用更先进的技术,在提取人脸结构特征的同时利用人脸的深度信息和材质信息进行活体验证,这也能使仿造的成本进一步增加。当造假成本远超过利益获取时,便可避免上述隐患。

但任奎强调,这些技术的应用和布置仍然需要依托于相关的法律和行业规范。总而言之,目前的技术是有能力来保护生物识别信息和个人隐私的,但能否在实际应用中大规模实现的关键仍在立法立规上。

唤醒:预防人工智能技术的滥用

随着人工智能技术被“嵌入”百业百态,对社会的影响也越来越大。隐私保护、算法安全等关键词更是成为人工智能发展不可回避的话题。

去年,美国科技巨头如IBM、亚马逊、微软等,相继宣布停止提供和开发人脸识别技术。欧盟委员会表示,欧盟正在考虑在公共场所禁止面部识别技术,期限可能长达五年,以供欧盟研究如何防止技术的滥用。早在2015年,欧盟议会法律事务委员会就决定成立专门研究机器人和人工智能发展相关法律问题的工作小组。

而反观国内大众对人脸识别技术的隐私保护意识相对较薄弱。

从大众层面看,任奎指出,这是由于长期历史发展不同而带来的,并且当前采集人脸数据的单位主要是手机厂商,金融公司以及政府单位,都具有较强的公信力和较高的技术水平,大家对这些单位的信任感较高。

任奎认为,人脸识别技术对于社会的正面影响远大于负面影响,同时对于人脸识别的批评和抗议也说明了这一技术仍有很大的改进空间。

从技术层面看,董晶认为,面向应用的技术研究最终是要解决实际问题,而不仅仅源于兴趣使然或者源于经验。

董晶进一步解释道,人脸识别技术中也有些技术最初研究伊始受限于其研究的基础数据库与测试环境的部署,只能在特定的数据库和实验室环境下进行科学方法的验证,比如很多国家根本无法做到大规模的应用和测试,就使得许多现有的人脸识别技术在走向面对不同国情和需求场景的实际应用阶段缺乏相应的安全性分析的验证环境。

显然,任何技术的推进都会受到大众对其不成熟性更多的担忧,问题总是与隐患裹挟着而来。对于国内外不同的人脸识别技术商用环境,“人脸识别第一案”会对社会、民众造成哪些影响?

IEEE会员,香港中文大学信息工程系助理教授,人工智能领域专家周博磊对集微网表示,这是一个很好的开端,如何避免人工智能技术的滥用,是需要多方讨论的议题。规范人工智能的应用,是人工智能技术发展到一定阶段必须经过的步骤。民众,公司,政府,都需要一起参与进来规范和监督人工智能的应用范围。

他强调,法律只是最低档次的约束,企业和政府部门还需要努力上升到道德层次来审核和约束人工智能的应用范围。

任奎认为,“人脸识别第一案”充分展现了大众对于人工智能场景下个人隐私意识的觉醒,人们开始了解到隐私这一概念的巨大价值。

当前人工智能产业的问题与未来发展

不可否认的是,我们正享受着人工智能带来的便利。人工智能技术的被视为新一轮产业革命的使能技术,面对万物互联时代的到来,“人脸识别第一案”不光是敲响在民众、政府机构头上的警钟,更是对我国庞大的人工智能产业的一次警示。

据前瞻产业研究院数据显示,中国人脸识别市场规模约占全球市场15%左右,预计到2024年市场规模将超100亿元。人脸识别主要应用领域——金融和安防的需求广阔,我国有望成为全球最大人脸识别市场。

据智慧芽联合罗思咨询发布的《2021人脸识别行业白皮书》内容显示,中国人脸识别相关技术发展相对成熟,市场潜力巨大。但技术尚存一定隐患,不同场景、光线、角度下识别结果的准确性、面对伪装攻击时的分辨能力、以及个人隐私的安全性都是目前有待解决的问题。

对于人工智能产业的问题与未来发展,任奎提供了一些建议:第一,人工智能产业作为一个新兴产业目前亟待解决的是产业规范问题,如何使得技术能够用于造福大众而不是侵犯大众的权利需要得到相关法律法规的进一步地完善。

第二,当今人工智能市场巨大,但是不能只着眼于人工智能应用,更要着眼于人工智能核心技术的迭代更新,只有不断提升性能,才能防止自己的产业被其他更好的技术所取代。

第三,国内人工智能的底层技术仍然存在较大的缺陷,存在“头重脚轻”的问题,主要依赖于国外的开源技术,这一方面也需要基础学科研究进行一定突破。

第四,人工智能技术与物联网的广泛应用也带来了攻击面的增加,像对抗样本,生成对抗网络的视音频伪造攻击等等,我们需要使用更新、更有效的防御手段去面对不断变化的攻击。

最后,是对于大众的安全意识的普及,在享受便利的同时让大众对于基础的网络空间安全有一定的了解也是需要解决的问题之一。

Letto 1601 volte

Contattaci

Viale della Repubblica, 298
Prato, PO 59100
ITALY
0574 1595523
Questo indirizzo email è protetto dagli spambots. È necessario abilitare JavaScript per vederlo.
www.radioitaliacina.com
  • SPERIMENTARE - AMARE - INTERAGIRE

     
    appstore icon apple android icon android