央视网报道,长期以来,关于刷脸或人脸识别技术存在诸多争议。对此,国家网信办和公安部近期联合发布的《人脸识别技术应用安全管理办法》提供了明确指导。该办法强调“非强制性原则”,即不得将人脸识别技术作为唯一的身份验证手段。对于那些不认同使用人脸信息进行身份验证的个人,应提供其他合理且便捷的验证途径。为了守护这一面容,相关部门出台的规章并非单一,面对AI换脸技术制作虚假视频的频发情况,网信办等四个部门刚刚发布了《人工智能生成合成内容标识办法》。这一系列新规,为面部信息构筑了一道怎样的“安全屏障”?又为科技创新设定了哪些新的界限?《新闻周刊》在本周的焦点报道中探讨了如何守护我们的脸面。
人脸识别技术已渗透至生活的方方面面,无论是出入住宅小区、健身中心还是酒店入住,我们是否都曾遭遇过必须借助人脸识别技术才能顺利通过的情形?在上海的一家健身房,其入口便配备了人脸识别系统,一旦识别到会员信息,便可轻松进入。近期,该健身房无论是入口还是更衣室,均仅采用人脸识别作为身份验证手段,这一做法曾让消费者周女士感到诸多不便。
周女士的诉求因缺乏明确的支持而未获健身房的关注与改正,无奈之下,她只得通过法律途径,即提起诉讼来捍卫自身权益。随后,上海市闵行区检察院向相关行业管理部门提出了建议并督促整改。在健身房面临诉讼后,其摄像头数量随之有所减少。
上海市闵行区人民检察院公益检察部门的检察官黎洪友表示,调查结果显示,该健身房存在两个主要问题。在健身房入口,他强制规定顾客必须通过人脸识别技术方能入内,并未提供其他可选方式;另外,他在地下楼层男女更衣室内分别安装了人脸识别装置,我们认为在如此隐私的空间内安装此类设备实属多余,且违反了相关法律法规的规定。
本周五,检察官重返该健身房执行常规巡查,发现通往健身区的走廊上贴有关于自助领取开柜手环的温馨提示。除了人脸识别技术外,入口处的闸机也支持手环通行。此外,更衣室的柜门屏幕已不再具备人脸识别功能。3月21日,我国网信办与公安部共同发布的《人脸识别技术应用安全管理办法》中,明确提出了“最小必要原则”。该原则要求,在运用人脸识别技术时,不仅要确保其必要性充足,还需确保其对个人权益的影响降至最低。同时,该办法还规定,人脸识别技术不得作为唯一的身份验证手段。这样的规定为像周女士这样的诉求提供了明确的法律依据。
周辉,中国社会科学院法学研究所网络与信息法研究室副主任指出,鉴于人脸技术在经济社会领域的广泛应用,我们有必要对此进行纠正。人脸识别技术的普及,确实降低了众多服务的成本,甚至涉及管理费用,促使人们广泛采用这项技术。然而,我们出台的相关规定意在提醒大家,收集人脸信息时必须关注潜在的风险。我们需要更好地保护自己的人脸信息在内的这些权益。
位于山东青岛崂山区的三所学校在本学期引入了智能管理系统,其中一项特色功能是“智慧停车”。该校停车场被划分为停车区域和接送孩子区域,家长们只需将车辆规范停放在指定车位,即可直接步入大厅内的家长等候区,安心等待孩子。学生刷脸成功通过闸机的那一刻,电子大屏幕即刻显现出学生的各项信息,家长们亦能同步看到班级放学的情况,如此一来,高峰时段接送孩子的拥堵情况有望得到缓解。在正式启用之前,上学期期间,学校已经征询了家长们的看法。
校园引进高科技设施普遍受到欢迎,人们普遍没有太多挑选的余地,然而在这所学校正式启用前,它征求了申请入学者家长的同意。鉴于面部信息仅限于校内网络使用,且保密措施得到加强,绝大多数家长接受了面部信息的录入,不过仍有约10%的家长选择拒绝,他们主要是出于无需接送孩子上下学的考虑,亦或是出于对孩子面部信息更为谨慎的保护态度。
《办法》的最新版本中明确指出,若要处理未满十四周岁的未成年人的人脸信息,必须征得监护人的认可。鉴于此,学校对于未录入信息的学生,表示完全尊重家长和学生的决定。在停车接送系统中,学校还特别增设了人工服务通道,旨在确保每位家长都能获得尽可能平等的服务。
青岛市崂山区福山学校的副校长张迪表示,学校已经做好了充分的应对措施,具体包括在人工通道区域增设了广播设备以及配备了触摸屏系统。放学时分,班主任离开教室后轻触电子显示屏,随即一年级几班的信息便会通过广播系统在校门口实时播放。家长们听到广播后,相应班级的家长如一年级一班的家长便会前往门口接孩子,而其他班级的家长则需在等候区耐心等待。
《人脸识别技术应用安全管理办法》自6月1日起正式生效,届时,包括面部支付、社区门禁以及交通出行等多个领域涉及面部信息的问题,都将依照新规得到更加严格的规范管理。
人脸识别技术应用的领域正日益拓宽,从过去的住宅小区门禁和酒店入住登记,现已渗透至生活的方方面面,包括饮食、居住、出行等,如智能家居、智能车辆、交通出行、金融支付等。人脸数据已不再仅仅是出入的凭证,它已转变为支付的安全码,甚至在一定程度上取代了身份证的功能,逐渐演变成开启个人所有信息的钥匙。然而,随着其功能的增强,潜在的风险也在增大,一旦信息泄露,其危害程度也就不言而喻。那么,面对如此敏感的人脸数据,我们该如何进行储存、运用、流转以及销毁?新颁布的管理措施又有哪些创新性的条款呢?
人脸支付、就医、进站等场景中,人脸识别技术正逐步渗透至日常生活,人脸仿佛成为了一张流动的身份证。这不仅显著提高了验证流程的效率,却也引发了人们对隐私泄露的严重担忧。例如,杨女士在上海租住公寓后,该公寓以保障安全为由安装了人脸识别门禁系统。她对于自己的面部信息可能被泄露深表忧虑,而公寓方面则拒绝提供门禁卡或其他识别手段。无奈之下,杨女士便打了市民服务热线。
检察官在调查过程中发现,门禁系统中存有已离租租客、送餐员以及访客等人脸数据;在人脸信息采集过程中,并未以明显方式充分履行告知责任;此外,门禁系统的账号密码被直接存放在电脑里,只需一点击即可登录;而用于存储数十万条人脸信息的电脑和主机,公寓方面并未采取加密措施。
李琳认为,最严重的问题在于公寓管理方的认知不足,他们并未充分认识到在掌握大量信息的同时,自身肩负着怎样的法律信息保护责任。因此,在我们进行相关调查以及对他们公寓提出督促和建议时,会发现公寓整体状况显得较为迷茫。
《人脸识别技术应用安全管理办法》沿袭了数据分类分级管理的理念,对存储超过10万人信息的个人信息处理者提出了备案规定,要求这些处理者在30个工作日内向其所在地的省级或以上网信管理部门进行备案,并提交必要的材料。同时,若有人终止使用人脸识别技术,则需在终止使用后的30个工作日内完成注销备案,并按照法律规定妥善处理人脸信息。
周辉,中国社会科学院法学研究所网络与信息法研究室副主任,指出在准备备案材料阶段,便需对个人信息的管理流程进行系统梳理,确保符合规定要求。如此一来,监管者能够更全面地了解本地区人脸信息处理者的具体情况,便于他们进行动态且有针对性的监管,甚至实施相应的执法处罚。
虹口检察院向住房租赁主管机构提出检察建议,要求其对公寓仅将人脸识别门禁作为出入验证的唯一手段的行为进行督促整改。同时,还要求住房租赁企业执行法定告知职责,并完善数据安全管理制度。
李琳表示,我们内部在选择哪个部门的问题上存在分歧,有人从网信部门负责的视角出发,也有人从公安机关对技防工程监管的角度来考虑。然而,经过讨论,我们最终达成共识,即应聚焦主管部门的行业主管职责。同时,地方立法精神要求数据与业务协同管理。在后续案件审查中,我们发现租赁行业日益规范,但人脸技术应用场景却日益增多。如何更好地利用大数据,需要法律制定、执行、监督等各环节共同努力。
数年前,郑某等四人因运用人工智能技术将人脸图像转化为视频,进而伪造人脸识别认证并非法获利,遭到了刑事责任的追责。然而,广州市越秀区人民检察院随后又对这四人提起了民事公益诉讼。
此案是全国首起涉及“人脸识别”的民事公益诉讼案件。据检察机关透露,四名被告承认非法处理了2000多条个人信息,非法所得超过一定金额。在实施侵权行为时,四名被告通过一款具有阅后即焚功能的软件删除了大量信息和交易记录,因此,潜在受害者的数量、身份、信息去向以及用途均无法得到核实。
彭葵葵指出,人脸信息属于极其敏感的个人隐私,与姓名、性别、家庭住址等常规个人信息存在显著差异。常规信息可通过脱敏处理来保护,而人脸信息却能与特定公民个体精确对应。一旦失去个人控制,其流动方向难以预测,可能带来的损害后果亦难以预估。
尽管在此次案件中受害者身份难以明确,然而广州互联网法院经过审慎审理后指出,那些已经泄露并在网络黑灰产市场中流通的个人信息,导致广大不特定公众的隐私权、财产权和信息安全权均面临风险累积效应,这一现象与个人信息非法交易、滥用等不良趋势呈现出正相关。法院判定,四名被告的行为已对社会公共利益造成了损害,应当通过公益诉讼途径,努力将遭受破坏的社会秩序恢复至其原本应有的状态。
往昔,人们常言“眼见为实”,然而,近年来,众多新技术的迅猛进步,使得这句话在许多人心中蒙上了一层疑问。从伪造的照片、图像,到如今借助“AI换脸”技术所制作的虚假视频,人们的视觉信任感日益减弱。有人借助AI换脸技术制作虚假视频,假扮成知名医生、演员或明星,公然从事虚假宣传和直播带货活动,甚至有人直接用这些换脸的假视频进行诈骗。此类事件频发,不禁让人深思,这张脸究竟还属于谁?面对人脸信息保护这一新挑战,我们究竟该如何应对呢?
知名人士的面容与AI合成的声音相结合,便能制造出一段假扮他人面貌的视频。近年来,这类AI换脸视频在网络上屡见不鲜。众多演艺界明星、商界精英以及知名医生的肖像被恶意利用,用于直播推销和虚假广告。即便是那些成为新闻焦点的一般民众,也难以幸免于难。例如,历经24年寻子终得团聚的深圳男子谢岳,便是受害者之一。上周,在他与儿子久别重逢的喜悦中,他不禁惊讶地发现,社交平台上涌现出众多假冒他们父子的账号,其中一些甚至利用AI技术更换了他们的面部形象,开始进行商品销售。
人脸替换技术、声音模仿等这类AI深度合成手段,早已不再是尖端科技。在电商平台上,仅需花费几十元,便可以定制一段换脸视频。更令人忧虑的是,这种技术已被不法分子用于电信诈骗的新手段。各地警方已破获多起相关案件,其中多数是通过换脸视频,冒充上级或亲友身份,通过视频通话的形式骗取财物。
桂林市公安局新型网络犯罪侦查支队三级警长林仲文指出,此类案件与传统案件不同,它借助AI合成技术制作出的视频与图片,极具欺骗性。以往接到冒充熟人电话时,民众尚能保持一定的警觉,然而一旦对方通过视频手段,民众便可能误信对方是自己的亲友,进而降低警惕。
此类换脸视频的广泛使用,不仅对公民的肖像权和名誉权造成了严重侵害,还严重削弱了人际交往中真实性的根基。有专家指出,这种技术对公民的人格权构成了“数字化谋杀”的威胁。同时,这些难以辨识真伪的视频,也对当前的人脸识别安全防护系统带来了巨大的挑战。
为了协助网民辨别AI生成的视频内容,近期,广西桂林市公安局携手第三方服务平台,在官方微信公众号上推出了一个专门的鉴别真伪的小程序,用户只需上传视频或图片,系统便会自动进行真伪的识别。
周辉,中国社会科学院法学研究所网络与信息法研究室副主任指出,我们迫切需要建立一个更加可靠的数据库或平台,以便有效鉴别真伪,揭露虚假信息。然而,在监管和治理第三方技术主体采购的过程中,我们还需评估其技术服务水平,并关注其在服务过程中收集的数据是否可能带来额外的风险。
小程序自发布以来,短短十天便助力约200位网友完成了视频真伪的辨别。同时,警方也向公众发出警示,尽管AI换脸技术使得视频的真假难以区分,但并非全然无懈可击,只要掌握了相应的方法,个人依然可以辨别出其中的破绽。
桂林市公安局网络犯罪侦查支队三级警长林仲文表示,若无法确定内容是否由AI生成,可请对方在摄像头与脸部之间挥动手臂,因为目前AI技术尚难以对实际动作进行合成处理。
为了使更多人能够区分信息的真伪,国家层面上的政策支持至关重要。在两周前,国家网信办联合其他三个部门发布了《人工智能生成合成内容标识办法》。该办法对内容制作、传播等各个流程中的标识行为进行了规范,通过设置标识来帮助用户识别虚假信息。同时,办法还明确了服务主体在标识方面的责任和义务,要求互联网应用程序分发平台对生成合成内容标识的相关材料进行核实。
近期,AI领域的发展势头强劲,然而,技术的飞速进步如同双刃剑一般。个人信息,一方面是新技术得以运用的宝贵资源,另一方面,它也是我们必须坚决维护的合法权益。有专家指出,对于人脸等极其敏感的核心数据,在权衡“利用”与“保护”之间的矛盾时,必须将保护置于首位。
新技术如人工智能等迅猛发展,让众多人兴奋地期待着新时代的降临。然而,随着技术的不断进步,个人信息的易受侵害性愈发明显。人工智能能够轻松复制人脸、模仿声音,这让我们不得不正视一个事实:技术的发展必须以保护个人信息为前提,否则,每一次技术的提升都可能成为对个人信息权利的精确打击。在技术飞速发展的征程中,我们必须时刻为诸如人脸在内的个人信息穿上“安全防护衣”,方能顺利抵达我们憧憬的美好未来。