AI生成视频已经能逃过人脸识别系统
很多人习惯了刷脸办事,登录账号、实名认证、转账核验、办线上业务,只要对着镜头眨眨眼、摇摇头,几分钟就能搞定。在大家的认知里,人脸识别加活体动作校验,算是一道很靠谱的安全门槛。
但最近多地法院、公安公布的案件,打破了很多人的固有认知:不法分子只用一张网上找到的正面照片,借助AI工具生成一段可以跟着指令做动作的动态视频,再搭配虚拟相机软件篡改摄像头数据流,成功绕过平台人脸核验,冒用别人身份注册账号、盗取资金,这类案子已经不是实验室里的假想风险,而是真实落地的黑产套路。
不少人看完消息第一反应就是恐慌:以后刷脸还安全吗?是不是只要拿到我的照片,任何人都能用AI做一段视频冒充我?还有人走向另一个极端,觉得这只是个别漏洞,不用放在心上。这两种想法都不够客观。今天我们抛开惊悚的噱头,用大白话把这套攻击是怎么实现的、哪些场景风险最高、哪些刷脸方式不容易被攻破,以及普通人能落地的防护办法一次性讲清楚,不夸大风险,也不淡化隐患。
先讲一个关键点:AI视频骗过人脸识别,不等于市面上所有刷脸设备全部失效。它有明确的适用条件,很多人混淆了两种完全不一样的刷脸核验方案。
我们平时接触的人脸识别,大致分两大类。第一种是本地设备自带的深度识别,比如手机自带的Face ID,依靠前置深度摄像头采集三维面部信息,读取骨骼轮廓、面部凹凸结构,不是单纯识别一张平面画面。单纯一段AI生成的2D视频,正常情况下很难攻破这类带深度传感器的本地核验。
第二种,也是这次案件里被突破最多的,是线上网页、小程序、普通App里面的远程人脸核验。这类核验大多是普通2D摄像头,传统的活体方案,就是随机弹出指令,要求用户眨眼、左右摇头、张嘴,算法只识别画面里的人脸有没有完成指定动作、人脸相似度是否达标。早些年,这种方式对付打印照片、手机屏幕翻拍视频足够好用,但是现在的AI生成技术,可以根据指令同步生成对应的动作视频,眨眼、转头、张嘴全部做得连贯自然,肉眼很难看出破绽。
这里还要拆解黑产攻击的核心环节,很多人以为,直接把AI视频对着摄像头播放就能通过,实际上绝大多数平台,直接拿屏幕播放视频,还是会被系统识别成屏幕翻拍拦截下来。真正能成功突破的关键一步,是虚拟相机注入。
简单解释这个流程:攻击者拿到你的照片之后,用AI生成一套可驱动的动态人脸素材,平台发出什么动作指令,AI视频就同步做出对应动作。之后在手机或者电脑上安装虚拟相机工具,接管设备的摄像头数据流。平台发起刷脸请求时,系统调取的不是真实摄像头拍到的实景画面,而是攻击者提前准备、实时响应指令的AI合成视频。相当于在摄像头和App中间,搭了一条虚假通道,直接替换原始画面,绕过了屏幕翻拍检测这一关 。杭州中院公布的案例,走的就是这套流程,嫌疑人收集网络上的他人照片,制作动态AI视频,搭配虚拟相机注入,突破线上核验,盗取账户信息 。
警方破获的同类案件里,还有专门的产业链,批量生产这种可驱动的人脸动态素材,几万条AI人脸视频在黑市流转,专门卖给做虚假实名、洗钱、注册违规账号的团伙,成本很低,上手门槛持续下降。早几年想要做出能同步响应随机指令的换脸视频,需要比较强的显卡和技术能力,现在不少线上工具上传一张照片,几分钟就能生成可驱动的动态人脸,普通人都能操作,风险面随之扩大 。
接下来要理清一个很重要的边界:传统活体检测,它的设计目标原本是防照片、打印图、提前录好的固定视频回放。它判断“活体”,只看有没有做出指定动作,并没有办法自动区分,这个动作是真人做出来的,还是AI算法实时渲染生成的。这就是这套攻击能找到突破口的根本原因。
当然,安全厂商也在持续升级防御,新的防伪方案,不再只盯着有没有完成动作,会同时检查很多AI很难复刻的细节:人眼自然的注视方向、细微的面部肌肉变化、眨眼的频率和间隔、皮肤光影的自然变化、有没有脉搏对应的微弱肤色波动,同时增加设备数据流校验,检查当前画面是不是来自原生硬件摄像头,拦截虚拟相机注入。带这类深度防伪、多维度校验的平台,被AI视频攻破的概率会大幅降低。
这就会出现一个现实差异:不同平台安全投入不一样,核验标准参差不齐。一些大型银行、支付平台,风控体系迭代速度快,多重校验叠加,防护能力更强;而部分小型小程序、不知名网站、一些第三方实名通道,活体方案更新慢,防御能力偏弱,更容易成为黑产优先盯上的目标。这也是为什么同样是刷脸,有的平台很难被攻破,有的平台就出现了被AI视频绕过的案例。
很多读者最关心,自己的照片会不会被拿去做这种伪造视频。我们要先搞清楚照片的来源。黑产用来攻击的照片,大多不是偷偷偷拍的高清特写,很多就是我们自己主动发出去的:朋友圈、短视频评论区、社交相册、求职简历、报名表单、各类打卡小程序,上传过的清晰正面免冠照、自拍。这些公开或者半公开的照片,只要面部完整清晰,就有可能被收集起来,放到AI驱动工具里生成动态素材。
不是说只要网上有你的照片,就一定会被冒充。黑产也会挑选目标,优先找容易变现的账号,但是风险的底线在于:你的人脸生物信息一旦被别人拿到,主动权就不在自己手里,不知道什么时候会被拿来尝试实名、注册、贷款类核验。
我们再区分清楚,哪些场景风险偏高,哪些场景相对安全,大家平时办事的时候心里有数。
高风险场景:不知名网站、小众小程序要求线上实名刷脸;陌生链接跳转过来的人脸核验;非官方渠道的兼职、刷单、账号过户、代认证业务;需要你下载陌生软件、给App开放全部相机权限的刷脸流程。这些场景本身就容易混入黑产工具,再加上平台风控薄弱,是AI换脸攻击高发区域。
中等风险场景:普通中小型App的实名认证、线上资料提交核验,要看平台背景,小公司开发的应用,防伪升级速度往往滞后。
低风险场景:正规大型支付、银行官方App;手机系统原生的深度人脸解锁;政务官方平台,这类渠道一般会叠加设备检测、短信核验、银行卡四要素比对、后台人工复核等多层防护,单一AI视频很难一次性打通全部关卡。
但这里有一个不能忽视的提醒:就算是大平台,也不是绝对零风险。安全攻防本身就是来回博弈,攻击技术在更新,防御方案也要跟着持续迭代,不存在一劳永逸、永远不会被突破的核验方式。
说完风险,重点落到普通人可以执行的防护办法,都是简单可落地的,不需要懂复杂技术。
第一,控制清晰正面人脸照片的外流。不要随意在陌生平台、不明表单上传高清正面照,尤其是证件照。朋友圈、社交账号里,尽量少发正对镜头、光线均匀、面部完整无遮挡的自拍,不要随便授权陌生App访问相册、相机权限。很多人觉得一张照片没什么,现在的AI技术,单张照片就足够生成可驱动的动态人脸视频,素材门槛已经很低。
第二,刷脸核验的时候,守住一条底线:不在陌生链接、非官方渠道里面做刷脸。凡是收到短信、私聊发来的链接,点开之后要求刷脸实名、核验身份,一律直接关掉。正规银行、政务、支付平台,不会通过私发链接让你跳转外部页面刷脸。遇到别人远程指导你下载软件、开启屏幕共享、配合刷脸,不管对方说是什么理由,全部拒绝,这是黑产最常用的配合套路。
第三,尽量开启多重验证,不要只依赖刷脸这一道关卡。账号登录、资金变动,优先打开短信验证码、硬件令牌、二次密码。刷脸最好作为辅助验证,而不是唯一验证方式。如果平台有设置,可以开启设备绑定,只在自己常用手机上允许刷脸核验,陌生设备触发刷脸时,会增加额外校验。
第四,养成定期查看实名绑定记录的习惯。很多人不知道自己的身份信息被绑定到陌生账号。可以定期去对应平台,查看自己名下实名的账号,发现不是自己注册、自己使用的账号,立刻申请注销、解绑,同步留存截图证据。一旦发现有异常实名、陌生账户,尽快联系平台客服,必要时报警备案。
第五,遇到视频通话、别人远程找你核验身份,如果怀疑对面是AI换脸,不要只让对方做简单点头眨眼。可以提出随机、非常规的指令,比如抬手捂住半边脸、把手指放在鼻尖、看向旁边某个指定物品。现在很多AI驱动视频,只能提前预设好常规动作,很难实时响应随机、无规律的指令,这是一个简单好用的鉴别小技巧 。
第六,手机尽量不要随便越狱、root,不要安装来路不明的虚拟相机、修改类工具。这类工具本身就是黑产用来篡改摄像头数据流的载体,普通人正常使用完全不需要,一旦装上,不仅人脸核验容易被劫持,还会带来木马、窃取信息的附加风险。
很多人会问,既然AI视频能绕过刷脸,以后是不是就不能再用刷脸了?其实不用全盘否定人脸识别。刷脸本身是很方便的身份核验手段,它的风险问题,本质上是单一2D活体动作校验方案,跟不上AI生成技术的进步,不是这项技术本身彻底作废。
行业里面也在同步推进几类长期的解决方向:一是给AI生成内容强制嵌入水印和溯源标记,从源头追溯伪造视频的制作者;二是普及深度摄像头、多模态核验,把人脸、设备信息、行为特征、证件信息交叉比对;三是完善法律打击链条,现在制作、使用AI伪造视频冒用他人身份,属于违法犯罪行为,涉案金额达标会承担刑事责任,公安也在持续打击这条黑灰产业链,从供给端压缩空间 。
还有一个误区需要纠正:网上流传“AI换脸万能,什么刷脸都能过”,这个说法并不客观。想要完成一次成功的攻击,整套链条缺一不可:拿到清晰人脸素材、适配对应平台的活体指令、可用的虚拟相机注入工具、平台本身防伪存在短板。缺少其中一环,攻击就很难成功,并不是拿到照片就能随便冒充任何人。
同时我们也要理性看待技术发展,AI是一把双刃剑,它在影视制作、数字分身、医疗仿真等领域有很多正向用途,风险来自于滥用技术的人,而不是技术本身。我们不用因为出现这类案例,就陷入持续的焦虑,重点是改变以前“刷脸百分百安全”的认知,提高风险敏感度,把防护习惯跟上技术变化的速度。
最后再梳理一遍核心观点:AI生成动态视频配合虚拟注入,确实可以突破部分老旧、单一的线上2D人脸活体核验;但带深度传感、多维度防伪、多重交叉验证的正规平台,抵御这类攻击的能力要强很多。对普通人来说,核心防护思路,就是少泄露人脸素材、不在陌生渠道刷脸、不要把刷脸当成唯一的身份验证手段,发现异常实名及时维权。
技术攻防会一直持续下去,没有永远不破的防线,最好的安全,是我们自己先建立起风险意识。
(互动话题)你平时办事会不会频繁使用刷脸核验?看完这些信息之后,你会调整自己上传照片、刷脸的习惯吗?欢迎在评论区留言讨论,关注账号,持续分享网络安全和数字身份防护的实用内容。
免责声明:本文仅为网络安全科普,不代表所有人脸识别系统均存在漏洞;不同平台风控能力存在差异,如发现身份被冒用,请第一时间联系平台并向公安机关求助。