“这太恐怖了！”浙江杭州，男子与同伙在网上购买他人的手机号、头像照片和身份信息，然后使用AI换脸技术，生成一个虚拟人物出来。再然后利用这个虚拟人物的交互功能，去验证购物平台的人脸识别系统。之后，男子与同伙强制登陆不少人的购物平台账号，将收货地址、购物车信息等售卖给第三方，同时还有偿帮人虚假实名认证，非法获利5857元，现如今男子被判了
 
据报道，张某和王某两人平时不怎么干正事，就在网上瞎琢磨怎么搞钱。
 
他们发现现在的APP登录都要刷脸，又是点头又是眨眼，觉得这玩意儿肯定破不了。
 
但碰上了AI，这所谓的“安全锁”还真就有点悬。
 
这俩人的作案手法，说白了就是“无中生有”。
 
他们先是在网络黑市或者一些不正规的渠道，搞来了一大批别人的手机号、身份证照片，还有最关键的——高清正脸照。
 
有了这些素材，他们就开始“施法”了。
 
他们用那种AI深度合成软件，把照片往里一输，好家伙，静止的照片立马就“活”了。
 
这软件能模拟出真人的微表情，眨眼、张嘴、左右摇头，动作流畅得跟真人一模一样。
 
但这还没完，光有视频还不行，得让手机APP以为这是摄像头实时拍到的。
 
于是，他们在手机里装了个“虚拟相机”的插件，把原本的手机摄像头给替换了。
 
等到要登录别人购物账号的时候，系统提示“请眨眨眼”，张某他们就播放那段AI生成的视频。
 
系统一看，嘿，有眼皮动作，是活人，通过！就这样，他们硬生生骗过了平台的人脸识别系统，强行登录了30多个别人的账号。
 
登进去干啥呢？倒卖信息。
 
他们把账号里的收货地址、购物车信息导出来卖钱，甚至还帮别人搞虚假的实名认证，这一通操作下来，俩人一共赚了5857块钱。
 
钱是不多，但这事儿性质太恶劣了。
 
法院审理的时候都惊了，这是浙江头一个因为AI伪造人脸过活体认证的公益诉讼案。
 
最后判决下来，这俩人不仅要公开道歉，还得赔偿公益损害赔偿金5857元。
 
你看，赚多少赔多少，还得背上案底，这笔账怎么算都亏大了。
 
你可能会问，现在的技术都这么牛了吗？连刷脸都能骗？
 
其实道理不复杂。
 
以前的活体检测，防的是照片和视频回放。
 
但现在的生成式AI，它是“算”出来的脸。
 
它能根据一张照片，推算出你转头时侧脸长啥样，光线变化时阴影在哪。
 
再加上那个虚拟摄像头技术，直接把数据流注入到APP里，绕过了物理摄像头。
 
这就好比你家门锁防的是钥匙，人家直接把你家墙给拆了进来了。
 
最高法最近也发话了，对这种利用AI换脸作恶的，严惩不贷。
 
特别是那种未经同意拿别人脸去训练模型、生成虚拟形象甚至拿去带货的，都是侵权。
 
要是用这技术搞“网络开盒”、人肉搜索，或者大数据杀熟，那更是罪加一等。
 
那咱们普通人该咋办？总不能把脸蒙上吧？
 
我有这么几个不成熟的小建议，大家伙儿可以参考参考：
 
第一，朋友圈发照片得长点心了。
 
那种高清的、正脸的、光线特别好的自拍，少发点，尤其是原图，千万别乱传。
 
你以为是分享生活，骗子眼里那就是“原材料”。
 
第二，熟人借钱，哪怕视频里看着是他本人，也得留个心眼。
 
现在的AI换脸视频通话都能做，虽然还有破绽，但一般人看不出来。
 
涉及到钱，必须打电话核实，或者问点只有你俩知道的私密事儿。
 
第三，别瞎点链接，别乱下软件。
 
特别是那种让你开启“无障碍服务”或者让你装不知名插件的APP，那很可能就是虚拟摄像头的入口，装上了，你的手机就不听你使唤了。
 
说句心里话，技术这东西是把双刃剑。
 
AI能帮咱们画图、写代码，也能被坏人拿去当作案工具。
 
咱们不能因噎废食，不用AI了，但防人之心不可无。
 
现在的骗子，那是真舍得下本钱钻研技术，咱们要是还停留在“刷脸就是安全”的老观念里，那钱包可真就保不住了。
 
这5857块钱的案子，就像是给全社会的互联网安全敲了一记警钟。
 
平台得升级技术，不能光靠眨眨眼就认人；咱们自己也得把弦绷紧了，毕竟在虚拟世界里，眼见都不一定为实，更何况是那一串冰冷的数据呢？
信源：河南都市频道