据公安部网安局5月7日对外发布的消息,山西大同网警在日常开展网络巡查执法工作时,发现辖区内一名网民邢某存在严重违规违法行为,其擅自利用人工智能技术生成中国国民党主席郑丽文的AI数字人,并借助该数字人开展直播带货活动,相关行为迅速引发广大网民的强烈质疑,严重扰乱了正常的网络传播秩序和市场经营秩序,造成了极为不良的社会影响。
经大同网警全面核查确认,邢某长期从事网络直播带货行业,在行业竞争日趋激烈的背景下,其直播账号始终缺乏足够的流量支撑,带货效果一直不尽如人意,始终处于行业中下游水平。
就在邢某为流量发愁、急于寻找突破口的时候,恰逢中国国民党主席郑丽文率团访问大陆,这趟时隔十年的大陆之行备受两岸民众关注,行程覆盖南京、上海、北京等地,国共两党领导人会面后还推出了十项促进两岸交流合作的政策措施,相关话题持续占据网络热搜,郑丽文本人的关注度也达到了近期的峰值。
看到郑丽文访问大陆带来的超高热度,邢某瞬间萌生了投机取巧的想法,他认为借助名人热度可以快速提升自己直播账号的曝光度,进而带动商品销量,彻底改变自己带货业绩不佳的现状。
在没有任何授权、也未与相关方面进行任何沟通的情况下,邢某擅自使用一款AI生成工具,精准模仿郑丽文的外貌特征、神态举止,生成了高度相似的AI数字人形象,同时借助该工具撰写了一系列贴合直播带货场景的文案,试图让这个AI数字人完全模拟郑丽文的风格开展带货活动。
一切准备就绪后,邢某便在多个网络媒体平台同步开启直播,让这款未经授权的郑丽文AI数字人出镜,全程按照预设文案介绍各类商品,刻意营造出“郑丽文本人直播带货”的假象,误导不明真相的网民点击观看、下单购买。
由于AI数字人模仿度极高,再加上郑丽文当时的热度加持,这款直播很快吸引了大量网民的关注,直播间观看人数短时间内快速攀升,相关话题也随之在网络上扩散开来。
随着直播热度不断提升,越来越多的网民发现,出镜的“郑丽文”言行举止略显僵硬,与真实的郑丽文存在明显差异,细心的网民更是一眼识破这是一款AI数字人。
质疑声很快在网络上蔓延开来,有网民明确指出,未经本人授权就使用他人形象生成AI数字人用于商业带货,不仅不尊重他人,更是明显的违法行为,还有网民担忧,此类行为会混淆公众认知,破坏网络空间的诚信环境,甚至可能对郑丽文的个人形象造成负面影响。
网民的质疑和不满迅速引发了大同网警的高度重视,网警部门第一时间介入调查,通过技术溯源、数据核查、询问当事人等多种方式,全面还原了邢某的违法全过程。
经查实,邢某的行为已构成盗用、冒用他人身份名义招摇撞骗,违反了《中华人民共和国治安管理处罚法》的相关规定,同时其未经授权使用他人肖像生成AI数字人用于商业活动,也涉嫌侵害他人肖像权,严重干扰了正常的网络秩序和市场秩序,造成了恶劣的社会影响。
针对邢某的违法行径,大同属地公安局依据相关法律法规,依法对其作出行政拘留的处罚决定,这一处罚不仅是对邢某个人违法行为的惩戒,更是对所有试图借助AI技术投机取巧、触碰法律红线者的有力警示。
网络并非法外之地,人工智能技术的发展应当坚守法律底线和道德准则,任何利用AI技术从事违规违法活动的行为,都将受到法律的严惩。
此次邢某被行政拘留的事件,也给整个网络直播行业和AI技术应用领域敲响了警钟。随着AI技术的普及,各类AI数字人应用场景不断丰富,但这并不意味着可以随意使用,尤其是涉及他人肖像、身份信息的,必须事先获得授权,严格遵守相关法律法规。
直播带货行业更应坚守诚信经营的原则,靠优质的商品和服务赢得消费者认可,而不是靠蹭名人热度、伪造形象等投机取巧的方式谋取利益。
郑丽文此次访问大陆,目的是促进两岸交流合作、推动两岸关系和平发展,承载着两岸同胞的共同期盼,其形象和声誉应当得到尊重和维护。邢某利用其热度,未经授权伪造AI数字人直播带货,无疑是对这一重要交流活动的不尊重,也伤害了两岸同胞的感情。
目前,邢某已被依法执行行政拘留,其相关直播账号也已被平台依法处理,违规AI数字人形象及带货内容已全部下架。公安部网安局也明确表示,将继续加大网络巡查执法力度,严厉打击各类利用AI技术从事的违规违法活动,坚决维护正常的网络秩序和社会公共利益,守护风清气正的网络环境。


