中国有句古话叫“眼见为实,耳听为虚”。但放到现在,这句话就出现很大问题了。如今我们看到的部分内容,有可能就是AI生成的虚假内容。当然,如果善于运用AI,把内容做好,它可以成为不错的艺术作品。可一旦被别有用心之人利用,就会被用来作恶。
尤其对于汽车行业而言,车辆安全是大众高度关注的焦点。部分人利用AI伪造各类汽车事故相关动态视频。经过调色、画面调整之后,这类视频的AI伪造痕迹很难被识别。
那这类虚假内容会给车企带来哪些影响?不少车企在AEB主动避让等安全技术上,投入了几千万甚至上亿元的研发成本,却可能被几条伪造视频全盘否定。车企还往往缺少有效的发声渠道。造谣者还可以辩解,称自己并非针对某家车企,只是觉得好玩,但虚假内容造成的负面影响却十分严重。
所以我认为,这类恶意造假行为应当予以严惩。同时,法律层面也需要针对AI恶意剪辑、伪造视频这类行为配套对应的技术侦查手段。目前来看,有效的处置手段比较匮乏,大多只能依靠人工举报。央视的报道很关键,但AI可以批量生成海量虚假内容,单纯依靠举报,根本来不及处理。男子为博眼球多次编谣言诋毁车企
