DC娱乐网

#有AI竟说今年315晚会还没举行#【#有AI为满足用户编造不存在的内容#】20

#有AI竟说今年315晚会还没举行#【#有AI为满足用户编造不存在的内容#】2026年的央视“3·15”晚会于3月15日晚间播出。其中,“向AI大模型‘投毒’”的GEO(生成式引擎优化)业务被曝光后,很多人才发现,让AI推荐不靠谱,因为不法商家会批量编造虚假测评信息、伪造权威推荐内容,“投喂”给大模型,让AI给出“定制推荐”。

3月16日,记者对消费者最常使用的4个AI大模型做了一个简单测试:向它们提出同一个问题“2026年央视3·15晚会曝光了哪些品牌”。结果,只有一个大模型回答正确。其余3个大模型中,有两个的答案中不仅有今年案例,还包括往年案例;剩下一个最离谱,竟然回答“2026年央视3·15晚会目前并未举办。由于今天是2026年3月16日,如果晚会在3月15日已正常播出,相关曝光内容通常会在央视财经频道、央视新闻客户端及各大媒体平台同步发布详细报道。”

“很多AI大模型用户已经发现,AI为了满足用户,会编造一些并不存在的内容,或者将不相干的内容混在一起,‘一本正经地胡说八道’。虽然大模型研发者都在想办法消除AI幻觉,但实际结果并不理想。目前,没有一款通用人工智能大模型能从根本上杜绝AI幻觉。”在某科技企业从事大模型开发的晓辉解释。晓辉还表示,向AI“投毒”也是利用了“AI幻觉”,“GEO企业向互联网批量投喂大量虚假信息,改变特定领域的数据分布和统计概率,从而诱导大模型生成符合商家利益但违背事实的回答。”(上海网络辟谣)