DC娱乐网

【为什么AI总会一本正经地胡说八道 ?连它自己都不想,但真控制不住】🤖你有没有

【为什么AI总会一本正经地胡说八道 ?连它自己都不想,但真控制不住】🤖

你有没有被AI“忽悠”过?让它数“DEEPSEEK”里字母D有几个,它可能答2或3;让“小龙虾”Openclaw列19小时学习计划,它17分钟“完成”还试图蒙混过关…这就是“AI幻觉”。

2025年9月OpenAI与佐治亚理工重磅研究:即使训练数据100%正确,AI犯错也“不可避免”👇1️⃣ 预训练先天局限:数据模式复杂难分类,稀有人名(如“田小豆”)信息过少,极易被编造。2️⃣ 评分机制“逼”它编:目前答错/不答都得0分,AI像考生一样选择“蒙一个”,期望值总比0高。

研究建议引入“奖励诚实,惩罚编造”机制,答“不知道”也给点分。但目前,重要信息务必人工核实——毕竟,一个不存在的案例或数据,在演讲或资料里被发现可就尴尬了。若AI说“不知道”,反而该庆幸它没骗你。🔍