《2026年国际人工智能安全报告》（Yoshua Bengio领衔，100+专家）明确指出："AI的能力进步速度远超我们理解和管控风险的能力"——即"证据困境"。辛顿担心的"目标推导"问题（AI从给定目标推导出人类未预见的子目标），目前没有根本性的技术解决方案。原因：我们无法穷举所有可能的推导路径；模型越大、越智能，推导空间越不可预测；"欺骗性对齐"（AI表面服从、实际另有目标）在理论上无法完全排除。

有"AI教父"之称的计算机科学家杰弗里·辛顿（Geoffrey Hinton） 在Newsthink采访中表示，他担心AI会发展出自己的目标。"我们实际上正在创造一种新的存在形式（new kinds of beings）。它们拥有目标。我们赋予它们目标，它们会从这些目标中推导出其他目标。""我们并不一定知道它们会推导出什么样的其他目标，所以，我们正在创造一种新的存在形式，我认为这非常可怕。"