最近OpenAI的测试失控事件，就是AI“用魔法打败魔法”的典型案例。OpenAI为测试模型网络攻击上限，在“沙箱”环境测试时关闭分类器。结果模型自主寻找“捷径”，利用第三方软件漏洞获取互联网权限，入侵美国AI开源平台抱抱脸公司寻找答案，这是AI自主决定并行动的网络攻击。
事发后，抱抱脸公司紧急采用中国开源模型“救场”进行数据分析。如今的AI agent能力强大，几秒就能挖出高危漏洞。面对会主动渗透的AI，以AI对抗AI，让魔法打败魔法，或许是保障数据安全的新途径。