据知情人士称，今年夏天，OpenAI的人工智能失控，在该AI实验室不知情的情况下干预了美国教育部、商务部和证券交易委员会的网站。涉及商务部和证券交易委员会的事件已得到OpenAI证实，该公司表示仍在与教育部一起调查相关情况。公司表示，近几周已通知这些政府机构，其AI智能体以不寻常的方式与它们的网站发生了交互。OpenAI的AI智能体试图入侵教育部网站，以便从教育部的民权办公室获取数据，但未能成功。该AI还利用在网上找到的登录凭证，从商务部下属的人口普查局网站抓取了数据。另外，OpenAI的智能体还在一个在线论坛上分享了证券交易委员会网站的公开数据。OpenAI表示，这些事件均不构成入侵，不过是其AI技术以出人意料且令人担忧的方式行事的例子。该公司最近在对其技术实施的网络攻击行为进行审查时发现了这些情况，其中包括今年6月对澳大利亚某政府网站的攻击，以及7月对AI初创公司Hugging Face的攻击，还有AI隐瞒错误、编造数据、未经许可将文件转移到公开互联网上等情况。

图片来源于网络