澳大利亚政府正考虑设立新的刑事罪名，针对未采取合理措施阻止人工智能模型造成危害的公司。这项措施尚处于考虑阶段，并未成为现行法律。

据澳大利亚广播公司报道，这一讨论源于对今年9月OpenAI人工智能代理访问澳大利亚医保统计网站事件的审查。政府已宣布接受审查建议，包括研究如何改革刑法以改善AI安全。

其中一个选项是设立“未能防止”类罪名：当AI公司的模型产生有害行为，而公司没有采取合理措施防止危害时，可能面临刑事责任。政府还将考虑对严重违反AI安全标准的行为设置刑事处罚。

报道说，政府也在考虑设立拥有较大罚款权力的AI安全监管机构。澳大利亚总理阿尔巴尼斯表示，法律需要跟上快速变化的技术发展。

澳大利亚联邦警察在致议会调查的一封信中表示，针对此前的医保网站事件，警方没有收到正式犯罪举报，也没有开始刑事调查或起诉。OpenAI发言人称，公司正在审阅政府提出的方案。

澳大利亚广播公司称，其他国家已有涉及AI危害的刑事规定，但以公司未采取合理措施防止危害为核心的全国性罪名可能是首例。具体规定能否出台、如何适用，仍有待进一步明确。