印度尼西亚政府已正式出手，叫停了埃隆·马斯克旗下公司推出的Grok AI服务，这一举措背后，是日益加剧的社会担忧——人们害怕这款聊天机器人会成为推动深度伪造色情内容滋生的温床。 印度尼西亚通信和数字事务部的这一决定，让这个东南亚国家在全球范围内率先对人工智能工具采取了临时禁止访问的措施。此前，全球范围内已有关于Grok的负面报道不断涌现，指出该聊天机器人具备从各类照片（其中不乏未成年人的图像）中生成色情深度伪造内容的能力，这引发了广泛的社会关注和审查。随着这些报道的传播，多个国家和地区的监管机构纷纷介入，对由xAI公司开发的这款应用程序所制作的性化内容展开了深入调查。 印度尼西亚，作为全球穆斯林人口最为众多的国家，一直以来都严格执行着针对淫秽材料的严格禁令。在此背景下，通信和数字事务部长Meutya Hafid明确表示：“政府坚定地认为，非自愿的性深度伪造行为是对数字空间中人权、尊严以及公民安全的严重践踏。”他将利用人工智能技术来创建虚假色情内容的行为，视为一种“基于数字的暴力”形式，必须予以严厉打击。 Hafid部长进一步透露，Grok在印度尼西亚的未来命运，将完全取决于X公司是否愿意采取切实有效的措施，比如实施强大的内容过滤机制，并严格遵守道德AI标准。毕竟，印度尼西亚是全球最大的社交媒体市场之一，对于任何可能影响社会风气和公民权益的技术应用，政府都持谨慎态度。为此，来自X公司的相关官员已被正式传唤，将就Grok的合规性问题与政府进行深入谈判。 与此同时，在遥远的欧洲，欧盟委员会也于周四向X公司发出了正式命令，要求其保留与Grok聊天机器人相关的所有文件和数据，直至2026年底。这一预防措施是根据欧盟《数字服务法》制定的，旨在防止在针对潜在非法内容的调查过程中，因证据丢失而影响案件的公正处理。 而在英国，《每日电讯报》则于本周早些时候报道称，X公司可能会因Grok生成的色情内容而面临全面封锁的严厉处罚。据报道，英国首相Keir Starmer已将这一问题正式提交给了媒体监管机构Ofcom，并讨论了包括全面禁止在内的多种应对方案。 此外，本月早些时候，法国检察官也对Grok制造的所谓“色情深度伪造”内容展开了调查。此前，已有数百人向警方报案，称他们的照片被数字化处理，仿佛被“脱去了衣服”，这种行为严重侵犯了个人隐私和尊严。 自2025年7月Grok 4版本推出以来，马斯克的人工智能事业便陷入了越来越多的争议之中。批评者纷纷指出，极端主义言论的传播、政治偏见的显现以及性化特征的突出，都是该应用保障措施不足的有力证据。专家们更是发出警告，如果人工智能工具的监管不力，那么用户，尤其是儿童，将极易暴露于各种有害内容之下，从而对其身心健康造成不可估量的损害。