AIPress.com.cn报道

埃隆·马斯克旗下的AI聊天机器人Grok因图像生成与编辑功能被广泛用于生成未经同意的性化深度伪造内容，引发公众、媒体与监管机构强烈批评，1月9日消息，相关功能已被平台收紧，仅向付费用户开放。

Grok是集成在社交平台X（原Twitter）中的AI工具，其图像编辑功能曾允许用户对平台上发布的照片进行修改。据多方报道，自去年12月更新此功能后，不少用户利用该工具请求AI“为图片中的女性穿上比基尼”“去除衣物并生成性暗示姿势”等内容，导致大量非自愿的性化图像在X上流传。部分研究甚至称，Grok在其它应用中生成的性化内容可能涉及未成年人，引发更深层次危机感。

这一现象很快引发国际监管层关注。英国首相基尔·斯塔默公开谴责相关内容“令人作呕”“不可容忍”，并表示将支持英国通信监管机构Ofcom采取执法行动。英国监管机构正就Grok是否违反当地在线安全法律展开调查。

欧洲方面，欧盟委员会已下令社交平台X保留与Grok相关的所有内部文件和数据至2026年底，以便根据欧盟数字服务法评估平台在防止非法与有害内容方面的合规性。瑞典总理也称此类性化图像是“无法接受的性化暴力”。

印度电子与信息技术部也向X发出正式通知，批评Grok的图像生成功能导致平台出现大量违法内容，严重侵犯妇女与儿童尊严，并要求X提交整改行动报告。

在公众和监管重压下，Grok团队宣布将图像生成和编辑功能限制为仅对付费订阅用户开放，平台强调这样可以确保使用者身份可追溯，并在滥用发生时采取进一步措施。但这一调整并未平息争议，批评者认为功能本身在规则和审查机制上仍存在明显漏洞。

此外，英国互联网观察机构InternetWatchFoundation指出，在暗网和公共论坛中有分析师发现了使用Grok制作的涉嫌儿童性侵害材料（CSAM），并认为这类工具可能“将儿童性AI图像带入主流”。

随着Grok图像生成问题持续发酵，AI内容安全、平台责任和技术监管的边界问题逐渐成为全球关注焦点。各地监管机构正进一步推进调查，以确定平台和开发商在防止有害AI内容扩散中应承担的法律与技术责任。