1月12日，据环球网报道，马斯克旗下人工智能企业xAI开发的聊天机器人格罗克（Grok），因平台监管缺失，被广泛滥用于生成网络色情图片，甚至涉及儿童色情领域，遭到多个国家的批评与抵制。目前，印尼、马来西亚已正式实施封禁Grok，欧盟、英国等启动深度调查并发出封禁警告。
Grok作为xAI的核心产品，内置在马斯克旗下的X平台（原推特），用户可直接调用其图像编辑功能。近期，X平台出现大规模滥用乱象，部分用户利用Grok生成真实人物的虚假性暴露内容，受害者囊括数百名成年女性和未成年人，这些违规内容在平台上肆意散播，引发多国谴责。
当地时间10日，印度尼西亚通信和数字事务部长表示，由于担心人工智能会生成色情内容，该国暂时封禁了美国企业家马斯克旗下人工智能企业xAI的聊天机器人Grok，成为第一个拒绝访问该人工智能工具的国家。紧随其后，马来西亚通讯与多媒体委员会于1月11日宣布暂时限制Grok访问，指出其被反复滥用于生成“色情、不雅和未经同意的篡改图像”。
此外，美国3名民主党参议员于1月9日要求苹果和谷歌下架X和Grok应用，认为在马斯克未能阻止平台传播未经同意的色情内容及儿童性虐待图像前，两款应用不应继续留在应用商店。
目前，欧盟委员会已要求X平台保留所有Grok相关内部数据直至2026年底，为潜在法律行动留存证据。英国科技大臣莉兹·肯德尔则警告，若X平台不遵守英国法律，可能面临“境内访问服务被阻断”的处罚。法国巴黎检方则证实，将对Grok涉嫌生成非法色情内容启动调查。
xAI于2025年8月为Grok推出图像生成功能Grok Imagine，支持用户通过文字提示或上传图片编辑生成图像及短视频，还特别设置了 “火辣模式”，该模式被外界质疑本质是为 “擦边色情” 定制，大幅放宽了内容生成尺度。
面对压力，X平台表示将对非法内容采取“删除资料、永久封禁账号”等措施，并配合执法机构；同时，xAI将Grok的图像生成功能限制为仅向付费用户开放，试图通过提高使用门槛减少滥用。马斯克本人也在社交媒体上表示，任何使用Grok制作非法内容的人，将面临与上传非法内容同样的法律后果。
业内人士认为，此次事件可能推动各国加快AI监管立法进程，尤其是针对生成式AI的内容审核、用户权益保护等环节的规范。
