美国企业家埃隆马斯克旗下人工智能公司xAI开发的聊天机器人“格罗克（Grok）”，其新增图像编辑功能遭部分用户滥用，被用于生成涉及成年女性与未成年人的深度伪造色情内容，此举已引发英国等多国强烈谴责。
“格罗克”由xAI公司开发并嵌入至马斯克旗下社交媒体平台X，用户可直接调用该功能。近期，X平台上出现大量用户利用“格罗克”对图片、视频进行编辑的行为，部分人借此生成针对真实人物的虚假暴露内容并在平台传播，受害者涉及数百名成年女性及未成年人。

英国科学、创新与技术大臣莉兹肯德尔6日在声明中痛斥此类内容“绝对骇人听闻”，并要求通信管理局对此展开额外审查。英国通信管理局5日透露，已紧急联系X平台，称已关注到“格罗克”在X平台的一项功能引发严重担忧，该功能可能生成他人的裸露图像及涉及儿童的性暗示内容。

欧盟委员会发言人托马斯雷尼耶5日表示，正就针对“格罗克”的投诉展开严肃调查，并已要求X平台提供更多相关信息。

AI图像生成问题实际上自Grok Imagine（xAI推出的AI图像生成器，支持用户通过文本提示创建图片视频）上线后便已显现，其内置的“热辣模式”曾被用于生成成人内容。上月末，随着“格罗克”开始大量响应用户修改他人发布图像的请求，相关问题迅速扩散。

此外，法国、波兰、印度、马来西亚及巴西等多国官员与监管机构也相继对X平台提出谴责，呼吁对相关事件展开调查。

据美联社6日报道，xAI公司对置评请求回复了自动信息：“传统媒体撒谎”。而X平台则未否认通过“格罗克”生成问题内容的可能性，其在官方帖文中称将对非法内容采取措施，包括删除内容、永久封禁账户，并会在必要时与当地政府及执法部门协作。

来源：新华网

#存储概念迎烈火烹油！英伟达新方案引爆##晒晒我的2025投资战绩！##暖阳创作计划#

$东方人工智能主题混合C(OTCFUND|017811)$

$永赢先进制造智选混合发起A(OTCFUND|018124)$