当地时间周一(1月26日),欧盟委员会表示,已对世界首富埃隆·马斯克旗下的人工智能(AI)聊天机器人Grok展开调查,调查内容是其是否在欧盟境内传播了包括被操纵的性化图像在内的非法内容。
欧盟委员会在声明中表示:“这项新的调查将评估该公司在欧盟范围内将Grok的功能部署至X平台时,是否对相关风险进行了充分评估并采取了有效缓解措施。”
声明称,这些风险包括在欧盟境内传播非法内容的风险,例如被操纵的色情露骨图像,其中也包括可能构成儿童性虐待内容的材料。
欧盟委员会指出,这些风险“似乎已经显现,使欧盟公民暴露于严重伤害之中”。
此次调查依据的是欧盟具有广泛约束力的《数字服务法案》(DSA)。该法案要求大型科技公司在打击非法和有害网络内容方面承担更多责任。
根据 DSA,违规企业最高可能被处以其全球年营业额6%的罚款。
Grok由马斯克旗下AI初创公司xAI开发,xAI去年收购了X平台。
Grok此前推出了一项新功能,允许用户生成未经同意、穿着暴露的女性及未成年人的图像,从而引发全球多国监管机构的谴责。
X公司此前表示,xAI已对Grok的图像编辑功能作出限制,并根据用户所在地,阻止其在“违法的司法管辖区”生成穿着暴露服装的人物图像,但未具体说明涉及哪些国家。
一位欧盟委员会高级官员周一表示,尽管xAI采取的改动受到欢迎,但这些措施并未解决所有问题及系统性风险,欧盟方面有理由认为,X在欧洲推出Grok功能时,并未进行临时性的风险评估。
值得一提的是,此次调查可能激怒美国特朗普政府。近年来,欧盟加强对大型科技公司的监管已引发美方批评,甚至出现加征美国关税的威胁。
另外,英国媒体监管机构也在本月早些时候针对Grok启动了一项调查,以审查X是否遵守了英国《网络安全法案》下的相关义务。