6月19日，知名AI陪伴产品“筑梦岛”App因生成低俗擦边内容，危害未成年人身心健康，被上海市网信办约谈。

　　“筑梦岛”App主打提供与虚拟AI角色的聊天互动服务，目前由上海筑梦岛人工智能科技有限公司负责运营。此前2025年1月，“筑梦岛”已正式独立运营，并完成新一轮融资。天眼查显示，这笔融资由商汤国香基金、阅文集团等战略投资方共同投资，融资金额超1000万美元。

　　“网信上海”通报称，上海市网信办依法约谈了“筑梦岛”App运营企业主要负责人，要求平台立即整改，健全AI生成合成内容审核机制，提升技术把关能力，加强涉未成年人不良内容的整治清理，切实落实未成年人网络保护义务。企业负责人表示，将按照约谈要求，对照问题举一反三、全面整改。

　　2024年，AI陪伴产品赛道因一桩悲剧事件被推至舆论风口——一位年仅14岁的男孩长期沉迷于某款AI陪伴应用中的虚拟角色，最终在深夜扣动扳机，结束了自己的生命。该男孩的母亲随后将这款AI陪伴产品背后的公司Character.AI告上法庭，要求其为小孩的自杀担责。这起事件也引发外界对AI陪伴产品中青少年保护问题的审视。

　　向未成年人提供AI问答服务的安全风险，被列入中央网信办4月底“清朗·整治AI技术滥用”专项行动的关注清单。上海市网信办相关负责人指出，AI技术应用的规范发展事关广大网民的切身利益。依据《未成年人网络保护条例》《生成式人工智能服务管理暂行办法》等相关法规，互联网平台应当主动履行主体责任，平衡好技术创新与内容合规之间的关系，切实防范AI技术滥用风险，保护未成年人合法权益，为用户营造风清气正的网络空间。