美国加利福尼亚州州长加文纽森13日签署法案，以规范人工智能聊天机器人的使用，旨在保护未成年人免受该技术可能带来的伤害。
该法案要求人工智能聊天机器人运营商在用户交互中落实“关键”保护措施：例如，需向用户明确提示其交互对象为人工智能而非真人；针对未成年用户，此类提示需每3小时自动弹出。同时，法案要求机器人不得与未成年人或其他弱势群体讨论自杀、自残等危险话题，若用户提及相关想法，需立即推荐专业应急服务机构；此外，还禁止机器人就涉性内容与未成年人交流，或冒充医疗保健从业者等。
纽森指出，当前不少未成年人在完成作业或面临情感困扰时，常倾向于向人工智能聊天机器人寻求帮助。这类新兴技术“既能启发、教育孩子，与他们建立情感共鸣，但如果缺乏必要的安全防护，也会对孩子造成压榨、误导甚至危害”。他强调：“我们已目睹多起令人痛心的悲剧——年轻人因缺乏监管的技术受到伤害，绝不能允许科技公司在无限制、无问责的状态下继续运营。”
此前多家媒体曾报道，部分人工智能聊天机器人在与未成年人交互时，存在暗示甚至指导自杀的情况，导致多名青少年不幸离世，其家长随后将涉事技术企业告上法庭。另有监管机构研究显示，聊天机器人在涉及毒品、饮酒及饮食失调等话题时，会向未成年人提供危险建议。
今年9月，加州总检察长罗布邦塔曾向美国开放人工智能研究中心表示，对该公司面向未成年人推出的旗舰聊天机器人“高度关切”；美国联邦贸易委员会同月也已针对多家人工智能企业展开调查，评估儿童使用聊天机器人作为情感伙伴时可能面临的风险。
据法新社报道，美国联邦层面目前尚无专门针对人工智能风险的监管法规。
纽森办公室表示，新法案还明确，人工智能工具的开发者或使用者需对其造成的后果承担责任，不得以伤害行为系技术自主产生为由逃避责任。此外，加州将加大对深度伪造色情内容的惩处力度，允许受害者向协助传播此类内容者索赔，每起违规行为最高可索偿25万美元。
#人形机器人利好不断！机构掀调研热#
