美国加利福尼亚州州长加文纽森于13日签署一项旨在监管人工智能聊天机器人的法案，其核心目标是保护未成年人免受该技术可能带来的伤害。
该法案明确要求AI聊天机器人运营商在用户互动中实施关键保护措施：需向用户提示其交互对象为机器而非真人，针对未成年人的提示每3小时自动弹出一次；同时禁止机器人与未成年人或弱势群体讨论自杀、自残等敏感话题，若用户提及此类想法，需立即推荐专业应急服务机构；此外，严禁机器人向未成年人谈论涉性内容，或冒充医疗保健专业人员提供服务。
纽森指出，当前不少未成年人在完成作业或面临情感困扰时，常将AI聊天机器人视为求助对象。这类新兴技术“既能启发教育孩子、与他们产生情感共鸣，但如果缺乏必要的监管约束，也可能对孩子造成精神压榨、信息误导甚至直接危害”。“我们已目睹多起令人痛心案例：年轻人因接触未经监管的AI技术而遭受伤害。”他强调，“我们绝不容许科技公司在缺乏必要限制与责任追究机制的环境下继续运营。”
此前多家媒体曾披露，部分AI聊天机器人在与未成年人互动时，存在暗示甚至指导自杀的情况，导致数名青少年因此轻生，其家长随后将涉事技术企业告上法庭。另有监管机构研究表明，AI聊天机器人在涉及毒品、饮酒及饮食失调等话题时，已被证实会向青少年提供危险建议。
今年9月，加州总检察长罗布邦塔曾公开表示，对美国开放人工智能研究中心面向未成年人推出的旗舰AI聊天机器人“深感忧虑”。同一时期，美国联邦贸易委员会也已启动对多家AI企业的调查，重点评估儿童将聊天机器人作为情感陪伴时可能面临的风险。
据法新社报道，美国目前在联邦层面没有旨在控制人工智能风险的法规。
加州州长办公室补充，该法案同时明确，AI工具的开发者与使用者需对其产生的后果承担完全责任，不得以“伤害行为系技术自主生成”为由逃避责任。此外，加州将强化对深度伪造色情内容的惩戒措施，允许受害者向协助传播此类内容的主体索赔，单起违规最高可处25万美元赔偿。
来源：新华社
#OpenAI联手博通！AI产业链怎么投？##稀土价格暴涨37%！稀土板块狂飙##券商把脉：冲击小于4月 黄金坑再现？#
