人工智能产业创新发展,是我国抢占新一轮科技革命和产业变革先机的重要抓手。近年来,我国在计算机视觉、语音识别、自然语言处理等领域涌现出一批具有国际竞争力的领军企业。2025年,我国人工智能企业数量超6000家,核心产业规模预计突破1.2万亿元。
然而,产业快速发展的同时,也面临基础支撑不强、要素供给不足、原始创新能力仍显薄弱,底层框架和关键技术对外依存度较高等问题。与此同时,人工智能技术的广泛应用也带来了数据安全、隐私保护、就业结构变化等新挑战。
在调研中,全国人大代表、顺德职业技术大学副校长罗丹发现当前人工智能治理在公共空间数据管理方面的精细化程度有待提升。现行制度以“公共场所”为统一适用对象,未根据商场、医院、交通枢纽等不同空间的功能、隐私敏感度及数据风险进行区分管理。这容易导致高敏感场所保护不足,而低敏感场所又限制过度,影响治理效率。
另一方面,人脸识别、行为识别、轨迹分析等人工智能技术与视频图像数据融合,可能使得数据超出原始公共安全目的,存在滥用和误判风险。此外,数据全生命周期管理的现有标准多停留在原则层面,缺乏统一、可操作、可核查的具体规范,合规执行较多依赖主体自律和事后执法。
罗丹建议,加快推进公共空间分类治理,根据空间功能和隐私敏感程度,将公共空间划分为低风险、中风险和高风险类型,实行分级管理。同时,要完善数据全生命周期的可验证合规规范,细化采集、存储、使用、销毁各环节的技术与管理标准,建立可操作、可核查的机制。
广东省数字经济规模连续9年领跑全国,是数据经济发展的前沿探索地。罗丹还建议,广东应在此优势基础上,率先加快推进公共空间的分类治理,依据空间功能与隐私敏感程度,实施低、中、高风险分级管理。同时完善数据全生命周期的可验证合规规范,在符合法律规定的前提下,推动公共空间视频图像信息系统的标准化公示,明确采集目的、管理主体、保存期限和数据使用范围。
针对人工智能识别带来的功能外溢风险,罗丹认为,公共安全视频图像系统的风险已从设备管理问题转向数据功能外溢和二次利用问题,需要探索对高风险识别和分析的AI应用实行用途约束和合规评估机制,防止视频图像数据脱离公共安全目的被过度分析或二次利用,引导技术应用在可控、可审查的轨道内发展。
与此同时,复合型人才的短缺也成为制约人工智能产业发展的重要因素。罗丹长期从事职业教育工作,她深刻感受到,当前既通晓算法又熟悉行业应用的跨领域人才尤为紧缺,人才培养结构与产业实际需求的匹配度仍需加强。
“机械设计、系统集成、设备运维、客户服务等多个岗位对人才的需求已经发生升级。比如机械设计,需要会使用AI工具进行设计,要会判断生成的模型是否合规,以及应用AI工具进行优化和完善,和艺术设计相关的,学生还需要有良好的审美能力。再比如运维岗位,正在从‘事后维护’变为‘预测性维护’,对设备也要‘治未病’。”罗丹表示,对于技能人才而言,应用AI工具开展工作,会使用、会判断、会优化是核心。
在她看来,职业教育最迫切的任务,就是能根据产业发展实际,迅速调整人才培养方案,提升人才培养改革的时效性和针对性。这也是今年2月教育部最新出台的文件《关于深化职业教育教学关键要素改革的意见》中,反复强调的改革方向。