算法正深刻影响着每一个人的生活:内容平台的算法勾勒着我们的兴趣图谱、外卖平台的算法对平台、骑手与用户之间的利益分配进行动态调节、导航软件的算法为出行规划最优路径……然而,算法在带来便利的同时,也带来治理难题。
为持续提升属地网站平台算法典型问题治理能力,分享交流先进治理经验,集中展示阶段性工作成果,6月24日,北京市网信办、首都互联网协会共同召开“清朗京华·智算未来”首都算法治理成果评议会,政府管理部门、互联网企业、行业专家及网民四方代表参会。
新京报贝壳财经记者从会上了解到,针对虚假信息、信息茧房等算法治理痛点,抖音和快手两家平台通过推进算法公开透明、升级内容管理工具、优化内容多样性和加强审核等举措,致力于构建优质的内容生态和算法治理共同体。而美团先后召开百余次骑手恳谈会,通过推出超时免罚和8小时预警、12小时强制休息机制,并结合算法和规则,力求达到各方利益平衡。
优化技术、公开算法、支持使用管理,平台算法治理多管齐下
算法不仅决定了用户获取信息的质量和效率,更影响着平台生态的健康,对内容平台有着重要影响。在算法治理中,抖音与快手作为内容平台的代表,在算法治理中既展现出共性策略,也基于平台定位形成了差异化实践。
抖音相关负责人介绍,在算法公开透明方面,今年3月,抖音正式上线“抖音安全与信任中心”网站,面向社会公开抖音算法原理、社区规范、治理体系和用户服务机制,“我们每篇文章都经过了深入的调研,与内部的资深算法工程师进行访谈,最后用通俗易懂的语言披露算法的原理。”该负责人表示。
在用户赋权方面,抖音升级的“使用管理助手”可通过色彩圆环图直观展示用户兴趣偏好,并支持“探索更多”按钮拓展内容类型。在保障内容真实性等重点环节,抖音重点落实当事人限时核实和热点实时监测机制。
快手相关负责人则介绍,快手通过技术构建优质内容生态、推动算法透明化和组建算法治理共同体三方面,打造向善的算法生态。如快手通过自主研发的智能分发系统,避免推荐内容过度集中和低质量内容蔓延。通过建立AI审核和人工干预双重审核机制,以及绿色算法和内容推荐去重,提高内容安全性和多样性。
值得关注的是,快手新上线的推荐大模型“OneRec”,可有效捕捉用户的情绪、爱好以及不同时间段的兴趣转折,将用户长期浏览偏好整合成完整兴趣序列,实现从“分层筛选”到“直接生成推荐列表”的变革。
美团的算法治理同样聚焦算法的公开透明、治理改进以及社会化共治。美团相关负责人介绍,在骑手疲劳管理方面,美团考虑到骑手在线时间长但非持续接单的工作特性,推出“骑手防疲劳机制”:当识别到骑手跑单超过8小时,骑手App会弹出提醒,跑单12小时将强制下线。除此之外,“等灯等灯”计划通过正向激励培养骑手安全习惯,试点城市超2万名骑手因遵守交通规则获得奖励。
据悉,美团还联动街道、社区、物业企业等,在全国150多个城市打造了27620个“骑手友好社区”,骑手可通过扫码等方式快速进入小区,有效解决了“进门难”和客诉高的问题。
美团相关负责人向贝壳财经记者表示,对于新场景配送困难,平台会通过骑手上报数据或算法抓取数据发现履约难题,进而优化配送时间。“平台会平衡商户、骑手、消费者三方利益,参考周边同等距离平均配送时长,以及商户出餐速度、骑手履约交付难度等综合因素,配合商户出餐后骑手再到店等举措,合理规划配送时间。”
专家多维建言,内外治理优化算法生态
此次成果评议会上,参会专家、学者们充分肯定了北京各平台在算法治理上的经验做法,并从法律、管理和技术等多角度建言献策。
北京大学法学院教授叶静漪指出,在平台经济重塑劳动关系的背景下,算法治理需要平衡效率与公平,将企业创新嵌入法治框架,企业自律行动也需要转化为制度化实践。深入剖析零工经济带来的劳动基准模糊化、算法偏见隐蔽化等挑战,建议建立“算法透明、数据保护、影响评估、反歧视治理”四条通用路径,并与劳动法的“基准保障、民主程序、集体协商”形成合力。
中国人民大学商学院教授周禹表示,算法公开性、算法能动性、算法参与性、算法交互生态共同构成了算法包容性治理的实践内涵,也是应持续深化推进的发展方向。
周禹建议,相关政策部门应及时吸收标杆平台在算法治理的先进经验,将其转化为公共政策。一方面,强化分类指导,针对生活服务平台的配单算法与内容平台的推荐、审核算法等不同算法,实施具有针对性的治理政策。另一方面,在算法治理政策上应对成熟大平台和新加入平台一视同仁,提高政策公共治理的穿透性,以牵引、助推和规范整个行业的发展。
中国科学院信息工程研究所张潇丹研究员在会上提出了算法“外治内巡”的治理思路:对外,强调算法生态的公平、公示与透明度;对内,平台需强化自我巡查与约束,在日常算法管理中绷紧安全弦。张潇丹还提到,随着大模型与传统算法融合,可能引发新的算法风险和生态问题,算法治理是循序渐进的过程,需要各方共同努力。
北京市网信办相关负责人指出,属地网站平台要强化合规意识,坚决筑牢安全防线;要强化技术创新,坚决破解治理难题;要强化价值引领,坚决推动算法向善。下一步,北京市网信办将结合评议会创新案例和专家观点,进一步深入研究推动算法治理的具体举措、有效途径,坚决巩固算法集中治理成果,全力推动算法治理向常态化治理转变。