跟着移动互联根底设施的大力建造和移动终端设备的广泛遍及，信息通讯技能和数字数据技能的运用场景和频次得到极大丰富和进步，海量的用户数据的出产、活动、运用、开发得到极大提速，算法技能的开发和运用得到极大鼓舞。以海量数据为根底的人工智能算法与网约车、网络购物、灵敏用工等运用场景的深度交融，给数字经济高质量展开注入强壮动能。一起，因为算法技能及运用场景的深度商业化和广泛商场化，“大数据杀熟”、诱导用户沉浸网络、过度消费等算法技能在数字经济展开中引发的负效应已深度冲击了商场竞赛次序和社会办理次序，给维护商场公平竞赛、顾客合法权益、社会办理乃至国家安全都带来了许多应战，迫切需求对算法运用加强标准，保证和促进以“数据、算法、算力”为中心要素的数字经济健康展开。

　　2022年1月12日，国务院印发《“十四五”数字经济展开规划》（简称《规划》）。《规划》指出，我国数字经济展开迅速，但仍然面临展开不平衡、不充沛、不标准的问题，需求进步我国数字经济办理水平。应优化晋级数字根底设施，推动“云网协同”和“算网交融”展开，加快构建算力、算法、数据、运用资源协同的全国一体化大数据中心系统。《规划》提出，应当坚持公平竞赛、安全有序的根本原则，以竞赛方针为根底，统筹促进数字经济展开与保证商场运转安全，结合商场监管、宏观调控、方针法规等多种规制手法，和谐多主体，一起树立完善协同监管规矩原则，推动途径经济健康展开。

　　作为互联网建造和运用大国，我国高度重视对互联网范畴各类行为及相关数据安全的建造，现在已构成包含《网络安全法》《数据安全法》《个人信息维护法》《互联网信息服务办理办法》等多部法令法规在内的较为老练的网络、数据及算法的监管系统。2021年12月31日，国家网信办、工业和信息化部、公安部、国家商场监管总局联合发布《互联网信息服务算法引荐办理规矩》（简称《规矩》），2022年3月1日起正式施行。《规矩》作为上述法规系统的重要组成部分，与《规划》中数字经济展开应坚持公平竞赛、安全有序的根本原则相一致，是贯彻执行中心关于网络安全和信息化作业战略部署、推动互联网信息服务生态办理的重要行动。《规矩》的发布为惩治算法乱象供给了清晰且具有针对性和操作性的法令标准，对标准和促进数字经济健康展开具有重大意义。

　　一、夯实安全展开底线，标准算法至善

　　《规划》指出，在展开数字经济的一起，还应牢牢守住安全底线，着力强化数字经济安全系统。要增强网络安全防护才能，进步数据安全保证水平，切实有用防备各类危险。其间算法办理作为整个数字经济全体办理与系统办理的要害环节，不只触及到商场办理，还触及到社会办理与国家整体安全。正如《规矩》第六条清晰规矩，算法引荐服务供给者不得运用算法引荐服务，从事危害国家安全和社会公共利益、打乱经济次序和社会次序、侵略别人合法权益等法令、行政法规制止的活动；第七条清晰要求算法引荐服务供给者应当执行算法安全主体责任，树立健全数据安全维护和个人信息维护等办理原则和技能措施。这在国家安全层面和个人信息维护层面，均对算法引荐服务供给者提出了新的要求，为国家安全、社会公共利益、个人隐私等供给了重要原则保证。

　　在实践中，算法引荐服务供给者往往会凭借算法技能对顾客用户数据进行剖析收拾，构成用户模型或用户标签，并以此为根底进行精准推送。用户模型或用户标签尽管能够进步信息推送功率，可是易构成“信息茧房”，运用户限制在自己了解的范畴内，满意于被逼的常识堆集，无法获取全面、客观的信息；若将违法和不良信息要害词记入用户爱好点或许作为用户标签并据以推送信息，还或许会对用户的身心健康产生晦气影响。对此，《规矩》第十条要求算法引荐服务供给者应当完善记入用户模型的爱好点规矩和用户标签办理规矩，不得将违法和不良信息要害词记入用户爱好点或许作为用户标签并据以推送信息。

　　当时，算法在下降大众挑选有用信息时刻本钱的一起，也扩展了网络生态失衡、失真的危险，操作榜单或许检索成果排序、控制热搜或许精选等干涉信息出现的问题层出不穷，针对这些问题，《规矩》第十四条规矩，“算法引荐服务供给者不得运用算法虚伪注册账号、非法交易账号、操作用户账号或许虚伪点赞、谈论、转发，不得运用算法屏蔽信息、过度引荐、操作榜单或许检索成果排序、控制热搜或许精选等干涉信息出现，施行影响网络言论或许躲避监督办理行为”。此款规矩将有用规制凭借算法技能对网络言论产生不良影响的行为，疏通社会监督的途径。

　　二、“以人为本”框定算法运用红线

　　当时，遭到新冠肺炎疫情的影响，传统职业的作业者难以快捷作业，而以途径经济为根底的灵敏用工方式则招引了很多的劳动者作业，缓解了民生压力。外卖配送员、专车司机、网约家政等主体均依托互联网途径经济获取订单，但这些劳动者的权益亦或许遭到算法不合理的订单分配、奖惩规矩及作业时刻安排影响，被逼延伸作业时刻、超出作业强度，或是无法正常接纳订单。对此，《规划》指出，应当切实有用防备各类危险，树立完善相关算法，健全灵敏作业人员参加社会保险原则和劳动者权益保证原则。《规矩》第二十条规矩，“算法引荐服务供给者向劳动者供给作业调度服务的，应当维护劳动者获得劳动酬劳、歇息度假等合法权益，树立完善途径订单分配、酬劳构成及付出、作业时刻、奖惩等相关算法”。

　　一起，面临我国老龄化社会的加快到来，《规划》指出，优化根底设施智能晋级，应当充沛满意老年人等特别集体的需求；强化数字经济安全系统，相同需求健全完善针对老年人等特别集体的网络维护机制。当下，跟着人工智能技能的运用规划扩展，整个社会都向着智能化方向不断展开。可是关于老年人集体来说，因为学习才能不如年轻人，面临新式的算法引荐服务，或许难以有用掌握，故无法享遭到算法引荐服务所带来的全新体会，乃至跟着智能化设备不断替代传统的设备，也给老年人集体带来了许多不便之处。对此，《规矩》第十九条规矩，“算法引荐服务供给者向老年人供给服务的，应当保证老年人依法享有的权益，充沛考虑老年人出行、就医、消费、就事等需求，依照国家有关规矩供给智能化适老服务，依法展开涉电信网络欺诈信息的监测、辨认和处置，便当政策大数据老年人安全运用算法引荐服务”。

　　此外，因为未成年人没有构成健全的价值观，难以鉴别纷繁复杂的各类信息，易受互联网不良信息或运用服务的影响，特别是网络游戏、短视频等运用软件导致未成年人沉浸的事情迭起，引发了大众的广泛热议。对此，《规划》指出，应当健全完善针对未成年人等特别集体的网络维护机制。《规矩》第十八条清晰要求，算法引荐服务供给者应当依法实行未成年人网络维护责任，供给合适未成年人特色的服务，便当未成年人获取有利身心健康的信息，不得向未成年人推送影响未成年人身心健康的信息，而且不得运用算法引荐服务诱导未成年人沉浸网络。

　　三、做好分类协同，进步算法办理水平

　　千人千面，个性化运用是算法的典型特征，故根据算法运用所触及的内容类别、言论特点以及用户规划等要素，以及算法运用对网络安全或许产生的危险巨细，对社会产生的危害规划及程度，对其进行分级分类的办理是当时算法办理的干流观念和根本理路。如《规矩》第二十三条清晰了分级分类的差异化监管原则，要求网信部分会同电信、公安、商场监管等有关部分，根据算法引荐服务的言论特点或许社会发动才能、内容类别、用户规划等要素对算法引荐服务供给者施行分级分类办理，愈加全面地展开算法安全评价和监督查看等各项作业。

　　为进一步应对算法千人千面、难以掌握的“黑箱”特点，《规矩》第二十四条清晰了算法存案原则，要求具有言论特点或许社会发动才能的算法引荐服务供给者应经过互联网信息服务算法存案系统填写服务供给者的服务方式、运用范畴、算法自评价陈述等信息，实行存案手续。算法存案原则的树立有助于对算法引荐服务进行监管，更好防备算法或许带来的危险。

　　一起，《规划》清晰指出为健全完善数字经济办理系统，需进一步强化协同办理和监管机制，增强政府数字化办理才能，完善多元共治新格式。

　　根据《规划》要求，标准算法运用，首要，应强化协同办理机制，加强政府内部不同部分之间的协同办理，应清楚主管部分、监管安排责任，强化跨部分、跨层级、跨区域协同监管，清晰监管规划和一致规矩，加强分工合作与和谐合作。正如，在《规矩》第三条中所规矩的参加算法引荐服务办理部分除了国家网信部分，还包含电信、公安、商场监管等有关部分，《规矩》指出，这些部分根据各自责任担任算法引荐服务监督办理作业，当地部分则根据责任担任本行政区域内的监管作业。但是，因为算法引荐服务往往具有跨区域、跨范畴等特性，在监管过程中亦或许一起牵涉多个监管部分或多个区域的当地监管部分，因而，为防止在监管过程中因责任穿插而导致彼此推诿的状况产生，还需树立跨部分跨区域的协同监管机制。

　　其次，应树立完善多元共治。《规划》清晰，要树立完善政府、途径、企业、职业安排和社会大众多元参加、有用协同的数字经济办理格式。

　　职业健康展开，一方面需求法令标准和政府监管构成外部束缚，另一方面也需求职业自律。为此，《规划》指出，要进一步推动职业服务标准建造和职业自律。为鼓舞算法服务职业构成职业自律，《规矩》第五条清晰着重，鼓舞相关职业安排加强职业自律，树立健全职业标准、职业原则和自律办理原则，催促辅导算法引荐服务供给者拟定完善服务标准、依法供给服务并承受社会监督，特别对当时社会各界遍及重视的“大数据杀熟”、“信息茧房”等算法热点问题及其法令责任进行了清晰标准，为树立健全多元共治格式奠定原则根底。

　　现在，我国以数字经济为首要经济业态和职业的展开正站在新周期起点之上，数字经济由高速增加阶段转向高质量展开阶段。办理算法已构成保证和促进数字经济高质量展开的重中之重，其不只关乎数字经济展开的功率，还触及数字经济运转的安全，为此，赶快树立安全标准、“以人为本”掩盖算法运用全周期、全场景、全流程的分类协同办理机制及方式方法已成为引导算法向善、鼓舞算法立异、开释算法正效能的要害。（作者：陈兵　南开大学法学院教授、司法与社会研讨中心主任，我国新一代人工智能展开战略研讨院特约研讨员）

来源:版权归属原作者,部分文章推送时未能及时与原作者取得联系,若来源标注错误或侵犯到您的权益烦请告知，我们会及时删除。