首页 > 国内新闻 > 正文

优化算法伦理 建设网络文明——写在《互联网信息服务算法应用自律公约》发布之际

原标题:优化算法伦理建设网络文明——写在《互联网信息服务算法应用自律公约》发布之际来源:光明网

随着互联网和信息技术的发展,互联网平台已经成为全社会获得信息、建立联系、传承文明、娱乐休闲的主要载体,网络文明建设方兴未艾。在网络文明建设发展过程中,算法技术在给网民带来极大互联网使用便利的同时,其偏向和滥用也引发了人们的质疑,这也成为网络文明建设的一个重要课题,如何通过优化算法伦理推动算法技术的综合治理,为建设向上向善的网络文明赋能助力?11月19日,由中国网络社会组织联合会在首届中国网络文明大会上发起的《互联网信息服务算法应用自律公约》,为破解这一课题提供了一个非常有益的探索。

一、算法与算法伦理

算法(Algorithm)是指解题方案的准确而完整的描述,是一系列解决问题的清晰指令,算法代表着用系统的方法描述解决问题的策略机制。当下,互联网技术与人工智能纵深发展,从正向推动着算法技术的广泛应用。技术是一把“双刃剑”,算法在被广泛应用,为社会带来许多便利的同时,也引发了算法的伦理问题,对当下的互联网文明建设带来新的挑战。

安德森在《依赖代码:算法时代的利与弊》提出,算法的确能帮助我们处理大量数据,这将会带来诸多可见的与不可见的益处,如激发科学突破、提升人们的创造力和自我表达能力、创造新的便捷生活方式等;但在同时,算法的这些益处也伴随着诸多挑战,如过于追求数据和建模,就会产生削弱人类判断、形成算法偏见、加深社会分歧等各种不良后果。

因此,从算法伦理的层面对算法的使用进行规制极为重要。算法伦理是以算法后果的不可预测性和算法的价值负荷为其理论前提,以尊重性、安全性、预防性、透明性和友好性为其基本准则,以培养算法设计主体的道德想象力和遵循价值敏感性为其实现进路。

二、正视纠正算法伦理失范,完善网络空间的文明治理

网络文明是指随着信息网络技术的应用而产生的一种新的文明形式,含义十分广泛,主要包括网络技术文明、网络精神文明和网络制度规范文明三个层面。网络文明建设的目的在于创建一个健康、有序、安全、具有活力、没有污染的“绿色”网络环境。而算法不仅是信息技术发展的核心要素,也是网络空间治理的关键课题,其隐藏社会属性已潜移默化影响人们的社会生活。

(一)算法伦理失范侵害网络技术文明

算法在很大程度上为用户带来了方便,如算法推荐帮助用户筛选信息。但有学者认为,随着算法技术的广泛应用,算法本身自主性的增强,作为主体的人的自主性减弱,两者呈现出此消彼长的趋势,甚至出现主体隐匿的问题。自主性即自我管理,是主体构建自我目标和价值且自由地作出决定并付诸行动的能力。这是因为算法技术本身是作为决策系统设计的,这也导致政策制定、社会服务、医疗健康、媒体传播等多个领域越来越依赖算法,而使用者本身的选择权利、知情权利等相关权益受到了侵害。

(二)算法伦理失范污染网络精神文明

由于算法设计模式在很大程度上依赖于现有的社会模式和设计者的社会认知,因此,算法的设计往往是当下社会模式和算法设计者的思维再现,这往往也会将社会和设计者固有的偏见和歧视代入,从而造成算法歧视。而由于算法歧视和偏见的存在,不仅损害了用户的知情权,更加侵害了一部分群体的正当权益,加之算法推荐等多项技术的使用,导致个人偏见和社会歧视的影响力在网络空间加大,从而引发舆论极化、网络暴力等问题,从而污染网络文明建设。

(三)算法伦理失范损害网络制度文明

舍恩伯格在《删除:大数据取舍之道》中指出“互联网让人类住进了数字圆形监狱”,在这样的大数据时代,“往事正像刺青一样在我们的数字皮肤上,遗忘已经变成了例外,而记忆却成了常态”。在用户走向数字化生存的同时,数据记录也同时留下了痕迹,未成年人在接入互联网、使用社交媒体等应用程序的时候,他们的脸部、姓名、位置信息、浏览记录等个人信息和隐私很容易就会被这些应用软件记录和保存下来,留下难以清除的数据痕迹。甚至算法技术在用户不知情的情况下就搜集和利用他们的信息,从而侵犯他们的个人信息权益和隐私权等相关的人格权利。

三、重视优化算法伦理规范,共建向上向善网络文明

《互联网信息服务算法应用自律公约》从算法伦理和网络文明建设的角度对算法的技术主体提出了新的要求。通过总结归纳,主要是围绕这三个层面展开的:第一,利用技术善治,推动网络技术文明建设;第二,促进算法公平,推动网络精神文明建设;第三,落实技术主体责任,推动网络制度文明建设等。

(一)利用技术善治,推动网络技术文明建设

《互联网信息服务算法应用自律公约》中提出“推动创新发展”等技术性要求。一方面,在技术上建立算法治理机制,设立算法治理组织机构,持续完善算法治理制度,建立健全算法安全应急管理预案;落实算法治理措施,加大资源投入,开展算法伦理审查,开展算法安全风险监测、评估和防控,有效处置算法安全事件。另一方面,推动设计研发创新,持续开展算法研发,主动掌握关键核心技术,融入全球科技创新整体格局;通过算法治理互联网。推动研发算法在互联网领域等相关领域的应用创新,为国家安全、社会进步、行业发展提供更好的服务。推动算法应用创新,加强算法在社会、经济各领域的应用,从而推动网络技术文明建设。

(二)促进算法公平,推动网络精神文明建设

《互联网信息服务算法应用自律公约》中提出要“恪守商业道德”和“践行社会主义核心价值观”。一方面,技术主体应该积极践行和维护主流价值观,将社会主义核心价值观纳入核心考量,遵守社会公序良俗和商业道德。另一方面,技术主体应坚决落实指导意见要求,加强行业自律,自觉接受监督管理;促进信息推荐公平,有效处理无效和虚假信息,规避算法偏见和算法应用数据偏差,改进推荐算法优化目标,从而推动网络精神文明建设。

(三)落实技术主体责任,推动网络制度文明建设

《互联网信息服务算法应用自律公约》中强调,“落实主体责任”,“严守法律法规”等制度性要求,从信息发布、信息审核和个人数据和隐私保护等层面要求技术主体遵纪守法,从而推动网络制度文明建设。其一,是强化主体责任意识,履行算法治理义务,承担算法治理责任。严格遵守国家相关政策文件和法律法规,加强守法合规意识,持续开展法律法规学习,依法依规开展算法应用,坚决不触碰法律红线,以此推动推动网络制度文明建设。

作者:特约评论员季为民(中国社会科学院工业经济所副所长、研究员、博士生导师)

中国社会科学院大学硕士曾雷霄对本文有贡献

责任编辑:刘德宾

市政协协商恳谈会建言北京民族乡村振兴 权威快报|新时代网络文明建设十件大事