2019年02月20日 09:51 来源:中国社会科学网-中国社会科学报 作者:邬蕾
万物正进入一个被数据化并被计算的时代,而处理数据的算法正在书写人类生活的新篇章。算法深刻地改变了我们的思维方式、催生了新的社会经济模式并向社会治理领域渗透。若对算法进行简单的定义,算法无非是用来自动处理数据的规则。表面上看,配置了强大计算能力的算法不过是人类技术升级而已,仅仅具有中立的、客观的工具价值。然而,随着计算能力的大幅提升以及大数据时代的来临,算法以两个关键性步骤完成了对人的规训:第一步,算法演变为决策程序的自动化系统;第二步,算法具备自我学习能力,并且它还可以自主设定价值判断的标准。经过第一个步骤,接入互联网的个人成为被监视、观察和分析的对象,算法推荐的决策暴露了人的隐私、习性以及价值观,它向用户推荐的“理性”选项缩减了个体的自由;而在第二个步骤当中,如果算法具有自我演化的能力,人们不需要再为计算机编程,它们为自己编程。算法对人构成了一种前所未有的权力,即“算法权力”。数据的运算并非一个价值无涉的中立客观过程,而是蕴含着特定的价值判断。相比于传统权力的物理性的强制力,算法权力更为理性、客观和高效;相比于传统权力的有界性、中心化,算法权力则无边界、分散化。人们无时不在这种权力的监控之下,却不知这种权力来自何方。如果终极算法存在,它势必对人类传统的法律秩序造成难以想象的变革和改造。
大数据、算法和计算能力的提升将重新塑造人类生活秩序。启蒙以来国家的秩序结构的形状类似金字塔,自由、平等和独立的个体团结于国家精神的感召之下,国家是秩序的守护者。而在算法时代,人与万物接入数据系统当中,成为算法进行数据处理的对象。“愿意的人被命运领着走,不愿意的人被命运拖着走。”随着数字技术和算法的进步,算法开始向法律和国家秩序领域挺进。这涉及两个问题:其一,法律技术能否对算法实施有效的规制;其二,法律本身能否被代码塑造,或者换言之,法律是否可能成为代码。前一个涉及的是法律技术问题,即现代法律能否应对算法时代法秩序脱序的危险;而后一个则涉及法律的本体问题,即法秩序能否被算法再造。
从法律技术层面,试图对算法进行法律规制,其思维方式是将法律和算法视作完全不同的两回事。正是因为算法在个体领域造成的“信息茧房”、消费场景中的大数据杀熟以及无视个体隐私等诸多法律问题和伦理争议,法律才会以捍卫人类生活秩序的理由试图对算法的无孔不入加以限制。然而,这一选择不仅面临极高的技术门槛,还涉及法律规制对象捉摸不定的困难。大数据、算法和人工智能并非是任何法学家可以轻易涉足的领域,算法的设计和运作模式也非通过审视法律条文就可以理解。传统的诸如权利、义务、侵权、合同等法学概念无法回应算法在数据处理过程中的无主体性特质。算法就其本质来说乃是一套逻辑运算的模式,如何让其承担相应的法律责任,实在是无从下手。如果没有专业的计算机知识以及庞大的数据处理能力,以传统法律对算法的生成和运作进行规制几乎是无法想象的。而赋予作为算法的一种表现形式的人工智能以法律人格,并对其加以规制的想法,这可能是法学家们的一厢情愿。算法作为一种“人造的理性”,当其开始重写自己的代码的时候,对算法的审计和检验已经开始呼唤另一种算法了。而这已经远远超越传统法律的控制范围了。
实际上,对于法律与算法关系的认知,一直局限于如何将算法运用于法律的具体运行过程当中。其思想方法是算法对法律认知和适用进行数学建模,不过这一应用过程必须满足相对严格的条件。无论是法律论证还是法律推理过程,都应满足最低形式语言的要求。将算法运用于法律推理和论证,依然是一种将算法视作工具的思维模式。人们对法律的基础及其本质的理解并未发生根本性的改变。那么,是否可以从法律本身出发,将法律予以代码化,即法律的算法化。从技术层面上,人们已经着手处理法律代码化的若干前提性问题。更为严峻的是,法律代码化将颠覆传统法秩序的价值追求和法治的基本精神。
现代社会所诉求的法治体系建立在人的独立、自由和平等的价值之上。首先,法律规范具有普遍性,即法律不考虑个体差异而普遍适用,具体案件中适用法律的过程乃是法律的具体化;其次,法律规范是抽象的、可预测的,法律是非人格化的;再次,法律的正当性在于普遍的共识,法律的权威在于法律服从者的接受和认可;最后,法律的实施是以中心化的国家权力为保证的。随着大数据、互联网以及算法对生活的统治性影响,立法者、法官和执法者被嵌入更为深刻的数据系统当中,那么法律本身的性质是否会因为数据化和算法的影响而改变其原有的形态,或者换言之,法律是否本身会演变为一种算法。法律作为调整人行为的规则,在法律的约束下,不同的个体行为会产生不同的法效果。以法律的观点看,不法行为和法效果之间的联结是通过归责概念而被建立起来的。随着信息技术、互联网的降临,在万物互联的时代,个体的绝大部分行为都是在接入网络之后才发生的。这为规则的应用拓展了一个前所未有的空间,既然个体的行为被理解为数据流,那么其行为的效果自然要经过算法的拣选、过滤和审视而生产不同的效果。是否可以通过归责这一概念来描述行为的输入端和算法效果的输出端,还需要从法理上进一步讨论。但是,从“人的行为—算法—效果”与“人的行为—归责—效果”的角度看,二者之间具有相同的结构。将代码和算法引入法律,能够自我学习的算法不仅会与法律产生错综复杂的关系,而且可能会引入算法创制的新的规则。
如果我们采取一种数据主义的观点来理解世界,那么算法就将成为数据世界的律法。无论从算法的制定、算法的执行和算法技术的监管角度,算法作为数据世界的律法将与现代法律表现出截然不同的特征。如果现代法律规范以普遍性为特征,那么算法将以特殊性为首要考虑。如果现代法律是非人格化的,那么算法将体现出人工智能的某些人格特质。如果现代法律的正当性前提在于人们的普遍共识,那么算法的权威在于自身强大的运算能力。最后,现代法律的实施以国家为中心来保证,但就算法制定和执行而言,它的制定者和执行者无所不在却又无从寻觅。数据世界的律法有自身的生长和演化方式,当算法具备了自我复制、自我进化的能力,算法不再依附人而存在,相反人依附算法而存在。从存在论上,人既不是自然世界的立法者,也不再是自由世界的立法者。因此,既然算法问题乃是一个人的存在论层面的问题,为了人类与算法能够共存,就必须为算法设定最低应用条件。而设定最低条件的立法行为,我们可以称其为算法与人类共存的制宪行为。姑且不考虑这种制宪权的主体和行使方式,单就内容上,此宪法应该包括:(1)为了捍卫人的主体地位,算法的制定权力必须最终掌握在所有人的手中而不能交由资本或者拥有算力的少数人;(2)算法可以复制,但是如果没有得到全体同意而算法试图自我演化的话,则应当启动自毁程序;(3)算法可以约束人类的行为,但其制裁力应以不伤害人为限。
数据化与算法时代的兴起改变了传统的社会法秩序结构与个体的行为模式,掌握数据及数据分析的能力在某种意义上意味着一种对人的控制力。算法可以如法律一样成为社会治理的有力工具,然而算法并非客观的、普遍的和可预测性的法律,算法强大的自我学习能力是需要警惕的。算法作为数据世界的律法必须为其设定最低限度的运行条件。人若不能成为算法的立法者和控制者,那么算法就将成为人的立法者和控制者。
(作者单位:西南政法大学行政法学院)