2021-04-07 16:40:53 來(lái)源：中國(guó)周刊

作者：鄭智航 山東大學(xué)法學(xué)院和網(wǎng)絡(luò)安全學(xué)院雙聘教授、博士生導(dǎo)師。

本文原載《法律科學(xué)（西北政法大學(xué)學(xué)報(bào)）》2021年第1期

 

隨著互聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算等科學(xué)技術(shù)的發(fā)展，人力、腦力和算力融合的程度愈來(lái)愈緊密，以生活要素?cái)?shù)據(jù)化和機(jī)器自動(dòng)化決策為核心的人工智能算法得到了越來(lái)越廣泛的應(yīng)用。人工智能算法使得機(jī)器能夠通過(guò)可讀的指令程序，根據(jù)網(wǎng)絡(luò)痕跡、位置信息、消費(fèi)記錄等數(shù)據(jù)，對(duì)人的行為進(jìn)行評(píng)價(jià)和預(yù)測(cè)。這種自動(dòng)化決策方式在人員招聘、教育培訓(xùn)、無(wú)人駕駛、投資咨詢、司法判決、智能診療、新聞推薦等諸多領(lǐng)域得到了廣泛運(yùn)用，極大地降低了人們的決策成本，提高了工作效率。然而，人工智能算法獨(dú)特的運(yùn)行邏輯導(dǎo)致法律賴以生成與存在的社會(huì)結(jié)構(gòu)性場(chǎng)景發(fā)生了重大變化，加劇了決策者與相對(duì)人之間的“數(shù)字鴻溝”，造成個(gè)人權(quán)利與算法權(quán)力之間的失衡，從而誘發(fā)了一系列的倫理問(wèn)題。這些問(wèn)題在一定程度上顛覆了傳統(tǒng)的法律認(rèn)知，增加了傳統(tǒng)法律治理的難度。要想增強(qiáng)人工智能算法法律治理的有效性和克服“人工智能時(shí)代的法律功能危機(jī)”，就必須回到人工智能算法這一基本原點(diǎn)，探求人工智能算法倫理危機(jī)產(chǎn)生的結(jié)構(gòu)性因素，并在此基礎(chǔ)上分析既有法律治理手段存在的限度，從而為人工智能算法法律治理的轉(zhuǎn)型升級(jí)探明方向。

一、人工智能算法運(yùn)行的基本邏輯

現(xiàn)代意義上的算法技術(shù)源于1940年代克勞德·香農(nóng)有關(guān)信息論和通信系統(tǒng)的思考。他解決了信道容量、信源統(tǒng)計(jì)特性、信源編碼、信道編碼等一系列基本技術(shù)問(wèn)題，為算法技術(shù)的運(yùn)用奠定了架構(gòu)基礎(chǔ)。與此同時(shí)，麥卡洛克和匹茨推動(dòng)了神經(jīng)元計(jì)算科學(xué)的發(fā)展，提出大腦天然有著適合進(jìn)行計(jì)算的結(jié)構(gòu)，并認(rèn)為所有可設(shè)想的有窮計(jì)算都可以被神經(jīng)網(wǎng)絡(luò)計(jì)算出來(lái)，這在事實(shí)上否定了“意識(shí)/肉體二元論”的觀點(diǎn)。隨后，阿蘭·圖靈在此基礎(chǔ)上，發(fā)明了圖靈機(jī)，讓其執(zhí)行被定義的算法任務(wù)。他在二戰(zhàn)期間還帶領(lǐng)數(shù)學(xué)家使用算法破譯了德國(guó)納粹分子的密碼。進(jìn)入網(wǎng)絡(luò)時(shí)代后，人們逐步形成了一種以技術(shù)性和流動(dòng)性為核心的在線生存樣態(tài)。在這種生存樣態(tài)中，人們?nèi)找姹粩?shù)據(jù)化和算法化。技術(shù)平臺(tái)往往會(huì)利用自身的技術(shù)優(yōu)勢(shì)，生成一種隱性的支配權(quán)和控制權(quán)，從而形成人工智能算法獨(dú)特的運(yùn)行邏輯。

(一)人工智能算法的嵌入邏輯

從本質(zhì)上講，人工智能算法是一種利用機(jī)器深度自主學(xué)習(xí)能力對(duì)現(xiàn)實(shí)生活中大量分散的、碎片化的數(shù)據(jù)信息進(jìn)行自動(dòng)化處理的機(jī)制。從外在形式看，它主要體現(xiàn)為算法的研發(fā)者通過(guò)一系列的技術(shù)性指令作用于特定機(jī)器的活動(dòng)。但是，這種活動(dòng)具有較高的嵌入性。算法的研發(fā)者或運(yùn)用者往往將虛擬世界的算法隱性地嵌入社會(huì)權(quán)力運(yùn)行的結(jié)構(gòu)中，并依托現(xiàn)實(shí)物理世界中的經(jīng)濟(jì)權(quán)力或政治權(quán)力，以“持續(xù)控制形式”滲入日常社會(huì)互動(dòng)中的微觀層面。在這種算法的嵌入邏輯中，傳統(tǒng)的經(jīng)濟(jì)權(quán)力或政治權(quán)力借助算法技術(shù)的專業(yè)化和隔離化，形成技術(shù)與經(jīng)濟(jì)、技術(shù)與政治的聯(lián)姻。如在經(jīng)濟(jì)領(lǐng)域，算法嵌入平臺(tái)重構(gòu)了消費(fèi)者、平臺(tái)與服務(wù)提供者之間的關(guān)系。算法下探至每筆交易貫徹平臺(tái)交易規(guī)則，并對(duì)違約者予以即時(shí)處罰;在政治領(lǐng)域，算法可實(shí)時(shí)收集數(shù)據(jù)并持續(xù)運(yùn)行，與公權(quán)力的實(shí)施具有高度契合性，并極大地增強(qiáng)了公權(quán)力運(yùn)行的廣度、深度和效率。

人工智能算法運(yùn)行的嵌入邏輯推動(dòng)了算法的機(jī)制化?！八惴ǖ臋C(jī)制化”是指根據(jù)算法而生成的具有普遍性、連續(xù)性、穩(wěn)定性和恒久性的自動(dòng)決策化機(jī)制。人工智能算法的嵌入邏輯使網(wǎng)絡(luò)空間具有了卡斯特意義上的“無(wú)時(shí)間的空間”特質(zhì)。算法在社會(huì)權(quán)力結(jié)構(gòu)中的隱性嵌入，促進(jìn)了所有數(shù)據(jù)被納入算法建模系統(tǒng)中，并通過(guò)機(jī)器的自主學(xué)習(xí)升級(jí)延展，從而被永久性保存下來(lái)。因此，算法將每個(gè)人發(fā)生在網(wǎng)絡(luò)中的相關(guān)信息和行為通過(guò)圖譜畫像方式變?yōu)檫B續(xù)性的常規(guī)動(dòng)作，并被賦予預(yù)先設(shè)定的意義和內(nèi)涵。以新聞智能推送算法為例，算法推薦新聞平臺(tái)將實(shí)現(xiàn)自身利益最大化的算法嵌入新聞傳播過(guò)程中，以便快速有效地檢測(cè)出新話題和熱點(diǎn)話題，以此構(gòu)建一套新聞推送的日常機(jī)制。推送機(jī)制一旦形成，網(wǎng)絡(luò)用戶就逼迫接受算法篩選和推送的信息。

(二)人工智能算法的概率統(tǒng)計(jì)邏輯

從傳統(tǒng)物理社會(huì)到人工智能算法的轉(zhuǎn)變，意味著從牛頓的“大定律，小數(shù)據(jù)”技術(shù)范式向默頓的“大數(shù)據(jù)，小定律”技術(shù)范式的轉(zhuǎn)移。在“大定律，小數(shù)據(jù)”技術(shù)范式下，人們能夠?qū)暧^物體的運(yùn)動(dòng)規(guī)律進(jìn)行把握，并將這種普遍性規(guī)律運(yùn)用于具體場(chǎng)境中。而在“大數(shù)據(jù)，小定律”技術(shù)范式下，人們以量子力學(xué)為基礎(chǔ)，利用規(guī)則由小數(shù)據(jù)產(chǎn)生大數(shù)據(jù)，再由大數(shù)據(jù)練就“小定律”，通過(guò)“小定律”精準(zhǔn)地掌握知識(shí)。人工智能算法正是利用了這種“大數(shù)據(jù)，小定律”技術(shù)范式。這種技術(shù)范式要求算法建立在概率統(tǒng)計(jì)的數(shù)理基礎(chǔ)上，并通過(guò)智能化的機(jī)器依據(jù)特定場(chǎng)景、語(yǔ)境和實(shí)用需要，從海量的“大數(shù)據(jù)”中，隨機(jī)提取特定的“小定律”，從而對(duì)行為形成一種反饋機(jī)制。這種概率統(tǒng)計(jì)邏輯要求算法的設(shè)計(jì)者采取二階語(yǔ)言描述的技術(shù)，而二階語(yǔ)言所描述的對(duì)象在原理上又可以轉(zhuǎn)換為一階語(yǔ)言所描述的對(duì)象。按照這種概率統(tǒng)計(jì)邏輯，斷定某種狀態(tài)是否滿足某個(gè)問(wèn)題就等同于斷定某種模型是否滿足某個(gè)一階語(yǔ)言所描述的對(duì)象，而這種一階語(yǔ)言描述的對(duì)象的真值源于初始狀態(tài)是隨機(jī)選擇，并依賴于先驗(yàn)命題為真的概率。因此，人工智能算法的概率統(tǒng)計(jì)邏輯具有強(qiáng)烈遞歸思維色彩，即通過(guò)重復(fù)將問(wèn)題分解為同類子問(wèn)題來(lái)加以解決。另一方面，人工智能算法充分利用機(jī)器自身的深度學(xué)習(xí)能力，將分散的個(gè)殊化數(shù)據(jù)重新聚集，并作為形成未來(lái)數(shù)據(jù)處理方法的重要參數(shù)。機(jī)器深度學(xué)習(xí)強(qiáng)調(diào)的是計(jì)算機(jī)程序?qū)τ谀愁惾蝿?wù)T和性能度量P，在T上以P衡量的性能隨著經(jīng)驗(yàn)E而自我完善。這種深度學(xué)習(xí)，以貝葉斯概率理論和 Toulmin對(duì)推論的分析為基礎(chǔ)，并形成了從證據(jù)到結(jié)論的“泛化”過(guò)程。算法設(shè)計(jì)者往往將具有一階語(yǔ)言描述性質(zhì)的分散數(shù)據(jù)之間的相關(guān)性解釋為“適當(dāng)?shù)拇蟾怕适录保缓髲哪骋粋€(gè)結(jié)論出發(fā)，來(lái)論證這一決策的正當(dāng)性。因此，Schum認(rèn)為人工智能算法的概率統(tǒng)計(jì)邏輯具有拓?fù)涞男再|(zhì)和特征。

(三)人工智能算法的效率主導(dǎo)邏輯

人工智能算法是一個(gè)以效率為主導(dǎo)的法則。它主要通過(guò)計(jì)算機(jī)程序來(lái)對(duì)問(wèn)題進(jìn)行“一種有限、確定、有效”的處理。這種對(duì)待事物的態(tài)度決定了人們?cè)谶\(yùn)用算法建構(gòu)認(rèn)知模型，進(jìn)行自動(dòng)化決策時(shí)，需要盡可能降低認(rèn)知負(fù)擔(dān)，并將其控制在合目的的范圍內(nèi)，從而提高效率。有學(xué)者認(rèn)為，滋養(yǎng)算法的大數(shù)據(jù)具有追求效率而非追求絕對(duì)精確、強(qiáng)調(diào)相關(guān)性而非因果性的特征。平臺(tái)和算法設(shè)計(jì)者也往往將效率與利益作為首要考慮因素。因此，人工智能算法的運(yùn)行具有強(qiáng)烈的效率主導(dǎo)邏輯。究其原因，這既有架構(gòu)和技術(shù)方面的客觀原因，也有平臺(tái)和算法設(shè)計(jì)者逐利的主觀原因。第一，網(wǎng)絡(luò)特殊的架構(gòu)模式為人工智能算法的效率主導(dǎo)邏輯生成奠定了結(jié)構(gòu)基礎(chǔ)。人工智能算法依托于網(wǎng)絡(luò)和信息技術(shù)的發(fā)展。目前，我們的網(wǎng)絡(luò)架構(gòu)是一種對(duì)等網(wǎng)絡(luò)(P2P Network)架構(gòu)模式。在這種架構(gòu)模式中，網(wǎng)絡(luò)建立了以積分為核心的激勵(lì)機(jī)制。網(wǎng)絡(luò)會(huì)根據(jù)積分高低來(lái)分配獲取服務(wù)的順序。算法設(shè)計(jì)者必須要考慮這種特殊激勵(lì)機(jī)制以便有效地將算法嵌入到網(wǎng)絡(luò)架構(gòu)中。第二，計(jì)算機(jī)有限的自主學(xué)習(xí)能力是選擇效率標(biāo)準(zhǔn)的一個(gè)重要原因。經(jīng)過(guò)近半個(gè)世紀(jì)發(fā)展，計(jì)算機(jī)的自主學(xué)習(xí)能力得到了快速發(fā)展。但是，它仍然處于模仿人類的動(dòng)作與感受的較低階段，這種有限的自主學(xué)習(xí)能力致使算法只能選擇一些最容易被量化的簡(jiǎn)單標(biāo)準(zhǔn)。相對(duì)于其他標(biāo)準(zhǔn)而言，效率是最容易被量化的。它也更容易被析分為沒(méi)有爭(zhēng)議的數(shù)字變量，以符合數(shù)學(xué)計(jì)算的要求。例如，在人工智能輔助辦案系統(tǒng)中，算法更多處理的是程式化的不涉及價(jià)值判斷的表層概括工作，而對(duì)于更高級(jí)的互動(dòng)交流、非經(jīng)濟(jì)利益的價(jià)值評(píng)判等難以量化的工作則較少涉足。第三，平臺(tái)和算法設(shè)計(jì)者的利益訴求需要考慮算法運(yùn)行的成本和效益。算法的設(shè)計(jì)和研發(fā)需要有大量的資金投入。平臺(tái)和設(shè)計(jì)者往往會(huì)從績(jī)效正當(dāng)性角度出發(fā)來(lái)衡量算法設(shè)計(jì)的合理性。因此，他們?cè)谘邪l(fā)算法時(shí)會(huì)主動(dòng)植入研發(fā)者的價(jià)值導(dǎo)向和利益意圖，以便用技術(shù)平臺(tái)來(lái)幫助其完成特定的利益訴求，實(shí)現(xiàn)利潤(rùn)最大化的目標(biāo)。以平臺(tái)媒體、互聯(lián)網(wǎng)巨頭和門戶網(wǎng)站為例，它們主要從績(jī)效正當(dāng)性出發(fā)來(lái)構(gòu)建算法系統(tǒng)。為了追求效率或效益，它們?cè)O(shè)計(jì)的算法篩選程序是以用戶興趣為基本導(dǎo)向的，并建立了一套可量化的經(jīng)濟(jì)績(jī)效評(píng)價(jià)標(biāo)準(zhǔn)。這種算法設(shè)計(jì)極大地增強(qiáng)了生活、娛樂(lè)類資訊的供給量。

二、人工智能算法的倫理危機(jī)

人工智能算法獨(dú)特的運(yùn)行邏輯正在深刻地改變著以往的生產(chǎn)方式和生活方式，并反客為主地對(duì)人的行為形成支配關(guān)系。人們可以借助于操縱數(shù)據(jù)與算法來(lái)實(shí)現(xiàn)控制人的目的。馬長(zhǎng)山認(rèn)為:“掌握了數(shù)據(jù)，就意味著掌握了資本和財(cái)富;掌握了算法(Algorithm)，就意味著掌握了話語(yǔ)權(quán)和規(guī)制權(quán)?！边@種具有隱蔽性的算法權(quán)力會(huì)給人們帶來(lái)系統(tǒng)性的不利后果，消解人的主體地位，侵犯公民的基本權(quán)利，誘發(fā)一系列的倫理危機(jī)。2014年美國(guó)白宮發(fā)布了一份題為《大數(shù)據(jù):抓住機(jī)遇，保護(hù)價(jià)值》的報(bào)告。該報(bào)告認(rèn)為，受數(shù)據(jù)來(lái)源特定性和算法設(shè)計(jì)者主觀意圖的影響，算法可能會(huì)系統(tǒng)性地減少個(gè)人獲得信貸、就業(yè)和教育的機(jī)會(huì)。數(shù)據(jù)科學(xué)家稱這些算法以及由此產(chǎn)生的算法權(quán)力為“數(shù)學(xué)毀滅性武器”。人工智能算法對(duì)以強(qiáng)調(diào)個(gè)人幸福和權(quán)利優(yōu)先性為特點(diǎn)的現(xiàn)代倫理帶來(lái)了巨大挑戰(zhàn)，現(xiàn)代倫理以道德個(gè)人主義目的論方法論原則為指導(dǎo)，將個(gè)人幸福置于根本地位。這種方法論要求凸顯人的主體性地位，并用主體性原則來(lái)構(gòu)建現(xiàn)代社會(huì)。它將“人為目的”的道德觀和權(quán)利優(yōu)先性理念作為現(xiàn)代社會(huì)正義的基礎(chǔ)，將人的外在行為所直接產(chǎn)生的現(xiàn)實(shí)效應(yīng)或?qū)嵸|(zhì)結(jié)果，或者由它帶來(lái)的實(shí)際價(jià)值效應(yīng)作為道德評(píng)價(jià)的依據(jù)。主體性、個(gè)體正義觀和實(shí)質(zhì)結(jié)果判斷構(gòu)成了現(xiàn)代倫理的基礎(chǔ)。然而，人工智能算法對(duì)作為現(xiàn)代倫理支撐的主體性原則、社會(huì)正義觀和實(shí)質(zhì)結(jié)果主義提出了嚴(yán)峻挑戰(zhàn)。這種挑戰(zhàn)主要體現(xiàn)為人的主體性地位的消解、群組正義觀代替?zhèn)€人正義觀、人工智能在算法結(jié)果上的標(biāo)簽化效應(yīng)等。

(一)人工智能算法中人的主體性消解

現(xiàn)代社會(huì)是一個(gè)以主體性為支撐的社會(huì)。黑格爾把“主體性”原則直接概括為“現(xiàn)代性”原則，并認(rèn)為主體性主要包括“個(gè)人(個(gè)體)主義”“批判的權(quán)利”“行為自由”和“把握自我意識(shí)的理念”四個(gè)方面的內(nèi)涵。這種主體性要求用人道主義終結(jié)封建專制制度，用理性主義殺死宗教中的上帝，用個(gè)人主義謀劃自然解放。這三者最終可以歸結(jié)為主體主義的確立和現(xiàn)代人主體性的生成。因此。現(xiàn)代社會(huì)是一個(gè)強(qiáng)調(diào)個(gè)人主義、理性主義和人道主義的社會(huì)，它要求在人的生活領(lǐng)域全面貫徹個(gè)人主義、理性主義和人道主義等基本原則。“這一主體地位不僅關(guān)乎于人生活的安全，也是人類文明開(kāi)展的根基，其主體地位一旦動(dòng)搖，政治、經(jīng)濟(jì)、文化、社會(huì)制度隨即分崩離析?！比欢?，人工智能算法卻在不斷消解著人的主體性，動(dòng)搖人在世界中的主體地位。特別是未來(lái)社會(huì)，隨著人工智能通過(guò)深度學(xué)習(xí)具備了自身算法系統(tǒng)的反思能力和自己的萬(wàn)能算法語(yǔ)言，人的主體性將遭受更大的挑戰(zhàn)。就目前而言，這種主體性消解主要體現(xiàn)在以下方面:

首先，算法使人面臨客體化的危險(xiǎn)。人工智能算法中，個(gè)人逐步被數(shù)據(jù)化和被計(jì)算化。在數(shù)據(jù)處理和整合時(shí)，算法將人按照各種各樣的自動(dòng)化區(qū)分標(biāo)準(zhǔn)進(jìn)行排列，并賦予相應(yīng)的意義。個(gè)人一旦進(jìn)入這種數(shù)據(jù)化的“微粒社會(huì)”，就成為被算法定義的對(duì)象。這種新興的算法權(quán)力并不是從主體角度，而是從作為可以被計(jì)算、預(yù)測(cè)和被控制的客體的角度來(lái)看待個(gè)人的。1.滿足算法預(yù)設(shè)條件是用戶進(jìn)入人工智能算法的前提。從性質(zhì)上講，人工智能算法是一個(gè)網(wǎng)絡(luò)技術(shù)和信息技術(shù)結(jié)合而建構(gòu)出來(lái)的虛擬世界。個(gè)人要想進(jìn)入網(wǎng)絡(luò)接受平臺(tái)提供的服務(wù)，獲得平臺(tái)承諾的優(yōu)惠和完成支付等，就必須接受通過(guò)代碼加以確定和規(guī)制的交易規(guī)則與支付規(guī)則。2.算法決定著人們?cè)诰W(wǎng)絡(luò)空間中的自由度。網(wǎng)絡(luò)社會(huì)具有發(fā)達(dá)的信息篩選機(jī)制。這種機(jī)制通過(guò)設(shè)置技術(shù)障礙的方式，促進(jìn)網(wǎng)絡(luò)空間的分區(qū)，限制個(gè)人訪問(wèn)網(wǎng)絡(luò)空間信息的權(quán)利。它主要通過(guò)網(wǎng)絡(luò)巡查(CyberPatrol)、網(wǎng)絡(luò)監(jiān)視(SurfWatch)等篩選軟件或利用瀏覽器的現(xiàn)有內(nèi)置功能來(lái)實(shí)現(xiàn)控制。這些機(jī)制通過(guò)算法來(lái)定義網(wǎng)絡(luò)分級(jí)檢索方式和網(wǎng)絡(luò)文件分級(jí)標(biāo)簽語(yǔ)法。人們要想在網(wǎng)絡(luò)空間享有更大的自由權(quán)，就必須符合算法所認(rèn)可的代碼要求。3.算法將人類作為“計(jì)算組件”來(lái)增強(qiáng)算法自身的權(quán)威。例如，亞馬遜的勞務(wù)眾包平臺(tái)(MechanicalTurk)就將勞動(dòng)者視為一個(gè)完整的計(jì)算組件來(lái)映射進(jìn)算法函數(shù)中。在這個(gè)算法系統(tǒng)中，人類從屬于充當(dāng)雇主的算法。算法系統(tǒng)按照評(píng)級(jí)標(biāo)準(zhǔn)自動(dòng)分配勞務(wù)。美國(guó)和印度之外其他國(guó)家的勞動(dòng)者通過(guò)亞馬遜禮品卡獲取報(bào)酬。這些勞動(dòng)者可以用禮品卡兌換比特幣，從而獲得現(xiàn)金酬勞。Caitlin Lustig認(rèn)為，這種勞務(wù)眾包平臺(tái)能夠運(yùn)行下去的一個(gè)重要原因，是因?yàn)槿藗冋趶膶?duì)人的信任轉(zhuǎn)向?qū)C(jī)器和算法的信任，從而導(dǎo)致了技術(shù)異化。其次，算法容易將人鎖定在自我編織的“信息繭房”中?！靶畔⒗O房”是桑斯坦提出的一個(gè)重要概念。他指出，在互聯(lián)網(wǎng)時(shí)代，伴隨網(wǎng)絡(luò)技術(shù)的發(fā)達(dá)以及信息量的劇增，每個(gè)人都能隨意選擇關(guān)注的話題，并可以根據(jù)自己的喜好打造一份“個(gè)人日?qǐng)?bào)”，但這種信息選擇行為將會(huì)導(dǎo)致“信息繭房”的形成。他所謂的“信息繭房”，是指?jìng)鞑ンw系個(gè)人化所導(dǎo)致的信息封閉的后果。當(dāng)個(gè)體只關(guān)注自我選擇的或能夠愉悅自身的內(nèi)容，而減少對(duì)其他信息的接觸時(shí)，久而久之，便會(huì)像蠶一樣逐漸桎梏于自我編織的“繭房”之中。這種信息的自我鎖定狀態(tài)，將引起以下不利后果:其一，算法推送的信息潛移默化地影響著人們的認(rèn)知框架和價(jià)值選擇。張愛(ài)軍和王首航認(rèn)為，算法作為一項(xiàng)技術(shù)手段，能夠起到重構(gòu)公眾環(huán)境、規(guī)范人的行為的作用。算法的精準(zhǔn)性在便于人們迅速獲得信息的同時(shí)，也塑造著個(gè)體的認(rèn)知結(jié)構(gòu)，使人們固守在自身的信息繭房，逐漸受到算法的“馴化”。其二，算法會(huì)進(jìn)一步強(qiáng)化人的既有觀念和想法，不利于人的觀念的更新與發(fā)展。算法主要是利用對(duì)個(gè)人的圖譜畫像來(lái)實(shí)現(xiàn)學(xué)習(xí)和進(jìn)化的。換言之，個(gè)人數(shù)據(jù)在喂養(yǎng)著算法。然而，這些數(shù)據(jù)往往具有時(shí)態(tài)上的慣性，并反映著人們對(duì)事物的看法。算法這種單向進(jìn)化的學(xué)習(xí)思路，會(huì)進(jìn)一步通過(guò)計(jì)算機(jī)強(qiáng)化這種刻板印象，從而“屏蔽”其他信息。因此，桑斯坦一再?gòu)?qiáng)調(diào)算法會(huì)“將用戶束縛在由興趣和先入之見(jiàn)所引導(dǎo)的狹隘的信息領(lǐng)域”。其三，算法容易加劇信息偏食現(xiàn)象，侵蝕個(gè)人對(duì)社會(huì)的認(rèn)同。隨著算法技術(shù)的發(fā)展，信息“私人訂制”會(huì)變得更為普遍，個(gè)人信息偏食現(xiàn)象必將愈演愈烈，以致于侵蝕社會(huì)的共識(shí)基礎(chǔ)，危害民主社會(huì)的發(fā)展。

再次，人工智能算法在語(yǔ)言和思維層面愈來(lái)愈迫近人類。語(yǔ)言和思維是人類區(qū)別于其他物種而具有主體性地位的重要原因。趙汀陽(yáng)認(rèn)為，語(yǔ)言具有自身的生成規(guī)則，并且能夠在語(yǔ)言系統(tǒng)內(nèi)部加以表達(dá)和解釋。任何一個(gè)語(yǔ)句或詞匯都能夠在元語(yǔ)言層次被分析為可判定的(所有可清楚界定的句子)或不可判定的(比如語(yǔ)義悖論)。它能夠生成無(wú)窮的語(yǔ)句并借以表達(dá)一切現(xiàn)實(shí)事物和可能性。語(yǔ)言的這些特性決定了語(yǔ)言具有構(gòu)造世界的能力。因此，具備了等價(jià)于人類語(yǔ)言的任何一種語(yǔ)言能力就等于具有了思想的能力，并能夠構(gòu)造世界。具備了語(yǔ)言能力的人工智能在地位上也會(huì)迫近人類，動(dòng)搖人類的主體性地位。就人工智能算法發(fā)展來(lái)看，它大致經(jīng)歷了從物理系統(tǒng)到仿生神經(jīng)網(wǎng)絡(luò)系統(tǒng)的發(fā)展歷程。這種仿生神經(jīng)網(wǎng)絡(luò)系統(tǒng)的人工智能算法模擬大腦中真實(shí)鏈接和處理信息的神經(jīng)元結(jié)構(gòu)。它改變了物理系統(tǒng)階段的顯式指令式編程的語(yǔ)言方式法，采取LISP語(yǔ)言實(shí)現(xiàn)算法深度學(xué)習(xí)的目的。這種從HOW型低級(jí)語(yǔ)言向WHAT型高級(jí)語(yǔ)言的進(jìn)化，有助于計(jì)算機(jī)不斷從經(jīng)驗(yàn)感官刺激過(guò)程中形成抽象知識(shí)和概念，為聲明式編程語(yǔ)言、函數(shù)式編程語(yǔ)言和動(dòng)態(tài)語(yǔ)言等未來(lái)計(jì)算機(jī)編程語(yǔ)言奠定了基礎(chǔ)。這勢(shì)必增強(qiáng)程序在運(yùn)行過(guò)程中根據(jù)具體情勢(shì)改變結(jié)構(gòu)的能力。這種算法的語(yǔ)言和思維會(huì)不斷靠近智能發(fā)展的“奇點(diǎn)”，甚至有可能具有哥德?tīng)柗此寄芰Γ瑥亩冉祟?，?duì)人類的主體性地位構(gòu)成挑戰(zhàn)。

最后，算法可能將人擠出就業(yè)市場(chǎng)，造成更為徹底的“無(wú)用階層”。人工智能算法的高度智能化釋放出巨大的生產(chǎn)力，愈來(lái)愈突破了人類以往的計(jì)量體系，人類對(duì)算法的依賴程度也愈來(lái)愈高。原本由人從事的勞動(dòng)和工作，愈來(lái)愈交由機(jī)器來(lái)完成。這會(huì)大大減少人類的工作崗位，從而沖擊人的實(shí)踐主體性的特質(zhì)。“當(dāng)勞動(dòng)，特別以改造自然為目的的勞動(dòng)不再成為生存的需要，那么人作為類的普遍性本質(zhì)，人作為實(shí)踐主體的本質(zhì)就部分地喪失。”另一方面，算法有助于財(cái)富進(jìn)一步向少數(shù)精英集中。在算法集中財(cái)富的過(guò)程中，處于社會(huì)底層的“失能者”改變自己命運(yùn)的難度便愈來(lái)愈大，社會(huì)階層固化現(xiàn)象會(huì)更為明顯。對(duì)此，尤瓦爾·赫拉利認(rèn)為:“隨著算法將人類擠出就業(yè)市場(chǎng)，財(cái)富和權(quán)利可能會(huì)集中在擁有強(qiáng)大算法的極少數(shù)精英手中，造成前所未有的社會(huì)及政治不平等?！?/span>

(二)人工智能算法正義觀的危機(jī)

現(xiàn)代社會(huì)是一個(gè)追求正義的社會(huì)。它強(qiáng)調(diào)社會(huì)基本結(jié)構(gòu)應(yīng)當(dāng)建立在正義所蘊(yùn)涵的自由、平等和權(quán)利等價(jià)值基礎(chǔ)上。只有體現(xiàn)自由、平等和權(quán)利等價(jià)值的社會(huì)，才是正義的社會(huì)。按照這種社會(huì)正義的要求，現(xiàn)代社會(huì)應(yīng)當(dāng)確立“人為目的”的道德觀，應(yīng)當(dāng)樹(shù)立權(quán)利優(yōu)先性的基本理念。然而，人工智能算法秉持的并不是這種以個(gè)人正義觀為核心的社會(huì)正義觀，而是一種以效率為核心的群組正義觀?！叭航M正義觀”是建立在統(tǒng)計(jì)奇偶性(statisticalparity)基礎(chǔ)上的正義觀。CynthiaDwork等人認(rèn)為，統(tǒng)計(jì)奇偶性強(qiáng)調(diào)接受正負(fù)分類的人的人口統(tǒng)計(jì)學(xué)與總體人口統(tǒng)計(jì)學(xué)具有相同的特征，因此，統(tǒng)計(jì)均等性被等同于群體性的公平。就算法而言，它不太考慮個(gè)人的差異性，而是將群組作為分析單位，并對(duì)不同群組作同質(zhì)化處理。即使群組和個(gè)人存在差異，算法也認(rèn)為這些差異無(wú)法人為加以控制，因此，在算法決策時(shí)也應(yīng)當(dāng)將這些差異因素排除出去。這樣能夠抵消冗余的編程，減少算法設(shè)計(jì)和運(yùn)行的成本。

然而，這種群組性社會(huì)正義觀對(duì)現(xiàn)代社會(huì)正義觀提出了嚴(yán)峻的挑戰(zhàn)。從本質(zhì)上講，現(xiàn)代社會(huì)的正義觀是建立在道德目的論基礎(chǔ)上的。萬(wàn)俊人認(rèn)為，道德的根本意義是對(duì)人的行為本身的價(jià)值評(píng)價(jià)，而一行為善惡好壞的性質(zhì)和程度，最終取決于該行為所產(chǎn)生的實(shí)際結(jié)果，該行為結(jié)果必須是實(shí)質(zhì)性的、且首先是相對(duì)于行為主體自身而言，其次才是相對(duì)于其他相關(guān)群體或個(gè)體。因此，它以“人的道德行為的圓滿實(shí)現(xiàn)為根本價(jià)值目標(biāo)和評(píng)價(jià)標(biāo)準(zhǔn)，所看重的是行為的最終結(jié)局(thefinality)或最高實(shí)現(xiàn)(thefinalrealization)”。算法群組正義觀則主要是從整體主義和工具主義角度來(lái)看待個(gè)人的。它主張人們對(duì)技術(shù)作去價(jià)值觀的理解，并將效率作為人類活動(dòng)的首要標(biāo)準(zhǔn)。它把計(jì)算作為社會(huì)的本質(zhì)，并用計(jì)算手段代替人的生活目的。因此，算法將人的理想和目的淹沒(méi)在電子忙碌中，這種理念將社會(huì)的精神價(jià)值技術(shù)化，從而與人類生活中的道德觀念和人的道德目的論格格不入。

算法對(duì)道德目的論的沖擊，動(dòng)搖了社會(huì)正義觀中權(quán)利優(yōu)先性這一核心理念。羅爾斯認(rèn)為:“權(quán)利的優(yōu)先性理念是一個(gè)根本要素，而在公平正義中，該理念作為公平正義觀點(diǎn)的一種形式具有其核心作用。”它倡導(dǎo)個(gè)人的基本權(quán)利應(yīng)當(dāng)優(yōu)先于公共的“善”。個(gè)人只有在尊重權(quán)利的前提下，才能去追求自己的“善”。任何違背個(gè)人權(quán)利去追求特定“善”的行為，都是一種不正當(dāng)?shù)男袨椤Ｋ惴ㄈ航M社會(huì)正義觀往往從后果主義出發(fā)，注重決策行為的績(jī)效正當(dāng)性，而無(wú)視個(gè)人權(quán)利。它將效率和便利凌駕于個(gè)人權(quán)利之上，認(rèn)為效率應(yīng)當(dāng)優(yōu)先于個(gè)人權(quán)利。為了獲得算法決策的便利，克減個(gè)人的一些權(quán)利具有后果主義上的正當(dāng)性。例如，在算法驅(qū)動(dòng)的路線導(dǎo)航實(shí)驗(yàn)系統(tǒng)中，算法所使用的數(shù)據(jù)都是在缺乏用戶知情同意的前提下采集的，而且，整個(gè)算法系統(tǒng)更為傾向選擇那些信息較少的用戶作為實(shí)驗(yàn)對(duì)象。

(三)人工智能算法的標(biāo)簽化效應(yīng)

人工智能算法具有極強(qiáng)的分類篩選能力和超乎想象的預(yù)測(cè)能力。它主要是通過(guò)選擇與各種行為具有密切關(guān)聯(lián)性的數(shù)據(jù)的顯著特征來(lái)工作的。因此，算法極有可能基于分類篩選機(jī)制而形成“大數(shù)據(jù)黑名單”。這些“黑名單”不恰當(dāng)?shù)貙€(gè)人或群體標(biāo)記為具有某種風(fēng)險(xiǎn)或傾向，進(jìn)而限制或排除他們的權(quán)利或機(jī)會(huì)。例如，美國(guó)有些法院利用Northpoint公司開(kāi)發(fā)的犯罪風(fēng)險(xiǎn)評(píng)估算法COMPAS對(duì)犯罪人的再犯風(fēng)險(xiǎn)進(jìn)行評(píng)估。法官可以根據(jù)這個(gè)再犯風(fēng)險(xiǎn)分值來(lái)決定犯罪人應(yīng)受的刑罰。又如，Gogle算法通過(guò)過(guò)去的搜索行為模式，以非洲裔美國(guó)人相關(guān)姓名進(jìn)行搜索，要比以高加索人相關(guān)姓名進(jìn)行搜索顯示的犯罪信息多得多。這極有可能給某些個(gè)人或群體貼上標(biāo)簽，形成一種不好的“刻板印象”。

這種標(biāo)簽化對(duì)寬恕這一現(xiàn)代社會(huì)的基本倫理價(jià)值提出了重大挑戰(zhàn)。慈繼偉將人的生活邏輯分為“正義的邏輯”和“超越正義的邏輯”?！罢x的邏輯”強(qiáng)調(diào)人與人之間的“等利害交換關(guān)系”和“互惠性”，以及建立在此基礎(chǔ)上的正義感，而“超越正義的邏輯”強(qiáng)調(diào)人有向善的可能性。它承認(rèn)了人們應(yīng)當(dāng)在尊重道德人格主體平等和價(jià)值多元化前提下對(duì)傷害行為作出一定的理解和容讓。然而，在人工智能算法中，一旦某個(gè)個(gè)體或群體具有了污名化的算法身份，就會(huì)一直被帶進(jìn)下一輪的運(yùn)算中?！盎谒惴ㄉ矸莸乃惴Q策會(huì)產(chǎn)生關(guān)于個(gè)體的新推斷，并影響個(gè)體的行為，進(jìn)而形成更多的數(shù)據(jù)，而這些新數(shù)據(jù)則會(huì)成為算法再一次對(duì)個(gè)體進(jìn)行分類、確定算法身份并作出推斷的數(shù)據(jù)基礎(chǔ)。如此一來(lái)，劣勢(shì)則會(huì)越累積越多。與此同時(shí)，算法在劣勢(shì)累積影響下所作出的推斷與決策結(jié)果還將導(dǎo)致對(duì)少數(shù)群體或受保護(hù)群體的負(fù)面成見(jiàn)，即污名化與自我應(yīng)驗(yàn)預(yù)言的實(shí)現(xiàn)。”這種算法的標(biāo)簽化和污名化既沒(méi)有考慮個(gè)體或群體具有向善的一面，也沒(méi)有考慮人因過(guò)錯(cuò)而接受懲罰應(yīng)該是有期限的一面，從根本上否定了人有做錯(cuò)事的權(quán)利。

三、人工智能算法法律規(guī)制遇到的挑戰(zhàn)

(一)運(yùn)用法律主體制度規(guī)制人工智能算法的難題

算法自動(dòng)化決策在推動(dòng)社會(huì)進(jìn)步的同時(shí)，也帶來(lái)一系列的社會(huì)問(wèn)題和法律問(wèn)題。人們?cè)噲D通過(guò)既有的法律主體性制度來(lái)解決這些問(wèn)題。2017年2月歐盟表決通過(guò)的《歐盟機(jī)器人民事責(zé)任法律規(guī)則》提出了“非人類的代理人”的概念。這一概念的實(shí)質(zhì)是將人工智能作為一個(gè)有目的性的系統(tǒng)，并在實(shí)質(zhì)上將工人智能體作為民事主體。是年，沙特阿拉伯給我國(guó)香港HansonRobotics公司研發(fā)的表情機(jī)器人“索菲亞”授予公民資格。我國(guó)制定的《新一代人工智能發(fā)展規(guī)劃》也提出“明確人工智能法律主體以及相關(guān)權(quán)利、義務(wù)和責(zé)任”。這些制度構(gòu)想和法律實(shí)踐的核心就是要運(yùn)用現(xiàn)代法律主體制度，通過(guò)賦予作為算法載體而存在的人工智能體相應(yīng)的法律主體資格來(lái)解決財(cái)產(chǎn)權(quán)利歸屬、法律責(zé)任承擔(dān)等問(wèn)題。這種法律主體性制度構(gòu)想體現(xiàn)了進(jìn)一步捍衛(wèi)現(xiàn)代社會(huì)主體性倫理基礎(chǔ)的努力，但是，它難以適應(yīng)人工智能算法運(yùn)行的基本邏輯。這種“生硬”的制度“嫁接”，既難以在法學(xué)理論上實(shí)現(xiàn)邏輯自洽，也難以對(duì)人工智能算法的健康發(fā)展進(jìn)行有效引導(dǎo)。

現(xiàn)代法律主體制度是建立在對(duì)人的哲學(xué)理解基礎(chǔ)上的。它強(qiáng)調(diào)人除了具有認(rèn)知、判斷和選擇等能力以外，還具備道德、良心、良知、倫理等要素。因此，法律主體制度是以人具有獨(dú)立的人格為前提的，并將人作為一個(gè)不證自明的法律目的。運(yùn)用法律主體制度來(lái)解決算法誘發(fā)的倫理問(wèn)題與社會(huì)問(wèn)題會(huì)存在諸多障礙。首先，人類設(shè)計(jì)算法和發(fā)明作為算法載體而存在的人工智能體的目的并不是為了創(chuàng)制一個(gè)目的性存在，而是要為人類生活服務(wù)。換言之，算法及作為算法載體而存在的人工智能體始終是一種工具性存在。盡管算法系統(tǒng)經(jīng)歷了從物理系統(tǒng)到仿生神經(jīng)網(wǎng)絡(luò)系統(tǒng)的發(fā)展，并不斷迫近人類的神經(jīng)認(rèn)知系統(tǒng)，但是，它“沒(méi)有上升到有生命的狀態(tài)，不具備生命所要求的能夠利用外界物質(zhì)形成自己的身體和繁殖后代，按照遺傳的特點(diǎn)生長(zhǎng)、發(fā)育并在外部環(huán)境發(fā)生變化時(shí)及時(shí)適應(yīng)環(huán)境的能力”。而人自然生命的目的神圣性是法律主體制度建立的基礎(chǔ)。賦予作為算法載體而存在的人工智能法律主體地位，既會(huì)冒犯人的自然生命的目的神圣性，又顛倒了目的與工具的關(guān)系。其次，運(yùn)用法律主體制度規(guī)制算法，無(wú)法實(shí)現(xiàn)權(quán)利義務(wù)統(tǒng)一性原則。權(quán)利與義務(wù)相統(tǒng)一原則是現(xiàn)代法律的一項(xiàng)基本原則，也是法律主體的核心內(nèi)涵。賦予作為算法載體的人工智能體法律主體地位，是一種授予權(quán)利的行為。但是，既有的法學(xué)理論無(wú)法回答人工智能體獨(dú)立承擔(dān)相應(yīng)的法律責(zé)任的問(wèn)題?！胺▽W(xué)家目前設(shè)想的方案是像機(jī)動(dòng)車強(qiáng)制保險(xiǎn)那樣為人工智能進(jìn)行投?；蛟O(shè)置某種基金，但這種責(zé)任仍然是人類的財(cái)產(chǎn)責(zé)任而不是AI的獨(dú)立責(zé)任。因此，‘主張人工智能具有主體資格......不具有現(xiàn)實(shí)性意義’，人工智能達(dá)到權(quán)利義務(wù)相統(tǒng)一的法教義要求幾乎不可能，體系性思考的缺失只會(huì)顧此失彼、不可能拼湊出一個(gè)法律上的新主體。”最后，算法目前通過(guò)深度學(xué)習(xí)難以進(jìn)化出人的自由意志和情感?，F(xiàn)代法律主體制度深受康德自由意志學(xué)說(shuō)影響，并將自由意志和情感作為法律主體的必備要件。隨著科學(xué)技術(shù)的發(fā)展，算法的學(xué)習(xí)能力得到大幅度提高，并形成了一定的語(yǔ)言和思維能力。但是，要想在短期內(nèi)進(jìn)化出反思能力，具有同人類一樣的自由意志與情感則幾乎不可能。

(二)運(yùn)用透明性原則規(guī)制人工智能算法的難題

為了規(guī)制算法權(quán)力，揭開(kāi)“算法黑箱”，人們愈來(lái)愈傾向于運(yùn)用透明性原則，因?yàn)橥该餍栽瓌t能夠彌補(bǔ)決策者與相對(duì)人之間形成的“數(shù)字鴻溝”，避免信息的過(guò)度不對(duì)稱導(dǎo)致技術(shù)劣勢(shì)一方依附于技術(shù)強(qiáng)勢(shì)一方，從而演變成數(shù)字經(jīng)濟(jì)時(shí)代的精英統(tǒng)治。美國(guó)聯(lián)邦貿(mào)易委員會(huì)認(rèn)為，信息掌握在消費(fèi)者手中，能夠提高其合理購(gòu)買的決策能力，這是我們經(jīng)濟(jì)體系的基本原則。這對(duì)于經(jīng)濟(jì)的有效運(yùn)作來(lái)說(shuō)，是絕對(duì)必要的。因此，美國(guó)政府及司法機(jī)關(guān)極力倡導(dǎo)與宣傳算法透明度的重要性，例如，美國(guó)聯(lián)邦貿(mào)易委員會(huì)技術(shù)研究和調(diào)查辦公室就強(qiáng)調(diào)算法透明度的重要性，并向FTC消費(fèi)者保護(hù)調(diào)查員和律師提供有關(guān)算法透明度的培訓(xùn)和技術(shù)專業(yè)知識(shí)。算法透明度主要包括算法源代碼的透明性和開(kāi)放性;公布用于做出相關(guān)算法決策的輸入和輸出過(guò)程;以簡(jiǎn)明易懂的方式公開(kāi)輸入到輸出的中間過(guò)程，以便被決策對(duì)象充分知悉并認(rèn)同算法的正當(dāng)合理性等內(nèi)容。2017年，美國(guó)計(jì)算機(jī)學(xué)會(huì)公眾政策委員會(huì)公布了知情原則、質(zhì)詢和申訴原則、算法責(zé)任認(rèn)定原則、解釋原則、數(shù)據(jù)來(lái)源披露原則和可審計(jì)原則等六項(xiàng)原則。歐盟也積極加強(qiáng)透明度原則的實(shí)踐，并在歐盟《通用數(shù)據(jù)保護(hù)條例》中試圖通過(guò)賦予人們算法解釋權(quán)來(lái)確保透明度原則的實(shí)現(xiàn)。該《條例》第71條規(guī)定:“在任何情況下，該等處理應(yīng)該采取適當(dāng)?shù)谋Ｕ?，包括向?shù)據(jù)主體提供具體信息，以及獲得人為干預(yù)的權(quán)利，以表達(dá)數(shù)據(jù)主體的觀點(diǎn)，在評(píng)估后獲得決定解釋權(quán)并質(zhì)疑該決定?！边@種透明性原則實(shí)質(zhì)是現(xiàn)代信息公開(kāi)制度在人工智能算法領(lǐng)域的援用。它雖然在防止算法技術(shù)異化方面起到了一定的作用，但仍然會(huì)受到算法性質(zhì)、公眾認(rèn)知能力和算法自身的可解釋性等因素的影響。1.就算法的性質(zhì)而言，各國(guó)法院傾向于認(rèn)為它是一種商業(yè)秘密。在 State訴Lomis案中，美國(guó)威斯康星州最高法院認(rèn)為，COMPAS評(píng)估算法屬于商業(yè)秘密，魯米斯提出的初審法院依賴COMPAS評(píng)估算法作出判決侵犯他的正當(dāng)程序權(quán)利和平等保護(hù)權(quán)的訴求不合法。在德國(guó)，聯(lián)邦最高法院也認(rèn)為，算法是公司的核心商業(yè)秘密(Geschftsgeheimnis)，當(dāng)事人要求信用卡公司公開(kāi)信用評(píng)估核心公式(Scoreformel)是不合理的。法院之所以要將算法看作是一種商業(yè)秘密，主要是基于人工智能算法運(yùn)作的效率邏輯考慮。算法的設(shè)計(jì)和運(yùn)行都需要大量資金投入，而且一旦公開(kāi)透明，就極有可能出現(xiàn)“搭便車”現(xiàn)象，好的算法、收益率高的算法、行業(yè)領(lǐng)導(dǎo)者的算法可能會(huì)引起業(yè)界的效仿，從而會(huì)出現(xiàn)“羊群效應(yīng)”，加大順周期的風(fēng)險(xiǎn)。這極有可能影響算法公司對(duì)算法的開(kāi)發(fā)，阻礙科技的發(fā)展和進(jìn)步。2就公眾的認(rèn)知能力而言，絕大多數(shù)非專業(yè)人士都不具備讀懂算法語(yǔ)言的基本能力。透明性原則的核心是通過(guò)公眾的知曉和理解來(lái)防止決策的失誤和不公正?？炊屠斫鈩t是公眾監(jiān)督的前提。人們依憑看懂和理解的信息，并結(jié)合生活中的常識(shí)判斷，能夠作出一個(gè)較為客觀公允的結(jié)論。然而，算法極強(qiáng)的專業(yè)性和嵌入性，極大地超越了普通人的常識(shí)判斷，絕大多數(shù)非專業(yè)人士根本無(wú)法看懂和理解算法。換言之，人工智能算法是一個(gè)自我封閉的“孤島”，要想理解算法，就必須具備相應(yīng)的知識(shí)體系和認(rèn)知能力。因此，運(yùn)用透明性原則來(lái)規(guī)制算法的效果不會(huì)十分理想。3就算法自身的可解釋性而言，它是運(yùn)用透明性原則規(guī)制人工智能算法的前提。某一事物只有具有可解釋性，才既能夠在公眾面前得到有效的開(kāi)示，又能使專業(yè)技術(shù)人員對(duì)自身行為的正當(dāng)性進(jìn)行有效辯解。從本質(zhì)上講，算法是在特定的網(wǎng)絡(luò)架構(gòu)模式中，通過(guò)計(jì)算機(jī)語(yǔ)言進(jìn)行具體編程而組合成一套源代碼系統(tǒng)。簡(jiǎn)單的算法具有可控性，是可以解釋的，但是，復(fù)雜的算法對(duì)于數(shù)據(jù)和硬件設(shè)施的依賴程度會(huì)很高，并且它們?cè)诓粩嗟剡M(jìn)行學(xué)習(xí)和自我進(jìn)化。這使算法得出的結(jié)論的可解釋性變得愈來(lái)愈孱弱。另一方面，對(duì)于涉及一些隨機(jī)因素的決策過(guò)程，即使將系統(tǒng)源代碼、輸入、操作環(huán)境和結(jié)果完全透明公開(kāi)，也不排除算法結(jié)果可能會(huì)以一種不可檢測(cè)的方式被不恰當(dāng)?shù)毓潭ㄏ聛?lái)。JoshuaAKrol等人以經(jīng)典彩票為例論證了這一觀點(diǎn)。他們認(rèn)為一種完美透明的算法，隨機(jī)數(shù)生成器每次都會(huì)生成不同的隨機(jī)數(shù)。這種算法結(jié)果是難以復(fù)制或驗(yàn)證的。這種技術(shù)上的難以復(fù)制性降低了透明性原則在規(guī)制算法方面作用的發(fā)揮。

(三)運(yùn)用數(shù)據(jù)權(quán)約束人工智能算法的難題

在人工智能算法中，數(shù)據(jù)與算法的關(guān)系極為密切，以致于“數(shù)據(jù)喂養(yǎng)著人工智能”成為一個(gè)基本的共識(shí)。計(jì)算機(jī)只有吸收大量的數(shù)據(jù)，算法才能運(yùn)行起來(lái)，并得到學(xué)習(xí)和進(jìn)化。而算法又能夠?qū)?shù)據(jù)加以轉(zhuǎn)化和控制，從而形成一種“準(zhǔn)公權(quán)力”，這是算法異化的一個(gè)重要原因。因此，人們認(rèn)為運(yùn)用數(shù)據(jù)權(quán)的保護(hù)模式能夠有效地解決人工智能算法的倫理危機(jī)。例如，《歐盟通用數(shù)據(jù)保護(hù)條例》從個(gè)人對(duì)數(shù)據(jù)的自決權(quán)出發(fā)建構(gòu)了一套個(gè)人數(shù)據(jù)權(quán)利體系來(lái)約束算法行為。該條例第2條提出，通過(guò)保護(hù)數(shù)據(jù)流動(dòng)和數(shù)據(jù)處理過(guò)程中自然人所享有的數(shù)據(jù)權(quán)利來(lái)規(guī)范算法行為。為了實(shí)現(xiàn)這一目標(biāo)，該條例規(guī)定數(shù)據(jù)權(quán)人享有知情權(quán)、要求更正權(quán)、要求刪除權(quán)和限制處理權(quán)等具體權(quán)利形態(tài)。學(xué)者們也認(rèn)為，中國(guó)應(yīng)當(dāng)盡快出臺(tái)保護(hù)數(shù)據(jù)和數(shù)據(jù)生產(chǎn)者合法權(quán)利的法律法規(guī)，明確數(shù)據(jù)的產(chǎn)權(quán)主體，建立使用者付費(fèi)制度，防止資本對(duì)于公民數(shù)據(jù)和國(guó)家數(shù)據(jù)的濫用。這種制度設(shè)計(jì)和制度構(gòu)想，并不適合人工智能算法的運(yùn)行邏輯。因?yàn)?，人工智能算法的嵌入邏輯和效率主?dǎo)邏輯產(chǎn)生了新的知識(shí)生產(chǎn)和治理模式。它模糊了數(shù)據(jù)權(quán)利的主體范圍、架空了個(gè)人數(shù)據(jù)保護(hù)的知情同意原則、阻礙著個(gè)人的更正權(quán)。具體來(lái)講，運(yùn)用數(shù)據(jù)權(quán)來(lái)約束人工智能算法存在以下難題:第一，數(shù)據(jù)權(quán)的內(nèi)容和歸屬界定困難。權(quán)利內(nèi)容清晰和歸屬明確是權(quán)利有效行使的前提，而算法運(yùn)用的數(shù)據(jù)非常復(fù)雜。它近似于一個(gè)倉(cāng)庫(kù)、可以分為數(shù)據(jù)運(yùn)營(yíng)層、數(shù)據(jù)倉(cāng)庫(kù)層和數(shù)據(jù)產(chǎn)品層等層級(jí)。不同的數(shù)據(jù)層對(duì)數(shù)據(jù)的管理和使用方式也不同，相應(yīng)地涉及具體的權(quán)利內(nèi)容也較為模糊。另一方面，平臺(tái)數(shù)據(jù)的權(quán)利主體難以通過(guò)法律條文和法律教義的分析來(lái)明確，也難以基于正當(dāng)性與后果主義的分析來(lái)界定，因?yàn)槠脚_(tái)數(shù)據(jù)既可以被認(rèn)為是個(gè)人所有、平臺(tái)所有、個(gè)人與平臺(tái)共有，也可以被認(rèn)為是互聯(lián)網(wǎng)空間的公共數(shù)據(jù)。第二，算法技術(shù)可以繞開(kāi)數(shù)據(jù)權(quán)主體。隨著算法學(xué)習(xí)能力的不斷增強(qiáng)，它愈來(lái)愈能夠?qū)Ａ康臒o(wú)結(jié)構(gòu)數(shù)據(jù)(包括百度搜索記錄、淘寶購(gòu)物記錄、手機(jī)GPS信息等各種電子痕跡)進(jìn)行分析和處理。個(gè)人身份的已識(shí)別或可識(shí)別狀態(tài)往往成為數(shù)據(jù)分析的結(jié)果而不是起點(diǎn)。特別是到了數(shù)據(jù)倉(cāng)庫(kù)層和數(shù)據(jù)產(chǎn)品層，算法所處理的數(shù)據(jù)距離數(shù)據(jù)源中的原始數(shù)據(jù)愈來(lái)愈遠(yuǎn)，因?yàn)樗惴ㄔ谧罱咏紨?shù)據(jù)的數(shù)據(jù)運(yùn)營(yíng)層就進(jìn)行了去噪、去重、提臟、業(yè)務(wù)提取、單位統(tǒng)一、砍字段等多項(xiàng)工作。因此，算法技術(shù)繞開(kāi)了數(shù)據(jù)權(quán)主體，致使“從數(shù)據(jù)是否已包含個(gè)人身份信息入手來(lái)規(guī)制算法無(wú)法達(dá)到保護(hù)個(gè)人權(quán)益的目的”。第三，數(shù)據(jù)權(quán)是一種以個(gè)人為中心的救濟(jì)模式，難以應(yīng)對(duì)算法權(quán)力的復(fù)雜性。從本質(zhì)上講，運(yùn)用數(shù)據(jù)權(quán)制約算法權(quán)力的思路是一種以單個(gè)的個(gè)體為中心來(lái)對(duì)抗“準(zhǔn)公權(quán)力”的思想。這種思路忽視了算法權(quán)力的技術(shù)性和資本性兩大基本特性。

算法權(quán)力的技術(shù)性增加了普通民眾的認(rèn)知難度。算法權(quán)力的資本性，決定了普通民眾難以用數(shù)據(jù)權(quán)來(lái)制約算法權(quán)力。算法設(shè)計(jì)者和研發(fā)者往往是一支龐大的專業(yè)團(tuán)隊(duì)，并且擁有雄厚的財(cái)力支持。無(wú)論是法官，還是律師都難以應(yīng)對(duì)專業(yè)化的算法問(wèn)題。這種認(rèn)知上和財(cái)力上的懸殊，使個(gè)人數(shù)據(jù)權(quán)難以對(duì)抗日益膨脹的算法權(quán)力。

四、人工智能算法法律規(guī)制的基本路徑

人工智能算法獨(dú)特的運(yùn)作邏輯致使運(yùn)用法律主體制度、透明性原則和數(shù)據(jù)權(quán)等方式化解人工智能算法的倫理危機(jī)和社會(huì)危機(jī)的思路難以奏效。因此，應(yīng)當(dāng)調(diào)整傳統(tǒng)法律制度的規(guī)制理念，構(gòu)建符合人工智能算法運(yùn)作基本邏輯的規(guī)制路徑。

(一)人工智能算法法律規(guī)制的基本理念

1.從用戶注意力到用戶數(shù)字福祉

受效率主導(dǎo)邏輯的支配，算法設(shè)計(jì)者和開(kāi)發(fā)者往往將注意力集中在吸引甚至迎合用戶上。這種偏好原則可能將用戶鎖定在“信息繭房”中，從而忽視了用戶的數(shù)字福祉(digitalwel-being)。數(shù)字福祉主要包括以下兩大內(nèi)涵:一方面是人人都可享受到數(shù)字技術(shù)帶來(lái)的紅利，最大化地實(shí)現(xiàn)普惠和賦能;另一方面是促進(jìn)個(gè)人對(duì)數(shù)字技術(shù)和網(wǎng)絡(luò)服務(wù)的高質(zhì)量使用，減小、防止數(shù)字技術(shù)對(duì)個(gè)人的負(fù)面影響。2017年，英國(guó)科學(xué)院和皇家學(xué)會(huì)明確提出將促進(jìn)數(shù)字福祉的日益增長(zhǎng)和人類繁榮作為數(shù)據(jù)開(kāi)發(fā)、利用和管理的首要原則。這種數(shù)字福祉的范圍要大于數(shù)據(jù)權(quán)的范圍，體現(xiàn)在算法及作為算法載體而存在的人工智能體在認(rèn)識(shí)、動(dòng)機(jī)、結(jié)果、組織評(píng)價(jià)等多方面滿足善的要求。它能夠在社會(huì)提出的倫理原則或指導(dǎo)方針與算法設(shè)計(jì)者或開(kāi)發(fā)者提出的目標(biāo)技術(shù)之間進(jìn)行一種反思性的平衡，并應(yīng)該在特定數(shù)據(jù)技術(shù)的開(kāi)發(fā)、部署和使用等各個(gè)關(guān)鍵階段都發(fā)揮核心作用。隨著網(wǎng)絡(luò)技術(shù)和算法技術(shù)的發(fā)展，人們愈來(lái)愈強(qiáng)調(diào)算法設(shè)計(jì)者和開(kāi)發(fā)者應(yīng)當(dāng)依循“經(jīng)由設(shè)計(jì)的數(shù)字福祉(digital well-being by design)”理念，將對(duì)用戶數(shù)字福祉的保障和促進(jìn)融入產(chǎn)品和服務(wù)的設(shè)計(jì)中去。這種算法中嵌入數(shù)字福祉的做法在醫(yī)療保健、教育和就業(yè)、治理和社會(huì)發(fā)展以及媒體和娛樂(lè)等領(lǐng)域愈來(lái)愈得到運(yùn)用。特別是數(shù)據(jù)技術(shù)所具有的積極計(jì)算能力，促進(jìn)了道德規(guī)范在算法設(shè)計(jì)過(guò)程中的嵌入，因?yàn)樗⒃诜e極心理學(xué)研究的基礎(chǔ)上。

2.從二元結(jié)構(gòu)到三元結(jié)構(gòu)

傳統(tǒng)的法律規(guī)制手段還是建立在國(guó)家與社會(huì)、公權(quán)力與私權(quán)利的二元結(jié)構(gòu)基礎(chǔ)上的。它強(qiáng)調(diào)國(guó)家以自主性為核心的“專斷性權(quán)力”和個(gè)人基本權(quán)利所具有的排除公權(quán)力侵害的防御功能。具體到算法規(guī)制領(lǐng)域，它主要體現(xiàn)為試圖建立一套以結(jié)果責(zé)任認(rèn)定為核心的政府事后監(jiān)管模式和以個(gè)人為中心的權(quán)利救濟(jì)模式。這些方式和手段雖然在一定程度上能夠起到糾正算法偏差的作用，但是對(duì)于嵌入到算法技術(shù)過(guò)程中的更為隱蔽的算法偏差的作用并不大。這需要我們重新認(rèn)識(shí)國(guó)家與社會(huì)、公權(quán)力與私權(quán)利、行政權(quán)力與技術(shù)權(quán)力的關(guān)系，并建立一種“政府—平臺(tái)—商戶(消費(fèi)者)、公權(quán)力—社會(huì)權(quán)力—私權(quán)利的三元結(jié)構(gòu)”。三元結(jié)構(gòu)中的國(guó)家與社會(huì)、公權(quán)力與私權(quán)利不再是簡(jiǎn)單的消極對(duì)抗關(guān)系，政府權(quán)力也不應(yīng)該是一種高專斷性權(quán)力。人工智能算法構(gòu)造了一個(gè)信息社會(huì)，信息成為了權(quán)力的中心，產(chǎn)生一種信息權(quán)力，這種信息權(quán)力制約和阻礙著以科層制為核心的政府權(quán)力的運(yùn)作，并在事實(shí)上改變了政府權(quán)力的運(yùn)作形態(tài)和人們對(duì)權(quán)力的認(rèn)識(shí)?！?5〕 算法平臺(tái)具有的經(jīng)營(yíng)權(quán)、財(cái)產(chǎn)權(quán)和知識(shí)產(chǎn)權(quán)等一系列私權(quán)利會(huì)在這種信息優(yōu)勢(shì)和技術(shù)優(yōu)勢(shì)下演變?yōu)橐环N“準(zhǔn)公權(quán)力”?！芭c以往工商業(yè)時(shí)代的壟斷企業(yè)不同，它們不再局限于身為某個(gè)領(lǐng)域、某個(gè)行業(yè)的巨頭，而是具有超強(qiáng)滲透、覆蓋能力的全方位‘霸主’;它們不再局限于經(jīng)濟(jì)目標(biāo)上的經(jīng)營(yíng)管理，而是通過(guò)制定平臺(tái)規(guī)則、處理平臺(tái)糾紛、行使平臺(tái)監(jiān)管權(quán)等賦有了‘準(zhǔn)立法權(quán)’‘準(zhǔn)行政權(quán)’‘準(zhǔn)司法權(quán)’?！闭谒惴ㄒ?guī)制過(guò)程中，也需要借助算法平臺(tái)、程序員和人工智能專家的信息優(yōu)勢(shì)和技術(shù)優(yōu)勢(shì)，實(shí)現(xiàn)合作性治理。因此，算法平臺(tái)企業(yè)、程序員和人工智能專家不僅是政府監(jiān)管的對(duì)象，也是政府監(jiān)管的參與者、決策者和執(zhí)行者。國(guó)家有關(guān)算法規(guī)制法律規(guī)范的制定和執(zhí)行都離不開(kāi)他們的積極參與，而且這種參與的深度和力度要遠(yuǎn)遠(yuǎn)超過(guò)二元結(jié)構(gòu)中的公眾參與。

3.從依靠政府管控到政府克制

人工智能算法運(yùn)作的效率主導(dǎo)邏輯以及由此衍生出來(lái)的群組正義觀決定了算法治理過(guò)程中必須高度重視權(quán)利保護(hù)與科技創(chuàng)新之間的平衡問(wèn)題。而法律規(guī)制因遵循集權(quán)邏輯、權(quán)利邏輯和客觀認(rèn)定事實(shí)邏輯而與人工智能算法運(yùn)作所奉行的基本邏輯存在較大差異。如果一味地運(yùn)用法律規(guī)制特別是運(yùn)用政府管制手段，勢(shì)必會(huì)以犧牲算法科技的活力和創(chuàng)造力為代價(jià)，進(jìn)而影響算法技術(shù)的發(fā)展。例如，對(duì)于無(wú)人駕駛的刑法規(guī)制就應(yīng)當(dāng)采取克制與審慎的態(tài)度，因?yàn)榕鲎菜惴ㄟ€處于發(fā)展之中，算法技術(shù)之爭(zhēng)導(dǎo)致算法規(guī)范的爭(zhēng)議，目前碰撞算法對(duì)于事故參數(shù)還處于初步應(yīng)用階段，對(duì)于這種算法采取刑事規(guī)制無(wú)疑會(huì)阻礙算法創(chuàng)新。而且，算法自身也正在按照運(yùn)作的基本邏輯逐步衍生出一套約束和治理機(jī)制。例如，為了保護(hù)消費(fèi)者的身心健康，AndroidP、iOS12和Facebok等都設(shè)置了“屏幕使用時(shí)間”，以幫助用戶將手機(jī)和網(wǎng)絡(luò)使用時(shí)間控制在合理限度。算法企業(yè)也可以通過(guò)行業(yè)技術(shù)標(biāo)準(zhǔn)和倫理道德規(guī)范來(lái)減少或克服算法帶來(lái)的風(fēng)險(xiǎn)和危害。這些機(jī)制既能降低法律運(yùn)作的成本，又可以避免法律規(guī)制給技術(shù)創(chuàng)新可能帶來(lái)的負(fù)面效應(yīng)。因此，政府進(jìn)行算法規(guī)制時(shí)，應(yīng)當(dāng)樹(shù)立權(quán)力克制的基本理念，堅(jiān)持多元主義的治理方向，并為技術(shù)治理、倫理治理和其他治理留下必要的空間。

另一方面，傳統(tǒng)政府管控手段的合法性正在受到人工智能算法專業(yè)性的挑戰(zhàn)。在傳統(tǒng)集權(quán)體制下，政府管控手段的合法性來(lái)源于其基于縱向?qū)蛹?jí)式結(jié)構(gòu)而形成的一種知識(shí)與信息壟斷。然而，在人工智能算法中，知識(shí)與信息的碎片化和分散化消解了傳統(tǒng)管控手段的合法性。更為重要的是，算法問(wèn)題“可能會(huì)涉及到有著高度不確定性的未知事項(xiàng)，所要求的不僅僅是從‘事實(shí)’到‘法律’的推理，還要求在復(fù)雜模型和統(tǒng)計(jì)學(xué)幫助下，在純技術(shù)‘事實(shí)’間的推演。面對(duì)法律和事實(shí)的混合問(wèn)題，面對(duì)法律和科技的絞結(jié)，法院很難肩負(fù)起對(duì)技術(shù)標(biāo)準(zhǔn)進(jìn)行司法審查的重?fù)?dān)?！边@種政府認(rèn)知能力不足的客觀現(xiàn)實(shí)，需要權(quán)力保持必要的克制。

(二)人工智能算法法律規(guī)制的主要路徑

人工智能算法法律規(guī)制基本理念的轉(zhuǎn)變必然帶來(lái)法律規(guī)制路徑的變化。具體來(lái)講，人工智能算法的法律規(guī)制應(yīng)當(dāng)強(qiáng)調(diào)元規(guī)制治理，突出數(shù)據(jù)控制者的自我控制義務(wù);加強(qiáng)政府、平臺(tái)和社會(huì)三方的合作治理，通過(guò)第三方參與實(shí)現(xiàn)對(duì)算法的協(xié)同治理;完善算法責(zé)任分擔(dān)機(jī)制，建立算法安全風(fēng)險(xiǎn)的保險(xiǎn)制度等。

1.人工智能算法的元規(guī)制治理

按照鮑德溫等人的界定，元規(guī)制治理是規(guī)制對(duì)象在政府外在規(guī)制作用下，由規(guī)制客體轉(zhuǎn)變?yōu)橐?guī)制主體，從而采取具有內(nèi)控性質(zhì)的一種自我規(guī)制形式。這種規(guī)制形式具有政府規(guī)制和自我規(guī)制雙重面向。它既能防止自我規(guī)制出現(xiàn)自利性傾向，又能解決政府規(guī)制能力不足問(wèn)題。在這一治理過(guò)程中，政府主要扮演著“掌舵者”的角色，它不斷地對(duì)規(guī)制系統(tǒng)進(jìn)行監(jiān)督與管理，并在發(fā)現(xiàn)問(wèn)題時(shí)，要求自我規(guī)制者及時(shí)制定應(yīng)對(duì)方案，對(duì)自身施加內(nèi)部式的規(guī)制。自我規(guī)制者則充分發(fā)揮其在專業(yè)技術(shù)方面的優(yōu)勢(shì)，并根據(jù)自身行業(yè)的特點(diǎn)，制定相應(yīng)的規(guī)制方案。這既能減少規(guī)制上的知識(shí)障礙，又能增加規(guī)制執(zhí)行的靈活性，還能降低政府的規(guī)制成本。

就算法的元規(guī)制治理而言，應(yīng)當(dāng)強(qiáng)調(diào)通過(guò)激勵(lì)機(jī)制來(lái)促使數(shù)據(jù)控制者針對(duì)問(wèn)題進(jìn)行內(nèi)控式的自我規(guī)制。在此過(guò)程中，數(shù)據(jù)控制者應(yīng)當(dāng)通過(guò)數(shù)據(jù)保護(hù)影響評(píng)估和“經(jīng)由設(shè)計(jì)的數(shù)據(jù)保護(hù)”等方式來(lái)履行數(shù)據(jù)保護(hù)義務(wù)。數(shù)據(jù)保護(hù)影響評(píng)估是對(duì)算法進(jìn)行的一種事先規(guī)制。它強(qiáng)調(diào)數(shù)據(jù)控制者對(duì)軟件產(chǎn)品和過(guò)程是否符合適用的法規(guī)標(biāo)準(zhǔn)、指南、計(jì)劃、規(guī)格和過(guò)程進(jìn)行獨(dú)立評(píng)估。為了強(qiáng)化評(píng)估的作用，只有那些通過(guò)專家、公共機(jī)構(gòu)和受算法決策影響的社區(qū)代表審查評(píng)估的算法，才能在一組實(shí)體之間共享或在公共站點(diǎn)上發(fā)布。在具體評(píng)估過(guò)程中，不但應(yīng)當(dāng)評(píng)估基于目的使用算法的必要性和相稱性，而且應(yīng)當(dāng)評(píng)估算法可能帶來(lái)的侵害自主權(quán)、差別性待遇、財(cái)產(chǎn)損失等風(fēng)險(xiǎn)。算法擁有者應(yīng)當(dāng)根據(jù)評(píng)估結(jié)果提出處理風(fēng)險(xiǎn)的預(yù)想方案。

“經(jīng)由設(shè)計(jì)的數(shù)據(jù)保護(hù)”是由歐盟《通用數(shù)據(jù)保護(hù)條例》提出來(lái)的。該《條例》第25條第1款規(guī)定:“考慮到行業(yè)最新水平、實(shí)施成本及處理的性質(zhì)、范圍、目的和內(nèi)容以及處理給自然人的權(quán)利與自由造成的影響，數(shù)據(jù)控制者應(yīng)當(dāng)在決定數(shù)據(jù)處理方式以及進(jìn)行處理時(shí)以有效的方式采取適當(dāng)?shù)慕M織和技術(shù)措施?！睆谋举|(zhì)上講，該條款就是要將數(shù)據(jù)保護(hù)嵌入到算法的基礎(chǔ)架構(gòu)和具體實(shí)踐中。它為政府規(guī)制算法確定了基本目標(biāo)，但保留了政府采取規(guī)制算法的具體措施的權(quán)力。當(dāng)下的算法規(guī)制應(yīng)當(dāng)進(jìn)一步強(qiáng)化“經(jīng)由設(shè)計(jì)的數(shù)據(jù)保護(hù)”這一措施，在兼顧算法行業(yè)特點(diǎn)的前提下，要求數(shù)據(jù)控制者采取具體的適當(dāng)措施來(lái)確保算法決策的科學(xué)性和公正性。

社會(huì)責(zé)任披露機(jī)制是人工智能算法元規(guī)制治理的重要組成部分。它通過(guò)在被規(guī)制者與規(guī)制受益群體之間建立激勵(lì)機(jī)制來(lái)推動(dòng)人工智能算法開(kāi)發(fā)者和運(yùn)用者增強(qiáng)自我規(guī)制的能力，從而在市場(chǎng)上獲得更大的份額。這種信息披露機(jī)制要求“公司披露其社會(huì)責(zé)任表現(xiàn)能夠創(chuàng)造一種使利益相關(guān)者約束公司行為的情形。如果根據(jù)特定利益相關(guān)群體所期望遵守的行業(yè)規(guī)制標(biāo)準(zhǔn)來(lái)看，公司披露的社會(huì)責(zé)任信息是令人滿意的，那么它的后果可能是積極的。比如，公眾對(duì)公司聲譽(yù)的認(rèn)知可能會(huì)改善，對(duì)公司的投資可能會(huì)增加，或者公司將會(huì)獲得更大的市場(chǎng)份額。但如果評(píng)價(jià)是負(fù)面的，則可能會(huì)導(dǎo)致公司的聲譽(yù)受損，繼而帶來(lái)的是投資的減少以及市場(chǎng)份額的下降”。具體來(lái)講，政府監(jiān)管部門可以要求人工智能算法企業(yè)和平臺(tái)定期發(fā)布社會(huì)責(zé)任報(bào)告，強(qiáng)制披露風(fēng)險(xiǎn)活動(dòng)，公開(kāi)數(shù)據(jù)處理的目的、數(shù)據(jù)處理者的身份、數(shù)據(jù)接收者等相關(guān)信息。

2.人工智能算法的合作治理

隨著政府-平臺(tái)-商戶、公權(quán)力-社會(huì)權(quán)力-私權(quán)利三元結(jié)構(gòu)治理理念的確立，除了政府需要改變過(guò)去單向度的“命令加控制”的管控方式外，還需要構(gòu)建算法規(guī)制的合作治理路徑。在這種合作治理中，政府監(jiān)管機(jī)構(gòu)應(yīng)當(dāng)通過(guò)“提高標(biāo)準(zhǔn)化程度和自動(dòng)化程度”，使用“司法測(cè)試和新技術(shù)”來(lái)敦促算法相關(guān)企業(yè)遵守法律法規(guī)和其他內(nèi)控性質(zhì)的規(guī)范。社會(huì)第三方力量應(yīng)當(dāng)提供全自動(dòng)的算法風(fēng)險(xiǎn)分析和控制技術(shù)。算法平臺(tái)和企業(yè)，應(yīng)當(dāng)嚴(yán)格履行防范算法風(fēng)險(xiǎn)的義務(wù)，不斷調(diào)整信息技術(shù)系統(tǒng)，制定個(gè)性化的內(nèi)部算法風(fēng)險(xiǎn)管理流程。在此，筆者將著重分析如何構(gòu)建社會(huì)第三方力量在算法合作治理中的參與機(jī)制。

首先，明確社會(huì)第三方力量的參與權(quán)限。算法往往涉及到設(shè)計(jì)者、開(kāi)發(fā)者和平臺(tái)的經(jīng)濟(jì)利益，具有商業(yè)秘密的性質(zhì)。因此，第三方力量參與算法治理應(yīng)當(dāng)是有限度的。具體來(lái)講，社會(huì)第三方力量可以就訪問(wèn)協(xié)議的嚴(yán)密性、商定數(shù)字管理的道德準(zhǔn)則、任命專人監(jiān)管信息、在線跟蹤個(gè)人信息再次使用的情況，允許用戶不提供個(gè)人數(shù)據(jù)、為數(shù)據(jù)訪問(wèn)設(shè)置時(shí)間軸、未經(jīng)同意不得將數(shù)據(jù)轉(zhuǎn)賣給第三方等問(wèn)題進(jìn)行監(jiān)督和審核。社會(huì)第三方力量也可以就是否執(zhí)行數(shù)據(jù)保護(hù)影響評(píng)估、進(jìn)行數(shù)據(jù)保護(hù)影響評(píng)估采用什么方法、數(shù)據(jù)保護(hù)影響評(píng)估是內(nèi)部操作還是外包、采取哪些技術(shù)上的和組織結(jié)構(gòu)上的措施能夠減少對(duì)數(shù)據(jù)主體的權(quán)利和利益的負(fù)面影響、數(shù)據(jù)保護(hù)影響評(píng)估是否能正確執(zhí)行等問(wèn)題提出建議。社會(huì)第三方力量還享有就算法侵權(quán)行為提出申訴的權(quán)利?！稓W盟通用數(shù)據(jù)保護(hù)條例》第80條規(guī)定，社會(huì)第三方機(jī)構(gòu)可以代表數(shù)據(jù)主體就算法侵權(quán)行為提出申訴和行使司法救濟(jì)權(quán)。這在一定程度上能夠克服以個(gè)人為中心的救濟(jì)模式在算法認(rèn)知能力和權(quán)利救濟(jì)能力方面存在不足的問(wèn)題。

其次，細(xì)化社會(huì)第三方力量的參與程序。(1)參與時(shí)間。應(yīng)當(dāng)強(qiáng)化社會(huì)第三方力量全程參與的基本理念，并在算法事先審查和評(píng)估階段就應(yīng)當(dāng)介入。例如，美國(guó)政府規(guī)定只有經(jīng)過(guò)社會(huì)第三方力量參與審查和評(píng)估的算法才是合法的算法，才能在實(shí)體間共享?！稓W盟通用數(shù)據(jù)保護(hù)條例》規(guī)定數(shù)據(jù)控制者或數(shù)據(jù)處理者在進(jìn)行數(shù)據(jù)保護(hù)影響評(píng)估時(shí)，必須征求數(shù)據(jù)保護(hù)官的意見(jiàn)。(2)參與決定權(quán)。由于算法技術(shù)的專業(yè)性和侵權(quán)行為的隱蔽性，單個(gè)個(gè)體的維權(quán)成本較高。法律試圖通過(guò)激活社會(huì)第三方力量來(lái)實(shí)現(xiàn)侵害雙方力量的平衡。因此，《歐盟通用數(shù)據(jù)保護(hù)條例》規(guī)定第三方機(jī)構(gòu)可以在接受數(shù)據(jù)主體委托和無(wú)須獲得數(shù)據(jù)主體同意兩種情況下向數(shù)據(jù)監(jiān)管機(jī)構(gòu)提出申訴和行使救濟(jì)權(quán)。(3)參與方式。社會(huì)第三方力量可以通過(guò)聽(tīng)證、驗(yàn)證、檢查、提供咨詢意見(jiàn)等方式進(jìn)行參與。

再次，對(duì)社會(huì)第三方力量進(jìn)行監(jiān)督。除了應(yīng)當(dāng)加強(qiáng)社會(huì)第三方算法科技方面的職業(yè)倫理素養(yǎng)和法律思維能力外，還應(yīng)當(dāng)加強(qiáng)政府對(duì)他們的監(jiān)督。具體來(lái)講，政府除了應(yīng)當(dāng)對(duì)第三方機(jī)構(gòu)的資質(zhì)進(jìn)行認(rèn)定外，還應(yīng)當(dāng)聯(lián)合平臺(tái)和其他力量制定覆蓋數(shù)據(jù)投入、數(shù)據(jù)處理和數(shù)據(jù)產(chǎn)出全過(guò)程中的算法質(zhì)量標(biāo)準(zhǔn)。這些質(zhì)量標(biāo)準(zhǔn)應(yīng)當(dāng)成為社會(huì)第三方力量參與算法治理的行為標(biāo)準(zhǔn)。否則，第三方機(jī)構(gòu)可能因?yàn)槔嬉蛩囟鴾S為數(shù)據(jù)生產(chǎn)者的同盟者或擺設(shè)。

3.算法安全風(fēng)險(xiǎn)的保險(xiǎn)機(jī)制

算法系統(tǒng)的復(fù)雜性對(duì)傳統(tǒng)的以因果關(guān)系為基礎(chǔ)的法律責(zé)任體系形成了嚴(yán)峻挑戰(zhàn)。當(dāng)某個(gè)產(chǎn)品匯聚多種算法系統(tǒng)時(shí)，要想找到損害結(jié)果與損害行為之間的因果關(guān)系，難度會(huì)更大。在未來(lái)相當(dāng)多的情況下，通過(guò)傳統(tǒng)產(chǎn)品責(zé)任來(lái)解決智能算法及智能系統(tǒng)致人損害問(wèn)題愈來(lái)愈不可能。吳漢東預(yù)測(cè)，未來(lái)社會(huì)以過(guò)錯(cuò)責(zé)任為基礎(chǔ)建立的“風(fēng)險(xiǎn)分配”責(zé)任體系，將在某些領(lǐng)域不復(fù)存在。例如，對(duì)于算法引發(fā)的交通事故的認(rèn)定，歸責(zé)事由只有結(jié)果的“對(duì)與錯(cuò)”，而無(wú)主觀上的“故意”或“過(guò)失”。倘若讓算法及其智能系統(tǒng)的開(kāi)發(fā)者或經(jīng)營(yíng)者承擔(dān)無(wú)過(guò)錯(cuò)責(zé)任，就勢(shì)必加大產(chǎn)品的生產(chǎn)成本，阻礙算法技術(shù)的發(fā)展。因此，筆者主張逐步建立算法安全風(fēng)險(xiǎn)的保險(xiǎn)機(jī)制。作為算法載體而存在的人工智能體的生產(chǎn)者或所有者應(yīng)當(dāng)購(gòu)買一定份額的保險(xiǎn)，以分擔(dān)算法引發(fā)的安全風(fēng)險(xiǎn)。以無(wú)人駕駛汽車風(fēng)險(xiǎn)防范為例，傳統(tǒng)汽車發(fā)生交通事故的原因主要有車輛原因、人為原因和道路原因，而無(wú)人駕駛汽車發(fā)生交通事故的原因除了上述原因外，還有智能系統(tǒng)的原因。因此，我們應(yīng)當(dāng)針對(duì)汽車制造商設(shè)定一份智能系統(tǒng)的法制性保險(xiǎn)，以分?jǐn)偹惴ò踩U(xiǎn)。

《數(shù)字法治》專題由華東政法大學(xué)數(shù)字法治研究院供稿。專題統(tǒng)籌：秦前松

 

編輯：海洋