2021-06-04 14:22:35 來源：中國周刊

作者：馬靖云

伴隨著技術(shù)發(fā)展對于司法的滲透與沖擊，技術(shù)也在重塑著司法活動，智慧司法時代已然來臨?！叭斯ぶ悄茉谒痉I(lǐng)域的應(yīng)用正是實現(xiàn)司法推理定量化、過程精細化、行為規(guī)范化，使司法活動更加科學、 公正、規(guī)范、高效的有效路徑?！敝腔鬯痉ㄔ跇?gòu)建之初即展現(xiàn)了強大的功效，譬如它可以彌補人類缺 陷從而增強司法能力，優(yōu)化司法參數(shù)評價從而促進“類案同判”，推行全程留痕從而減少司法恣意等 等。但是，世界上沒有完美的技術(shù)，智能技術(shù)在司法應(yīng)用中有其原生性缺陷產(chǎn)生的局限性，面臨著各種現(xiàn)實難題。如何破解這些難題，促進智慧司法的健康發(fā)展，需要法律人持續(xù)而深入的研究。

一、智能技術(shù)司法應(yīng)用的局限性

智能技術(shù)在司法領(lǐng)域的應(yīng)用，為司法活動帶來重大發(fā)展與創(chuàng)新的同時，也顯現(xiàn)出一定的局限性， 這導(dǎo)致智慧司法從源頭開始就不可能盡善盡美。

（一）概率建模下的司法要素限縮

司法智能化其實就是對既有的司法裁判進行概率建模 , 歸納出能夠體現(xiàn)同類案件處理的共性與 標準的司法要素，輔助法官辦案?！八痉ú门胁⒎菃蜗蚨鹊耐评?, 它在本質(zhì)上是一種向著普遍實踐論 證開放的復(fù)雜活動，即向著道德、倫理和實用性理由開放?！倍悄芗夹g(shù)是無法涵攝復(fù)雜的司法裁判 的全部過程和全部信息，概率建模使得司法裁判在信息化、智能化的操作之下簡單化、扁平化，導(dǎo)致潛 在的“司法要素限縮”。這是由幾方面原因造成的：

首先，概率建模需要從相對標準化的司法文書中提煉共性，進而確定類案同判的統(tǒng)一標準。但是， 在司法實踐中，真正意義上的標準化司法文書是有限的，不同層級、不同地域、不同法院、不同法官所 制作的司法文書往往各不相同，導(dǎo)致司法文書并不能真實反映司法裁判規(guī)則與裁判經(jīng)驗。其次，司法 裁判是一個相當復(fù)雜的集合體系，不僅涉及司法過程中的案件事實、法律規(guī)范的點狀集合，而且涉及 政策、經(jīng)濟、倫理和道德等方方面面的多維度的要素集合，這些要素往往以一種“只可意會不可言傳” 的形式滲透于司法裁判中，影響到法官的主觀判斷及最終的司法裁決結(jié)果，這也會造成概率建模對于 案件的情境信息和隱藏信息的涵攝不足。最后，司法要素之間還存在復(fù)雜的組合方式，關(guān)于司法要素 如何篩選、位階順序如何劃分，以及權(quán)重比例如何分配，并不是僅靠單純的數(shù)據(jù)累加或簡單的因果邏 輯就能夠完成的，它們需要人類的理性與感性的結(jié)合來作出主觀判斷。這需要法律專業(yè)人士先將相 關(guān)領(lǐng)域的知識匯總、梳理，進行信息化描述，構(gòu)建成精細的法律知識圖譜喂養(yǎng)計算機。顯然，當前我們在這一層面的工作是極度欠缺的。

既然司法要素是被限縮的，那么智能化輔助系統(tǒng)就不可能實現(xiàn)在充分的數(shù)據(jù)整理、類分與解析基 礎(chǔ)上進行有效知識圖譜建構(gòu)與情景模型訓(xùn)練，會消減其在司法裁判過程中的價值。

（二）裁決算法的價值偏見

司法活動是一種法律治理手段，遵循的是社會共識的邏輯，而技術(shù)治理遵循的是自我偏好的邏輯?！皟r值觀和欲望會影響我們的選擇，包括我們選擇去搜集的數(shù)據(jù)和我們要問的問題。而模型（算法） 正是利用數(shù)學工具包裝出來的各種主要觀點?！辈脹Q算法的價值偏見存在以下幾種情形：

第一，算法賴以運行的數(shù)據(jù)庫、分析參數(shù)及預(yù)測模型等都是由工程師、程序員完成的，而這一過程 缺少必要的檢驗和價值權(quán)衡。因此，當工程師、程序員將其內(nèi)心的偏見與價值觀貫穿于程序設(shè)計中時， 算法決策也會存在價值偏見。呈現(xiàn)在司法人員面前的，可能是已經(jīng)被算法固化的偏見性數(shù)據(jù)。第二， 從人類趨利避害的本性來說，在多種算法可以選擇的情況下，智能服務(wù)商一定是傾向于選擇更有利于 自身利益的算法，以便更好地控制智能算法系統(tǒng)，維護其后期經(jīng)濟利益。并且，出于對私利的考慮，智 能服務(wù)商也有可能在明知算法存有漏洞而可能導(dǎo)致偏見的情況下，仍然將其作為合格產(chǎn)品交付司法機關(guān)使用。第三，裁決算法是在用過去預(yù)測未來，它所依賴的是已有的案例數(shù)據(jù)。社會生活是紛繁復(fù)雜的，新的行為模式、新的商業(yè)生態(tài)、新的生活觀念、新的司法問題不斷涌現(xiàn)，但是裁決算法基于其“機 器”的本質(zhì)，沒有生活經(jīng)驗及感性思維的固有缺陷，無法做出準確的應(yīng)變，舊的裁決算法在適用新的案 件事實時就可能產(chǎn)生價值偏見。第四，基于數(shù)據(jù)不統(tǒng)一、不完善造成的算法偏見。中國經(jīng)濟發(fā)展不均衡導(dǎo)致了互聯(lián)網(wǎng)覆蓋的嚴重不均衡，這就直接造成了數(shù)據(jù)信息的不統(tǒng)一、不完善。經(jīng)濟發(fā)展落后的地 區(qū)因為互聯(lián)網(wǎng)應(yīng)用有限，相關(guān)案件資料不完善，且同類事實與經(jīng)濟發(fā)達地區(qū)的司法裁決結(jié)果也會有明 顯差異。不全面的數(shù)據(jù)必然會導(dǎo)致裁決算法的偏頗、適用于特殊地域顯現(xiàn)出不合理性。

由此，當智能系統(tǒng)執(zhí)行裁決算法時，所獲得的有關(guān)權(quán)利義務(wù)分配、法律責任分擔等決策結(jié)果，可能 在形式上符合程序正義的要求，但在實質(zhì)上與法律原則、價值等精神內(nèi)核完全相左。

（三）裁決算法黑箱

智慧司法備受質(zhì)疑的一點就是裁決算法不能透明化的問題。通過裁決算法分析得出的結(jié)論，如何給予當事人和律師相應(yīng)的知情權(quán)及進行抗辯的權(quán)利，使當事人及其律師能夠清楚司法角色所認可 的裁決算法的邏輯并有針對性地發(fā)表抗辯意見，是程序正義和實體正義的共同要求。但是，現(xiàn)實的情況是，裁決算法的透明化存在著很大的局限性，一是因為智能服務(wù)商基于商業(yè)秘密的保護，不愿意對 外公開裁決算法的內(nèi)在邏輯、源代碼；二是基于現(xiàn)有的專業(yè)技術(shù)水平，智能服務(wù)商很難將算法的內(nèi)在 邏輯、源代碼充分轉(zhuǎn)化成自然語言或可視化技術(shù)直接向當事人和律師公開。這就造成了“裁決算法黑 箱”的存在，當事人及其律師只能看到算法的決策結(jié)果，卻無從知曉算法決策的程序和邏輯。裁決算 法黑箱直接限制了當事人的知情權(quán)和抗辯權(quán)，很顯然，這是對司法正義的嚴重悖離。

司法唯有在陽光下運行才有可能避免司法腐敗及司法恣意 , 司法正義只有看得見才可以獲得當 事人和社會公眾的尊重與信服。因此，裁決算法黑箱的存在，必然會影響智慧司法的公信力和權(quán)威。

二、智慧司法的現(xiàn)實難題

智慧司法基于智能技術(shù)在司法應(yīng)用中的局限性，也會面臨諸多現(xiàn)實難題：技術(shù)與司法耦合的難度、智慧司法的風險。

（一）技術(shù)與司法耦合的難度

1. 數(shù)據(jù)采樣的有限性

“數(shù)據(jù)的可靠性，須以真實、完整、有用為基礎(chǔ)，也即足以反映司法規(guī)律、契合辦案需求、具有實現(xiàn)形式正義與實質(zhì)正義相統(tǒng)一的效果。如此，才能符合人工智能對數(shù)據(jù)的基本要求?！彼痉ㄖ悄艿拈_發(fā)與模型的建立依賴于司法數(shù)據(jù)的充分與全面，存在海量的司法數(shù)據(jù)是必要前提之一?！澳壳埃覈痉I(lǐng)域人工智能技術(shù)開發(fā)的數(shù)據(jù)基本來源于中國裁判文書網(wǎng)上的裁判文書。但中國裁判文書網(wǎng)是 2014 年才開始正式啟用的，上網(wǎng)的裁判文書數(shù)量可能只有審結(jié)案件的 50%。”這就造成了司法大數(shù)據(jù)的來源不足，因為絕大多數(shù)的法院并沒有設(shè)置專門的機構(gòu)和專業(yè)的人才匯總司法裁判文書，導(dǎo)致司法系統(tǒng)內(nèi)部仍然隱藏著大量的司法裁決文書并沒有被轉(zhuǎn)化成數(shù)據(jù)信息。而且，這些被公開的司法裁決文書也存在部分制作錯誤、不規(guī)范而不能被有效利用的情況。

關(guān)于司法文書的公開范疇也是有限的。目前僅有司法裁判文書、庭審筆錄等被納入數(shù)據(jù)庫中，還有大量的司法相關(guān)文件并沒有被列入公開范疇，例如審判委員會的會議紀要、合議庭會議記錄、法院的審結(jié)報告等。但這些文件往往直接體現(xiàn)了司法角色的法律思維和邏輯判斷，對于司法角色如何定罪量刑、如何達到裁判結(jié)論的法律邏輯和考量都有深入的剖析，是司法裁判不可或缺的參數(shù)要素。

關(guān)于法律規(guī)范的公開范疇同樣也是有限的。除了法律、法規(guī)、司法解釋等，實踐中存在大量的會 議紀要、政策文件、行業(yè)規(guī)則等司法角色作出裁決的重要依據(jù)，目前沒有被列入大數(shù)據(jù)采樣范疇。數(shù)據(jù)采樣的有限性還有一個原因是基于案例規(guī)則的流動性造成的。在司法實踐中，案例規(guī)則的 位階順序并不是一成不變的，有的會升格為更高位階的規(guī)則，有的會轉(zhuǎn)化為位階相同的規(guī)則。被升格或轉(zhuǎn)化后的案例規(guī)則，必然會對原有的司法數(shù)據(jù)組成、司法建模造成一定的影響。

2. 司法要素抽取的高難性

智慧司法的“大數(shù)據(jù)中心”，是通過對司法要素的抽取，轉(zhuǎn)化成數(shù)據(jù)信息，構(gòu)建成司法系統(tǒng)內(nèi)部的數(shù)據(jù)資源庫和知識資源體系。但是，司法要素的抽取具有現(xiàn)實的高難性，技術(shù)語言如何與法律語言高 度銜接，如何把司法要素抽取出來轉(zhuǎn)變成機器可以識別的數(shù)字代碼，是現(xiàn)實需要解決的問題。

第一，人工智能系統(tǒng)并沒有深度思考法律語言的特性對于智能技術(shù)的特殊要求。舉例來說，自然語言識別技術(shù)（NLP）就無法完全適應(yīng)司法領(lǐng)域的需求。法律語言與普通的自然語言的含義有所差異， 基于概括性、準確性的目標訴求，它通常是用一種模糊的方式定義和描述人類的行為。如果不將這些 模糊的法律語言轉(zhuǎn)化成規(guī)范的技術(shù)語言——數(shù)字代碼，以數(shù)字化結(jié)構(gòu)且可識別的數(shù)據(jù)形式逐一“喂” 給計算機，以便機器識別和處理，那么就無法實現(xiàn)真正意義的人工智能司法決策。

第二，目前的人工智能在對不確定性和模糊性的素材處理方面也是有技術(shù)壁壘的。以 206 的證 據(jù)規(guī)則校驗功能來說，目前的人工智能對手寫體、簽名捺印的識別率不高，對于圖片的辨析度不夠，僅 能夠識別數(shù)量，而無法識別同類圖片。

第三，另一亟待解決的技術(shù)難題是人工智能“目前主要以邏輯學加持，而非數(shù)學加持，這種基于 邏輯學驅(qū)動的法律 AI 研究缺乏實踐操作性，而真正的法律 AI 應(yīng)用需要用數(shù)學計算這一硅基本質(zhì)的 方式來解決法律具象問題，而實現(xiàn)這一點目前還相距甚遠”。

第四，就司法實踐而言，除了顯性的司法要素之外，還有一些隱性的司法要素，對于隱性司法要素 的抽取更是難上加難。“法官的某些價值取向、主觀偏好、司法潛見、偏見、實踐經(jīng)驗，甚至性別、年齡、 學歷、個性等事實上也與案件處理結(jié)果有關(guān)。而對這些信息的收集、整理，再強大的人工智能也尚需時日，至少不大可能從現(xiàn)有判決書中抓取出來。”

第五，公檢法數(shù)據(jù)庫能否有效銜接所引發(fā)的司法要素的統(tǒng)一性問題。公檢法基于其職業(yè)角色不 同，邏輯思維不同，必然導(dǎo)致其數(shù)據(jù)系統(tǒng)存在不同的設(shè)計理念。不同的設(shè)計理念就意味著不同的司法 要素產(chǎn)生，如何進行有效整合與銜接，為司法裁判所用，這也是智慧司法需要解決的技術(shù)與理念問題。

如果不能將所有必要的司法要素抽取出來并轉(zhuǎn)化成數(shù)字代碼，則必然意味著大數(shù)據(jù)、算法的基礎(chǔ) 是不可靠的、不精確的。

（二）智慧司法的風險

智能技術(shù)在提高司法角色的決策能力、司法決策的精確性的同時，也裹挾著巨大的風險，這些風險很可能會沖擊司法權(quán)運行的根基，影響社會公眾對于智慧司法的接受與信服。

1. 算法決策下的機械司法

據(jù)研究，算法的自動化決策系統(tǒng)能夠以微妙而有效的方式塑造使用者的感受和行為，破壞個人的獨立判斷力?！坝袝r即便存在系統(tǒng)不準確的證據(jù)，算法控制者仍然會相信這一自動決策系統(tǒng)生成的評 估結(jié)論?！币驗?，“我們中的大多數(shù)人都是‘認知的吝嗇者’——多愿選擇只需付出最小認知努力的 路徑甚或選擇相信直覺而放棄對每項決策進行系統(tǒng)分析?！痹诖罅康臄?shù)據(jù)面前，司法人員容易對算法決策結(jié)論產(chǎn)生盲目迷信，如傳統(tǒng)司法對于鑒定結(jié)論的盲目信賴一般，從而導(dǎo)致司法人員的能動性法 律判斷的弱化。一是因為人類天生的“懈怠”心理，司法人員不愿意花費時間、精力對算法決策結(jié)論 再進行充分的反思與檢驗；二是“推卸責任”心理，基于算法決策作出的判斷與決策更容易減少司法人員自己承擔責任的風險性，因此司法人員更傾向于對算法決策采取“順水推舟”的策略；三是技術(shù)專業(yè)知識不足，導(dǎo)致司法人員不能或很難發(fā)現(xiàn)算法決策的隱性紕漏。

對于算法決策的盲信和盲從，就會導(dǎo)致“機械司法”。司法裁判中的事實認定，其實是人類的先天 知性能力對于外在世界“雜多”的“統(tǒng)合”問題。而人工智能沒有親歷社會的變革過程，僅憑部分數(shù)據(jù)與算法規(guī)則是無法與人在復(fù)雜的社會關(guān)系中、社會變遷中形成的知性能力相比的。具體的法律適 用都是與語境連在一起的，離開語境因素，規(guī)則判斷就會變得僵化，必然會導(dǎo)致“機械司法”。

2. 司法過程中的“數(shù)據(jù)鴻溝”

數(shù)字信息鴻溝是大數(shù)據(jù)領(lǐng)域內(nèi)的一種“貧富差距”的體現(xiàn)，“是指在信息社會中，不同國家、地區(qū)、行業(yè)的人群由于對社會信息資源占有和使用程度的不同而造成的‘信息落差’和‘知識分隔’?！睌?shù)字信息鴻溝其實就是數(shù)據(jù)鴻溝，它可能會導(dǎo)致社會的進一步撕裂，階層劃分的進一步固化，甚至導(dǎo)致 既有“不公平”的加劇。

在智慧司法時代，司法場域會呈現(xiàn)出嚴重的“數(shù)據(jù)鴻溝”現(xiàn)象。這種“數(shù)據(jù)鴻溝”是基于技術(shù)知 識資源分配不均衡導(dǎo)致的。在這種關(guān)系之中，算法控制者（無論是司法機關(guān)還是智能服務(wù)商）與普 通的個人之間已經(jīng)形成了一定程度的不平等?！霸谶@樣的場景中，算法控制者經(jīng)其掌控的算法從而對 個人了如指掌，但反過來，算法于個人而言卻是‘黑箱’，這將導(dǎo)致個人與算法控制者之間權(quán)力與信息 顯著的不對稱。”由于算法的復(fù)雜性和神秘性，對于技術(shù)知識資源占有不同比重的主體在面對司法 活動時的強弱差距就會很明顯地表現(xiàn)出來。在司法領(lǐng)域中，公權(quán)力與私權(quán)利的司法資本原本就分配 不均衡，而數(shù)據(jù)信息對于司法領(lǐng)域的介入，加劇了這種不均衡的現(xiàn)象。就公民個體而言，他們只能了解到自己面對大數(shù)據(jù)信息、算法規(guī)則可能會承受什么樣的法律結(jié)果，但對于哪些數(shù)據(jù)是被算法規(guī)則利 用的，是如何影響司法裁決結(jié)果的，不得而知或者一知半解。

這種“數(shù)據(jù)鴻溝”一定程度上削減了公民個體的程序權(quán)利，也必然影響著公民個體實體權(quán)利的行 使。而且，司法機關(guān)依靠大數(shù)據(jù)、算法等數(shù)字信息技術(shù)的全面裝備，將公民個體置于司法權(quán)力的控制之下，而公民個體卻難以有效地運用大數(shù)據(jù)來維護其私權(quán)利，即很難通過數(shù)據(jù)抗辯來制衡司法權(quán)的運行。因此，數(shù)據(jù)信息的不均衡會成為法律主體之間強弱分化的鴻溝，可能造成新的“不公平”現(xiàn)象。

3. 技術(shù)司法應(yīng)用的邊界

近年來，在智慧司法的構(gòu)建過程中，智能技術(shù)扮演著越來越重要的角色，滲透到司法活動的各個環(huán)節(jié)，譬如證據(jù)規(guī)則指引、單一證據(jù)校驗、逮捕條件審查、社會危險性評估、類案推送、量刑參考、案件 評議、減刑假釋案件辦理等。越來越多的司法機關(guān)建成強大的信息系統(tǒng)，開發(fā)出更加智能的軟件來代 替?zhèn)鹘y(tǒng)的司法審理活動，甚至做出裁判。

但是，司法活動本質(zhì)上是對于人類實踐理性的具體應(yīng)用，而“實踐理性并非某種單一的分析方法， 甚至也不是一組相關(guān)聯(lián)的方法。它是一個雜貨箱，里面有掌故、內(nèi)省、思想、常識、設(shè)身處地、動機考察、 言說者的權(quán)威、隱喻、類推、先例、習慣、記憶、‘經(jīng)歷’、直覺及歸納……”這就意味著，司法不可能成 為純粹的技術(shù)，過分地應(yīng)用技術(shù)會引發(fā)司法根基的動搖。因此，大數(shù)據(jù)、人工智能等技術(shù)在司法領(lǐng)域 的應(yīng)用，邊界如何劃分？禁區(qū)如何設(shè)定？都是值得我們思考的問題。

三、智慧司法難題的破解路徑

對智慧司法所面臨的現(xiàn)實難題進行深入的研究和有效回應(yīng)，共同尋找破解路徑，是法律職業(yè)共同 體乃至全社會的共同使命。

（一）設(shè)置算法的論證程序

算法會在一定程度上抑制司法人員的恣意，增加法律適用的統(tǒng)一性而減少偏見。但與此同時，算法也可能帶來偏見并挑戰(zhàn)司法正義。因此，在大數(shù)據(jù)、算法等智能技術(shù)設(shè)計過程中，應(yīng)當通過必要的程序輸送社會共識和司法價值理念，并有意識地將其融入智能系統(tǒng)的設(shè)計中，影響價值偏好、邏輯規(guī)則的設(shè)置，加強對智能技術(shù)應(yīng)用的法律規(guī)制與倫理約束。

首先，應(yīng)該建立大數(shù)據(jù)、算法規(guī)則事前評估機制。以嚴格的程序規(guī)范從數(shù)據(jù)收集、信息挖掘到算法編程等一系列人工智能的基礎(chǔ)行為，有效保障算法規(guī)則的合法性和合理性。評估委員會應(yīng)當有技 術(shù)專家、法學專家、社會公眾代表等相關(guān)人員的參與，如此才能夠增強算法規(guī)則的透明度與合理性，也能幫助公民個體詳細地了解算法決策的運作機制。社會公眾在參與評估算法規(guī)則設(shè)置，了解數(shù)據(jù)的來源、數(shù)據(jù)被算法規(guī)則使用或排除的標準、各種數(shù)據(jù)被賦予的權(quán)重比例等具體細節(jié)后，就可以理性地審視算法規(guī)則的公平性與合理性，也更容易接受算法裁決結(jié)論，維護司法權(quán)威。

其次，應(yīng)該建立算法決策審查與檢驗機制。在智慧司法備受矚目的今天，不僅要保證社會公眾對于算法規(guī)則設(shè)置的高度參與，也應(yīng)建立算法決策審查與檢驗機制來確保關(guān)鍵流程的透明化、可控性與可追溯性。深度的大數(shù)據(jù)、算法應(yīng)該經(jīng)過相關(guān)領(lǐng)域?qū)＜曳磸?fù)的論證，并注重通過持續(xù)的審查與檢驗確保其有效更新，使算法決策盡可能不受偏見和無意識歧視的影響，以保障其符合司法價值的內(nèi)涵。

（二）嵌入案件糾補機制

在司法活動中運用大數(shù)據(jù)的同時，必須重視可能建構(gòu)新的裁判規(guī)則的罕見的獨特性案例。在既往的司法實踐中，有不少通過一個案例改變整個審判規(guī)則乃至法律規(guī)范的情況（比如孫志剛案），不能 讓這樣的獨特性案例淹沒在“大數(shù)據(jù)”的海洋中。

從實踐而言，構(gòu)建司法模型是以歸納相關(guān)案件的共性為前提的。有些案件確實可以用數(shù)據(jù)模型來標準化，從而簡化訴訟程序。但是實踐中還有很多復(fù)雜的、獨特的案件，這些案件的背景因素、案件起因、行為模式、社會影響等有所差異。過分強調(diào)數(shù)據(jù)標準化必然會導(dǎo)致具體案件的差異性、復(fù)雜性被忽略?！跋喈敂?shù)量的非類型化案件或者案件的非類型化因素，是可能形成的、統(tǒng)一的智能算法實際 難以適用的領(lǐng)域；對非類型化案件的司法裁決，人工智能至多具有輔助的作用。某種程度上，正是司 法活動的規(guī)律、司法判斷的特點，客觀決定了人工智能在司法領(lǐng)域的作用空間或?qū)嶋H禁區(qū)?！币虼耍?智能技術(shù)在司法裁判系統(tǒng)的應(yīng)用，既要堅持內(nèi)容與方法的開放性，也要在技術(shù)標準化的框架下謀求個 別性、特定性的生存空間，嵌入案件糾補機制，以防止引發(fā)個案的不公平、不正義。

（三）確立算法解釋規(guī)則

知情權(quán)與抗辯權(quán)是公民對抗司法權(quán)運行的基本權(quán)利，是程序正義的必要構(gòu)成。但在算法決策中，當事人不知道決策的依據(jù)、各種標準的數(shù)據(jù)加權(quán)以及決策遵循的價值判斷，而這些都與公民利益切實 相關(guān)。因此，需要完善算法的解釋規(guī)則，從制度上防范和化解智能技術(shù)的復(fù)雜性、機械性和不確定性 風險?！爱斚鄬θ藢λ惴ǖ贸龅淖詣踊瘺Q策存疑時有權(quán)請求制定算法及使用算法的數(shù)據(jù)控制者進行 解釋說明，甚至可以要求在消除歧視因素后重新進行自動決策?！蔽覀兛梢詤⒖細W盟《一般數(shù)據(jù)保 護條例》第 71 條之規(guī)定，在這一條款中，歐盟明確提出了算法“解釋權(quán)”（right to explanation）概念，即 “數(shù)據(jù)主體有權(quán)獲得人工干預(yù)，表達其觀點，獲得針對自動化決策的解釋并提出異議的權(quán)利?！?/span>

即便是根據(jù)最先進的技術(shù)編寫的代碼或構(gòu)建的模型也有可能在某些情形下失靈，或者存在與個 別案件的不兼容性。如果不賦予那些受算法決策不利影響的當事人尋求人工干預(yù)、獲得解釋的權(quán)利， 很難保證他們受到公平或公正的對待?！叭绻矣懈龣?quán)，那么我就需要看得出錯誤；如果我有權(quán)反 對歧視，那么我就需要知道哪些要素被用于決策。要不然，信息不對稱就會使這些重要的法律權(quán)利變 得毫無意義?！币虼耍瑧?yīng)當賦予當事人提請“算法解釋”的抗辯權(quán)，意在讓受算法決策影響或支配的 當事人有機會在充分知情的情形下主張自己的權(quán)利。

在規(guī)范層面，首先，如果公訴機關(guān)要使用人工智能輔助量刑制作量刑建議書時，應(yīng)當明確告知被 告人及其辯護人，讓他們能夠充分了解系統(tǒng)量刑的可能結(jié)果，并提出相應(yīng)的抗辯意見；其次，在審判 中，如果法官要使用人工智能輔助量刑系統(tǒng)，也應(yīng)當明確告知被告人及其辯護人，他們擁有是否使用 人工智能輔助量刑系統(tǒng)的決定權(quán)；再次，“必須載明所使用的人工智能輔助量刑系統(tǒng)的開發(fā)商，在對量 刑系統(tǒng)的科學性產(chǎn)生有效懷疑時，可以通過專家輔助人的方式對系統(tǒng)原理進行質(zhì)詢、作證；系統(tǒng)開發(fā) 商有義務(wù)對其量刑系統(tǒng)的工作原理、邏輯和科學性提供證明，以免部分技術(shù)精英有意牽引司法運作， 企圖重塑我國司法權(quán)力分布”。

（四）限定技術(shù)應(yīng)用空間

對智能技術(shù)不加節(jié)制地過度適用，會在一定程度上擠占司法裁量的空間，有違司法權(quán)的本質(zhì)，同時可能會導(dǎo)致私權(quán)利的受損。因此，在大數(shù)據(jù)、算法等智能技術(shù)適用于個案時，不但應(yīng)注意必須通過合法的司法程序，更應(yīng)該懷有警惕，可以通過對特定事項、特定主體或刑罰等設(shè)置禁區(qū)的方式來保護相關(guān)法益，設(shè)置風險的預(yù)警、隔離和熔斷機制，及時對大數(shù)據(jù)、人工智能的應(yīng)用風險做出應(yīng)對。首先，明確智能技術(shù)在司法決策中的輔助地位，司法人員應(yīng)當避免陷入對智能技術(shù)、大數(shù)據(jù)的盲從和依賴。其次，合理限定智能技術(shù)的應(yīng)用空間。第一，考慮案件的復(fù)雜程度及量刑幅度。案情比較 復(fù)雜、量刑可能比較高的案件不宜使用算法決策系統(tǒng)。第二，考慮被告人的意愿。被告人明確表示不 得選用算法決策系統(tǒng)的，應(yīng)尊重被告人的選擇。第三，若被告人不認罪或辯護人明確要做無罪辯護的 案件，也不宜先使用算法決策系統(tǒng)，以免出現(xiàn)未判先決的情形。第四，需要重點進行價值判斷的事項 不宜使用算法決策系統(tǒng)。第五，對于技術(shù)尚不成熟的領(lǐng)域，智能技術(shù)應(yīng)謹慎介入。

（五）構(gòu)建司法商談機制

“復(fù)雜的程序設(shè)計、高深的法律用語及加重的訴訟風險，阻隔了人民群眾對司法供給的接近，法官由‘慈母’轉(zhuǎn)化成了‘官僚’，人民的司法正‘遠離’人民而去。”為了避免智慧司法遠離人民，加劇司法的霸權(quán)主義和官僚主義，司法機關(guān)需要與其他司法參與 主體、社會公眾展開商談與合作，以保證智慧司法的公平正義、安全可靠。算法黑箱所引發(fā)的偏見問題是多維度、多層面、多領(lǐng)域的，這就需要在司法活動中兼顧好私權(quán)利的保護與科技創(chuàng)新之間的平衡。因此，“差異和分歧的出現(xiàn)是正常的，關(guān)鍵是要針對差異和分歧建立有效的對話、沖突化解與分歧協(xié)商 機制。”推行司法商談機制，讓社會公眾的司法話語理性的進入司法場域，保障公眾輿論與司法運 行的良性互動，提高司法裁決的公信力就十分的必要。

司法商談機制的本質(zhì)是所有司法參與主體就司法要素、參數(shù)等相互交流觀點，進而拓展思維視域，最終對法律事實的確定、法律規(guī)范的適用及司法裁決結(jié)果達成共識。這些不能完全依賴于智能技術(shù)，而是需要司法參與主體在司法活動中的通力合作，這也是司法商談機制的意義所在。

四、結(jié)語

我們必須清醒地認識到，智能司法時代的來臨，其內(nèi)涵價值并不在于完全取代人類法官的工作， 而在于更好地發(fā)現(xiàn)司法智慧、司法共識，并有效地使用它們。智能決策的內(nèi)涵價值也不僅在于優(yōu)化司法治理，還在于更好地保障公民的司法人權(quán)，實現(xiàn)法律面前人人平等。因此，智慧司法需要將私權(quán)利進行合理的安放，司法效率的獲得絕不能以私權(quán)利的損害為代價。因為司法活動并不是僵死的規(guī)則體系的適用，而是秉承人文關(guān)懷進行的判斷性智識活動。在推進智慧司法改革進程中，我們需要保持理性的思維，在欣喜地承受智能技術(shù)帶來的效率、司法能力提升的同時，也要適度規(guī)避智能技術(shù)所帶來的價值偏見、數(shù)據(jù)鴻溝等風險，以保障智慧司法的健康發(fā)展，早日實現(xiàn)司法現(xiàn)代化。（本文來源：《華東政法大學學報》）

作者簡介

馬靖云，法學博士、法學博士后，國際知名專業(yè)法律聯(lián)盟重要成員海華永泰律師事務(wù)所黨委書記、管理合伙人。

專業(yè)領(lǐng)域：商業(yè)與金融犯罪、企業(yè)刑事風險防控、企業(yè)刑事合規(guī)管理。

獲得榮譽：全國律師行業(yè)優(yōu)秀黨員律師、上海市律師行業(yè)優(yōu)秀黨員律師、上海市第四屆優(yōu)秀女律師，長寧區(qū)首屆十大優(yōu)秀青年律師、商法百名中國精英律師等。

社會職務(wù)：上海交通大學碩士生導(dǎo)師，華東政法大學碩士生導(dǎo)師，華東政法大學兼職研究員，華東政法大學數(shù)字法治研究院特聘研究員，哈爾濱理工大學客座教授，國際經(jīng)濟貿(mào)易商事調(diào)解員，上海市案例法學研究會常務(wù)理事，上海市律師協(xié)會紀律委員會委員。

學術(shù)成就：工作之余，馬律師亦筆耕不輟，取得了豐碩的法學研究成果，出版有關(guān)法學著作、文章若干篇，其中數(shù)篇被《上海師范大學學報》、《華東政法大學學報》、《安徽大學學報》、《學術(shù)交流》等國內(nèi)頂級法學核心期刊收錄，其論文《法律解釋視域下的律師溝通之維及其法治意義》獲中國法學會學術(shù)論文二等獎，其論著《律師商談溝通與司法商談機制的構(gòu)建》入選上海市律師文庫，并于 2018 年7月由法律出版社出版。

經(jīng)典案例：江蘇省最高額國家賠償案、廈門國際銀行某行長涉嫌合同詐騙罪案、上海市自貿(mào)區(qū)特大增值稅專用發(fā)票罪案、唐小僧平臺涉嫌集資詐騙罪案、大智慧公司涉嫌違規(guī)不披露重要信息罪案、阜興集團涉嫌非法吸收公眾存款罪案、山東省某知名國企董事長涉嫌受賄罪、行賄罪案、某知名公司CFO涉嫌內(nèi)幕交易罪案等。

《數(shù)字法治》專題由華東政法大學數(shù)字法治研究院供稿。專題統(tǒng)籌：秦前松

 

編輯：海洋