2021-07-20 18:48:15 來(lái)源：中國(guó)周刊

作者：王祿生 東南大學(xué)法學(xué)院研究員，東南大學(xué)人民法院司法大數(shù)據(jù)研究基地研究員，博士生導(dǎo)師。本文來(lái)源：《東方法學(xué)》2021年第4期

近年來(lái)，情感計(jì)算技術(shù)越來(lái)越多地走進(jìn)公眾的日常生活。商店使用情感計(jì)算來(lái)感知客戶(hù)的情緒與興趣、學(xué)校使用情感計(jì)算衡量學(xué)生在課堂的快樂(lè)程度與參與程度，雇主使用情感計(jì)算評(píng)估求職者的情緒反應(yīng)并監(jiān)控員工在工作時(shí)的面部表情。隨著情感計(jì)算應(yīng)用的日益擴(kuò)展，公眾對(duì)情感計(jì)算的態(tài)度開(kāi)始悄然轉(zhuǎn)變。大致以2019年為轉(zhuǎn)折點(diǎn)，域外在倫理、技術(shù)和法律層面對(duì)情感計(jì)算的批評(píng)以及要求強(qiáng)化治理的呼聲日益高漲。同年召開(kāi)的情感計(jì)算會(huì)議ACII首次增加了關(guān)于情感計(jì)算技術(shù)濫用的專(zhuān)題研討。2021年4月21日歐盟委員會(huì)向歐洲議會(huì)和歐洲理事會(huì)提交的《關(guān)于人工智能（人工智能法案）的協(xié)調(diào)規(guī)則和修改某些聯(lián)盟立法法案的條例的提案》（以下簡(jiǎn)稱(chēng)《歐盟人工智能協(xié)調(diào)規(guī)則的提案》）第52條明確規(guī)定“情緒識(shí)別系統(tǒng)”使用者的告知義務(wù)。同時(shí)，按照該提案，情感計(jì)算的諸多應(yīng)用屬于“高風(fēng)險(xiǎn)”應(yīng)用，需要接受從“搖籃到墳?zāi)埂比芷诘膰?yán)格監(jiān)管。

我國(guó)是世界范圍內(nèi)情感計(jì)算技術(shù)最為主要的研發(fā)與應(yīng)用國(guó)之一。人臉識(shí)別、語(yǔ)音識(shí)別等感知智能技術(shù)的大面積應(yīng)用為情感計(jì)算技術(shù)在近年來(lái)的迅速發(fā)展鋪平了道路。目前，我國(guó)情感計(jì)算領(lǐng)域的發(fā)明專(zhuān)利申請(qǐng)數(shù)接近1200項(xiàng)，其中67%是在2018年之后申請(qǐng)，僅2020年的申請(qǐng)量就接近總量的1/4。在情感計(jì)算的技術(shù)譜系中，情緒識(shí)別是最為重要的領(lǐng)域。有媒體樂(lè)觀(guān)估計(jì)僅“多模態(tài)情緒識(shí)別技術(shù)”的市場(chǎng)可以達(dá)到千億元人民幣的量級(jí)。良好的發(fā)展前景吸引了企業(yè)的投入，目前直接帶有“情緒識(shí)別”業(yè)務(wù)標(biāo)簽的企業(yè)達(dá)到43家，相關(guān)企業(yè)各類(lèi)“情緒識(shí)別”的軟件著作權(quán)、專(zhuān)利為757項(xiàng)。實(shí)踐中，情感計(jì)算已經(jīng)在我國(guó)教育、交通、醫(yī)療、執(zhí)法等多個(gè)領(lǐng)域投入應(yīng)用。該技術(shù)在我國(guó)的迅猛發(fā)展態(tài)勢(shì)引發(fā)了多個(gè)域外研究機(jī)構(gòu)的關(guān)注，其中不乏尖銳的批評(píng)之聲。相較迅猛發(fā)展實(shí)踐而言，我國(guó)法律界對(duì)于這一技術(shù)的關(guān)注尚不充分，因此有必要對(duì)其技術(shù)邏輯、實(shí)踐應(yīng)用、現(xiàn)實(shí)困境和法律規(guī)制等重要方面展開(kāi)專(zhuān)門(mén)探討。

一、情感計(jì)算的技術(shù)邏輯

(一)

情感計(jì)算的概念厘清

由于技術(shù)發(fā)展路徑的多元屬性，“情感計(jì)算”及其相關(guān)概念層出不窮，并在內(nèi)涵與外延上具有不確定性。除了情感計(jì)算之外，與之密切相關(guān)的概念還有情緒識(shí)別、情緒智能、情感識(shí)別等。與此同時(shí)，在諸多文獻(xiàn)中，“情感計(jì)算”還廣泛地與人臉識(shí)別、語(yǔ)音識(shí)別、人工智能等各類(lèi)技術(shù)交叉混用。對(duì)于公眾而言，可能會(huì)直接產(chǎn)生如下疑問(wèn)：情感計(jì)算都是人工智能技術(shù)嗎？情感計(jì)算中的“情感”與情緒識(shí)別中的“情緒”具有同一指涉性嗎？“計(jì)算”和“識(shí)別”是不同的過(guò)程亦或是同一行為的不同表達(dá)？人臉識(shí)別、語(yǔ)音識(shí)別與情感計(jì)算之間是何種技術(shù)邏輯關(guān)系？因此，在展開(kāi)正式論證之前，有必要對(duì)本文“情感計(jì)算”指涉的內(nèi)容作一個(gè)必要的交待，以便不同背景的參與者能夠在同一基礎(chǔ)上展開(kāi)討論。一般認(rèn)為，情感計(jì)算由羅莎琳德·皮卡德在1997年正式提出，意指“與情緒或其他情感現(xiàn)象有關(guān)的、產(chǎn)生于或有意影響情緒或其他情感現(xiàn)象的計(jì)算”。從語(yǔ)詞原意來(lái)看，“情感”包括“情緒”“心情”兩個(gè)部分，前者主要是短期的，可以通過(guò)表情來(lái)體現(xiàn)，如憤怒、恐懼、悲傷、愉悅、惡心和驚喜；后者則具有一定的延續(xù)性，比如好心情、壞心情。所以，“情感計(jì)算”實(shí)際上是一個(gè)寬泛的概念，它包括任何與個(gè)人情緒、心情狀態(tài)相關(guān)的計(jì)算機(jī)程序。從這個(gè)意義上說(shuō)，“情緒識(shí)別”是“情感計(jì)算”的有機(jī)組成部分。情感計(jì)算產(chǎn)生之初并非都與人工智能有關(guān)。測(cè)謊儀的工作原理就是一種情感計(jì)算，即通過(guò)儀器對(duì)呼吸、血壓、脈搏等信息進(jìn)行監(jiān)測(cè)，并分析其對(duì)應(yīng)的緊張、恐懼、焦慮等情感狀態(tài)，進(jìn)而判定受測(cè)者是否說(shuō)謊。隨著人工智能技術(shù)的發(fā)展，情感計(jì)算日益與AI結(jié)合。典型的比如“AI+情緒識(shí)別技術(shù)”之后形成的“情緒智能識(shí)別技術(shù)”。該技術(shù)利用人臉識(shí)別、語(yǔ)音識(shí)別等“遠(yuǎn)程生物特征識(shí)別系統(tǒng)”提取表情、語(yǔ)音、步態(tài)、姿勢(shì)等各類(lèi)生物特征信息，從而識(shí)別對(duì)象的情緒狀態(tài)。也正是在這個(gè)意義上，情感計(jì)算技術(shù)與人臉識(shí)別等感知智能技術(shù)產(chǎn)生關(guān)聯(lián)——后者是前者進(jìn)行情緒識(shí)別的前置技術(shù)環(huán)節(jié)?？梢?jiàn)，按照嚴(yán)格的標(biāo)準(zhǔn)，情感計(jì)算并不必然采用人工智能的路徑。不過(guò)，在人工智能泛在和泛化的發(fā)展趨勢(shì)之下，情感計(jì)算通常被視作一種人工智能技術(shù)。舉例而言，《歐盟人工智能協(xié)調(diào)規(guī)則的提案》第3條給“情緒識(shí)別系統(tǒng)”的定義就直接與人工智能關(guān)聯(lián)——一種人工智能系統(tǒng)，用于根據(jù)自然人的生物特征數(shù)據(jù)識(shí)別或推斷自然人的情緒或意圖。事實(shí)上，近年來(lái)對(duì)情感計(jì)算技術(shù)的諸多批評(píng)也主要集中在人工智能的技術(shù)框架內(nèi)（如人臉識(shí)別）。筆者正是在人工智能的視域下探討情感計(jì)算技術(shù)，意指感知、識(shí)別、模擬、影響人類(lèi)情感狀態(tài)的各類(lèi)智能技術(shù)的統(tǒng)稱(chēng)。

(二)

情感計(jì)算的技術(shù)路徑

情感計(jì)算在技術(shù)邏輯上與人工智能技術(shù)緊密綁定，大致可以分為感知、識(shí)別、模擬、影響四個(gè)環(huán)節(jié)。具體而言，情感計(jì)算的第一步是通過(guò)各類(lèi)傳感器實(shí)現(xiàn)對(duì)自然人各類(lèi)生物信息的“感知”，這種感知可以通過(guò)非接觸式的遠(yuǎn)程識(shí)別的方式實(shí)現(xiàn)（如攝像頭、話(huà)筒），也可以通過(guò)接觸式的傳感器實(shí)現(xiàn)（比如血壓儀）?，F(xiàn)階段情感計(jì)算在感知階段的數(shù)據(jù)源具有多樣性，主要是聲音、表情、肢體語(yǔ)言、姿勢(shì)等各類(lèi)生物信息。人臉識(shí)別、語(yǔ)音識(shí)別等感知智能技術(shù)的成熟為情感計(jì)算的“感知”環(huán)節(jié)提供了扎實(shí)的支撐。在完成各類(lèi)信息感知的基礎(chǔ)之上，情感計(jì)算技術(shù)進(jìn)入“識(shí)別”環(huán)節(jié)?！白R(shí)別”要借各類(lèi)情感識(shí)別模型?，F(xiàn)階段，識(shí)別模型的生成主要采用有監(jiān)督深度學(xué)習(xí)的方式。具體而言，就是依托各類(lèi)基本情感理論，人為地將特定的生物信息與情感狀態(tài)關(guān)聯(lián)。在實(shí)操層面即通過(guò)人工標(biāo)注，為各類(lèi)“提取特征”添加情感標(biāo)簽，如語(yǔ)速快速、響亮可能對(duì)應(yīng)恐懼、憤怒或喜悅的情感狀態(tài)，語(yǔ)速緩慢、低音調(diào)則可能對(duì)應(yīng)疲勞、厭倦或悲傷的情感狀態(tài)。在完成了足夠多的標(biāo)注之后，深度學(xué)習(xí)技術(shù)（包括但不限于卷積神經(jīng)網(wǎng)絡(luò)CNN、遞歸神經(jīng)網(wǎng)絡(luò)RNN、區(qū)域候選網(wǎng)絡(luò)RPN）可以通過(guò)模型訓(xùn)練形成與各類(lèi)自然人生物信息特征相對(duì)應(yīng)情感的識(shí)別模型。這種典型的大數(shù)據(jù)智能范式也被稱(chēng)作“鸚鵡（學(xué)舌）模式”，也就是不斷為人工智能“填喂”大量做好標(biāo)注的“語(yǔ)料”，人工智能在學(xué)習(xí)足夠多的情感“語(yǔ)料”后就能總結(jié)規(guī)律，逐步形成特定情感狀態(tài)的識(shí)別模型。在此基礎(chǔ)上，當(dāng)有新的聲音、表情等生物信息進(jìn)入系統(tǒng)后，系統(tǒng)可以根據(jù)情感識(shí)別模型進(jìn)行識(shí)別。從本質(zhì)上看，情感識(shí)別模式的運(yùn)作機(jī)理是對(duì)各種情感的概率分析。因此，該過(guò)程更大程度是一種“計(jì)算”而非真正意義的“識(shí)別”，或者說(shuō)“識(shí)別”是通過(guò)“計(jì)算”的方式實(shí)現(xiàn)。

當(dāng)然，“識(shí)別”只是初級(jí)的應(yīng)用。按照皮卡德對(duì)“情感計(jì)算”的原初定義，該技術(shù)實(shí)際上分為三類(lèi)：“與情感相關(guān)的計(jì)算”“產(chǎn)生于情感的計(jì)算”以及“有意影響情感的計(jì)算”。換言之，該類(lèi)技術(shù)的終極目標(biāo)是在“識(shí)別”基礎(chǔ)之上使計(jì)算機(jī)具備“模擬”自然人情緒的能力，并且能夠根據(jù)不同情境采取相應(yīng)策略來(lái)“影響”自然人的情緒。也就是讓機(jī)器具備情感智能，能夠以最佳的方式識(shí)別和調(diào)節(jié)（自己或他人）情感的能力。從這個(gè)意義上說(shuō)，“識(shí)別”只是“情感計(jì)算”技術(shù)邏輯中的有機(jī)組成環(huán)節(jié)。以情感計(jì)算領(lǐng)域潛在的應(yīng)用機(jī)器人教師為例，在理想的設(shè)計(jì)方案中，機(jī)器人教師可以通過(guò)視線(xiàn)、瞳孔大小、語(yǔ)氣、韻律、姿勢(shì)甚至是皮膚電導(dǎo)、肌肉電位、心血管測(cè)量、腦電位等感知對(duì)學(xué)習(xí)者的情感狀態(tài)進(jìn)行識(shí)別，如興趣水平、動(dòng)機(jī)、理解力、熱情以及學(xué)習(xí)中被認(rèn)為重要的其他因素。在對(duì)學(xué)習(xí)者回應(yīng)時(shí)，機(jī)器人教師可以保持眼神交流，并改變自己面部表情來(lái)提供反饋。此種設(shè)想就涵蓋了情感計(jì)算中感受、識(shí)別、模擬、影響的所有流程。

二、情感計(jì)算的應(yīng)用觀(guān)察

情感計(jì)算應(yīng)用的實(shí)質(zhì)是通過(guò)感知、識(shí)別、模仿和影響人們的情感狀態(tài)來(lái)更好地作出決策、提供服務(wù)、提升幸福感。主流應(yīng)用有兩類(lèi)：其一是情感計(jì)算的結(jié)果作用于被識(shí)別者本人，通過(guò)改變其情感狀態(tài)而治療疾病、提高體驗(yàn)，典型的例子是利用情感計(jì)算治療自閉癥；其二是情感計(jì)算的結(jié)果作用于被識(shí)別者之外的第三人，提供各類(lèi)決策輔助，比如在招聘環(huán)節(jié)使用情感計(jì)算。當(dāng)前，情感計(jì)算技術(shù)正在被迅速商業(yè)化并在醫(yī)療、教育、商業(yè)、就業(yè)、執(zhí)法等領(lǐng)域獲得應(yīng)用。

（一）醫(yī)療領(lǐng)域的情感計(jì)算

許多心理和生理狀況，包括自閉、抑郁和中風(fēng)，都會(huì)影響理解、控制或交流情感的能力。情感計(jì)算已被用于評(píng)估和治療各種疾病，并改善與情感有關(guān)的交流。一家名為Affectiva的公司開(kāi)發(fā)了一款“谷歌眼鏡”式的設(shè)備，可以幫助自閉癥患者解讀與他們互動(dòng)的其他人的社交和情感線(xiàn)索。還有研究人員通過(guò)腦機(jī)接口和熱像儀，根據(jù)人體檢測(cè)到的數(shù)據(jù)進(jìn)行情緒分析，并用以輔助治療自閉癥或抑郁癥患者。除此之外，醫(yī)療情感聊天機(jī)器人也被認(rèn)為具有廣泛的應(yīng)用前景。所謂的醫(yī)療情感聊天機(jī)器人其實(shí)是一種包含信號(hào)分析和自動(dòng)語(yǔ)音識(shí)別、語(yǔ)義分析和對(duì)話(huà)策略、響應(yīng)生成和語(yǔ)音合成組件的自主系統(tǒng)，可以使用情感計(jì)算技術(shù)與病人進(jìn)行交互，以檢測(cè)情感，確定并模擬情感答案。

（二）教育領(lǐng)域的情感計(jì)算

在教育領(lǐng)域，利用情感計(jì)算技術(shù)，計(jì)算機(jī)可以通過(guò)面部表情的識(shí)別來(lái)判斷學(xué)習(xí)者的學(xué)習(xí)狀態(tài)。與此同時(shí)，該技術(shù)還可以讓教師了解學(xué)生的內(nèi)心感受，從而制定更具個(gè)性化的教學(xué)方案。隨著在線(xiàn)教學(xué)的日益擴(kuò)展，情感計(jì)算被認(rèn)為可以提升師生互動(dòng)質(zhì)量，改善因?yàn)槿狈鹘y(tǒng)課堂學(xué)習(xí)氛圍而導(dǎo)致的厭學(xué)情緒?？偛课挥诓ㄊ款D的BrainCo公司正在研發(fā)一種頭帶，通過(guò)檢測(cè)大腦活動(dòng)來(lái)監(jiān)測(cè)和量化學(xué)生的注意力水平。實(shí)際上，我國(guó)智慧教育建設(shè)中對(duì)情感計(jì)算的使用已經(jīng)走在世界前列。浙江部分中學(xué)推行的“智慧課堂”項(xiàng)目可以通過(guò)教室前端的三個(gè)攝像頭識(shí)別七種情緒（恐懼、快樂(lè)、厭惡、悲傷、驚訝、憤怒和中性）和六種行為（讀、寫(xiě)、聽(tīng)、站、舉手、趴在桌子上）。系統(tǒng)每隔30秒會(huì)進(jìn)行一次掃描，實(shí)時(shí)分析出學(xué)生們?cè)谡n堂上的狀態(tài)。新東方推出“AI雙師課堂”可以通過(guò)“慧眼系統(tǒng)”對(duì)每個(gè)學(xué)生的面部進(jìn)行情緒識(shí)別，除了可以識(shí)別學(xué)生是否認(rèn)真聽(tīng)講，還可以辨別出“高興、悲哀、驚訝、正常、憤怒”等情緒，老師可根據(jù)學(xué)生的情緒表現(xiàn)，掌握學(xué)生對(duì)于課程內(nèi)容的真實(shí)反饋，以對(duì)教學(xué)內(nèi)容作進(jìn)一步精煉與提升。

（三）就業(yè)領(lǐng)域的情感計(jì)算

就業(yè)領(lǐng)域情感識(shí)別的使用也出現(xiàn)了激增，在求職者或員工不知情的情況下進(jìn)行工作能力判斷。HireVue和VCV等公司提出對(duì)求職者進(jìn)行“勇氣”等品質(zhì)的篩選，并追蹤他們微笑的頻率。其中HireVue開(kāi)發(fā)的系統(tǒng)利用求職者的電腦或手機(jī)攝像頭分析他們的面部表情、用詞和說(shuō)話(huà)聲音，然后根據(jù)自動(dòng)生成的“就業(yè)能力”得分將他們與其他求職者進(jìn)行排名。據(jù)稱(chēng)已有超過(guò)100家雇主使用該系統(tǒng)，其中不乏國(guó)際知名企業(yè)，并且已經(jīng)對(duì)100萬(wàn)名名以上的求職者進(jìn)行了分析。此外，根據(jù)韓國(guó)經(jīng)濟(jì)研究所（KERI）的數(shù)據(jù)，該國(guó)排名前131位的公司中有近1/4正在使用或計(jì)劃使用AI進(jìn)行招聘。

（四）商業(yè)領(lǐng)域的情感計(jì)算

商業(yè)領(lǐng)域的情感計(jì)算應(yīng)用旨在根據(jù)情感的識(shí)別為顧客提供更為優(yōu)質(zhì)的服務(wù)。2019年8月，亞馬遜宣稱(chēng)其Rekognition面部識(shí)別軟件可以評(píng)估包括恐懼在內(nèi)的8種情緒。零售是該軟件潛在的應(yīng)用場(chǎng)景，商店可以通過(guò)該軟件分析購(gòu)物者的實(shí)時(shí)圖像，以檢測(cè)情感，進(jìn)而有針對(duì)性地提供服務(wù)。Kairos公司也推出一款銷(xiāo)售視頻分析攝像機(jī)，聲稱(chēng)可以檢測(cè)人臉，并將其歸類(lèi)為憤怒、恐懼和悲傷的情緒。Kairos主要向賭場(chǎng)、餐館、零售商人、房地產(chǎn)經(jīng)紀(jì)人和酒店行業(yè)銷(xiāo)售該產(chǎn)品，并承諾將幫助這些企業(yè)了解其顧客的情感情況。情感計(jì)算還被應(yīng)用到聊天機(jī)器人之中，Cogito和Empathath兩款程序就使用語(yǔ)音分析算法監(jiān)控客戶(hù)的反應(yīng)，并在他們聽(tīng)起來(lái)很沮喪時(shí)向呼叫專(zhuān)員發(fā)出信號(hào)，以提醒專(zhuān)員轉(zhuǎn)變對(duì)話(huà)策略。中國(guó)公司EmoKit通過(guò)語(yǔ)音采集數(shù)據(jù)，根據(jù)音頻、音色、音調(diào)等數(shù)據(jù)輸出人的情緒類(lèi)型。EmoKit產(chǎn)品正式在一家金融機(jī)構(gòu)的線(xiàn)下門(mén)店和APP上線(xiàn)，用以評(píng)估用戶(hù)騙貸的可能性，作為其風(fēng)控的最后一個(gè)環(huán)節(jié)。2019年長(zhǎng)城汽車(chē)宣布推出“智能安全系統(tǒng)（Collie）”，包括情感識(shí)別的功能，當(dāng)該系統(tǒng)檢測(cè)到司機(jī)“憤怒”時(shí)會(huì)自動(dòng)播放更歡快的音樂(lè)。

（五）執(zhí)法領(lǐng)域的情感計(jì)算

情感計(jì)算也開(kāi)始應(yīng)用于邊境檢查、案件偵查等執(zhí)法領(lǐng)域，利用對(duì)不特定公眾情緒的識(shí)別，發(fā)現(xiàn)異常情況、鎖定嫌疑人。例如，美國(guó)和英國(guó)的警察正在使用檢測(cè)軟件Converus，該軟件通過(guò)檢查眼球運(yùn)動(dòng)和瞳孔大小的變化來(lái)識(shí)別潛在的欺騙行為。iBorderCtrl是在匈牙利、拉脫維亞和希臘試用的一種預(yù)先篩選的人工智能系統(tǒng)，它的攝像頭在游客回答邊境安全人員的問(wèn)題時(shí)，掃描識(shí)別臉部表情以發(fā)現(xiàn)可能撒謊的人員。中國(guó)在各地推動(dòng)的智慧城市和智慧司法建設(shè)中也開(kāi)始采用情緒識(shí)別技術(shù)。比如，“阿爾法鷹”的情感計(jì)算技術(shù)基于前庭情感反射理論，通過(guò)攝像頭采集的人體面部視頻流，分析頭部和頸部微小肌肉振動(dòng)的頻率和振幅，計(jì)算出個(gè)人壓力、侵略性和焦慮度等參數(shù)，甄別有自體原發(fā)性焦慮緊張狀態(tài)的潛在可疑危險(xiǎn)人員以輔助安檢人工排查。還比如，“靈視多模態(tài)情緒研判系統(tǒng)”通過(guò)非接觸式的視頻對(duì)話(huà)，發(fā)現(xiàn)測(cè)試人的實(shí)時(shí)情緒，針對(duì)特定關(guān)鍵問(wèn)題的情緒變化，采集包含微表情、微動(dòng)作、聲強(qiáng)、心率與體溫五種模態(tài)，集合在審訊場(chǎng)景下的定制化算法，可以挖掘被訊問(wèn)人對(duì)相關(guān)問(wèn)題的反應(yīng)程度，掌握被訊問(wèn)人心理和生理反應(yīng)，用以突破其心理防線(xiàn)，獲得供述。又比如，“太古人工智能”推出的“無(wú)感知情緒監(jiān)測(cè)分析系統(tǒng)”主要面向?qū)徲崍?chǎng)景，結(jié)合視頻圖像處理、并行計(jì)算、深度學(xué)習(xí)等技術(shù)，采用非接觸的生理信號(hào)采集、微表情識(shí)別方法，保證在對(duì)象無(wú)感知的基礎(chǔ)上建立量化情緒模型，實(shí)現(xiàn)情緒監(jiān)控和分析。

三、情感計(jì)算應(yīng)用的多維困境

（一）情感計(jì)算應(yīng)用的法律問(wèn)題

情感計(jì)算與人臉識(shí)別等知名的生物識(shí)別應(yīng)用不同，后者旨在識(shí)別個(gè)人，而前者則是在識(shí)別個(gè)人的基礎(chǔ)之上進(jìn)一步推斷一個(gè)人的內(nèi)在情緒。因此，情感計(jì)算的應(yīng)用會(huì)對(duì)公民基本權(quán)利造成不成比例的風(fēng)險(xiǎn)。

首先，由于與人臉識(shí)別等感知智能技術(shù)在邏輯上具有前后承接性，情感計(jì)算技術(shù)的應(yīng)用將直接與個(gè)人信息的諸多權(quán)能形成沖突。一方面，正如本文第一部分提及的那樣，情感計(jì)算技術(shù)的研究與應(yīng)用需要借助大量信息，尤其是生物識(shí)別信息。如果這類(lèi)基礎(chǔ)信息可以單獨(dú)或者結(jié)合其他信息與個(gè)人身份關(guān)聯(lián)，則符合我國(guó)現(xiàn)行法律規(guī)范中的“個(gè)人信息”。另一方面，從基礎(chǔ)信息轉(zhuǎn)換而來(lái)一類(lèi)新的信息——情感信息，如果與特定個(gè)人身份相關(guān)聯(lián)，則仍然構(gòu)成“個(gè)人信息”。此時(shí)，相關(guān)應(yīng)用在收集和處理上述信息時(shí)可能與個(gè)人信息保護(hù)的相關(guān)規(guī)范形成直接沖突。現(xiàn)階段絕大多數(shù)情感計(jì)算應(yīng)用并不會(huì)明確告知被識(shí)別者該應(yīng)用具有情感識(shí)別功能，也不會(huì)將情感識(shí)別的結(jié)果告知被識(shí)別者，由此被識(shí)別個(gè)人的知情權(quán)、刪除權(quán)、更正權(quán)將受到直接侵犯。

其次，情感計(jì)算的應(yīng)用還可能對(duì)個(gè)人隱私權(quán)形成直接的侵犯。眾所周知，情感是一種個(gè)人的內(nèi)在感受。對(duì)于一般公眾而言，控制情緒使其不輕易呈現(xiàn)是重要的社會(huì)規(guī)則，尤其是內(nèi)疚、沮喪、恐懼、焦慮等負(fù)面情緒。在特定的情形下，人可能需要呈現(xiàn)一種虛假的情緒，典型的如“善意的謊言”。同時(shí)，情感狀態(tài)的完全暴露還可能會(huì)讓一個(gè)人更容易受到傷害。因此，情感信息尤其是個(gè)人不愿意外露的情感帶有敏感和私密的性質(zhì)。按照我國(guó)民法典第1032條第2款規(guī)定，隱私是自然人的私人生活安寧和不愿為他人知曉的私密空間、私密活動(dòng)、私密信息。公眾不愿意外露的情感狀態(tài)就屬于不愿意為他人知曉的私密信息。情感計(jì)算技術(shù)的引入具有極強(qiáng)的“侵入性”，大大超出了公眾在公開(kāi)場(chǎng)合期望保持個(gè)人情感隱私的預(yù)期。盡管基于明顯表情推斷情緒可能不足以上升到“窺探”隱私的程度，但微表情或者因刺激而短暫出現(xiàn)的面部表情則是非自愿的情感泄露（暴露真實(shí)的情感），具有明顯的隱私意涵,更不說(shuō)借助面部血流、瞳孔擴(kuò)張等更加細(xì)微的表征而完成的對(duì)情感的“刺探”。按照民法典第1033條的規(guī)定，除了“法律另有規(guī)定或者權(quán)利人明確同意外”，其他侵犯隱私的行為不具合法性的。對(duì)于情感隱私的侵入性獲取如果沒(méi)有獲得權(quán)利人的明確同意，則具有侵權(quán)的可能。

再次，情感計(jì)算的應(yīng)用還可能間接地對(duì)人身自由產(chǎn)生負(fù)面影響。民法典第109條規(guī)定，自然人的人身自由受法律保護(hù)。人身自由包括身體自由和精神自由。后者是指自然人按照自己的意志，在法律規(guī)定的范圍內(nèi)自主思維的權(quán)利。情感計(jì)算應(yīng)用的重要假設(shè)是可以推斷內(nèi)心的真實(shí)情感，并應(yīng)當(dāng)以此為基礎(chǔ)作出決策。人們可能會(huì)為了避免讓自己的情感被定義為“危險(xiǎn)“”可疑”“注意力不集中”而被迫作出符合“良好”情感標(biāo)簽的生理表達(dá)。如果情感計(jì)算能夠準(zhǔn)確識(shí)別并呈現(xiàn)每個(gè)人實(shí)時(shí)的情緒，那將很可能給公眾帶來(lái)不必要的壓力，讓人無(wú)法自由地思想，并處于時(shí)刻在監(jiān)控之下的恐懼之中。

最后，情感計(jì)算的部分應(yīng)用還與人格尊嚴(yán)、平等保護(hù)等形成沖突。本文第二部分提及的在智慧招聘和智慧課堂推行過(guò)程中，通過(guò)情感計(jì)算，將受聘人群劃分為“高情緒控制力”和“低情緒控制力”，把學(xué)生區(qū)分為“精力集中”“精力不集中”，這種帶有價(jià)值導(dǎo)向的分類(lèi)無(wú)疑對(duì)人格尊嚴(yán)形成侵犯。更為重要的是，相關(guān)情感計(jì)算應(yīng)用實(shí)質(zhì)上需要根據(jù)計(jì)算結(jié)果對(duì)不同分類(lèi)的人群采取差異化、個(gè)性化的策略?？紤]到后文將會(huì)詳細(xì)論及的情感計(jì)算的諸多技術(shù)瓶頸，此種差異化對(duì)待的理由正當(dāng)性存疑，可能對(duì)特定人群形成歧視。

（二）情感計(jì)算應(yīng)用的倫理沖突

情感狀態(tài)與人類(lèi)價(jià)值和情緒緊密相連，尤其在道德判斷中至關(guān)重要。此外，情感在人類(lèi)生活中起著核心作用，它在人際關(guān)系、形成群體并在決策和推理中發(fā)揮重要作用。它是人類(lèi)與社會(huì)互動(dòng)的基本方式之一。對(duì)于情感計(jì)算相關(guān)倫理問(wèn)題的討論實(shí)際上與道德哲學(xué)息息相關(guān)。由于情感計(jì)算關(guān)注的是人類(lèi)的情感，并在技術(shù)邏輯上以影響人的情感為最終目的，而情感問(wèn)題又與倫理在多個(gè)層面錯(cuò)綜交織。這就使得情感計(jì)算應(yīng)用除了面臨各類(lèi)法律問(wèn)題外，還面臨一系列倫理挑戰(zhàn)。

其一，基礎(chǔ)倫理學(xué)高度重視人類(lèi)情感，影響情感的情感計(jì)算技術(shù)被認(rèn)為會(huì)影響人的道德標(biāo)準(zhǔn)及自由意志。在經(jīng)驗(yàn)主義倫理學(xué)中，情感被視為道德判斷的根源。大衛(wèi)·休謨和亞當(dāng)·斯密等人認(rèn)為，所謂的錯(cuò)事，就是一種我們“道德情感”無(wú)法接受的狀況；在功利主義倫理學(xué)的視野中，基本的道德義務(wù)是使幸福感最大化。換言之，情感是我們成為道德人的核心。在上述將情感視作道德基石的哲學(xué)流派看來(lái)，情感計(jì)算應(yīng)用在影響了情感的同時(shí)也就影響了人類(lèi)的道德標(biāo)準(zhǔn)。與基于情感的道德理論相比，康德認(rèn)為道德的基石是根據(jù)理智原則來(lái)行使自由意志。情感計(jì)算因?yàn)榭赡苡绊懬楦羞M(jìn)而影響自由意志，因此具有深遠(yuǎn)的道德意義。在這個(gè)角度上看，情感計(jì)算影響情感的嘗試就顯得“不道德”。

其二，實(shí)用倫理學(xué)對(duì)“善意”“不作惡”“誠(chéng)實(shí)守信”的基本要求也可能與情感計(jì)算的應(yīng)用形成潛在沖突。與基礎(chǔ)倫理學(xué)相比，實(shí)用倫理學(xué)更接近常識(shí)系統(tǒng)，也更容易促進(jìn)共識(shí)。實(shí)用倫理學(xué)中的關(guān)鍵原則，諸如“忠信/誠(chéng)實(shí)守信”“不作惡”“善意”“己所不欲，勿施于人”同樣成為批判情感計(jì)算“不道德”的重要工具。在公眾視角中，情感計(jì)算可以通過(guò)遠(yuǎn)程方式“窺探”公眾的情緒并加以運(yùn)用。此外，智慧教育中對(duì)情感計(jì)算的應(yīng)用雖然使得根據(jù)學(xué)生情緒進(jìn)行定向化教育成果可能，但這種情感識(shí)別可能會(huì)侵犯學(xué)生的隱私，并為使用情感數(shù)據(jù)來(lái)操縱學(xué)生提供可能；執(zhí)法領(lǐng)域使用情感計(jì)算可能會(huì)讓監(jiān)管者獲得關(guān)于員工情緒穩(wěn)定性和壓力耐受性的敏感信息。這些很可能被視作“非善意”“己所不欲，反施于人”，因此在倫理上不被接受。與此同時(shí)，情感計(jì)算的部分還在倫理上與“欺騙”關(guān)聯(lián)。在電子隱私信息中心（EPIC）向美國(guó)聯(lián)邦貿(mào)易委員會(huì)（Federal Trade Commission）對(duì)HireVue的指控中，明確認(rèn)為該系統(tǒng)使用未經(jīng)驗(yàn)證的人工智能系統(tǒng)來(lái)掃描人們的面部和聲音，并評(píng)估求職者的水平的做法是“不公平和有欺騙性的”。更為重要的還在于，批評(píng)者們還注意到情感認(rèn)知的邏輯與不可信的種族科學(xué)和面相學(xué)之間的相似性，前者認(rèn)為個(gè)人價(jià)值和性格可以從身體特征中辨別出來(lái)，后者被用來(lái)證成生物差異為社會(huì)不平等辯護(hù)。

（三）情感計(jì)算應(yīng)用的技術(shù)瓶頸

情感計(jì)算技術(shù)的底層依據(jù)來(lái)自“基本情感理論”（Basic Emotion Theory, BET），該理論由心理學(xué)家保羅·?？寺≒aul Ekman）在1970年提出，認(rèn)為人們可以從面部表情中可靠地辨別出情緒狀態(tài)，并且此種表情與情緒的關(guān)聯(lián)具有跨文化上的普遍性。依據(jù)該理論，情感計(jì)算的應(yīng)用是建立在三個(gè)假設(shè)之上：（1）可以從一個(gè)人的外在表達(dá)來(lái)衡量一個(gè)人的內(nèi)在情感（如面部表情、聲音、姿態(tài)等各類(lèi)生物信息）；（2）這個(gè)內(nèi)在情感的外在表達(dá)在世界范圍內(nèi)既離散又統(tǒng)一，用技術(shù)話(huà)語(yǔ)來(lái)解讀就是具有提取特征上的普遍性；（3）這種挖掘（推論）足夠可靠，可以用來(lái)作出決策。不過(guò)，在情感計(jì)算的發(fā)展過(guò)程中，對(duì)上述三個(gè)假設(shè)的質(zhì)疑始終存在。盡管樂(lè)觀(guān)者認(rèn)為情緒識(shí)別等技術(shù)可以不斷迭代優(yōu)化，但極端的批評(píng)者則認(rèn)為，情感計(jì)算沒(méi)有強(qiáng)有力的科學(xué)證據(jù)支持，并以不道德和不負(fù)責(zé)任的方式被應(yīng)用，是一種偽科學(xué)。

第一，外在表達(dá)與內(nèi)在情感之間的關(guān)聯(lián)存在不確定性。情感計(jì)算在技術(shù)邏輯上的根本問(wèn)題在于它是基于反向推理，即一個(gè)特定的生理信息被用來(lái)表示一種情緒體驗(yàn)。從計(jì)算的角度來(lái)看，所有這些來(lái)源都是生理信號(hào)，具有分析和解釋上的共同困難。一方面，相同的生理信息可能表達(dá)了不止一種情緒，而實(shí)際上理解情緒需要更多的情境細(xì)節(jié)支撐。有實(shí)證研究揭示，所有六種情緒平均上只與面部表情有微弱的聯(lián)系。另一方面，在強(qiáng)烈刺激的環(huán)境下，受試者的生理信號(hào)和情緒之間可以建立較為明確的關(guān)聯(lián)。但對(duì)于情感計(jì)算而言，如果要在評(píng)估可用性或推動(dòng)互動(dòng)中廣泛使用心理生理學(xué)和相關(guān)的傳感技術(shù)，則它們必須能夠檢測(cè)出用戶(hù)對(duì)細(xì)微的刺激反應(yīng)。現(xiàn)有技術(shù)尚未證明在細(xì)微和自然的情況下可以確定地檢測(cè)到這種反應(yīng)。整體而言，心理生理數(shù)據(jù)非常復(fù)雜，難以證明其與情緒之間的因果關(guān)系。

第二，外在表達(dá)與情感之間的關(guān)聯(lián)在世界范圍內(nèi)存在差異性。有學(xué)者回顧了上千項(xiàng)關(guān)于情緒表達(dá)的研究后發(fā)現(xiàn)，人們?cè)诓煌幕?、不同情況下，甚至在同一情況下，在溝通他們的情緒狀態(tài)時(shí)，存在著大量的差異。因此，無(wú)論計(jì)算算法多么復(fù)雜，利用這項(xiàng)技術(shù)來(lái)得出情感結(jié)論還為時(shí)過(guò)早。與此同時(shí)，正如本文第一部分所強(qiáng)調(diào)的那樣，情感計(jì)算采用的有監(jiān)督學(xué)習(xí)范式，需要人工對(duì)情緒進(jìn)行標(biāo)注。該過(guò)程的主觀(guān)性也加劇了表達(dá)與情感之間關(guān)聯(lián)的差異性。

第三，該技術(shù)在應(yīng)用結(jié)果上具有不可靠性。正是因?yàn)橥庠诒磉_(dá)與內(nèi)在情感之間的不確定性、多樣性、數(shù)據(jù)標(biāo)注的主觀(guān)性，這使得現(xiàn)階段情感計(jì)算技術(shù)在準(zhǔn)確性上難以充分保障。例如，ProPublica報(bào)道稱(chēng)，美國(guó)部分學(xué)校、監(jiān)獄、銀行和醫(yī)院安裝了由Sound Intelligence公司開(kāi)發(fā)的情感計(jì)算應(yīng)用軟件，旨在暴力爆發(fā)前檢測(cè)壓力和攻擊性。但“攻擊性檢測(cè)器/主動(dòng)探測(cè)器”并不可靠，它可能將咳嗽這樣的粗糙、高音調(diào)的聲音誤判為攻擊性。另一項(xiàng)研究發(fā)現(xiàn)Face++和Face API兩款軟件分配給特定人群更多消極情緒得分，不管他們笑得多開(kāi)心。前文提及的iBorderCtrl系統(tǒng)也因?yàn)樵u(píng)估結(jié)果的“假陽(yáng)性”以及歧視性的潛在風(fēng)險(xiǎn)而在試用后短期內(nèi)被撤回。

四、情感計(jì)算應(yīng)用的法律規(guī)制

當(dāng)前，我國(guó)對(duì)于情感計(jì)算技術(shù)的法律規(guī)制體系尚未構(gòu)建。一方面，這為該技術(shù)的迅猛發(fā)展提供了寬松的制度環(huán)境；另一方面也為技術(shù)應(yīng)用引發(fā)的多維風(fēng)險(xiǎn)埋下隱患。情感計(jì)算技術(shù)的應(yīng)用需要有公眾信任作為支撐，其面臨的倫理、法律和技術(shù)困境無(wú)疑會(huì)侵蝕公眾的信任度。因此，從推動(dòng)情感計(jì)算技術(shù)良性發(fā)展的視角來(lái)看，勢(shì)必需要對(duì)其應(yīng)用進(jìn)行合理的法律規(guī)制，以應(yīng)對(duì)法律、倫理、技術(shù)三個(gè)維度的困境。具體而言，就是以“輕推”為限度設(shè)定情感計(jì)算應(yīng)用的底線(xiàn)。在此基礎(chǔ)上，對(duì)符合底線(xiàn)要求的應(yīng)用再根據(jù)風(fēng)險(xiǎn)等級(jí)進(jìn)行差異化的規(guī)制。

（一）

以“輕推”為限度的底線(xiàn)規(guī)制

正如本文第三部分論及的那樣，基礎(chǔ)倫理學(xué)與實(shí)用倫理學(xué)均高度重視情感，將其視作影響道德判斷和人的主體性的重要因素。因此，人們應(yīng)當(dāng)尊重他人控制其情緒狀態(tài)的自主權(quán)；獲得有關(guān)個(gè)人情感狀態(tài)信息施加了一種責(zé)任，即不得濫用該信息并利用該人的脆弱性。在此背景下，情感計(jì)算應(yīng)用的法律規(guī)制需要調(diào)和倫理學(xué)對(duì)情感自主性的強(qiáng)調(diào)與情感計(jì)算以影響情感為終極目標(biāo)之間的張力。簡(jiǎn)言之，就是在綜合考量倫理困境與技術(shù)困境的基礎(chǔ)上，通過(guò)法律設(shè)定情感計(jì)算技術(shù)對(duì)個(gè)人情感影響的限度，進(jìn)而有效避免情感計(jì)算技術(shù)被濫用風(fēng)險(xiǎn)。筆者認(rèn)為，可以借鑒行為經(jīng)濟(jì)學(xué)與行為科學(xué)成熟的理論框架，以“輕推”為限度構(gòu)建一套情感計(jì)算應(yīng)用的底線(xiàn)規(guī)制體系。

“輕推”對(duì)應(yīng)的英文“nudge”的原始含義是指輕輕推某人，尤指用肘輕輕推某人，以引起他們的注意。諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)獲得者理查德·泰勒和美國(guó)最偉大的法學(xué)家之一卡斯·桑斯坦在2008年共同提出了“輕推”的理論。它是指通過(guò)正向強(qiáng)化和間接建議，影響群體或個(gè)人的行為和決策，但個(gè)人仍然有選擇自由。眾所周知，個(gè)人并非絕對(duì)意義上的理性經(jīng)濟(jì)人，會(huì)受到各種偏見(jiàn)的影響，有時(shí)候作出的決策往往是一種本能反應(yīng)，而人往往對(duì)這種本能反應(yīng)過(guò)于自信，引發(fā)大量的錯(cuò)誤決策，此時(shí)就必須“輕推一把”，讓人意識(shí)到錯(cuò)誤并走上正軌。關(guān)于何為“輕推”，理查德·泰勒和卡斯·桑斯坦將其概括為“自由主義的溫和專(zhuān)制主義”。具體而言，私人和公共選擇設(shè)計(jì)者所作的并不僅僅是要極力追蹤或者實(shí)現(xiàn)人們所期待的選擇，他們更加可以追求的是通過(guò)改變?nèi)藗兊男袨榉绞綇亩顾麄兩畹酶?。他們使用的是一種助推?！拜p推”指的是這種選擇體系的任何一方面，都不通過(guò)強(qiáng)制的方式，而是以一種預(yù)言方式去改變?nèi)藗兊倪x擇或者改變他們的經(jīng)濟(jì)動(dòng)機(jī)及行為。

按照上述理論框架，應(yīng)通過(guò)法律明確規(guī)范情感計(jì)算技術(shù)對(duì)人類(lèi)情感的干預(yù)限度和方式：（1）情感計(jì)算應(yīng)用中施加的影響情感措施只能以“輕推”為限度，不得直接“操縱/控制”情感。簡(jiǎn)言之，“輕推而不控制”是法律規(guī)制的核心內(nèi)容。那種通過(guò)腦機(jī)接口（BCI）的方式直接作用于神經(jīng)進(jìn)而影響情感的方案與“輕推”的法律要求根本沖突。（2）情感計(jì)算應(yīng)用中施加的影響情感措施不得妨礙人們的自由選擇，不禁止其他選項(xiàng)。舉例而言，智能駕駛系統(tǒng)在識(shí)別司機(jī)情緒不佳時(shí)播放舒緩的音樂(lè)，如果用戶(hù)仍然有選擇的自由，則是一種輕推；但如果用戶(hù)只能聽(tīng)舒緩的音樂(lè)，則是一種命令，因?yàn)樗懦擞脩?hù)的自主選擇。（3）情感計(jì)算應(yīng)用中施加的影響情感措施不能顯著增加選擇者的負(fù)擔(dān)，并且可以通過(guò)低成本的方式輕易避免。（4）情感計(jì)算應(yīng)用中施加的影響情感措施原則上只能是“積極助推”，禁止“負(fù)面助推”。（5）對(duì)于未成年人、精神病人、殘疾人等易受傷害人群，作為法律保留事項(xiàng)，需要更為嚴(yán)格的限制和專(zhuān)業(yè)指導(dǎo)。一言以蔽之，“輕推”可以用自由選擇與適當(dāng)引導(dǎo)兩個(gè)關(guān)鍵詞來(lái)概括。通俗來(lái)講，情感計(jì)算的“輕推”就是發(fā)現(xiàn)特定主體情緒存在一定問(wèn)題，用各種策略“輕推一把”讓他/她能夠回歸正軌。當(dāng)然，在特定情況下，比如醫(yī)療領(lǐng)域應(yīng)用情感計(jì)算時(shí)，可以適當(dāng)超越“輕推”的范疇，但需要更加謹(jǐn)慎的態(tài)度和專(zhuān)業(yè)的論證。綜上所述“輕推”為情感計(jì)算的應(yīng)用范圍和方式設(shè)定了底線(xiàn)。

（二）

以風(fēng)險(xiǎn)為基礎(chǔ)的差異規(guī)制

與絕大多數(shù)科學(xué)技術(shù)相同，情感計(jì)算技術(shù)是一把“雙刃劍”。從正面來(lái)看，情感計(jì)算智能技術(shù)的應(yīng)用能夠有助于更好地理解和控制情緒與情感狀態(tài)，可以改善生活質(zhì)量、挽救生命、提高人機(jī)交互體驗(yàn)等；從負(fù)面來(lái)看，情感計(jì)算則可能對(duì)個(gè)人權(quán)利造成諸多侵害。因此，情感計(jì)算技術(shù)的法律規(guī)制，除了以“輕推”為底線(xiàn)之外，還應(yīng)當(dāng)按照以風(fēng)險(xiǎn)為基礎(chǔ)的比例原則構(gòu)建一套法律規(guī)制體系。申言之，就是根據(jù)情感計(jì)算應(yīng)用可能產(chǎn)生的風(fēng)險(xiǎn)強(qiáng)度來(lái)動(dòng)態(tài)調(diào)整法律規(guī)制的類(lèi)型與內(nèi)容。一方面，要合理考慮情感計(jì)算應(yīng)用對(duì)權(quán)利與倫理的影響強(qiáng)度與范圍；另一方面，嚴(yán)格按照風(fēng)險(xiǎn)的等級(jí)差異，等比例提供規(guī)制方案，高風(fēng)險(xiǎn)對(duì)應(yīng)高規(guī)制強(qiáng)度、低風(fēng)險(xiǎn)對(duì)應(yīng)低規(guī)制強(qiáng)度。如表1所示，首先將情感計(jì)算應(yīng)用的風(fēng)險(xiǎn)分為“不可接受”和“可接受”兩大類(lèi)，將那種觸碰倫理基本底線(xiàn)的情感計(jì)算應(yīng)用（如作惡）歸并為“不可接受的風(fēng)險(xiǎn)”。在此基礎(chǔ)上，根據(jù)風(fēng)險(xiǎn)的差異化表征進(jìn)一步將“可接受的風(fēng)險(xiǎn)”劃分為“高風(fēng)險(xiǎn)”“中風(fēng)險(xiǎn)”“低風(fēng)險(xiǎn)”，并分別對(duì)應(yīng)差異化的規(guī)制方案。

表1 情感計(jì)算應(yīng)用的風(fēng)險(xiǎn)類(lèi)型、風(fēng)險(xiǎn)表征與規(guī)制方式

所謂的“不可接受的風(fēng)險(xiǎn)”，是指觸碰倫理禁區(qū)和價(jià)值底線(xiàn)的情感計(jì)算應(yīng)用。根據(jù)該技術(shù)現(xiàn)有的發(fā)展態(tài)勢(shì)來(lái)看，主要有以下三種情形：（1）試圖直接操縱、控制他人情緒的情感計(jì)算應(yīng)用。在底線(xiàn)規(guī)制的構(gòu)建中筆者已經(jīng)指出，按照道德哲學(xué)的基本要求，情感的自主性具有極高的倫理地位，因此干預(yù)情感應(yīng)該以“輕推”為限度。超越該限度直接控制情感的做法既屬于倫理禁區(qū)也屬于法律禁區(qū)。（2）追求不正當(dāng)目的的情感計(jì)算應(yīng)用。比如旨在激起特定人群積極情緒（暴力、好戰(zhàn)）的應(yīng)用，又比如雇主通過(guò)情感計(jì)算技術(shù)來(lái)控制雇員情緒，使其總是處于積極工作的情緒之中。（3）濫用技術(shù)，利用人性的弱點(diǎn)，比如未成年人、精神病人在年齡、身體或精神上的脆弱性從而扭曲個(gè)人情感的情感計(jì)算應(yīng)用。上述三種情形的情感計(jì)算應(yīng)用產(chǎn)生的風(fēng)險(xiǎn)在法律上屬于“不可接受”的范疇，因此應(yīng)當(dāng)完全禁止。

所謂“高風(fēng)險(xiǎn)”，是指那種可能?chē)?yán)重影響個(gè)人權(quán)利，尤其是教育、健康、安全等基本權(quán)利的情感計(jì)算應(yīng)用。這里的“嚴(yán)重影響”，是指基于情感計(jì)算的結(jié)果直接決定個(gè)人教育、社會(huì)保障、醫(yī)療、就業(yè)、安全、健康等基本權(quán)利的有無(wú)。也就是說(shuō)，情感計(jì)算結(jié)論成為“剝奪”個(gè)人基本權(quán)利的直接依據(jù)。具體而言，此類(lèi)應(yīng)用表現(xiàn)為公私機(jī)構(gòu)利用情感計(jì)算技術(shù)對(duì)個(gè)人進(jìn)行評(píng)估，在此基礎(chǔ)上形成評(píng)分或者分類(lèi)標(biāo)簽，進(jìn)而決定特定個(gè)人能否進(jìn)入教育機(jī)構(gòu)、享受特定的保險(xiǎn)待遇、獲得特定的工作機(jī)會(huì)等。按照情感計(jì)算技術(shù)發(fā)展的趨勢(shì)來(lái)看，主要有以下四種情形：（1）在教育系統(tǒng)中使用情感計(jì)算技術(shù)，用于確定進(jìn)入教育機(jī)構(gòu)的資格，或?qū)?duì)特定人群情緒控制能力的評(píng)估作為接受教育的一部分或者前提；（2）在就業(yè)領(lǐng)域使用情感計(jì)算技術(shù)，用于人員的招募和甄選，決定晉升或解雇；（3）在公共服務(wù)領(lǐng)域使用情感計(jì)算技術(shù)決定個(gè)人是否獲得和享受某些必不可少的公共服務(wù)，如獲得公租房、電力、電信服務(wù)等；（4）在執(zhí)法領(lǐng)域使用情感計(jì)算技術(shù)判斷特定公眾的危險(xiǎn)程度或供述的可信度，以決定是否采用非羈押措施、緩刑等。前文提及的基于情感計(jì)算技術(shù)在就業(yè)、執(zhí)法等領(lǐng)域應(yīng)用中就有此類(lèi)情形。此類(lèi)應(yīng)用可能會(huì)對(duì)個(gè)人的教育、職業(yè)等權(quán)利產(chǎn)生極為深刻和廣泛的影響。加之情感計(jì)算在技術(shù)上的不穩(wěn)定性，對(duì)其應(yīng)用還可能導(dǎo)致特定群體被排斥在享受特定基本權(quán)利之外。這實(shí)際上侵犯了尊嚴(yán)和不歧視的平等與正義價(jià)值觀(guān)，導(dǎo)致特定群體在整個(gè)社會(huì)交往環(huán)境中處于特別被動(dòng)的地位，并將此種歧視以技術(shù)形式固化。對(duì)于這類(lèi)“高風(fēng)險(xiǎn)”應(yīng)用需要嚴(yán)格限制，原則上被禁止，只有公共服務(wù)機(jī)構(gòu)基于公共利益而展開(kāi)，且需要配合以全流程的監(jiān)管措施。

所謂的“中風(fēng)險(xiǎn)”，是指那種中度影響個(gè)人權(quán)利的情感計(jì)算應(yīng)用。具體而言，就是對(duì)個(gè)人權(quán)利產(chǎn)生實(shí)質(zhì)影響，但并不決定特定權(quán)利有無(wú)的狀態(tài)。盡管如此，考慮到對(duì)個(gè)人權(quán)利影響的實(shí)質(zhì)性以及現(xiàn)有技術(shù)的不穩(wěn)定性，仍然需要將他們歸并為“中風(fēng)險(xiǎn)”應(yīng)用。比如，智慧教育中基于學(xué)生的情緒識(shí)別而采用差異化的教學(xué)策略雖然影響了不同學(xué)生的受教育權(quán)，但卻并未作為教育的準(zhǔn)入資格條件而存在。對(duì)于“中風(fēng)險(xiǎn)”的情感智能技術(shù)，原則上可以應(yīng)用，但是要構(gòu)建一套全生命周期的監(jiān)管措施。除了符合已有法律規(guī)范的相關(guān)要求之外，筆者認(rèn)為，可以參考《歐盟人工智能協(xié)調(diào)規(guī)則提案》的相關(guān)規(guī)制體系并結(jié)合我國(guó)的實(shí)踐確定如下流程監(jiān)管措施：（1）風(fēng)險(xiǎn)管理機(jī)制：構(gòu)建完備的情感計(jì)算應(yīng)用風(fēng)險(xiǎn)評(píng)估系統(tǒng)，從倫理、法律和技術(shù)三個(gè)維度綜合審查已經(jīng)發(fā)生或者可能發(fā)生的各類(lèi)風(fēng)險(xiǎn)，并對(duì)各類(lèi)風(fēng)險(xiǎn)發(fā)生的應(yīng)對(duì)措施作提前預(yù)案。同時(shí)，風(fēng)險(xiǎn)評(píng)估要在全生命周期內(nèi)不斷迭代與更新。（2）數(shù)據(jù)治理機(jī)制：構(gòu)建數(shù)據(jù)獲取、標(biāo)注、訓(xùn)練的治理機(jī)制，將風(fēng)險(xiǎn)和歧視的結(jié)果降至最低。比如，在情緒識(shí)別的樣本選擇時(shí)需要考慮不同性別的人群構(gòu)成，保障訓(xùn)練樣本的代表性；在數(shù)據(jù)標(biāo)注時(shí)需要統(tǒng)一培訓(xùn)，按照一致的標(biāo)準(zhǔn)。（3）技術(shù)保障機(jī)制：情感計(jì)算應(yīng)用的開(kāi)發(fā)者應(yīng)當(dāng)保障技術(shù)具有實(shí)現(xiàn)開(kāi)發(fā)目的的準(zhǔn)確性、穩(wěn)定性與安全性。要引入獨(dú)立第三方對(duì)各項(xiàng)技術(shù)的性能指標(biāo)進(jìn)行充分的測(cè)試與驗(yàn)證。（4）流程備份機(jī)制：對(duì)應(yīng)用的全過(guò)程進(jìn)行記錄以保證可追溯性。（5）信息透明機(jī)制：使用者應(yīng)當(dāng)向用戶(hù)提供清晰、充分的信息，包括技術(shù)的現(xiàn)有準(zhǔn)確性、安全性等內(nèi)容都需要在使用說(shuō)明中明確聲明。（6）信息備案機(jī)制：將應(yīng)用的相關(guān)信息提交相關(guān)主管機(jī)構(gòu)備案。在應(yīng)用發(fā)展過(guò)程中，要及時(shí)更新。

所謂的“低風(fēng)險(xiǎn)”，是指輕度影響或者不影響個(gè)人權(quán)利的情感計(jì)算應(yīng)用。比如，在情感聊天系統(tǒng)中，根據(jù)對(duì)用戶(hù)情緒的識(shí)別自動(dòng)調(diào)整聊天方式。對(duì)于低風(fēng)險(xiǎn)的應(yīng)用，法律在原則上不施加明顯的規(guī)制，只是作出最基礎(chǔ)的透明義務(wù)要求，比如明確告知用戶(hù)正在與具備情感識(shí)別功能的系統(tǒng)交互。就好比電話(huà)中涉及錄音時(shí)會(huì)提醒“本次通話(huà)可能被錄音”一樣，在涉及情感計(jì)算時(shí)需要提示“你的情緒可能被檢測(cè)”。在此基礎(chǔ)上，相關(guān)企業(yè)可以按照企業(yè)自律的方式合理選擇全流程監(jiān)管措施中的一項(xiàng)或者多項(xiàng)，以提升企業(yè)的合規(guī)能力。

結(jié) 語(yǔ)

我國(guó)對(duì)于技術(shù)規(guī)制的路徑通常是采用回應(yīng)型的立法，即在技術(shù)發(fā)展已經(jīng)無(wú)處不在并已經(jīng)暴露現(xiàn)實(shí)風(fēng)險(xiǎn)時(shí)再考慮規(guī)制。在此之前，給予特定技術(shù)以充分的發(fā)展空間。對(duì)于即將迅猛發(fā)展且可能比人臉識(shí)別更具侵入性的情感計(jì)算技術(shù)而言，對(duì)其規(guī)制可能需要采取更具前瞻性的“先發(fā)制人”立法。尤其在“不可接受風(fēng)險(xiǎn)”的應(yīng)用已經(jīng)處于研發(fā)狀態(tài)、“高風(fēng)險(xiǎn)應(yīng)用”已然現(xiàn)實(shí)存在的背景下，對(duì)于情感計(jì)算應(yīng)用的有效規(guī)制就顯得尤為必要。唯有如此，方能有效避免對(duì)公民個(gè)人權(quán)利帶來(lái)不成比例的損害。當(dāng)然，本文只是對(duì)情感計(jì)算的法律規(guī)制提出了初步的方案。對(duì)于情感計(jì)算與個(gè)人信息保護(hù)規(guī)范之間的銜接、全生命周期監(jiān)管方案還有待在后續(xù)研究中進(jìn)一步細(xì)化。

（專(zhuān)題統(tǒng)籌：秦前松）

 

編輯：海洋