隱私計(jì)算是在保障數(shù)據(jù)安全前提下，實(shí)現(xiàn)數(shù)據(jù)價(jià)值合規(guī)有序釋放的技術(shù)體系。主要包括，基于協(xié)議規(guī)則的安全多方計(jì)算、基于現(xiàn)代密碼學(xué)的聯(lián)邦學(xué)習(xí)、基于硬件閉環(huán)的可信執(zhí)行環(huán)境、基于信息論和概率論的差分隱私以及構(gòu)建于格密碼算法之上的同態(tài)加密等技術(shù)。黨的二十大報(bào)告重申了建設(shè)“網(wǎng)絡(luò)強(qiáng)國(guó)、數(shù)字中國(guó)”的發(fā)展愿景，隱私計(jì)算對(duì)于訓(xùn)練大語(yǔ)言模型、抹平數(shù)據(jù)飛輪效應(yīng)意義重大。盡管如此，隱私計(jì)算同樣可能帶來(lái)決策失誤、權(quán)益侵害、隱私泄露等風(fēng)險(xiǎn)。當(dāng)務(wù)之急，是結(jié)合我國(guó)國(guó)情，厘清隱私計(jì)算的行業(yè)價(jià)值及潛在風(fēng)險(xiǎn)，以便有針對(duì)性地從技術(shù)和法律兩方面補(bǔ)齊風(fēng)控短板。

隱私計(jì)算的應(yīng)用場(chǎng)景

隱私計(jì)算的理念根源于“通過(guò)設(shè)計(jì)保護(hù)隱私”，即在設(shè)計(jì)之初就將數(shù)據(jù)安全需求“嵌于其中”，成為技術(shù)運(yùn)作的缺省規(guī)則。我國(guó)相關(guān)部門也提出了“倫理先行、敏捷治理”的理念，體現(xiàn)出積極預(yù)防而非被動(dòng)救濟(jì)、正和共贏而非零和博弈的全周期數(shù)字正義價(jià)值觀。

數(shù)據(jù)不同于石油、天然氣等不可再生資源，不會(huì)因過(guò)度使用而枯竭。隱私計(jì)算旨在解決數(shù)據(jù)規(guī)范共享的痛點(diǎn)，以滿足企業(yè)和部門間數(shù)據(jù)效能釋放的剛需。目前，我國(guó)已經(jīng)形成較為成熟的隱私計(jì)算應(yīng)用場(chǎng)景。例如，在小微信貸業(yè)務(wù)中，金融機(jī)構(gòu)如果要對(duì)企業(yè)進(jìn)行準(zhǔn)確的資信審查，必須對(duì)企業(yè)的銷售、物流、財(cái)務(wù)、倉(cāng)儲(chǔ)、稅務(wù)等數(shù)據(jù)進(jìn)行交叉驗(yàn)證，但金融機(jī)構(gòu)通常只能申請(qǐng)貸款企業(yè)提供的基本數(shù)據(jù)以及過(guò)往的業(yè)務(wù)數(shù)據(jù)；多方安全計(jì)算可在數(shù)據(jù)不出本地的情況下解決機(jī)構(gòu)間信息不對(duì)稱、判別不精確、風(fēng)險(xiǎn)難以識(shí)別等問(wèn)題，拓展中小微企業(yè)的融資渠道。再者，鑒于醫(yī)療數(shù)據(jù)的敏感性，智慧醫(yī)療服務(wù)商很難同時(shí)掌握來(lái)自醫(yī)療報(bào)告、基因序列、病理特征、生理狀況等不同源頭的樣本足夠、特征完整、能夠全面反映患者癥狀的數(shù)據(jù)；聯(lián)邦學(xué)習(xí)為此類問(wèn)題提供了解決方案，無(wú)需交換各個(gè)機(jī)構(gòu)的私有數(shù)據(jù)，便能協(xié)同各方參與診療模型的訓(xùn)練。對(duì)于那些具有安全保密級(jí)別的內(nèi)部信息不能明文共享的困境，相關(guān)部門通過(guò)可信執(zhí)行環(huán)境的構(gòu)建，創(chuàng)造無(wú)風(fēng)險(xiǎn)聚合內(nèi)部信息的封閉環(huán)境，實(shí)現(xiàn)對(duì)特殊安全級(jí)別信息的處理。

隱私計(jì)算的主要風(fēng)險(xiǎn)

隱私計(jì)算雖在破除行業(yè)壁壘、化解信息孤島方面具有得天獨(dú)厚的優(yōu)勢(shì)，但當(dāng)前各項(xiàng)技術(shù)面臨通信開(kāi)銷大、性能效率低、傳輸復(fù)雜度高、與主流技術(shù)體系磨合不佳等瓶頸，且存在三方面的系統(tǒng)性風(fēng)險(xiǎn)。

對(duì)公共安全等方面構(gòu)成威脅。隱私計(jì)算是嵌入數(shù)據(jù)處理環(huán)節(jié)的基礎(chǔ)性技術(shù)，應(yīng)用不當(dāng)極有可能造成傳統(tǒng)算法歧視的泛化和異化，導(dǎo)致自動(dòng)化決策失誤。因此，對(duì)公共部門、醫(yī)療領(lǐng)域等這些與公民基本權(quán)利、公共安全密切相關(guān)場(chǎng)景中的隱私計(jì)算應(yīng)用，必須進(jìn)行嚴(yán)格監(jiān)管和治理。

數(shù)據(jù)處理活動(dòng)的責(zé)任主體虛化。由于有為數(shù)眾多的參與方橫亙?cè)跀?shù)據(jù)處理者和數(shù)據(jù)主體之間，數(shù)據(jù)處理的層層委托經(jīng)常演化為“層層甩鍋”，連帶責(zé)任和分配責(zé)任等制度安排均無(wú)法實(shí)現(xiàn)實(shí)質(zhì)正義。因此，以數(shù)據(jù)主體為保護(hù)對(duì)象的法律關(guān)系，須在“數(shù)據(jù)處理復(fù)合化”的語(yǔ)境下進(jìn)行重構(gòu)。

無(wú)法完全保證數(shù)據(jù)安全。隱私計(jì)算的過(guò)程具有“半透明性”，意味著攻擊者可以偽裝成誠(chéng)實(shí)參與方竊取運(yùn)算結(jié)果、破解可信環(huán)境或植入惡意代碼。研究表明，即便有所防范，訓(xùn)練集中只要包含3%的中毒數(shù)據(jù)，模型誤差將從12%上升至23%。通過(guò)反匯編語(yǔ)言，惡意參與方可以將病毒等悄無(wú)聲息地傳輸至目標(biāo)設(shè)備中，攻擊成功的概率在九成以上。因此，適用于隱私計(jì)算的技術(shù)安全流程，有必要通過(guò)技術(shù)手段予以改良。

如何應(yīng)對(duì)隱私計(jì)算的風(fēng)險(xiǎn)

當(dāng)前，各國(guó)圍繞隱私計(jì)算的立法多停留在“政策促進(jìn)”、“應(yīng)用指引”、“技術(shù)標(biāo)準(zhǔn)”和“部門立法”層面，尚未形成可因應(yīng)發(fā)展性風(fēng)險(xiǎn)的動(dòng)態(tài)規(guī)范。因此，應(yīng)超越傳統(tǒng)人工智能法律規(guī)制的路徑依賴，采取新方法、新手段回應(yīng)隱私計(jì)算帶來(lái)的新問(wèn)題、新挑戰(zhàn)。隱私計(jì)算的良法善治有賴于個(gè)人信息保護(hù)和技術(shù)效能釋放的精妙平衡，具體的應(yīng)對(duì)策略可從技術(shù)和法律層面分別展開(kāi)。

在技術(shù)層面，可通過(guò)三種方式構(gòu)建“根植式”的中心化管理機(jī)制。提升安全事件的溯源能力。其一是統(tǒng)一身份認(rèn)證管理，可結(jié)合云平臺(tái)指紋、人臉、聲紋、掃碼等多因素推行細(xì)粒度即將業(yè)務(wù)模行中的對(duì)象加以細(xì)分從而實(shí)現(xiàn)訪問(wèn)控制，建立支持服務(wù)器集群認(rèn)定和客戶端與服務(wù)器之間的雙通道認(rèn)定機(jī)制，利用服務(wù)器證書等技術(shù)手段嚴(yán)控應(yīng)用層、傳輸層的數(shù)據(jù)傳輸，在應(yīng)用邊界內(nèi)構(gòu)建零信任數(shù)據(jù)控制體系。其二是統(tǒng)一資產(chǎn)管理，所有隱私計(jì)算的機(jī)構(gòu)參與方應(yīng)通過(guò)協(xié)商建立資金池，共同應(yīng)對(duì)技術(shù)升級(jí)、安全維護(hù)以及侵權(quán)賠償?shù)取?duì)機(jī)構(gòu)參與方的資產(chǎn)投入實(shí)施臺(tái)賬管理，建立方便機(jī)構(gòu)參與方資產(chǎn)“入網(wǎng)—變更—監(jiān)控—退網(wǎng)”流程的智能平臺(tái)，實(shí)現(xiàn)資產(chǎn)數(shù)據(jù)的盤點(diǎn)展示、查缺補(bǔ)漏、動(dòng)態(tài)更新和責(zé)任鏈化。其三是統(tǒng)一日志審計(jì)管理，宜在隱私計(jì)算數(shù)據(jù)加密傳輸?shù)幕A(chǔ)上，支持分布式實(shí)時(shí)計(jì)算組件對(duì)接過(guò)程性數(shù)據(jù)，全方位感知數(shù)據(jù)安全態(tài)勢(shì)。一方面，監(jiān)控異常瀏覽軌跡、賬號(hào)違規(guī)共享、數(shù)據(jù)惡意投毒、高危指令錄入、非正常模型運(yùn)算等行為；另一方面，將過(guò)程數(shù)據(jù)儲(chǔ)存至彈性搜索引擎的服務(wù)器中，配合隨機(jī)森林算法對(duì)打標(biāo)數(shù)據(jù)進(jìn)行安全感知分析和威脅預(yù)判處理。

在法律層面，可通過(guò)三方面措施健全平衡隱私計(jì)算各參與方利益、促進(jìn)技術(shù)增益數(shù)據(jù)價(jià)值、保護(hù)數(shù)據(jù)主體綜合權(quán)益的法律框架。其一是完善風(fēng)險(xiǎn)控制的外部審查制度。隱私計(jì)算的執(zhí)行方案，必須經(jīng)過(guò)獨(dú)立的第三方機(jī)構(gòu)審查，參與審查的專家委員會(huì)由具備相關(guān)技術(shù)背景、同各參與方無(wú)利益往來(lái)的專家組成。“專家會(huì)診”不宜簡(jiǎn)單地將安全凌駕于精準(zhǔn)度、效率、公平和收益等價(jià)值之上，而需要通過(guò)最低限度的盡職調(diào)查，平衡縱橫交錯(cuò)的多元訴求，在保障基本安全的前提下盡可能促進(jìn)數(shù)據(jù)價(jià)值的變現(xiàn)。其二是引入以變應(yīng)變的知情同意框架。知情同意框架是數(shù)據(jù)處理活動(dòng)的“第一閘口”，數(shù)據(jù)主體因知情而同意或不同意，共同勾勒出數(shù)據(jù)處理活動(dòng)的能動(dòng)性邊界。隱私計(jì)算的動(dòng)態(tài)特征，決定了知情同意框架也要相應(yīng)改進(jìn)，數(shù)據(jù)主體只有做到與時(shí)俱進(jìn)的“知曉”，才能作出真正符合其意思表示的“同意”，否則無(wú)異于“刻舟求劍”。數(shù)據(jù)處理者必須就關(guān)鍵事項(xiàng)的改變同數(shù)據(jù)主體依次達(dá)成合意。其三是細(xì)化數(shù)據(jù)主體的法律權(quán)利保障。無(wú)權(quán)利則無(wú)救濟(jì)，“個(gè)人信息自決”觀念下的知情權(quán)、獲解釋權(quán)、拒絕權(quán)、更正權(quán)、刪除權(quán)、被遺忘權(quán)等，在隱私計(jì)算中仍然有適用的空間，除此之外，還應(yīng)加速人工干預(yù)權(quán)、脫離自動(dòng)化決策權(quán)、免受算法支配權(quán)等新興權(quán)利的立法工作，確保數(shù)據(jù)主體面對(duì)隱私計(jì)算要約時(shí)，有為自身權(quán)益“討價(jià)還價(jià)”的籌碼。