【摘要】大數(shù)據(jù)“殺熟”是“隱形的機(jī)器”在進(jìn)行“隱匿地算計(jì)”，其實(shí)質(zhì)是“服務(wù)器殺熟”。人類必須面對從“機(jī)械復(fù)制時(shí)代”到“機(jī)器算計(jì)時(shí)代”的變化。治理大數(shù)據(jù)“殺熟”，要?jiǎng)χ阜?wù)器。很多事情，事出有因，要因時(shí)因地因人處理，一事一議，不可一刀切；但治理大數(shù)據(jù)“殺熟”，就需要“一刀切”。

【關(guān)鍵詞】大數(shù)據(jù) “殺熟” 機(jī)器 服務(wù)器 技術(shù)

【中圖分類號(hào)】C913 【文獻(xiàn)標(biāo)識(shí)碼】A

大數(shù)據(jù)“殺熟”不是偶然的案例，而是普遍的現(xiàn)象。它依據(jù)的是一整套特定的程序，符合程序條件的人無一幸免。程序化的行為，必然產(chǎn)生批量化的結(jié)果。2019年3月27日北京市消協(xié)對外公布的調(diào)查結(jié)果，從人口學(xué)意義上證實(shí)了大數(shù)據(jù)“殺熟”的普遍性。被調(diào)查者中，認(rèn)為大數(shù)據(jù)“殺熟”現(xiàn)象很普遍的達(dá)88.32%，有過被大數(shù)據(jù)“殺熟”經(jīng)歷的則超過50%。

當(dāng)一個(gè)現(xiàn)象反復(fù)出現(xiàn)時(shí)，就不能從個(gè)別性那里找原因，而要從普遍性里找答案。北京市消協(xié)建議盡快健全法律法規(guī)，建立相應(yīng)的大數(shù)據(jù)網(wǎng)上監(jiān)管平臺(tái)。但問題是，監(jiān)管對象到底是哪個(gè)？是大數(shù)據(jù)，還是運(yùn)用大數(shù)據(jù)的互聯(lián)網(wǎng)企業(yè)？要回答好這個(gè)問題，首先要搞清楚大數(shù)據(jù)“殺熟”的實(shí)施主體是誰。

不是大數(shù)據(jù)“殺熟”而是“服務(wù)器殺熟”，人類必須面對從“機(jī)械復(fù)制時(shí)代”到“機(jī)器算計(jì)時(shí)代”的變化

大數(shù)據(jù)“殺熟”是一個(gè)似是而非的概念，其完整而準(zhǔn)確的表達(dá)是：某些互聯(lián)網(wǎng)企業(yè)運(yùn)用大數(shù)據(jù)技術(shù)“殺熟”，簡稱也應(yīng)該是“用大數(shù)據(jù)殺熟”。所以，“殺熟”的主體，不是大數(shù)據(jù)，也不是大數(shù)據(jù)技術(shù)，它們只是“殺熟”的手段與工具。用大數(shù)據(jù)技術(shù)“殺熟”的主體，當(dāng)然是互聯(lián)網(wǎng)企業(yè)。因此，一切運(yùn)用大數(shù)據(jù)技術(shù)進(jìn)行市場運(yùn)營的互聯(lián)網(wǎng)企業(yè)，自然就是政府部門治理大數(shù)據(jù)“殺熟”的監(jiān)管對象。但互聯(lián)網(wǎng)企業(yè)板塊很多，監(jiān)管的領(lǐng)域也五花八門?；\統(tǒng)地把整個(gè)互聯(lián)網(wǎng)企業(yè)視為監(jiān)管對象，正確卻并不到位。正如，傳統(tǒng)的“殺熟”，雖然其主體也是企業(yè)，但一定有一個(gè)具體的人來實(shí)施，比如營業(yè)員或服務(wù)員，他們是“殺熟”的具體實(shí)施主體。運(yùn)用大數(shù)據(jù)“殺熟”的互聯(lián)網(wǎng)企業(yè)也應(yīng)該有一個(gè)更具體的實(shí)施主體，只不過它不再是具體的人，而是服務(wù)器。服務(wù)器是一個(gè)具有虛擬人格的機(jī)器，大數(shù)據(jù)“殺熟”，都是由服務(wù)器具體實(shí)施的。所以，大數(shù)據(jù)“殺熟”的實(shí)質(zhì)是“服務(wù)器殺熟”。

大數(shù)據(jù)“殺熟”的實(shí)施主體是服務(wù)器，服務(wù)器是一種特殊的機(jī)器，其特殊性有二：一是隱蔽性。服務(wù)器是一種“隱形的機(jī)器”，你平時(shí)看不到，甚至感覺不到它的存在。二是計(jì)算性。服務(wù)器具有超強(qiáng)的計(jì)算能力，機(jī)器既然可以計(jì)算，也就能夠被利用來進(jìn)行算計(jì)。這兩種特點(diǎn)一結(jié)合，就為服務(wù)器對人類進(jìn)行“隱匿的算計(jì)”創(chuàng)造了條件。

從工業(yè)化時(shí)代開始，人們就一直警惕機(jī)器對人類的異化。人們一方面歡呼機(jī)器作為工業(yè)文明的標(biāo)志帶給人類的進(jìn)步，另一方面也看到機(jī)器帶給人類一系列的負(fù)面作用。比如德國思想家瓦爾特·本雅明（Walter Benjamin）就注意到機(jī)器對人類個(gè)性、創(chuàng)造力帶來的侵蝕，提醒人類進(jìn)入到一個(gè)“機(jī)械的復(fù)制時(shí)代”。機(jī)器的復(fù)制能力，既是人類改造世界、改善生活需要利用的工具，又是人類需要時(shí)刻警醒以避免淪為其奴隸的對象。

計(jì)算機(jī)是強(qiáng)大的計(jì)算工具，也可以成為強(qiáng)大的算計(jì)工具。人類進(jìn)入計(jì)算機(jī)時(shí)代，也同時(shí)進(jìn)入了一個(gè)機(jī)器可以對人類進(jìn)行算計(jì)的時(shí)代。人類必須面對從“機(jī)械復(fù)制時(shí)代”到“機(jī)器算計(jì)時(shí)代”的變化。服務(wù)器是“機(jī)器算計(jì)時(shí)代”的隱形殺手，大數(shù)據(jù)“殺熟”是“機(jī)器算計(jì)時(shí)代”最典型的現(xiàn)象。

因?yàn)榇髷?shù)據(jù)“殺熟”的實(shí)施主體是服務(wù)器，所以對大數(shù)據(jù)“殺熟”的治理就必須圍繞服務(wù)器進(jìn)行，放過服務(wù)器是大數(shù)據(jù)“殺熟”治理的最大誤區(qū)。一般來說，對違規(guī)的傳統(tǒng)監(jiān)管是通過管理產(chǎn)品來進(jìn)行的，比如，有關(guān)部門管理餅干的質(zhì)量，并不管理生產(chǎn)餅干的機(jī)器。但大數(shù)據(jù)“殺熟”，倒逼日常生活的監(jiān)管必須從對機(jī)器的管理開始，因?yàn)檫@些機(jī)器已經(jīng)開始智能化。所以，不管是保護(hù)消費(fèi)者，還是監(jiān)管企業(yè)，離開服務(wù)器，治理大數(shù)據(jù)“殺熟”就是一句空話。傳統(tǒng)對大數(shù)據(jù)“殺熟”的治理，往往依賴消費(fèi)者的舉報(bào)，習(xí)慣用個(gè)案處理個(gè)案，管理部門被動(dòng)反應(yīng)，不告不理。

治理大數(shù)據(jù)“殺熟”，要注意三點(diǎn)：一是不能依賴消費(fèi)者舉報(bào)。消費(fèi)者與服務(wù)器相比，一個(gè)是明處，一個(gè)是暗處；一個(gè)是隨機(jī)，一個(gè)是精心設(shè)計(jì)。在計(jì)算能力上，消費(fèi)者與服務(wù)器相差何止千萬；在算計(jì)能力與反算計(jì)能力上，消費(fèi)者也根本不是服務(wù)器的對手。依賴消費(fèi)者舉報(bào)來治理大數(shù)據(jù)“殺熟”，或者通過提高消費(fèi)者識(shí)別能力來避免大數(shù)據(jù)“殺熟”，不是杯水車薪，就是緣木求魚。二是不能用個(gè)案處理個(gè)案。很多事情，事出有因，要因時(shí)因地因人處理，一事一議，不可一刀切。但治理大數(shù)據(jù)“殺熟”，就需要“一刀切”。這一刀，要切到要害上，這個(gè)要害就是服務(wù)器的程序，大數(shù)據(jù)“殺熟”是服務(wù)器通過程序設(shè)定來實(shí)施的。只糾個(gè)案，程序不改，就是殺對一個(gè)，錯(cuò)放一萬。服務(wù)器的程序沒有得到有效的監(jiān)控，治理大數(shù)據(jù)“殺熟”就是隔靴搔癢。三是不能被動(dòng)反應(yīng)，不能不告不理。因?yàn)榇髷?shù)據(jù)“殺熟”一旦發(fā)生，就不是個(gè)案，就是程序性行為，就會(huì)產(chǎn)生批量化后果。要避免災(zāi)難性后果大批量地發(fā)生，就必須程序前置。

大數(shù)據(jù)“殺熟”的深層機(jī)理是技術(shù)特權(quán)

大數(shù)據(jù)“殺熟”宰客于無形之中，其信息不對稱背后是技術(shù)不對稱。新技術(shù)革命帶給人類的好處毋庸置疑，但新技術(shù)也帶來了消極后果，其中之一就是技術(shù)特權(quán)。技術(shù)特權(quán)通過兩種方式獲得，一個(gè)是技術(shù)依賴，一個(gè)是技術(shù)壁壘。

新技術(shù)革命通過提高生產(chǎn)力水平，給人們帶來更廉價(jià)的產(chǎn)品與更便捷的服務(wù)，人們青睞新技術(shù)，最后形成對新技術(shù)的路徑依賴。人們購物離不開淘寶等APP，旅游離不開攜程等網(wǎng)站，坐車離不開滴滴等工具，外賣離不開美團(tuán)等服務(wù)，人們在購買其產(chǎn)品與服務(wù)的同時(shí)，不得不進(jìn)入其相關(guān)的技術(shù)路徑，使用其技術(shù)程序，這就為一些不良公司進(jìn)行大數(shù)據(jù)“殺熟”提供了“請君入甕”的便利條件。

新媒體新技術(shù)時(shí)代，人們切身感受到兩種壁壘，一種是新媒體帶來的話語壁壘，一種是新技術(shù)帶來的技術(shù)壁壘。特別是技術(shù)壁壘，在層出不窮地推出一代代更新的傻瓜化產(chǎn)品的同時(shí)，也一步步把人隔絕在技術(shù)的鴻溝之外。看似降低了技術(shù)門檻，比如一個(gè)素人，可以用無人機(jī)進(jìn)行航拍，可以用修圖軟件進(jìn)行圖片編輯，可以用視頻軟件進(jìn)行剪輯，可以極大地激發(fā)人們的創(chuàng)造力，但對相關(guān)軟件的依賴，使人們越來越傻瓜化，越來越不懂技術(shù)背后的機(jī)理。會(huì)用卻不懂，這樣的技術(shù)壁壘就為技術(shù)“隱匿式侵害”建構(gòu)了一個(gè)“保護(hù)傘”。

大數(shù)據(jù)“殺熟”現(xiàn)象就是這種技術(shù)壁壘在起作用。技術(shù)壁壘阻礙兩種監(jiān)督，一個(gè)是阻礙消費(fèi)者的監(jiān)督，消費(fèi)者不懂新技術(shù)，沒有能力監(jiān)督；一個(gè)是阻礙監(jiān)管部門監(jiān)督，新技術(shù)不斷更新，監(jiān)管部門跟不上監(jiān)督。技術(shù)特權(quán)群體（階層）的生成是無法避免的。只要有新技術(shù)的產(chǎn)生，就會(huì)刺激技術(shù)依賴，形成技術(shù)壁壘，產(chǎn)生技術(shù)特權(quán)，并生成一個(gè)個(gè)特定的技術(shù)特權(quán)群體（階層）。政府要做的不是阻擋這個(gè)技術(shù)特權(quán)群體（階層）的生成，而是阻擋他們?yōu)樗麨?。而阻擋技術(shù)特權(quán)者為所欲為，一靠政策邊界，二靠法律壁壘。用政策邊界消解技術(shù)依賴，用法律壁壘抗衡技術(shù)壁壘。

治理大數(shù)據(jù)“殺熟”，要加強(qiáng)對機(jī)器特別是智能化機(jī)器的管理

治理大數(shù)據(jù)“殺熟”，一靠政策，二靠法律。但政策與法律要落到實(shí)處，一是要落到對象上，對象就是大數(shù)據(jù)“殺熟”的實(shí)施主體——服務(wù)器；二是要落到方法上，方法就是要用技術(shù)來管理技術(shù)。在監(jiān)管對象上，必須形成一整套對服務(wù)器管理的政策法律法規(guī)，使有關(guān)部門對服務(wù)器的監(jiān)管有章可依、有法可循。比如服務(wù)器涉及公平正義層面的檢測制度、認(rèn)證制度。我們對交通工具都有一整套年審驗(yàn)收制度，對于同樣對社會(huì)影響巨大的服務(wù)器工具，也應(yīng)該有相應(yīng)的法律法規(guī)制度。目前，各大公司都制定有內(nèi)部執(zhí)行的服務(wù)器管理辦法，但國家層面的服務(wù)器管理政策法規(guī)還缺失。在監(jiān)管方法上，要學(xué)習(xí)用技術(shù)來管理技術(shù)。服務(wù)器靠技術(shù)吃飯，監(jiān)管服務(wù)器也要用上技術(shù)的菜單。技術(shù)是大數(shù)據(jù)“殺熟”的通行證，治理大數(shù)據(jù)“殺熟”就必須用技術(shù)來給服務(wù)器設(shè)置紅綠燈。

同時(shí)，服務(wù)器說到底就是一整套程序，大數(shù)據(jù)“殺熟”就是服務(wù)器一個(gè)不得人心的程序。要治理大數(shù)據(jù)“殺熟”，就要用程序來管理程序。這個(gè)程序不僅指的是法律法規(guī)的程序，更指的是算法語言的程序，也即要用軟件來管理軟件。政府的管理，要落實(shí)到行之有效的一套管理軟件，可以預(yù)警，可以糾錯(cuò)，可以封堵，也可以放行。

治理大數(shù)據(jù)“殺熟”，不能就事論事，要看到背后是服務(wù)器在作祟，是人和機(jī)器的博弈。人控制機(jī)器，機(jī)器也在反控制人類。特別是人工智能的發(fā)展，智能機(jī)器學(xué)習(xí)能力的進(jìn)步令人瞠目結(jié)舌，發(fā)展的潛力更是令人嘆為觀止。因此，我們在發(fā)展機(jī)器的計(jì)算能力時(shí)，要高度重視機(jī)器對人類的算計(jì)能力，要做好應(yīng)對機(jī)器對人類“算計(jì)能力”的心理準(zhǔn)備、技術(shù)準(zhǔn)備與政策法律準(zhǔn)備，提高人類對機(jī)器的“反算計(jì)能力”。以政策法律準(zhǔn)備為例，應(yīng)該盡早啟動(dòng)“反（機(jī)器）算計(jì)法”的研究與起草。如果說工業(yè)化帶來了壟斷，壟斷成為工業(yè)社會(huì)的新問題，反壟斷則成為工業(yè)時(shí)代法律的新課題；那么，信息化帶來了算計(jì)，算計(jì)成為信息社會(huì)的新問題，反算計(jì)就成為信息時(shí)代法律的新課題。未來，機(jī)器對人類的算計(jì)不只是大數(shù)據(jù)“殺熟”，它會(huì)以各種面目無孔不入地出現(xiàn)在人類面前，未來的“反算計(jì)”一定比過去的“反壟斷”斗爭更加慘烈，更加勢在必行。“反壟斷法”多么重要，“反（機(jī)器）算計(jì)法”就多么重要。

我們在擁抱人工智能時(shí)代的到來，也不得不面對一個(gè)“機(jī)器算計(jì)時(shí)代”的出現(xiàn)。我們無法避免這個(gè)時(shí)代的到來，我們唯一要做的就是提高人類對機(jī)器的“反算計(jì)能力”。“反算計(jì)能力”不僅包括技術(shù)能力、心理能力，也包括法律能力與管理能力。

（作者為廈門大學(xué)新聞傳播學(xué)院教授、博導(dǎo)）

【參考文獻(xiàn)】

①[德]瓦爾特·本雅明著，李偉、郭東譯：《機(jī)械復(fù)制時(shí)代的藝術(shù)》，重慶：重慶出版社，2006年。

責(zé)編/張忠華 美編/陳琳（見習(xí)）

聲明：本文為人民論壇雜志社原創(chuàng)內(nèi)容，任何單位或個(gè)人轉(zhuǎn)載請回復(fù)本微信號(hào)獲得授權(quán)，轉(zhuǎn)載時(shí)務(wù)必標(biāo)明來源及作者，否則追究法律責(zé)任。