摘 要:隨著數據規(guī)模的急劇擴大和運算能力的飛躍提升，算法算力作為個人、企業(yè)及政府定位新坐標、把握新動向、選擇新進路的關鍵依托和基礎工具，日益滲進社會各領域。然而，算法的廣泛應用在推動新時代經濟高質量發(fā)展的同時，也對現(xiàn)行的經濟社會法治化治理模式和方法提出了挑戰(zhàn)。對此，應以算法算力從開發(fā)到應用全過程為基礎，從國家、企業(yè)、個人三大主體出發(fā)，構建規(guī)制體系，夯實法治根基。

關鍵詞:算法算力 算法治理 法治體系

【中圖分類號】TP18 【文獻標識碼】A

算法是實現(xiàn)設計程序或完成任務的路徑方法，具有可行性、有窮性、確定性和情報充分性的特點，是計算機科學技術的基礎。算法是數字時代的核心范疇和基本方法，大數據、人工智能、區(qū)塊鏈等先進技術均需依賴各種算法設計或以算法為底層原理。沒有算法的支撐以及強有力的算力供給，今天的許多技術愿景都只是空中樓閣。要想把握數字經濟高質量發(fā)展的脈搏，就必須充分認識算法的必要性與重要性。

數字經濟步入算法時代

算法本身并非一開始就運用于計算機科學，它早先是作為人工思考和處理的一種方法而存在的。隨著計算機的誕生和發(fā)展，算法由于具有可抽象化和程式化的特點，逐漸成為計算機運行的基本方式和思想來源?；ヂ?lián)網時代許多標志性技術，如人工智能、大數據技術、區(qū)塊鏈等，都依賴各種高階算法和強大算力以實現(xiàn)其作用。

人工智能以算法作為運行規(guī)則。人工智能是對人腦智能的模擬，它必須依照一定規(guī)則來實現(xiàn)智能化，而算法恰恰提供了這種運行規(guī)則。被用于人工智能的算法為智能算法。該算法讓計算機系統(tǒng)擁有了自己的“思想”，可以在算法規(guī)則確立的流程下運用算力求解問題?，F(xiàn)如今，算法逐步內化為人工智能的核心和基石，推動人工智能的不斷進步。

大數據技術以算法為支撐。大數據技術的本質是在收集、存儲數據的基礎上，處理、分析數據，并從中提煉出有用信息。數據本身并無意義，其背后所蘊含的信息才是大數據技術追求的終極目的和價值所在。而數據不會自動轉化為人們所需要的信息，而是要經過提取、處理、分析，這就需要借助算法明確數據應用目的，組成數據含義體系，建立數據提取標準，提供數據處理和分析方法，之后借助于算力，為獲取信息奠定基礎。

區(qū)塊鏈以算法構建基礎體系。區(qū)塊鏈是一種分散式數據庫，其最大特點就是去中心化，它無需借助第三方機構作為交易保障，通過全網共享交易數據庫，僅憑一己之力便可建立信用體系。這一特點是以非對稱加密算法和哈希算法為基礎的。非對稱加密算法通過公鑰和私鑰保障交易真實性和個人信息安全，哈希算法則通過散列值使區(qū)塊連接成鏈。倘若沒有密碼學算法為根基，區(qū)塊鏈技術就不可能存在。

算法是當下數字經濟迭代發(fā)展的創(chuàng)新基礎和核心動能。我國在新基建發(fā)展規(guī)劃中多次提及在算法及算力支撐下推動數字基礎和數據新基建的發(fā)展。算法時代已然到來，算法算力已成為數據主體，包括個人、企業(yè)及政府定位新坐標、把握新動向、選擇新進路的關鍵依托和基礎工具。

算法運行對現(xiàn)行治理模式提出新挑戰(zhàn)

算法在推動信息通信技術與計算科學技術融合創(chuàng)新和廣泛應用、積極促進經濟社會發(fā)展的同時，也對現(xiàn)行的經濟社會治理模式和方法提出了新的挑戰(zhàn)。

算法精準推送加劇“信息繭房”效應

“信息繭房”效應指在信息傳播中，公眾由于對信息沒有全方位需求，只關注自己關心的訊息，將自己束縛于如蠶絲織就的“繭房”中的現(xiàn)象。

算法發(fā)展加劇了這種效應。網絡平臺和互聯(lián)網公司通過自動化決策算法，抓取用戶的網絡瀏覽記錄和訪問信息，掌握用戶的需要，之后針對每個用戶推出“私人訂制”，實現(xiàn)信息的“精準推送”，從而招徠更多用戶資源，取得競爭優(yōu)勢。對于用戶來說，這種方式滿足了他們的特定需求，有可取之處，但也有明顯缺點。具體來說，它使用戶長期被同質化信息包圍，被“禁錮”在固定信息籠罩的空間之中，剝奪、損害了用戶全面了解和獲取其他各類信息的權利和機會。但由于這種損害往往是“隱性”的，且外觀中立，很難運用現(xiàn)有法律進行規(guī)范。

算法數據抓取易泄露個人信息

用戶訪問和使用網站或平臺產生的數據大多屬于個人信息的范疇，但現(xiàn)在互聯(lián)網企業(yè)往往未經用戶同意就收集和提取用戶私人信息，對公民個人信息權利構成了侵犯。而除了直接非法收集、使用公民個人信息的侵權行為外，還有一種間接、隱蔽的侵權行為，即算法預測。當前，通過算法分析合法獲取用戶數據，并預測公民個人信息，成為侵犯個人隱私的新方式。值得注意的是，與大數據結合后，預測的準確率越來越高。例如，F(xiàn)acebook的算法根據用戶提供的種族、職業(yè)等少量個人信息就能推斷出用戶的性取向，且準確率高達80%左右。全美第二大零售企業(yè) Target公司曾根據算法分析，向一位已孕未成年少女郵寄嬰兒用品手冊，其法定監(jiān)護人卻根本不知其已懷孕。如今，日益智能化的算法，同大數據等技術相融合，不斷沖擊著現(xiàn)有的公民個人信息和隱私保護體系。

算法自動化決策擴散權益損害風險

隨著各種新型高端算法的涌現(xiàn)，人工智能逐步被開發(fā)出來。依據算法進行自動化決策的人工智能便利了人類生活，也產生了更為復雜的權益損害責任問題，如智能投顧對金融消費者權益的損害責任問題和智能合約的損失責任問題。

根據美國證券交易委員會的定義，智能投顧是基于在線算法為客戶提供的資產管理服務。智能投顧依據算法自動為金融消費者提供資產管理方案，當智能投顧因算法不合理、系統(tǒng)故障等因素造成金融消費者資產損失時，責任由誰承擔、以何種方式承擔、損失具體金額如何計算，都是非常棘手的問題。

智能合約的損失責任問題主要來自于區(qū)塊鏈。交易雙方達成合約后，根據算法，系統(tǒng)會將交易記錄記入區(qū)塊，無需當事人操作而自動履行合約。與傳統(tǒng)合同不同的是，智能合約一經達成，便不能變更或解除。當事人因情勢變化要變更、解除合同時，如何處理系統(tǒng)按照算法繼續(xù)執(zhí)行而造成的損失，也是一大難題。

概言之，算法自動化決策在提高人們的生活質量和工作效率的同時，也引發(fā)了更加復雜的風險問題，這些問題都是當下難以解決的。

算法合謀引發(fā)競爭規(guī)制難題

算法合謀大致可分為算法輔助型合謀和算法自動型合謀，而后者已構成當前全球各個國家和地區(qū)反壟斷法規(guī)制的一大難題。壟斷協(xié)議以經營者之間存在合謀為構成要件。隨著“互聯(lián)網+”經濟的深度發(fā)展，算法被引入市場，成為經營者合謀新形式。算法合謀中，經營者以邏輯相同或相似的算法，借助大數據技術，收集并分析自身經營狀況、其他經營者經營狀況和市場行情等數據，得出各經營者利益最大化的合謀條件并傳遞給其他經營者，并根據市場動態(tài)變化調整經營行為，同時通過算法識別、察覺偏離合謀的經營者行為并加以打擊報復以維持合謀穩(wěn)定。

算法合謀突破了協(xié)議、決定和協(xié)同行為等傳統(tǒng)合謀形式，經營者間無需做出任何表示行為即可達成合謀。這樣一來，反壟斷法執(zhí)法機關就難以識別和處理不良競爭行為。同時，合謀內容是通過算法形成的，與人的意志無直接關聯(lián)，也為經營者逃避反壟斷法的規(guī)制提供了借口?？偟膩碚f，算法的運用為壟斷協(xié)議提供一個極為隱蔽、動態(tài)調整和精準迅速的合謀工具，使傳統(tǒng)反壟斷法面臨巨大考驗。

算法歧視導致用戶陷入保護困境

算法不可能在任何情況下都準確無誤，某些情況下算法運行會產生與人類常識和倫理相違背的結果，其中一個問題就是因算法導致對不同人群的歧視。這種歧視問題的產生主要包括內部和外部兩種因素。

內部因素是指算法自身不可避免的缺陷?，F(xiàn)有技術本身存在局限性，所以算法在現(xiàn)有技術下運行會出現(xiàn)錯誤。例如，早期的一些人像識別算法由于圖像獲取技術的局限而出現(xiàn)過將黑人誤識為黑猩猩的情況。同時，算法獲取、使用的數據中還會包括問題數據，這便會造成誤差，當誤差積累到一定程度，就會發(fā)生質變，導致歧視。這種內部因素所導致的問題往往是不可控制、無法避免的。

外部因素是指算法之外人為導致的問題。基于技術中立性原則，算法本身沒有傾向。但算法并非完全客觀的產物，其代碼是開發(fā)者編寫的，開發(fā)者是有主觀意識的人，所以算法自然帶有人的主觀意識，當主觀意識中有偏私并被寫入代碼中，就會產生歧視的可能性。譬如“算法殺熟”造成的價格歧視，是指算法通過收集、分析消費者消費信息，了解其喜好，當消費者頻繁購買某種商品和服務時，算法發(fā)出高于正常價格的要約，形成歧視。

完善治理算法的法治體系

如果說數據是新時代經濟發(fā)展的“石油”，那么算法就是數據“石油”的“煉油廠”，算力就是“煉油廠”的生產、萃取和傳輸能力，即實質影響數據處理效能與效益的能力。要想充分挖掘數據價值，推動數字經濟發(fā)展，實現(xiàn)互聯(lián)網經濟的提質增效，就必須加快完善法律規(guī)制，使算法算力對經濟發(fā)展產生正向的引領和驅動效用。為此，應以算法算力從開發(fā)到應用全過程為基礎，從國家、企業(yè)、個人三大主體出發(fā)，構建規(guī)制體系。

加快相關法律規(guī)范的科學有效供給

我國算法的法規(guī)制定處于起步階段，相關規(guī)范散見于《民法總則》《刑法》《網絡安全法》《電子商務法》等法律以及《數據安全管理辦法》《信息安全技術個人信息安全規(guī)范》等行政法規(guī)和部門規(guī)章中。總體來講，算法法規(guī)數量少、內容粗略，規(guī)范間缺乏統(tǒng)一銜接，可操作性不強，未形成科學有效、層級合理的規(guī)范體系。因此，建議整合現(xiàn)有規(guī)范，修改、刪除不合理的規(guī)范，保留、完善仍有價值的規(guī)范，同時補充制定反應算法特征的新規(guī)范，形成以一部專門法律為主、其他各級各類規(guī)范性文件為補充的穩(wěn)定性和靈活性相結合的關于算法治理的規(guī)制體系。同時，明確算法規(guī)制基本原則，建立算法規(guī)制具體規(guī)范，特別是對算法濫用、算法合謀、算法歧視、算法霸凌等新型侵權甚至是違法行為做出制度規(guī)范。針對算法從開發(fā)到應用的全過程，構建體系完整、標準統(tǒng)一、權責明確、有機聯(lián)系的法律規(guī)范體系，為算法行業(yè)及其產業(yè)化的持續(xù)健康發(fā)展提供法治基礎。

堅持政府監(jiān)管和行業(yè)自律相結合

監(jiān)管算法不僅需要公權力介入，同時也需要民間自律。當前算法行業(yè)專業(yè)化程度越來越高，對監(jiān)管部門的專業(yè)化要求也越來越高。而許多行政執(zhí)法機構和人員缺乏相關專業(yè)知識，監(jiān)管時力不從心，且如果完全由政府來監(jiān)管，不僅會增加行政成本，還會浪費行政力量資源，因此，應堅持政府監(jiān)管和行業(yè)自律相結合。

在體系構建上，應建立以中央和國家網信部門為統(tǒng)籌、國務院和地方各級各主管部門分工協(xié)作的行政監(jiān)管體系，以及涵蓋全國各級互聯(lián)網、數據信息行業(yè)協(xié)會和第三方專業(yè)機構的行業(yè)監(jiān)管體系。將監(jiān)管部門的審查工作部分讓渡給協(xié)會或經過認證的第三方專業(yè)機構，明確政府和協(xié)會、機構的權責邊界；在監(jiān)管方式上，建立算法使用前的第三方專業(yè)機構審查機制、算法使用過程中監(jiān)管部門隨機抽查機制以及出現(xiàn)問題后監(jiān)管部門和第三方機構共同調查追責機制。由此，形成政府與民間合作、內部和外部合力、動態(tài)同靜態(tài)結合的全方位算法監(jiān)管體系。

劃定用戶、企業(yè)權益及政府權力運行邊界

算法不僅涉及到開發(fā)和使用算法的互聯(lián)網企業(yè)的權益，同時也與使用網絡產品和服務的用戶權益緊密相關。因此應明晰劃分用戶和企業(yè)的權益邊界。具體來說，就是要明確規(guī)定用戶在使用網絡產品和服務過程中有哪些權利和義務、企業(yè)在開發(fā)和使用算法中有哪些權利和義務、用戶和企業(yè)違反法律規(guī)定應承擔何種責任以及責任的承擔方式和分配原則等。

除用戶和企業(yè)外，政府也是算法使用者，政府在社會治理中也需要算法算力輔助。因此，算法規(guī)制應在國家和個體之間尋求平衡點；應立法規(guī)定政府開發(fā)和使用算法的事前審查機制、算法所涉對象的異議提出和處理機制以及權益受損救濟和追責機制，從而厘定個體權益邊界和公權力行使邊界，使算法不僅助力經濟社會發(fā)展，也為國家治理體系和治理能力現(xiàn)代化建設做出貢獻。

為算法算力發(fā)展筑牢法治根基

縱觀人類歷史上的技術變革，無一不推動生產力水平整體躍升，進而重塑社會上層建筑。金屬制造技術和灌溉技術的發(fā)明和演進推動了奴隸制的瓦解和封建制度的孕育；蒸汽機的問世引領工業(yè)革命，催生資本主義大工業(yè)，為打破封建壁壘和確立自由資本主義制度提供了條件；發(fā)電機和電動機在使人類步入電氣時代的同時，也催生了壟斷資本主義制度；半導體、計算機、人工智能等第四次科技革命標志性技術的出現(xiàn)，拉開了信息時代技術高速發(fā)展的大幕，促進了社會治理體系向信息化深度發(fā)展。今天，高端算法和強大算力的發(fā)展加快了科技與法律的深度融合，對法治社會建設提出了更高標準和更嚴要求，相關法律制度必須與時俱進、革故鼎新，從算法全過程出發(fā)，加強對各類主體行為的規(guī)范化管理，實現(xiàn)多元利益的統(tǒng)籌兼顧，為算法算力的發(fā)展筑牢法治根基。

【本文作者為南開大學法學院教授、競爭法律與政策研究中心執(zhí)行主任；本文系教育部人文社會科學重點基地重大項目“全球數據競爭中人權基準的考量與促進研究”（項目編號：19JJD820009）和天津市教委社會科學重大項目“天津市人工智能產業(yè)發(fā)展的經濟法治保障”（項目編號：2019JWZD20）階段性成果；南開大學法學院經濟法學碩士研究生趙秉元對本文亦有貢獻】

責編：賀勝蘭 / 羅 婷

聲明：本文為《國家治理》周刊原創(chuàng)內容，任何單位或個人轉載請回復國家治理周刊微信號獲得授權，轉載時務必標明來源及作者，否則追究法律責任。