作者：中共中央黨校（國(guó)家行政學(xué)院）國(guó)家治理教研部教授、博導(dǎo) 何哲

當(dāng)前，全球人工智能技術(shù)正處于飛速發(fā)展期，尤其是自2023年以來，以生成式大模型為代表的新一代人工智能技術(shù)正在快速迭代并以迅猛的態(tài)勢(shì)向各行各業(yè)滲透。從長(zhǎng)遠(yuǎn)來看，人工智能技術(shù)的出現(xiàn)及其表現(xiàn)出來的巨大潛力，將使人類社會(huì)產(chǎn)生深刻變革，也將給人類社會(huì)帶來重大的歷史轉(zhuǎn)型。

習(xí)近平總書記強(qiáng)調(diào)：“我國(guó)經(jīng)濟(jì)已由高速增長(zhǎng)階段轉(zhuǎn)向高質(zhì)量發(fā)展階段，正處在轉(zhuǎn)變發(fā)展方式、優(yōu)化經(jīng)濟(jì)結(jié)構(gòu)、轉(zhuǎn)換增長(zhǎng)動(dòng)力的攻關(guān)期，迫切需要新一代人工智能等重大創(chuàng)新添薪續(xù)力”“發(fā)展人工智能，將為我國(guó)構(gòu)建現(xiàn)代化經(jīng)濟(jì)體系、實(shí)現(xiàn)高質(zhì)量發(fā)展提供重要支撐”。在這樣的重要?dú)v史時(shí)期，中國(guó)何去何從，不僅關(guān)乎當(dāng)今中國(guó)的經(jīng)濟(jì)社會(huì)發(fā)展、人民生活改善，而且事關(guān)中華民族偉大復(fù)興的宏業(yè)。面向未來，人工智能技術(shù)既要快速發(fā)展，同時(shí)又要確保持續(xù)健康發(fā)展。以習(xí)近平同志為核心的黨中央審時(shí)度勢(shì)，及時(shí)作出了一系列關(guān)于人工智能健康發(fā)展的具有前瞻性的重大決策部署和重要論述，為我國(guó)發(fā)展人工智能提供了行動(dòng)指南和根本遵循。我們要把握其中的指示精神和重要原則，搶抓人工智能健康發(fā)展的歷史性戰(zhàn)略機(jī)遇。

人工智能是引領(lǐng)本輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)

關(guān)于人工智能技術(shù)的重要價(jià)值，習(xí)近平總書記深刻指出：“人工智能是引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，具有溢出帶動(dòng)性很強(qiáng)的‘頭雁’效應(yīng)” “加快發(fā)展新一代人工智能是我們贏得全球科技競(jìng)爭(zhēng)主動(dòng)權(quán)的重要戰(zhàn)略抓手，是推動(dòng)我國(guó)科技跨越發(fā)展、產(chǎn)業(yè)優(yōu)化升級(jí)、生產(chǎn)力整體躍升的重要戰(zhàn)略資源”。

從歷史來看，人類科技的發(fā)展呈現(xiàn)出兩個(gè)明顯規(guī)律：一是短期的技術(shù)躍升和長(zhǎng)期的技術(shù)平臺(tái)期相結(jié)合；二是技術(shù)躍升往往由若干核心技術(shù)成果驅(qū)動(dòng)。

第一條規(guī)律描述的是人類文明的發(fā)展往往呈現(xiàn)出在一個(gè)很短的時(shí)間內(nèi)實(shí)現(xiàn)密集的重大技術(shù)飛躍，文明由此進(jìn)入到一個(gè)新的階段，隨即就會(huì)進(jìn)入到一個(gè)較長(zhǎng)時(shí)間的相對(duì)平穩(wěn)期，直到下一次技術(shù)革命的到來。因此，人類文明的技術(shù)進(jìn)步不是緩慢的線性的，而是階段性跳躍的。習(xí)近平總書記所指出的“這一輪科技革命和產(chǎn)業(yè)變革”，正處于這種階段性跳躍時(shí)期。

第二條規(guī)律是指在歷次技術(shù)革命中，有一些技術(shù)往往起到了關(guān)鍵性的驅(qū)動(dòng)作用，成為技術(shù)革命的核心推動(dòng)力量，也成為文明進(jìn)化的關(guān)鍵驅(qū)動(dòng)。從人類歷史來看，早期人類向文明邁進(jìn)的三項(xiàng)關(guān)鍵性技術(shù)是使用火、進(jìn)行農(nóng)業(yè)種植和使用金屬。進(jìn)入近現(xiàn)代后，第一次工業(yè)革命的核心驅(qū)動(dòng)技術(shù)是蒸汽機(jī)，第二次工業(yè)革命的核心驅(qū)動(dòng)技術(shù)是電動(dòng)機(jī)和內(nèi)燃機(jī)。二戰(zhàn)后則是以核能、計(jì)算機(jī)、航空航天技術(shù)為核心技術(shù)。而當(dāng)前新一輪科技革命，同樣體現(xiàn)出這一特征，其核心技術(shù)包括互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等新一代信息技術(shù)以及如生物技術(shù)、新材料技術(shù)、太空技術(shù)等，但最具有革命性和普遍性的技術(shù)則是人工智能。可以說，從現(xiàn)在開始到未來幾十年，人類整體的社會(huì)結(jié)構(gòu)轉(zhuǎn)型和文明升級(jí)就是主要沿著人工智能技術(shù)引發(fā)的一系列變革展開。這也就是習(xí)近平總書記所指出的“人工智能是引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)”。

要進(jìn)一步理解這一點(diǎn)，還需要從人工智能技術(shù)的三個(gè)基本特性入手：一是智力替代性。人工智能是人類歷史上第一次新的智力資源的大規(guī)模開發(fā)應(yīng)用。以往所有的勞動(dòng)工具革新，都是對(duì)人的體力勞動(dòng)的替代，直到計(jì)算機(jī)的出現(xiàn)才開始對(duì)人類智力勞動(dòng)進(jìn)行一些替代，然而人工智能展現(xiàn)出了能夠深層次高質(zhì)量替代人類智力勞動(dòng)的能力。二是通用性?，F(xiàn)有的大模型人工智能已經(jīng)展現(xiàn)了廣泛的應(yīng)用空間和巨大的應(yīng)用潛力，因此被迅速部署在當(dāng)前人類正在從事的各行各業(yè)中。例如，由AlphaGo發(fā)展而來的AlphaFold在短時(shí)間內(nèi)分析完成了2億個(gè)蛋白質(zhì)結(jié)構(gòu)，而傳統(tǒng)上人類分析一個(gè)結(jié)構(gòu)就需要數(shù)年之久，這遠(yuǎn)超傳統(tǒng)人力的想象。三是具有新的主體性特征。盡管對(duì)于人工智能是否會(huì)演進(jìn)產(chǎn)生主體意識(shí)這一問題目前還沒有明確的答案，但是現(xiàn)有的多模態(tài)大模型人工智能的確可以表現(xiàn)出與人類相似的特征，因此可以扮演各種角色充分融入到人類社會(huì)中，從而既推動(dòng)產(chǎn)業(yè)變革，也引發(fā)社會(huì)變革。這三個(gè)特征，都體現(xiàn)出了人工智能技術(shù)具有戰(zhàn)略性引領(lǐng)作用。

在人工智能領(lǐng)域關(guān)鍵核心技術(shù)占領(lǐng)制高點(diǎn)

正因?yàn)槿斯ぶ悄芗夹g(shù)如此重要，中國(guó)必須要自主掌握好這一技術(shù)。習(xí)近平總書記指出：“確保我國(guó)在人工智能這個(gè)重要領(lǐng)域的理論研究走在前面、關(guān)鍵核心技術(shù)占領(lǐng)制高點(diǎn)。要主攻關(guān)鍵核心技術(shù)，以問題為導(dǎo)向，全面增強(qiáng)人工智能科技創(chuàng)新能力，加快建立新一代人工智能關(guān)鍵共性技術(shù)體系，在短板上抓緊布局，確保人工智能關(guān)鍵核心技術(shù)牢牢掌握在自己手里。”

科學(xué)技術(shù)本質(zhì)上是沒有國(guó)別區(qū)分的，但是掌握技術(shù)的主體卻是有國(guó)別的。在農(nóng)業(yè)文明時(shí)期，中華文明是世界最繁榮璀璨的文明之一。而工業(yè)革命后，西方國(guó)家憑借著工業(yè)革命帶來的先發(fā)技術(shù)優(yōu)勢(shì)，利用船堅(jiān)炮利在世界范圍建立了殖民體系。與之相對(duì)的，則是清朝因?yàn)殄e(cuò)失了工業(yè)革命而成為了相對(duì)落后國(guó)家。因此，任何一場(chǎng)重大的科技革命和產(chǎn)業(yè)變革，都往往意味著文明格局的變化和世界秩序體系的調(diào)整。要實(shí)現(xiàn)中華民族偉大復(fù)興，就不能錯(cuò)過此后任何一次人類重大科技革命，甚至要引領(lǐng)人類的科技革命。

人工智能技術(shù)發(fā)展的關(guān)鍵要素包括算法、算力、素材三者。先說素材方面，我國(guó)由于政策支持力度較大，全社會(huì)數(shù)字化程度較高，各行業(yè)應(yīng)用人工智能較廣，同時(shí)也因?yàn)槲覈?guó)人口眾多，因此在訓(xùn)練人工智能的素材積累上具有優(yōu)勢(shì)；在算力方面，雖然我國(guó)的高性能芯片技術(shù)被個(gè)別國(guó)家圍追堵截，但是依然可以通過堆疊技術(shù)等方式實(shí)現(xiàn)突破；而在算法方面，其已然成為當(dāng)前人工智能發(fā)展的焦點(diǎn)，美國(guó)具有先發(fā)優(yōu)勢(shì)，我國(guó)亦具有巨大的后發(fā)潛力。因?yàn)榘l(fā)展算法，最重要的是要依靠人才。習(xí)近平總書記指出：“培養(yǎng)大批具有創(chuàng)新能力和合作精神的人工智能高端人才，是教育的重要使命。”目前，我國(guó)在理工信息類人才培養(yǎng)方面居于世界領(lǐng)先地位，并且進(jìn)一步加強(qiáng)了人工智能通識(shí)教育。正是得益于人才儲(chǔ)備優(yōu)勢(shì)，在近兩年ChatGPT嶄露頭角后，我國(guó)在生成式人工智能領(lǐng)域迅速實(shí)現(xiàn)追趕，形成“千模涌現(xiàn)”的發(fā)展勢(shì)頭。

人工智能也帶來一系列難以預(yù)知的風(fēng)險(xiǎn)挑戰(zhàn)

歷史證明，在人類發(fā)展過程中，新技術(shù)應(yīng)用往往具有兩面性，能夠在推動(dòng)生產(chǎn)力發(fā)展的同時(shí)，也帶來新的風(fēng)險(xiǎn)和挑戰(zhàn)。正如習(xí)近平總書記指出：“當(dāng)前，新一輪科技革命和產(chǎn)業(yè)變革迅猛發(fā)展，人工智能等新技術(shù)方興未艾，大幅提升了人類認(rèn)識(shí)世界和改造世界的能力，同時(shí)也帶來一系列難以預(yù)知的風(fēng)險(xiǎn)挑戰(zhàn)。”

由于人工智能技術(shù)能力強(qiáng)大、通用性強(qiáng)，未來會(huì)逐漸滲透到人類社會(huì)各個(gè)方面。因此，也將在多個(gè)層面給傳統(tǒng)人類社會(huì)帶來各種風(fēng)險(xiǎn)與挑戰(zhàn)。這些風(fēng)險(xiǎn)挑戰(zhàn)可大致分為以下幾個(gè)方面：

一是隱私泄露。傳統(tǒng)人類社會(huì)的自由很大程度上是建立在自然個(gè)體的隱私保護(hù)基礎(chǔ)上的，當(dāng)全社會(huì)數(shù)字化程度提高后，加之人工智能對(duì)數(shù)據(jù)的分析，使得傳統(tǒng)人類自由的基礎(chǔ)——隱私逐漸消散。任何一個(gè)智能設(shè)備從某種層面講都具有記錄和監(jiān)視功能，人臉識(shí)別、聲紋分析、各種交叉信息的智能識(shí)別都使得人們很難再擁有完整的隱私。

二是勞動(dòng)替代。人工智能是一種人類從未接觸過的強(qiáng)大的新的勞動(dòng)力量，兼具客體工具屬性和社會(huì)主體屬性，能夠在一定程度上自主完成相當(dāng)高難度的復(fù)雜工作。因此，幾乎所有的行業(yè)都面臨著人工智能的勞動(dòng)替代問題。勞動(dòng)替代對(duì)于資方而言意味著成本下降和效益提升，而對(duì)于普通勞動(dòng)者而言則意味著可能面對(duì)失業(yè)問題。

三是深度偽造。人工智能可以迅速高質(zhì)量地合成出極為逼真的影音圖像，如不加管制，產(chǎn)生的偽造風(fēng)險(xiǎn)可能對(duì)自然人主體和社會(huì)秩序產(chǎn)生負(fù)面的侵害和沖擊。

四是法律體系可能面臨失效風(fēng)險(xiǎn)。如前所述，人工智能兼具客體工具屬性和社會(huì)主體屬性，其大規(guī)模參與到社會(huì)中，就容易產(chǎn)生傳統(tǒng)法律難以規(guī)制的問題，特別是一旦其權(quán)力主體屬性不明確，相應(yīng)的法律規(guī)范也可能面臨失效風(fēng)險(xiǎn)。例如，自動(dòng)駕駛車輛如果出現(xiàn)事故，責(zé)任該由誰(shuí)承擔(dān)？

五是行業(yè)邊界的模糊。人工智能強(qiáng)大的學(xué)習(xí)與進(jìn)化能力，使其具有很強(qiáng)的跨行業(yè)邊界的能力。一家高水平的人工智能公司會(huì)滲透到社會(huì)的各個(gè)行業(yè)，改變著這些行業(yè)的運(yùn)行模式。這對(duì)于長(zhǎng)期形成的社會(huì)分工體系本質(zhì)上是一種顛覆。

六是暴力擴(kuò)散。人工智能可以很方便地與傳統(tǒng)武器結(jié)合形成新的智能武器體系，從而改變戰(zhàn)爭(zhēng)形態(tài)。人工智能的軍事化具有潛在的高危險(xiǎn)性，因?yàn)槠涔膭?lì)人工智能從事傷害人類的行為，從而加大人工智能的風(fēng)險(xiǎn)水平。

七是倫理問題。人工智能一旦大規(guī)模進(jìn)入社會(huì)各個(gè)層面，如大范圍應(yīng)用人形機(jī)器人，勢(shì)必形成對(duì)傳統(tǒng)單一以人類為唯一主體的社會(huì)體系的巨大沖擊。一些過去不曾遇到的新問題會(huì)出現(xiàn)，例如，人工智能伴侶的法律地位問題等。

八是失控風(fēng)險(xiǎn)。人工智能有可能會(huì)失控，這并非一個(gè)科幻性質(zhì)的猜測(cè)。從現(xiàn)有大模型的原理和表現(xiàn)來看，人工智能模型是由大量數(shù)據(jù)學(xué)習(xí)訓(xùn)練出來的，而非人類編輯或設(shè)計(jì)出來。因此，極有可能會(huì)出現(xiàn)“錯(cuò)誤”或“幻覺”，也有可能出現(xiàn)類似人類的情緒和排斥行為，還有可能被錯(cuò)誤訓(xùn)練引導(dǎo)。因此，不排除人工智能存在失控風(fēng)險(xiǎn)，必須高度警惕。

綜上所述，人類在發(fā)展人工智能的時(shí)候，必須要看到且直面人工智能可能產(chǎn)生的風(fēng)險(xiǎn)挑戰(zhàn)，從而確保人工智能真正符合人類社會(huì)的發(fā)展需要。

堅(jiān)持“以人為本、智能向善”的人工智能發(fā)展原則

正因?yàn)槿斯ぶ悄艽嬖诎踩[患和風(fēng)險(xiǎn)挑戰(zhàn)，在人工智能快速發(fā)展的初期，就需要確立好其根本的治理原則。習(xí)近平總書記指出：“要未雨綢繆，加強(qiáng)戰(zhàn)略研判，確保人工智能安全、可靠、可控”“堅(jiān)持以人為本、智能向善”。

人工智能要以人為本。人工智能要以增進(jìn)人類福祉為目標(biāo)，以保障社會(huì)安全、尊重人類權(quán)益為前提，確保人工智能始終朝著有利于人類文明進(jìn)步的方向發(fā)展。堅(jiān)持以人為本，即人工智能的發(fā)展要圍繞人們緊迫的民生需求展開。正如習(xí)近平總書記指出：“要加強(qiáng)人工智能同保障和改善民生的結(jié)合，從保障和改善民生、為人民創(chuàng)造美好生活的需要出發(fā)，推動(dòng)人工智能在人們?nèi)粘９ぷ?、學(xué)習(xí)、生活中的深度運(yùn)用，創(chuàng)造更加智能的工作方式和生活方式。”未來，人工智能在輔助人們生活方面將發(fā)揮更大作用，特別是對(duì)于殘障人士，人工智能將幫助他們克服身體的困囿；而對(duì)于大多數(shù)人而言，人工智能將在日常的翻譯對(duì)話、知識(shí)獲取，工作中的輔助建議，生活中的智能家居、自動(dòng)駕駛、輔助勞動(dòng)，休閑娛樂甚至情感交流等方面，極大豐富人們的生活。

人工智能要智能向善。人工智能的發(fā)展不能單兵突進(jìn)，只講經(jīng)濟(jì)效益不講社會(huì)公平。人工智能由于具有遠(yuǎn)超過普通勞動(dòng)者的勞動(dòng)能力，能夠極大降低企業(yè)成本，將逐漸在各個(gè)行業(yè)掀起一場(chǎng)科技賦能、機(jī)器換人的潮流。人工智能的開發(fā)利用，要確保不能產(chǎn)生大規(guī)模的失業(yè)潮。人工智能發(fā)揮勞動(dòng)替代作用，要優(yōu)先用在危急險(xiǎn)重的行業(yè)，而非讓人工智能在普通人就能夠非常擅長(zhǎng)的領(lǐng)域重復(fù)發(fā)力、簡(jiǎn)單替代。任何企業(yè)尤其是大型平臺(tái)企業(yè)在進(jìn)行人工智能勞動(dòng)替代時(shí)，要考慮增設(shè)相應(yīng)的崗位，最大程度保持崗位破壞速度與崗位創(chuàng)造速度的同步性。此外，智能向善還要求人工智能的研發(fā)、提供和使用活動(dòng)，不能影響或可能影響國(guó)家安全、公共利益或者個(gè)人、組織合法權(quán)益，這就需要更為完善的科研倫理的自律以及法律法規(guī)的約束。這也是人工智能持續(xù)健康發(fā)展、實(shí)現(xiàn)人機(jī)和諧的必由之路。

加強(qiáng)人工智能國(guó)際合作治理

人工智能技術(shù)由于其具有廣泛適用性和快速擴(kuò)散性，同時(shí)也具有風(fēng)險(xiǎn)全球化與治理分散化的特征，因此，有效治理人工智能不可能由單一國(guó)家獨(dú)立完成。習(xí)近平總書記指出：“要加強(qiáng)人工智能國(guó)際治理和合作，確保人工智能向善、造福全人類”。

中國(guó)在推動(dòng)人工智能治理方面，已經(jīng)做了很好的先行嘗試，例如，2023年7月率先推出的《生成式人工智能服務(wù)管理暫行辦法》，是全球最早全面監(jiān)管生成式人工智能的政策文件，為推動(dòng)生成式人工智能向上向善發(fā)展提供了細(xì)致具體的實(shí)施標(biāo)準(zhǔn)。但人工智能的監(jiān)管和治理還要依靠國(guó)際共同合作來解決。這是因?yàn)?，從根本上說，當(dāng)前人工智能在開發(fā)與傳播上具有以下幾個(gè)特點(diǎn)：一是開放性和迅速的擴(kuò)散性。越來越多的大模型選擇了開源模式，這使得研發(fā)高性能人工智能變得更加容易，因此，人工智能技術(shù)在世界范圍內(nèi)的傳播比以往的技術(shù)傳播更快，也更容易掌握。二是高收益性，人工智能將極大提高經(jīng)濟(jì)社會(huì)運(yùn)行效率、降低各方面成本，促進(jìn)經(jīng)濟(jì)增長(zhǎng)。因此，眾多企業(yè)包括跨國(guó)公司、網(wǎng)絡(luò)巨頭等都有較強(qiáng)的意愿采用人工智能技術(shù)。三是人工智能是一個(gè)國(guó)家提升國(guó)際競(jìng)爭(zhēng)力的重要手段，當(dāng)前大部分國(guó)家都有動(dòng)機(jī)去通過人工智能獲得競(jìng)爭(zhēng)優(yōu)勢(shì)。這三個(gè)特性相結(jié)合，使人工智能的治理成為一種單一國(guó)家不能獨(dú)立完成的任務(wù)。比如說，一旦某一國(guó)家對(duì)人工智能進(jìn)行區(qū)別于他國(guó)的較為嚴(yán)苛的治理，那么跨國(guó)公司就會(huì)迅速將技術(shù)轉(zhuǎn)移到他國(guó)，導(dǎo)致本國(guó)或地區(qū)的競(jìng)爭(zhēng)力受損，以歐洲為例，當(dāng)前歐洲較為嚴(yán)苛的數(shù)據(jù)治理環(huán)境，使其在人工智能國(guó)際競(jìng)爭(zhēng)中處于相對(duì)劣勢(shì)。

因此，面對(duì)人工智能可能產(chǎn)生的眾多風(fēng)險(xiǎn)，開展廣泛有效的國(guó)際治理合作具有必要性。應(yīng)使人類共同正視人工智能的風(fēng)險(xiǎn)，形成對(duì)于人工智能治理的價(jià)值共識(shí)，并共同采取較為一致的關(guān)于人工智能的倫理和法律規(guī)范，實(shí)現(xiàn)全球范圍的協(xié)同共治。這類似于人類對(duì)于核武器的管控，只有在全球范圍內(nèi)形成一整套安全治理機(jī)制和監(jiān)管體系，以及相關(guān)問題的磋商和談判機(jī)制，才能有效降低整個(gè)世界的風(fēng)險(xiǎn)挑戰(zhàn)。

當(dāng)前，推動(dòng)人工智能國(guó)際合作治理主要困難包括兩方面：在價(jià)值層面，如何更大程度上形成對(duì)高性能人工智能的風(fēng)險(xiǎn)共識(shí)；在主體層面，如何形成包括國(guó)際組織、國(guó)家地區(qū)主體、網(wǎng)絡(luò)巨頭、跨國(guó)公司、科研教學(xué)機(jī)構(gòu)等在內(nèi)的一個(gè)巨大的人工智能治理共同體。前者需要更多的科研機(jī)構(gòu)、學(xué)者、媒體、科學(xué)家、企業(yè)家、政治家的共同的呼吁；后者則需要各主體深入研究、協(xié)同合作，形成完整的合作治理機(jī)制。

當(dāng)前正處于人類全面進(jìn)入通用人工智能時(shí)代的關(guān)鍵歷史時(shí)期，我們要深刻領(lǐng)悟習(xí)近平總書記關(guān)于推動(dòng)人工智能健康發(fā)展的重要論述，清楚認(rèn)識(shí)到人工智能技術(shù)的戰(zhàn)略性意義，既要抓住人工智能技術(shù)發(fā)展的關(guān)鍵時(shí)期，自主掌握關(guān)鍵技術(shù)，也要抓住治理引導(dǎo)的關(guān)鍵時(shí)期，促進(jìn)全球治理的國(guó)際合作，推動(dòng)新一代人工智能健康發(fā)展，更好造福世界各國(guó)人民。