【摘要】近年來，隨著人工智能技術迅速發(fā)展并被廣泛應用于軍事領域，主要大國都高度重視人工智能在軍事領域的賦能作用，加大戰(zhàn)略投入，力求在大國競爭和智能化戰(zhàn)爭中占得先機。與此同時，人工智能軍事應用可能對國際和平與安全帶來巨大挑戰(zhàn)，日益引發(fā)國際社會各界的關注和熱議，圍繞這一問題的全球治理和討論逐漸深入，已形成一些初步成果。中國積極參與人工智能相關領域的全球治理，作出了積極貢獻。展望未來，國際社會應繼續(xù)秉持多邊主義，加強對話合作，采取預防性措施，規(guī)避人工智能軍事應用風險，維護國際和平與安全。
【關鍵詞】人工智能 軍事應用 全球治理
【中圖分類號】TP18 【文獻標識碼】A
【DOI】10.16619/j.cnki.rmltxsqy.2021.10.003
近年來，以機器學習為代表的新一代人工智能技術快速發(fā)展并得到廣泛應用，大力促進了各國的經(jīng)濟和社會發(fā)展水平。與此同時，人工智能日益被視為大國競爭的關鍵技術。隨著美國、俄羅斯等國家紛紛出臺人工智能軍事應用相關戰(zhàn)略及政策，加大無人化和智能化軍事裝備研發(fā)和應用步伐，智能化戰(zhàn)爭模式已初現(xiàn)雛形，人工智能軍事應用的全球治理引發(fā)了國際社會持續(xù)和廣泛的關注，成為影響國際安全的重要議題。
人工智能軍事應用簡述
美國、俄羅斯等國家將人工智能視為戰(zhàn)略競爭的關鍵技術，高度重視人工智能軍事應用領域的技術發(fā)展和應用，從戰(zhàn)略高度不斷加強戰(zhàn)略規(guī)劃和資源投入，力圖在日益復雜激烈的大國競爭中占得先機，主要表現(xiàn)在三個方面。
重視戰(zhàn)略規(guī)劃和機制保障。2019年2月11日，時任美國總統(tǒng)特朗普簽署《維護美國在人工智能時代的領導地位》行政令，強調維持美國在人工智能領域的領導地位對維護美國的經(jīng)濟和國家安全至關重要。[1]2019年2月12日，美國國防部發(fā)布《2018國防部人工智能戰(zhàn)略概要：利用人工智能促進安全與繁榮》文件[2]，闡述了其對人工智能軍事應用的形勢評估、應用目標、戰(zhàn)略途徑及重點領域，標志著美軍人工智能戰(zhàn)略的正式出臺。美國國防部于2018年7月成立了聯(lián)合人工智能中心（Joint AI Center, JAIC），負責協(xié)調落實美國防部相關人工智能戰(zhàn)略和政策，加強與私營部門、學術界和軍事盟友的合作，大力推動軍事人工智能應用技術研發(fā)和使用。2020年10月，美國白宮發(fā)布《關鍵與新興技術國家戰(zhàn)略》[3]，列舉了人工智能、通信和網(wǎng)絡技術、數(shù)據(jù)科學與存儲等關鍵技術，指出美國將依靠發(fā)展國家安全創(chuàng)新基礎能力和保護技術優(yōu)勢兩大支柱，以維護美國在全球關鍵和新興技術領域領導地位。
2017年9月，俄羅斯總統(tǒng)普京在一次演講中表示，“人工智能技術不僅僅是俄羅斯的未來，也是全世界的未來。誰能成為人工智能領域的領導者，誰就將主宰世界”。[4]2019年10月，普京批準《2030年前俄羅斯國家人工智能發(fā)展戰(zhàn)略》，提出要使“俄羅斯在全球人工智能領域占據(jù)領先地位”和“獲得技術獨立和競爭力”，標志著俄羅斯人工智能戰(zhàn)略的正式出臺。俄軍方已出臺《2025年前未來軍用機器人技術裝備研發(fā)專項綱要》《未來俄軍用機器人應用構想》等與人工智能密切相關的發(fā)展規(guī)劃。俄羅斯還成立“先期研究基金會”（the Russian Foundation for Advanced Research Projects）、國家機器人技術發(fā)展中心等人工智能相關研究機構，支持國防領域高科技創(chuàng)新，并重點研究圖像認知、模擬人類思維、機器人等人工智能技術。[5]
英國于2021年3月發(fā)布《競爭時代的國防》政策文件[6]，明確指出人工智能及其賦能的自主武器能力是國防現(xiàn)代化的關鍵因素，表示英國將發(fā)布一份雄心勃勃的人工智能戰(zhàn)略，以推動相關領域的國防建設；將成立一個新的國防部人工智能中心，以協(xié)調推進研發(fā)和使用這些新興技術。法國國防部于2019年9月發(fā)布《為國防服務的人工智能》報告[7]，標志著法國軍事人工智能戰(zhàn)略的出臺。報告確定了法國軍方使用人工智能的優(yōu)先領域和路線圖，并將采取建立倫理道德委員會、發(fā)展可信的人工智能應用技術、出臺數(shù)據(jù)管理的指導原則等措施。
確保優(yōu)先投資和重點項目。2018年9月，美國國防部表示將在未來五年內通過美國國防高級研究計劃局（DARPA）投入20億美元，以開發(fā)“新一代人工智能技術”。DARPA已經(jīng)出臺了“快速輕量化自主”（Fast Lightweight Autonomy, FLA）、“拒止環(huán)境中的協(xié)同作戰(zhàn)”（Collaborative Operations in Denied Environment, CODE）等人工智能相關項目，大力推進人工智能的研究和軍事應用。[8]美國《2020財年國防授權法案》給聯(lián)合人工智能中心劃撥了2億美元資金。
俄羅斯在《2018～2025年國家武器發(fā)展綱要》中，將研發(fā)和智能化武器裝備列為重點內容，涵蓋無人機、機器人、網(wǎng)絡戰(zhàn)等重點建設方向。俄國防部在《2025年先進軍用機器人技術裝備研發(fā)專項綱要》中提出，無人作戰(zhàn)系統(tǒng)在2025年左右將占俄軍武器裝備的30%。[9]
英國在2021年3月發(fā)布的《競爭時代的國防》政策文件中指出，將在未來4年投入6千萬英鎊，發(fā)展可用于未來新武器、人工智能、合成數(shù)字系統(tǒng)、空間技術等領域的測評技術。2018年3月，法國武裝部隊部長弗洛倫斯·帕利在人機合作研究項目啟動儀式上宣布，將每年在人工智能領域的支出增加到1億歐元，其中約一半資金將用于研發(fā)未來武器系統(tǒng)，1千萬歐元將用于測試和整合現(xiàn)有人工智能技術。[10]
2018年4月，韓國國防部表示將在2019年前投入29億韓元（約合人民幣1724萬元）開發(fā)智能型信息化情報監(jiān)視偵察系統(tǒng)，運用人工智能和大數(shù)據(jù)技術整合分析間諜衛(wèi)星、偵察機、無人機搜集的影像情報，遠期目標是開發(fā)基于人工智能的指揮控制系統(tǒng)，實時研判傳遞戰(zhàn)況。[11]
推動武器裝備研發(fā)和應用。美國大力推進人工智能相關武器系統(tǒng)的研發(fā)。美推進“高級圖像識別”項目（“Maven”項目），組建“算法戰(zhàn)跨職能小組”，以減輕美空軍在無人機視頻數(shù)據(jù)分析領域的人力負擔，增強情報分析和軍事決策能力。2020年12月15日，美國空軍首次將人工智能部署在一架U-2偵察機上，開創(chuàng)了人工智能首次自主控制軍用系統(tǒng)的先河。[12]2021年2月，美國國防高級研究計劃局（DARPA）在“空戰(zhàn)進化”（ACE）項目中模擬測試了人工智能控制戰(zhàn)斗機之間的空中格斗，計劃在2021年下半年將空中格斗人工智能算法從模擬過渡到規(guī)模較小的實際戰(zhàn)斗機空戰(zhàn)演示中。[13]
俄羅斯研發(fā)了“天王星”系列和“平臺-M”、“阿爾戈”等型號的作戰(zhàn)平臺，可執(zhí)行戰(zhàn)場巡邏、偵察、排雷、近距離火力支援等任務。同時啟動研發(fā)“波塞冬”核動力無人水下航行器，可搭載常規(guī)彈頭或核彈頭，可成為一種全新的戰(zhàn)略威懾手段。2015年12月，俄軍機器人部隊支援敘利亞政府軍成功攻占極端組織“伊斯蘭國”控制的拉塔基亞754.5高地，這也是全球范圍內成建制機器人投入實戰(zhàn)的首個戰(zhàn)例。[14]
以色列作為人工智能軍事應用強國之一，在無人裝備研發(fā)領域居于世界領先地位，其研制的“哈比”（Harby）巡飛彈被認為是當前為數(shù)不多的“完全自主武器”，能夠探測、瞄準和攻擊敵人的雷達設施，而無需任何人工監(jiān)督。韓國自主研發(fā)的“SGR-A1”型哨兵機器人已經(jīng)部署在朝韓邊境的非軍事區(qū)，據(jù)稱，這款哨兵機器人擁有完全自主模式，理論上可以在沒有人類干預的情況下自主運行，可自主開火射殺目標。[15]
人工智能軍事應用的深刻影響
從積極方面看，人工智能技術的軍事應用前景廣泛，可以被用于情報分析、作戰(zhàn)訓練、后勤保障、決策支撐、武器設計及研發(fā)等諸多領域。例如，人工智能技術可以提高戰(zhàn)爭決策機制效率和軍事行動速度；可以促進新型武器系統(tǒng)更加“自主化”“智能化”“精準化”，從而減少武裝人員和平民傷亡；可以利用人工智能技術賦能系統(tǒng)（無人或機器人系統(tǒng)）承擔復雜危險、重復單調的軍事活動，節(jié)約人力資源；可以高效分析處理海量數(shù)據(jù)，提高國防后勤保障部門科學管理水平，等等。
與此同時，人工智能作為一項雙用途技術，其軍事應用也可能帶來諸多風險和挑戰(zhàn)，主要包括技術風險、軍事應用風險、戰(zhàn)略穩(wěn)定風險、法律倫理風險等。
一是技術風險。例如，人工智能系統(tǒng)漏洞容易受到攻擊，低質量和受污染數(shù)據(jù)可能導致系統(tǒng)的不穩(wěn)定，系統(tǒng)運行和演化的不可預測性和不可解釋性，人工智能軍事系統(tǒng)的安全性和可靠性，如何制定有效的測試、評估、驗證標準和程序等。
二是軍事應用風險。人工智能軍事應用的武器系統(tǒng)快速發(fā)展，以及個別國家對他國采取歧視性出口管制政策，有可能會引發(fā)各國在此領域展開軍備競賽，加劇大國之間的緊張關系。人工智能軍事系統(tǒng)在高風險地區(qū)被部署或使用，有可能造成意外事件或沖突升級。人工智能軍事技術及系統(tǒng)（特別是無人武器系統(tǒng)）向非國家實體擴散，有可能被恐怖分子用于恐怖襲擊。
三是戰(zhàn)略穩(wěn)定風險。人工智能技術被應用在外空、網(wǎng)絡等新疆域，有可能使技術領先者鞏固其優(yōu)勢地位，加劇各國面臨的安全威脅，造成大國戰(zhàn)略安全關系的不穩(wěn)定。人工智能系統(tǒng)如被納入核指揮與控制系統(tǒng)、早期預警系統(tǒng)中，將對大國之間的核戰(zhàn)略穩(wěn)定構成潛在風險，如果人工智能系統(tǒng)失效或失誤，將可能造成重大核意外事件或決策失誤，甚至引發(fā)核戰(zhàn)爭。
四是法律倫理風險。人工智能武器系統(tǒng)研發(fā)、部署和使用應遵循何種國際法義務？人工智能武器系統(tǒng)（特別是致命性自主武器系統(tǒng)，Lethal Autonomous Weapons Systems, LAWS）如被使用，國際人道法應如何適用？是否應始終確保人類對人工智能武器系統(tǒng)的使用權和決策權？人工智能武器研發(fā)、部署和使用應遵循何種標準和規(guī)范？如果發(fā)生意外事件，是否應由人類承擔相關責任？等等。
人工智能軍事應用全球治理趨勢
鑒于人工智能軍事應用可能帶來的上述潛在風險和挑戰(zhàn)，近年來，各國政府、產(chǎn)業(yè)界、學術界、國際組織等就包括人工智能軍事應用在內的人工智能治理規(guī)范和原則進行了廣泛討論并提出諸多建議，旨在保障人工智能軍事發(fā)展和應用符合技術、法律、倫理等要求，減少人工智能軍事應用帶來的潛在安全風險。
聯(lián)合國框架下的多邊努力。2018年5月，聯(lián)合國秘書長古特雷斯發(fā)表了裁軍新議程——《確保我們共同的未來》文件[16]，指出新武器系統(tǒng)及其技術發(fā)展將給國際安全帶來法律、防擴散、安全關系、道德倫理等多方面挑戰(zhàn)，由于人工智能（例如機器學習）賦能的致命性自主武器系統(tǒng)可能產(chǎn)生不可預測和難以解釋的行為，國際社會應對此類武器系統(tǒng)的研發(fā)和使用采取負責任態(tài)度，各國應努力在聯(lián)合國框架內探討相關可行的措施，確保人類對此類武器的控制權。
自2014年起，聯(lián)合國在《特定常規(guī)武器公約》框架下開啟了“致命性自主武器系統(tǒng)”問題的討論進程，是目前聯(lián)合國框架內為數(shù)不多的涉及人工智能軍事應用具體問題的討論進程。自2014年至2016年，分別召開了3次非正式專家會議。自2017年至2019年，分別召開了5次政府專家組會議。上述會議討論了致命性自主武器系統(tǒng)涉及的技術特征、法律適用、道德倫理、軍事應用、安全風險、限制措施等廣泛議題，達成了重要進展。2019年第8次政府專家組會議協(xié)商一致通過報告，并由2019年12月《特定常規(guī)武器公約》締約國會議核準通過，報告提出了以下11條規(guī)范致命性自主武器系統(tǒng)的指導原則[17]：
（a）國際人道主義法繼續(xù)完全適用于所有武器系統(tǒng)，包括致命性自主武器系統(tǒng)的可能開發(fā)和使用；
（b）人類仍須對武器系統(tǒng)的使用決定負有責任，因為不能把責任轉嫁給機器，應在武器系統(tǒng)的整個壽命周期里考慮到這一點；
（c）可以采取各種形式、并在武器生命周期的各個階段實施的人機交互，應確保對基于致命性自主武器系統(tǒng)領域的新興技術的武器系統(tǒng)的潛在使用符合適用的國際法，特別是國際人道法，在確定人機交互的質量和程度時，應考慮一系列因素，包括作戰(zhàn)環(huán)境，以及整個武器系統(tǒng)的特點和能力；
（d）應確保根據(jù)適用的國際法在《特定常規(guī)武器公約》的框架內對發(fā)展、部署和使用任何新武器系統(tǒng)問責，包括使這類系統(tǒng)在人類指揮和控制的責任鏈中運作；
（e）在研究、發(fā)展、取得或采用新的武器、作戰(zhàn)手段或方法時，國家有義務按照國際法確定，該新武器、作戰(zhàn)手段或方法的使用在某些或所有情況下是否為國際法所禁止；
（f）在發(fā)展或取得基于致命性自主武器系統(tǒng)領域新技術的新武器系統(tǒng)時，應考慮到實體安保、適當?shù)姆菍嶓w保障（包括針對黑客攻擊或數(shù)據(jù)欺騙等網(wǎng)絡安全問題）、落入恐怖主義團體手中的風險和擴散的風險；
（g）風險評估和減小風險的措施應成為任何武器系統(tǒng)新技術的設計、發(fā)展、測試和部署周期的組成部分；
（h）致命性自主武器系統(tǒng)領域新技術的使用應考慮到須信守國際人道法和其他適用國際法律義務；
（i）在擬定可能的政策措施時，不應使致命性自主武器系統(tǒng)領域的新技術人格化；
（j）在《特定常規(guī)武器公約》范圍內討論和采取任何可能的政策措施都不應阻礙智能自主技術的進步或和平利用；
（k）《特定常規(guī)武器公約》提供了適當?shù)目蚣埽稍凇豆s》的目標和宗旨范圍內處理致命性自主武器系統(tǒng)領域新技術的問題，力求在軍事必要性和人道主義考慮之間求得平衡。
當前，雖然各國未就致命性自主武器的定義特征、限制條件、法律審查、規(guī)范路徑等問題達成詳細共識，但上述原則已部分涵蓋致命性自主武器系統(tǒng)涉及的技術、法律、道德倫理、和平利用等方面內容，為各國繼續(xù)展開后續(xù)討論奠定了基礎。
各國對于致命性自主武器系統(tǒng)的軍控措施主要有三種觀點：有國家主張全面禁止此類武器，有國家主張部分限制此類武器使用，也有國家反對全面禁止此類武器。與此同時，奧地利等國主張達成具有法律約束力的國際文書；法國等國主張分步走，先達成政治宣言或行為準則，再達成法律文書；美國等國則反對上述主張，主張圍繞現(xiàn)有11條指導原則進一步討論。
主要國家和研究機構提出治理原則。作為人工智能軍事應用大國，美國軍方非常重視人工智能倫理準則的制定。2012年11月，美國國防部發(fā)布了一份有關武器自主性文件《國防部指令3000.09》（武器系統(tǒng)中的自主性）[18]，確定了美軍半自主和自主武器的一些通用原則。2019年10月，美國國防部國防創(chuàng)新委員會發(fā)布《人工智能準則：推動國防部以符合倫理的方式運用人工智能的建議》，提出了國防部運用人工智能的五項原則和十二條建議，建議成立國防部層面的人工智能指導委員會，確保人工智能倫理準則的正確推行。2020年2月，美國國防部正式發(fā)布規(guī)范人工智能軍事能力發(fā)展的“負責的、公平的、可追溯的、可靠的、可治理的”五項原則。[19]
2020年2月，歐盟發(fā)布《人工智能白皮書》[20]，指出歐盟的人工智能發(fā)展基于信任和追求卓越，要推動建立卓越的人工智能研發(fā)生態(tài)系統(tǒng)，并建立基于信任的監(jiān)管體系，以保護歐盟的價值觀和消費者權益。2020年6月，紅十字國際委員會在《國際人道法及其在當代武裝沖突中面臨的挑戰(zhàn)》報告中指出[21]，自主武器系統(tǒng)的獨特特點以及在武裝沖突中對武力使用或喪失控制的相關風險表明，為確保遵守國際人道法并維護人道原則，需要就如何限制其自主性達成共識，在武裝沖突中使用這些技術時，必須采取以人為本、以人道為準的方法。
2020年6月和11月，瑞典斯德哥爾摩國際和平研究所發(fā)表題為《人工智能對戰(zhàn)略穩(wěn)定和核風險的影響》和《負責任的人工智能軍事應用》報告[22]，探討了人工智能軍事應用對戰(zhàn)略穩(wěn)定和核風險的影響以及歐盟如何在推動負責任人工智能軍事應用最佳實踐方面發(fā)揮作用，提出了增強透明度、加強對話合作、設立高級別專家組、積極參與全球治理進程等建議。2021年4月，新美國安全中心（CNAS）發(fā)布了美國前國防部副部長羅伯特·沃克撰寫的《具有自主功能的武器系統(tǒng)作戰(zhàn)使用的原則》報告[23]，提出了使用自主武器系統(tǒng)必須由負責任的人類指揮和控制鏈來進行指導和監(jiān)督等七項原則，建議美國應通過獲取過程、訓練、教育、演習將這些原則制度化。
綜合來看，各方提出的人工智能軍事應用治理原則已包括許多共同點，例如，強調人類監(jiān)督的重要性，確保人工智能軍事系統(tǒng)的安全性和可靠性，加強國際對話合作的重要性，人工智能軍事應用需符合國際法，等等。這些建議為未來相關全球治理和系統(tǒng)論證提供了有益的思路。
中國的努力和貢獻
中國一直高度重視人工智能技術發(fā)展和應用，積極參與全球人工智能治理并提出重要建議，受到國際社會關注。2018年10月，中共中央政治局就人工智能發(fā)展現(xiàn)狀和趨勢進行集體學習，習近平總書記發(fā)表重要講話并指出，“要加強人工智能發(fā)展的潛在風險研判和防范”，要“確保人工智能安全、可靠、可控”。2020年11月21日，習近平主席在二十國集團領導人第十五次峰會第一階段會議發(fā)表題為《勠力戰(zhàn)疫 共創(chuàng)未來》的重要講話，指出“中方支持圍繞人工智能加強對話，倡議適時召開專題會議，推動落實G20人工智能原則，引領全球人工智能的健康發(fā)展”。[24]
中國亦重視人工智能治理原則。2019年6月，國家新一代人工智能治理委員會發(fā)布了《新一代人工智能治理原則——發(fā)展負責任的人工智能》[25]，提出“和諧友好，公平公正，包容共享，尊重隱私，安全可控，共擔責任，開放協(xié)作，敏捷治理”等八項重要原則，以更好地協(xié)調人工智能發(fā)展與治理的關系，確保人工智能安全可控可靠，推動經(jīng)濟、社會及生態(tài)可持續(xù)發(fā)展，共建人類命運共同體。
中國還積極參與人工智能軍事應用相關的多邊軍控進程和對話。中國代表團深入?yún)⑴c《特定常規(guī)武器公約》框架下“致命性自主武器系統(tǒng)”討論進程，參加了歷次專家組會議，就技術定義等問題提出看法或文件。中國在日內瓦裁軍談判會議上多次呼吁盡早建立權威的科學發(fā)展審議機制，對新興技術的軍事應用前景和風險進行評估，談判制定相關國際準則，實施必要的預防性限制或禁止，避免國際社會重蹈“先發(fā)展后裁軍”的覆轍，防止出現(xiàn)新的軍備競賽。中國作為聯(lián)合國秘書長新裁軍議程第27項行動計劃“就新興技術開展對話”的牽頭國家之一，積極推動有關對話。2021年5月17日，中國、埃及、肯尼亞、墨西哥、南非、阿聯(lián)酋常駐聯(lián)合國代表團在紐約共同舉辦“新興科技對國際和平與安全的影響”會議，中國常駐聯(lián)合國代表張軍大使主持會議，包括安理會成員在內的近40個國家與會發(fā)言，各方一致認為應支持奉行多邊主義，充分利用聯(lián)合國平臺，加強對話交流，探討新興科技開發(fā)利用，推進新興科技全球治理。此次會議亦是安理會首次討論新興科技問題。[26]
中國專家和學者也積極參與全球治理和對話進程，提出有益的看法和建議。例如，2019年，清華大學戰(zhàn)略與安全研究中心主任傅瑩曾發(fā)表《人工智能對國際關系的影響初析》報告[27]，提出福祉、安全、共享、和平、法治、合作六項治理原則。2019年起，清華大學戰(zhàn)略與安全研究中心和美國布魯金斯學會聯(lián)合開展了“人工智能與國際安全治理”對話項目，梳理了人工智能軍事應用可能帶來的風險和挑戰(zhàn)，并探討了相關治理原則。中國軍控與裁軍協(xié)會亦多次舉辦或派專家參與人工智能軍事應用相關國際研討活動。自2019年以來，軍控協(xié)會與日內瓦“人道主義對話中心”開展了相關對話，來自中、美、歐等專家學者還初步探討了人工智能軍事系統(tǒng)的行為準則草案，包括設計開發(fā)、測試評估、部署使用、問責機制、建立信任和國際合作等內容。
結語
當前，國際社會都高度關注人工智能軍事應用對國際和平與安全構成的嚴峻挑戰(zhàn)，盡管各國對如何應對這些挑戰(zhàn)，特別是減少人工智能軍事應用風險，仍然存在不同看法和優(yōu)先事項，但各國理應加強這一領域的前瞻性研究和對話，推動相關全球治理進程，維護各國共同的安全利益，對此本文提出如下建議。
各國秉持多邊主義，支持聯(lián)合國及其相關機構在人工智能國際安全問題上的努力；支持《特定常規(guī)武器公約》關于致命性自主武器系統(tǒng)政府專家組會議，推動各國就處理該問題的原則、方式和法律文書達成更多共識；在日內瓦裁軍談判會議等其他多邊軍控平臺，開展人工智能軍事應用及其對全球戰(zhàn)略穩(wěn)定影響的討論；提高各方對人工智能與國際安全問題的認識；呼吁避免采取歧視性措施，防止阻礙和平利用人工智能技術；加強建立透明和信任措施機制，鼓勵更多國家分享人工智能戰(zhàn)略、政策、法律框架等信息；鼓勵各國通過雙邊、多邊及區(qū)域組織開展多層次對話，召開高級別會議，開展國際合作和研究，提出前瞻性政策建議。
相信只要國際社會繼續(xù)共同努力，就有可能達成更多共識，從而推動人工智能軍事應用的全球治理進程不斷深入，推動實現(xiàn)人工智能軍事應用遵守《聯(lián)合國憲章》原則及相關國際法，實現(xiàn)安全可靠、符合倫理道德、有效監(jiān)管控制等目標，使人工智能技術更好造福人類，促進國際和平與安全。
注釋
[1]"Executive Order on Maintaining American Leadership in Artificial Intelligence", February11, 2019, https://www.federalregister.gov/documents/2019/02/14/2019-02544/maintaining-american-leadership-in-artificial-intelligence.
[2]"Summary of the 2018 Department of Defense Artificial Intelligence Strategy Harnessing AI to Advance Our Security and Prosperity", February 12, 2019, https://media.defense.gov/2019/Feb/12/2002088963/-1/-1/1/SUMMARY-OF-DOD-AI-STRATEGY.PDF.
[3]"National Strategy for Critical and Emerging Technology", October 15, 2020, White House, https://trumpwhitehouse.archives.gov/briefings-statements/statement-press-secretary-regarding-national-strategy-critical-emerging-technologies/.
[4]"Whoever Leads in AI Will Rule the World: Putin to Russian Children on Knowledge Day", RT World News, September 1, 2017, https://www.rt.com/news/401731-ai-rule-world-putin/.
[5][8]朱啟超、龍坤：《主要國家人工智能軍事應用戰(zhàn)略動向及影響》，《2020國際軍備控制與裁軍》，北京：世界知識出版社，2020年，第137～138、138頁。
[6]"Defense in a competitive age", March 22, 2021, Ministry of Defense, UK, https://www.gov.uk/government/publications/defence-in-a-competitive-age.
[7]"Artificial Intelligence at the Service of Defense", Report of the AI Task Force, French Ministry of the Armed Force(MAF), September, 2019. AI, Strategic Stability and Nuclear Risk, June 2020, SIPRI, p. 61.
[9]李大鵬：《俄羅斯堅定推進智能化軍隊轉型》，《中國青年報》，2018年11月22日。
[10]"France to Increase Investment in AI for Future Weapon Systems", Defense News, March 16, 2018, Https://www.defensenews.com/intel-geoint/2018/03/16/france-to-increase-investment-in-ai-for-future-weapon-systems/.
[11]《韓軍將投入29億韓元開發(fā)智能情報監(jiān)視偵察系統(tǒng)》，新華網(wǎng)，2018年4月4日，http://www.xinhuanet.com/mil/2018-04/04/c_129843619.htm。
[12]《美媒：美軍U-2偵察機首次迎來AI副駕駛》，參考消息網(wǎng)，2020年12月18日，http://www.cankaoxiaoxi.com/mil/20201218/2427477.shtml。
[13]《DARPA用人工智能控制戰(zhàn)斗機進行編隊格斗模擬試驗》，搜狐網(wǎng)，2021年3月25日，https://www.sohu.com/a/457299174_630614。
[14]李瑋、蘭順正：《俄積極搶占無人作戰(zhàn)制高點》，《解放軍報》，2020年1月5日，http://www.81.cn/jmywyl/2020-01/05/content_9709934.htm。
[15]［美］保羅·沙瑞爾：《無人軍隊：自主武器與未來戰(zhàn)爭》，朱啟超、王姝、龍坤譯，北京：世界知識出版社，2019年，第114～115頁。
[16]Antonio Guterres, "Securing Our Common Future: An Agenda for Disarmament", May 24, 2018, https://www.un.org/disarmament/sg-agenda/en/.
[17]《禁止或限制使用某些可被認為具有過分傷害力或濫殺濫傷作用的常規(guī)武器公約》締約方會議報告，2019年11月，11條指導原則載于該報告附件3中，Https://undocs.org/zh/CCW/MSP/2019/9。
[18]"DoD Directive 3000. 09 (Autonomy in Weapon Systems)", November 21, 2012, https://www.law.upenn.edu/live/files/3404-dod-autonomy-in-weapon-systems-2012.
[19]"DoD adopts five principles of artificial intelligence ethics", February 25, 2020, https://www.defense.gov/Explore/News/Article/Article/2094085/dod-adopts-5-principles-of-artificial-intelligence-ethics/.
[20]"White Paper On Artificial Intelligence - A European Approach to Excellence and Trust", February 19, 2020, European Commission, COM(2020) 65 final, https://ec.europa.eu/info/sites/default/files/commission-white-paper-artificial-intelligence-feb2020_en.pdf.
[21]《國際人道法及其在當代武裝沖突中面臨的挑戰(zhàn)》，2020年6月，紅十字國際委員會，https://www.icrc.org/zh/publication/4427-international-humanitarian-law-and-challenges-contemporary-armed-conflicts。
[22]"Artificial Intelligence, Strategic Stability and Nuclear Risk", June, 2020, SIPRI, https://www.sipri.org/publications/2020/other-publications/artificial-intelligence-strategic-stability-and-nuclear-risk; "Responsible Military Use of Artificial Intelligence: Can the European Union Lead the Way in Developing Best Practice?", November, 2020, SIPRI, https://sipri.org/publications/2020/other-publications/responsible-military-use-artificial-intelligence-can-european-union-lead-way-developing-best.
[23]Robert Work, "Principles for the Combat Employment of Weapon Systems with Autonomous Functionalities", April 28, 2021, Center for a New American Security, https://www.cnas.org/publications/reports/proposed-dod-principles-for-the-combat-employment-of-weapon-systems-with-autonomous-functionalities.
[24]《習近平出席二十國集團領導人第十五次峰會第一階段會議并發(fā)表重要講話》，中華人民共和國外交部網(wǎng)站，2020年11月21日，https://www.mfa.gov.cn/web/zyxw/t1834391.shtml。
[25]《發(fā)展負責任的人工智能：新一代人工智能治理原則發(fā)布》，中國日報網(wǎng)，2019年6月17日，http://cn.chinadaily.com.cn/a/201906/17/WS5d07441ea3108375f8f2afac.html?from=timeline&isappinstalled=0。
[26]《張軍大使主持召開“新興科技對國際和平與安全的影響”阿里亞模式會議》，中國常駐聯(lián)合國代表團網(wǎng)站，2021年5月17日，http://chnun.chinamission.org.cn/chn/hyyfy/t1876438.htm。
[27]傅瑩：《人工智能對國際關系的影響初析》，《國際戰(zhàn)略與安全研究報告》，2019年第1期。
The Application of Artificial Intelligence in the Military Field and Global Governance
Li Chijiang
Abstract: In recent years, with the rapid development of artificial intelligence (AI) technology and its wide use in the military field, the major powers have attached great importance to the empowering role of AI in the military field, increased strategic investment, and tried to take the lead in the competition and intelligent war of great powers. At the same time, the application of AI in the military may bring great challenges to international peace and security, which has attracted more and more attention and heated discussion from all walks of life in the international community. The global governance and discussion around this issue have gradually deepened, and some preliminary results have been formed. China has actively participated in global governance in the AI-related fields and made positive contributions. Looking ahead, the international community should continue to uphold multilateralism, strengthen dialogue and cooperation, take preventive measures, avoid the risk of military application of AI and maintain international peace and security.
Keywords: artificial intelligence, military application, global governance
李馳江，中國軍控與裁軍協(xié)會副會長兼秘書長。研究方向為軍備控制、裁軍、防擴散、人工智能、網(wǎng)絡安全。主要著作有《國際軍備控制與裁軍》（主編）等。
