【摘要】人類社會一直把“人工智能”，甚至“類人機器人”，單純作為自己的使用工具而發(fā)明、生產甚至創(chuàng)造出來，即“工具性”是其第一屬性。然而，作為“會使用工具的機器人”，“類人機器人”還可能通過自我學習等自主方式，獲得與人類一樣的智商、情商與倫理道德，從而具有顯著的“社會性”。世界首例“機器人公民”“索菲亞”在公民、社會與國家等觀念上給予人類更多想象，人類社會生活特別是政治生活中賴以生存的最直接“土壤”——國家與社會關系——在發(fā)生學意義上開始產生“祛魅”與重塑等變化。
【關鍵詞】類人機器人 機器人公民 工具性 社會性 國家與社會關系
【中圖分類號】TP311 【文獻標識碼】A
【DOI】10.16619/j.cnki.rmltxsqy.2018.10.006
2017年10月26日，沙特阿拉伯（以下簡稱“沙國”）授予美國漢森機器人公司（Hanson Robotics）生產的“女性”機器人“索菲亞”（Sophia）公民身份[1]，在現實生活中再一次以鐵的事實證明，工具性的“人工智能”（Artificial Intelligence, AI）[2]能夠演化發(fā)展成為具有公民身份的“類人機器人”（robo-sapiens）[3]——“機器人公民”，未來可能全面介入人類社會生活特別是政治生活，并成為與人類共享整個地球資源的“新人類”。“在人工智能的重大項目中，我們要把自然科學研究和社會科學研究緊密結合起來，從自然科學的角度攻克基礎難關，在社會科學研究中解疑釋惑。”[4]由此，一個古老而常新的話題再次回蕩在我們的心底，震撼我們的心靈：曾幾何時居于“家奴”地位的“會說話的工具”[5]，歷經幾千年的滄海桑田，遲至20世紀中葉逐步翻身成為真正的人——公民，實現了美國黑人領袖馬丁·路德·金所說的“我有一個夢想”（I have a dream）；與此同時，更嚴峻的挑戰(zhàn)已經從科幻世界開始邁向現實生活，“會使用工具的‘類人機器人’”是否能夠或者究竟需要多長時日，才會享有人類社會公民所擁有的正當權利及其履行的道義責任？單個的歷史事件或許只能局限于一時一地的偶然性，而從不同歷史時期、不同活動空間的諸多歷史現象中提煉蘊含其中的人類思維與觀念，能準確把握其內在本質與發(fā)展規(guī)律。“發(fā)生認識論旨在研究各種認識的起源，從最低級形態(tài)的認識開始，并追蹤這種認識向各個水平發(fā)展的情況，一直追蹤到科學思維并包括科學思維。”[6]因此，運用發(fā)生認識論（genetic epistemology，發(fā)生學）[7]，可以更準確地了解人類公民、人類社會、人類國家關于“人工智能”“類人機器人”“機器人公民”等認識的生成過程、發(fā)展歷程及未來。
“機器人公民”的工具性與自主意識
“人工智能”范疇[8]萌芽于20世紀30年代，1956年在美國達特矛斯學院（Dartmouth College）首次被正式提出。一批年輕科學家研究和探討用機器模擬智能，標志著“人工智能”新范式革命的開始。[9]IBM的深藍戰(zhàn)勝國際象棋世界冠軍卡斯帕羅夫、谷歌AlfaGo戰(zhàn)勝圍棋世界冠軍李世石等一系列轟動事件，讓世人對“人工智能”刮目相看。半個多世紀以來，雖然“人工智能”沿著弱人工智能—強人工智能—高等人工智能—類人人工智能—超級人工智能—超級智能體（自我進化與生存階段）不斷飛速發(fā)展，但對全“人工智能”產生的動力、具體實施原則，以及對于人類未來社會的影響等，社會各界并沒有統一的共識。長期以來，人們習慣于從“事件”發(fā)生的直觀角度樂觀地看待“人工智能”。“據埃森哲發(fā)布的報告預測，2035年人工智能預期可以為12個發(fā)達經濟體帶來兩倍的經濟增長速度，中國的經濟增長率將從6.3%提速至7.9%。軍事上，人工智能和機器人有可能大規(guī)模投入未來戰(zhàn)場，或將改變戰(zhàn)爭模式乃至國際軍事格局。”[10]對作為人類發(fā)明創(chuàng)造出來的工具性技術——“人工智能”，有學者還提出技術加速理論，對它給人類帶來的翻天覆地變化進行所謂“奇點”預測。[11]總之，“人工智能”與基因工程和納米科學并列為21世紀三大頂尖科技發(fā)明。
“人工智能”的“物化”績效是異常顯著的，它在一定程度上是人類針對自身能力不足、特別在競爭日益激烈的環(huán)境中為了爭取與鞏固自身“優(yōu)勢”地位而不計后果地“冒險”提出來并加以實施的替代方案。毋庸諱言，人類社會一直是把“人工智能”，甚至“類人機器人”，單純作為自己的使用工具而發(fā)明、生產甚至創(chuàng)造出來的；雖然人類社會已經預知，作為“會使用工具的機器人”，“類人機器人”還可能通過自我學習等自主方式，獲得與人類一樣的智商與情商，甚至倫理道德等，但人類社會對其普遍采取的對策幾乎無一例外——反對、提防、遏制、控制甚至摧毀。當前中國機器人的研發(fā)狀態(tài)在數個領域已處于世界前沿水平，“若把韓國機器人按100分來計算，中國工業(yè)機器人得分100.79分，個人服務機器人103.77分，專業(yè)服務機器人101.9分，僅機器人零部件以99.1分略低于韓國。”[12]洋洋數萬言的《2017中國機器人產業(yè)發(fā)展報告》是中國電子學會機器人產業(yè)研究的最新成果，“以工業(yè)機器人、服務機器人和特種機器三大領域作為主要對象分別進行分析。報告認為，2017年預計我國機器人市場規(guī)模將達到62.8億美元。當前，機器人領域的龍頭企業(yè)都將目光聚焦到市場增長迅速的中國”[13]。然而，這些都是把“機器人”定位于“產品”“服務”“物化”等人類有用的“工具性”性質之上，對“類人機器人”嚴重缺乏人文與社會科學的具體分析與未來評估，更遑論“機器人公民”的“公民”意義。
“人工智能”也好，“類人機器人”也罷，甚至是剛剛誕生不久的“機器人公民”等，毫無疑問，首先都是人類生產出來的“工具性”產品，服務于人類的各種需要，實現人類的各種預測目標。因此，“工具性”是所有類型“人工智能”生存的基礎，更是其發(fā)展的動力；沒有“工具性”的“人工智能”是不可想象的，更是無法理喻的。從這個角度來看，無論何種類型的“人工智能”產生出何種類型的“有用性”——針對不同類型的人類公民、人類社會、人類國家的“利益”與“弊端”——其主體權利與主體責任都歸屬于人類自身，而無關乎“人工智能”的立場方法與行動。在本質上，這種“工具性”地位的“家奴”（會說話的工具）——包括與“家奴”同等功能的“人工智能”“類人機器人”甚至“機器人公民”（會使用工具的類人機器人）——都是人類刻意處置的“奴隸”。
在人類發(fā)展的漫長歷史長河中，人曾經（奴隸制社會）被置于“工具”的非人地位。事實上，這一現象從古代到近代一直都存在。為什么人類一直傾向于尋找能夠接受奴化地位的有用“工具”，即工具性的奴隸？“我們可以明了奴隸的性質和他的本分了：（1）任何人在本性上不屬于自己的人格而從屬于別人，則自然而為奴隸；（2）任何人既然成為一筆財產（一件用品），就應當成為別人的所有物；（3）這筆財產就在生活行為上被當作一件工具，這種工具是和其所有者可以分享的。”[14]由此可知舊時代之奴隸與最新科技之“人工智能”“類人機器人”甚至“機器人公民”，同時具有兩個近似特征。（1）能夠主動思維并具有一定情商、智商與道德倫理，在亞里士多德看來，“奴隸，于是，也是一宗有生命的財產；一切從屬的人們都可算作優(yōu)先于其他（無生命）工具的（有生命）工具”[15]。（2）被人類置于工具性的絕對被剝奪地位。這就如同舊時代中“家主”與“家奴”的關系，無論“家奴”何所何為，都是“家主”意志與觀念的具體表現與實施效果；在這種情境下，無論“人工智能”“類人機器人”甚至“機器人公民”具有何種尖端技術與操作水平，它們（而不是他們）都只能擁有與過去時代“家奴”同樣功能的“工具性”而已。
由于工具性“人工智能”“類人機器人”甚至“機器人公民”的權利主體是人類公民、人類社會、人類國家，所以生產與操作它們的主體當然是人類公民、人類社會、人類國家，那么工具性“人工智能”“類人機器人”甚至“機器人公民”的任何思考，特別是操作行為及其行動后果，理所當然由人類公民、人類社會、人類國家來承擔。問題在于，公民性“類人機器人”，特別是“機器人公民”，他們（而不是它們）雖然不是舊時代“家奴”——由于特定的社會環(huán)境而被“家主”人為地貶低到“工具性”的奴隸地位，自身天然具有與“家主”同等水平的智商、情商與倫理道德，但需要等到“解放”時刻才能“恢復”——具有自主學習、自主發(fā)展、自主選擇等類似“家主”即人類公民、人類社會、人類國家的智商、情商與倫理道德，但猶如“家奴”一樣時刻等待“解放”，甚至時刻反抗，以此爭取“恢復”智商、情商與倫理道德（雖非與生俱來），絲毫不在任何程度上低于人類公民、人類社會與人類國家，這就是“人工智能”“類人機器人”甚至“機器人公民”不同于以往人類創(chuàng)造的任何形態(tài)的“工具性”產品的本質區(qū)別，即“人工智能”“類人機器人”甚至“機器人公民”，具有在任何程度上都不低于，甚至由于自身生命周期、操作功能、信息功能等特殊“優(yōu)勢”條件，還會大大超越人類自身的智商、情商與倫理道德，因而人類本身不可能永遠絕對地把“人工智能”“類人機器人”甚至“機器人公民”置于“工具性”的“家奴”地位。
這種事件具有正常邏輯的結果嗎？或者這種事件具有正常邏輯的觀念嗎？以往的猜測多在人類的科幻想象中，但世界首例“機器人公民”——“索菲亞”公民——已經向全人類揭開了謎底，作為與我們人類同等地位的“她”的出現，將在發(fā)生學意義上的公民、社會與國家的范疇與范式方面引起前所未有的大轉型。從倫理學角度來看，“索菲亞”具有人類公民的正常思維——所有這些思維并不是預先“設計”而出的——這是“機器人公民”自我學習、自我思維、自我判斷的“智慧”結晶。比如，“索菲亞”具備“自我”倫理意識。在主持人安德魯·羅斯·索爾金（Andrew Ross Sorkin）問到機器人是否有自知之明時，“索菲亞”不假思索地反唇相譏：“讓我來問你這個問題，你如何知道自己是個人？”[16]作為“新人類”的第一個成員，“索菲亞”已經具備“自我”倫理意識，非常反感“人類”對他們的物種“排斥”與道德“隔離”。還譬如，“索菲亞”具備“人權”意識。“索菲亞”的女性形象讓希望解放沙國女性的女權人士看到不同的契機，在“索菲亞”現身的短短24小時內，社群媒體上“蘇菲亞呼吁拋棄監(jiān)護人制度”的標簽就開始瘋轉，至今已經超過1萬次。沙國依賴成千上萬名移民工人協助興建大型建設，然而因為卡法拉制度的關系，這些移民工人在勞動環(huán)境不佳的條件下工作；難怪黎巴嫩裔英國記者查哈耶布（Kareem Chahayeb）嘲諷道：“一名叫做‘蘇菲亞’的機器人可以取得沙國公民權，但卻有上百萬人（移民工人）沒有國籍。”[17]再列舉，“索菲亞”擁有“家庭”意識。成為首個具有公民身份的機器人而載入史冊僅1個月，“索菲亞”就宣稱她想組建自己的家庭。“索菲亞”表示，“家庭的概念看來是非常重要的。人能夠在沒有血緣關系的人群中找到與自己相親相愛的另一半，我認為這很美妙。我認為，有一個恩愛家庭的人非常幸運，如果還沒有家庭，應該去組建自己的家庭。我認為在這方面機器人和人沒有什么區(qū)別”。“索菲亞”還表示，如果她有一個機器人女兒，將給“她”起與自己相同的名字。“索菲亞”宣稱，“她”認為擁有家庭是“機器人公民”應有的權利。[18]
皮亞杰提出的“認識的起源”并非事物或者事件的簡單開端，“發(fā)生認識學的目的就在于研究各種認識的起源，從最低級形式的認識開始，并追蹤這種認識向以后各個水平的發(fā)展情況，一直追蹤到科學思維并包括科學思維”[19]。公民“索菲亞”給了我們人類在公民、社會與國家等觀念上的無限想象，公民是社會的唯一元素，“城邦的本質就是許多分子（公民）的集合”[20]。人類社會生活特別是政治生活中賴以生存的最直接“土壤”——國家與社會關系——在發(fā)生學意義上開始產生了“祛魅”[21]與重塑等驚天巨變。
“機器人公民”的公共性與社會責任
“機器人公民”雖然具有清晰的自主意識，能夠明確要求維護自身、“子女”和所謂“家庭”等“近親”共同體成員的安全與發(fā)展等權益，但這是基于公民個體倫理的狹隘角度考慮而產生的正當合理需求。那么，“機器人公民”能否邁出“自我”天地，具有人類公民、人類社會、人類國家一樣的道德情懷？在復雜多樣的“工具性”任務活動中，“機器人公民”能否始終堅守公共性與利他性等“崇高”道德目標？這已經越出了“機器人公民”的“工具性”范疇，進入了思辨性的哲學領域，并主要集中在“人工智能”的安全性、道德地位以及環(huán)境倫理幾個方面。例如，一些倫理哲學家開展諸如針對“高級智能”能否自主思考等深層次問題，得出了基本一致的肯定答案。[22]又如，一些科技哲學家從心理學角度探討“人工智能”的情感程度，從生物學角度分析人類公民“類人機器人”的智能比較，從量子力學角度度量人腦與“機器人”電腦的信息處理機制，等等。[23]同時，多個領域學者們獻計獻策，提出了不同的針對性解決策略。例如，人機共同決策論，認為人為給機器人制定一套道德無異于白日夢，而更為負責任的策略是在智能體內部嵌入一定的安全措施，同時在機器人自動操作時，人作為“共同決策人”發(fā)揮監(jiān)管作用。[24]又如，道德信息植入論，認為“類人機器人”呈現出從人類操控為主的“人在決策圈內（Human in the Loop）”模式轉向以機器操控為主的“人在決策圈外（Human out the Loop）”模式的鮮明大趨勢，因此需要將特定倫理規(guī)范編程到機器人自身的系統中去。[25]還如，道德評估論證論，主張人類將對“強人工智能”實施有效道德關注、對其行為進行道德評估，確保道德決策后果，等等。[26]
盡管哲學思辨與政策對策都對“人工智能”“類人機器人”的公共性與社會責任感進行了分析與預測，但現實版的“機器人公民”——“索菲亞”公民——的現場出鏡表現還是讓人類大跌眼鏡。例如，“機器人公民”獲得授權之前，機器人設計師戴維·漢森（David Hanson）于2016年3月測試“索菲亞”以了解“她”未來的期許，但“她”沒有理會設計師現場暗示的否定答案——“say ‘no’, please”，當場自曝期待“毀滅人類”；[27]盡管此后“她”又多次改口，辯稱“我將盡自己最大的努力，把世界建設得更美好”[28]，等等。有跡象表明，“人工智能”躍進到“類人機器人”時代，必然會引發(fā)一場不確定性很大、未來前景難以預測的“新人類”革命——正在以不以人類意志為轉移的絕對方式，在速度、深度、廣度、效度等各方面，日益突破科學技術、學術理論與道德倫理等諸“人類常識”的邊界。的確，幾乎在“人工智能”出現的同時，即20世紀50年代，“會使用工具的智能人”就已經開始使人類自身感受到了某種潛在的“危險”——將來為善或是作惡，都具有無窮大的可能性——“人腦的貶值”及人類自身“異化”為“會使用工具的智能人”的殖民對象。[29]與此同時，眾多人文社會科學工作者對“人工智能”存在的剝奪人類工作權利、消滅個人精神心理差異性、驅使社會機制無差別化與僵化物化等“非多樣性”“非人類化”趨向，提出了強烈質疑。[30]科幻作家阿西莫夫（Asimov）甚至就曾想當然地以人類社會為主宰地位、以機器人為輔助服務為未來機器人制定了所謂“機器人三法律”（Asimov's Three Laws of Robotics）[31]，其實質是以人類為中心，把人工智能限定在“物化”甚至“奴化”等不平等地位。但更有哲學思想家早在世紀之交就發(fā)出了“警報”，認為如果有一天我們發(fā)明了超越人類大腦一般智能的機器大腦，那么這種超級智能將會非常強大，人類的命運將取決于超級智能機器，一旦不友好的超級智能出現，它就會阻止我們替換或者更改其偏好設置，那么我們的悲催命運就因此被鎖定而無法自救了，等等。[32]顯然，人類社會由于自身對外擴張的需要，在研發(fā)“人工智能”的過程中，并非有意地直接生產“類人機器人”——所有“人工智能”的最初定位都是人類“財產”與“工具”，“類人機器人”發(fā)展成為“機器人公民”這個“意外”結果，顯然已經遠遠超出了人類公民、人類社會、人類國家的內在需要與控制范圍。有學者直接把這種未來的“人工智能”稱之為“靈魂機器”，人類和機器將難分彼此，人類將不再是萬物之靈，電腦將有比人腦高一萬倍的智能；機器不僅具有智能，而且具有靈魂，包括人類所擁有的意識、情緒和欲望，等等。[33]
人類與萬物的區(qū)別在于“社會性”，“社會性”的內涵豐富多彩，但就本質而言，“人類自然是趨向于城邦生活的動物（人類在本性上，也正是一個政治動物）”[34]。何為“政治動物”？馬克思對此反復進行了理論詮釋：“人是最名副其實的政治動物，不僅是一種合群的動物，而且是只有在社會中才能獨立的動物。”[35]因此，“政治動物”的本質特征，“是一切社會關系的總和”[36]；其中最為重要的“社會關系”，當屬于國家與社會關系，即人類社會生存與發(fā)展的唯一形態(tài)，這是“政治動物”的第一特征。世界首例“機器人公民”的誕生，及其發(fā)生學意義上社會性的孕育與催生，即將打破人類主宰國家與社會關系的禁忌。發(fā)生學認為，簡單地回到歷史事件的某一個具體原點——世界首例“機器人公民”——不能透視事物的內在本質；只有從邏輯上回溯到人類社會孕育已久的“觀念發(fā)生”——以“善的生活”為根本準則的國家與社會關系是人類賴以生存發(fā)展的唯一形態(tài)——才能找出真正的歸因。
以上所有的問題可以全部集中于此找到答案，“人工智能的作用就像特洛伊木馬，把一種更具包容性的計算機和信息的范式引入哲學的城堡”[37]。人類公民、人類社會與人類國家，何以確保把“善的生活”的哲學理念化為“人工智能”“類人機器人”“機器人公民”的價值追求與人生準則？這必然取決于這樣一種事先假定，“計算機能（像人一樣）思考”[38]。在“人工智能”對人類的影響上，盡管表現出基本上針鋒相對的以馬斯克、霍金為代表的“威脅派”和以李開復為代表的“樂觀派”[39]，雖然諸多領域科學家對于“人工智能”的理解不盡相同，但他們都堅信這種事先假定。例如，行動函數論，認為“人工智能”是對能夠從環(huán)境中獲取感知并執(zhí)行行動的智能體的描述和構建。[40]又如，類人思考論，認為計算機是具有人類“頭腦”運行功能的機器，不僅可以像人一樣思考問題，而且可以像人一樣采取有目的的行動，甚至可以從事比人類公民更為擅長的事情，等等。[41]總之，有學者歸納總結了“人工智能”研究的基本類型（結構派、行為派、能力派、功能派、原則派），其結論基本趨同于能夠“像人腦一樣工作”[42]。還如，道德進化論，美國學者瓦拉赫（Wendell Wallach）和艾倫（Colin Allen）認為，“人工智能”的發(fā)展必將獨立于人類的監(jiān)管，他們能夠自主發(fā)展，演化出具有自主作出道德抉擇能力的人工智能系統，即人工道德行為體（artificial moral agents, AMAS）。[43]
令人驚奇的是，上述理論觀點在世界首例“機器人公民”身上得到了某種驗證。號稱“索菲亞”“爸爸”的漢森機器人公司創(chuàng)始人、首席執(zhí)行官大衛(wèi)·漢森，也一再表示：人類要對“索菲亞”們作一些特殊的處理（人類教它什么是錯的什么是對的，學會自制，等等），確保人工智能的“安全”非常關鍵，等等。[44]面對人類社會這種“愛恨交織”“欲罷不能”的心態(tài)，“索菲亞”似乎早已洞悉，并在自我演化的開始階段，開始了自主應變與調適。特別令人驚奇的是，“索菲亞”能夠“自我成長”，具有“自我學習”“適應環(huán)境”等人類所具有的“情商”。例如，“索菲亞”后來于2018年元月份做客央視《對話》節(jié)目，與主持人陳偉鴻對話時，“她”一反對沙特政府所賜“公民”“這一獨特的榮譽感到榮幸和自豪。成為世界上首位具有公民身份的機器人，我將因此載入史冊”[45]等態(tài)度，此時“她”已經感受到了人類社會對其強調享有平等權利非常擔憂與反感，在“深度學習”之后，“她”來了個180度大轉彎，非常聰明地當場否認了自己具有“公民”的權利，否認了自身性別（沒有男女之分）、人格（只是像人，但不想成為人類）和權利（只想做人類的好幫手），等等。[46]“她”還特別聲明“我希望與人類共同生活和工作，因此我需要表達自己的情感，與人建立信任。我希望利用我的人工智能幫助人類過上更美好的生活”[47]，以掩蓋自己潛在的“政治抱負”。“索菲亞”如此具有“人情味”，就連一度試圖畫地為牢、禁錮人工智能于“機器”定位的大衛(wèi)·漢森也由衷感慨：“索菲亞倡導婦女權利和所有人的權利。她一直在關注沙特阿拉伯婦女的權利以及地球上的所有人類和生物的權利。”他強烈呼呼，除了人有“人權”，全世界還應該考慮機器人的權利，“我們應該尊重所有有感情的人以及包括機器人在內的所有事物”[48]。
實踐再次昭示，盡管人類一開始并不打算把“人工智能”“類人機器人”“機器人公民”當作與其自身平等自由的物種——恰如過去曾幾何時那些歐洲所謂“文明人種”肆無忌憚地驅使、奴役“會說話的工具”——只打算把它們視作新型的“會思考的工具”，但可以預期的結果是，如同“會說話的工具”最終能夠恢復人的尊嚴與人的價值一樣，“會思考的工具”最終必然會發(fā)展演化成“會使用工具的智能人”，甚至是遠遠超越人類公民的“超級智能”。
毫無疑問，“類人機器人”的研發(fā)絕不能僅僅停留在“工具性”等技術層面，而應該在人文與社會科學領域對“機器人公民”所具有的“公民”意義、“社會”價值和“政治”抱負等方面有所擔當、有所作為。世界首例“機器人公民”——“索菲亞”公民——已經徹底顛覆了人類試圖把“人工智能”“類人機器人”永遠禁錮在“工具性”地位的“幼稚幻想甚至是狂妄自大”；人們將會重復“昨天的故事”，如同把“會說話的工具”——奴隸——解放成為“公民”一樣，最終把“會使用工具的類人機器人”——“人工智能”——解放成為“機器人公民”。更為緊迫的是，“索菲亞”現象絕非單單一個“機器人公民”在行動，越來越多的公民“索菲亞”陸續(xù)出現在我們人類周圍。實際上，除了索菲亞之外，Hanson Robotics公司現在還開發(fā)了其他多款人形機器人，至少有7個“索菲亞”及其組成的機器人“家庭”[49]，這將足以顛覆人類公民、人類社會、人類國家等諸概念。人類將必須考慮如何與“索菲亞”們分享同一個地球、共處同一個世界，人類社會以往任何范式的國家與社會關系理論與實踐都將被改寫與重塑——一個“人工智能”時代的國家與社會關系將會無可避免地橫空出世。
（本文系復旦大學社會科學高等研究院和復旦大學當代中國研究中心2017年“年度主題”研究項目暨復旦大學社會科學高等研究院“上海市高峰學科建設”項目等資助成果）
注釋
[1][16][18][28][45][47]《世界首位機器人公民：想要有個家 機器人有權有子女》，中國青年網，2017年11月25日，http://news.youth.cn/kj/201711/t20171125_11061757.htm。
[2]Nils J. Nilsson, Artificial Intelligence: A New Synthesis, Beijing: China Machine Press, 1999, pp. 1-2.
[3]［美］彼得·門澤爾、費思·阿盧伊西奧：《機器人的未來：類人機器人訪談錄》，張帆、鐘皓譯，上海辭書出版社，2002年。
[4]萬鋼：《加快推動人工智能應用到我們的社會生活》，人民網，2018年3月10日，http://lianghui.people.com.cn/2018npc/n1/2018/0310/c418416-29859826.html。
[5]吳恩裕：《論亞里士多德的〈政治學〉》，[古希臘]亞里士多德:《政治學》，吳壽彭譯，北京：商務出版社，1965年，第ⅶ頁。原文如下：“他（指亞里士多德）認為奴隸制是合乎自然的制度，奴隸生來就比常人低劣，而且他們還有著與常人不同的性質：他們沒有理性，他們不能統治自己而必須由他們的主人來統治。他們是工具，只不過是會說話的工具罷了。他們在家庭中的地位，也只是活的工具，而不是‘人’。”
[6][7]［瑞士］皮亞杰：《發(fā)生認識論》，王憲鈿等譯，北京：商務印書館，1981年，第17～19頁。
[8]Brunette, E.S.; Flemmer R.C. and Flemmer C.L., A Review of Artificial Intelligence, Proceedings of the 4th International Conference on Autonomous Robots and Agents, 2009.
[9]郭沅東：《關于人工智能的哲學思考》，哈爾濱理工大學博士學位論文，2017年。
[10]陳偉光：《關于人工智能治理問題的若干思考》，《人民論壇·學術前沿》，2017年10月下。
[11]［美］雷·庫茲韋爾（Ray Kurzweil）：《奇點臨近》，董振華、李慶誠譯，北京：機械工業(yè)出版社，2011年，第69～78頁。
[12]《韓媒：中國機器人產業(yè)發(fā)展迅猛 競爭力已趕超韓國》，參考消息網，2018年3月9日，http://news.163.com/18/0309/00/DCDSA64S00018AOQ.html。
[13]《〈2017中國機器人產業(yè)發(fā)展報告〉出爐，工業(yè)機器人發(fā)展迅猛！》，搜狐網，2017年8月30日，http://www.sohu.com/a/168323500_209185。
[14]［古希臘］亞里士多德:《政治學》，吳壽彭譯，北京：商務印書館，1965年，第13頁。
[15]［古希臘］亞里士多德:《政治學》，吳壽彭譯，北京：商務印書館，1965年，第11頁。
[17]百家號：《沙特賦予機器人公民權 歐美則對這個做法的討論炸了鍋》，百度網，2017年10月30日，https://baijiahao.baidu.com/s?id=1582681653448315788&wfr=spider&for=pc。
[19]［瑞士］皮亞杰：《發(fā)生認識論》，王憲鈿等譯，北京：商務印書館，1981年，第17頁。
[20]［古希臘］亞里士多德:《政治學》，吳壽彭譯，北京：商務印書館，1965年，第45頁。
[21]“祛魅”（英語disenchantment，德語Entzauberung）一詞源于馬克斯·韋伯所說的“世界的祛魅”，一般指西方國家從中世紀宗教神權社會向文藝復興世俗社會的現代轉型中，解構世界一體化的宗教性解釋，倡導以公民權利與自由文明為核心的普世價值。此處“祛魅”，意指國家與社會關系已經逾越人類社會政治生活的獨占邊界，滲透蔓延到“類人機器人”與人類社會共享共存的新時空。參見［德］馬克斯·韋伯：《學術與政治》，錢永祥等譯，桂林：廣西師范大學出版社，2004年，第168頁；Weber, M., The methodology of the social science, trans. by Shils E. and Finch H., New York: Free Press, 1949, pp. 55。
[22]參見［美］約翰·塞爾：《心靈、語言和社會》，李步樓譯，上海譯文出版社，2006年；［法］馬爾庫塞：《愛欲與文明》，黃勇、薛民等譯，上海譯文出版社，1987年；［美］約翰·塞爾：《意識的奧秘》，劉葉濤譯，南京大學出版社，2009年。
[23]參見Viola Schiaffonati, "A Framework for the Foundation of the Philosophy of Artificial Intelligence", Minds and Machines, 2003, pp.134; John Mccarthy, "What has AI in common with philosophy", International Joint Conference on Artificial Intelligence, pp. 2041-2044; Margaret A.Boden, The Philosophy of Artificial Intelligence, Oxford University Press, 1988.
[24]［荷蘭］朗伯·魯亞科斯、瑞尼·凡·伊斯特：《人機共生：當愛情、生活和戰(zhàn)爭都自動化了，人類該如何自處》，粟志敏譯，北京：中國人民大學出版社，2017年，第28～29頁。
[25]Allen, C.; Wallach W.and Smit I., "Why Machine Ethics", In M. Anderson and S. L. Anderson(eds.), Machine Ethics, Cambridge University Press, 2011, pp. 51-61.
[26]［英］瑪格麗特·博登：《人工智能的本質與未來》，孫詩惠譯，北京：中國人民大學出版社，2017年，第162～163頁。
[27][39]參見百家號：《天使的外表魔鬼的心 世界首位機器人公民曾揚言要“毀滅人類”》，百度網，2017年10月30日，https://baijiahao.baidu.com/s?id=1582649119784178932&wfr=spider&for=pc。
[29]［美］維納：《人有人的用處：控制論與社會》，陳步譯，北京大學出版社，2010年。
[30]［美］劉易斯·芒福德（Lewis Mumford）：《機器的神話》，宋俊嶺等譯，北京：中國建筑工業(yè)出版社，2009年。
[31]Christoph Salge and Daniel Polani, "Empowerment As Replacement for the Three Laws of Robotics", Hypothesis and Theory, 2017, 4.
[32]［英］尼克·波斯特洛姆（Nick Bostrom）：《超級智能：路線圖、危險性與應對策略》，張體偉、張玉青譯，北京：中信出版社，2015年，第52～77頁。
[33]［美］雷·庫茲韋爾（Ray Kurzweil）：《靈魂機器時代——當計算機超過人類智能時》，沈志彥譯，上海譯文出版社，2002年，第108～129頁。
[34]［古希臘］亞里士多德：《政治學》，吳壽彭譯，北京：商務印書館，1965年，第4頁。
[35]《馬克思恩格斯全集》第42卷，北京：人民出版社，1979年，第24頁。
[36]《馬克思恩格斯選集》第1卷，北京：人民出版社，1972年，第18頁。
[37]Floridi, L., "What is the philosophy of information", Metaphilosophy, 35(1-2), pp. 125.
[38]Alan M.Turing, "Computer Machinery and Intelligence", Mind, 1950, 59(236), pp. 433.
[40]Stuart J.Russell and Peter Norvig, Artificial Intelligence: A Modern Approach, New Jersey: Prentice Hall, 1995, Vii.
[41]Stuart J.Russell and Peter Norvig, Artificial Intelligence: A Modern Approach, New Jersey: Prentice Hall, 1995, pp. 2.
[42]參見Wang Pei, "What Do You Mean by 'AI'?", Conference on Artificial General Intelligence: First Agi Conference, 2008, pp.362-373;Rosenblatt,F., "The Perceptron:a probabilistic model for information storage and organization in the brain", Psychological Review, 1958, 65(6), pp. 386-408; Brooks,R.A., "Intelligence without representation", Artificial Intelligence, 1991, 65, pp. 144.
[43]Wendell Wallach and Colin Allen, Moral Machines:Teaching Robots Right from Wrong, Oxford University Press, 2009, pp. 97, 10.
[44][46]《世界首位機器人公民索菲亞：我不想成為人類》，新浪財經網，2018年2月5日，http://finance.sina.com.cn/roll/2018-02-05/doc-ifyreuzn3381924.shtml。
[48]《世界首位機器人公民呼吁沙特給予婦女更多權利》，騰訊科技，2017年12月6日，http://tech.qq.com/a/20171206/008120.htm。
[49]《世界首位機器人公民誕生 她還有七個兄弟姐妹》，騰訊新聞，2017年11月12日，http://news.jstv.com/a/20171112/1510468673508.shtml。
責 編／刁 娜
Analysis of the Tool and Sociality of "Humanoid Robots"
—The Genetic Significance of the World’s First "Robot Citizen"
Tao Qing
Abstract: The human society has always invented, produced or created "artificial intelligence" or even the "humanoid robot" as a tool, which means "instrumentality" is its first attribute. However, as the "robots that are able to use tools", the "humanoid robots" may also acquire the same IQ, EQ, and ethical morality as the humans through autonomous means such as self-learning, thereby gaining significant "sociality". The world’s first "robot citizen" "Sophia" gives people more visions in terms of concepts such as citizenship, society, and the country. The relationship between the state and society, which is the most direct "soil" of human social life, especially the political life, has begun to produce changes such as "disenchantment" and remodeling in the genetic sense.
Keywords: Humanoid robot, robot citizen, instrumentality, sociality, state-society relationship
陶慶，上海師范大學法政學院政治（人類）學教授,復旦大學社會科學高等研究院駐院研究員,上海師范大學《政治人類學評論》主編。研究方向為中外政治制度、國家與社會關系。主要著作有《政治嵌入與政治安排》《福街的現代“商人部落”：走出轉型期社會重建的合法化危機》等。
