概述

現(xiàn)有人工智能的不足與挑戰(zhàn)

人工智能（Artificial Intelligence，AI）的概念于1956年的達特蒙斯學(xué)院（Dartmouth）暑期論壇首次提出。六十年間人工智能伴隨著互聯(lián)網(wǎng)、大數(shù)據(jù)、云計算等技術(shù)的發(fā)展取得了長足的進展。這其中人工智能的理論思想演變?yōu)槿罅髋?，分別是聯(lián)結(jié)主義（Connectionism）、行為主義（Actionism）和符號主義（Symbolicism）。盡管每種理論均取得了卓越的成就并且依舊為現(xiàn)在人工智能的主流研究方向，但是也均存在不足之處。

聯(lián)結(jié)主義思想模仿人大腦皮層神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)，通過深度學(xué)習(xí)的方法，即用多隱層的處理結(jié)構(gòu)處理大數(shù)據(jù)。但該方法限于在具有可微分、強監(jiān)督學(xué)習(xí)、封閉靜態(tài)系統(tǒng)任務(wù)下才會得到良好的結(jié)果，并且訓(xùn)練得到的結(jié)果也限制于給定條件的問題上。行為主義思想通過不斷模仿人或生物個體的行為超越原有的表現(xiàn)來推進機器的進化，主要依賴具有獎懲控制機制的強化學(xué)習(xí)方法。然而，該方法的缺點在于過于簡化人類的行為過程，忽略人類心理的內(nèi)部活動過程和意識的重要性。符號主義思想具有產(chǎn)生智能行為的充分必要條件假設(shè)，并且需基于有限理性原理（Newell，Allen & Simon，H. A.，1976）。該方法的實質(zhì)是通過符號模擬人的大腦抽象邏輯思維過程，模擬人類認知系統(tǒng)的功能機理，并通過計算機處理符號的運算，從而實現(xiàn)人工智能。但是符號主義思想面臨四個主要挑戰(zhàn)：知識的自動獲??；多元知識的自動融合；面向知識的表示學(xué)習(xí)；知識推理與運用。符號主義雖通過模擬人的思維過程實現(xiàn)人工智能，但對于以上四個問題難以有突破性的成果。

人工智能的優(yōu)勢在于龐大的信息存儲量和高速的處理速度，但是無法處理如休謨問題，即從“是”（being）能否推出“應(yīng)該”（should），也即“事實”命題能否推出“價值”命題（休謨，2014）；也無法處理情感的表征問題。人工智能嘗試通過大數(shù)據(jù)與逐步升級的算法實現(xiàn)人的情感與意指，但依舊沒有辦法實現(xiàn)跨越，而人機智能融合將會是未來智能科學(xué)發(fā)展的下一個突破點。

人機融合智能是對現(xiàn)有人工智能不足的補充

人機融合智能理論著重描述了一種由人、機、環(huán)境系統(tǒng)相互作用而產(chǎn)生的新型智能形式，它既不同于人的智能也不同于人工智能，而是一種物理性與生物性相結(jié)合的新一代智能科學(xué)體系。人機交互技術(shù)主要涉及人脖子以下的生理心理工效學(xué)問題，而人機融合智能主要側(cè)重人脖子以上的大腦與機器的“電腦”相結(jié)合的智能問題。人機融合智能在以下三個方面不同于人的智能與人工智能：首先是在智能輸入端，人機融合智能的思想不單單依賴硬件傳感器采集的客觀數(shù)據(jù)或是人五官感知到的主觀信息，而是把兩者有效地結(jié)合起來，并且聯(lián)系人的先驗知識，形成一種新的輸入方式；其次是在信息的處理階段，也是智能產(chǎn)生的重要階段，將人的認知方式與計算機優(yōu)勢的計算能力融合起來，構(gòu)建起一種新的理解途徑；最后是在智能的輸出端，將人在決策中體現(xiàn)的價值效應(yīng)加入計算機逐漸迭代的算法之中相互匹配，形成有機化與概率化相互協(xié)調(diào)的優(yōu)化判斷。在人機融合的不斷適應(yīng)中，人將會對慣性常識行為進行有意識地思考，而機器也將會從人在不同條件下所做的決策中發(fā)現(xiàn)價值權(quán)重的區(qū)別。人與機器之間的理解將會從單向性轉(zhuǎn)變?yōu)殡p向性，人的主動性將與機器的被動性混合起來。人處理其擅長的“應(yīng)該”（should）等價值取向的主觀信息，而機器不僅處理其擅長的“是”（being）等規(guī)則概率的客觀數(shù)據(jù)，同時也將從人處理“應(yīng)該”（should）信息中優(yōu)化自己的算法，從而產(chǎn)生“人+機器”大于“人與機器”的效果。

人機融合采用分層的體系結(jié)構(gòu)。人類通過后天完善的認知能力對外界環(huán)境進行分析感知，其認知過程可分為記憶層、意圖層，決策層、感知與行為層，形成意向性的思維；機器通過探測數(shù)據(jù)對外界環(huán)境進行感知分析，其認知過程分為目標層知識庫，任務(wù)規(guī)劃層、感知與執(zhí)行層，形成形式化的思維。相同的體系結(jié)構(gòu)指明人類與機器可以在相同的層次之間進行融合，并且在不同的層次之間也可以產(chǎn)生因果關(guān)系。

人機融合智能技術(shù)的應(yīng)用

2018年，人機融合智能技術(shù)呈現(xiàn)出一多分有的態(tài)勢，既關(guān)涉?zhèn)€人也與“群體”智能有關(guān)。人機融合智能中的“人”不限于個人，代表著以人為本的認知思維方式還包括眾人，機器也不限于機器裝備，還代表著計算機系統(tǒng)的機制機理。除此之外，自然和社會環(huán)境、真實和虛擬環(huán)境都會對人機融合智能的適應(yīng)性產(chǎn)生影響等。人機融合智能著重于解決上述人機融合過程中產(chǎn)生的細節(jié)問題。

美國快公司（Fast Company）提及的“人與機器人融合的阿凡達（Avatar）風(fēng)格”案例。通過其配置的頭戴式顯示器，操作者可以看到機器人捕捉到的場景，并且機器人將操作者執(zhí)行動作產(chǎn)生的反饋傳回給操作者，從而形成人機融合的信息閉環(huán)。遠程控制機器人傳遞了機器人對環(huán)境態(tài)勢的感知，之后由人理解與決策，這是初級階段的人機融合智能。如T-HR3型機器人通過最新的5G網(wǎng)絡(luò)技術(shù)可以使機器人在長距離的工作環(huán)境中擺脫延遲影響，幾乎可以為用戶提供即時反饋。該機器人對現(xiàn)實場景中的力的傳達十分精確，它可以執(zhí)行需要用力才能完成的任務(wù)：雙手拿球，抓起模塊并堆砌，甚至與人握手。在人機融合與機器人的實際應(yīng)用下，豐田公司研發(fā)的最新的人機融合平臺將探索機器人與周圍環(huán)境之間物理交互的安全管理，以及一種能將用戶動作映射到機器人的新型遠程操縱系統(tǒng)，使得人機融合獲得更加流暢的體驗。

同時，在制造行業(yè)，人機融合智能也得到了重視與發(fā)展。傳統(tǒng)的工業(yè)流水線通過用機器人代替人類完成重復(fù)的機械工作?，F(xiàn)今出現(xiàn)在制造業(yè)工業(yè)流水線中的人機融合智能依存于不同的硬件設(shè)備與環(huán)境條件，有的類似機器人助手，有的則是外骨骼套裝。如，寶馬公司的斯帕坦堡工廠里有一款名為“夏洛特小姐”的人機融合機器人，用來輔助車門的精確安裝。梅塞德斯奔馳公司也在開發(fā)人機融合技術(shù)，該公司為每個個體客戶提供向奢華車型添加更加個性化的定制服務(wù)，并利用數(shù)據(jù)與人工的結(jié)合使得這一服務(wù)成為可能。在人機融合智能取代了體積更大的自動化系統(tǒng)后，定制版S級轎車所需的特殊零件將不會給普通流水線帶來時效性的麻煩，轉(zhuǎn)而是更方便的操作與管理。麻省理工學(xué)院的教授朱莉•肖也在開發(fā)一種特殊的軟件算法，它的目的在于使機器人理解人類發(fā)出的信息訊號，繼而解決機器人與人類的溝通問題。

人機融合智能未來的關(guān)鍵問題

目前人機融合智能的發(fā)展還在初級階段，人機融合智能的第一個關(guān)鍵問題，也是最重要的問題，在于如何將機器的計算能力與人的認識能力結(jié)合起來。目前處在應(yīng)用階段的人機融合中人與機器分工明確，從而沒有產(chǎn)生有效的結(jié)合作用。人類在后天的學(xué)習(xí)中不斷拓展認知能力，所以人類能夠在復(fù)雜的環(huán)境下更為精準地理解態(tài)勢的發(fā)展。通過聯(lián)想人能夠產(chǎn)生跨領(lǐng)域結(jié)合的能力，而這種認知聯(lián)想能力恰恰是缺失的，如何使得機器產(chǎn)生這種能力是實現(xiàn)真正智能的突破口。朱利奧•托諾尼的整體信息論（Integrated Information Theory，IIT）表明，一個有意識的系統(tǒng)必須是信息高速整合的。同時，進化出有模仿認知能力的機器，需要保證人與機器之間共同意識的存在。所以人和機器之間必須建立高速、有效的雙向信息交互關(guān)系。認知的基本在于抽象，而對于機器來說抽象能力決定了問題的限制環(huán)境，越是抽象的思維表征越能夠適應(yīng)不同的情境。同時，高抽象能力也會帶來更普適的遷移能力，從而突破思維的局限性。1971年圖靈獲獎?wù)呒s翰•麥卡錫認為，“與所有專門化的理論一樣，所有科學(xué)也都體現(xiàn)在常識中。當(dāng)你試圖證明這些理論時，你就回到了常識推理，因為常識指導(dǎo)著你的實驗”。常識就是非結(jié)構(gòu)化的多模態(tài)信息/支持的復(fù)合體，在認知里的常識是人類的先驗知識，而計算機的信息輸入恰恰忽略掉常識。所以研究知識本事、知識類型、知識原理也是突破認知與計算結(jié)合的關(guān)鍵。

人機融合的另一個關(guān)鍵問題是公理與非公理混合推理，直覺與理性結(jié)合的決策。公理是數(shù)學(xué)發(fā)展史中的理論基礎(chǔ)，而在科學(xué)研究過程中邏輯推導(dǎo)是最為核心的方法。相同的，計算機是按照嚴密的算法語言運行的。但是人類的決策不同于這個過程，人類的聯(lián)想能力還需要依賴于類比推理。類比推理為非公理推理的一部分，非公理推理決定了在弱態(tài)勢情況下的強感知問題。這種學(xué)習(xí)方法依賴于先驗知識，通過利用大數(shù)據(jù)與概率的方法實現(xiàn)。而實現(xiàn)機器的非公理推理是人與機器的區(qū)別之一，更是人的情感在機器上實現(xiàn)的重要途徑。通過先驗知識人類產(chǎn)生直覺，而理性的分析是直覺的對立面。機器總是在理性地處理數(shù)據(jù)，而如何讓機器產(chǎn)生直覺能力是人機融合的平滑性的關(guān)鍵。公理與非公理推理，直覺與理性的結(jié)合決策將是解決人機融合智能輸出的重要研究方向。

人機融合智能的關(guān)鍵問題還包括介入問題。介入問題反映出人機融合的時機與方式問題，尤其是當(dāng)人與機器存在對感知信息的不對稱，人與機器在決策的方向上出現(xiàn)矛盾時。同時人機融合中的介入問題體現(xiàn)在團隊?wèi)B(tài)勢感知之中，而團隊任務(wù)的比重也逐漸偏向于人機群的團隊?wèi)B(tài)勢感知。團隊?wèi)B(tài)勢感知中團員之間的交互包括接受、容忍、信任、匹配、調(diào)度、切換、說服，這是保證“團隊大于個人”的條件。而人機融合中的介入問題和人與人之間的交互問題具有同樣的復(fù)雜度，從技術(shù)角度講，人機融合智能絕不僅是一個數(shù)學(xué)仿真建模問題，同時是一個心理學(xué)工效問題，還應(yīng)是一個實驗統(tǒng)計體驗擬合的問題。

人機融合智能的最后一個關(guān)鍵問題是倫理問題。人類價值觀的起源是倫理學(xué)。從團隊?wèi)B(tài)勢感知中可以看出，人類本身擁有很多倫理道德困境，而隨著人工智能的出現(xiàn)給人類帶來了有關(guān)新的倫理問題的思考。與此同時，人機融合智能的范疇歸屬是人機融合智能倫理問題的關(guān)鍵。人機融合智能的倫理不僅包括人工智能的倫理，其中還包括人工智能的思想產(chǎn)生對于實際法律問題的影響，以及人機融合后的界定，所產(chǎn)生的行為是歸屬于人還是機器的思想。在思想之外，人機融合智能中設(shè)備作為人的一部分所產(chǎn)生的行為需要面對怎樣的法律責(zé)任，也是人機融合智能未來發(fā)展的重要問題。

人機融合智能技術(shù)的未來發(fā)展方向

信息融合與人機融合智能

信息融合起源于數(shù)據(jù)融合，或者說數(shù)據(jù)融合是信息融合的第一階段。數(shù)據(jù)融合利用多傳感器所得到的數(shù)據(jù)與結(jié)果形成單一傳感器無法得到的更準確可信的結(jié)論和質(zhì)量。最早的數(shù)據(jù)融合限于硬件設(shè)備的差異，需要加入人工的梳理，盡管如此，傳感器依舊會因硬件問題存在時效性和精度的問題，從而對后續(xù)的工作產(chǎn)生接二連三的影響。這使得研究向融合方式逐漸轉(zhuǎn)變。信息融合發(fā)展的第二階段除采用多傳感器探測數(shù)據(jù)外，還融入了其他信息源。同時，比起傳感器數(shù)據(jù)的融合，多信息源的信息融合方法和技術(shù)難度更大。需要從統(tǒng)計學(xué)和結(jié)構(gòu)化模型邁向非結(jié)構(gòu)化模型，以及人工智能技術(shù)和基于知識的系統(tǒng)。除此之外，信息融合正在不斷地加入態(tài)勢/影響估計等高級感知領(lǐng)域。現(xiàn)階段的信息融合模型依然僅采用海量數(shù)據(jù)規(guī)模、快速動態(tài)的數(shù)據(jù)體系、多數(shù)據(jù)類型和低數(shù)據(jù)價值密度（Blasch EP，Hanselman P）。

信息融合是人機融合智能中關(guān)鍵的一環(huán)。在目前的兩個階段中，信息融合無論在理論上還是在技術(shù)和應(yīng)用實現(xiàn)上，更多的都是力圖建立一個能夠自動運行的產(chǎn)品，嵌入到應(yīng)用系統(tǒng)中或直接作為系統(tǒng)應(yīng)用到相應(yīng)業(yè)務(wù)活動中。而在傳統(tǒng)結(jié)構(gòu)化數(shù)學(xué)模型和方法，如統(tǒng)計學(xué)、計算方法、數(shù)學(xué)規(guī)劃以及各種信息處理算法無法解決的目標識別、態(tài)勢估計、影響估計等高級融合問題，則求助于不確定性處理和人工智能技術(shù)。然而，當(dāng)前不確定性處理技術(shù)特別是人工智能技術(shù)的發(fā)展與高級信息如人的需求相差甚遠。而在處理不確定性問題，涉及“是”（being）的問題到“應(yīng)該”（should）問題的轉(zhuǎn)變，是人的優(yōu)勢所在。在信息融合系統(tǒng)運行過程中添加人的選擇判斷與行動管理，是使信息融合智能在觀測、判斷、分析與決策方面的高級感知領(lǐng)域取得質(zhì)變的關(guān)鍵。

態(tài)勢感知與人機融合智能

態(tài)勢感知（Situation Awareness，SA）概念最早出現(xiàn)在航空心理學(xué)中，描述飛行員對作戰(zhàn)飛行任務(wù)中態(tài)勢的理解。態(tài)勢感知的經(jīng)典理論是Endsley于1995年提出的三級模型，其定義為人在一定的空間和時間內(nèi)對環(huán)境中各要素的感知（perception）、綜合理解（comprehension）以及預(yù)測（projection）的能力。二十多年來SA的研究逐漸擴展到民航飛行員、空中交通管制員、核電廠的操作員、軍事指揮員等，在這些領(lǐng)域中，操作者的SA是影響決策質(zhì)量和作業(yè)績效的關(guān)鍵因素，擁有良好的態(tài)勢感知對復(fù)雜和動態(tài)的系統(tǒng)，對如航空、空中交通管制、飛機駕駛等任務(wù)中的決策起到了相當(dāng)關(guān)鍵的作用。

態(tài)勢感知的概念出現(xiàn)在人機協(xié)同的工作中。在態(tài)勢感知的三級模型中，感知即獲取信息，而在高負荷的認知條件下信息的獲取主要依賴機器的傳感器，之后經(jīng)過計算機的處理呈現(xiàn)給操作員。三級模型中機器在感知階段扮演重要的角色。而在預(yù)測后的決策階段，同樣需要機器與人之間的協(xié)同判斷與分析。三級階段中彼此階段之間的人機分離是模型中的缺陷。而推動態(tài)勢感知中人與機器融合是實現(xiàn)態(tài)勢理解獲得良好績效的關(guān)鍵。人、機器與環(huán)境構(gòu)成的特定情境的組成成分常會快速變化，這種快節(jié)奏的態(tài)勢演變需要充分時間和足夠信息來形成態(tài)勢的全面感知與理解。同樣，人機融合智能也在態(tài)勢不足的情況下，憑借先驗知識通過大數(shù)據(jù)處理分析輔助操作員的決策提供了弱態(tài)勢下強感知的解決方法。

自主性與人機融合智能

自動化已經(jīng)應(yīng)用于各種系統(tǒng)中，并且通常包括需要軟件提供邏輯步驟與操作。傳統(tǒng)的自動化的定義為“系統(tǒng)在沒有/很少人為操作員參與的情況下運行，但是，系統(tǒng)性能僅限于其設(shè)計要執(zhí)行的具體操作”。相比于自動化系統(tǒng)，自主性涉及使用額外的傳感器和更復(fù)雜的軟件，以便在更廣泛的操作條件和環(huán)境因素以及更廣泛的功能或活動范圍內(nèi)提供更高水平的自動化行為（L. G. Shattuck）。自主系統(tǒng)具有一定程度的自主行為（用人的決策代理）。通過軟件方法可以擴展到基于計算邏輯（或者更普遍地，基于規(guī)則的）方法以包括計算智能（例如，模糊邏輯、神經(jīng)網(wǎng)絡(luò)、貝葉斯網(wǎng)絡(luò)）。另外，學(xué)習(xí)算法可以提供學(xué)習(xí)和適應(yīng)不斷變化的環(huán)境的能力。自主性是自動化的一個重大擴展，在這種擴展中，面向任務(wù)的高水平命令將在各種可能不是完全預(yù)期的情況下成功執(zhí)行，就像我們目前期望智能人員在給予足夠的獨立性和任務(wù)時運行一樣執(zhí)行權(quán)限。自主是良好的設(shè)計和高度自動化。

但是自主系統(tǒng)面臨著幾個常見的問題：

自主系統(tǒng)的設(shè)計能力問題。即自主性在人與自動化之間的平衡問題。面臨新環(huán)境與一成不變的環(huán)境、輕度重復(fù)的工作與可信賴的重復(fù)工作、可不連續(xù)與始終如一、不可預(yù)測與可預(yù)測的博弈；操作員對自主系統(tǒng)的態(tài)勢感知能力，高級的自動化很容易讓操作員不了解自動化在做什么，所以需要給飛行員提供合適的參與度，保持與自主系統(tǒng)不脫節(jié)。

輔助系統(tǒng)的問題。自動化的輔助系統(tǒng)常常給操作員很高的信任感，以此類比向?qū)＜仪笾鷨栴}，專家的標簽本身就帶來一種信任，而實際上真正對結(jié)果的評價應(yīng)該在于問題本身的解答，而不是外在的標簽。同樣的輔助系統(tǒng)會給操作員帶來同樣的信任，但這種信任在有偏差的情況下會帶來災(zāi)難。

信任問題。信任問題受到系統(tǒng)因素、個人因素、情境因素的影響，自主系統(tǒng)對現(xiàn)實狀況帶來的錯誤的判斷會使操作員對系統(tǒng)的信任迅速降低，而怎樣讓操作員信任自主系統(tǒng)，在此心理環(huán)境下做出更好的任務(wù)操作很重要。

人機融合智能中的一個重要課題是如何解決人與自動化的平衡問題，以及人與機器之間的信任問題。自主系統(tǒng)下需要以人為中心，并不需要尋求完全用機器取代人，人在其中的控制和指揮是必不可少的。所以需要更加靈活的自主性和自主權(quán)的切換。隨著系統(tǒng)能力的提升，自主性的水平也在提升。決策輔助為操作員提供潛在的選項，而監(jiān)督控制使操作員可以適當(dāng)?shù)馗深A(yù)。具體情境下使用何種水平的自主性系統(tǒng)是動態(tài)變化的，比如在風(fēng)險低的情境下可以使用高度的自動化，而在風(fēng)險發(fā)生變化之后應(yīng)該對人在自助系統(tǒng)中的參與度進行調(diào)控。共享人和機器的態(tài)勢感知也非常重要。即便在相同的顯示器下處于相同環(huán)境中的人也會有不同的目標和心理模型，從而對未來的預(yù)測也是不同的。自主系統(tǒng)通過傳感器獲取信息理解世界的方式和人不同，所以需要對人和機器的態(tài)勢感知進行共享。具體體現(xiàn)在目標一致，功能分配和重新分配，尋找人與機器各司其事的平衡，決策溝通，包括對戰(zhàn)略、計劃和行動，以及任務(wù)調(diào)整，因為任務(wù)通常需要與雙方都有緊密的依賴。這四個方面需要自主系統(tǒng)和人的態(tài)勢感知保持一致性。

總結(jié)

盡管人機融合智能的發(fā)展尚在初級階段，但其概念中所傳遞出來的思考為人工智能注入了活力。人機融合智能在一些實際場景中取得了初步成果，未來還會在醫(yī)療、軍事、機械等更多領(lǐng)域繼續(xù)取得進步。人機融合智能是主客觀的結(jié)合，是靈活的意向性與精確地形式化的結(jié)合。人機融合智能將會是接下來人工智能發(fā)展的一個重要分支。

【本文作者為北京郵電大學(xué)自動化學(xué)院崗位教授；本文系國家社科基金重大項目“智能革命與人類深度科技化前景的哲學(xué)研究”的階段性成果，項目批準號：17ZDA028】

責(zé)編：蔡圣楠 / 李 懿