6. 美國(guó)科技巨頭依據(jù)自身道德判斷，加強(qiáng)企業(yè)自律及對(duì)人工智能技術(shù)的監(jiān)管

得票率：49.55%

案例描述：

據(jù)外媒消息，IBM將不再提供、開發(fā)或研究面部識(shí)別技術(shù)，并表示“IBM堅(jiān)決反對(duì)并且不會(huì)容忍將任何面部識(shí)別技術(shù)用于大規(guī)模監(jiān)視、侵犯基本人權(quán)和自由或與我們的宗旨不符的任何行為。”此外，亞馬遜、微軟也均表態(tài)要支持種族平等，叫停人臉識(shí)別：亞馬遜聲明暫停向警方提供人臉識(shí)別技術(shù)一年時(shí)間；微軟也表態(tài)停止向警方銷售人臉識(shí)別軟件，直到有相關(guān)國(guó)家法律出臺(tái)。

歐盟有關(guān)方面和微軟、IBM等科技巨頭共同簽署了《人工智能倫理羅馬宣言》，討論如何規(guī)范人工智能的社會(huì)影響，這是歐盟推動(dòng)全球數(shù)字經(jīng)濟(jì)監(jiān)管新標(biāo)準(zhǔn)的最新舉措。與美國(guó)不同，在數(shù)字經(jīng)濟(jì)和人工智能領(lǐng)域，歐盟采取的是先規(guī)范后發(fā)展的路徑。《人工智能倫理羅馬宣言》指出，人工智能技術(shù)應(yīng)尊重個(gè)人隱私，以可靠而無(wú)偏見的方式工作，考慮所有人的需求，并以透明方式運(yùn)作。這些表述顯示歐盟擔(dān)憂人工智能的負(fù)面影響，認(rèn)為人工智能系統(tǒng)尚處于研究階段，其做出的決定往往難以預(yù)測(cè)。

Google啟動(dòng)了800多名員工的初始“技術(shù)道德”培訓(xùn)，并還針對(duì)AI原則問(wèn)題發(fā)現(xiàn)了新的培訓(xùn)。Google最近發(fā)布了此培訓(xùn)的一個(gè)版本，作為面向客戶的Cloud團(tuán)隊(duì)的必修課程，已有5,000名Cloud員工參加了該培訓(xùn)。這些員工提出了一些關(guān)鍵問(wèn)題來(lái)發(fā)現(xiàn)潛在的道德問(wèn)題，例如AI應(yīng)用程序是否會(huì)導(dǎo)致經(jīng)濟(jì)或教育上的排斥或造成身體、心理、社會(huì)或環(huán)境傷害。（來(lái)源：綜合人民網(wǎng)等）

專家點(diǎn)評(píng)：

盧瑞昌 北京大學(xué)光華管理學(xué)院金融學(xué)助理教授

我們需要思考AI與企業(yè)治理的關(guān)系，AI倫理如何嵌入到商業(yè)運(yùn)行之中。誰(shuí)來(lái)做企業(yè)開發(fā)AI算法時(shí)的最后判斷者？我們應(yīng)該從哪個(gè)環(huán)節(jié)切入，思考人工智能所導(dǎo)致的結(jié)果。從防衛(wèi)意義上講，谷歌提供“技術(shù)道德培訓(xùn)”是很重要的，谷歌的培訓(xùn)能否應(yīng)對(duì)AI道德倫理的挑戰(zhàn)，力度夠不夠、能否完成，這都是一個(gè)爭(zhēng)論點(diǎn)。IBM等公司不再提供、開發(fā)或研究面部識(shí)別技術(shù)也值得關(guān)注。算法在某種意義上會(huì)提升商業(yè)利益，但也要注意它所帶來(lái)的歧視問(wèn)題。我們需要去思考，如何判斷當(dāng)人工智能以明確的目標(biāo)制定出來(lái)，為最大化實(shí)現(xiàn)某個(gè)目標(biāo)時(shí)所導(dǎo)致的歧視問(wèn)題。

季衛(wèi)東 上海交通大學(xué)文科資深教授、中國(guó)法與社會(huì)研究院院長(zhǎng)

谷歌提供“技術(shù)道德培訓(xùn)”的案例涉及到軟法問(wèn)題。軟法主要指道德，我們可以看到美國(guó)的企業(yè)已經(jīng)從道德入手，制定企業(yè)內(nèi)部規(guī)則或是技術(shù)操作規(guī)則。這個(gè)案例的研究意義不在于這種現(xiàn)象，而在于其反映的軟法的管理。

孫明俊 中關(guān)村智用人工智能研究院執(zhí)行院長(zhǎng)、中視科技CEO

2016年6月，歐盟生效了個(gè)人數(shù)據(jù)保護(hù)規(guī)范《一般數(shù)據(jù)保護(hù)規(guī)則》，該《規(guī)則》具體規(guī)定了個(gè)人數(shù)據(jù)處理的操作規(guī)范以及歐盟公民的個(gè)人數(shù)據(jù)流出歐盟的基本條件。其中第22條專門規(guī)定了基于個(gè)人數(shù)據(jù)自動(dòng)化決策和分析（Profiling）的條件。根據(jù)該《規(guī)則》，任何第三國(guó)，作為歐盟公民數(shù)據(jù)流出的目的地，的個(gè)人數(shù)據(jù)保護(hù)標(biāo)準(zhǔn)應(yīng)等于或者高于歐盟標(biāo)準(zhǔn)。這也是美國(guó)科技巨頭不斷提高人工智能隱私保護(hù)標(biāo)準(zhǔn)的原因之一。

一方面，對(duì)于跨國(guó)數(shù)字企業(yè)，自我規(guī)范在企業(yè)合規(guī)中極為重要。歐盟在《一般數(shù)據(jù)保護(hù)規(guī)則》中規(guī)定了數(shù)據(jù)控制方，也即處理數(shù)據(jù)的責(zé)任方需要證明其業(yè)務(wù)遵守了《規(guī)則》中的相關(guān)義務(wù)。而且歐盟在《一般數(shù)據(jù)保護(hù)規(guī)則》中要求在歐盟成員國(guó)有業(yè)務(wù)的企業(yè)都應(yīng)建立組織架構(gòu)，包括獨(dú)立的數(shù)據(jù)保護(hù)官員以及相關(guān)機(jī)制，確保自我規(guī)范的有效性?？紤]到歐盟市場(chǎng)是美國(guó)科技巨頭利潤(rùn)的重要來(lái)源，美國(guó)科技巨頭確保自身業(yè)務(wù)在《一般數(shù)據(jù)規(guī)則》下的合規(guī)極為重要。

另一方面，企業(yè)社會(huì)責(zé)任報(bào)告是實(shí)現(xiàn)可持續(xù)發(fā)展目標(biāo)（Sustainable Development Goals）的重要機(jī)制，這種企業(yè)自愿報(bào)告工具正在逐漸普及。企業(yè)社會(huì)責(zé)任報(bào)告是由全球報(bào)告計(jì)劃（Global Report Initiative）等非盈利組織推動(dòng)的一種技術(shù)工具，報(bào)告公司業(yè)務(wù)對(duì)社會(huì)、經(jīng)濟(jì)、人權(quán)的影響。積極的自我規(guī)范在可持續(xù)發(fā)展目標(biāo)投資框架下也能夠?yàn)槠髽I(yè)爭(zhēng)取到更多的公共投資。