6. 美國科技巨頭依據(jù)自身道德判斷，加強企業(yè)自律及對人工智能技術(shù)的監(jiān)管

得票率：49.55%

案例描述：

據(jù)外媒消息，IBM將不再提供、開發(fā)或研究面部識別技術(shù)，并表示“IBM堅決反對并且不會容忍將任何面部識別技術(shù)用于大規(guī)模監(jiān)視、侵犯基本人權(quán)和自由或與我們的宗旨不符的任何行為。”此外，亞馬遜、微軟也均表態(tài)要支持種族平等，叫停人臉識別：亞馬遜聲明暫停向警方提供人臉識別技術(shù)一年時間；微軟也表態(tài)停止向警方銷售人臉識別軟件，直到有相關(guān)國家法律出臺。

歐盟有關(guān)方面和微軟、IBM等科技巨頭共同簽署了《人工智能倫理羅馬宣言》，討論如何規(guī)范人工智能的社會影響，這是歐盟推動全球數(shù)字經(jīng)濟監(jiān)管新標(biāo)準(zhǔn)的最新舉措。與美國不同，在數(shù)字經(jīng)濟和人工智能領(lǐng)域，歐盟采取的是先規(guī)范后發(fā)展的路徑。《人工智能倫理羅馬宣言》指出，人工智能技術(shù)應(yīng)尊重個人隱私，以可靠而無偏見的方式工作，考慮所有人的需求，并以透明方式運作。這些表述顯示歐盟擔(dān)憂人工智能的負面影響，認為人工智能系統(tǒng)尚處于研究階段，其做出的決定往往難以預(yù)測。

Google啟動了800多名員工的初始“技術(shù)道德”培訓(xùn)，并還針對AI原則問題發(fā)現(xiàn)了新的培訓(xùn)。Google最近發(fā)布了此培訓(xùn)的一個版本，作為面向客戶的Cloud團隊的必修課程，已有5,000名Cloud員工參加了該培訓(xùn)。這些員工提出了一些關(guān)鍵問題來發(fā)現(xiàn)潛在的道德問題，例如AI應(yīng)用程序是否會導(dǎo)致經(jīng)濟或教育上的排斥或造成身體、心理、社會或環(huán)境傷害。（來源：綜合人民網(wǎng)等）

專家點評：

盧瑞昌 北京大學(xué)光華管理學(xué)院金融學(xué)助理教授

我們需要思考AI與企業(yè)治理的關(guān)系，AI倫理如何嵌入到商業(yè)運行之中。誰來做企業(yè)開發(fā)AI算法時的最后判斷者？我們應(yīng)該從哪個環(huán)節(jié)切入，思考人工智能所導(dǎo)致的結(jié)果。從防衛(wèi)意義上講，谷歌提供“技術(shù)道德培訓(xùn)”是很重要的，谷歌的培訓(xùn)能否應(yīng)對AI道德倫理的挑戰(zhàn)，力度夠不夠、能否完成，這都是一個爭論點。IBM等公司不再提供、開發(fā)或研究面部識別技術(shù)也值得關(guān)注。算法在某種意義上會提升商業(yè)利益，但也要注意它所帶來的歧視問題。我們需要去思考，如何判斷當(dāng)人工智能以明確的目標(biāo)制定出來，為最大化實現(xiàn)某個目標(biāo)時所導(dǎo)致的歧視問題。

季衛(wèi)東 上海交通大學(xué)文科資深教授、中國法與社會研究院院長

谷歌提供“技術(shù)道德培訓(xùn)”的案例涉及到軟法問題。軟法主要指道德，我們可以看到美國的企業(yè)已經(jīng)從道德入手，制定企業(yè)內(nèi)部規(guī)則或是技術(shù)操作規(guī)則。這個案例的研究意義不在于這種現(xiàn)象，而在于其反映的軟法的管理。

孫明俊 中關(guān)村智用人工智能研究院執(zhí)行院長、中視科技CEO

2016年6月，歐盟生效了個人數(shù)據(jù)保護規(guī)范《一般數(shù)據(jù)保護規(guī)則》，該《規(guī)則》具體規(guī)定了個人數(shù)據(jù)處理的操作規(guī)范以及歐盟公民的個人數(shù)據(jù)流出歐盟的基本條件。其中第22條專門規(guī)定了基于個人數(shù)據(jù)自動化決策和分析（Profiling）的條件。根據(jù)該《規(guī)則》，任何第三國，作為歐盟公民數(shù)據(jù)流出的目的地，的個人數(shù)據(jù)保護標(biāo)準(zhǔn)應(yīng)等于或者高于歐盟標(biāo)準(zhǔn)。這也是美國科技巨頭不斷提高人工智能隱私保護標(biāo)準(zhǔn)的原因之一。

一方面，對于跨國數(shù)字企業(yè)，自我規(guī)范在企業(yè)合規(guī)中極為重要。歐盟在《一般數(shù)據(jù)保護規(guī)則》中規(guī)定了數(shù)據(jù)控制方，也即處理數(shù)據(jù)的責(zé)任方需要證明其業(yè)務(wù)遵守了《規(guī)則》中的相關(guān)義務(wù)。而且歐盟在《一般數(shù)據(jù)保護規(guī)則》中要求在歐盟成員國有業(yè)務(wù)的企業(yè)都應(yīng)建立組織架構(gòu)，包括獨立的數(shù)據(jù)保護官員以及相關(guān)機制，確保自我規(guī)范的有效性?？紤]到歐盟市場是美國科技巨頭利潤的重要來源，美國科技巨頭確保自身業(yè)務(wù)在《一般數(shù)據(jù)規(guī)則》下的合規(guī)極為重要。

另一方面，企業(yè)社會責(zé)任報告是實現(xiàn)可持續(xù)發(fā)展目標(biāo)（Sustainable Development Goals）的重要機制，這種企業(yè)自愿報告工具正在逐漸普及。企業(yè)社會責(zé)任報告是由全球報告計劃（Global Report Initiative）等非盈利組織推動的一種技術(shù)工具，報告公司業(yè)務(wù)對社會、經(jīng)濟、人權(quán)的影響。積極的自我規(guī)范在可持續(xù)發(fā)展目標(biāo)投資框架下也能夠為企業(yè)爭取到更多的公共投資。