人工智能為什么要治理？主要原因在于人工智能技術(shù)非常容易被誤用和濫用，而且會(huì)產(chǎn)生很?chē)?yán)重的后果。為什么是這樣呢？原因有三個(gè)：

第一，所有技術(shù)都存在的問(wèn)題，就是技術(shù)的兩面性。人工智能也不例外，人工智能既可以用來(lái)造福人類(lèi)，也可以用來(lái)傷害人類(lèi)。舉一個(gè)簡(jiǎn)單的例子，語(yǔ)音和圖像的合成，利用這兩項(xiàng)技術(shù)可以合成跟人類(lèi)一樣惟妙惟肖的機(jī)器人，讓它跟人類(lèi)進(jìn)行交互、進(jìn)行聊天，達(dá)到很好的用戶(hù)體驗(yàn)。但是同時(shí)也可以用這兩項(xiàng)技術(shù)合成虛假的新聞、視頻去欺騙公眾，誤導(dǎo)輿論，造成不良的社會(huì)影響。但是人工智能技術(shù)還有另外兩點(diǎn)特殊的地方，導(dǎo)致說(shuō)人工智能的治理問(wèn)題更為嚴(yán)重，也更加重要。

第二，現(xiàn)在的人工智能技術(shù)非常脆弱。換句話(huà)講它非常容易被攻擊、被欺騙。

第三，數(shù)據(jù)安全問(wèn)題。其實(shí)人工智能依賴(lài)大量的數(shù)據(jù)，確實(shí)數(shù)據(jù)可以幫我們很大的忙，但數(shù)據(jù)也存在大量需要解決的問(wèn)題，比如隱私問(wèn)題、知識(shí)產(chǎn)權(quán)問(wèn)題、偏見(jiàn)問(wèn)題、污染問(wèn)題、存在錯(cuò)誤等等，這些同樣會(huì)造成很大的危險(xiǎn)。

舉一個(gè)非常簡(jiǎn)單的例子，我們用計(jì)算機(jī)去識(shí)別汽車(chē)，汽車(chē)后頭有商標(biāo)，正常情況都能識(shí)別。但我們只要在商標(biāo)上加一點(diǎn)點(diǎn)噪聲，這個(gè)噪聲人用肉眼根本看不出來(lái)，但是就可以誤導(dǎo)計(jì)算機(jī)“看不到”（識(shí)別不到）汽車(chē)，這就是新出現(xiàn)的“隱身術(shù)”，這個(gè)非常危險(xiǎn)，我們通常用這種計(jì)算機(jī)視覺(jué)識(shí)別技術(shù)去監(jiān)測(cè)車(chē)輛，人家只要在車(chē)上搞一點(diǎn)小的噪聲圖案就可以讓計(jì)算機(jī)看不到它，這就是一個(gè)人工智能脆弱性的表現(xiàn)。

同樣的，在視頻監(jiān)控場(chǎng)景里，如果我們用計(jì)算機(jī)來(lái)監(jiān)測(cè)電網(wǎng)周遭環(huán)境的危險(xiǎn)情況，我們只要在這個(gè)地方布置一點(diǎn)很簡(jiǎn)單的噪聲干擾，就可以讓計(jì)算機(jī)誤認(rèn)為這個(gè)地方有火情，或者真的發(fā)生了火情，我們也可以添加一點(diǎn)小的干擾進(jìn)去讓計(jì)算機(jī)認(rèn)為沒(méi)有火情。

文本也存在這種問(wèn)題，比如對(duì)電影的評(píng)價(jià)，計(jì)算機(jī)辨別這是一個(gè)正面的評(píng)價(jià)，但只要把其中一個(gè)字改了，人看起來(lái)這只是一個(gè)簡(jiǎn)單的修改，但計(jì)算機(jī)就會(huì)錯(cuò)誤辨別成負(fù)面評(píng)價(jià)。所以人工智能是非常脆弱、非常容易受攻擊的，這也讓人工智能使用起來(lái)更容易被誤用或?yàn)E用。

那我們應(yīng)該怎么來(lái)解決人工智能安全性的問(wèn)題呢？我認(rèn)為必須從兩個(gè)方面下手，一個(gè)方面就是其他專(zhuān)家發(fā)言里談的比較多的，去治理。但是我們不能用治理來(lái)限制人工智能的發(fā)展，唯一的辦法還是在于發(fā)展，所以這就涉及到另外一個(gè)問(wèn)題，我們?cè)撊绾伟l(fā)展它？我們現(xiàn)在提出來(lái)第三代人工智能，是從理論上解決人工智能的可解釋和魯棒性的問(wèn)題，在這個(gè)基礎(chǔ)上發(fā)展安全、可靠、可信、可擴(kuò)展的人工智能技術(shù)，這是發(fā)展的一個(gè)方向。

我們做了兩項(xiàng)工作，一項(xiàng)工作是已經(jīng)發(fā)布的一個(gè)計(jì)算平臺(tái)-OneFlow，現(xiàn)在市面上主流的框架平臺(tái)，就是TensorFlow和PyTorch，OneFlow的可解釋性比別的好，有很多優(yōu)點(diǎn)，現(xiàn)在已經(jīng)把應(yīng)用在交通、醫(yī)療、智能制造等很多領(lǐng)域。

最近我們又發(fā)布了兩個(gè)產(chǎn)品，一個(gè)叫RealSecure，主要做隱私保護(hù)，如何安全地利用數(shù)據(jù)，數(shù)據(jù)里面有隱私信息，如何從計(jì)算層面進(jìn)行保護(hù)，實(shí)現(xiàn)可追溯，前面也有人提到了，如何保持可追溯，如何讓有偏見(jiàn)的數(shù)據(jù)清除掉，這是我們?cè)谶@個(gè)方面做的一款產(chǎn)品。另外一個(gè)產(chǎn)品是RealSafe2.0，可以抵御攻擊。

從這里可以看出來(lái)治理和發(fā)展的一個(gè)關(guān)系，一方面根據(jù)現(xiàn)階段人工智能的發(fā)展?fàn)顩r，應(yīng)該提出來(lái)一系列治理的政策、方針，但隨著技術(shù)的發(fā)展，治理的方式應(yīng)該與時(shí)俱進(jìn)，兩者結(jié)合起來(lái)。這是一個(gè)長(zhǎng)期任務(wù)，因?yàn)槲覀儾豢赡馨l(fā)展出來(lái)一個(gè)絕對(duì)安全的人工智能算法，整個(gè)是在發(fā)展過(guò)程中間，我們認(rèn)為要跟治理兩者相輔相成，共同前進(jìn)。

最后，我們希望跟大家一起分享我們的研究成果，全世界團(tuán)結(jié)起來(lái)共同發(fā)展安全、可靠、可信、可拓展的第三代人工智能技術(shù)，讓人工智能更加安全，謝謝大家！

（作者為中國(guó)科學(xué)院院士、清華大學(xué)人工智能研究院名譽(yù)院長(zhǎng)，本文根據(jù)作者在首屆“清華大學(xué)人工智能合作與治理國(guó)際論壇”上的發(fā)言整理）