在移動互聯(lián)網(wǎng)，大數(shù)據(jù)，云計算等新技術(shù)的驅(qū)動下，人工智能加速發(fā)展，呈現(xiàn)出深度學(xué)習(xí)、知識推理、人機協(xié)同、群智開放等新特征，形成新的發(fā)展空間，成為了當(dāng)前科技創(chuàng)新和產(chǎn)業(yè)推動產(chǎn)業(yè)升級轉(zhuǎn)型的重點。

發(fā)展人工智能技術(shù)的根本出發(fā)點在于提高人類的生活水平。因而我國發(fā)展人工智能的初心也必須從造福人民出發(fā)，以保障和改善民生為本源，推動人工智能在人們?nèi)粘９ぷ?，學(xué)習(xí)和生活中的深度應(yīng)用，加強在教育、醫(yī)療衛(wèi)生、體育、交通、助殘養(yǎng)老和家政服務(wù)的應(yīng)用。同時要開發(fā)用于政府決策和社會治理的人工智能系統(tǒng)，加強社會信息資源整合，推進(jìn)智慧城市建設(shè)，加強人工智能在生態(tài)領(lǐng)域運用，從而提高公共服務(wù)和社會治理水平。

技術(shù)的發(fā)展從來都是一把雙刃劍，人工智能在給人類社會帶來便利的同時也帶來新的安全問題及風(fēng)險。首先，人工智能自身存在諸多的內(nèi)生安全問題，不論在模型與系統(tǒng)方面，還是在數(shù)據(jù)層面的安全漏洞都會直接影響人工智能算法的安全性。其次是人工智能的風(fēng)險濫用，利用深度的偽造技術(shù)，產(chǎn)生不實內(nèi)容，從而誤導(dǎo)公眾。第三是機器學(xué)習(xí)算法的黑箱問題，其中不可避免隱藏了歧視和偏見。當(dāng)此類算法應(yīng)用到需要進(jìn)行風(fēng)險識別和信用評估等金融和司法領(lǐng)域時，就可能產(chǎn)生不公正的決策結(jié)果。最后是人工智能可能造成的數(shù)字鴻溝問題，人工智能研究和應(yīng)用需要一定的經(jīng)濟基礎(chǔ)，對于一些落后的國家和地區(qū)的人們來講，無法以均等的機會來獲得人工智能技術(shù)帶來的福祉。因此在發(fā)展人工智能的同時，必須高度重視可能帶來的風(fēng)險挑戰(zhàn)，加強前瞻預(yù)防和約束引導(dǎo)，最大限度降低風(fēng)險，確保人工智能安全、可靠可控發(fā)展。為了保障我國人工智能發(fā)展任務(wù)的順利推進(jìn)，我們要加強人工智能相關(guān)法律倫理和社會問題的研究，建立保障人工智能健康發(fā)展的法律法規(guī)和倫理道德框架，明確人工智能法律主體以及相關(guān)權(quán)利、義務(wù)和責(zé)任，在發(fā)展AI過程中解決倫理和安全問題。

（作者為中國科學(xué)院院士）