AI變臉源于深度偽造技術,利用“對抗生成網絡”模型,以生成模型和判別模型之間的持續(xù)對抗博弈,不斷自我演進優(yōu)化,實現(xiàn)快速迭代的“無監(jiān)督學習”。AI變臉具有高度真實性、泛在普適性和快速演化性等特征。
AI變臉技術產生的風險
AI變臉技術其風險呈現(xiàn)出多樣性發(fā)展態(tài)勢。非法AI變臉生產出的虛假新聞、虛假廣告等內容,經由不同平臺的傳播,以場景再現(xiàn)的技術優(yōu)勢,顛覆受眾的已有認知,對倫理與道德提出挑戰(zhàn)。AI變臉技術將原本極具真實性和現(xiàn)場感的多模態(tài)視頻呈現(xiàn)變成了“鏡花水月”,模糊真相與假象的界限,創(chuàng)造出虛擬世界,沖擊民眾對真實信息的信任,甚至會引發(fā)社會信任危機。AI變臉以“數字嫁接”創(chuàng)造加工出包括“數字虛擬人”的高仿真虛擬場景,民眾生活在虛擬與現(xiàn)實交織的世界,導致真實自我在現(xiàn)實社會中的認知迷失。此外,AI變臉通過深度偽造,以“混淆視聽”的虛假敘事,沖擊民眾心理,侵蝕社會信任,擾亂政治輿論生態(tài),AI變臉既可突破對方基于生物特征的身份認證體系,竊取情報信息,又可偽造突發(fā)事件,發(fā)布虛假信息,制造輿論恐慌。
如何規(guī)避AI變臉技術所引起的風險
AI變臉技術風險的規(guī)制涉及范圍廣、領域寬、內容多,蘊含活力與秩序、自由與安全、責任與信任等諸多方面,是一項復雜的系統(tǒng)工程。要強化高位統(tǒng)籌、頂層設計、系統(tǒng)謀劃、整體推進,以數據算法、合作共治、信息保護、法律法規(guī)等維度的同向發(fā)力、良性互動,聚力推進AI變臉技術異化治理體系的構建創(chuàng)新,有效管控風險,提升整體治理效能。
以數據算法為基石,深化從源頭治理。算法既是AI變臉的技術核心,又是其生成路徑。智能算法具有的數據共享、自主學習、封裝移植等特質,將普通民眾徹底隔絕在信息內容的生產、過濾、推薦鏈條外,引致產生與AI變臉天然契合的“算法黑箱”。規(guī)制AI變臉技術的風險,要強化算法治理。強化主流價值引領算法,將其嵌入到AI變臉技術發(fā)展的全生命周期,引導算法設計者、信息分發(fā)者堅持正確價值取向,引導算法應用向上向善。構建算法數據庫,收錄AI變臉技術的生成算法、識別算法和檢測算法等模型,以溯源防偽、反向破解輔助識別判定AI變臉作品,并將其同步收錄數據庫,通過樣本的累積迭代,提升比對判定能力。優(yōu)化傳播媒介平臺內部算法,構建事實核查、分級檢測和分級推薦機制,強化外部算法治理,協(xié)同優(yōu)化算法的準入、監(jiān)督、投訴和評估等配套制度體系。
以合作共治為架構,推進協(xié)同治理。AI變臉技術異化的規(guī)制蘊含組織與制度等多元要素,應秉持審慎、理性、權衡和預防的原則,在網絡化、包容性、無縫隙的協(xié)作框架下聚智共謀,推進協(xié)同治理。要秉持合作精神,培育共治價值,優(yōu)化完善合作治理、共同治理機制,在規(guī)章制度框架內,通過資源整合、功能互補,尋求最大“公約數”,驅動AI變臉技術風險治理由點狀分散向融合交互躍遷。要以主體跨域協(xié)同、路徑集成協(xié)同、信息交互協(xié)同為路徑,優(yōu)化協(xié)同治理界面,貫通政府部門、傳播平臺、技術開發(fā)、產品制作、網絡用戶的責任傳導鏈條,創(chuàng)新協(xié)同治理,提振治理質效。強化政府部門、社交平臺、科研院所的良性互動,厘清權責關系,破除壁壘、疏解堵點、理順機制、暢通渠道,共同開發(fā)檢測審查AI變臉的技術算法,畫好協(xié)同治理“同心圓”,共同應對AI變臉技術風險。
以信息保護為支撐,構筑立體屏障。生物識別信息具有人身表征性、不可替代性特點,既是AI變臉的原始材料,也是基礎根基。AI變臉技術異化的風險規(guī)制,應以“隱私控制”為原則,構建從收集到存儲再到應用的多維立體保護體系。AI變臉技術使用者采集面部識別信息時,應秉持知情同意、目的限制、正當誠信、必要安全的基本原則,嚴格遵守個人信息保護法中基于“特定的目的和充分的必要性”“取得個人的單獨同意”的條款規(guī)定。細化采集入庫規(guī)則,建立媒介平臺動態(tài)征詢和信息披露機制,基于適度透明、隱私侵犯最小化原則收集信息。完善保管存儲規(guī)則,媒介平臺應采取加密技術,隱名化、匿名化儲存用戶生物識別信息,嚴格限定儲存期限和敏感應用場景。豐富加工利用規(guī)則,制作者、上傳者對原始視頻采用語音標識、數字水印等方式進行信源標注,優(yōu)化信息公開、轉讓,確保檢測核查有據可循。
以法律框定為紅線,厘清技術邊界。秉持“技術—經濟—社會”的模式,兼顧必要的社會面向,平衡調和公共利益和個人權益之間的張力。持續(xù)完善行政與民事相結合的法律規(guī)制體系構造,健全法律規(guī)制體系的層次性和梯度性,回應AI變臉技術異化導致法益侵害復合化,為技術發(fā)展提供方向指引。在2023年1月10日施行的《互聯(lián)網信息服務深度合成管理規(guī)定》的基礎之上,進一步厘清AI變臉源頭制作者的法律責任,細化AI變臉可能帶來的侵權行為,做好追蹤溯源。構建要素上貫通生產、使用、維護、監(jiān)管等節(jié)點,內容上統(tǒng)合審查、商議、監(jiān)督、互動機制的法律規(guī)范框架體系。加大平臺處罰力度,增設傳播媒介平臺的技術檢測義務和過濾刪除的“守門人”責任,以疏堵結合的策略,細化不同場景應用的法律規(guī)制,以法律為AI變臉框定紅線。