電信網(wǎng)絡(luò)詐騙是發(fā)案最高、損失最大、群眾反映最強(qiáng)烈的違法犯罪行為之一。近日,利用AI技術(shù)制作換臉視頻、合成聲音等,冒充親友、同事的電信網(wǎng)絡(luò)詐騙案件不斷出現(xiàn)。例如,在有的案例中,詐騙分子通過使用他人真實姓名及照片,冒充他人身份添加被害人社交賬號,再利用“AI換臉”技術(shù)和被害人進(jìn)行短暫視頻通話,博取被害人信任后實施詐騙;在有的案例中,詐騙分子通過騷擾電話錄音等來提取某人聲音,獲取素材后進(jìn)行聲音合成,從而用偽造的聲音與被害人通話并實施詐騙;等等。在這些案例中,不法分子憑借其迷惑性極強(qiáng)的詐騙形式、精準(zhǔn)的詐騙腳本、逼真的偽造音視頻,讓人防不勝防,引起了社會的關(guān)注與警覺,成為電信網(wǎng)絡(luò)詐騙治理新的痛點難點。
當(dāng)前,應(yīng)當(dāng)在深入研判AI詐騙違法犯罪行為新規(guī)律新特點的基礎(chǔ)上,有針對性地綜合施策,進(jìn)一步完善法律法規(guī)、延伸行業(yè)管理范圍、提高技術(shù)反制能力。
明確各方責(zé)任,強(qiáng)化對各類電信詐騙違法犯罪行為的監(jiān)管。當(dāng)前,我國反電信網(wǎng)絡(luò)詐騙法規(guī)定了電信業(yè)務(wù)經(jīng)營者、互聯(lián)網(wǎng)服務(wù)提供者在防范電信詐騙方面的法律責(zé)任。今年初,國家互聯(lián)網(wǎng)信息辦公室發(fā)布的《生成式人工智能服務(wù)管理辦法(征求意見稿)》也對數(shù)據(jù)合規(guī)性、生成內(nèi)容合法性提出了進(jìn)一步要求。但這些規(guī)定對新型電信網(wǎng)絡(luò)詐騙的規(guī)制作用仍然存在局限。一方面,以AI詐騙為代表的新型電信網(wǎng)絡(luò)詐騙呈現(xiàn)出更為明顯的鏈條化、平臺化作案特征。例如上游黑產(chǎn)提供各種基于人工智能技術(shù)的專用設(shè)備工具、算法,為下游電信網(wǎng)絡(luò)詐騙源源不斷地提供技術(shù)支持,危害巨大。在這個產(chǎn)業(yè)鏈中,不法分子利用互聯(lián)網(wǎng)以提供服務(wù)的方式分工配合,使得詐騙案件發(fā)生時,位于上游的不法分子有可能以自己不知情來規(guī)避法律風(fēng)險。因此,法律必須關(guān)注電信網(wǎng)絡(luò)詐騙的這一特征,進(jìn)行更有針對性的制度設(shè)計,清晰劃定各個犯罪節(jié)點的法律責(zé)任。另一方面,《生成式人工智能服務(wù)管理辦法(征求意見稿)》作為一個行業(yè)管理辦法,位階較低,規(guī)制的范圍有限,不足以對層出不窮的涉人工智能違法犯罪行為進(jìn)行全面有效的約束和管理,需要進(jìn)一步為AI技術(shù)使用劃定“紅線”。
加大打擊力度,以嚴(yán)厲手段懲處震懾不法分子。隨著人工智能技術(shù)在電信網(wǎng)絡(luò)詐騙領(lǐng)域的不斷應(yīng)用,不法分子實施詐騙的精準(zhǔn)性、迷惑性、隱蔽性大大加強(qiáng),直接導(dǎo)致公安和檢察機(jī)關(guān)的偵查打擊難度進(jìn)一步加大,人工智能詐騙治理工作所面臨的“偵查破案難、電子證據(jù)調(diào)取難、認(rèn)定處理難”等一系列問題更加突出。有關(guān)部門應(yīng)加大執(zhí)法力度,對那些未經(jīng)肖像權(quán)人同意,通過技術(shù)手段提取肖像,或利用換臉軟件從事違法犯罪活動者,采取刑事責(zé)任、行政責(zé)任、民事責(zé)任并重的措施,及時追究其法律責(zé)任,并深挖其背后的黑色產(chǎn)業(yè)鏈。強(qiáng)化懲處力度的同時,及時總結(jié)提煉新型電信網(wǎng)絡(luò)詐騙的新特征、新模式,通過樹立一批大案、要案來震懾不法分子,彰顯法律權(quán)威。
開展前端防范,切斷AI詐騙的“數(shù)據(jù)喂養(yǎng)”。公民個人信息是電信網(wǎng)絡(luò)詐騙的生產(chǎn)資料,與傳統(tǒng)詐騙方式相比,AI詐騙還涉及人臉、聲紋等生物信息。雖然科技的進(jìn)步讓防范電信網(wǎng)絡(luò)詐騙的難度提升,但電信網(wǎng)絡(luò)詐騙頻出的根本原因還是信息時代用戶個人隱私信息過度泄露,其本質(zhì)上是不法分子掌握大量技術(shù)后,利用信息不對稱來騙取錢財?shù)男袨?,背后還隱藏著竊取個人信息、提供技術(shù)支持、進(jìn)行轉(zhuǎn)賬洗錢等上下游犯罪,亟待從根子上予以斬除。要著重開展前端防范,通過不斷提高堵截能力,讓詐騙軟件下不了、詐騙網(wǎng)站登不上,持續(xù)完善有關(guān)管理制度,防止違法獲取個人信息。此外,可通過技術(shù)分析網(wǎng)絡(luò)用戶的行為特征、活動頻率、會話長短,揪出可疑的社交機(jī)器人,對網(wǎng)絡(luò)詐騙上游進(jìn)行清理;通過在線監(jiān)測報警,對網(wǎng)絡(luò)有害信息采取風(fēng)險標(biāo)注、攔截提示、搜索屏蔽等措施,從源頭阻斷網(wǎng)絡(luò)黑灰產(chǎn)觸達(dá)用戶;提供在線檢測工具,幫助用戶識別AI換臉、變聲;等等。
強(qiáng)調(diào)協(xié)同聯(lián)動,共同打造安全可靠的AI技術(shù)生態(tài)。電信網(wǎng)絡(luò)詐騙涉及金融、通信、互聯(lián)網(wǎng)等多個行業(yè),要實現(xiàn)治理效果最大化,對各部門的協(xié)同配合提出了很高要求,只有通力協(xié)作、綜合治理,才能堵塞監(jiān)管漏洞,實現(xiàn)“事前發(fā)現(xiàn)、事中阻斷、事后打擊”。除進(jìn)一步協(xié)調(diào)好執(zhí)法機(jī)構(gòu)之間的決策職能外,還需要明確金融、電信、互聯(lián)網(wǎng)等行業(yè)的監(jiān)管責(zé)任,通過建立健全安全評估、責(zé)任追究、信用懲戒等制度,共同推動打擊治理工作取得更大成效。電信、互聯(lián)網(wǎng)企業(yè)應(yīng)加強(qiáng)內(nèi)部監(jiān)管,技術(shù)研發(fā)方面需要加強(qiáng)自律和倫理規(guī)范。在對外輸出AI技術(shù)應(yīng)用時,須遵循道德和法律的底線,確保技術(shù)的合法使用。同時加強(qiáng)投資和支持安全技術(shù)的研發(fā),共同打擊AI換臉和換聲技術(shù)濫用行為,為行業(yè)健康有序發(fā)展付出努力。銀行、支付機(jī)構(gòu)等在反詐工作中要承擔(dān)風(fēng)險防控責(zé)任,建立內(nèi)部控制制度和安全責(zé)任制度,共同打造一個安全可靠的AI技術(shù)生態(tài),加強(qiáng)跨領(lǐng)域的合作與交流,共同研究和應(yīng)對技術(shù)的潛在風(fēng)險。此外,還要持續(xù)對老年人、青少年等重點人群開展防騙教育,提高人民群眾識騙、防騙、拒騙的意識和能力。