【摘要】人工智能時代的網絡水軍技術高超、行為隱蔽、規(guī)模龐大，極易破壞信息真實性，繼而影響和操縱輿論。這種操縱不僅扭曲公共議程，持續(xù)的虛假信息和負面言論的傳播還可能逐漸侵蝕社會信任和公民的道德標準，導致公共空間的討論質量下降。對此，建議加強監(jiān)管和懲治力度，完善相關法律法規(guī)；不斷創(chuàng)新技術，優(yōu)化現有識別工具和技術；引入區(qū)塊鏈技術，提升信息溯源能力；加強實名驗證和用戶行為分析；完善和簡化用戶舉報機制；提升公眾媒介素養(yǎng)；加強企業(yè)社會責任，制定危機管理計劃等。

【關鍵詞】人工智能 網絡水軍 輿論

【中圖分類號】D602 【文獻標識碼】A

隨著信息傳播技術的飛速發(fā)展，受眾越來越依賴于諸如微博之類的社交媒體平臺來獲取信息，并將其作為了解新聞的重要渠道。然而，在便捷的信息獲取方式背后，潛藏著一些令人憂慮的問題，如微博熱搜榜上頻繁出現的一些熱門話題，看似是社會關注的焦點，但并不完全反映真實的社會關切。事實上，有些熱搜話題可能是網絡水軍制造出的假象，這些有組織的網絡團隊借助先進的傳播手段，人為地推高某些話題的熱度，引導公眾關注焦點，從而操縱輿論。人工智能時代，網絡水軍借助各種新技術、新手段、新平臺，操縱輿論更隱蔽、更高效、也更難以辨別。

網絡水軍的發(fā)展演進

網絡水軍是指那些由商業(yè)利益驅動，為達到如影響網絡民意、擾亂網絡環(huán)境等不正當目的，通過操縱軟件機器人或水軍賬號，在互聯(lián)網中制造、傳播虛假意見和垃圾信息等網絡垃圾意見產生者的總稱。網絡水軍是一種通過人為手段攫取網絡影響力服務于私人目的的工具，其方式是充分利用UGC的機制和特點，通過各種手段，如針對網絡情緒化消費需求編制特定內容，配以驚悚標題“博眼球”，從而吸引網絡關注和流量，并不斷“自我論證”最終達到攫取網絡影響力的效果。隨著互聯(lián)網的迅猛發(fā)展，網絡水軍作為一個獨特的現象，其演變與技術進步、媒體環(huán)境的變遷以及社會需求的演化緊密相連。網絡水軍從最初的粗糙操作逐漸演變成模式化、產業(yè)化的新趨勢，這一過程不僅揭示了技術與社會需求相互作用的結果，還反映了互聯(lián)網時代信息傳播的復雜性和多樣性。以時間線為脈絡梳理網絡水軍的演進歷程與特點如下：

初始階段（2005-2009年）：論壇時代興起，影響力有限。早期的網絡水軍源于2005年前后在網絡論壇和社區(qū)中活動的網絡推手，他們主要通過創(chuàng)建管理多個賬號進行定向發(fā)帖或回帖、散布虛假信息、惡意傳播信息等手段以達到某種目的。這一時期，網絡水軍的操作相對簡單，主要依賴數量取勝。因其在網絡論壇和社區(qū)有一定的影響力，開始有人雇傭他們推廣產品或服務。但由于當時的互聯(lián)網用戶相對較少，加之技術限制，網絡水軍的活動并未形成大規(guī)模影響，相關報道和公眾的關注都比較少。

發(fā)展階段（2009-2010年）：社交媒體時代興起，開始組織化和商業(yè)化運作。隨著技術的不斷發(fā)展和微博等社交媒體平臺的興起，網絡水軍開始利用輔助軟件實現賬號的批量注冊、自動發(fā)布、管理多個賬號等功能，在微博等平臺進行操作。這一階段的網絡水軍逐漸走向組織化，形成專業(yè)的團隊和公司，開始被更多商業(yè)利益所利用，除了發(fā)帖和回帖，還通過轉發(fā)、評論、點贊等方式迅速擴散信息或觀點，如通過刷好評提升產品銷量，或通過散布負面信息打擊競爭對手等，為客戶提供全方位的網絡推廣和輿情管理服務。他們還招募大量普通網友或收買控制某些實名認證賬號代為發(fā)帖，在網絡上發(fā)布虛假信息、刷評論等，以達到某種目的。比起初始階段，這個階段的水軍模式成本低、客戶范圍廣。

爆發(fā)性增長階段（2011-2015年）：社交媒體深度應用，開始專業(yè)化和協(xié)同化運作。2011年至2015年期間，社交媒體平臺的功能不斷豐富和優(yōu)化，尤其微信的啟用和普及，為網絡水軍提供了更加多樣化的操作手段。例如，通過策劃話題、發(fā)起投票、組織線上活動等，有效吸引網民參與并操縱輿論方向。在這個階段，網絡水軍開始呈現出更明顯的專業(yè)化和協(xié)同化特征，越來越多的網絡營銷公司提供專業(yè)的網絡水軍服務，業(yè)務范圍涵蓋品牌推廣、形象塑造、輿情控制等多個方面。同時，網絡水軍的操作手法也更為精細，包括制造假新聞、使用僵尸粉等手段，其隱蔽性和迷惑性也大大增強。

產業(yè)化發(fā)展階段（2016年-至今）：AI技術介入，開始產業(yè)化和模式化運作。大數據和人工智能技術的應用，使網絡水軍的行動更為精準和高效。網絡水軍開始采用更加隱蔽的手段操控網絡流量，如通過模擬正常用戶行為規(guī)避平臺監(jiān)測，或是利用AI生成的內容進行互動，其危害性和隱蔽性都顯著提高。通過使用AI技術，網絡水軍能夠生成更加逼真的賬號、自動產生大量具有針對性的內容，甚至模擬人類的情感和反應進行互動。這種技術的使用大大降低了人力資源的需求，同時提高了操作的效率和隱蔽性，使得對網絡水軍的檢測和管理變得更加困難。這個階段的網絡水軍活動呈現產業(yè)化、模式化的趨勢，從事網絡水軍服務的公司提供從內容制作到發(fā)布、推廣的全鏈條服務。隨著全球化的推進，網絡水軍的活動也逐漸跨國化，一些組織開始面向國際用戶提供服務，參與全球范圍內的信息戰(zhàn)和輿論爭奪。

人工智能時代網絡水軍的特征及其危害

人工智能時代，網絡水軍呈現出新的特點和發(fā)展趨勢，不僅影響信息的傳播方式，也對網絡生態(tài)和社會秩序產生深遠的影響。

自動化與智能化助推產業(yè)化發(fā)展。隨著人工智能技術的發(fā)展，網絡水軍開始使用更加復雜的算法和自動化工具來模擬真實的用戶行為，如使用人工智能生成的內容、自動化腳本以及程序化賬戶來模擬真實用戶的活動，從而提高其活動的隱蔽性和效率。無論是在日常養(yǎng)號期間，還是在執(zhí)行大規(guī)模網絡任務時期，網絡水軍需要大量文本支撐其操作，而純人工編寫不僅成本高昂，效率也難以保證。利用AIGC（人工智能生成內容）技術，網絡水軍能在極短的時間內產出風格多樣、表述豐富的文本，不僅降低了成本，還提升了整體的工作效率。AIGC（人工智能生成內容）通常具備多種強大能力，諸如文本生成、風格遷移、摘要提煉、語言翻譯等。其顯著特性是對自然語言交互的支持，網絡水軍只需輸入簡單的提示要求，就能引導模型生成各種類型的文本。這些模型在語義理解方面的準確性極高，能夠依據輸入的指令生成高度相關的內容，極大降低了專業(yè)門檻。更值得一提的是，它們還能利用背后龐大的語言模型，汲取海量知識，為生成的文本提供詳實的數據說明和精準的文獻引用。因此，智能化與自動化使得網絡水軍的產出低成本高效能，而且數量龐大，助推網絡水軍的產業(yè)化發(fā)展，同時極大地增加了辨別的難度和成本。

AI自動生成虛假評論和帖子，溯源和識別難度大。為了逃避監(jiān)控和審查，現代網絡水軍采用高度隱秘的操作模式和更高級的身份偽裝技術和策略，比如使用虛擬身份、動態(tài)IP地址切換、以及模仿正常用戶行為模式等方法來隱藏自己的真實意圖和來源，使得偵測和追蹤變得更加困難。利用先進的AI技術，如循環(huán)神經網絡（RNN），網絡水軍可以通過模擬人類行為模式來操作社交媒體賬戶，使這些賬戶看起來像是由真人操作的，這項技術使網絡水軍可以自動生成幾乎無法被檢測出的虛假評論和帖子，從而繞過平臺的自動監(jiān)測系統(tǒng)。他們還使用Deepfake（深度偽造）技術制作看起來非常真實的視頻或音頻內容，這些內容可以用來冒充知名人士發(fā)表的言論，影響公眾意見，也可以冒充普通民眾發(fā)表觀點，主動或跟風造勢。

精準目標用戶定位和投放，規(guī)避平臺檢測。人工智能時代的網絡水軍成員通常具備較高的網絡技術和營銷能力，能夠熟練運用各種工具和平臺，借助大數據分析和營銷技術精準地識別和定位受眾目標，并根據受眾的興趣和行為習慣實現信息的定向傳播，從而更有效地影響特定群體的觀點和行為。同時，他們使用高度發(fā)達的工具和軟件，配合自動化腳本和程序，能夠迅速且頻繁更改其IP地址，或使用臨時賬號和一次性手機號碼等，在眾多設備進行操作，有效規(guī)避平臺檢測。

內容及行為模式多樣，影響輿論。除了傳統(tǒng)的評論、點贊等行為外，人工智能時代的網絡水軍操作手法變得更加多樣化，不僅發(fā)布原創(chuàng)內容，還能迅速模仿熱門話題或流行格式，吸引流量和增加用戶參與度。他們可以生成各種類型的內容，從簡單的狀態(tài)更新到復雜的互動評論，內容多樣化且針對性強，并且能夠根據目標群體的興趣和關注點進行調整。通過精心策劃一系列相互關聯(lián)的帖子，使用特定的標簽和話題，主動吸引和引導公眾的注意力，從而在短時間內將某一內容推至熱門，實現對網絡輿論的操縱和影響。

沒有既定立場，隨意操縱輿論。網絡水軍往往受經濟利益驅動，通過制造虛假的熱度和趨勢影響消費者或民眾的觀點與決策。因此，網絡水軍本身并沒有既定的立場，他們的行為完全取決于特定的利益。通過產生大量的虛假信息和評論，網絡水軍極易扭曲公眾對真實情況的理解，導致錯誤的判斷和決策。在產品和服務評價方面，虛假的正面或負面評論都可能誤導消費者，影響他們的購買決策，損害消費者權益；在政治立場方面，網絡水軍還可能基于某種價值觀，推動特定議題的輿論導向，甚至通過制造大量的虛假信息和評論，影響公共意見的形成。

聚合效應強，負面影響大。網絡水軍通過大規(guī)模的信息傳播，能夠在短時間內形成強大的輿論壓力，影響公眾事件的發(fā)展和社會觀點的形成。第一，網絡水軍的行為往往缺乏公正性和客觀性，他們的言論和行為主要是為了迎合雇主的需求而刻意制造出來的，這使網絡上的信息變得混亂和不真實；第二，網絡水軍的存在使一些原本應該被公眾關注和討論的問題被淹沒在大量的水軍帖子中，從而導致公眾對這些問題的關注和討論程度大大降低；第三，網絡水軍的行為對互聯(lián)網的影響力造成負面影響，當公眾發(fā)現網絡上的大量信息是由水軍制造出來的，他們對于網絡信息的信任度會大大降低；第四，在媒介平臺各種信息營造的擬態(tài)環(huán)境中，持續(xù)的虛假信息和負面言論的傳播可能逐漸侵蝕社會信任和公民的道德標準，導致公共空間的討論質量下降，尤其年輕人和不成熟的用戶容易受到網絡水軍生成內容的欺騙和影響，對其價值觀和世界觀產生不良影響。

人工智能時代的網絡水軍治理與應對

人工智能時代，網絡水軍的治理和應對策略面臨新的技術挑戰(zhàn)和機遇。人工智能技術的利用使得網絡水軍活動更加高效、隱蔽，傳統(tǒng)的治理方法已難以完全應對，必須結合先進技術和社會法規(guī)進行多維度的治理與應對。

加強監(jiān)管和懲治力度，完善相關法律法規(guī)。目前有關部門已經開始采取措施打擊網絡水軍的行為，但由于技術的快速發(fā)展，現有的法律法規(guī)存在一定的滯后性。與此同時，網絡水軍的行為引發(fā)了關于信息真實性、商業(yè)誠信等方面的道德討論，加劇了社會對這些基本價值的擔憂和反思，道德問題的復雜性凸顯。首先，加強針對網絡水軍活動的立法，明確網絡空間中的合法與非法行為界限，增加公正性和透明性，確保所有措施都在法律和道德的框架內執(zhí)行，避免濫用權力和侵犯人權的情況發(fā)生；其次，加強監(jiān)管和懲治力度，讓網絡水軍為其行為付出高昂代價，加大執(zhí)法力度，提高其違法成本；再次，政府和相關機構應加強聯(lián)合，促進網絡安全、信息監(jiān)管和執(zhí)法部門的協(xié)調與合作，共同打擊網絡水軍活動，確保網絡空間的清朗，讓真正的社會熱點得以呈現，維護健康的傳播生態(tài)和公共討論環(huán)境。

不斷創(chuàng)新技術，優(yōu)化現有識別工具和技術。隨著人工智能和機器學習的發(fā)展，要不斷研發(fā)和創(chuàng)新技術，并優(yōu)化現有工具，對網絡水軍的行為進行識別和監(jiān)控。這就要求改進現有的監(jiān)控和分析工具，使其能夠更精準地識別和處理網絡水軍產生的各種形式的內容。一方面，利用機器學習算法對網絡行為進行模式分析，準確識別社交機器人及其背后的網絡水軍。另一方面，進行實時監(jiān)控，及時發(fā)現并阻止惡意信息的擴散。與此同時，社交媒體平臺和搜索引擎可以改進推薦算法，減少虛假信息的傳播，優(yōu)先展示高質量、可信度高的內容。

引入區(qū)塊鏈技術，提升信息溯源能力。區(qū)塊鏈技術的去中心化特征意味著沒有單一的權威機構控制整個系統(tǒng)，這有助于建立更加公平和透明的網絡環(huán)境，其分布式賬本技術允許所有參與者訪問相同的數據副本，這增加了數據的透明度，使得任何試圖操縱信息的行為都更容易被發(fā)現，比如，其不可篡改性確保信息的一致性和準確性，從而有助于防止網絡水軍通過偽造數據誤導公眾，使新聞和評論更加真實可信。與此同時，通過多重數字簽名等技術，區(qū)塊鏈技術可以有效地驗證參與方的身份，減少匿名行為，并確保只有授權用戶才能訪問敏感信息或執(zhí)行特定操作，這能有效提升抑制不誠實行為、打擊網絡水軍的匿名活動、針對不實信息和敏感信息的溯源、建立可靠的信任網絡的能力。

平臺應加強實名驗證和用戶行為分析。社交媒體平臺應加強實名驗證和用戶行為分析，強化內容審核機制，及時發(fā)現和處理虛假信息及不當言論。實施更嚴格的身份驗證機制，如實名制可有效減少匿名賬戶的濫用。而通過分析用戶行為模式，識別其包括短時期內集中大量發(fā)帖或發(fā)表評論的異常行為，標注和識別可疑賬戶，同時建立高效的內容審核機制，確保用戶發(fā)布的內容符合社區(qū)準則，及時移除違規(guī)內容。平臺可定期公開平臺規(guī)則，以及處理網絡水軍的具體措施和懲罰規(guī)則，讓用戶了解什么樣的行為會被視為不當，并公布處理網絡水軍的最新情況進展。

完善和簡化用戶舉報機制，及時反饋。鼓勵公眾積極參與打擊網絡水軍的活動，簡化舉報流程，提供便捷的舉報機制，讓用戶能夠快速報告可疑行為，并給予及時反饋。建立有效的激勵機制，鼓勵公眾和網絡平臺積極舉報網絡水軍活動，鼓勵用戶參與監(jiān)督，通過正規(guī)渠道反應問題，支持正面的聲音，通過社會力量的廣泛參與共同凈化網絡環(huán)境。

提升公眾媒介素養(yǎng)與意識。在學校和社區(qū)開展媒體素養(yǎng)教育，教授公眾如何辨別虛假信息，了解和認識網絡水軍的危害，培養(yǎng)批判性思維能力，并提供防范建議。除了教育，還可通過公共宣傳等活動提高公眾的網絡素養(yǎng)及其對于網絡水軍的認識，培養(yǎng)辨識并抵制網絡水軍信息的能力，減少其影響。同時，鼓勵個人在分享信息之前核實其真實性，對信息來源進行審視和篩選，避免無意中傳播虛假信息或卷入網絡水軍信息流。

強化企業(yè)社會責任意識，制定危機管理計劃。強化企業(yè)社會責任意識，對雇傭網絡水軍進行不正當競爭的行為堅決制止和懲戒，鼓勵企業(yè)專注于提升自身產品和服務的質量，注重品牌建設和口碑營銷，通過提供優(yōu)質的產品和服務贏得消費者的信任，減少水軍的負面影響。同時建立健全的危機管理體系，一旦遭遇網絡水軍攻擊，能夠迅速作出反應，及時澄清事實，挽回公眾的信任。

（作者為中國社會科學院大學新聞傳播學院教授、中國社會科學院新聞與傳播研究所研究員）

【注：本文系中國社會科學院2024年度重大經濟社會調查項目“中國網絡民意和輿情指數調查（2024-2026）”（項目編號：2024ZDDC006）階段性成果】

【參考文獻】

① 莫倩、楊珂：《網絡水軍識別研究》，《軟件學報》，2014年第7期。

②龍曉蕾、莫凡、卓采標：《網絡水軍與 AIGC 結合應用場景及風險研究》，《廣東通信技術》2024年第3期 。

責編/李一丹 美編/陳媛媛

聲明：本文為人民論壇雜志社原創(chuàng)內容，任何單位或個人轉載請回復本微信號獲得授權，轉載時務必標明來源及作者，否則追究法律責任。