【摘要】人工智能技術(shù)在新聞傳媒行業(yè)的應(yīng)用越來越廣泛，并為謠言信息的生產(chǎn)和傳播提供了新的手段。與此同時，人工智能技術(shù)也為網(wǎng)絡(luò)謠言治理提供了新的可能。作為信息處理工具，人工智能可以建立辟謠素材庫，精準刻畫用戶畫像，提升技術(shù)安全保障，加強對謠言及高敏感度信息的研判和預(yù)警，強化場景化數(shù)字人對辟謠信息的傳播和輿論引導(dǎo)能力，打造便捷高效的智能信息檢索和生成服務(wù)體系，助力主流媒體提升“四力”，提供定制化的新聞信息服務(wù)等。

【關(guān)鍵詞】人工智能 謠言 AIGC UGC 智慧監(jiān)管

【中圖分類號】TP18 【文獻標識碼】A

近年來人工智能技術(shù)在新聞傳媒行業(yè)的應(yīng)用越來越廣泛，并帶來了諸多變革，但同時也為謠言信息的生產(chǎn)和傳播提供了新的手段。在人工智能Deepfake（深度偽造）等技術(shù)助力下，謠言生產(chǎn)與傳播有三個重要特征：一是人工智能合成和偽造的視頻，不僅“有圖有真相”，而且有“聲情并茂”的聲音和“場景”，普通用戶難辨真假；二是技術(shù)制造的“新聞”或信息是虛擬的，辟謠總是滯后的，而現(xiàn)實的影響是即時產(chǎn)生的；三是謠言的產(chǎn)生有一定的社會根源，并與現(xiàn)實有一定程度的關(guān)聯(lián)。就像Deepfake偽造馬斯克鼓動粉絲購買特定加密代幣的視頻謠言，有其產(chǎn)生的社會背景，即馬斯克本人從2019年起對比特幣和狗狗幣的推崇及其對市場波動的影響。那么，人工智能為謠言信息監(jiān)管帶來哪些挑戰(zhàn)？人工智能技術(shù)如何賦能謠言治理等問題？值得深入探究。

人工智能為謠言信息監(jiān)管帶來的挑戰(zhàn)

傳統(tǒng)媒體時代，媒體傳播的信息都是經(jīng)由專門的人、機構(gòu)和部門審核，也就是經(jīng)由把關(guān)人把關(guān)之后才被傳播。社交媒體時代，UGC（用戶生成內(nèi)容）越來越多地被制造和傳播，而且平臺提供了多樣化的傳播途徑，使得個人生產(chǎn)制作和傳播信息變得越來越普遍。大量的不確定性也因此增加，其中虛假信息和包含不確定性的謠言信息也越來越多。

第一，UGC（用戶生成內(nèi)容）+AIGC（生成式人工智能內(nèi)容）：多元創(chuàng)造與表達帶來信息監(jiān)管壓力。人工智能技術(shù)的賦能使更多的用戶參與信息的制作和創(chuàng)造，并且虛假的信息UGC（用戶生成內(nèi)容）一旦經(jīng)由區(qū)塊鏈技術(shù)完整地記錄下便很難被更改。

AIGC（生成式人工智能內(nèi)容）離不開虛實相融的場景建構(gòu)能力和新奇的時空創(chuàng)意思維以及異空間建構(gòu)和轉(zhuǎn)換能力。AIGC（生成式人工智能內(nèi)容）與虛實共融共生的多樣文化表達更是會帶來新的監(jiān)管壓力。首先，AIGC（生成式人工智能內(nèi)容）本來就是現(xiàn)實世界與虛擬孿生場景、虛擬原生場景或虛實共生場景的疊加與融合，而謠言也是基于一定的事實基礎(chǔ)之上的杜撰、增添、刪減，包含不確定性信息，兩者有著天然的契合性，這將為謠言的監(jiān)管和防范帶來巨大的挑戰(zhàn)，也將帶來更大的信息立法壓力和監(jiān)管挑戰(zhàn)；其次，如何判斷用戶自創(chuàng)內(nèi)容和文化、觀念的傳播可能帶來的現(xiàn)實社會影響，本就是難題，在AIGC（生成式人工智能內(nèi)容）虛實共融共生的建構(gòu)體系中，成為更加難以辨別的難題；最后，用戶過度依賴虛擬場景的沉浸感可能帶來理性探求的缺失，也更容易陷入被設(shè)置的議題陷阱，不良信息的傳播與滲透也更加難以監(jiān)管。

第二，短視頻+直播升級謠言傳播問題。隨著5G時代的到來，視頻傳播將越來越普及，抖音、快手等短視頻平臺成為謠言傳播的新渠道，并且因其有聲、有圖、有場景、有影像，有故事，極易誘導(dǎo)用戶信以為真。同時，如果用戶將短視頻平臺上的謠言信息進行轉(zhuǎn)發(fā)或加工傳播到其他社交媒體平臺，將產(chǎn)生更大的聚合效應(yīng)，為謠言甄別與監(jiān)管帶來新的挑戰(zhàn)。

第三，人工智能對謠言無法精準判別。目前人工智能在特定的模式化寫作、基于算法的結(jié)構(gòu)化數(shù)據(jù)處理等方面比較占優(yōu)勢，但是在非結(jié)構(gòu)化數(shù)據(jù)的處理和復(fù)雜性信息方面，其整合能力還遠遠不夠。人工智能很難區(qū)分它接收到的數(shù)據(jù)是否真實，如果它采納的數(shù)據(jù)是虛假數(shù)據(jù)，那么以此產(chǎn)出的信息也可能是虛假的。復(fù)雜情況下人工智能的信息處理能力有限，這是共識。人工智能技術(shù)對謠言無法精準識別，尤其是缺少數(shù)據(jù)的、算法無法描述的領(lǐng)域，以及跨界的、復(fù)雜的、不規(guī)則的狀況，都容易產(chǎn)生誤讀，對信息容易引起誤判。數(shù)據(jù)質(zhì)量是人工智能技術(shù)面臨的挑戰(zhàn)之一，而在海量信息中甄別謠言、區(qū)分信息的真實性，對人工智能來說是更大的挑戰(zhàn)。

人工智能技術(shù)應(yīng)用于謠言治理的展望

人工智能技術(shù)能夠高效生成文本、圖像、音頻乃至視頻內(nèi)容，在新聞傳媒領(lǐng)域具有巨大潛力，但同時也被用來制造和傳播謠言。如果訓(xùn)練數(shù)據(jù)包含謠言或虛假信息，人工智能生成的內(nèi)容可能會進一步放大這些謠言或虛假信息的影響，誤導(dǎo)公眾。然而，人工智能技術(shù)也為治理虛假信息提供了新的可能。

第一，完善法律法規(guī)，利用人工智能技術(shù)為監(jiān)管賦能。智能媒體技術(shù)是具有革新意義的全息媒介化，將產(chǎn)生新的邏輯、模式和規(guī)則，同時，其本身具有強大的場景連接力，并與現(xiàn)實世界有著高度聯(lián)動性，因此制定符合行業(yè)發(fā)展規(guī)范的法規(guī)，使其在不同的圈層之間發(fā)揮調(diào)和作用，將有助于促進社會共識的建立，在節(jié)約社會治理成本的同時提升社會治理能力。

第二，提升技術(shù)安全保障，加強對謠言及高敏感度信息的研判和預(yù)警。人工智能技術(shù)在傳媒業(yè)的應(yīng)用，是對虛擬現(xiàn)實、混合現(xiàn)實、云計算、區(qū)塊鏈、人工智能、人機交互、數(shù)據(jù)可視化、電子游戲、分身數(shù)字人設(shè)計技術(shù)及物聯(lián)網(wǎng)等技術(shù)的全面融合與重組，加強底層核心技術(shù)的提升和發(fā)展，能在有效保障安全數(shù)據(jù)、安全智能和安全通信的同時，有效利用大數(shù)據(jù)挖掘分析等技術(shù)，實現(xiàn)對信息制作、分享和傳播賦能，并提高對謠言及高敏感度信息的研判和預(yù)警作用。人工智能作為信息處理工具，可以輔助進行大數(shù)據(jù)分析、文本比對、圖像識別等，通過機器學(xué)習(xí)和自然語言處理等技術(shù)，對海量信息進行自動化辨識，快速、高效地識別和篩選出可能存在的虛假信息，提高新聞審核的效率和準確性。同時，還可以開發(fā)專門的工具和平臺，如事實核查網(wǎng)站、辟謠數(shù)據(jù)庫等，幫助用戶快速查詢以驗證信息的真實性。

第三，強化場景化數(shù)字人對辟謠信息的傳播和輿論引導(dǎo)能力。人工智能技術(shù)提供了更加靈活多樣的社會實踐方式，并打破了時空和關(guān)系的限制，可以充分利用該價值推進媒體融合深度發(fā)展，同時加強社會主義核心價值觀的引領(lǐng)作用，以社會主義核心價值觀與文化的全息在場有效進行價值引領(lǐng)。加強虛擬新聞信息場景的搭建及切換，加強虛擬主持人、數(shù)字化身信息解讀人、虛擬信息宣講員的沉浸式導(dǎo)引，以及深化感知便攜交互型信息終端等技術(shù)的開發(fā)和研制。一方面加強用戶對主流媒體權(quán)威信息的接收和感知，另一方面加強場景化數(shù)字新聞人對辟謠信息的傳播和輿論引導(dǎo)能力。

第四，打造便捷高效的智能信息檢索和生成服務(wù)體系。利用開放數(shù)據(jù)資源，結(jié)合區(qū)塊鏈等技術(shù)，可以創(chuàng)建不可篡改的新聞來源記錄，增加新聞的透明度和可信度。在此基礎(chǔ)上，媒體機構(gòu)可以充分利用人工智能技術(shù)打造便捷高效的智能信息檢索和生成服務(wù)體系，以智能化方式提供服務(wù)。人工智能系統(tǒng)可以根據(jù)用戶使用習(xí)慣及其數(shù)據(jù)來為用戶畫像，推測出用戶需要和喜好的信息，也可以根據(jù)用戶提供的篩選條件迅速檢索出相關(guān)信息。其中，在海量信息中做到對信息真實性的辨識，對人工智能來說還是一個難題。但在一定的編程模式中，引入人工智能來辨識信息的真?zhèn)?，已有成功的嘗試。路透社為了解決真假信息辨識的問題，使用名為News Tracer的新聞追蹤系統(tǒng)，針對每天5億則Twitter信息進行演算，從假新聞、不合理的新聞、廣告、雜音中找到真實新聞事件，在算法的輔助下，記者可以從社交媒體眾多信息中脫身，把更重要的時間用來挖掘故事。未來，人工智能有望達到更加自主性和人性化的信息辨識，以提供更加智能化的信息檢索與生成服務(wù)。

第五，建立人工智能信息發(fā)布安全監(jiān)管和評估體系。通過內(nèi)在與外在兩種方式建立人工智能信息發(fā)布安全監(jiān)管和評估體系來避免可能造成的觸犯法律、法規(guī)和影響新聞倫理的內(nèi)容的發(fā)布與傳播。內(nèi)在的監(jiān)管和評估體系可以引入諸如“抑制器”和“審查員”這樣的人工智能程序。“抑制器”程序是人工智能在想到某個“壞主意”的時候出現(xiàn)抑制，以阻止做出相應(yīng)的不當行為；“審查員”程序是人工智能盡早采取攔截，不需要等到“壞主意”形成后才有所行動。外在的監(jiān)管和評估體系需要人類專家確定監(jiān)管目標、選擇合適的技術(shù)方案、設(shè)計算法邏輯并制定數(shù)據(jù)處理規(guī)則等，在智能監(jiān)管的實施過程中，確保技術(shù)應(yīng)用符合法律法規(guī)和倫理標準，包括保護個人隱私、確保數(shù)據(jù)安全、避免歧視性決策等，以確保技術(shù)服務(wù)于社會公共利益。

第六，智能技術(shù)融入新聞內(nèi)容生產(chǎn)，助力主流媒體提升“四力”（腳力、眼力、腦力和筆力）。伴隨新媒體技術(shù)及移動終端信息平臺的發(fā)展，用戶的行為逐漸趨向移動化、碎片化、情緒化。但是專業(yè)的新聞機構(gòu)，作為與謠言相對立的確定性信息的生產(chǎn)者和輸送者，與自媒體時代“人人都是記者”的“全民新聞”相比，主流媒體的優(yōu)勢就在于“四力”。人工智能技術(shù)與新聞產(chǎn)品和信息傳播平臺的結(jié)合，將徹底改變新聞生產(chǎn)的全程，推動媒體融合進一步深化，新聞生產(chǎn)的智能化變革也將逐步影響整個產(chǎn)業(yè)生態(tài)及其與用戶之間的互動關(guān)系，有望提升主流媒體“四力”。主流媒體生產(chǎn)和傳播的內(nèi)容，也為人工智能的高質(zhì)量數(shù)據(jù)投喂提供了保障，從而形成數(shù)據(jù)層面的良性循環(huán)。

第七，依托信息數(shù)據(jù)庫和專業(yè)人員專業(yè)技術(shù)的積累，提供定制化的新聞信息服務(wù)。美國學(xué)者保羅·布拉德肖（Paul Bradshaw）曾提出一個21世紀新聞編輯室的“鉆石模型”。依據(jù)此模型，新聞生產(chǎn)將包括快訊、草稿、報道、背景、分析/反思、互動、定制等步驟。21世紀先以快訊、草稿實現(xiàn)“快傳播”，再以報道、分析和背景提供“深解析”，同時要在新聞生產(chǎn)全過程考慮讓公眾參與、為用戶定制信息。人工智能大數(shù)據(jù)分析技術(shù)不僅可以根據(jù)用戶對于新聞內(nèi)容本身的需求和對于信息傳播的不同媒介的需求，實現(xiàn)內(nèi)容的定制化及其與用戶的互動性，從而實現(xiàn)不同媒介平臺之間的互通互聯(lián)和分享，還可以根據(jù)用戶的興趣、偏好和歷史行為，精準刻畫用戶畫像，為其提供個性化的辟謠信息推送，幫助其更加準確地獲取信息，降低其受謠言影響的可能性。

（作者為中國社會科學(xué)院大學(xué)新聞傳播學(xué)院教授、中國社會科學(xué)院新聞與傳播研究所研究員）

【注：本文系中國社會科學(xué)院2024年度重大經(jīng)濟社會調(diào)查項目“中國網(wǎng)絡(luò)民意和輿情指數(shù)調(diào)查（2024-2026）”（項目編號：2024ZDDC006）階段性成果】

【參考文獻】

①劉義昆、趙振宇：《新媒體時代的新聞生產(chǎn)：理念變革、產(chǎn)品創(chuàng)新與流程再造》，《南京社會科學(xué)》，2015年第2期。

②白紅義、張志安：《平衡速度與深度的“鉆石模型”——移動互聯(lián)網(wǎng)時代的新聞生產(chǎn)策略》，《新聞實踐》，2010年第6期。

責編/李一丹 美編/楊玲玲

聲明：本文為人民論壇雜志社原創(chuàng)內(nèi)容，任何單位或個人轉(zhuǎn)載請回復(fù)本微信號獲得授權(quán)，轉(zhuǎn)載時務(wù)必標明來源及作者，否則追究法律責任。