隨著大數(shù)據(jù)和深度學(xué)習(xí)的發(fā)展，生成式人工智能技術(shù)給世界政治、經(jīng)濟(jì)、文化領(lǐng)域帶來極大沖擊，技術(shù)創(chuàng)新進(jìn)入新一輪活躍期。生成式人工智能技術(shù)在促進(jìn)新質(zhì)生產(chǎn)力發(fā)展，帶來巨大商業(yè)價值的同時，也存在深度偽造、虛假信息、廣告欺詐等問題，可能為不法分子提供新的技術(shù)工具，成為詐騙活動的“新武器”。預(yù)防、監(jiān)測和治理生成式人工智能詐騙，保護(hù)公眾免受智能詐騙行為的影響，促進(jìn)人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用具有重要意義。

生成式人工智能技術(shù)基于遷移學(xué)習(xí)和人工神經(jīng)網(wǎng)絡(luò)，使用深度學(xué)習(xí)模型，傳輸和處理現(xiàn)有文本、圖像和音視頻信息，自動創(chuàng)建出新內(nèi)容、新方法和新方案。隨著生成式人工智能技術(shù)的發(fā)展，詐騙形式從線下詐騙、電話詐騙擴(kuò)展到網(wǎng)絡(luò)詐騙。常見的網(wǎng)絡(luò)詐騙包括以下幾種形式：網(wǎng)絡(luò)購物詐騙，詐騙者使用虛假網(wǎng)站、虛假商品和虛假促銷信息，誘騙消費者購買商品，通過虛假支付鏈接欺詐消費者；網(wǎng)絡(luò)投資詐騙，詐騙者以高收益低風(fēng)險為誘惑，通過虛假網(wǎng)站參與虛擬貨幣投資、股票期貨等投資活動，騙取消費者錢財；網(wǎng)絡(luò)視頻詐騙，詐騙者利用提前錄制的真人視頻和盜錄的視頻影像，合成為欺詐視頻，向視頻被盜錄者的好友借錢，開展詐騙行為。

防止生成式人工智能成為詐騙新工具是一項系統(tǒng)工程，存在三大監(jiān)控治理難點。一是全鏈路信息監(jiān)管難。詐騙者通過短信、電話、互聯(lián)網(wǎng)等通信渠道，與受害者聯(lián)系，基于獲取的個人信息和事前準(zhǔn)備好的詐騙腳本，騙取受害者的信任，誘導(dǎo)受害者使用銀行轉(zhuǎn)賬、網(wǎng)上支付、手機(jī)支付等方式向指定賬戶轉(zhuǎn)款，并快速完成資金轉(zhuǎn)移，獲取非法經(jīng)濟(jì)利益。二是個人信息保護(hù)難。詐騙分子通過非法渠道竊取或購買個人信息，包括身份證信息、電話號碼、家庭住址、網(wǎng)絡(luò)賬號、銀行卡賬號等，精準(zhǔn)獲取社會上各行各業(yè)人員的個人信息，為實施詐騙構(gòu)建個人信息基礎(chǔ)數(shù)據(jù)庫。三是智能生成產(chǎn)品識別破解難。詐騙分子基于開放數(shù)據(jù)流和獲取的個人信息，使用深度合成技術(shù)，篡改圖片或者視頻信息，對原始信息進(jìn)行深度偽造，獲得人工智能生成產(chǎn)品，通過“換臉”“換聲”等方式實施違法犯罪行為。因此，要堅持目標(biāo)導(dǎo)向和問題導(dǎo)向，在全鏈路信息監(jiān)管、個人信息保護(hù)和智能生成品鑒別技術(shù)上深耕細(xì)作，建立健全政策法規(guī)，切實將發(fā)展與安全相結(jié)合，持續(xù)推動科技創(chuàng)新，不斷增強(qiáng)防詐能力。

首先，建設(shè)公共算力和算法平臺是防止詐騙的基礎(chǔ)，應(yīng)研發(fā)全鏈路的信息監(jiān)管技術(shù)。一方面，政府部門牽頭建立公共算力基礎(chǔ)設(shè)施，采用安全可信的芯片、軟件和工具，統(tǒng)一收集人工智能算法、鑒別算法和檢測算法模型，形成算法數(shù)據(jù)庫，規(guī)范人工智能服務(wù)提供者預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等數(shù)據(jù)處理行為，提升算力資源利用效能。另一方面，研發(fā)可溯源的網(wǎng)關(guān)類設(shè)備監(jiān)管技術(shù)，基于分類分級監(jiān)管規(guī)則，全鏈路監(jiān)管查詢、下載、使用和修改個人生物識別信息的行為。并且要提供各類已被識別的合成品，積累識別樣本，提升詐騙電話檢測、惡意網(wǎng)址攔截、詐騙文本識別和詐騙風(fēng)險預(yù)警的精準(zhǔn)度。

其次，避免個人信息泄露是治理詐騙的根源，應(yīng)研發(fā)個人信息保護(hù)技術(shù)。一方面，生成式人工智能服務(wù)提供者應(yīng)對服務(wù)使用者信息的輸入和使用記錄依法履行保護(hù)義務(wù)，嚴(yán)禁采集非必要個人信息，不得非法向他人提供使用者的個人信息及使用記錄，規(guī)范個人信息采集與共享行為。另一方面，采用匿名化、去標(biāo)識化技術(shù)和加密技術(shù)，處理使用者個人信息，對個人信息的獲取進(jìn)行監(jiān)測，確保使用者個人同意且符合法律法規(guī)。通過虛擬私人網(wǎng)絡(luò)，建立信息安全通道，規(guī)范數(shù)據(jù)傳輸、處理與存儲行為，監(jiān)管信息使用情況，標(biāo)注并攔截詐騙信息。

再次，鑒別生成產(chǎn)品是治理詐騙的關(guān)鍵，應(yīng)研發(fā)人工智能生成品的識別破解技術(shù)。一方面，規(guī)范人工智能合成品的制作流程，擴(kuò)大信息源取證范圍，在信息采集設(shè)備中采用水印技術(shù)，對原始信息增加“數(shù)字水印”，保證源頭信息的真實性。使用區(qū)塊鏈和智能合約技術(shù)，運用數(shù)據(jù)加密、時間戳和分布式共識手段，在生成品中加入元數(shù)據(jù)，實現(xiàn)去中心化信用的點對點交易與協(xié)作，完成溯源防偽。另一方面，基于遞歸神經(jīng)網(wǎng)絡(luò)和膠囊網(wǎng)絡(luò)，提取空域、時域和頻域特征，通過檢測合成品的混合邊界及肉眼難辨的灰度元素，對圖像和視頻進(jìn)行反向破解，解析圖像和視頻代碼，判斷人物與場景的一致性，鑒別原始信息和合成品。

最后，建立健全政策法規(guī)，增強(qiáng)公眾風(fēng)險教育，對于防止生成式人工智能詐騙至關(guān)重要。一方面，政府應(yīng)制定針對生成式人工智能犯罪的法律規(guī)范，界定濫用生成式人工智能進(jìn)行詐騙的法律責(zé)任，嚴(yán)格監(jiān)管和執(zhí)法，明確處罰措施，確保公共安全不受威脅。此外，鑒于數(shù)字詐騙的特殊性，還應(yīng)加強(qiáng)國際合作，加大聯(lián)合執(zhí)法力度，打擊跨境詐騙。另一方面，政府、企業(yè)和各級教育機(jī)構(gòu)應(yīng)大力宣傳防詐知識，普及人工智能技術(shù)的潛在風(fēng)險，提升大眾的防范意識，提高識別和防詐技能。并且，應(yīng)增加對未來科技從業(yè)者的教育，使其能夠規(guī)范開發(fā)和使用人工智能技術(shù)。

生成式人工智能是一項前沿技術(shù)，對于提升多個領(lǐng)域的生產(chǎn)效率至關(guān)重要。然而，如果不加約束地濫用，可能會成為欺詐者手中的危險工具。只有通過不斷研發(fā)防詐技術(shù)，采取多管齊下的管理政策，才能夠助推科技跨越式發(fā)展，有效防止生成式人工智能成為詐騙“新武器”。