AI變臉源于深度偽造技術(shù)，利用“對(duì)抗生成網(wǎng)絡(luò)”模型，以生成模型和判別模型之間的持續(xù)對(duì)抗博弈，不斷自我演進(jìn)優(yōu)化，實(shí)現(xiàn)快速迭代的“無監(jiān)督學(xué)習(xí)”。AI變臉具有高度真實(shí)性、泛在普適性和快速演化性等特征。

AI變臉技術(shù)產(chǎn)生的風(fēng)險(xiǎn)

AI變臉技術(shù)其風(fēng)險(xiǎn)呈現(xiàn)出多樣性發(fā)展態(tài)勢(shì)。非法AI變臉生產(chǎn)出的虛假新聞、虛假?gòu)V告等內(nèi)容，經(jīng)由不同平臺(tái)的傳播，以場(chǎng)景再現(xiàn)的技術(shù)優(yōu)勢(shì)，顛覆受眾的已有認(rèn)知，對(duì)倫理與道德提出挑戰(zhàn)。AI變臉技術(shù)將原本極具真實(shí)性和現(xiàn)場(chǎng)感的多模態(tài)視頻呈現(xiàn)變成了“鏡花水月”，模糊真相與假象的界限，創(chuàng)造出虛擬世界，沖擊民眾對(duì)真實(shí)信息的信任，甚至?xí)l(fā)社會(huì)信任危機(jī)。AI變臉以“數(shù)字嫁接”創(chuàng)造加工出包括“數(shù)字虛擬人”的高仿真虛擬場(chǎng)景，民眾生活在虛擬與現(xiàn)實(shí)交織的世界，導(dǎo)致真實(shí)自我在現(xiàn)實(shí)社會(huì)中的認(rèn)知迷失。此外，AI變臉通過深度偽造，以“混淆視聽”的虛假敘事，沖擊民眾心理，侵蝕社會(huì)信任，擾亂政治輿論生態(tài)，AI變臉既可突破對(duì)方基于生物特征的身份認(rèn)證體系，竊取情報(bào)信息，又可偽造突發(fā)事件，發(fā)布虛假信息，制造輿論恐慌。

如何規(guī)避AI變臉技術(shù)所引起的風(fēng)險(xiǎn)

AI變臉技術(shù)風(fēng)險(xiǎn)的規(guī)制涉及范圍廣、領(lǐng)域?qū)?、?nèi)容多，蘊(yùn)含活力與秩序、自由與安全、責(zé)任與信任等諸多方面，是一項(xiàng)復(fù)雜的系統(tǒng)工程。要強(qiáng)化高位統(tǒng)籌、頂層設(shè)計(jì)、系統(tǒng)謀劃、整體推進(jìn)，以數(shù)據(jù)算法、合作共治、信息保護(hù)、法律法規(guī)等維度的同向發(fā)力、良性互動(dòng)，聚力推進(jìn)AI變臉技術(shù)異化治理體系的構(gòu)建創(chuàng)新，有效管控風(fēng)險(xiǎn)，提升整體治理效能。

以數(shù)據(jù)算法為基石，深化從源頭治理。算法既是AI變臉的技術(shù)核心，又是其生成路徑。智能算法具有的數(shù)據(jù)共享、自主學(xué)習(xí)、封裝移植等特質(zhì)，將普通民眾徹底隔絕在信息內(nèi)容的生產(chǎn)、過濾、推薦鏈條外，引致產(chǎn)生與AI變臉天然契合的“算法黑箱”。規(guī)制AI變臉技術(shù)的風(fēng)險(xiǎn)，要強(qiáng)化算法治理。強(qiáng)化主流價(jià)值引領(lǐng)算法，將其嵌入到AI變臉技術(shù)發(fā)展的全生命周期，引導(dǎo)算法設(shè)計(jì)者、信息分發(fā)者堅(jiān)持正確價(jià)值取向，引導(dǎo)算法應(yīng)用向上向善。構(gòu)建算法數(shù)據(jù)庫(kù)，收錄AI變臉技術(shù)的生成算法、識(shí)別算法和檢測(cè)算法等模型，以溯源防偽、反向破解輔助識(shí)別判定AI變臉作品，并將其同步收錄數(shù)據(jù)庫(kù)，通過樣本的累積迭代，提升比對(duì)判定能力。優(yōu)化傳播媒介平臺(tái)內(nèi)部算法，構(gòu)建事實(shí)核查、分級(jí)檢測(cè)和分級(jí)推薦機(jī)制，強(qiáng)化外部算法治理，協(xié)同優(yōu)化算法的準(zhǔn)入、監(jiān)督、投訴和評(píng)估等配套制度體系。

以合作共治為架構(gòu)，推進(jìn)協(xié)同治理。AI變臉技術(shù)異化的規(guī)制蘊(yùn)含組織與制度等多元要素，應(yīng)秉持審慎、理性、權(quán)衡和預(yù)防的原則，在網(wǎng)絡(luò)化、包容性、無縫隙的協(xié)作框架下聚智共謀，推進(jìn)協(xié)同治理。要秉持合作精神，培育共治價(jià)值，優(yōu)化完善合作治理、共同治理機(jī)制，在規(guī)章制度框架內(nèi)，通過資源整合、功能互補(bǔ)，尋求最大“公約數(shù)”，驅(qū)動(dòng)AI變臉技術(shù)風(fēng)險(xiǎn)治理由點(diǎn)狀分散向融合交互躍遷。要以主體跨域協(xié)同、路徑集成協(xié)同、信息交互協(xié)同為路徑，優(yōu)化協(xié)同治理界面，貫通政府部門、傳播平臺(tái)、技術(shù)開發(fā)、產(chǎn)品制作、網(wǎng)絡(luò)用戶的責(zé)任傳導(dǎo)鏈條，創(chuàng)新協(xié)同治理，提振治理質(zhì)效。強(qiáng)化政府部門、社交平臺(tái)、科研院所的良性互動(dòng)，厘清權(quán)責(zé)關(guān)系，破除壁壘、疏解堵點(diǎn)、理順機(jī)制、暢通渠道，共同開發(fā)檢測(cè)審查AI變臉的技術(shù)算法，畫好協(xié)同治理“同心圓”，共同應(yīng)對(duì)AI變臉技術(shù)風(fēng)險(xiǎn)。

以信息保護(hù)為支撐，構(gòu)筑立體屏障。生物識(shí)別信息具有人身表征性、不可替代性特點(diǎn)，既是AI變臉的原始材料，也是基礎(chǔ)根基。AI變臉技術(shù)異化的風(fēng)險(xiǎn)規(guī)制，應(yīng)以“隱私控制”為原則，構(gòu)建從收集到存儲(chǔ)再到應(yīng)用的多維立體保護(hù)體系。AI變臉技術(shù)使用者采集面部識(shí)別信息時(shí)，應(yīng)秉持知情同意、目的限制、正當(dāng)誠(chéng)信、必要安全的基本原則，嚴(yán)格遵守個(gè)人信息保護(hù)法中基于“特定的目的和充分的必要性”“取得個(gè)人的單獨(dú)同意”的條款規(guī)定。細(xì)化采集入庫(kù)規(guī)則，建立媒介平臺(tái)動(dòng)態(tài)征詢和信息披露機(jī)制，基于適度透明、隱私侵犯最小化原則收集信息。完善保管存儲(chǔ)規(guī)則，媒介平臺(tái)應(yīng)采取加密技術(shù)，隱名化、匿名化儲(chǔ)存用戶生物識(shí)別信息，嚴(yán)格限定儲(chǔ)存期限和敏感應(yīng)用場(chǎng)景。豐富加工利用規(guī)則，制作者、上傳者對(duì)原始視頻采用語(yǔ)音標(biāo)識(shí)、數(shù)字水印等方式進(jìn)行信源標(biāo)注，優(yōu)化信息公開、轉(zhuǎn)讓，確保檢測(cè)核查有據(jù)可循。

以法律框定為紅線，厘清技術(shù)邊界。秉持“技術(shù)—經(jīng)濟(jì)—社會(huì)”的模式，兼顧必要的社會(huì)面向，平衡調(diào)和公共利益和個(gè)人權(quán)益之間的張力。持續(xù)完善行政與民事相結(jié)合的法律規(guī)制體系構(gòu)造，健全法律規(guī)制體系的層次性和梯度性，回應(yīng)AI變臉技術(shù)異化導(dǎo)致法益侵害復(fù)合化，為技術(shù)發(fā)展提供方向指引。在2023年1月10日施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》的基礎(chǔ)之上，進(jìn)一步厘清AI變臉源頭制作者的法律責(zé)任，細(xì)化AI變臉可能帶來的侵權(quán)行為，做好追蹤溯源。構(gòu)建要素上貫通生產(chǎn)、使用、維護(hù)、監(jiān)管等節(jié)點(diǎn)，內(nèi)容上統(tǒng)合審查、商議、監(jiān)督、互動(dòng)機(jī)制的法律規(guī)范框架體系。加大平臺(tái)處罰力度，增設(shè)傳播媒介平臺(tái)的技術(shù)檢測(cè)義務(wù)和過濾刪除的“守門人”責(zé)任，以疏堵結(jié)合的策略，細(xì)化不同場(chǎng)景應(yīng)用的法律規(guī)制，以法律為AI變臉框定紅線。