日前舉行的中央經(jīng)濟工作會議指出，2024年要“加快推動人工智能發(fā)展”。當前，人工智能（AI）已廣泛滲透到各行各業(yè)，從醫(yī)療保健、交通運輸，到教育培訓、娛樂休閑等。那么AI技術有哪些新趨勢，未來該如何更安全地發(fā)展？2023年12月27日，AI發(fā)展與治理創(chuàng)新研討會在北京舉行，與會專家與相關從業(yè)者圍繞AI技術創(chuàng)新發(fā)展進行了分享與討論。

新模式新業(yè)態(tài)不斷涌現(xiàn)

“人工智能已成為引領產(chǎn)業(yè)發(fā)展、驅動經(jīng)濟增長、連接全球合作的重要新興技術方向。”中國電子技術標準化研究院信息技術研究中心主任范科峰認為，當前，AI技術新模式新業(yè)態(tài)不斷涌現(xiàn)，產(chǎn)品和服務逐漸完善，在經(jīng)濟社會各領域廣泛應用，與實體經(jīng)濟融合持續(xù)深化，正深刻改變著人類的生產(chǎn)生活方式。

在研討會上，多項AI技術在各領域實際應用的案例令人眼前一亮。

AI技術能幫人更好地做生意。對從事家具外貿(mào)電商業(yè)務的黃凱來說，他的日常工作就離不開AI技術的幫助。“過去，要上架一款家具，我們得先完成設計、做出樣品，再進行產(chǎn)品拍攝。這個過程不僅時間長，而且花費的成本也很高。但現(xiàn)在，有了AI技術的幫助，只需要輸入數(shù)據(jù)，就能很簡單地做出產(chǎn)品圖，并且能隨意模擬產(chǎn)品在客廳、商場等不同場景下擺放的效果，效率得到了極大提升。”此外，AI技術還幫助黃凱的公司降低了招聘運營人員的難度。據(jù)黃凱介紹，以前，從事外貿(mào)生意對運營人員的外語水平、工作經(jīng)驗要求較高，但有了AI工具做輔助，新員工也可以很快上手完成工作了。

在醫(yī)療領域，AI技術大有用武之地。胰腺癌是一種生存率較低的惡性腫瘤，并且早期篩查容易出現(xiàn)漏診或誤診。現(xiàn)在，來自浙大醫(yī)學院附屬第一醫(yī)院、復旦大學附屬腫瘤醫(yī)院的醫(yī)學團隊，已開始采用“平掃CT+AI”的方法，進行大規(guī)模胰腺癌早期篩查。在2萬多人的真實病例試驗中，發(fā)現(xiàn)了31例臨床漏診病變，其中2例早期病患很快就完成了手術。該項研究成果也已發(fā)表在國際醫(yī)學期刊上。

在影視制作領域，AI技術未來可期。阿里大文娛團隊借助AI技術，在虛擬拍攝、數(shù)字人、超高清視聽體驗等領域取得了創(chuàng)新突破。相對傳統(tǒng)制作方式，借助虛擬拍攝，制作效率可以提升40%。“很多過去想到但做不到、甚至創(chuàng)作者也沒想到的場景，都在AI的助力下呈現(xiàn)在我們的面前。可以預見，AI技術將全面提升中國影視制作的水平。”阿里巴巴科技倫理治理委員會委員薛暉說。

風險與挑戰(zhàn)不容忽視

隨著AI技術的快速發(fā)展，技術風險、隱私保護等安全問題也愈加受到關注。在研討會上，阿里巴巴集團與中國電子技術標準化研究院聯(lián)合發(fā)布了《生成式人工智能（AIGC）治理與實踐白皮書》，系統(tǒng)分析大模型和AIGC主要風險，并從應用角度提出針對性治理建議和可操作性實踐方案。

所謂生成式人工智能是指基于人工智能的技術方法，通過對已有數(shù)據(jù)的學習和識別，生成相關內(nèi)容的技術。中國科學院信息工程研究所技術副總師韓冀中認為，這項技術最主要的特點，是改變了信息的生成方式和信息的獲取方式。“每一次信息獲取方式的變化，都會帶來整個信息產(chǎn)業(yè)的變革。比如我們早期獲取信息可能通過黃頁，后來是搜索引擎，現(xiàn)在有了更新的渠道，即ChatGPT這樣的技術，會讓整個信息產(chǎn)業(yè)產(chǎn)生巨大變化。”

阿里巴巴人工智能治理和可持續(xù)發(fā)展研究中心首席科學家何源認為，生成式人工智能技術應用中，可能存在的安全風險與每個人息息相關。據(jù)何源介紹，生成式人工智能可以通過交互的方式低成本、快速地生產(chǎn)內(nèi)容，比如可以很容易地生成并傳播謠言，這給內(nèi)容安全的防控帶來了新挑戰(zhàn)。在隱私和版權方面，大模型應用的海量互聯(lián)網(wǎng)數(shù)據(jù)，很難逐一確認樣本授權，容易造成隱私泄露和侵權問題。另外，生成式人工智能還降低了很多專業(yè)領域的技術門檻，有可能被濫用于黑客攻擊、網(wǎng)絡犯罪等。因此，業(yè)內(nèi)專家認為，建立相關安全治理體系十分必要。

“多元協(xié)同、開放共治”

為規(guī)范生成式人工智能技術發(fā)展，2023年7月，國家網(wǎng)信辦聯(lián)合多部委公布了《生成式人工智能服務管理暫行辦法》。

該《辦法》一方面明確鼓勵生成式人工智能技術在各行業(yè)、各領域的創(chuàng)新應用，生成積極健康、向上向善的優(yōu)質內(nèi)容，探索優(yōu)化應用場景，構建應用生態(tài)體系。同時，也明確“生成式人工智能服務提供者應當依法開展預訓練、優(yōu)化訓練等訓練數(shù)據(jù)處理活動，使用具有合法來源的數(shù)據(jù)和基礎模型；涉及知識產(chǎn)權的，不得侵害他人依法享有的知識產(chǎn)權；涉及個人信息的，應當取得個人同意或者符合法律、行政法規(guī)規(guī)定的其他情形；采取有效措施提高訓練數(shù)據(jù)質量，增強訓練數(shù)據(jù)的真實性、準確性、客觀性、多樣性”等。

在研討會上，多位專家就生成式人工智能的安全治理提出自己的觀點。

中國電子技術標準化研究院信息技術研究中心副主任董建提到，當前，國內(nèi)外都在推動研發(fā)生成式人工智能的治理工具，但如何通過技術深層次解決治理問題，尚需進一步探索。

中國人工智能產(chǎn)業(yè)聯(lián)盟安全治理委員會專委會副主委潘恩榮認為，生成式人工智能對人類的經(jīng)濟社會發(fā)展觀念帶來了巨大沖擊，規(guī)范其發(fā)展“宜疏不宜堵”。一方面，必須克服各種恐懼和臆想，克制“堵”的沖動；另一方面，要在實踐中，小步快跑地迭代出各種“疏”的方式。

復旦大學計算機科學技術學院教授張謐指出，科技行業(yè)應該負責任地發(fā)展AI，兼顧AI發(fā)展和風險管控。現(xiàn)在全球范圍內(nèi)有AI競賽的氛圍，各方應該立足長遠，攜手營造有序競爭，保障AI技術發(fā)展處于安全區(qū)域。

“關于AI，我們不知道的比知道的多，難以想象的比可以預測的多。”薛暉表示，生成式人工智能帶來了前所未有的挑戰(zhàn)，需要前瞻性地應對，“多元協(xié)同、開放共治”是AI發(fā)展和治理的必經(jīng)之路。

原標題：

擁抱機遇 迎接挑戰(zhàn)

加快推動人工智能發(fā)展（AI前沿觀察）