面部替換、表情操縱、語音合成……伴隨技術的發展成熟，當前互聯網上出現了越來越多的深度合成內容。

作為人工智能行業的領域之一，深度合成的重要性正在滲透進生活的方方面面。

無論是視頻換臉、語音合成，或是影像修復以及最近因元宇宙大火的虛擬數字人，其背后均是深度合成技術在發揮作用。在當下，深度合成正愈發頻繁地出現在社交娛樂、影視制作等領域，并發展出多元化的數字應用。

從內容量而言，深度合成行業應用也在迎來跳躍發展。

近日清華大學人工智能研究院、國家工業信息安全發展研究中心等機構聯合發布的《深度合成十大趨勢報告（2022）》（以下簡稱《報告》）顯示，互聯網中深度合成視頻的新增發布量從2017年的1680個飆升至2021年的24317個，互聯網中深度合成視頻的點贊/喜歡數量也從2017年的249.74萬次，躍至2021年的3.16億次。

在行業蓬勃發展的過程中，行業相關的合規步伐也在提速。3月1日，由國家互聯網信息辦公室、工業和信息化部、公安部、國家市場監督管理總局聯合頒布的《互聯網信息服務算法推薦管理規定》正式施行，其中明確要求不得生成合成虛假新聞信息。

而就在2022年1月28日，國家互聯網信息辦公室還頒布《互聯網信息服務深度合成管理規定（征求意見稿）》，旨在促進深度合成技術依法合理、有效利用，規范發展互聯網信息服務深度合成活動。

在接受包括21世紀經濟報道在內的媒體采訪時，中國社會科學院哲學所研究員、科學技術哲學研究室主任段偉文表示，深度合成技術涉及認知安全，所以要提升社會認知安全意識，提升公眾的數字素養。與此同時，政府部門、企業及各界需要積極開展相關法律倫理、治理的對話與規范制定，從而實現創新與治理間的動態平衡。

應用提速

面部替換、表情操縱、語音合成……伴隨技術的發展成熟，當前互聯網上出現了越來越多的深度合成內容。

《報告》顯示，根據不完全統計，創作者在互聯網平臺中發布的深度合成內容數量，正在呈現高速增長。以視頻為例，2021年新發布的深度合成視頻數量，較2017年已增長10倍以上。

不僅是內容量本身暴增，深度合成的內容關注度也在呈現指數級增長。《報告》指出，以視頻的“點贊/喜歡”數據為例，自2017年以來，該項數據呈現出指數級的顯著增長，2021年新發布的深度合成視頻點贊數已超過3億。

此外，《報告》選取超過4000條深度合成視頻的互動視頻，并分析“播放量、點贊/喜歡數、收藏數、轉發數、評論數”幾項互動數據之間的關系后發現，平均每1000次播放，可產生約8.92次點贊/喜歡，同時會產生約3.51次轉發，從而將深度合成內容進行新一輪傳播。

除了內容層面之外，在技術層，深度合成領域同樣飛速發展。《報告》顯示，2021年深度合成領域的論文發表數量達到4559篇，相較2017年的1012篇大幅提升。在這些深度合成領域的論文中，包含對圖像、視頻、音頻、文本等不同模態合成方面的技術研究，其中針對圖像類生成模型的研究占比高達64%。

與此同時，自2017年以來，深度合成領域的開源項目發布數量也在逐年提升。到2021年，在GitHub中，與“GAN”等16個關鍵詞相關的開源項目發布量已達到23030個，相較2017年的8250個增長179%。深度合成在開源社區中持續走高的熱度，也將繼續推動該技術的發展與在產業中的落地。

事實上，當前深度合成的應用場景已經在持續豐富，無論是手語AI生成主播、虛擬偶像或是修復老照片、AI換臉等，隨著技術成熟度的持續提升，深度合成正在快速進入大眾視野，越來越多的企業機構也開始利用深度合成技術，提供面向公眾的產品和服務。

這也很大程度上降低了深度合成的門檻。瑞萊智慧CEO田天介紹稱，以自去年下半年開始大熱的虛擬數字人為例，如果沒有深度合成技術，虛擬形象的成本非常高昂，且需要極強的專業性。“但基于深度合成技術，可以通過AI自動學習來降低成本及門檻，從而令更多人參與到內容生成中，并促進數字空間的發展。”

合規治理

隨著深度合成行業持續發展，內容制作的技術門檻持續降低甚至實現技術“平民化”，相關的內容風險也在持續加劇。

事實上，通過深度合成技術制造虛假視頻、虛假音頻進行誣陷、誹謗、詐騙等違法行為和事例已屢見不鮮，深度偽造內容數量持續增多、危害性不斷增強，因此，深度合成行業治理也是亟待解決的問題。

“目前深度合成的鑒別需求在快速增長，但鑒別難度也在快速提升。”田天向21世紀經濟報道記者坦言道，行業挑戰主要體現在深度合成逼真度正在快速提升，甚至很難分辨真偽邊界，此外最新的深度偽造技術具備強對抗性，天然針對檢測方法進行對抗攻擊，從而使檢測方法失效。

而為了促進深度偽造檢測技術的發展，國內外已發布專項研究計劃及開展相關學術競賽。目前，學術界和產業界均已對深度合成鑒別檢測技術的研發進行了大量投入，包括Meta、谷歌、微軟等機構均推出視頻認證的方法或產品，在國內包括清華大學、中科大等機構及企業也已構建人臉合成檢測平臺并發布針對性檢測產品。

從監管機制而言，國內外也在持續探索。早在2018年，美國便提出《2018年惡意偽造禁令法案》，2019年又繼續發布《深度偽造責任法案》，持續重拳出擊深度偽造行為。歐盟同樣自2018年開始陸續推出《應用線上虛假信息：歐洲方案》《通用數據保護條例（GDPR）》《反虛假信息行為準則》等，打擊深度偽造相關違法違規行為。

我國也在積極探尋建設有效治理機制。自2019年以來，包括《網絡音視頻信息服務管理規定》《網絡信息內容生態治理規定》《互聯網信息服務算法推薦管理規定》等均對深度合成違法違規行為進行了約束，今年1月更是頒布《互聯網信息服務深度合成管理規定（征求意見稿）》，從而形成深度合成領域系統性、針對性和可操作性的專門管理規定。

段偉文指出，深度合成的穩健治理需要多措并舉，不僅需要技術管理也需要內容管理，同時需要提升社會整體認知和安全意識。此外，行業內還需要形成具有預見性、穩健的治理框架。

“現在行業希望政府或相關部門及各界積極開展有關法律倫理、治理上的對話，相關規范的制定，以及實踐的推廣，這些都是為了實現在創新和治理之間的動態平衡，實施敏捷、穩健的治理，從而令科技更好地服務數字化轉型等。”段偉文說。

（作者：楊清清 編輯：張偉賢）