近年來，多地警方破獲“變臉”詐騙案，有的不法分子用AI換臉技術，冒充被害人在社交平臺上進行詐騙；有的將一張張靜態照片制作為人臉動態視頻，甚至還能逼真地點頭、眨眼、皺眉……這些新型詐騙的出現，與深度合成技術的濫用有關。近日，國家互聯網信息辦公室、工業和信息化部、公安部聯合發布《互聯網信息服務深度合成管理規定》，自2023年1月10日起施行，劃定了深度合成服務的“底線”和“紅線”，維護網絡空間良好生態。

技術發展與風險挑戰往往相伴而生。深度合成技術，是指利用深度學習、虛擬現實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術。從生成虛擬主播到搭建元宇宙場景，從影視中的特效制作到社交媒體上的美顏美妝，深度合成技術的迅猛發展催生了大量應用，在教育、影視、傳媒等領域扮演著日益重要的角色。然而，能夠“以假亂真”的深度合成技術，也帶來了深度偽造的風險——一些不法人員將其用于制作、復制、發布、傳播違法信息，詆毀、貶損他人名譽、榮譽，仿冒他人身份實施詐騙等違法行為，影響傳播秩序和社會秩序，損害人民群眾合法權益，危害國家安全和社會穩定。

網絡空間不是法外之地，真實與虛假的邊界更模糊不得。《法治社會建設實施綱要（2020—2025年）》就制定完善“算法推薦、深度偽造等新技術應用的規范管理辦法”提出了明確要求。特別是隨著深度合成技術門檻大幅降低，普通人都可能利用一些軟件或工具，制作出真假難辨的合成內容。這種技術普及化的趨勢，讓加快推進其依法合理有效利用顯得尤為迫切。對此，近年來，一系列法律法規相繼將其納入監管，如今通過對應用深度合成技術提供互聯網信息服務制定系統性、專門性規定，明確各類主體的信息安全義務，進一步為促進深度合成服務規范發展提供了有力法治保障。

明確“底線”“紅線”，才能為長遠發展留足空間。人工智能和大數據技術的飛速發展，讓深度合成技術在未來的應用前景愈發廣闊。安全是發展的前提，對技術的善用為良性發展、造福社會提供了基礎，而不加約束的濫用注定只能結出阻礙自身發展的“毒瘤”。我國擁有海量數據資源、巨大應用需求、深厚市場潛力，讓技術實現向上向善，才能充分發揮這些得天獨厚的發展優勢，最大程度使技術進步趨利避害，提升廣大人民群眾在網絡空間的獲得感、幸福感、安全感。

黨的二十大報告明確提出：“健全網絡綜合治理體系，推動形成良好網絡生態。”技術進步不會等待我們準備萬全才出現，面對日新月異的數字化浪潮，相關治理既不能因噎廢食，更不能放任自流。從完善制度、加強監管，更好發揮法治固根本、穩預期、利長遠的保障作用，到以技術對技術，以技術管技術，做到魔高一尺、道高一丈，再到鼓勵相關行業組織加強行業自律，建立健全行業標準、行業準則和自律管理制度……統籌發展與安全，既是在守正創新中不斷探索新技術、新應用、新業態的治理路徑，更是立足自身實踐為全球相關科技治理提供中國方案、貢獻中國智慧。

《 人民日報 》（ 2023年01月05日? ?第 19 版）