(資料圖片)
為防范化解安全風險，同時促進深度合成服務健康發展、提升監管能力水平的需要，相關部門加強深度合成技術管理。12月11日晚間，國家網信辦通過官方微信公眾號宣布，網信辦、工信部、公安部已聯合發布《互聯網信息服務深度合成管理規定》（以下簡稱《規定》），自2023年1月10日起施行。《規定》明確，提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內容功能服務的，應當進行顯著標識。深度合成服務治理需要政府、企業、社會、網民等多方主體共同參與，推動深度合成技術的依法、合理、有效使用，積極防范化解深度合成技術帶來的風險，促進互聯網信息服務健康發展，維護網絡空間良好生態。
“《規定》已經2022年11月3日網信辦2022年第21次室務會議審議通過，并經工信部、公安部同意，現予公布，自2023年1月10日起施行”，12月11日晚間，網信辦宣布。根據《規定》，深度合成技術，是指利用深度學習、虛擬現實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術。
在數據和技術方面，《規定》明確，采取必要措施保障訓練數據安全；訓練數據包含個人信息的，應當遵守個人信息保護的有關規定；提供人臉、人聲等生物識別信息顯著編輯功能的，應當提示使用者依法告知被編輯的個人，并取得其單獨同意。定期審核、評估、驗證生成合成類算法機制機理；提供具有對人臉、人聲等生物識別信息或者可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物識別信息編輯功能的模型、模板等工具的，應當依法自行或者委托專業機構開展安全評估。
《規定》同時指出，深度合成服務提供者提供深度合成服務，可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識，向公眾提示深度合成情況。具體包括：（一）智能對話、智能寫作等模擬自然人進行文本的生成或者編輯服務；（二）合成人聲、仿聲等語音生成或者顯著改變個人身份特征的編輯服務；（三）人臉生成、人臉替換、人臉操控、姿態操控等人物圖像、視頻生成或者顯著改變個人身份特征的編輯服務；（四）沉浸式擬真場景等生成或者編輯服務；（五）其他具有生成或者顯著改變信息內容功能的服務。
根據清華大學人工智能研究院、瑞萊智慧等發布的深度合作十大趨勢報告（2022），據不完全統計，創作者在互聯網平臺中發布的深度合成內容的數量呈高速增長，以視頻為例，2021年新發布的深度合成視頻的數量較2017年已增長10倍以上。
每一次技術變革，在造福社會的同時，也不可避免地會帶來安全風險。對此，瑞萊智慧CEO田天向北京商報記者表示，技術不斷成熟是深度合成內容迎來爆發式增長的重要原因。研究論文的持續增加、開源技術工具和大量代表性方法的涌現，令深度合成內容的效果更加逼真、制作也更加高效，尤其是生成對抗網絡等算法的出現，讓合成內容達到了“真假難辨”的程度。
負面風險不斷加劇，如何有效甄別深度合成內容成為關鍵。談到深度合成的治理，中國工程院院士鄔賀銓認為，要持續發展技術，不能“一刀切”地禁止，避免阻礙正向應用與創新。衍生出的安全問題要從源頭上解決，利用技術創新、技術對抗等方式，持續提升和迭代檢測技術的能力。田天也表示，新型偽造方法層出不窮、網絡傳播環境的日趨復雜，加上基于檢測算法存在漏洞缺陷等，反深偽檢測技術面臨“強對抗性”，需要持續更新與迭代。
北京商報記者 魏蔚
（責任編輯：馬金露 HF120）關鍵詞：
