(資料圖片)

為防范化解安全風(fēng)險(xiǎn)，同時(shí)促進(jìn)深度合成服務(wù)健康發(fā)展、提升監(jiān)管能力水平的需要，相關(guān)部門(mén)加強(qiáng)深度合成技術(shù)管理。12月11日晚間，國(guó)家網(wǎng)信辦通過(guò)官方微信公眾號(hào)宣布，網(wǎng)信辦、工信部、公安部已聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡(jiǎn)稱(chēng)《規(guī)定》），自2023年1月10日起施行。《規(guī)定》明確，提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等生成或者顯著改變信息內(nèi)容功能服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)。深度合成服務(wù)治理需要政府、企業(yè)、社會(huì)、網(wǎng)民等多方主體共同參與，推動(dòng)深度合成技術(shù)的依法、合理、有效使用，積極防范化解深度合成技術(shù)帶來(lái)的風(fēng)險(xiǎn)，促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展，維護(hù)網(wǎng)絡(luò)空間良好生態(tài)。

“《規(guī)定》已經(jīng)2022年11月3日網(wǎng)信辦2022年第21次室務(wù)會(huì)議審議通過(guò)，并經(jīng)工信部、公安部同意，現(xiàn)予公布，自2023年1月10日起施行”，12月11日晚間，網(wǎng)信辦宣布。根據(jù)《規(guī)定》，深度合成技術(shù)，是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類(lèi)算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等網(wǎng)絡(luò)信息的技術(shù)。

在數(shù)據(jù)和技術(shù)方面，《規(guī)定》明確，采取必要措施保障訓(xùn)練數(shù)據(jù)安全；訓(xùn)練數(shù)據(jù)包含個(gè)人信息的，應(yīng)當(dāng)遵守個(gè)人信息保護(hù)的有關(guān)規(guī)定；提供人臉、人聲等生物識(shí)別信息顯著編輯功能的，應(yīng)當(dāng)提示使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意。定期審核、評(píng)估、驗(yàn)證生成合成類(lèi)算法機(jī)制機(jī)理；提供具有對(duì)人臉、人聲等生物識(shí)別信息或者可能涉及國(guó)家安全、國(guó)家形象、國(guó)家利益和社會(huì)公共利益的特殊物體、場(chǎng)景等非生物識(shí)別信息編輯功能的模型、模板等工具的，應(yīng)當(dāng)依法自行或者委托專(zhuān)業(yè)機(jī)構(gòu)開(kāi)展安全評(píng)估。

《規(guī)定》同時(shí)指出，深度合成服務(wù)提供者提供深度合成服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。具體包括：（一）智能對(duì)話、智能寫(xiě)作等模擬自然人進(jìn)行文本的生成或者編輯服務(wù)；（二）合成人聲、仿聲等語(yǔ)音生成或者顯著改變個(gè)人身份特征的編輯服務(wù)；（三）人臉生成、人臉替換、人臉操控、姿態(tài)操控等人物圖像、視頻生成或者顯著改變個(gè)人身份特征的編輯服務(wù)；（四）沉浸式擬真場(chǎng)景等生成或者編輯服務(wù)；（五）其他具有生成或者顯著改變信息內(nèi)容功能的服務(wù)。

根據(jù)清華大學(xué)人工智能研究院、瑞萊智慧等發(fā)布的深度合作十大趨勢(shì)報(bào)告（2022），據(jù)不完全統(tǒng)計(jì)，創(chuàng)作者在互聯(lián)網(wǎng)平臺(tái)中發(fā)布的深度合成內(nèi)容的數(shù)量呈高速增長(zhǎng)，以視頻為例，2021年新發(fā)布的深度合成視頻的數(shù)量較2017年已增長(zhǎng)10倍以上。

每一次技術(shù)變革，在造福社會(huì)的同時(shí)，也不可避免地會(huì)帶來(lái)安全風(fēng)險(xiǎn)。對(duì)此，瑞萊智慧CEO田天向北京商報(bào)記者表示，技術(shù)不斷成熟是深度合成內(nèi)容迎來(lái)爆發(fā)式增長(zhǎng)的重要原因。研究論文的持續(xù)增加、開(kāi)源技術(shù)工具和大量代表性方法的涌現(xiàn)，令深度合成內(nèi)容的效果更加逼真、制作也更加高效，尤其是生成對(duì)抗網(wǎng)絡(luò)等算法的出現(xiàn)，讓合成內(nèi)容達(dá)到了“真假難辨”的程度。

負(fù)面風(fēng)險(xiǎn)不斷加劇，如何有效甄別深度合成內(nèi)容成為關(guān)鍵。談到深度合成的治理，中國(guó)工程院院士鄔賀銓認(rèn)為，要持續(xù)發(fā)展技術(shù)，不能“一刀切”地禁止，避免阻礙正向應(yīng)用與創(chuàng)新。衍生出的安全問(wèn)題要從源頭上解決，利用技術(shù)創(chuàng)新、技術(shù)對(duì)抗等方式，持續(xù)提升和迭代檢測(cè)技術(shù)的能力。田天也表示，新型偽造方法層出不窮、網(wǎng)絡(luò)傳播環(huán)境的日趨復(fù)雜，加上基于檢測(cè)算法存在漏洞缺陷等，反深偽檢測(cè)技術(shù)面臨“強(qiáng)對(duì)抗性”，需要持續(xù)更新與迭代。

北京商報(bào)記者 魏蔚

關(guān)鍵詞：