新華網(wǎng)北京9月2日電（曹玥）2025年9月1日零時，國家網(wǎng)信辦、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合制定的《人工智能生成合成內(nèi)容標(biāo)識辦法》（以下簡稱《標(biāo)識辦法》)正式生效，“標(biāo)識辦法”提出強制添加顯式和隱式標(biāo)識等規(guī)范要求，即用AI生成的每一段文字、每一張圖片、每一條音頻、視頻，都必須強制亮明“數(shù)字身份證”。

新華網(wǎng)整理發(fā)現(xiàn)，在9月1日前，包括騰訊、抖音、快手、B站在內(nèi)的多個平臺分別針對上述《標(biāo)識辦法》出臺了細(xì)化規(guī)則，其中抖音平臺發(fā)布公告進一步規(guī)范平臺上的AI內(nèi)容創(chuàng)作與傳播，并上線了兩項功能，一是，內(nèi)容標(biāo)識功能，協(xié)助創(chuàng)作者為AI內(nèi)容添加提示標(biāo)識；二是，AI內(nèi)容元數(shù)據(jù)標(biāo)識讀寫功能，可識別并寫入AI內(nèi)容的元數(shù)據(jù)信息，為內(nèi)容溯源提供技術(shù)支撐。

AI生成內(nèi)容生態(tài)鏈進入規(guī)范化管理階段

人工智能技術(shù)正重塑信息生產(chǎn)和傳播方式。中國互聯(lián)網(wǎng)絡(luò)信息中心（CNNIC）發(fā)布的《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計報告》顯示，2024年，我國人工智能產(chǎn)業(yè)規(guī)模已突破7000億元，連續(xù)多年保持20%以上的增長率。

技術(shù)快速普及的同時帶來新的內(nèi)容風(fēng)險。人工智能技術(shù)被用于制造虛假新聞、實施網(wǎng)絡(luò)詐騙的案例逐年增長。中國信通院發(fā)布的《人工智能治理藍(lán)皮書（2024年）》中指出，隨著人工智能技術(shù)通用泛化的水平提升，內(nèi)容安全管理將面臨著重大挑戰(zhàn)。

政策的核心在于雙重標(biāo)識要求。顯式標(biāo)識需讓普通用戶“一眼可見”，如在AI生成文章的開頭或結(jié)尾添加文字說明，在音視頻內(nèi)容中加入語音提示或特殊圖標(biāo)。隱式標(biāo)識則需在文件元數(shù)據(jù)中嵌入“隱藏信息”，包括內(nèi)容屬性、服務(wù)商信息及唯一識別編碼。

當(dāng)前我國人工智能領(lǐng)域正在飛速發(fā)展，相應(yīng)的安全標(biāo)準(zhǔn)和法律準(zhǔn)則在不斷完善當(dāng)中，《標(biāo)識辦法》承接了《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護法》構(gòu)建的基礎(chǔ)法律框架，并與2023年8月實施的《生成式人工智能服務(wù)管理暫行辦法》以及2023年10月發(fā)布的《生成式人工智能服務(wù)安全基本要求》共同完善了我國內(nèi)容協(xié)同治理的體系。

浙江大學(xué)計算機科學(xué)與技術(shù)學(xué)院院長任奎教授是《生成式人工智能服務(wù)安全基本要求》的起草參與者之一，他對新華網(wǎng)表示，《標(biāo)識辦法》的正式實施有三個層面上的重大意義：一是，首次將生成服務(wù)提供者、內(nèi)容傳播平臺、終端用戶納入統(tǒng)一治理框架，以內(nèi)容的顯式標(biāo)識和隱式標(biāo)識為抓手，將生成式人工智能服務(wù)的各利益方串接在一塊。同時也與《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等形成制度遞進，明確責(zé)任邊界。二是，有助于推動AIGC行業(yè)的規(guī)范化發(fā)展，倒逼企業(yè)建立合規(guī)體系，通過標(biāo)識這一技術(shù)合規(guī)前置的制度設(shè)計，促使企業(yè)將倫理考量融入技術(shù)研發(fā)全流程；同時通過建立可信的內(nèi)容標(biāo)識體系，提高內(nèi)容使用的透明度，重塑公眾對AIGC技術(shù)的信任基礎(chǔ)。三是，有效的提高了我國在人工智能安全與治理領(lǐng)域的話語權(quán)?！稑?biāo)識辦法》和《標(biāo)識方法》是全球首個由政府主導(dǎo)，同時通過技術(shù)標(biāo)準(zhǔn)化進行強制性實施的治理模式，為全球內(nèi)容治理提供了范本。

雙重標(biāo)識體系：顯式可感知，隱式嵌元數(shù)據(jù)

從新規(guī)實施最大的特點來看，《標(biāo)識辦法》的核心是構(gòu)建了“顯式+隱式”雙重標(biāo)識體系，對不同類型的AI生成內(nèi)容提出明確標(biāo)注要求，確保用戶與監(jiān)管方能夠清晰識別內(nèi)容的AI屬性。

在顯式標(biāo)識層面，要求以用戶可直接感知的方式標(biāo)注：文本內(nèi)容需在開頭、結(jié)尾或關(guān)鍵位置標(biāo)注“人工智能生成”或“AI生成”，字體需清晰可辨，不得刻意縮小或模糊。

而隱式標(biāo)識更側(cè)重于技術(shù)層面的追溯，要求在AI生成內(nèi)容的文件內(nèi)部嵌入元數(shù)據(jù)，且字段名稱必須包含“AIGC”標(biāo)識符號。元數(shù)據(jù)需涵蓋AI生成確認(rèn)狀態(tài)、生成服務(wù)提供方信息、內(nèi)容傳播平臺名稱、唯一編號，以及數(shù)字簽名或哈希校驗值等關(guān)鍵信息，為內(nèi)容溯源與責(zé)任認(rèn)定提供技術(shù)支撐。

對于文本內(nèi)容，要求在起始、末尾或中間適當(dāng)位置添加文字提示或通用符號提示；對音頻內(nèi)容，要求在起始、末尾或中間添加語音提示或音頻節(jié)奏提示；對視頻和圖片，則要求在適當(dāng)位置添加顯著提示標(biāo)識。

任奎教授認(rèn)為，“嵌入的標(biāo)識有不同的功能和類型。例如，對于某個生成內(nèi)容，可以只是簡單的標(biāo)識出它們是自然真實存在的還是由AI模型生成的。此外，標(biāo)識還可以標(biāo)記生成這些內(nèi)容的具體模型。更進一步地說，標(biāo)識還可以同時標(biāo)記用戶和模型，合成內(nèi)容標(biāo)識在功能性上也可以進一步劃分，以滿足監(jiān)管的不同要求?！?/p>

在明確AI生成內(nèi)容標(biāo)識體系的同時，《標(biāo)識辦法》著重落腳在適當(dāng)?shù)毓膭钣肁I進行原創(chuàng)性的內(nèi)容創(chuàng)作。公安部第三研究所副所長金波發(fā)文表示，“《標(biāo)識辦法》體現(xiàn)出在數(shù)據(jù)內(nèi)容創(chuàng)作與打擊濫用間尋求平衡的考量，也表明在立法思路上對當(dāng)前蓬勃發(fā)展的人工智能產(chǎn)業(yè)整體上的鼓勵傾向，可理解為早期確立的平臺避風(fēng)港原則在新時代背景下的創(chuàng)新性發(fā)展?！?/p>

明確主體責(zé)任邊界，但監(jiān)管仍面臨挑戰(zhàn)

《標(biāo)識辦法》的另一重意義在于在法律層面上，對不同主體設(shè)置了不同義務(wù)。服務(wù)提供者有義務(wù)確保其生成的內(nèi)容符合標(biāo)識要求，并在生成內(nèi)容時主動添加標(biāo)識。

傳播平臺需要核驗文件元數(shù)據(jù)中是否含有隱式標(biāo)識，對于含有隱式標(biāo)識的，應(yīng)當(dāng)采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識。

應(yīng)用分發(fā)平臺則需在應(yīng)用程序上架或上線審核時，核驗服務(wù)提供者是否按要求提供生成合成內(nèi)容標(biāo)識功能。

《標(biāo)識辦法》的實施對普通人而言，通過顯性標(biāo)識對AIGC進行鑒別可以更加清晰地認(rèn)識接收到的信息是否可信。但從落地實踐來看，《標(biāo)識辦法》并不能徹底地杜絕AI生成謠言、假消息的產(chǎn)生。

例如，對于顯性標(biāo)識，用戶可以刪除相關(guān)文字及標(biāo)識圖形來去除；對于隱性標(biāo)識，用戶也可以通過轉(zhuǎn)碼等方式進行一定程度的規(guī)避。也就是說，基于標(biāo)識的識別無法對于惡意用戶發(fā)布的內(nèi)容進行精準(zhǔn)鑒別。

“AI生成也只是謠言等產(chǎn)生的工具，沒有AI的時候也存在同樣問題。”中倫文德律師事務(wù)所上海辦公室高級合伙人王祺律師對新華網(wǎng)表示，AI生成內(nèi)容應(yīng)用的風(fēng)險是無法完全規(guī)避，“對于惡意使用者，即使沒有AI也可以通過雇傭人來批量產(chǎn)生造謠內(nèi)容?！?/p>

從權(quán)、責(zé)、利層面來看，王祺還指出，內(nèi)容發(fā)布平臺或?qū)⒊袚?dān)更多的責(zé)任，“從盡量平衡生成式人工智能的收益與風(fēng)險的角度，除了要求人工智能應(yīng)用服務(wù)提供者盡到更加嚴(yán)格的注意義務(wù)外，建議監(jiān)管使內(nèi)容發(fā)布平臺承擔(dān)更多的責(zé)任。”

例如，如果AI生成內(nèi)容只有在內(nèi)容發(fā)布平臺算法的助推下才會吸引更多人的關(guān)注，而目前算法難以真正對于非正常流量增長的謠言等進行及時控制。“內(nèi)容生成平臺欲思算法推送流量之利，則也應(yīng)盡相應(yīng)的內(nèi)容監(jiān)管之義務(wù)。這也是權(quán)責(zé)相適應(yīng)的價值要求。”王祺對新華網(wǎng)說。

鑒于《標(biāo)識辦法》在落地實踐中所面臨的挑戰(zhàn)，從技術(shù)層面，任奎教授建議，大力發(fā)展安全保證的內(nèi)容隱式標(biāo)識技術(shù)?！袄脙?nèi)容隱式標(biāo)識的魯棒性與難以去除能力，配合顯式標(biāo)識和元數(shù)據(jù)隱式標(biāo)識共同維護基于標(biāo)識的內(nèi)容治理體系。”

最后，標(biāo)識是AI生成內(nèi)容治理邁出的關(guān)鍵一步，但它只是多層次防控體系的一部分。要真正規(guī)避風(fēng)險，還需要細(xì)化法律法規(guī)、建立行業(yè)自律標(biāo)準(zhǔn)、加大執(zhí)法力度和國際合作。

“AI生成內(nèi)容跨國傳播時，數(shù)據(jù)主權(quán)歸屬與執(zhí)法管轄權(quán)爭議頻發(fā)。如何在全球化背景下實現(xiàn)跨境的AIGC執(zhí)法也是面臨的挑戰(zhàn)之一?！比慰淌诒硎?，“進一步推動技術(shù)標(biāo)識協(xié)同，建立跨境執(zhí)法互助機制。與‘一帶一路’國家、金磚國家聯(lián)合構(gòu)建互認(rèn)標(biāo)識體系，并推動AI生成內(nèi)容快速響應(yīng)機制，支撐跨境執(zhí)法是未來內(nèi)容治理的重點方向之一。