人工智能技術迅猛發展，為各個產業領域的應用都帶來重要的技術迭代和變革。當前內容生成成為人工智能的主要應用形式之一。人工智能生成、合成內容已囊括文本、圖片、視頻、虛擬場景等多種形式。毋庸置疑，人工智能生成內容技術的發展，降低了內容生成門檻，改變了傳統內容生產方式，為互聯網內容生態帶來了全新的變革和機遇，同時也伴隨著風險、挑戰和治理難題。亟需構建具有針對性的治理機制，推動內容標識的規范使用，并將其作為重要舉措納入法治化框架。《人工智能生成合成內容標識辦法》和《網絡安全技術 人工智能生成合成內容標識方法》強制性國家標準從實體規則和配套技術標準層面，對內容標識規定的細化落地和統一適用提供了重要的制度方案。

一、人工智能生成合成內容的治理難題及其法治應對

通過人工智能生成合成技術降低了內容“偽造”“造假”等的時間成本，尤其在圖片、音頻、視頻等領域，從早期引起廣泛關注的“換臉”工具，到偽造人聲、通話視頻的詐騙活動，再到“被壓在廢墟下的小男孩”等熱點事件，人工智能技術帶來的深度偽造、虛假信息、不良信息、抄襲侵權等問題，集中涌現出來，對包括內容治理在內的網絡空間秩序構成挑戰，對于治理工具、方式和手段也提出了更新更高的要求。

為應對人臉替換、語音合成、場景造假等深度偽造技術帶來的挑戰，我國已經通過出臺《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等規定對此進行回應，規定了服務提供者、技術支持者的相關義務，包括避免用戶混淆或誤認，杜絕違法信息和虛假信息傳播，對使用其服務生成或者編輯的信息內容，應當采取技術措施添加不影響用戶使用的標識，并依照相關規定保存日志信息等。

我國針對人工智能生成合成內容標識這一信息工具的法治化規范舉措，具有兩方面的特點。一是將內容治理義務不再局限于內容的生產者和傳播者，而是拓展到為生產者和傳播者提供技術支持的主體，要求真正對技術擁有掌控能力的相關主體切實承擔起治理義務，從源頭采取措施；二是在現有內容治理手段基礎上，明確規定了通過添加技術“標識”的方式，幫助用戶有效識別人工智能生成內容，并通過根據風險程度分級分類在內容治理中加以落實。

二、從法治層面進一步細化內容標識規定的必要性

通過技術標識例如添加水印等方式，來對人工智能生成合成內容以顯式標識進行提示，方便用戶快速分辨，并通過隱式標識提供識別和追溯功能，這種模式通過技術賦能，可以在對內容傳播干預較小的前提下實現較為有效的治理效果，實際上也是國際上一定程度上形成共識的做法。例如，歐盟《人工智能法》第四章專門規定了“特定人工智能系統的提供者和部署者的透明度義務”，要求“生成或操縱構成深度偽造的圖像、音頻或視頻內容的人工智能系統的部署者應當披露該內容是人為生成或操縱的”，并要求“最遲應在首次互動或接觸時以清晰可辨的方式提供給相關自然人”。美國加州于2024年通過的《人工智能透明度法案》規定了人工智能系統提供者針對人工智能生成內容提供檢測工具、顯性標識功能以及設置隱式標識的義務。

盡管我國已經明確提出為人工智能生成合成內容添加標識的要求，由于內容生成合成產業鏈中涉及的相關主體分散，產業鏈條較為復雜，包括人工智能生成合成內容的工具開發者、工具部署者、工具使用者、內容加工者、內容傳播者、內容傳播平臺以及廣大用戶等，都涉及到對標識的使用和內容的識別、傳播等行為。目前各方主體的標識落實責任分工和層次尚需進一步明確，標識的標準化和互認程度也有待進一步提升，內容標識落地的過程尚需更加細致、全面、系統的規范，需要行業各主體共同努力，形成合力，也需要全面推進相應的標準化技術和工具的開發和應用。

三、促進內容標識義務全面落地的法治化路徑

《人工智能生成合成內容標識辦法》為相關主體如何開展內容標識工作做出了制度回應。一方面，為了實現有效便捷提示，同時盡量減小對內容呈現和傳播效果的干擾，需要進一步明確文本、音頻、圖片、視頻、虛擬場景等應用場景下，人工智能生成合成內容顯式標識的呈現方式。另一方面，為了實現生成合成信息的有效傳遞，需要進一步規范文件元數據隱式標識的添加、識別、更新方法。此外，服務提供者、內容提供者、內容傳播平臺、應用服務分發平臺以及用戶等各方主體，需要厘清和明確各方在人工智能生成合成內容標識方面的義務和責任體系，引導合規和治理體系的形成和完善。配套發布的《網絡安全技術 人工智能生成合成內容標識方法》強制性國家標準，針對人工智能生成合成標識的技術實現方式給出了更加細致、精準的指引，并配以具體的實現范例，有助于相關行業各主體采取相應的技術措施、全面準確落實內容標識義務，并實現標識技術的標準化，提高互認程度，降低由于標準不統一帶來的合規成本。

《人工智能生成合成內容標識辦法》及其配套技術標準的出臺，有望在法治化的基礎上進一步規范我國人工智能生成合成內容標識應用實踐，厘清不同主體的責任邊界，建立標準化的標識互認機制，有效降低公眾辨識人工智能生成合成內容的成本，減少生成合成內容帶來的誤導乃至欺詐風險，通過提升人工智能應用的透明度來增強公眾的認知能力和信任程度，在透明、可信、安全的內容生態建設基礎上，促進信息的有效流動，推動代表新質生產力的人工智能產業快速健康發展。通過各方主體形成合力，共同培養培育生成、傳播內容的媒介素養和行為倫理，方能標本兼治，推動形成更加健康有序、風清氣朗的網絡內容生態空間。（作者：劉曉春，中國社會科學院大學互聯網法治研究中心主任）