2022年以來，國內(nèi)外生成式人工智能大模型快速迭代發(fā)展，改變了傳統(tǒng)的內(nèi)容生產(chǎn)與信息傳播范式。與此同時(shí)，生成式人工智能帶來的深度偽造、虛假信息等潛在風(fēng)險(xiǎn)進(jìn)入國際社會(huì)規(guī)制視野，各國紛紛采取措施應(yīng)對(duì)。

《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱《標(biāo)識(shí)辦法》）進(jìn)一步明確了人工智能生成合成內(nèi)容全生命周期履行標(biāo)識(shí)義務(wù)的具體要求與主體責(zé)任，完善了我國生成式人工智能的治理框架。

一、人工智能生成內(nèi)容標(biāo)識(shí)的制度價(jià)值成為國際共識(shí)

第一，人工智能生成內(nèi)容標(biāo)識(shí)制度具備獨(dú)特制度價(jià)值。首先，標(biāo)識(shí)能夠有效區(qū)分出人工智能生成合成的信息，防范虛假信息的傳播利用；其次，標(biāo)識(shí)能夠幫助用戶快速了解生成式人工智能產(chǎn)品或服務(wù)的相關(guān)屬性或參數(shù)信息；最后，標(biāo)識(shí)能夠協(xié)助監(jiān)管部門對(duì)生成式人工智能產(chǎn)品或服務(wù)實(shí)施評(píng)估、追溯等監(jiān)管，推進(jìn)人工智能生成合成內(nèi)容合法合規(guī)發(fā)展。

第二，標(biāo)識(shí)制度的獨(dú)特制度價(jià)值已經(jīng)成為國際共識(shí)。日前，世界各國以及國際組織紛紛采取措施推進(jìn)生成式人工智能標(biāo)識(shí)制度的建立。2024年3月，聯(lián)合國發(fā)布《抓住安全、可靠和值得信賴的人工智能系統(tǒng)帶來的機(jī)遇，促進(jìn)可持續(xù)發(fā)展》，鼓勵(lì)開發(fā)和部署有效、可獲取、適應(yīng)性強(qiáng)、具有國際互操作性的內(nèi)容認(rèn)證和來源識(shí)別機(jī)制。2024年4月，美國國家標(biāo)準(zhǔn)與技術(shù)研究院發(fā)布的《降低合成內(nèi)容帶來的風(fēng)險(xiǎn)》列出了檢測(cè)、驗(yàn)證和標(biāo)記合成內(nèi)容的方法，包括數(shù)字水印和元數(shù)據(jù)記錄。2024年5月，新加坡政府發(fā)布《生成式人工智能治理模型框架》，提出數(shù)字水印和加密溯源兩種標(biāo)識(shí)技術(shù)方案。2024年8月1日，歐盟《人工智能法》正式生效，規(guī)定了生成合成音頻、圖像、視頻或文本內(nèi)容的有限風(fēng)險(xiǎn)AI系統(tǒng)應(yīng)履行透明度與明確標(biāo)識(shí)義務(wù)。2025年3月，英國《人工智能（監(jiān)管）法案》通過一讀，其中規(guī)定任何提供涉及人工智能的產(chǎn)品或服務(wù)的人，必須向客戶提供“清晰明確的健康警告、標(biāo)簽”。

綜合來看，不論是國際組織，還是有關(guān)國家，肯定人工智能生成內(nèi)容標(biāo)識(shí)的制度價(jià)值并已提出相應(yīng)規(guī)范，價(jià)值層面均倡導(dǎo)真實(shí)性以遏制虛假信息、深度偽造，技術(shù)層面基本均采用水印、內(nèi)容標(biāo)簽等標(biāo)識(shí)技術(shù)進(jìn)行規(guī)制。

二、生成式人工智能改變內(nèi)容生產(chǎn)與信息傳播范式

第一，生成式人工智能革新生產(chǎn)方式。不同于傳統(tǒng)的專業(yè)生成內(nèi)容、用戶生成內(nèi)容形式，基于遞歸式生成模型，生成式人工智能可以通過與大量用戶的對(duì)話和反饋，快速積累和更新內(nèi)容；基于生成式對(duì)抗網(wǎng)絡(luò)，生成式人工智能能夠生成逼真的圖像、音頻和視頻等內(nèi)容。

第二，生成式人工智能賦能行業(yè)發(fā)展。2025年《政府工作報(bào)告》在部署今年工作任務(wù)中強(qiáng)調(diào)，持續(xù)推進(jìn)“人工智能+”行動(dòng)，將數(shù)字技術(shù)與制造優(yōu)勢(shì)、市場(chǎng)優(yōu)勢(shì)更好結(jié)合起來，支持大模型廣泛應(yīng)用。生成式人工智能業(yè)已為各行各業(yè)注入新質(zhì)生產(chǎn)力。

在科研領(lǐng)域，生成式人工智能可快速查閱并總結(jié)參考文獻(xiàn)，擬定研究思路，進(jìn)行統(tǒng)計(jì)分析，甚至生成學(xué)術(shù)論文。一項(xiàng)收集1600名科研人員調(diào)查問卷的研究結(jié)果顯示，使用AI輔助論文寫作比例達(dá)25%。在制造領(lǐng)域，2024年10月，世界經(jīng)濟(jì)論壇“燈塔工廠”評(píng)選結(jié)果顯示，生成式人工智能的應(yīng)用使工廠的勞動(dòng)生產(chǎn)率平均提高了50%。在視聽領(lǐng)域，網(wǎng)絡(luò)音頻平臺(tái)通過與汽車廠商共建車聯(lián)網(wǎng)、與家電企業(yè)合作打造智能物聯(lián)家居等方式，加速推進(jìn)網(wǎng)絡(luò)音視頻服務(wù)在車載娛樂系統(tǒng)、智能家居、穿戴設(shè)備等終端的整合應(yīng)用。

第三，生成式人工智能存在潛在風(fēng)險(xiǎn)。生成式人工智能給各行各業(yè)帶來技術(shù)革新的同時(shí)，也帶來了深度偽造、虛假信息的潛在風(fēng)險(xiǎn)。2024年1月，香港一家跨國公司經(jīng)歷了“變臉”詐騙，詐騙者通過公開渠道獲取的媒體資料，利用深度偽造技術(shù)合成了該公司高管的形象和聲音，并制作出多人參與視頻會(huì)議的虛假視頻，詐騙金額高達(dá)2億港幣。在某美國乘客起訴美國某航空公司的案件中，代理律師引用了人工智能生成的六個(gè)案例，然而法官發(fā)現(xiàn)六個(gè)案例的判決結(jié)果、引用出處均為虛構(gòu)。不僅在事實(shí)信息上出現(xiàn)錯(cuò)誤，甚至對(duì)知識(shí)類信息進(jìn)行虛構(gòu)。

第四，生成式人工智能的風(fēng)險(xiǎn)亟待防范規(guī)制。任何技術(shù)革新都是雙刃劍，在發(fā)揚(yáng)生成式人工智能的正向功能的同時(shí)，正視其潛在風(fēng)險(xiǎn)并進(jìn)行相應(yīng)的規(guī)制與防范，是AI治理的國際共識(shí)。國家網(wǎng)信辦等部門于2022年發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，是世界范圍內(nèi)首次明確提出生成式人工智能標(biāo)識(shí)義務(wù)的部門規(guī)章，要求深度合成服務(wù)提供者對(duì)深度合成服務(wù)履行標(biāo)識(shí)義務(wù)。國家網(wǎng)信辦等部門聯(lián)合發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》沿用了該條規(guī)定。

三、《標(biāo)識(shí)辦法》進(jìn)一步細(xì)化推進(jìn)人工智能生成內(nèi)容管理

《標(biāo)識(shí)辦法》對(duì)人工智能生成內(nèi)容的標(biāo)識(shí)方法提出要求，通過顯式標(biāo)識(shí)明確“哪些內(nèi)容是生成的”，隱式標(biāo)識(shí)明確“是誰生成的”和“由誰傳播的”，明確了人工智能生成合成內(nèi)容的全生命周期中網(wǎng)絡(luò)信息服務(wù)提供者（以下簡(jiǎn)稱“服務(wù)提供者”）等不同主體的合規(guī)責(zé)任，從而降低人工智能安全風(fēng)險(xiǎn)，促進(jìn)行業(yè)健康發(fā)展，是對(duì)標(biāo)識(shí)制度的進(jìn)一步細(xì)化與規(guī)范。

第一，在人工智能生成合成內(nèi)容的生產(chǎn)環(huán)節(jié)，服務(wù)提供者應(yīng)對(duì)生成合成內(nèi)容添加標(biāo)識(shí)。服務(wù)提供者應(yīng)對(duì)文本、圖片、音頻、視頻、虛擬場(chǎng)景等典型應(yīng)用場(chǎng)景的生成合成內(nèi)容添加顯式標(biāo)識(shí)，并在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識(shí)，以明確內(nèi)容屬性、服務(wù)提供者信息等內(nèi)容。

第二，在人工智能生成合成內(nèi)容的傳播環(huán)節(jié)，不同主體應(yīng)對(duì)標(biāo)識(shí)的合規(guī)性進(jìn)行確認(rèn)。服務(wù)提供者在提供生成合成內(nèi)容下載、復(fù)制、導(dǎo)出等方式時(shí)，應(yīng)當(dāng)確保文件中含有滿足要求的顯式標(biāo)識(shí)。網(wǎng)絡(luò)信息內(nèi)容傳播平臺(tái)應(yīng)當(dāng)核驗(yàn)文件元數(shù)據(jù)中是否含有隱式標(biāo)識(shí)，并采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識(shí)，明確提醒用戶。互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)在應(yīng)用程序上架或上線審核時(shí)，應(yīng)核驗(yàn)生成合成內(nèi)容標(biāo)識(shí)相關(guān)材料。

第三，在人工智能生成合成內(nèi)容的使用環(huán)節(jié)，用戶同樣應(yīng)履行標(biāo)識(shí)義務(wù)。服務(wù)提供者應(yīng)當(dāng)在用戶服務(wù)協(xié)議中明確說明生成合成內(nèi)容標(biāo)識(shí)的方法、樣式等規(guī)范內(nèi)容，并提示用戶仔細(xì)閱讀并理解相關(guān)的標(biāo)識(shí)管理要求。用戶向網(wǎng)絡(luò)信息內(nèi)容傳播平臺(tái)上傳生成合成內(nèi)容時(shí)，應(yīng)當(dāng)主動(dòng)聲明并使用平臺(tái)提供的標(biāo)識(shí)功能進(jìn)行標(biāo)識(shí)。

目前的人工智能生成合成內(nèi)容標(biāo)識(shí)制度主要關(guān)注于“是否機(jī)器生成”的形式判斷，隨著標(biāo)識(shí)技術(shù)的進(jìn)步與發(fā)展，未來標(biāo)識(shí)制度能夠發(fā)揮更為豐富的功能，從形式判斷逐漸轉(zhuǎn)向“是否足夠可靠”的質(zhì)量判斷，進(jìn)一步促進(jìn)行業(yè)健康發(fā)展。（作者：張凌寒，聯(lián)合國高級(jí)別人工智能咨詢機(jī)構(gòu)中方專家、中國政法大學(xué)數(shù)據(jù)法治研究院教授）