9月1日起,，人工智能生成合成內(nèi)容要依規(guī)添加標(biāo)識了,。近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》（以下簡稱《標(biāo)識辦法》）,，辦法聚焦人工智能“生成合成內(nèi)容標(biāo)識”關(guān)鍵點，通過標(biāo)識提醒用戶辨別虛假信息，明確相關(guān)服務(wù)主體的標(biāo)識責(zé)任義務(wù),，規(guī)范內(nèi)容操作,、傳播各環(huán)節(jié)標(biāo)識行為。

用一句話總結(jié)《標(biāo)識辦法》,，就是要求給所有AI生成合成內(nèi)容打上“水印”,、刻上“身份標(biāo)識”。放在現(xiàn)實語境中,，這一規(guī)定的推出無疑正當(dāng)其時,。

近些年，生成式AI,、深度合成等新技術(shù)迅猛發(fā)展,。用戶只用動動手指、輸入幾個關(guān)鍵詞,，就能利用AI工具,，在分秒間收獲生成合成的文本、圖片,、音視頻等內(nèi)容,。這在為人們?nèi)粘９ぷ魃钐峁┲T多便利的同時，也容易帶來虛假信息傳播,、深度偽造等風(fēng)險,。

比如，AI工具讓造謠成本大大降低,。造謠者簡單給出幾句指令,，就能批量制造要素齊全、迷惑性極強的內(nèi)容,。就在上周末,，一則“頂流男星在澳門輸?shù)?0億”的信息在互聯(lián)網(wǎng)平臺廣泛傳播，頻頻登上社交媒體熱搜熱榜,。公安網(wǎng)安部門查明,，這其實是造謠者為博取流量、謀取非法利益,，使用軟件中AI智慧生成功能編造的謠言。此外,，AI換聲,、換臉式詐騙橫行，也讓人防不勝防,，

對于這些問題,，事發(fā)后再去辟謠追責(zé)難度較大，已經(jīng)造成的損失也往往難以追回。只有規(guī)范AI工具的使用,，明確“哪些是生成的”“誰生成的”“從哪里生成的”等關(guān)鍵問題,，才能更好地落實主體責(zé)任，引導(dǎo)科技向上向善發(fā)展,。

此次《標(biāo)識辦法》明確了顯式標(biāo)識和隱式標(biāo)識兩種形式,。顯式標(biāo)識是指在生成式合成內(nèi)容或交互場景界面中添加的，以文字,、聲音,、圖形等方式呈現(xiàn)并可被用戶明顯感知到的標(biāo)識。對用戶而言,，這種給AI產(chǎn)品“打水印”的方式,，可以讓他們更清楚明了地看到產(chǎn)品來源，作出理性判斷,，不至于模糊真實和虛擬的邊界,，被虛假內(nèi)容誤導(dǎo)。如果真的出現(xiàn)被誤導(dǎo)和詐騙的情況,，也可以通過標(biāo)識水印追溯到實際的侵權(quán)人,、犯罪者。長遠來看,，這對于提升公眾科技素養(yǎng)和媒介素養(yǎng)也有所裨益,。

隱式標(biāo)識是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識,。這主要是涉及網(wǎng)絡(luò)平臺和AIGC服務(wù)提供者的一種標(biāo)識方式,。隱性標(biāo)識是用一種通用技術(shù)手段，能夠以較低的技術(shù)難度和合規(guī)成本,，明確AI服務(wù)提供商的標(biāo)識義務(wù),，并方便網(wǎng)絡(luò)平臺履行監(jiān)管責(zé)任。

正如有專家指出的,，當(dāng)前人工智能的治理,，尤其是內(nèi)容治理，所遵循的思路是“小步快走”,，而非追求大而全,。“數(shù)字標(biāo)識+顯性記號”雙軌并行,，明確了每個環(huán)節(jié)中內(nèi)容制作者,、發(fā)布平臺、技術(shù)提供者的多方責(zé)任,，其執(zhí)行成本較低,、可行性較高,，使相關(guān)治理更加科學(xué)有效。

當(dāng)然,，未來新規(guī)落地效果,，以及如何有效壓實各方責(zé)任，還需要后續(xù)持續(xù)觀察,。隨著AI生成技術(shù)的不斷迭代,，相關(guān)規(guī)范也可能進一步調(diào)整細化。但無論技術(shù)如何發(fā)展,，有關(guān)AI標(biāo)識的治理思路都是從一而終的,，那就是厘清真實和虛擬的邊界，消除謠言和虛假信息混淆視聽的空間,，切實保障每一位用戶的知情權(quán),。（任冠青）