不久前,，某機(jī)場出現(xiàn)一張由人工智能（以下簡稱“AI”）生成的廣告畫面,，因人物主體有六根手指引發(fā)熱議,。這一失誤看似荒誕，卻也揭示出“AI幻覺”的問題,。

當(dāng)算法能夠驅(qū)動內(nèi)容生產(chǎn),，AI迅速響應(yīng)用戶指令,，生成各類文本、圖像和音視頻內(nèi)容,，“一鍵生成”帶來的快感,，讓越來越多的人陷入“技術(shù)依賴”，同時也產(chǎn)生了信息混淆和傳播誤導(dǎo)的風(fēng)險,。

近日,，國家互聯(lián)網(wǎng)信息辦公室等四部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》（以下簡稱《標(biāo)識辦法》）?！稑?biāo)識辦法》聚焦人工智能“生成合成內(nèi)容標(biāo)識”關(guān)鍵點(diǎn),，通過標(biāo)識提醒用戶辨別虛假信息，明確相關(guān)服務(wù)主體的標(biāo)識責(zé)任義務(wù),，規(guī)范內(nèi)容制作,、傳播各環(huán)節(jié)標(biāo)識行為。

《標(biāo)識辦法》要求,，由人工智能生成的文本、圖片,、音頻以及視頻等內(nèi)容,，均需添加顯式或隱式的標(biāo)識。顯式標(biāo)識,，如文字,、語音提示，能夠直觀地告知用戶內(nèi)容的生成來源,；隱式標(biāo)識,，如元數(shù)據(jù)、數(shù)字水印,，則能在不影響用戶體驗(yàn)的前提下,，暗中標(biāo)記內(nèi)容的生成信息。這一舉措有效破解了內(nèi)容溯源的問題,，還有助于重建網(wǎng)絡(luò)空間的信任秩序,。

技術(shù)的發(fā)展同風(fēng)險挑戰(zhàn)，從來都是相伴而生,。從實(shí)驗(yàn)室里助力前沿探索到醫(yī)療影像輔助診斷,，從城市交通智慧調(diào)度到農(nóng)業(yè)精準(zhǔn)種植指導(dǎo)……AI為人們帶來了更便捷智能的體驗(yàn)，但也出現(xiàn)了一系列因?yàn)E用AI而產(chǎn)生的問題：深度偽造技術(shù)制造的虛假影像難辨真?zhèn)?，AI換臉技術(shù)催生的身份盜用防不勝防,，惡意生成內(nèi)容更成為網(wǎng)絡(luò)空間的新型污染源。

既要用好,，也要管好,。近年來,，我國已相繼出臺《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等政策文件，既為技術(shù)創(chuàng)新開辟航道,，又為公共利益筑牢堤壩,。通過不斷對新出現(xiàn)的問題實(shí)施針對性治理措施，并與算法備案,、安全評估等制度相銜接,，科技向善的愿景得以更好地維護(hù)和發(fā)展。

公眾如何使用AI也顯得尤為重要,。人工智能最終是要為人服務(wù)的,，需要人來做出選擇和判定。我們需要形成批判性使用AI內(nèi)容的共識,，提高人們對AI生成內(nèi)容的辨識能力和防范意識,。只有這樣，我們才能讓AI為工作和生活賦能,，避免被AI“挖坑”,。

當(dāng)前，AI以“周更”速度迭代且更為深入地介入現(xiàn)實(shí)生活,，生成內(nèi)容日均億萬量級地井噴,，可以預(yù)見，相伴而生的AI治理問題還將持續(xù)出現(xiàn),。在創(chuàng)新的同時筑牢安全底線,，實(shí)現(xiàn)動態(tài)平衡中的持續(xù)優(yōu)化，將是AI時代長期面臨的課題,。只有將技術(shù)的“快”與人類的“慎”結(jié)合起來,，才能更好地讓技術(shù)為人類所用，服務(wù)社會發(fā)展,。

（轉(zhuǎn)自《人民日報(bào)海外版》 作者：石暢）