我們每天上網(wǎng)看到的海量圖文、視頻,，有多少是人工智能生成合成的,？如何準(zhǔn)確分辨AI文章、AI圖片,、AI視頻？近日,，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見稿）》（以下簡稱《意見稿》）,，擬規(guī)定服務(wù)提供者提供的生成合成服務(wù)，包括文本,、音頻,、圖片、視頻,、虛擬場(chǎng)景等,，均應(yīng)在適當(dāng)位置添加顯著的提示標(biāo)識(shí)；服務(wù)提供者提供生成合成內(nèi)容下載,、復(fù)制,、導(dǎo)出等方式時(shí)，應(yīng)當(dāng)確保文件中含有滿足要求的顯式標(biāo)識(shí),。

隨著人工智能技術(shù)的迅猛發(fā)展,，AI合成成本低、制作容易,、出品太快,，使得這類合成內(nèi)容逐漸滲透到生活的方方面面，從文字,、圖片到音頻,、視頻，無時(shí)不在,、無處不在,。隨之而來的是一系列倫理和社會(huì)問題，AI合成被一些不法人員用于制作、復(fù)制,、發(fā)布,、傳播違法和不良信息，詆毀,、貶損他人名譽(yù),、榮譽(yù)，仿冒他人身份實(shí)施詐騙等,，影響傳播秩序和社會(huì)秩序,，損害人民群眾合法權(quán)益，危害國家安全和社會(huì)穩(wěn)定,。

或許有人說,，用人工智能技術(shù)合成，是“弄著玩”或“開玩笑”,，給網(wǎng)絡(luò)生活加點(diǎn)“調(diào)料”,，沒有惡意?？杉幢闳绱?，也會(huì)造成公眾對(duì)信息的誤會(huì)或誤判，極易導(dǎo)致不良社會(huì)后果,。因此,，顯著標(biāo)識(shí)AI合成內(nèi)容變得至關(guān)重要，而《意見稿》劃定了人工智能技術(shù)合成服務(wù)的底線和紅線,。如此明確設(shè)定,，具有很強(qiáng)的針對(duì)性，將減少由此導(dǎo)致的信任危機(jī),，對(duì)于防范化解網(wǎng)絡(luò)安全風(fēng)險(xiǎn)具有建設(shè)性作用,。

眾所周知，網(wǎng)絡(luò)上每天產(chǎn)生的圖文,、視頻等海量信息,，傳播的路徑非常廣闊，傳播的速度異?？旖?。但是，隨著深度學(xué)習(xí)和生成對(duì)抗網(wǎng)絡(luò)等先進(jìn)技術(shù)的介入,，使得AI合成內(nèi)容越來越逼真,，這種技術(shù)進(jìn)步存在被濫用的風(fēng)險(xiǎn)。這可能導(dǎo)致公眾對(duì)媒體和信息的普遍不信任,，進(jìn)而引發(fā)社會(huì)信任危機(jī)并擾亂社會(huì)秩序,。而目前許多國家尚未有完善的法律框架來規(guī)范AI合成內(nèi)容的使用,，導(dǎo)致出現(xiàn)對(duì)這一網(wǎng)絡(luò)空間的監(jiān)管盲區(qū)。亟待有關(guān)部門出臺(tái)過渡性監(jiān)管措施,，為法制監(jiān)管相關(guān)領(lǐng)域打下堅(jiān)實(shí)基礎(chǔ),，催生新的立法和監(jiān)管措施。

為此,，規(guī)定設(shè)置顯式標(biāo)識(shí),，體現(xiàn)了對(duì)透明性和真實(shí)性的尊重，這是維護(hù)社會(huì)誠信和公共安全的基本要求,。這一規(guī)定,，非常具有現(xiàn)實(shí)針對(duì)性、必要性,。保障了用戶的知情權(quán)和選擇權(quán),，使用戶能夠自主決定是否接觸和信任這些由AI合成的特定內(nèi)容。這樣做,，增加了一定成本,，但對(duì)于提高透明度和建立信任至關(guān)重要；幫助公眾區(qū)分真實(shí)與合成內(nèi)容,，減少信息混亂,；有助于防止這種潛在的大規(guī)模操控行為；明確內(nèi)容的來源和制作者,，有助于在發(fā)生侵權(quán)或欺詐行為時(shí)追究相關(guān)責(zé)任。

隨著AI技術(shù)不斷進(jìn)步,，AI合成內(nèi)容將更加難以分辨,，這必將會(huì)給顯式標(biāo)識(shí)帶來新的挑戰(zhàn)。未來可能需要更復(fù)雜的技術(shù)手段和國際合作來實(shí)現(xiàn)跨平臺(tái),、跨媒介的顯式標(biāo)識(shí),。同時(shí)，如何平衡技術(shù)發(fā)展與社會(huì)倫理,，制定全球統(tǒng)一的標(biāo)準(zhǔn)和法規(guī)也是未來需要面對(duì)的重要問題,。我們應(yīng)當(dāng)推動(dòng)相關(guān)政策、技術(shù)和倫理規(guī)范的完善,，以確保AI技術(shù)的健康發(fā)展和應(yīng)用,。