【新聞隨筆】這條呵護小學生的“禁令”有深意

近日,，教育部基礎(chǔ)教育教學指導(dǎo)委員會正式發(fā)布《中小學生成式人工智能使用指南（2025年版）》（以下簡稱《使用指南》）,。《使用指南》提出,，小學階段禁止學生獨自使用開放式內(nèi)容生成功能,，教師不得將生成式人工智能作為替代性教學主體,。

在人工智能應(yīng)用越來越普及的當下，“禁止小學生獨自使用開放式內(nèi)容生成功能”,，這一要求在互聯(lián)網(wǎng)上引發(fā)熱議,。開放式內(nèi)容生成功能的使用門檻早已降低，如今許多人都在使用相關(guān)功能來提升日常工作效率,，不少學生也在學習中用它來答疑解惑,。

只不過，當前開放式內(nèi)容生成功能存在諸多問題待解,?！妒褂弥改稀返慕剐越ㄗh，不僅旨在防范學生因過度依賴生成式人工智能而弱化獨立思考能力,，還有更深層的考量,。“禁止小學生獨自使用”的表述,，表明了《使用指南》的相關(guān)建議并非只是為了防止學生投機取巧完成作業(yè),。

值得關(guān)注的現(xiàn)象是，當前開放式內(nèi)容生成功能尚不完善,，最核心的問題在于,，人工智能所生成的內(nèi)容并非完全準確。胡編亂造,、斷章取義乃至虛構(gòu)新聞,、杜撰文獻和法律條文等情形的出現(xiàn)，使得人們通過人工智能獲取到的結(jié)果未必都是真實的,?！耙槐菊?jīng)地胡說八道”，是許多人對當前開放式內(nèi)容生成功能的觀感和評價,。面對人工智能提供的五花八門的生成內(nèi)容,，一部分成年人尚可以通過社會經(jīng)驗或行業(yè)經(jīng)歷來判斷其可靠性，但小學生群體顯然不具備這樣的能力,。因此,，教育部發(fā)布政策性指南文件，有其現(xiàn)實必要性,。

開放式內(nèi)容生成功能依托的是機器學習,、深度學習等人工智能算法，對于信息內(nèi)容來者不拒,，這讓一部分使用者可以通過大量灌輸無意義內(nèi)容,，訓練人工智能生成難以判斷真假的信息，并“污染”其他用戶的正常使用結(jié)果,。譬如,，一些社會機構(gòu)開始盯上人工智能生成工具，生成虛假文章上傳到多個網(wǎng)絡(luò)平臺,，實現(xiàn)流量變現(xiàn),，以此進行牟利,。2024年，江西南昌警方查處的一起利用人工智能技術(shù)批量造謠案件,，某MCN機構(gòu)（網(wǎng)絡(luò)信息內(nèi)容多渠道分發(fā)服務(wù)機構(gòu)）最高峰時單日能生成4000至7000篇虛假文章,，并通過800多個自媒體賬號分發(fā)。上述情形所制造的大量信息垃圾,，不僅中小學生難以辨別,，許多成年人同樣招架不住，一定程度上造成了互聯(lián)網(wǎng)內(nèi)容更加魚龍混雜,。盡管“AI污染”是人工智能發(fā)展初期所必須經(jīng)歷的問題,，但這也提醒我們，在人工智能適用人群足夠廣泛的當下,，保護好認知能力較弱的小學生尤為必要,。

長遠看，《使用指南》的發(fā)布也對開放式生成內(nèi)容行業(yè)提出了更高要求,?！痘ヂ?lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》要求，智能對話,、智能寫作等模擬自然人進行文本的生成或者編輯服務(wù),，可能導(dǎo)致公眾混淆或者誤認的，應(yīng)當在生成或者編輯的信息內(nèi)容的合理位置,、區(qū)域進行顯著標識,，向公眾提示深度合成情況。如何讓生成式人工智能更具信息辨識能力,，如何讓開放式內(nèi)容生成功能盡快走出“AI污染”發(fā)展階段,，需要包括研發(fā)主體、使用主體在內(nèi)的全社會一道共同努力解決,。

（作者：陳 城）