【光明時(shí)評(píng)】

近日，《北京市人工智能賦能新型工業(yè)化行動(dòng)方案（2025年）》發(fā)布,，圍繞“人工智能與新型工業(yè)化”推出16條措施支持企業(yè)發(fā)展,，特別針對(duì)加強(qiáng)智能安全保障、打造行業(yè)頭部大模型,、提升裝備智能化水平等方面提出了一系列包含真金白銀的獎(jiǎng)勵(lì)舉措,。

人工智能作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，在推動(dòng)經(jīng)濟(jì)社會(huì)發(fā)展的同時(shí),，也帶來(lái)算法偏見(jiàn),、數(shù)據(jù)泄露、倫理失序等安全風(fēng)險(xiǎn),。習(xí)近平總書記在中共中央政治局第二十次集體學(xué)習(xí)時(shí)強(qiáng)調(diào),，要把握人工智能發(fā)展趨勢(shì)和規(guī)律，加緊制定完善相關(guān)法律法規(guī),、政策制度,、應(yīng)用規(guī)范,、倫理準(zhǔn)則，構(gòu)建技術(shù)監(jiān)測(cè),、風(fēng)險(xiǎn)預(yù)警,、應(yīng)急響應(yīng)體系，確保人工智能安全,、可靠,、可控。面對(duì)人工智能技術(shù)迭代加速與安全風(fēng)險(xiǎn)交織的復(fù)雜局面,，立足國(guó)家安全戰(zhàn)略全局,，構(gòu)建安全風(fēng)險(xiǎn)防范體系是應(yīng)時(shí)之舉。

當(dāng)前,，人工智能對(duì)國(guó)家安全,、社會(huì)穩(wěn)定和人類文明構(gòu)成系統(tǒng)性挑戰(zhàn)。從技術(shù)維度看,，算法黑箱,、數(shù)據(jù)偏差、模型缺陷等底層問(wèn)題持續(xù)存在,，成功防范網(wǎng)絡(luò)攻擊難度較高,，容易危及智慧醫(yī)療診斷精準(zhǔn)度和金融風(fēng)控系統(tǒng)可靠性。從社會(huì)維度看,，深度偽造技術(shù)可生成以假亂真的虛假信息,，嚴(yán)重沖擊社會(huì)信任體系與意識(shí)形態(tài)安全防線。從文明維度看,，系統(tǒng)暗含的算法歧視正在解構(gòu)社會(huì)公平正義,，自動(dòng)駕駛面臨的“電車難題”帶來(lái)倫理困境，這些挑戰(zhàn)不斷倒逼人類文明新規(guī)范的建立,。面對(duì)這些新形勢(shì),，構(gòu)建涵蓋技術(shù)治理、風(fēng)險(xiǎn)防控,、倫理規(guī)約的立體化治理體系,，是我國(guó)把握技術(shù)主導(dǎo)權(quán)的戰(zhàn)略選擇。

人工智能技術(shù)的快速發(fā)展,，要求我們建立健全安全風(fēng)險(xiǎn)防范體系,，以保障技術(shù)的健康穩(wěn)定發(fā)展。做好這項(xiàng)工作,，要堅(jiān)持系統(tǒng)觀念和問(wèn)題導(dǎo)向,，探索形成有效的方法路徑，以點(diǎn)的突破帶動(dòng)面的提高,。我國(guó)以制定全面,、長(zhǎng)遠(yuǎn)的國(guó)家級(jí)人工智能安全風(fēng)險(xiǎn)防范戰(zhàn)略規(guī)劃為依托,，構(gòu)建系統(tǒng)完備的法律法規(guī)體系，強(qiáng)化制度約束,。在此基礎(chǔ)上,，加快制定和完善人工智能相關(guān)的法律法規(guī)，明確人工智能系統(tǒng)的開發(fā)者,、使用者和監(jiān)管者在安全風(fēng)險(xiǎn)防范方面的權(quán)利,、義務(wù)和責(zé)任，將有利于確保人工智能產(chǎn)業(yè)有序發(fā)展,。

目前,，《新一代人工智能發(fā)展規(guī)劃》《生成式人工智能服務(wù)管理暫行辦法》等一系列部門規(guī)章業(yè)已發(fā)布，初步明確了數(shù)據(jù)安全,、算法透明,、責(zé)任追溯等核心規(guī)則。相關(guān)行政法規(guī)對(duì)企業(yè)公開訓(xùn)練數(shù)據(jù)來(lái)源,、算法邏輯,，對(duì)生成內(nèi)容進(jìn)行標(biāo)識(shí)等提出了要求，并進(jìn)一步推動(dòng)AI服務(wù)安全評(píng)估制度落地,。針對(duì)深度偽造,、自動(dòng)駕駛等重點(diǎn)領(lǐng)域，我國(guó)也有了初步的專項(xiàng)治理規(guī)范,。當(dāng)然,，從長(zhǎng)遠(yuǎn)發(fā)展考慮，還需針對(duì)數(shù)據(jù)安全,、算法公平,、隱私保護(hù)等問(wèn)題,，出臺(tái)更為具體的實(shí)施細(xì)則和標(biāo)準(zhǔn)規(guī)范,，使人工智能產(chǎn)業(yè)發(fā)展有法可依、有章可循,。

人才是人工智能安全風(fēng)險(xiǎn)防范的重要支撐,。廣泛開展人工智能安全宣傳教育活動(dòng)，面向政府,、企業(yè),、社會(huì)組織和公眾，普及人工智能安全知識(shí),，提高全社會(huì)對(duì)人工智能安全風(fēng)險(xiǎn)的認(rèn)知水平和防范意識(shí),，十分重要。通過(guò)舉辦培訓(xùn)講座,、發(fā)布科普資料,、開展案例研討等多種形式,，營(yíng)造全民關(guān)注、共同參與人工智能安全風(fēng)險(xiǎn)防范的良好氛圍,。加強(qiáng)人工智能安全專業(yè)人才培養(yǎng)體系建設(shè),，在高校中增設(shè)相關(guān)專業(yè)課程和專業(yè)方向，優(yōu)化課程設(shè)置,，注重實(shí)踐教學(xué)環(huán)節(jié),，培養(yǎng)既懂人工智能技術(shù)又具備安全管理知識(shí)的復(fù)合型人才。鼓勵(lì)企業(yè)開展內(nèi)部培訓(xùn)和技能提升活動(dòng),，建立人才激勵(lì)機(jī)制,，吸引和留住優(yōu)秀人才，為人工智能安全風(fēng)險(xiǎn)防范體系建設(shè)提供源源不斷的動(dòng)力,。

加強(qiáng)人工智能安全風(fēng)險(xiǎn)防范體系建設(shè),，既是技術(shù)命題，更是社會(huì)治理命題,。我們應(yīng)堅(jiān)持科技發(fā)展與安全并重的原則,，多方協(xié)同、多措并舉,，積極應(yīng)對(duì)人工智能發(fā)展帶來(lái)的安全挑戰(zhàn),，推動(dòng)人工智能技術(shù)朝著安全、可靠,、可控的方向發(fā)展,，讓人工智能更好地服務(wù)國(guó)家、造福社會(huì),、惠及人民,。

（作者：耿姍姍，系中共北京市委黨?！脖本┬姓W(xué)院〕講師,、北京黨內(nèi)法規(guī)研究會(huì)秘書長(zhǎng)）