2025�9�15日,2025年國家網(wǎng)�(luò)安全宣傳周主論壇在云南昆明舉辦期�,《人工智能安全治理框架�2.0版(以下簡稱《框架�2.0版)正式�(fā)�。該框架由國家互�(lián)�(wǎng)�(yīng)急中心牽�,聯(lián)合人工智能專�(yè)�(jī)�(gòu)、科研院所及行�(yè)企業(yè)共同制定,在2024年發(fā)布的1.0版基�(chǔ)上,�(jié)合人工智能技�(shù)迭代與應(yīng)用實(shí)�,系�(tǒng)性優(yōu)化了�(fēng)�(xiǎn)分類與治理措�,標(biāo)志著我國人工智能安全治理�(jìn)入動(dòng)�(tài)�、精�(xì)化新階段�
《框架�2.0版延�(xù)�1.0�"以人為本、智能向�"的核心原�,重�(diǎn)針對(duì)生成式人工智�、多模態(tài)模型等新技�(shù)帶來的倫理�(fēng)�(xiǎn)、數(shù)�(jù)安全威脅及算法偏見等問題,新增了�(dòng)�(tài)�(fēng)�(xiǎn)分級(jí)�(jī)�。通過建立"技�(shù)-�(yīng)�-�(chǎn)�(yè)"全鏈條風(fēng)�(xiǎn)圖譜,將�(fēng)�(xiǎn)等級(jí)�(xì)分為基礎(chǔ)�(jí)、關(guān)注級(jí)和管控級(jí),實(shí)�(xiàn)從被�(dòng)響應(yīng)到主�(dòng)防控的轉(zhuǎn)�。例�,針�(duì)深度偽造技�(shù)濫用問題,框架明確要求建立內(nèi)容溯源標(biāo)�(shí)體系,并在金融、政�(wù)等高�(fēng)�(xiǎn)�(lǐng)域強(qiáng)制實(shí)施生成內(nèi)容合�(guī)性驗(yàn)��
作為全國�(wǎng)�(luò)安全�(biāo)�(zhǔn)化技�(shù)委員�(huì)技�(shù)文件,《框架�2.0版創(chuàng)新性提�"三同�"治理路徑:技�(shù)研發(fā)階段嵌入安全�(píng)估模�,產(chǎn)品部署前完成倫理合規(guī)審查,運(yùn)行過程中建立持續(xù)�(jiān)測機(jī)制。國家互�(lián)�(wǎng)�(yīng)急中心負(fù)�(zé)人指�,該框架已在國內(nèi)20家頭部AI企業(yè)試點(diǎn)�(yīng)用,成功將算法偏見率降低37%,數(shù)�(jù)泄露�(fēng)�(xiǎn)下降52%,為�(gòu)建安全可信的人工智能生態(tài)提供了可�(fù)制的解決方案�
在國際協(xié)作層�,《框架�2.0版深度對(duì)接《全球人工智能治理倡議�,首次將跨境�(shù)�(jù)流動(dòng)安全、AI軍事化應(yīng)用限制等議題納入治理范疇。通過建立跨國界技�(shù)�(biāo)�(zhǔn)互認(rèn)�(jī)�,推�(dòng)形成"技�(shù)研發(fā)在中�、治理規(guī)則全球共�"的新模式。目�,該框架已與歐盟《人工智能法案�、美國NIST AI�(fēng)�(xiǎn)管理框架�(dá)成初步互�(rèn),為全球人工智能治理貢獻(xiàn)中國方案�
隨著《框架�2.0版落�,我國計(jì)劃于2026年啟�(dòng)首批人工智能安全�(rèn)證工作,重點(diǎn)覆蓋自動(dòng)駕駛、醫(yī)療診斷等12�(gè)�(guān)鍵領(lǐng)�。首批參與試�(diǎn)�30家企�(yè)需�2025年底前完成治理體系改�,通過�(dòng)�(tài)�(píng)估獲�"AI安全能力星級(jí)�(rèn)�"。行�(yè)專家表示,這一舉措將加速淘汰落后產(chǎn)�,推�(dòng)人工智能�(chǎn)�(yè)從規(guī)模擴(kuò)張轉(zhuǎn)向高�(zhì)量發(fā)��