隨著我國“人工智能+”行動的深入推�(jìn),各類智能體及AI�(yīng)用廣泛滲入生�(chǎn)生活場景。而近期頻�(fā)的AI安全事件,不僅引�(fā)公眾�(guān)�,也成為�(chǎn)�(yè)界與�(xué)界協(xié)同攻堅的重要方向。近�,全國網(wǎng)�(luò)安全�(biāo)�(zhǔn)化技�(shù)委員會(以下簡稱“�(wǎng)安標(biāo)�”)正式組�“人工智能安全�(biāo)�(zhǔn)工作�”(WG9�,標(biāo)志著我國人工智能安全�(biāo)�(zhǔn)體系建設(shè)�(jìn)入系�(tǒng)性推�(jìn)階段�
AI安全事件頻發(fā)攻防之戰(zhàn)升級
近期,全球人工智能行�(yè)安全事件頻發(fā)�3月底,人工智能公司Anthropic旗下AI編程工具Claude Code源代碼泄�,這一事件被視為AI行業(yè)首次核心代碼泄露事件�
奇安信安全專家章磊認(rèn)�,綜合各類公開信息以及Anthropic的官方回�(yīng)分析,此次源代碼泄露是典型的�(fā)布流程中的人為失�,屬于供�(yīng)鏈安全事��“好比原本只該給顧客成�,結(jié)果把全套制作圖紙一起送出去了�”
“�(chǎn)品的核心邏輯和防�(hù)底線一旦公�,整個產(chǎn)品的�(yùn)作方式就變得透明。競爭對手可以直接研究它的架�(gòu)、功能設(shè)�、智能體邏輯,能快速模�、追趕甚至優(yōu)化。同�,安全規(guī)則暴露后,也更容易被人找到漏�、繞過約�、破解使用限制�”章磊表示�
今年以來爆火的智能體工具OpenClaw(俗�“龍蝦”)也接連被曝出存在多重安全隱患�4�3�,國家信息安全漏洞庫(CNNVD)發(fā)布通報�,自3�10日至4�2�,共采集OpenClaw漏洞155個,其中超危漏洞11�、高危漏�53�,OpenClaw多個版本受到漏洞影��
“我們只花了一個下午,就攻破了OpenClaw�”國內(nèi)知名白帽安全�(tuán)隊DARKNAVY安全�(chuàng)新總�(jiān)陸晨表示,目�,國�(nèi)主流�“龍蝦”方案分為兩類:一類是在OpenClaw基礎(chǔ)上套殼提供對話框,另一類是提供服務(wù)器供用戶自行配置。相比較而言,前者風(fēng)險更�,一旦被攻破,黑客就能直接獲取服�(wù)器權(quán)�,甚至訪問內(nèi)�(wǎng)大模��
上海交通大�(xué)安泰�(jīng)�(jì)與管理學(xué)院副院長劉少軒透露,近期一家制造業(yè)企業(yè)因為倉促上馬OpenClaw,導(dǎo)致產(chǎn)線停�(chǎn)72小時,直接損失可能超�2000萬元。還有一家法律服�(wù)企業(yè),因為沒有做好風(fēng)險防范和�(shù)�(jù)安全,導(dǎo)致大量客戶隱私數(shù)�(jù)泄露�
亞信安全相關(guān)�(fù)�(zé)人也指出,當(dāng)前網(wǎng)�(luò)攻擊正在向智能化、自動化演�(jìn),黑客利用AI實現(xiàn)勒索軟件載荷的動�(tài)生成、高仿真釣魚�(nèi)容制作,使得攻擊效率與隱蔽性大幅提�。AI自主攻擊智能體、基于深度偽造的商務(wù)詐騙,將成為2026年最緊迫的安全挑�(zhàn)�
AI安全供給�(fā)力需求創(chuàng)造機(jī)�
國資�1月底�(fā)布的�(shù)�(jù)顯示,中央企�(yè)已在工業(yè)制造、能源電�、智能網(wǎng)�(lián)汽車等重點領(lǐng)域,打造了超過1000個AI�(yīng)用場�,AI賦能�(chǎn)�(yè)�(zhuǎn)型的�(tài)勢日益明�。與此同時,AI安全問題引發(fā)的行�(yè)�(dān)�,也催生了全新的安全需求,推動AI安全供給�(cè)持續(xù)�(fā)��
對此,東莞證券認(rèn)�,近期OpenClaw等智能體技�(shù)快速落地,催生全新安全需求場�,疊加網(wǎng)�(luò)安全�(lǐng)域政策利好持�(xù)釋放,行�(yè)有望迎來新的增長�(jī)遇�
長江證券則預(yù)��2026年國�(nèi)�(wǎng)�(luò)安全市場�(guī)模有望突�1500億元�2030年可�(dá)3000億元,年�(fù)合增長率�(dá)18%�20%,行�(yè)正處于發(fā)展黃金期�
同時,AI安全新品與服�(wù)也在持續(xù)�(fā)�。近日,上海人工智能實驗室推出高安全�(chǎn)�(yè)級智能體平臺SafeClaw,聚焦高安全需求的�(chǎn)�(yè)智能化轉(zhuǎn)�,以推動行業(yè)�“事后安全”邁向“�(nèi)生安�”的路�。同�,上海人工智能實驗室還開源了能快速診斷風(fēng)險的智能體守�(wèi)模型,并探索將安全準(zhǔn)則內(nèi)嵌至智能體決策層�“�(nèi)生�(jìn)�”治理框架�
“最危險的并非已知風(fēng)�,而是‘沒有想到的危�’,因此,�(dāng)前的核心任務(wù)�,在AI能力飆升的同�,前瞻性地�(gòu)建內(nèi)生安全體��”上海人工智能實驗室領(lǐng)軍科�(xué)家胡俠表��“這些工作旨在將安全能力深度融入AI�(fā)展全鏈條,為智能體時代的‘�(nèi)生安�’提供系統(tǒng)性解決方��”
AI治理持續(xù)完善安全�(biāo)�(zhǔn)加速制�
隨著人工智能被廣泛應(yīng)�,人工智能治理也越發(fā)受到重視。今年政府工作報告明確提�“完善人工智能治理”,全國人大常委會工作報告提出“加強(qiáng)人工智能�(lǐng)域立法研�”�
在此背景�,人工智能安全標(biāo)�(zhǔn)正在加快制定�3�25日,工信部公開征求《人工智能安全治理模型上下文�(xié)議應(yīng)用安全要求》等行業(yè)�(biāo)�(zhǔn)計劃項目意見�
4月初,人工智能安全標(biāo)�(zhǔn)工作組(WG9)表示,將重點推動《網(wǎng)�(luò)安全技�(shù) 人工智能安全能力成熟度評估方法》《網(wǎng)�(luò)安全技�(shù) 人工智能�(yīng)用安全分類分級方法》及《網(wǎng)�(luò)安全技�(shù) 人工智能技�(shù)涉及未成年人�(yīng)用安全指南》等核心�(biāo)�(zhǔn)的落地實�。同時,在全國網(wǎng)安標(biāo)委統(tǒng)一部署�,集中力量攻堅內(nèi)生安全與�(shù)�(jù)基座、新形態(tài)與服�(wù)安全、系�(tǒng)與應(yīng)用安全及科學(xué)評測等領(lǐng)域的國家�(biāo)�(zhǔn)�
“針對AI帶來的新型風(fēng)�,需從政策法�(guī)、技�(shù)�(biāo)�(zhǔn)、實施機(jī)制三個層面協(xié)同推�(jìn)�”奇安信副總裁張勇�(rèn)�,展望未�,第一,安全將�“可選�”升級�“必標(biāo)�”,安全合�(guī)將從推薦性轉(zhuǎn)向強(qiáng)制性,可以�(shè)�“AI安全投入不低于AI�(yīng)用總投入15%”這樣的行�(yè)基準(zhǔn);第二,�(wǎng)�(luò)安全�“單點防護(hù)”走向“全鏈條協(xié)�”,實�(xiàn)“一處發(fā)�(xiàn)攻擊,全�(wǎng)自動免疫”;第三,�“人防”走向“技�+智防”,AI對抗AI成為攻防常態(tài);第�,從“被動�(yīng)�”走向“主動免疫”,構(gòu)建韌性防御體�,實�(xiàn)“即使遭受攻擊也能快速恢�(fù)、核心數(shù)�(jù)不丟�”�
|