每經(jīng)記者｜楊煜    每經(jīng)編輯｜楊翼    

在AI（人工智能）掀起生產(chǎn)力變革之際，安全已成為至關(guān)重要的議題。

4月25日，第二屆騰訊云黑客松智能滲透挑戰(zhàn)賽決賽暨騰訊安全沙龍?jiān)诒本﹫A滿落幕。該活動(dòng)通過各種場景驗(yàn)證AI Agent（智能體）在復(fù)雜滲透任務(wù)中替代重復(fù)性人工操作、提升攻防效率的能力，并從不同視角探討了AI Agent的發(fā)展?jié)摿εc潛在安全風(fēng)險(xiǎn)。

騰訊云安全總經(jīng)理、云鼎實(shí)驗(yàn)室首席架構(gòu)師李濱在接受包括《每日經(jīng)濟(jì)新聞》記者在內(nèi)的媒體記者采訪時(shí)表示，伴隨AI的普及應(yīng)用，傳統(tǒng)安全漏洞并沒有消失，甚至由于大量AI輔助工具快速生成代碼，而產(chǎn)生了更多的安全問題；同時(shí)傳統(tǒng)安全風(fēng)險(xiǎn)在結(jié)合AI的風(fēng)險(xiǎn)特點(diǎn)后，也衍生出了大量新形態(tài)的安全風(fēng)險(xiǎn)。

李濱還強(qiáng)調(diào)，AI融入生產(chǎn)流程帶來的信任關(guān)系的變化，是Agent和AI安全里最核心的問題之一。

以近期熱門的OpenClaw（一款開源人工智能體框架，俗稱“龍蝦”）、Hermes（一款開源人工智能體框架，俗稱“馬”）等智能體為例，當(dāng)它被授權(quán)以用戶的身份和權(quán)限行事時(shí)，其身份和權(quán)限的判斷、多Agent與資源之間的互信、行為的約束與追溯都成為難題。

《每日經(jīng)濟(jì)新聞》記者了解到，AI給安全控制帶來的另一大變化是，AI作為“超級(jí)中間體”，打通所有系統(tǒng)后帶來的“安全模型倒置”。傳統(tǒng)的網(wǎng)絡(luò)安全攻防體系強(qiáng)調(diào)“縱深防御”，從外到內(nèi)層層推進(jìn)、層層設(shè)防。然而，AI打通所有系統(tǒng)后，大模型的“上下文空間”成為連接所有系統(tǒng)的隱含通道，安全防御的關(guān)注點(diǎn)從過去的“從外到內(nèi)”，轉(zhuǎn)變?yōu)樾枰瑫r(shí)防御“從內(nèi)到外”，新形態(tài)的復(fù)雜安全模型和以往完全不同。

面對(duì)這些新挑戰(zhàn)，行業(yè)專家認(rèn)為，防御體系智能化升級(jí)迫在眉睫。

騰訊安全云鼎實(shí)驗(yàn)室攻防負(fù)責(zé)人李鑫表示，在網(wǎng)絡(luò)安全攻防領(lǐng)域，成本是一個(gè)核心議題。過去，由于防御領(lǐng)域人才短缺與防御體系存在明顯短板，攻防雙方的成本嚴(yán)重不對(duì)等，攻擊方往往能以較小成本實(shí)現(xiàn)“四兩撥千斤”的效果。然而，進(jìn)入AI時(shí)代，防御方借助AI技術(shù)實(shí)現(xiàn)了能力上的快速提升，盡管攻擊方也會(huì)利用AI進(jìn)步，但防御端的進(jìn)步會(huì)更快。

《每日經(jīng)濟(jì)新聞》記者了解到，從攻擊視角來看，AI時(shí)代的攻擊行為將更趨隱蔽。人類攻擊者通常存在某些行為特征與缺陷，而AI驅(qū)動(dòng)的攻擊則能實(shí)現(xiàn)高度隱秘，僅需通過指令或提示詞即可完成一系列難以察覺的惡意行為。攻防博弈正不斷向更深維度發(fā)展，騰訊安全也在持續(xù)探索如何利用AI技術(shù)對(duì)抗AI攻擊，并推動(dòng)相關(guān)方案落地。

李鑫舉例道，當(dāng)前，AI已具備一定的自進(jìn)化能力。例如，某些智能體在遭受攻擊時(shí)，能夠根據(jù)日志與環(huán)境信息自主識(shí)別攻擊行為，定位問題并完成修復(fù)，表現(xiàn)出初步的“免疫”功能。這意味著，未來安全防護(hù)的思路將從過去依賴人工打補(bǔ)丁演變?yōu)樽晕曳烙?，通過一個(gè)“健壯的免疫系統(tǒng)”，來自動(dòng)識(shí)別威脅、自主實(shí)施防護(hù)。

封面圖片來源：每經(jīng)媒資庫