4月29日，在第八屆數(shù)字中國建設(shè)峰會(huì)數(shù)字經(jīng)濟(jì)分論壇上，奇安信集團(tuán)董事長齊向東指出，人工智能大模型應(yīng)用面臨三重安全挑戰(zhàn)，需把握五大關(guān)鍵筑牢安全底線，為數(shù)字經(jīng)濟(jì)發(fā)展注入“強(qiáng)心劑”。

齊向東表示，小數(shù)據(jù)安全成數(shù)字經(jīng)濟(jì)時(shí)代的核心命脈。企業(yè)通過AI大模型提煉出的核心“小數(shù)據(jù)”，一旦遭竊取或篡改，將導(dǎo)致多年積累的競爭優(yōu)勢瞬間崩塌。這類數(shù)據(jù)已成為數(shù)字經(jīng)濟(jì)時(shí)代的“數(shù)字石油”。

而大模型“裸奔”觸發(fā)鏈?zhǔn)轿C(jī)。奇安信監(jiān)測數(shù)據(jù)顯示，超71%的Ollama大模型活躍服務(wù)器處于無防護(hù)狀態(tài)，攻擊者無需認(rèn)證即可調(diào)用服務(wù)、刪除模型文件，威脅智慧城市等關(guān)鍵領(lǐng)域業(yè)務(wù)連續(xù)性。

AI決策失準(zhǔn)或引發(fā)系統(tǒng)性風(fēng)險(xiǎn)。外部黑客通過數(shù)據(jù)投毒干擾決策，內(nèi)部錯(cuò)誤信息污染學(xué)習(xí)環(huán)境，過度依賴AI可能導(dǎo)致“蝴蝶效應(yīng)”，造成難以預(yù)估的連鎖反應(yīng)。

為此，奇安信打造五大防護(hù)體系筑牢安全底座。首先是創(chuàng)新設(shè)立多維邊界隔離，在數(shù)據(jù)、算力等關(guān)鍵節(jié)點(diǎn)部署安全控制單元，形成專屬防護(hù)空間。其次，采用零信任架構(gòu)，通過“角色+行為基線”雙重認(rèn)證，實(shí)現(xiàn)數(shù)據(jù)訪問的時(shí)空動(dòng)態(tài)管理，杜絕內(nèi)外部越權(quán)風(fēng)險(xiǎn)。另外，進(jìn)行全生命周期內(nèi)容治理。建立從開發(fā)到應(yīng)用的監(jiān)測審計(jì)機(jī)制，實(shí)時(shí)攔截異常訪問與不良內(nèi)容，優(yōu)化安全策略響應(yīng)速度。還通過模擬攻擊驗(yàn)證防御體系，檢測模型、組件及運(yùn)行環(huán)境漏洞，建立縱深防御技術(shù)矩陣。最后是AI驅(qū)動(dòng)安全運(yùn)營，推出AISOC系統(tǒng)，將AI深度嵌入威脅研判、響應(yīng)處置全流程，形成“以AI制AI”的閉環(huán)管理。

“安全是數(shù)字經(jīng)濟(jì)的剎車片，更是加速器。”齊向東強(qiáng)調(diào)，奇安信將通過“AI驅(qū)動(dòng)安全”戰(zhàn)略，構(gòu)建包含防護(hù)、管控、評(píng)估、運(yùn)營的全棧式安全體系，為人工智能應(yīng)用落地打造可信環(huán)境。目前該集團(tuán)研發(fā)的AISOC系統(tǒng)已實(shí)現(xiàn)分鐘級(jí)威脅處置，助力政企機(jī)構(gòu)在數(shù)字化轉(zhuǎn)型中“放心用、大膽闖”。（圖據(jù)受訪者）