探索新路徑 筑牢AI產(chǎn)業(yè)安全根基
來源:經(jīng)濟參考報作者:吳蔚2025-03-03 07:58

近來,DeepSeek遭到黑客持續(xù)攻擊,側(cè)面反映出國產(chǎn)大模型面臨的安全困境。

不可否認,以DeepSeek為代表的中國開源大模型的崛起,不僅降低了大模型訓練和部署的成本,加速了人工智能技術(shù)的普及,也打破了技術(shù)封鎖與商業(yè)壁壘的雙重禁錮,推動人工智能行業(yè)走向更加開放的新時代。但是,如同一把雙刃劍,作為開源大模型,DeepSeek同樣需要面對所有開源軟件共同的安全挑戰(zhàn):由于源代碼開放,開源軟件的安全問題比閉源軟件更加復雜,攻擊者可以自由查看、修改源代碼,進而引發(fā)潛在的安全漏洞。

這并非杞人憂天,DeepSeek的遭遇就證實了這個規(guī)律:一方面,來自外部的網(wǎng)絡(luò)攻擊持續(xù)時間長、破壞力大、手段多、變化快;另一方面,在部署和應(yīng)用中發(fā)現(xiàn)的漏洞,暴露出多種安全風險。

有鑒于此,2025開年以來,各家安全公司嚴陣以待,紛紛探索新路徑、新范式,以筑牢網(wǎng)絡(luò)安全防線,為國產(chǎn)大模型保駕護航。

比如,亞信安全與亞信科技近日聯(lián)合發(fā)布的大模型安全解決方案,其思路可以歸納為“以人工智能護航人工智能”,不僅融合了亞信科技大模型產(chǎn)品在重點行業(yè)領(lǐng)域的豐富實踐經(jīng)驗,而且依托亞信安全在大模型安全領(lǐng)域的研究成果和技術(shù)實力,打造了兼具實戰(zhàn)需求和大模型發(fā)展要求的安全解決方案,由云安全防護系統(tǒng)、大模型安全網(wǎng)關(guān)、終端數(shù)據(jù)防護系統(tǒng)、AI應(yīng)用風險防護系統(tǒng)四大系統(tǒng)提供防護,為大模型建立起覆蓋基礎(chǔ)層、模型層、工具層和AI應(yīng)用層的四層縱深防護。與此同時,該方案還提供兩項專業(yè)服務(wù),即人工智能風險評測和人工智能安全服務(wù),定期進行風險評測評估,護航大模型及應(yīng)用安全。

今后,隨著越來越多應(yīng)用場景的落地,國產(chǎn)大模型仍將面臨層出不窮的新風險。大模型安全不應(yīng)該只是“亡羊補牢”,更應(yīng)該未雨綢繆,重構(gòu)安全體系。

對此,多位受訪專家表示,應(yīng)重視大模型在安全架構(gòu)、漏洞響應(yīng)、數(shù)據(jù)合規(guī)等方面的“系統(tǒng)性短板”,從多個層面入手,綜合運用多種手段,打造全方位、多層次的安全防護網(wǎng)絡(luò),尤其是要建設(shè)大模型的“原生安全”能力。

更為重要的是,大模型在安全領(lǐng)域的應(yīng)用潛力巨大,憑借其卓越的推理能力、定制化的訓練方式和開源特性,能夠有效提升各種安全任務(wù)的執(zhí)行效率和準確性。因此,探索大模型在安全領(lǐng)域的創(chuàng)新應(yīng)用、以大模型治理大模型安全問題成為重要方向。

業(yè)界已經(jīng)形成共識,大模型是一個覆蓋多行業(yè)的交叉生態(tài)系統(tǒng),大模型安全風險的綜合治理不僅僅只是技術(shù)問題,需要政府、企業(yè)、科研機構(gòu)等多方力量參與其中,群策群力,夯實國產(chǎn)大模型發(fā)展的基礎(chǔ),打開思路為人工智能產(chǎn)業(yè)保駕護航。

責任編輯: 鄧衛(wèi)平
聲明:證券時報力求信息真實、準確,文章提及內(nèi)容僅供參考,不構(gòu)成實質(zhì)性投資建議,據(jù)此操作風險自擔
下載“證券時報”官方APP,或關(guān)注官方微信公眾號,即可隨時了解股市動態(tài),洞察政策信息,把握財富機會。
網(wǎng)友評論
登錄后可以發(fā)言
發(fā)送
網(wǎng)友評論僅供其表達個人看法,并不表明證券時報立場
暫無評論
為你推薦
時報熱榜
換一換
    熱點視頻
    換一換