【財眼觀兩會】齊向東委員：開源大模型要重點(diǎn)防范代碼缺陷等問題

　　中新經(jīng)緯3月3日電 (李自曼)“今年兩會，人工智能安全是我關(guān)注的主要問題之一�！苯�日，全國政協(xié)委員、奇安信集團(tuán)董事長齊向東在接受中新經(jīng)緯等媒體采訪時說。

　　在齊向東看來，當(dāng)前，以大模型為代表的人工智能技術(shù)正在深刻重塑生產(chǎn)生活方式和科技創(chuàng)新模式。今年春節(jié)，國產(chǎn)大模型DeepSeek橫空出世，引發(fā)了廣泛討論，它顛覆了傳統(tǒng)的人工智能創(chuàng)新模式，將推動人工智能技術(shù)加速向千行百業(yè)滲透。但它一問世，針對性的高強(qiáng)度網(wǎng)絡(luò)攻擊就爆發(fā)了，給人工智能行業(yè)敲響了堅守安全底線的警鐘。

　　齊向東表示：“我們發(fā)現(xiàn)，現(xiàn)在越來越多的企業(yè)、個人開始搭建DeepSeek大模型私有化部署，而將近90%的服務(wù)器都沒有采取安全措施，服務(wù)運(yùn)行和數(shù)據(jù)安全岌岌可危。未來隨著人工智能大模型的基礎(chǔ)設(shè)施地位越來越突出，針對性的惡意手段和風(fēng)險場景也將激增，伴生的數(shù)據(jù)隱私、認(rèn)知安全、基礎(chǔ)設(shè)施等安全風(fēng)險超乎想象。對于整個人工智能行業(yè)來說，平衡技術(shù)創(chuàng)新與安全風(fēng)險必會成為重要課題�！�

　　齊向東認(rèn)為，人工智能發(fā)展面臨的安全問題大致可以分三類：

　　第一類是人工智能大模型自身的安全問題。開發(fā)風(fēng)險、數(shù)據(jù)風(fēng)險、應(yīng)用風(fēng)險和基礎(chǔ)環(huán)境風(fēng)險這四大安全風(fēng)險比較突出。開發(fā)方面，開源大模型要重點(diǎn)防范代碼缺陷和預(yù)留后門等問題；應(yīng)用方面，要防止“內(nèi)鬼”對訓(xùn)練數(shù)據(jù)投毒，進(jìn)行模型篡改、配置篡改；數(shù)據(jù)方面，要小心內(nèi)部配置錯誤和弱口令等造成的數(shù)據(jù)庫暴露；基礎(chǔ)環(huán)境方面，要重點(diǎn)關(guān)注云、API、傳統(tǒng)設(shè)備漏洞等等。

　　第二類是利用人工智能開展網(wǎng)絡(luò)攻擊的問題。人工智能促使網(wǎng)絡(luò)攻擊手段更新迭代，“飽和式”攻擊成為可能，攻擊者可以瞬時發(fā)動海量攻擊打垮已有的網(wǎng)絡(luò)安全體系。人工智能還提升了“以假亂真”的能力，深度偽造、認(rèn)知戰(zhàn)、釣魚等威脅加劇。攻擊者可利用人工智能“換臉變聲”輸出虛假信息，開展網(wǎng)絡(luò)詐騙。

　　第三類是通過攻擊人工智能引發(fā)的“網(wǎng)絡(luò)攻擊大爆炸”。未來人工智能會成為社會的基礎(chǔ)設(shè)施，當(dāng)大模型嵌入智慧城市、工控系統(tǒng)、智慧政務(wù)等關(guān)鍵領(lǐng)域時，會放大漏洞等傳統(tǒng)安全威脅，一旦人工智能大模型遭到攻擊可能會牽一發(fā)而動全身，引發(fā)社會服務(wù)中斷、生產(chǎn)停滯、隱私數(shù)據(jù)泄露等安全事件。

　　“目前，已有團(tuán)隊發(fā)現(xiàn)DeepSeek存在嚴(yán)重漏洞，并可借此獲取后端隱私數(shù)據(jù)、API密鑰、操作元數(shù)據(jù)，盡管漏洞很快被修補(bǔ)，但是根據(jù)我們的經(jīng)驗(yàn)，新漏洞會不斷被挖掘出來�！饼R向東說。

　　針對人工智能發(fā)展面臨的安全問題，齊向東認(rèn)為要從技術(shù)保障、制度保障、成果應(yīng)用三方面入手，系統(tǒng)提升安全能力。第一，建立適配大模型的縱深防御體系，筑牢人工智能的安全根基。第二，制定大模型安全強(qiáng)制合規(guī)要求，夯實(shí)人工智能安全發(fā)展的制度保障。第三，推廣“AI+安全”創(chuàng)新成果落地，走好提升安全能力的必經(jīng)之路。

　　據(jù)齊向東透露，近期，奇安信發(fā)布了業(yè)界首個大模型安全整體解決方案大模型安全盾，率先提出“大模型安全紅域”概念，打造適用于人工智能的立體縱深防御體系，并給予威脅情報、大數(shù)據(jù)監(jiān)測等情報賦能，實(shí)現(xiàn)“對外防攻擊、對內(nèi)防內(nèi)鬼”。

　　“作為網(wǎng)絡(luò)和數(shù)據(jù)安全領(lǐng)域的領(lǐng)軍企業(yè)，奇安信深感責(zé)任重大，期待通過切實(shí)可行的舉措，為人工智能的安全發(fā)展保駕護(hù)航。”齊向東說。

　　(更多報道線索，請聯(lián)系本文作者李自曼：liziman@chinanews.com.cn)(中新經(jīng)緯APP)

　　(文中觀點(diǎn)僅供參考，不構(gòu)成投資建議，投資有風(fēng)險，入市需謹(jǐn)慎。)

　　中新經(jīng)緯版權(quán)所有，未經(jīng)書面授權(quán)，任何單位及個人不得轉(zhuǎn)載、摘編或以其他方式使用。

責(zé)任編輯：魏薇 李中元