加入我們HHPoker精英德?lián)淦脚_(tái),體驗(yàn)智慧與策略的碰撞。我們提供公平競(jìng)技環(huán)境,豐富賽事活動(dòng),以及尊享會(huì)員服務(wù)。攜手并進(jìn),共創(chuàng)財(cái)富與榮耀,讓每一次出牌都成為精彩瞬間!期待您的加入,共赴德?lián)涫⒀纾?
他表示,目前我國(guó)人工智能安全算法的原創(chuàng)性、模型的開放性、數(shù)據(jù)集的質(zhì)量等仍與國(guó)際先進(jìn)水平存在差距,人工智能在高級(jí)威脅分析、位置威脅發(fā)現(xiàn)等方面的作用仍待探索提升。
她指出,此前“鐵桶式”“圍欄式”“各家自掃門前雪式”的防護(hù)理念已經(jīng)很難應(yīng)對(duì)猖獗的、國(guó)家級(jí)網(wǎng)絡(luò)攻擊,要堅(jiān)持系統(tǒng)思維、體系作戰(zhàn)的思維方式。系統(tǒng)的運(yùn)營(yíng)者,包括運(yùn)營(yíng)商、服務(wù)商和相關(guān)部門應(yīng)環(huán)環(huán)相扣,層層設(shè)防,共同打造國(guó)家網(wǎng)絡(luò)安全的聯(lián)合防御體系。
他表示,通過(guò)該平臺(tái)對(duì)49款不同類型大模型進(jìn)行安全測(cè)試后得出結(jié)論——無(wú)論是國(guó)內(nèi)還是國(guó)際大模型,人工智能能力的提升躍遷并未帶動(dòng)其安全風(fēng)險(xiǎn)防范水平提高。我國(guó)人工智能大模型的安全性大多處在中游水平,攻擊成功率約為5%-6%,部分國(guó)外頂尖模型攻擊成功率僅0.7%,我國(guó)還有較大提升空間。
專家普遍認(rèn)為,人工智能為網(wǎng)絡(luò)安全產(chǎn)業(yè)發(fā)展帶來(lái)機(jī)遇的同時(shí)還有巨大挑戰(zhàn),南都記者注意到,多位專家在給出應(yīng)對(duì)建議時(shí)都提到“體系”一詞,即重視網(wǎng)絡(luò)安全體系建設(shè)。
他舉例道,目前超90%的大型政企機(jī)構(gòu)在開展安全建設(shè)時(shí),會(huì)采購(gòu)10家以上廠商的安全設(shè)備,項(xiàng)目建設(shè)、安全設(shè)備和項(xiàng)目采購(gòu)分散化問(wèn)題顯著。另外,某省級(jí)“大體系”建設(shè)順利,但各市、區(qū)之間的信息化水平和安全水平參差不齊,也導(dǎo)致大小體系間出現(xiàn)鴻溝。這些會(huì)導(dǎo)致網(wǎng)絡(luò)安全體系建設(shè)困難,無(wú)法形成合力。
為此,齊向東提出重塑數(shù)據(jù)聚合模式、安全運(yùn)營(yíng)模式和生態(tài)合作模式三大路徑。其中運(yùn)營(yíng)是內(nèi)生安全體系起效的關(guān)鍵,應(yīng)構(gòu)建高效通暢、螺旋上升的反饋回路,包括將人工智能深度應(yīng)用于威脅情報(bào)生產(chǎn)及運(yùn)營(yíng),靈敏告警網(wǎng)絡(luò)異常行為,通過(guò)安全編排自動(dòng)化與響應(yīng)(SOAR)技術(shù)實(shí)現(xiàn)及時(shí)處置等。
采寫:南都記者 樊文揚(yáng) 王子黎
“單點(diǎn)的防御時(shí)代我認(rèn)為已經(jīng)結(jié)束了?!敝袊?guó)國(guó)家互聯(lián)網(wǎng)信息辦公室總工程師孫蔚敏以2022年冬奧會(huì)網(wǎng)絡(luò)防護(hù)“零事故”的成功經(jīng)歷為例,強(qiáng)調(diào)了建立聯(lián)合防御體系的重要性。
具體而言,孫蔚敏認(rèn)為,建立聯(lián)合防御體系應(yīng)包括多個(gè)層面的要求。一是運(yùn)營(yíng)者要壓實(shí)自身責(zé)任,做好運(yùn)行系統(tǒng)的安全防護(hù)工作,落實(shí)等保等底線要求;二是從運(yùn)營(yíng)商層面看,可以考慮將單個(gè)購(gòu)買的運(yùn)營(yíng)商流量清洗服務(wù)轉(zhuǎn)變?yōu)槁?lián)合防御體系下的一種公共服務(wù)。
曾毅認(rèn)為,除了解決問(wèn)題能力以外,安全與治理也是人工智能的核心能力,將加速人工智能穩(wěn)健發(fā)展與應(yīng)用。安全與性能之間不會(huì)相互掣肘,“沒(méi)有安全治理框架的人工智能不僅是沒(méi)有剎車,更是沒(méi)有方向盤?!?/p>
6月5日,2025全球數(shù)字經(jīng)濟(jì)大會(huì)數(shù)字安全主論壇暨2025北京網(wǎng)絡(luò)安全大會(huì)在北京召開。北京前瞻人工智能安全與治理研究院院長(zhǎng)、聯(lián)合國(guó)人工智能高層顧問(wèn)機(jī)構(gòu)專家曾毅帶來(lái)的一組研究數(shù)據(jù)顯示,從國(guó)際視角看,我國(guó)人工智能大模型的安全性大多處在中游水平,攻擊成功率約為5%-6%,還有一定提升空間。
中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)專家咨詢委員會(huì)常務(wù)副主任、工業(yè)和信息化部原總工程師趙志國(guó)在談到人工智能為網(wǎng)絡(luò)安全產(chǎn)業(yè)帶來(lái)的沖擊時(shí)指出,如今智能化安全威脅不斷涌現(xiàn),在傳統(tǒng)攻擊手段的基礎(chǔ)上,攻擊者利用人工智能放大攻擊效果,使網(wǎng)絡(luò)威脅更具規(guī)模性、針對(duì)性、殺傷性,進(jìn)一步加劇了網(wǎng)絡(luò)攻防不對(duì)稱性。
“體系化擇優(yōu)將替代單品擇優(yōu),體系化設(shè)計(jì)將替代拼盤設(shè)計(jì)。”全國(guó)工商聯(lián)副主席、全國(guó)政協(xié)委員、奇安信集團(tuán)董事長(zhǎng)齊向東表示,網(wǎng)絡(luò)安全突圍的動(dòng)力來(lái)自生成式人工智能,它激活了客戶的安全需求,但安全建設(shè)卻常陷入“缺啥補(bǔ)啥”的拼盤慣性。
曾毅現(xiàn)場(chǎng)帶來(lái)的一組研究數(shù)據(jù)進(jìn)一步印證了大模型安全性提升的必要性。據(jù)他介紹,新研發(fā)的靈御大模型安全攻防評(píng)估平臺(tái)可對(duì)越獄攻擊進(jìn)行系統(tǒng)性評(píng)估。
全國(guó)工商聯(lián)副主席,中國(guó)民間商會(huì)副會(huì)長(zhǎng)安立佳也強(qiáng)調(diào)了體系建設(shè)的重要性。他建議廣大企業(yè)堅(jiān)持共商共建共享原則,推動(dòng)產(chǎn)業(yè)鏈、創(chuàng)新鏈、價(jià)值鏈深度融合,促進(jìn)網(wǎng)絡(luò)技術(shù)與國(guó)際互通、標(biāo)準(zhǔn)互認(rèn)、信任共建,以更加開放的姿態(tài)積極參與全球網(wǎng)絡(luò)安全治理與規(guī)則制定,推動(dòng)構(gòu)建更加公平合理的網(wǎng)絡(luò)空間治理體系。