首頁(yè)|必讀|視頻|專(zhuān)訪|運(yùn)營(yíng)|制造|監(jiān)管|大數(shù)據(jù)|物聯(lián)網(wǎng)|量子|元宇宙|博客|特約記者
手機(jī)|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計(jì)算|芯片|報(bào)告|智慧城市|移動(dòng)互聯(lián)網(wǎng)|會(huì)展
首頁(yè) >> 飛象原創(chuàng) >> 正文

AI浪潮席卷千行百業(yè),網(wǎng)絡(luò)安全考題有新解

2024年8月7日 07:10  CCTIME飛象網(wǎng)  作 者:高靖宇

飛象原創(chuàng)(高靖宇/文)在影視作品《西部世界》中,即便是最先進(jìn)的機(jī)器人也容易受到惡意軟件的攻擊,這讓我們不禁思考,我們能夠在多大程度上掌控人工智能(AI)技術(shù)。在現(xiàn)實(shí)世界中,隨著AI大模型技術(shù)的快速發(fā)展,其可能帶來(lái)的安全性問(wèn)題也日益凸顯。

近年來(lái),人工智能技術(shù)取得了令人矚目的進(jìn)展,特別是大模型正逐步被應(yīng)用于越來(lái)越多的場(chǎng)景,與千行百業(yè)加速融合,成為推動(dòng)數(shù)字科技發(fā)展的關(guān)鍵力量。數(shù)據(jù)顯示,我國(guó)已經(jīng)完成備案并上線、能為公眾提供服務(wù)的生成式人工智能服務(wù)大模型已達(dá)180多個(gè),注冊(cè)用戶突破5.64億。

然而,這些大模型在帶來(lái)便利和效率的同時(shí),也催生了新的安全風(fēng)險(xiǎn)!段鞑渴澜纭冯m然是虛構(gòu)的故事,但人工智能安全風(fēng)險(xiǎn)卻已存在于現(xiàn)實(shí)世界,正如一枚硬幣的兩面,AI大模型技術(shù)的發(fā)展帶來(lái)了網(wǎng)絡(luò)安全領(lǐng)域的深刻調(diào)整與全新挑戰(zhàn)。

網(wǎng)絡(luò)安全中的“AI”風(fēng)險(xiǎn)

伴隨著眾多AI大模型的誕生,AI驅(qū)動(dòng)的網(wǎng)絡(luò)攻擊也在快速增長(zhǎng),因?yàn)橛辛薃I加持之后,發(fā)動(dòng)網(wǎng)絡(luò)攻擊對(duì)于攻擊者而言相比之前更加容易,可以更加高效的組織更加復(fù)雜,規(guī)模更大的安全攻擊。此外,一些黑客還掌握了利用生成式AI等新興技術(shù)實(shí)施網(wǎng)絡(luò)犯罪的新手段。

以ChatGPT為例,自其上線以來(lái),便有人擔(dān)憂其可能成為網(wǎng)絡(luò)犯罪的溫床。盡管平臺(tái)方已采取了一系列防止惡意應(yīng)用的措施,但創(chuàng)意十足的攻擊者仍能利用生成式AI生成逼真的網(wǎng)絡(luò)釣魚(yú)郵件,誘騙用戶泄露敏感信息。此外,AI技術(shù)的深度偽造和語(yǔ)音合成能力也被用于詐騙,使得傳統(tǒng)防御手段難以應(yīng)對(duì)。更為嚴(yán)峻的是,隨著AI在合法用例中的廣泛應(yīng)用,模型中毒、數(shù)據(jù)泄露、提示注入攻擊等新型漏洞不斷涌現(xiàn),對(duì)網(wǎng)絡(luò)安全構(gòu)成了持續(xù)威脅。

IEEE調(diào)研顯示,2024年將會(huì)出現(xiàn)其他更具威脅的網(wǎng)絡(luò)安全問(wèn)題,包括勒索軟件攻擊(2024年為37%,高于2023年的30%)、網(wǎng)絡(luò)釣魚(yú)攻擊(2024年為35%,高于2023年的25%)以及內(nèi)部威脅(2024年為26%,高于2023年的19%)。

中國(guó)工程院院士吳世忠表示,由AI技術(shù)帶來(lái)的新型安全問(wèn)題已成為現(xiàn)實(shí),安全行業(yè)將迅速邁進(jìn)AI驅(qū)動(dòng)的新時(shí)代。然而,大模型安全研究可以說(shuō)才剛剛開(kāi)始。無(wú)論是安全研究還是安全產(chǎn)業(yè),都必須緊跟科技進(jìn)步和應(yīng)用創(chuàng)新,才能服務(wù)好發(fā)展,保障好發(fā)展。

“人工智能等前沿?cái)?shù)字技術(shù)正在重新定義內(nèi)容的生產(chǎn)與消費(fèi)模式,大模型在企業(yè)運(yùn)營(yíng)中應(yīng)用越來(lái)越廣泛,必須尋求創(chuàng)新的安全模式,以適應(yīng)這一變化!敝袊(guó)工程院院士鄔賀銓認(rèn)為,基礎(chǔ)大模型是企業(yè)實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型不可或缺的一環(huán),需要應(yīng)對(duì)多項(xiàng)挑戰(zhàn),包括強(qiáng)大的算力、充足的數(shù)據(jù)、高水平的研材、新應(yīng)用的算法、場(chǎng)景和閉環(huán)的生態(tài)。然而基礎(chǔ)大模型缺少特定行業(yè)的專(zhuān)業(yè)知識(shí),因此需要大模型提供方與垂直行業(yè)合作。

以模治模 網(wǎng)絡(luò)安全發(fā)展新路徑

AI帶來(lái)新的安全挑戰(zhàn),同樣需要AI技術(shù)來(lái)解決,這是一場(chǎng)AI技術(shù)的攻防戰(zhàn)。作為中國(guó)AI領(lǐng)域的老玩家,360 AI一直深入探索AI大模型在關(guān)鍵行業(yè)中的垂直應(yīng)用,推動(dòng)大模型重塑安全體系。

360集團(tuán)創(chuàng)始人周鴻祎表示,面對(duì)愈加復(fù)雜的傳統(tǒng)安全問(wèn)題和大模型帶來(lái)新的安全問(wèn)題,必須用AI重塑安全,以模治模,用安全大模型解決“新老”安全問(wèn)題。

“不要追求用一個(gè)大模型解決所有問(wèn)題,應(yīng)該讓專(zhuān)業(yè)大模型解決專(zhuān)業(yè)問(wèn)題。”周鴻祎認(rèn)為,2024年是場(chǎng)景之年,關(guān)鍵要結(jié)合業(yè)務(wù)找“明星場(chǎng)景”,然后根據(jù)場(chǎng)景設(shè)計(jì)功能,根據(jù)功能需求對(duì)大模型進(jìn)行專(zhuān)項(xiàng)訓(xùn)練。

在ISC.AI 2024第十二屆互聯(lián)網(wǎng)安全大會(huì)上,周鴻祎宣布360安全大模型正式免費(fèi)。360安全大模型在真實(shí)業(yè)務(wù)場(chǎng)景中取得重大突破,通過(guò)對(duì)全網(wǎng)安全數(shù)據(jù)和知識(shí)進(jìn)行提煉、壓縮和蒸餾,360安全大模型實(shí)現(xiàn)對(duì)全網(wǎng)安全知識(shí)的深度理解。未來(lái),在大模型賦能下,本地安全大腦“無(wú)需聯(lián)網(wǎng)”,在封閉網(wǎng)絡(luò)中也能獲得全網(wǎng)數(shù)據(jù)和知識(shí)的賦能。

周鴻祎表示,打造安全大模型是安全邁向“自動(dòng)駕駛”的必由之路,用AI升級(jí)安全要有類(lèi)似自動(dòng)駕駛的L1-L5級(jí)別目標(biāo),目前360安全大模型已具備L4級(jí)“自動(dòng)駕駛”能力,相當(dāng)于汽車(chē)的“高級(jí)自動(dòng)駕駛階段”。

編 輯:高靖宇
飛象網(wǎng)版權(quán)及免責(zé)聲明:
1.本網(wǎng)刊載內(nèi)容,凡注明來(lái)源為“飛象網(wǎng)”和“飛象原創(chuàng)”皆屬飛象網(wǎng)版權(quán)所有,未經(jīng)允許禁止轉(zhuǎn)載、摘編及鏡像,違者必究。對(duì)于經(jīng)過(guò)授權(quán)可以轉(zhuǎn)載,請(qǐng)必須保持轉(zhuǎn)載文章、圖像、音視頻的完整性,并完整標(biāo)注作者信息和飛象網(wǎng)來(lái)源。
2.凡注明“來(lái)源:XXXX”的作品,均轉(zhuǎn)載自其它媒體,在于傳播更多行業(yè)信息,并不代表本網(wǎng)贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé)。
3.如因作品內(nèi)容、版權(quán)和其它問(wèn)題,請(qǐng)?jiān)谙嚓P(guān)作品刊發(fā)之日起30日內(nèi)與本網(wǎng)聯(lián)系,我們將第一時(shí)間予以處理。
本站聯(lián)系電話為86-010-87765777,郵件后綴為cctime.com,冒充本站員工以任何其他聯(lián)系方式,進(jìn)行的“內(nèi)容核實(shí)”、“商務(wù)聯(lián)系”等行為,均不能代表本站。本站擁有對(duì)此聲明的最終解釋權(quán)。
相關(guān)新聞              
 
人物
尚冰:中國(guó)互聯(lián)網(wǎng)應(yīng)用蓬勃發(fā)展,多項(xiàng)關(guān)鍵指標(biāo)位居全球第一
精彩專(zhuān)題
CES 2024國(guó)際消費(fèi)電子展
2023年信息通信產(chǎn)業(yè)盤(pán)點(diǎn)暨頒獎(jiǎng)禮
飛象網(wǎng)2023年手機(jī)評(píng)選
第24屆中國(guó)國(guó)際光電博覽會(huì)
CCTIME推薦
關(guān)于我們 | 廣告報(bào)價(jià) | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號(hào)-1  電信與信息服務(wù)業(yè)務(wù)經(jīng)營(yíng)許可證080234號(hào) 京公網(wǎng)安備110105000771號(hào)
公司名稱(chēng): 北京飛象互動(dòng)文化傳媒有限公司
未經(jīng)書(shū)面許可,禁止轉(zhuǎn)載、摘編、復(fù)制、鏡像