首頁|必讀|視頻|專訪|運營|制造|監(jiān)管|大數據|物聯網|量子|元宇宙|博客|特約記者
手機|互聯網|IT|5G|光通信|人工智能|云計算|芯片|報告|智慧城市|移動互聯網|會展
首頁 >> 飛象原創(chuàng) >> 正文

AI浪潮席卷千行百業(yè),網絡安全考題有新解

2024年8月7日 07:10  CCTIME飛象網  作 者:高靖宇

飛象原創(chuàng)(高靖宇/文)在影視作品《西部世界》中,即便是最先進的機器人也容易受到惡意軟件的攻擊,這讓我們不禁思考,我們能夠在多大程度上掌控人工智能(AI)技術。在現實世界中,隨著AI大模型技術的快速發(fā)展,其可能帶來的安全性問題也日益凸顯。

近年來,人工智能技術取得了令人矚目的進展,特別是大模型正逐步被應用于越來越多的場景,與千行百業(yè)加速融合,成為推動數字科技發(fā)展的關鍵力量。數據顯示,我國已經完成備案并上線、能為公眾提供服務的生成式人工智能服務大模型已達180多個,注冊用戶突破5.64億。

然而,這些大模型在帶來便利和效率的同時,也催生了新的安全風險!段鞑渴澜纭冯m然是虛構的故事,但人工智能安全風險卻已存在于現實世界,正如一枚硬幣的兩面,AI大模型技術的發(fā)展帶來了網絡安全領域的深刻調整與全新挑戰(zhàn)。

網絡安全中的“AI”風險

伴隨著眾多AI大模型的誕生,AI驅動的網絡攻擊也在快速增長,因為有了AI加持之后,發(fā)動網絡攻擊對于攻擊者而言相比之前更加容易,可以更加高效的組織更加復雜,規(guī)模更大的安全攻擊。此外,一些黑客還掌握了利用生成式AI等新興技術實施網絡犯罪的新手段。

以ChatGPT為例,自其上線以來,便有人擔憂其可能成為網絡犯罪的溫床。盡管平臺方已采取了一系列防止惡意應用的措施,但創(chuàng)意十足的攻擊者仍能利用生成式AI生成逼真的網絡釣魚郵件,誘騙用戶泄露敏感信息。此外,AI技術的深度偽造和語音合成能力也被用于詐騙,使得傳統(tǒng)防御手段難以應對。更為嚴峻的是,隨著AI在合法用例中的廣泛應用,模型中毒、數據泄露、提示注入攻擊等新型漏洞不斷涌現,對網絡安全構成了持續(xù)威脅。

IEEE調研顯示,2024年將會出現其他更具威脅的網絡安全問題,包括勒索軟件攻擊(2024年為37%,高于2023年的30%)、網絡釣魚攻擊(2024年為35%,高于2023年的25%)以及內部威脅(2024年為26%,高于2023年的19%)。

中國工程院院士吳世忠表示,由AI技術帶來的新型安全問題已成為現實,安全行業(yè)將迅速邁進AI驅動的新時代。然而,大模型安全研究可以說才剛剛開始。無論是安全研究還是安全產業(yè),都必須緊跟科技進步和應用創(chuàng)新,才能服務好發(fā)展,保障好發(fā)展。

“人工智能等前沿數字技術正在重新定義內容的生產與消費模式,大模型在企業(yè)運營中應用越來越廣泛,必須尋求創(chuàng)新的安全模式,以適應這一變化!敝袊こ淘涸菏苦w賀銓認為,基礎大模型是企業(yè)實現數字化轉型不可或缺的一環(huán),需要應對多項挑戰(zhàn),包括強大的算力、充足的數據、高水平的研材、新應用的算法、場景和閉環(huán)的生態(tài)。然而基礎大模型缺少特定行業(yè)的專業(yè)知識,因此需要大模型提供方與垂直行業(yè)合作。

以模治模 網絡安全發(fā)展新路徑

AI帶來新的安全挑戰(zhàn),同樣需要AI技術來解決,這是一場AI技術的攻防戰(zhàn)。作為中國AI領域的老玩家,360 AI一直深入探索AI大模型在關鍵行業(yè)中的垂直應用,推動大模型重塑安全體系。

360集團創(chuàng)始人周鴻祎表示,面對愈加復雜的傳統(tǒng)安全問題和大模型帶來新的安全問題,必須用AI重塑安全,以模治模,用安全大模型解決“新老”安全問題。

“不要追求用一個大模型解決所有問題,應該讓專業(yè)大模型解決專業(yè)問題!敝茗櫟t認為,2024年是場景之年,關鍵要結合業(yè)務找“明星場景”,然后根據場景設計功能,根據功能需求對大模型進行專項訓練。

在ISC.AI 2024第十二屆互聯網安全大會上,周鴻祎宣布360安全大模型正式免費。360安全大模型在真實業(yè)務場景中取得重大突破,通過對全網安全數據和知識進行提煉、壓縮和蒸餾,360安全大模型實現對全網安全知識的深度理解。未來,在大模型賦能下,本地安全大腦“無需聯網”,在封閉網絡中也能獲得全網數據和知識的賦能。

周鴻祎表示,打造安全大模型是安全邁向“自動駕駛”的必由之路,用AI升級安全要有類似自動駕駛的L1-L5級別目標,目前360安全大模型已具備L4級“自動駕駛”能力,相當于汽車的“高級自動駕駛階段”。

編 輯:高靖宇
飛象網版權及免責聲明:
1.本網刊載內容,凡注明來源為“飛象網”和“飛象原創(chuàng)”皆屬飛象網版權所有,未經允許禁止轉載、摘編及鏡像,違者必究。對于經過授權可以轉載,請必須保持轉載文章、圖像、音視頻的完整性,并完整標注作者信息和飛象網來源。
2.凡注明“來源:XXXX”的作品,均轉載自其它媒體,在于傳播更多行業(yè)信息,并不代表本網贊同其觀點和對其真實性負責。
3.如因作品內容、版權和其它問題,請在相關作品刊發(fā)之日起30日內與本網聯系,我們將第一時間予以處理。
本站聯系電話為86-010-87765777,郵件后綴為cctime.com,冒充本站員工以任何其他聯系方式,進行的“內容核實”、“商務聯系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權。
相關新聞              
 
人物
尚冰:中國互聯網應用蓬勃發(fā)展,多項關鍵指標位居全球第一
精彩專題
CES 2024國際消費電子展
2023年信息通信產業(yè)盤點暨頒獎禮
飛象網2023年手機評選
第24屆中國國際光電博覽會
CCTIME推薦
關于我們 | 廣告報價 | 聯系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網 CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務業(yè)務經營許可證080234號 京公網安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經書面許可,禁止轉載、摘編、復制、鏡像