亞太地區(qū)黑暗人工智能 (AI) 的興起將導(dǎo)致更復(fù)雜和隱蔽的攻擊。這是全球網(wǎng)絡(luò)安全和數(shù)字隱私公司卡巴斯基分享的主要發(fā)現(xiàn)之一。
“自從ChatGPT在2023年獲得全球普及以來，我們觀察到人工智能在多個領(lǐng)域的有效應(yīng)用，從諸如視頻創(chuàng)作之類的日常任務(wù)到技術(shù)威脅檢測和分析。與此同時，惡意行為者也在利用它來增強其攻擊能力。網(wǎng)絡(luò)安全與社會發(fā)展正步入一個AI為盾、暗黑AI為劍的全新時代，“卡巴斯基META和亞太區(qū)全球研究與分析團隊（GReAT）負責人Sergey Lozhkin表示。
黑暗人工智能 (Dark AI) 指的是在完整的框架或聊天機器人系統(tǒng)中部署不受限制的大型語言模型 (LLM) ，無論是本地部署還是遠程部署，這些模型被用于惡意、不道德或未經(jīng)授權(quán)的目的。這些系統(tǒng)運行在標準安全、合規(guī)或治理控制之外，通常能夠?qū)崿F(xiàn)欺騙、操縱、網(wǎng)絡(luò)攻擊或數(shù)據(jù)濫用等功能，且不受監(jiān)督。
黑暗人工智能正在行動
Lozhkin指出，目前最常見的惡意AI應(yīng)用是“黑帽GPT”，最早出現(xiàn)于2023年中期。這類AI模型被故意用于執(zhí)行不道德或非法活動，例如生成惡意代碼、制作釣魚郵件（包括用于大規(guī)模和針對性攻擊中）、創(chuàng)建深度偽造視頻和音頻，甚至支持紅隊行動。
"黑帽GPT"既可能是私有化AI模型，也可能是半公開AI模型。已知的例子包括WormGPT、DarkBard、FraudGPT和Xanthorox，它們被設(shè)計或改造以支持網(wǎng)絡(luò)犯罪、欺詐和惡意自動化。
除常規(guī)的AI惡意應(yīng)用外，Lozhkin披露，卡巴斯基專家們現(xiàn)在觀察到一種更黑暗的趨勢——國家級黑客組織正將大型語言模型（LLM）武器化，用于網(wǎng)絡(luò)攻擊行動。
“OpenAI最近透露，他們已經(jīng)阻止了超過20起試圖濫用其AI工具的秘密影響和網(wǎng)絡(luò)行動。我們可以預(yù)見，威脅行為者會想出更巧妙的方法來武器化生成式AI，這些AI同時存在于公共和私有威脅生態(tài)系統(tǒng)中。我們應(yīng)該為此做好準備，“他解釋說。
OpenAI的報告顯示，惡意行為者利用大型語言模型（LLM）創(chuàng)建令人信服的虛假身份，實時回應(yīng)目標，并生成多種語言的內(nèi)容，旨在欺騙受害者并繞過傳統(tǒng)的安全過濾器。
“人工智能本身并不知道對錯，它只是一個遵循提示的工具。即使采取了安全措施，我們也知道高級持續(xù)性威脅（APT）是不會輕易放棄的攻擊者。隨著黑暗A(chǔ)I工具變得更容易獲得和更強大，亞太地區(qū)的組織和個人加強網(wǎng)絡(luò)安全衛(wèi)生、投資基于人工智能本身的威脅檢測，并持續(xù)了解這些技術(shù)可能被濫用的方式，“Lozhkin補充說。
針對黑暗A(chǔ)I和AI驅(qū)動的網(wǎng)絡(luò)威脅，卡巴斯基專家建議組織采取以下措施：
· 使用下一代安全解決方案，例如卡巴斯基Next產(chǎn)品線。該產(chǎn)品系列可在供應(yīng)鏈中檢測AI增強的惡意軟件和威脅。
· 利用實時威脅情報工具監(jiān)控AI驅(qū)動的漏洞利用攻擊。
· 加強訪問控制并加強員工培訓(xùn)，以降低影子AI和數(shù)據(jù)泄露的風險。
· 建立安全運營中心 (SOC) 用于實時威脅監(jiān)控和快速響應(yīng)。
要了解最新利用黑暗A(chǔ)I的威脅信息，請訪問https://www.kaspersky.com/.
關(guān)于全球研究與分析團隊
全球研究與分析團隊（GReAT）成立于 2008 年，是卡巴斯基的核心部門，負責揭露 APT、網(wǎng)絡(luò)間諜活動、重大惡意軟件、勒索軟件和全球地下網(wǎng)絡(luò)犯罪趨勢。目前，GReAT 由 30 多名專家組成，他們在歐洲、俄羅斯、美洲、亞洲和中東等全球范圍內(nèi)工作。這些才華橫溢的安全專業(yè)人員為公司的反惡意軟件研究和創(chuàng)新發(fā)揮著領(lǐng)導(dǎo)作用，他們以無與倫比的專業(yè)知識、熱情和好奇心致力于發(fā)現(xiàn)和分析網(wǎng)絡(luò)威脅。
關(guān)于卡巴斯基
卡巴斯基是一家成立于1997年的全球網(wǎng)絡(luò)安全和數(shù)字隱私公司。迄今為止，卡巴斯基已保護超過十億臺設(shè)備免受新興網(wǎng)絡(luò)威脅和針對性攻擊。卡巴斯基不斷將深度威脅情報和安全技術(shù)轉(zhuǎn)化成創(chuàng)新的安全解決方案和服務(wù)，為全球的個人用戶、企業(yè)、關(guān)鍵基礎(chǔ)設(shè)施和政府提供安全保護。該公司全面的安全產(chǎn)品組合包括領(lǐng)先的個人設(shè)備數(shù)字生活保護、面向企業(yè)的專業(yè)安全產(chǎn)品和服務(wù)，以及用于對抗復(fù)雜且不斷演變的數(shù)字威脅的網(wǎng)絡(luò)免疫解決方案。我們?yōu)閿?shù)百萬個人用戶及近20萬企業(yè)客戶守護他們最珍視的數(shù)字資產(chǎn)。要了解更多詳情，請訪問www.kaspersky.com。
