飛象網(wǎng)訊（易歡）人工智能作為新一輪科技革命和產(chǎn)業(yè)變革的核心驅(qū)動(dòng)力正深刻重塑著人類生產(chǎn)生活方式與社會(huì)發(fā)展格局，尤其是隨著近兩年大模型技術(shù)的深度應(yīng)用，人工智能的應(yīng)用范圍也越來(lái)越廣，涌現(xiàn)出上百種場(chǎng)景和模式。然而，在人工智能大模型技術(shù)持續(xù)釋放潛能的同時(shí)，其帶來(lái)的安全問(wèn)題也愈發(fā)不容忽視。
“當(dāng)前人工智能技術(shù)正以前所未有的速度重素全球科技和產(chǎn)業(yè)格局，大模型成為推動(dòng)數(shù)字經(jīng)濟(jì)發(fā)展的關(guān)鍵引擎，但同時(shí)也帶來(lái)了嚴(yán)峻、復(fù)雜的安全風(fēng)險(xiǎn)和治理的挑戰(zhàn)。”中國(guó)電信集團(tuán)有限公司黨組成員、副總經(jīng)理劉穎近日在出席活動(dòng)時(shí)講到。對(duì)于這種現(xiàn)狀，中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)專家咨詢委員會(huì)常務(wù)副主任邵廣祿強(qiáng)調(diào)：“AI加速迭代，安全必須同步進(jìn)階�！�
AI發(fā)展面臨的安全挑戰(zhàn)
近幾年AI技術(shù)發(fā)展迅速，逐漸從實(shí)驗(yàn)室走向人們的工作和生活以及產(chǎn)業(yè)深處，AI大模型從百億參數(shù)躍升到萬(wàn)億參數(shù)級(jí)，泛化能力也在持續(xù)突破，能處理從文本生成到復(fù)雜推理的各類任務(wù)，AI智能體也逐漸進(jìn)入到智能制造、金融風(fēng)控等核心的業(yè)務(wù)流程，與此同時(shí)數(shù)據(jù)的飛輪越轉(zhuǎn)越快、公開(kāi)數(shù)據(jù)、私域數(shù)據(jù)以及合成數(shù)據(jù)在交錯(cuò)喂養(yǎng)我們的大模型，使大模型能力快速提升。
然而，AI技術(shù)的突破令人振奮的同時(shí)，催生的一系列安全挑戰(zhàn)也成為產(chǎn)業(yè)必須直面的關(guān)鍵。例如，數(shù)據(jù)的安全問(wèn)題、模型訓(xùn)練中的數(shù)據(jù)投毒、算法黑箱問(wèn)題以及大模型應(yīng)用落地時(shí)的一些幻覺(jué)問(wèn)題等。對(duì)此，邵廣祿也重點(diǎn)指出了當(dāng)前安全領(lǐng)域的三個(gè)挑戰(zhàn)。
一是場(chǎng)景化的風(fēng)險(xiǎn)在加劇。在ToB領(lǐng)域AI加持的網(wǎng)絡(luò)攻擊持續(xù)在升級(jí)，深度合成技術(shù)導(dǎo)致仿冒程序、釣魚(yú)郵件等激增，企業(yè)引入的一些AI系統(tǒng)如果存在供應(yīng)鏈的流動(dòng)，便更可能成為安全的短板。在隱私保護(hù)方面，敏感數(shù)據(jù)的泄露與濫用的風(fēng)險(xiǎn)也在凸顯，深度合成技術(shù)的一些惡意應(yīng)用有可能進(jìn)一步加劇我們個(gè)人信息的侵權(quán)問(wèn)題。
二是重應(yīng)用輕安全�！敖鹑�、醫(yī)療、以及工業(yè)領(lǐng)域的AI應(yīng)用與核心業(yè)務(wù)在深度綁定，但安全能力大多是后加裝型的，而不是原生設(shè)計(jì)的，這類隱患自然比較多。”
三是協(xié)同機(jī)制有待完善。具體而言，AI的安全涉及技術(shù)研發(fā)、標(biāo)準(zhǔn)制定以及監(jiān)管執(zhí)行等諸多環(huán)節(jié)，企業(yè)間的協(xié)同不足、安全數(shù)據(jù)和威脅情報(bào)難以共享，國(guó)內(nèi)外的安全標(biāo)準(zhǔn)也沒(méi)有統(tǒng)一、跨境AI的應(yīng)用則合規(guī)問(wèn)題成本也相對(duì)較高。
邵廣祿強(qiáng)調(diào)：“這些安全技術(shù)的落后，使得我們技術(shù)進(jìn)步的紅利也有可能被滯后。”
此外，中國(guó)工程院教授吳世忠也指出，技術(shù)發(fā)展勢(shì)不可擋，安全風(fēng)險(xiǎn)亟待監(jiān)管。既要擁抱技術(shù)的無(wú)限可能，也要筑牢安全的堅(jiān)實(shí)防線。在他看來(lái)，內(nèi)容安全風(fēng)險(xiǎn)、數(shù)據(jù)隱私風(fēng)險(xiǎn)、惡意濫用的風(fēng)險(xiǎn)、社會(huì)倫理方面的風(fēng)險(xiǎn)等是當(dāng)下普遍關(guān)注的焦點(diǎn)。
破局AI安全問(wèn)題的關(guān)鍵
針對(duì)人工智能、大模型發(fā)展過(guò)程中存在的安全問(wèn)題， 邵廣祿也提出了幾點(diǎn)發(fā)展建議。在技術(shù)層面，要聚焦隱私計(jì)算可解釋AI、大模型安全護(hù)欄等關(guān)鍵技術(shù)，破解提示詞、數(shù)據(jù)泄密等難題，確保算法的透明及數(shù)據(jù)的可控。
治理方面，要構(gòu)建政府主導(dǎo)、企業(yè)履責(zé)、行業(yè)自律、公眾監(jiān)督的多元共治的格局，建立全生命周期的監(jiān)管框架，讓安全成為AI產(chǎn)品出廠的標(biāo)配，而不僅僅是附加服務(wù)。
在生態(tài)層面，企業(yè)間要更多的共享威脅情報(bào)、共建漏洞數(shù)據(jù)庫(kù)、開(kāi)源開(kāi)放安全工具，降低中小企業(yè)的防護(hù)門檻。
安全是人工智能產(chǎn)業(yè)穩(wěn)步前進(jìn)的基石，更是數(shù)字經(jīng)濟(jì)可持續(xù)發(fā)展的根本保障。劉穎也分享了中國(guó)電信在AI安全領(lǐng)域的思考、探索和實(shí)踐。
據(jù)介紹，中國(guó)電信全面擁抱AI，開(kāi)啟“云改數(shù)轉(zhuǎn)智惠”的戰(zhàn)略升級(jí)。中國(guó)電信積極踐行建設(shè)網(wǎng)絡(luò)強(qiáng)國(guó)、科技強(qiáng)國(guó)、數(shù)字中國(guó)、維護(hù)國(guó)家網(wǎng)信安全的初心使命，逐步構(gòu)建起算力安全、算法模型安全、數(shù)據(jù)安全、內(nèi)容和應(yīng)用安全的AI安全防護(hù)體系。
此外，中國(guó)電信堅(jiān)持走自主可控之路，逐步構(gòu)建起一體化AI安全保障體系。兩年前，中國(guó)電信宣布啟動(dòng)用于安全垂類模型訓(xùn)練的“阡陌數(shù)聚”安全語(yǔ)料庫(kù)建設(shè)，經(jīng)過(guò)兩年的積累，“阡陌”已成為國(guó)內(nèi)領(lǐng)先的安全語(yǔ)料庫(kù)�；诖�，訓(xùn)練出“星辰·見(jiàn)微”安全大模型，已經(jīng)深入嵌入了中國(guó)電信日常安全運(yùn)營(yíng)生產(chǎn)當(dāng)中。今年四月發(fā)布大模型應(yīng)用一站式安全運(yùn)營(yíng)方案，形成了從模型安全檢測(cè)到模型安全防護(hù)的系列創(chuàng)新成果。
劉穎指出，開(kāi)放合作是人工智能安全發(fā)展的必然選擇。中國(guó)電信秉持開(kāi)放共享、合作共贏的理念，持續(xù)深化產(chǎn)業(yè)協(xié)作，通過(guò)生態(tài)共建，實(shí)現(xiàn)協(xié)同共治，推動(dòng)人工智能產(chǎn)業(yè)安全、穩(wěn)定、繁榮發(fā)展。
未來(lái)，希望在產(chǎn)業(yè)界的協(xié)同下，能更有力的推動(dòng)大模型安全發(fā)展共識(shí)的形成與實(shí)踐創(chuàng)新，優(yōu)化AI治理機(jī)制，加快培育新質(zhì)生產(chǎn)力，為人工智能的高質(zhì)量、可持續(xù)發(fā)展注入新動(dòng)能。
