首頁|必讀|視頻|專訪|運(yùn)營(yíng)|制造|監(jiān)管|芯片|物聯(lián)網(wǎng)|量子|低空經(jīng)濟(jì)|智能汽車|特約記者
手機(jī)|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計(jì)算|大數(shù)據(jù)|報(bào)告|智慧城市|移動(dòng)互聯(lián)網(wǎng)|會(huì)展
首頁 >> 頭條資訊 >> 正文

AI倫理:構(gòu)建可信人工智能的五大關(guān)鍵路徑

2025年7月10日 07:30  CCTIME飛象網(wǎng)  作 者:劉隸放

Cloudera大中華區(qū)技術(shù)總監(jiān) 劉隸放

在當(dāng)今競(jìng)爭(zhēng)異常激烈的環(huán)境中,全球各地的企業(yè)都在大力投資人工智能(AI),以獲得更大的競(jìng)爭(zhēng)優(yōu)勢(shì)。然而,隨著創(chuàng)新的加速,企業(yè)也深知倫理和監(jiān)管在AI發(fā)展中的關(guān)鍵作用。德勤對(duì)100位企業(yè)高管進(jìn)行的一項(xiàng)調(diào)查顯示,88%的受訪者表示其企業(yè)正在采取措施向員工傳達(dá)AI的倫理使用規(guī)范。根據(jù)騰訊研究院的一項(xiàng)調(diào)查顯示,個(gè)人隱私保護(hù)與網(wǎng)絡(luò)安全已成為公眾最為關(guān)注的風(fēng)險(xiǎn)因素之一。在覆蓋各行各業(yè)的3,000名受訪者中,38%的受訪者認(rèn)為企業(yè)在應(yīng)用生成式AI過程中可能存在侵犯?jìng)(gè)人隱私的風(fēng)險(xiǎn),另有33.5%的受訪者認(rèn)為模型的可解釋性和透明度問題亦不容忽視。

AI創(chuàng)新帶來新的倫理問題

借助AI的進(jìn)步,我們已經(jīng)從基于人工設(shè)定規(guī)則的決策系統(tǒng),發(fā)展到通過海量數(shù)據(jù)訓(xùn)練的復(fù)雜模型來自動(dòng)定義規(guī)則、生成內(nèi)容并做出決策。然而,不受約束的AI系統(tǒng)往往會(huì)優(yōu)先優(yōu)化預(yù)設(shè)目標(biāo),而忽視更廣泛的社會(huì)影響和倫理考量,這將逐漸削弱公眾信任。

盡管AI技術(shù)取得了顯著進(jìn)展,但偏見和“幻覺”等問題依然存在,甚至引發(fā)了一些爭(zhēng)議事件。例如,2021年4月,荷蘭六名司機(jī)因“算法手段”被不公平解雇,導(dǎo)致歐盟根據(jù)《通用數(shù)據(jù)保護(hù)條例》(GDPR)對(duì)此展開調(diào)查。兩年后,英國幾名送餐員因位置數(shù)據(jù)被懷疑多收費(fèi)用,并在幾乎沒有解釋的情況下被解雇。

類似的爭(zhēng)議事件在國內(nèi)也內(nèi)屢見不鮮,從因性別歧視導(dǎo)致的不公平貸款發(fā)放,到使用侵犯隱私的面部識(shí)別技術(shù)處理保險(xiǎn)索賠。例如,一位中國博主的個(gè)人形象未經(jīng)授權(quán)便被某AI應(yīng)用使用,還引發(fā)了一場(chǎng)訴訟糾紛。這些問題的根源很大程度上在于AI的“可解釋性”。尤其是深度學(xué)習(xí)模型,其決策過程復(fù)雜且不透明,常被視為“黑匣子”,許多專家也難以理解其結(jié)論的形成機(jī)制。缺乏適當(dāng)?shù)娜斯けO(jiān)督和理解,這些帶有偏見的決策便可能會(huì)引發(fā)嚴(yán)重的負(fù)面后果。

隨著諸如OpenAI SORA AI視頻生成器等生成式AI創(chuàng)新()的涌現(xiàn),AI在提升生產(chǎn)力和增強(qiáng)企業(yè)競(jìng)爭(zhēng)力方面展現(xiàn)出巨大潛力。然而,這些工具也可能引發(fā)版權(quán)侵權(quán)等問題,甚至為濫用和虛假信息的傳播打開大門。因此,關(guān)注AI倫理變得比以往任何時(shí)候都更加重要。

公共與私營(yíng)部門需攜手將倫理和監(jiān)管融入AI

盡管ChatGPT等生成式AI工具都設(shè)有防濫用規(guī)則,許多用戶仍找到了繞過這些保護(hù)措施的方法。網(wǎng)絡(luò)犯罪分子甚至創(chuàng)建了自己的GPT,用于編寫惡意軟件和生成極具欺騙性的釣魚郵件。

目前,有效識(shí)別和阻止這類有害產(chǎn)出的工具和法律仍很匱乏。因此,公共和私營(yíng)部門需要加強(qiáng)合作,通過更嚴(yán)格的監(jiān)管降低AI濫用風(fēng)險(xiǎn),并確保在模型開發(fā)中融入倫理考量。

為了構(gòu)建合乎倫理的AI,需要將倫理原則、問責(zé)機(jī)制、透明度、可解釋性和良好治理融入模型。提升模型的可解釋性和倫理水平不僅能幫助解決當(dāng)前AI的缺陷,還能顯著提高決策的準(zhǔn)確性和有效性。

許多公共和私營(yíng)部門實(shí)體正在共同努力推進(jìn)AI的倫理建設(shè)。例如,澳大利亞近期投資1700 萬美元啟動(dòng)了“AI應(yīng)用計(jì)劃”,幫助中小型企業(yè)在利用AI提升業(yè)務(wù)決策能力。去年,新加坡政府與私營(yíng)部門合作成立了“AI驗(yàn)證基金會(huì)”, 以應(yīng)對(duì)AI帶來的風(fēng)險(xiǎn)。該基金會(huì)今年又推出針對(duì)生成式AI的新框架,解決知識(shí)產(chǎn)權(quán)濫用等新問題的同時(shí)持續(xù)促進(jìn)創(chuàng)新。2025年3月,中國《政府工作報(bào)告》提出將要持續(xù)推進(jìn)“人工智能+”行動(dòng)。在此背景下,自2023年起施行的《生成式人工智能服務(wù)管理暫行辦法》的重要性進(jìn)一步凸顯。這些措施涉及內(nèi)容監(jiān)管和數(shù)據(jù)使用道德等領(lǐng)域,為負(fù)責(zé)任的AI發(fā)展提供了一個(gè)基礎(chǔ)框架。此外,具身智能(Embodied Intelligence)首次被納入國家戰(zhàn)略計(jì)劃,這表明在仿人機(jī)器人、無人機(jī)和倉庫自動(dòng)化等技術(shù)可能在私營(yíng)部門大規(guī)模應(yīng)用的情況下,需要持續(xù)的監(jiān)管。

隨著相關(guān)法規(guī)和倡議的陸續(xù)出臺(tái),企業(yè)可以通過使用可信數(shù)據(jù),為推進(jìn)倫理AI的倫理建設(shè)貢獻(xiàn)力量。

設(shè)計(jì)合乎倫理的AI系統(tǒng)需要可信數(shù)據(jù)

構(gòu)建值得信賴的AI系統(tǒng)離不開可信的數(shù)據(jù)來源。以準(zhǔn)確、一致、潔凈、無偏見且可靠的數(shù)據(jù)為基礎(chǔ),企業(yè)可以設(shè)計(jì)出符合倫理的AI系統(tǒng),確保其始終產(chǎn)出公平、無偏見的結(jié)果。這樣的系統(tǒng)能夠幫助企業(yè)輕松發(fā)現(xiàn)問題、彌補(bǔ)邏輯漏洞、優(yōu)化輸出,并評(píng)估其創(chuàng)新是否符合法規(guī)要求。

在Cloudera的AI倫理實(shí)踐中,數(shù)據(jù)隱私保護(hù)占據(jù)著基石地位。我們堅(jiān)信,對(duì)數(shù)據(jù)隱私的尊重是贏得客戶信任的前提,也是平臺(tái)設(shè)計(jì)的核心原則。為此,Cloudera通過其開放數(shù)據(jù)湖倉(Open Data Lakehouse)架構(gòu),在數(shù)據(jù)層深度融合了統(tǒng)一的安全與治理能力(SDX)。這意味著隱私控制不再是上層應(yīng)用的“補(bǔ)丁”,而是深入數(shù)據(jù)全生命周期的原生能力。它幫助企業(yè)在運(yùn)用AI進(jìn)行深度洞察時(shí),依然能無縫地保護(hù)敏感數(shù)據(jù)、履行合規(guī)義務(wù)。這種貫穿數(shù)據(jù)生命周期的隱私保護(hù)設(shè)計(jì),不僅提升了AI模型的安全性與透明度,更為企業(yè)構(gòu)建值得信賴且符合法規(guī)的AI解決方案奠定了穩(wěn)固根基。

如果企業(yè)想要開發(fā)合乎倫理的AI系統(tǒng),可采取以下建議:

●關(guān)注意圖:AI系統(tǒng)僅基于訓(xùn)練數(shù)據(jù)進(jìn)行決策,缺乏道德準(zhǔn)則和公平參照。因此,設(shè)計(jì)者需明確而謹(jǐn)慎地構(gòu)建系統(tǒng)設(shè)計(jì)動(dòng)機(jī)的意圖表示方法,在量化倫理考量的同時(shí)平衡性能目標(biāo)。

●優(yōu)化模型設(shè)計(jì):設(shè)計(jì)良好的AI系統(tǒng)應(yīng)避免偏見、因果關(guān)系和不確定性。企業(yè)應(yīng)定期進(jìn)行審查,以檢測(cè)是否存在模型漂移問題,即模型逐漸因數(shù)據(jù)過時(shí)而開始變得不準(zhǔn)確,并廣泛建立因果模型以評(píng)估潛在負(fù)面影響。

●確保人工監(jiān)督:AI系統(tǒng)雖能基于高質(zhì)量數(shù)據(jù)做出可靠決策,但缺乏情商,無法處理特殊情況。最有效的系統(tǒng)應(yīng)結(jié)合人類判斷與AI能力,企業(yè)需始終確保人工監(jiān)督,尤其是在AI模型置信度較低時(shí)。

●加強(qiáng)安全性與合規(guī)性:以安全性和合規(guī)性為核心的倫理AI系統(tǒng),不僅能增強(qiáng)系統(tǒng)可信度,還能加速其在企業(yè)中的普及,同時(shí)確保符合地方和區(qū)域法規(guī)。

●充分利用現(xiàn)代數(shù)據(jù)平臺(tái):借助支持現(xiàn)代數(shù)據(jù)架構(gòu)的數(shù)據(jù)平臺(tái)等先進(jìn)工具,企業(yè)可以顯著提升其在數(shù)據(jù)和AI模型生命周期內(nèi)的管理與分析能力。理想情況下,平臺(tái)應(yīng)具備內(nèi)置的安全和治理控制功能,使企業(yè)在大規(guī)模部署數(shù)據(jù)分析和AI時(shí),仍能保持對(duì)AI驅(qū)動(dòng)決策的透明度和控制力。

編 輯:魏德齡
飛象網(wǎng)版權(quán)及免責(zé)聲明:
1.本網(wǎng)刊載內(nèi)容,凡注明來源為“飛象網(wǎng)”和“飛象原創(chuàng)”皆屬飛象網(wǎng)版權(quán)所有,未經(jīng)允許禁止轉(zhuǎn)載、摘編及鏡像,違者必究。對(duì)于經(jīng)過授權(quán)可以轉(zhuǎn)載,請(qǐng)必須保持轉(zhuǎn)載文章、圖像、音視頻的完整性,并完整標(biāo)注作者信息和飛象網(wǎng)來源。
2.凡注明“來源:XXXX”的作品,均轉(zhuǎn)載自其它媒體,在于傳播更多行業(yè)信息,并不代表本網(wǎng)贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé)。
3.如因作品內(nèi)容、版權(quán)和其它問題,請(qǐng)?jiān)谙嚓P(guān)作品刊發(fā)之日起30日內(nèi)與本網(wǎng)聯(lián)系,我們將第一時(shí)間予以處理。
本站聯(lián)系電話為86-010-87765777,郵件后綴為cctime.com,冒充本站員工以任何其他聯(lián)系方式,進(jìn)行的“內(nèi)容核實(shí)”、“商務(wù)聯(lián)系”等行為,均不能代表本站。本站擁有對(duì)此聲明的最終解釋權(quán)。
推薦新聞              
 
人物
飛象訪談:對(duì)話InterDigital副總裁兼無線實(shí)驗(yàn)室負(fù)責(zé)人Milind Kulkarni
精彩視頻
飛象趣談第二十九期!物流無人機(jī),低空經(jīng)濟(jì)崛起中的“雙輪引擎”
未來出行的芯力量 向“智能移動(dòng)終端”躍遷
飛象訪談:對(duì)話InterDigital副總裁兼無線實(shí)驗(yàn)室負(fù)責(zé)人Milind Kulkarni
2025MWC上海丨中興通訊副總裁熊杰就AI萬兆全光園區(qū)話題進(jìn)行交流
精彩專題
2025 MWC 上海
2025工業(yè)互聯(lián)網(wǎng)大會(huì)
2025世界電信和信息社會(huì)日大會(huì)
第八屆數(shù)字中國建設(shè)峰會(huì)
關(guān)于我們 | 廣告報(bào)價(jià) | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號(hào)-1  電信與信息服務(wù)業(yè)務(wù)經(jīng)營(yíng)許可證080234號(hào) 京公網(wǎng)安備110105000771號(hào)
公司名稱: 北京飛象互動(dòng)文化傳媒有限公司
未經(jīng)書面許可,禁止轉(zhuǎn)載、摘編、復(fù)制、鏡像