首頁|必讀|視頻|專訪|運(yùn)營(yíng)|制造|監(jiān)管|大數(shù)據(jù)|物聯(lián)網(wǎng)|量子|元宇宙|博客|特約記者
手機(jī)|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計(jì)算|芯片報(bào)告|智慧城市|移動(dòng)互聯(lián)網(wǎng)|會(huì)展
首頁 >> 人工智能 >> 正文

AI教父:人工智能可能會(huì)重寫自己的代碼來“逃脫控制”

2023年10月12日 07:37  財(cái)聯(lián)社  

財(cái)聯(lián)社

在業(yè)內(nèi)有“人工智能教父”之稱的計(jì)算機(jī)科學(xué)家杰弗里·辛頓(Geoffrey Hinton)表示,如果人類不小心的話,人工智能“可能會(huì)接管一切”。

現(xiàn)年75歲的辛頓近日在接受媒體采訪時(shí)表示,快速發(fā)展的人工智能技術(shù)可能在“五年內(nèi)”獲得比人類更聰明的能力。他補(bǔ)充說,如果這種情況發(fā)生,人工智能可能會(huì)進(jìn)化到人類無法控制的程度。

辛頓指出,人工智能系統(tǒng)可能逃脫控制的方法之一是自己編寫“自己的計(jì)算機(jī)代碼”,這是我們需要認(rèn)真擔(dān)心的事情。

辛頓的工作被認(rèn)為對(duì)當(dāng)代人工智能系統(tǒng)的發(fā)展至關(guān)重要。1986年,他與人合著了一篇開創(chuàng)性的論文《通過反向傳播誤差來學(xué)習(xí)表征》,這是人工智能技術(shù)基礎(chǔ)神經(jīng)網(wǎng)絡(luò)發(fā)展的一個(gè)里程碑。2018年,他被授予圖靈獎(jiǎng),以表彰他的研究突破。

今年4月,在谷歌工作了10年之后,辛頓辭去了副總裁兼工程研究員的職位,這樣他就可以自由地談?wù)撊斯ぶ悄軒淼娘L(fēng)險(xiǎn)。在離職后,辛頓聲稱對(duì)自己在開發(fā)人工智能這項(xiàng)技術(shù)中的角色感到遺憾。

他特別強(qiáng)調(diào),人類,包括像他這樣構(gòu)建人工智能系統(tǒng)的頂尖科學(xué)家,仍然沒有完全理解這項(xiàng)技術(shù)是如何工作和發(fā)展的。

許多人工智能研究人員也坦率地承認(rèn)對(duì)此缺乏理解。今年4月份,谷歌首席執(zhí)行官桑達(dá)爾·皮查伊將其稱為人工智能的“黑匣子”問題。

正如辛頓所描述的那樣,科學(xué)家為人工智能系統(tǒng)設(shè)計(jì)算法,從“數(shù)據(jù)集”中提取信息,比如互聯(lián)網(wǎng)。他說:“當(dāng)這種學(xué)習(xí)算法與數(shù)據(jù)產(chǎn)生交互時(shí),它會(huì)產(chǎn)生擅長(zhǎng)做某些事情的復(fù)雜神經(jīng)網(wǎng)絡(luò)。但說實(shí)話,我們并不真正了解它們是如何做到這些的!

皮查伊和其他人工智能專家似乎并不像辛頓那樣擔(dān)心機(jī)器失控的問題。另一位圖靈獎(jiǎng)得主Yann LeCun稱,任何有關(guān)人工智能可能取代人類的警告都是“荒謬可笑的”,因?yàn)槿祟惪偸强梢宰柚谷魏巫兊眠^于危險(xiǎn)的技術(shù)。

但辛頓認(rèn)為,最壞的情況并不確定,醫(yī)療保健等行業(yè)已經(jīng)從人工智能中受益匪淺。

此外,人工智能制造的錯(cuò)誤信息、假照片和視頻在網(wǎng)上廣泛傳播。他呼吁進(jìn)行更多的研究來了解人工智能,政府應(yīng)該出臺(tái)法規(guī)來控制這項(xiàng)技術(shù),并在全球范圍內(nèi)禁止人工智能軍用機(jī)器人(12.530, 0.10, 0.80%)。

在上個(gè)月,美國(guó)科技大佬齊聚國(guó)會(huì)山,參加了由參議院多數(shù)黨領(lǐng)袖舒默舉辦的人工智能峰會(huì),商討未來人工智能的監(jiān)管方式。盡管科技巨頭呼吁美國(guó)國(guó)會(huì)通過立法加強(qiáng)對(duì)人工智能的監(jiān)管,但在如何進(jìn)行監(jiān)管上,各科技公司仍然存在分歧。

辛頓指出,無論人工智能護(hù)欄是由科技公司,還是在美國(guó)聯(lián)邦政府的強(qiáng)制要求下實(shí)施的,都需要盡快出臺(tái)相關(guān)的監(jiān)管措施。

他認(rèn)為,人類可能正處于“某種轉(zhuǎn)折點(diǎn)”,接下來會(huì)發(fā)生什么存在巨大的不確定性。并補(bǔ)充說,科技圈和政府領(lǐng)導(dǎo)人必須決定“是否進(jìn)一步發(fā)展這些東西,以及如果他們這樣做該如何保護(hù)自己!

編 輯:魏德齡
聲明:刊載本文目的在于傳播更多行業(yè)信息,本站只提供參考并不構(gòu)成任何投資及應(yīng)用建議。如網(wǎng)站內(nèi)容涉及作品版權(quán)和其它問題,請(qǐng)?jiān)?0日內(nèi)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除內(nèi)容。本站聯(lián)系電話為86-010-87765777,郵件后綴為#cctime.com,冒充本站員工以任何其他聯(lián)系方式,進(jìn)行的“內(nèi)容核實(shí)”、“商務(wù)聯(lián)系”等行為,均不能代表本站。本站擁有對(duì)此聲明的最終解釋權(quán)。
相關(guān)新聞              
 
人物
工信部張?jiān)泼鳎捍蟛糠謬?guó)家新劃分了中頻段6G頻譜資源
精彩專題
專題丨“汛”速出動(dòng) 共筑信息保障堤壩
2023MWC上海世界移動(dòng)通信大會(huì)
中國(guó)5G商用四周年
2023年中國(guó)國(guó)際信息通信展覽會(huì)
CCTIME推薦
關(guān)于我們 | 廣告報(bào)價(jià) | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號(hào)-1  電信與信息服務(wù)業(yè)務(wù)經(jīng)營(yíng)許可證080234號(hào) 京公網(wǎng)安備110105000771號(hào)
公司名稱: 北京飛象互動(dòng)文化傳媒有限公司
未經(jīng)書面許可,禁止轉(zhuǎn)載、摘編、復(fù)制、鏡像