據(jù)美國(guó)有線電視新聞網(wǎng)網(wǎng)站報(bào)道,兩年前,美國(guó)開(kāi)放人工智能研究中心(OpenAI)的聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器(ChatGPT)問(wèn)世,掀起了人工智能(AI)領(lǐng)域的“淘金熱”。大量資金涌入專注研發(fā)AI及其相關(guān)產(chǎn)品的公司,因?yàn)檫@項(xiàng)技術(shù)將加速(也可能摧毀)現(xiàn)代生活的方方面面。
硅谷的說(shuō)法是,AI的列車已經(jīng)出站,聰明的投資者最好在這些產(chǎn)品變得“超級(jí)智能”并開(kāi)始解決世界上所有問(wèn)題之前上車。(對(duì)于真正的支持者來(lái)說(shuō),這并非夸張,正是這些期望助推芯片制造商英偉達(dá)等曾經(jīng)的小眾公司成為全球估值最高的資產(chǎn)之一。)當(dāng)然,這種說(shuō)法的關(guān)鍵之處在于,像ChatGPT這樣的大語(yǔ)言模型有望以指數(shù)級(jí)的速度不斷升級(jí)。
對(duì)AI持懷疑態(tài)度者多年來(lái)一直在警告人們注意“尺度定律”(又譯“規(guī)模定律”),即只要向模型輸入更多數(shù)據(jù)并提升其算力,就可以不斷完善模型的輸出。不過(guò),“尺度定律”與其說(shuō)是定律,不如說(shuō)是有根據(jù)的猜測(cè)。事實(shí)上,即便是創(chuàng)建大語(yǔ)言模型的科學(xué)家也無(wú)法完全了解它們是如何運(yùn)作的。
撞上“天花板”
最近,目前一些領(lǐng)先的語(yǔ)言模型似乎正在遭遇瓶頸。且看:
美國(guó)信息網(wǎng)援引不愿透露姓名的OpenAI員工的話說(shuō),該公司一些研究人員認(rèn)為,該公司下一個(gè)旗艦AI模型Orion“在處理特定任務(wù)方面不一定優(yōu)于前一版本”。
彭博新聞社援引兩名匿名消息人士的話說(shuō),Orion“沒(méi)有達(dá)到標(biāo)準(zhǔn)”,而且“到目前為止,人們認(rèn)為它相對(duì)OpenAI現(xiàn)有模型取得的進(jìn)步不如GPT-4對(duì)GPT-3.5的進(jìn)步那么大”。
路透社報(bào)道稱,“據(jù)三名知情人士透露,各大AI實(shí)驗(yàn)室的研究人員力爭(zhēng)發(fā)布一款性能超過(guò)GPT-4模型的大語(yǔ)言模型,但進(jìn)度一拖再拖,取得的結(jié)果也令人失望。而GPT-4模型已經(jīng)推出了近兩年”。
路透社還援引今年5月離開(kāi)OpenAI的聯(lián)合創(chuàng)始人伊利亞·蘇茨克韋爾的話說(shuō):“本世紀(jì)10年代是規(guī)模迅速擴(kuò)張的時(shí)代,而現(xiàn)如今,我們又回到了驚奇與發(fā)現(xiàn)的時(shí)代。每個(gè)人都在尋找下一個(gè)突破點(diǎn)!碧K茨克韋爾還說(shuō):“找對(duì)擴(kuò)張方向比以往任何時(shí)候都更重要!
就連曾寫過(guò)一篇名為《為什么AI將拯救世界》的文章的風(fēng)險(xiǎn)投資家馬克·安德烈森最近也在播客上表示,現(xiàn)有模型“在能力方面也撞上了類似的天花板”。
轉(zhuǎn)折點(diǎn)來(lái)臨
OpenAI首席執(zhí)行官薩姆·奧爾特曼似乎對(duì)這些報(bào)道進(jìn)行了反駁,他上周在社交平臺(tái)X上稱“不存在瓶頸”。
不管是瓶頸、山峰、平臺(tái)期,或是其他什么說(shuō)法,即便是看好AI的人也表示,根據(jù)目前發(fā)布的產(chǎn)品來(lái)看,我們可能已經(jīng)來(lái)到一個(gè)轉(zhuǎn)折點(diǎn)。
美國(guó)投資集團(tuán)D.A.戴維森公司的常務(wù)董事吉爾·盧里亞說(shuō):“我們已經(jīng)有一段時(shí)間沒(méi)看到突破性模式了。部分原因是我們已經(jīng)用完人類全部數(shù)據(jù),對(duì)同樣的數(shù)據(jù)進(jìn)行更多計(jì)算可能不會(huì)帶來(lái)更好的結(jié)果!
這是一個(gè)偏技術(shù)的問(wèn)題,但它對(duì)了解模型的局限性十分重要:為了讓這些AI機(jī)器聽(tīng)起來(lái)像人類,我們必須用人類的數(shù)據(jù)來(lái)訓(xùn)練它們——大概就是用互聯(lián)網(wǎng)上的一切文本或音頻。一旦一個(gè)模型攝取所有數(shù)據(jù),就沒(méi)有什么“實(shí)際”的東西可以繼續(xù)訓(xùn)練它了。
需要明確的是,平臺(tái)期未必是AI行業(yè)的喪鐘。但當(dāng)華爾街已經(jīng)開(kāi)始對(duì)投資者何時(shí)(或是否)能指望這些光鮮亮麗、費(fèi)用極高的產(chǎn)品帶來(lái)實(shí)際收益感到不安時(shí),肯定大事不妙。
泡沫或破裂
估值近3.5萬(wàn)億美元的芯片巨頭英偉達(dá)公司和其他各大AI公司可能不必馬上擔(dān)心“規(guī)模”問(wèn)題。
盧里亞說(shuō):“就上季度和本季度對(duì)英偉達(dá)(產(chǎn)品)的需求而言,毫無(wú)疑問(wèn),需求已經(jīng)超過(guò)了其供應(yīng)能力!钡绻覀冋娴挠龅搅顺叨绕款i,“可能意味著擁有超高市值的科技企業(yè)進(jìn)行了過(guò)度投資”,它們可能在不久的將來(lái)縮減規(guī)模。
這是AI樂(lè)觀主義者的觀點(diǎn)。
為了聽(tīng)到不那么樂(lè)觀的觀點(diǎn),我采訪了曾經(jīng)直言批評(píng)AI熱的紐約大學(xué)名譽(yù)教授加里·馬庫(kù)斯。
馬庫(kù)斯本月早些時(shí)候在“訂閱堆!本W(wǎng)站上寫道:“經(jīng)濟(jì)情況可能變得嚴(yán)峻。即使大語(yǔ)言模型的提升空間有限,未來(lái)它們也不會(huì)消失,可這在經(jīng)濟(jì)效益層面永遠(yuǎn)行不通……當(dāng)人們認(rèn)識(shí)到這一點(diǎn),金融泡沫可能迅速破裂;甚至英偉達(dá)也可能受到?jīng)_擊,只要人們意識(shí)到該公司的估值在很大程度上是基于錯(cuò)誤的前提!