飛象網(wǎng)訊(魏德齡/文)隨著ChatGPT的風(fēng)靡,讓很多人發(fā)現(xiàn)AI離自己如此之近,流暢的外文翻譯、包含從1-4的簡單小作文,一下讓AI從只聞其聲,不見其影的高科技,變身為觸手可及的生活小助手。
其實AI在手機上的應(yīng)用并非什么新鮮事,很多年前當(dāng)用戶打開攝像頭,界面中就能識別出拍攝物體的種類,其中就有AI的一份功勞。然而這種能力并未讓用戶感到不可或缺,或是能為工作與生活帶來質(zhì)的改變。
但今年以來Stable Diffusion在智能手機上的功能演示,卻無疑帶來了更多遐想。
體驗迎來新契機
作者頭一陣恰好體驗了運行在Android手機上的Stable Diffusion終端側(cè)演示,僅僅通過一臺與目前市面上主流旗艦手機配置相當(dāng),搭載第二代驍龍8機型的手機,通過輸入一段文本描述后,等待約10多秒鐘左右,就能眼見其從模糊到清晰的創(chuàng)作出一張圖畫。
整個過程完全在終端側(cè)運行,無需借助云端的AI算力。要知道,如今以ChatGPT為代表的云端計算壓力可謂不小,登陸暫緩都是常有的事,為此不少高粘性用戶則開始選擇購買更高階的會員。但對于普通用戶來說,其對功能的要求,可能不至于非要每月花上20美元。
在Stable Diffusion終端側(cè)演示中,高通從Hugging Face的FP32 1-5版本開源模型入手,通過量化、編譯和硬件加速進(jìn)行優(yōu)化,使其能在搭載第二代驍龍8移動平臺的手機上運行。通過全棧優(yōu)化最終讓Stable Diffusion能夠在智能手機上運行,在15秒內(nèi)執(zhí)行20步推理,生成一張512x512像素的圖像。這是在智能手機上最快的推理速度,能媲美云端時延,且用戶文本輸入完全不受限制。
蘋果公司在去年年底同樣在 macOS 13.1 和 iOS 16.2 中發(fā)布了針對 Stable Diffusion 的 Core ML 優(yōu)化,并通過一個代碼庫對部署過程進(jìn)行了詳細(xì)講解。在三款蘋果設(shè)備(M1 iPad Pro 8GB、M1 MacBook Pro 16GB、M2 MacBook Air 8GB)上的測試結(jié)果表明,蘋果推出的相關(guān)優(yōu)化基本可以保證最新版 Stable Diffusion(SD 2.0)在半分鐘內(nèi)生成一張同樣分辨率為512x512像素的圖。這無疑也為未來蘋果將Stable Diffusion功能在自家設(shè)備中實現(xiàn)本地化運行奠定了基礎(chǔ)。
正在凸顯的手機AI能力
實際上,目前移動端的AI能力已經(jīng)在一些工作上凸顯出來。例如在iPad上擁有很多摳取視頻中圖像的App,以往這項在電腦端需要較大精力的工作,借助搭載M1/M2芯片iPad上的神經(jīng)網(wǎng)絡(luò)引擎,能夠輕松的對目標(biāo)圖像進(jìn)行摳取,并實現(xiàn)相關(guān)特效效果。進(jìn)而致使很多人開始使用iPad先行制作一些特效,然后再將素材傳輸至電腦端與其他素材一并進(jìn)行二次剪輯。
以M1芯片為例,相較于蘋果之前所采用的處理器,機器學(xué)習(xí)的速度提升了15倍,這源于蘋果專門為其加入了神經(jīng)網(wǎng)絡(luò)引擎,采用16核架構(gòu),每秒能進(jìn)行 11 萬億次運算。在運行視頻分析、語音識別以及圖像處理等任務(wù)時的處理速度都能實現(xiàn)明顯提升。
以驍龍8系處理器為代理的Android陣營,在近年來的AI能力同樣在翻倍提升。上文中能夠流暢運行Stable Diffusion本地演示的第二代驍龍8,其AI 引擎的主要組成部分Hexagon 處理器專門升級了微切片推理和更大的張量加速器,采用專用供電系統(tǒng),并首次在手機端實現(xiàn) INT4 精度格式的支持,因此在 AI 推理時性能最多可以提高4.35倍,能效提升60%。新增的微切片推理功能,恰恰能夠幫助Stable Diffusion等大型模型高效運行。
愛奇藝出品的真人秀節(jié)目《元音大冒險》中則展現(xiàn)出了AI說帶來的全新體驗提升,在節(jié)目攝制中,借助搭載驍龍旗艦手機所支持的高通AI引擎,及其專門面向AI神經(jīng)網(wǎng)絡(luò)的硬件加速單元等技術(shù)的支持下,僅僅通過一個頭盔及一部搭載驍龍芯片的智能手機,即可將所有的細(xì)節(jié)、場景、表情精準(zhǔn)地映射至“元音大陸”中。據(jù)悉,驍龍8系移動平臺搭載高通AI引擎,具備行業(yè)領(lǐng)先的終端側(cè)AI性能和能效比,可以支持基于300個人臉特征點的檢測,在為節(jié)目制作提供強有力的支持和保障同時,也降低了節(jié)目制作的技術(shù)門檻與成本。
在PC設(shè)備更新?lián)Q代頻率早就遠(yuǎn)遠(yuǎn)落后于智能手機的當(dāng)下,智能手機的本地AI能力將更加凸顯,實時了解到智能用戶在拍什么的AI,實現(xiàn)了比相機更加優(yōu)秀的成像效果。對圖形的理解能力,造就了比電腦更強的視頻創(chuàng)作能力,方便好用的邊緣側(cè)AI能力正在到來。
方便好用的邊緣側(cè)AI能力
近期,借助AI接口所開發(fā)的小型應(yīng)用不斷涌現(xiàn),相比于登陸賬號、問問題的方式,將功能聚焦在了如文章翻譯這一熱門使用場景,用戶可以通過App像使用以往的那些翻譯應(yīng)用一樣,快速進(jìn)行使用,且在準(zhǔn)確率與流暢度上有了大幅提升。
對于云端AI計算而言,其所面向的用戶群更多為企業(yè)或研究機構(gòu),針對藥物研發(fā)、基因工程、數(shù)字孿生模擬等行業(yè)領(lǐng)域,都需要超強的算力作為保障,才能在更短的時間內(nèi),獲得研究人員想要的結(jié)果。而普通用戶使用頻次更高的語音轉(zhuǎn)文字、翻譯、文章或圖畫創(chuàng)作,通過邊緣側(cè)AI能力,能夠獲得更快的響應(yīng)速度,擺脫了部分云連接的束縛,整體體驗也能獲得更好的提升。
有業(yè)內(nèi)人士預(yù)計,今年年底或明年年初,消費市場將會為了獲得更強的AI能力而購買新的終端產(chǎn)品,AI將引爆新的終端需求。于此同時,今年的芯片產(chǎn)品也將繼續(xù)在AI性能上實現(xiàn)更大幅度的升級,來滿足圍繞AI而產(chǎn)生的相關(guān)用例的爆發(fā)。
試想一下,未來用戶通過手機就能自動生成一個有趣的配圖,用于社交媒體內(nèi)容、文章配圖、工作演示等不同用途。這些功能又需要以移動設(shè)備的本地AI能力作為依托,用戶為了加速十多秒的等待,可能會購置更強AI性能的手機,或許目前智能手機的需求瓶頸將通過AI得以解決。