初創(chuàng)公司Untether推出了一款人工智能(AI)芯片,旨在為汽車、農(nóng)業(yè)設(shè)備和其他極端情況下的AI應(yīng)用提供支持。
英偉達和AMD生產(chǎn)的旗艦AI芯片旨在與數(shù)千或數(shù)萬個其他芯片連接在一起的數(shù)據(jù)中心內(nèi)運行。此類安裝需要大量能源和額外設(shè)備,通常用于構(gòu)建或訓(xùn)練為ChatGPT等應(yīng)用程序提供支持的大型語言模型。
總部位于加拿大多倫多的Untether表示,其芯片旨在在模型構(gòu)建后運行AI應(yīng)用程序,并且可以以更高的效率運行。
Untether產(chǎn)品副總裁Bob Beachler表示,到2027年,僅運行AI應(yīng)用程序(也稱為“推理”)的芯片市場將遠遠超過訓(xùn)練市場。該公司預(yù)計,到2027年,推理市場規(guī)模將增長至1020億美元。
“推理技術(shù)的應(yīng)用范圍非常廣泛,”Bob Beachler說道。
Untether的芯片名為240 Slim,性能出色,但能耗卻低得多,適合在自動駕駛汽車、自動農(nóng)業(yè)設(shè)備和一些數(shù)據(jù)中心內(nèi)使用。
梅賽德斯-奔馳表示,正在與Untether合作開發(fā)其下一代自動駕駛汽車。
Untether生產(chǎn)的芯片是圍繞開源RISC-V技術(shù)開發(fā)的。RISC-V技術(shù)與Arm的設(shè)計相競爭。
在非營利組織MLCommons最近進行的同行評審基準(zhǔn)測試中,Untether的芯片在針對硬件設(shè)計的應(yīng)用程序的測試中表現(xiàn)良好。