首頁>消費(fèi) >
熱資訊!邊緣AI芯片有新消息 北大取得重要進(jìn)展 達(dá)到世界先進(jìn)水平!算力瓶頸下 邊緣AI崛起 2023-04-17 18:40:34  來源:證券時(shí)報(bào)

北京大學(xué)在邊緣AI芯片研究方面取得進(jìn)展。


(相關(guān)資料圖)

據(jù)北京大學(xué)官網(wǎng),該校人工智能研究院在面向邊緣AI的可轉(zhuǎn)置存內(nèi)計(jì)算芯片方向研究取得重要進(jìn)展,該研究團(tuán)隊(duì)提出了一種可同時(shí)實(shí)現(xiàn)高能效模型推斷前饋計(jì)算與訓(xùn)練反向傳播計(jì)算的可轉(zhuǎn)置存內(nèi)計(jì)算電路設(shè)計(jì),該方案能夠直接在邊緣端完成神經(jīng)網(wǎng)絡(luò)的重訓(xùn)練。

報(bào)道表示,研究團(tuán)隊(duì)在基于28nm標(biāo)準(zhǔn)的芯片原型驗(yàn)證該技術(shù),前饋計(jì)算時(shí)的能效和反向傳播計(jì)算能效均達(dá)到世界先進(jìn)水平,該技術(shù)為邊緣端智能提供了低功耗、高魯棒性的AI加速器解決方案。

邊緣AI是傳統(tǒng)云端算力的補(bǔ)充

隨著以ChatGPT為代表的AIGC(人工智能技術(shù)生成內(nèi)容)應(yīng)用大量興起,算力需求大增,同時(shí)需要更多的網(wǎng)絡(luò)帶寬成本。此前由于算力資源缺口問題,ChatGPT官網(wǎng)一度停止Plus付費(fèi)項(xiàng)目的購買,還頻頻下調(diào)提問限制次數(shù)。

傳統(tǒng)的云計(jì)算模型通常將大量的數(shù)據(jù)傳輸?shù)綌?shù)據(jù)中心進(jìn)行處理,然后再將結(jié)果返回到用戶設(shè)備。這種傳統(tǒng)的云計(jì)算模型可能存在延遲高、網(wǎng)絡(luò)帶寬消耗大、對(duì)隱私和安全性的擔(dān)憂等問題。

邊緣AI運(yùn)行在邊緣設(shè)備上,不需要將數(shù)據(jù)上傳云端來計(jì)算。相較于云端AI,邊緣AI具有低延遲、高安全性、高可靠性、保護(hù)用戶隱私等優(yōu)勢(shì)。國盛證券表示,由于算力爆發(fā)下產(chǎn)生的海量數(shù)據(jù)傳輸需求,完全依靠IDC(互聯(lián)網(wǎng)數(shù)據(jù)中心)提供中心化算力支撐乃是效率較低的選擇,在此背景下,邊緣計(jì)算便成為了傳統(tǒng)云端算力的很好補(bǔ)充。

由于邊緣AI的優(yōu)勢(shì),科技巨頭已將目光盯上。華為、高通均推出邊緣AI產(chǎn)品。今年3月,高通中國在安卓手機(jī)上首次演示了模型參數(shù)超過10億的Stable Diffusion;華為將發(fā)布智慧搜圖功能,該功能通過對(duì)模型進(jìn)行小型化處理 。

中信證券表示,華為與高通一定程度上驗(yàn)證了高性能邊緣AI的可行性,并且表明通過模型壓縮+聯(lián)網(wǎng)智能的方式有望在邊緣端實(shí)現(xiàn)AI大模型的體驗(yàn)。

除了巨頭角逐,邊緣AI應(yīng)用場景持續(xù)豐富。4月初,天貓精靈接入GPT大模型;4月11日,美國智能眼鏡開發(fā)商推出可以為智能眼鏡用戶提供ChatGPT的語音服務(wù)。

國盛證券表示,大模型將大幅提升智能硬件的使用體驗(yàn),同時(shí)智能硬件本身也將成為愈發(fā)重要的AI入口。當(dāng)前隨著物聯(lián)網(wǎng)模組邁入“智能化”時(shí)代,集成了邊緣算力的“智能模組”,正在逐漸成為支撐硬件智能化與邊緣算力的核心形式。

邊緣計(jì)算市場廣闊

市場空間方面,根據(jù)中國信息通信研究院顯示,2021年我國邊緣計(jì)算市場規(guī)模為436億元,預(yù)計(jì)2024年規(guī)模將達(dá)1804億元,2022年-2024年復(fù)合增速達(dá)61%。研究機(jī)構(gòu)ABI Research預(yù)測,到2025年邊緣AI芯片組市場的收入將達(dá)到122億美元,邊緣AI芯片組市場將超過云AI芯片組市場。

具體公司方面,國盛證券指出,智能模組作為承載邊緣算力的最佳模式,是智能硬件放量下最具有確定性和彈性的投資方向。模組龍頭關(guān)注移遠(yuǎn)通信、美格智能、廣和通;通信設(shè)備及芯片關(guān)注中興通訊、翱捷科技、初靈信息。

證券時(shí)報(bào)·數(shù)據(jù)寶梳理,移遠(yuǎn)通信是全球通信模組龍頭,其智能模組產(chǎn)品管線最為齊全,截至目前已有超過10款智能模組正在商用或處于工程樣片、商業(yè)樣片階段。

美格智能深耕智能模組產(chǎn)品研發(fā),智能模組出貨量居于行業(yè)前列,并于行業(yè)內(nèi)首家推出5G 智能模組。

中科創(chuàng)達(dá)在接受結(jié)構(gòu)調(diào)研時(shí)表示,公司在邊緣計(jì)算和行業(yè)領(lǐng)域已經(jīng)初具規(guī)模,以公司邊緣計(jì)算技術(shù)為核心的智能行業(yè)相關(guān)業(yè)務(wù),2022年度實(shí)現(xiàn)營業(yè)收入2.2億元。

初靈信息在互動(dòng)平臺(tái)表示,公司的邊緣計(jì)算、邊緣端的數(shù)據(jù)處理是支持“萬物互聯(lián)”的關(guān)鍵終端要素之一。

廣和通是首家A股上市的模組廠商,公司已有AI智能模組布局。

在互動(dòng)平臺(tái)上,奧拓電子、南凌科技、中科信息、狄耐克、中富通、拓維信息等均有回復(fù)涉及邊緣計(jì)算業(yè)務(wù)的問題。

(文章來源:證券時(shí)報(bào))

關(guān)鍵詞:

相關(guān)閱讀:
熱點(diǎn)
圖片