來(lái)源：互聯(lián)網(wǎng)

10月16日-18日,首屆灣區(qū)半導(dǎo)體產(chǎn)業(yè)生態(tài)博覽會(huì)在深圳舉行。

本次展會(huì)是在深圳市政府指導(dǎo)和深圳市發(fā)展和改革委員會(huì)支持下,由深圳市半導(dǎo)體與集成電路產(chǎn)業(yè)聯(lián)盟攜手深圳市重大產(chǎn)業(yè)投資集團(tuán)有限公司共同主辦,以"半導(dǎo)體重大項(xiàng)目集群和最大增量市場(chǎng)"為基礎(chǔ),邀請(qǐng)來(lái)自灣區(qū)、全國(guó)及全球的半導(dǎo)體產(chǎn)業(yè)鏈上下游頭部企業(yè)參加。

作為AI芯片領(lǐng)域代表企業(yè),云天勵(lì)飛受邀出席“AI芯片與高性能計(jì)算應(yīng)用論壇”,分享國(guó)產(chǎn)邊緣AI芯片架構(gòu)創(chuàng)新思路。

云天勵(lì)飛副總裁、芯片產(chǎn)品線總經(jīng)理李愛(ài)軍在演講中說(shuō)道,過(guò)去一年半,大模型經(jīng)歷了從語(yǔ)言到多模態(tài)的轉(zhuǎn)變,并且正快速向物理世界演進(jìn);大模型落地應(yīng)用也從云端逐漸走向邊緣端,而大模型在邊緣端的應(yīng)用給AI芯片帶來(lái)了全新的挑戰(zhàn)。

邊緣端場(chǎng)景具有“多且碎”的特點(diǎn),不同場(chǎng)景應(yīng)用對(duì)算力、內(nèi)存、帶寬的要求也不盡相同。如何通過(guò)更靈活的芯片架構(gòu)設(shè)計(jì),盡可能讓AI芯片滿足不同場(chǎng)景的需求,是業(yè)界共同思考的問(wèn)題。

在此背景下,云天勵(lì)飛提出了“算力積木”AI芯片架構(gòu),讓芯片能夠像搭積木一樣靈活組建、靈活擴(kuò)展。

以云天勵(lì)飛基于“算力積木”打造的國(guó)內(nèi)首顆國(guó)產(chǎn)工藝邊緣AI芯片DeepEdge10系列為例,DeepEdge10系列芯片基于一個(gè)標(biāo)準(zhǔn)化的大模型計(jì)算單元打造,可實(shí)現(xiàn)1.8B大模型的實(shí)時(shí)高效推理。

通過(guò)D2D Chiplet技術(shù)、C2C Mesh技術(shù)和C2C Mes Torus技術(shù),云天勵(lì)飛將標(biāo)準(zhǔn)計(jì)算單元像搭積木一樣,封裝成不同算力的芯片,覆蓋8T-256T算力應(yīng)用,可實(shí)現(xiàn)7B、14B、130B等不同參數(shù)量大模型在邊緣端的高效推理。

目前,DeepEdge10系列芯片可支持包括Transformer模型、BEV模型、CV大模型、LLM大模型等各類不同架構(gòu)的主流模型,并在機(jī)器人、邊緣網(wǎng)關(guān)、服務(wù)器等領(lǐng)域?qū)崿F(xiàn)商業(yè)化應(yīng)用。

隨著大模型進(jìn)一步深入行業(yè)和場(chǎng)景,市場(chǎng)對(duì)邊緣AI芯片的需求將越來(lái)越大,而目前全球邊緣AI芯片市場(chǎng)仍處于萌芽階段。未來(lái)云天勵(lì)飛將堅(jiān)持走自主研發(fā)路線,通過(guò)架構(gòu)創(chuàng)新,在國(guó)產(chǎn)工藝上實(shí)現(xiàn)芯片性能的突破,為行業(yè)帶來(lái)更好用、更高性價(jià)比的國(guó)產(chǎn)AI芯片產(chǎn)品。