芯東西(公眾號:aichip001)
作者 | 程茜
編輯 | Panken
芯東西5月23日報(bào)道,今日,北大系磁性計(jì)算芯片創(chuàng)企寒序科技宣布完成千萬級融資,由彼岸時(shí)代、源合資本投資。
成立于2023年8月的寒序科技,孵化于國內(nèi)磁學(xué)研究重要高地北京大學(xué)應(yīng)用磁學(xué)中心,至今已經(jīng)完成三輪融資。其20余人的團(tuán)隊(duì)中,大多為90后且擁有多學(xué)科交叉背景。
這家創(chuàng)企的聯(lián)合創(chuàng)始人是朱欣岳。他告訴芯東西,寒序科技希望成為第一個(gè)在磁性計(jì)算領(lǐng)域完成商業(yè)閉環(huán)的公司。
目前,寒序科技針對AI需求,探索磁性存算一體技術(shù),研制適用于大模型推理的超高帶寬磁性邏輯計(jì)算芯片,推出SpinPU-E系列芯片;針對高性能計(jì)算需求,探索量子啟發(fā)的經(jīng)典計(jì)算,研制高比特?cái)?shù)全連接磁性概率計(jì)算芯片,推出SpinPU-M系列芯片。
在產(chǎn)品層面,他透露,寒序科技針對大模型推理的E系列芯片已經(jīng)于今年2月進(jìn)行第一次流片的投片,并將于未來推出面向端側(cè)和云側(cè)的磁性計(jì)算芯片產(chǎn)品。
朱欣岳提到的磁性計(jì)算,可分為磁概率計(jì)算和磁邏輯計(jì)算。寒序科技是目前國內(nèi)唯一在磁性計(jì)算這兩個(gè)領(lǐng)域均有布局的公司。
如今,寒序科技依托于磁性隧道結(jié)(MTJ)和隨機(jī)磁性隧道結(jié)(sMTJ)等新型磁電子學(xué)器件,結(jié)合存算一體與Chiplet技術(shù),為AI推理算力和專用算力兩個(gè)領(lǐng)域,設(shè)計(jì)并推出了高性能、低成本、開發(fā)友好的SpinPU磁性計(jì)算芯片。
▲寒序科技SpinPU-M01概率計(jì)算加速卡(圖源:寒序科技)
磁概率計(jì)算芯片與其他AI芯片的主要區(qū)別是,不采用傳統(tǒng)邏輯運(yùn)算或不同存儲計(jì)算方式,而是利用磁性材料的特性,通過對磁狀態(tài)的操控和讀取來進(jìn)行概率計(jì)算。在存算一體架構(gòu)的磁概率計(jì)算芯片中,磁性隨機(jī)存儲器可直接在存儲單元內(nèi)進(jìn)行部分計(jì)算操作,其優(yōu)勢在于能耗低、并行計(jì)算能力強(qiáng)、對復(fù)雜概率模型處理效率高,短板則為技術(shù)成熟度相對較低、與現(xiàn)有技術(shù)生態(tài)融合存在挑戰(zhàn)等。
兼具非易失性、高速讀寫、超低功耗、集成度高優(yōu)勢的磁計(jì)算芯片,已成為全球半導(dǎo)體巨頭三星、臺積電、SK海力士等押注的下一代潛力芯片技術(shù)。
朱欣岳告訴芯東西,寒序科技已經(jīng)基于底層工藝、芯片設(shè)計(jì)、軟件算法進(jìn)行聯(lián)合優(yōu)化,能夠基于國內(nèi)工藝打造磁計(jì)算芯片,這正是寒序科技的核心優(yōu)勢之一。
在高性能大算力芯片需求激增的背景下,這家成立不到兩年的創(chuàng)企將如何從日趨激烈的AI芯片混戰(zhàn)中突圍?近日,寒序科技聯(lián)合創(chuàng)始人兼CEO朱欣岳與芯東西進(jìn)行了一場深入對談,將創(chuàng)業(yè)歷程中的思考、選擇以及對技術(shù)發(fā)展與商業(yè)落地趨勢的研判悉數(shù)道來。
▲寒序科技聯(lián)合創(chuàng)始人兼CEO朱欣岳
一、北大、清華曾拋來橄欖枝,90后組團(tuán)創(chuàng)業(yè)
寒序科技團(tuán)隊(duì)年輕、多學(xué)科交叉背景的特征在朱欣岳身上體現(xiàn)的淋漓盡致。
北京大學(xué)物理學(xué)院碩士畢業(yè)的朱欣岳,本科就讀于南京郵電大學(xué),擁有電子科學(xué)與技術(shù)、計(jì)算機(jī)科學(xué)與技術(shù)的雙重專業(yè)背景,曾在加州大學(xué)伯克利分校進(jìn)行跨模態(tài)人工智能領(lǐng)域的暑期科研。本科時(shí),他曾帶領(lǐng)團(tuán)隊(duì)斬獲各大創(chuàng)新創(chuàng)業(yè)比賽的全國獎項(xiàng),開展AI音樂和量子精密測量兩個(gè)方向的科研工作。
本科即將畢業(yè)之際,北京大學(xué)凝聚態(tài)物理所碩士以及中央音樂學(xué)院和清華大學(xué)計(jì)算機(jī)系聯(lián)合培養(yǎng)博士均向他拋來了橄欖枝。由于電子工程與計(jì)算機(jī)科學(xué)的交叉背景和高中物理競賽的經(jīng)歷,他希望做更加接近世界本質(zhì)的物理研究,并面向AI的計(jì)算需求研發(fā)物理本征的計(jì)算設(shè)備。
最后他選擇了凝聚態(tài)物理學(xué)科中的磁學(xué)與自旋電子學(xué),到國內(nèi)磁學(xué)重鎮(zhèn)北京大學(xué)應(yīng)用磁學(xué)中心攻讀碩士學(xué)位,師從楊金波教授、羅昭初研究員。他基于磁學(xué)與機(jī)器學(xué)習(xí)的深層關(guān)聯(lián),提出磁性計(jì)算、物理本征計(jì)算的新方案,研究方向涉及新型自旋電子學(xué)工藝與器件,以及神經(jīng)形態(tài)計(jì)算、類腦計(jì)算、概率計(jì)算、近存計(jì)算等新型計(jì)算方案。
在2021年10月尚未入學(xué)北大之際,他就已經(jīng)與導(dǎo)師羅昭初圍繞磁學(xué)相關(guān)的產(chǎn)業(yè)化方向展開了討論與探索。他認(rèn)為,“磁性計(jì)算”是他們這樣一支立足北大磁學(xué)高地,又深耕AI算法和集成電路設(shè)計(jì)的團(tuán)隊(duì)最具有優(yōu)勢的方向。他希望做第一個(gè)完成磁性計(jì)算芯片商業(yè)閉環(huán)的公司。
他深入理解磁學(xué)的實(shí)驗(yàn)物理、器件和工藝后,找到了能有效落地的磁性芯片技術(shù)方案。
目前國內(nèi)磁存儲、磁傳感等領(lǐng)域的市場競爭已經(jīng)愈發(fā)激烈,有北航等高校的多年攻關(guān)和全國重點(diǎn)實(shí)驗(yàn)室支撐,還有希磁、燦瑞等大型企業(yè)具有規(guī)模和技術(shù)優(yōu)勢,致使初創(chuàng)企業(yè)很難快速占領(lǐng)有利生態(tài)位。
基于嵌入式新型磁器件的計(jì)算芯片設(shè)計(jì)道路則更符合他想快速商業(yè)落地的目標(biāo)。他認(rèn)為這條賽道目前已經(jīng)被臺積電、三星、SK海力士等半導(dǎo)體大廠押注并驗(yàn)證,同時(shí)能基于國內(nèi)磁性工業(yè)基礎(chǔ)快速在2~3年內(nèi)快速實(shí)現(xiàn)量產(chǎn)。
▲磁電子學(xué)自旋電子學(xué)(圖源:寒序科技)
這一創(chuàng)業(yè)想法在2022年底ChatGPT發(fā)布之際被加速,他們開始尋找新型磁性計(jì)算芯片在云端算力上的機(jī)會點(diǎn)。
2023年5月,朱欣岳開始正式籌備磁性計(jì)算的創(chuàng)業(yè)方案,這也是北大磁學(xué)在信息技術(shù)領(lǐng)域唯一的產(chǎn)業(yè)化項(xiàng)目。三個(gè)月后,寒序科技在北京正式成立,寒序科技還與澳門大學(xué)模擬與混合信號超大規(guī)模集成電路國家重點(diǎn)實(shí)驗(yàn)室進(jìn)行集成電路設(shè)計(jì)合作。
多學(xué)科交叉背景,是朱欣岳尋找人才的準(zhǔn)則之一。目前寒序科技共有20余人,大多為90后,他們的學(xué)科涉及底層物理、材料、器件工藝,以及芯片設(shè)計(jì)、芯片制造、AI算法等多個(gè)領(lǐng)域。
這個(gè)團(tuán)隊(duì)中,朱欣岳統(tǒng)管技術(shù)、產(chǎn)品、運(yùn)營,他的導(dǎo)師羅昭初負(fù)責(zé)前瞻性技術(shù)判斷、戰(zhàn)略布局。團(tuán)隊(duì)的優(yōu)勢包括,不僅能超預(yù)期完成工程技術(shù)研發(fā)、產(chǎn)品規(guī)劃,且相比于學(xué)術(shù)出身的創(chuàng)業(yè)團(tuán)隊(duì)對于產(chǎn)業(yè)、行業(yè)有著更為前沿、超預(yù)期的認(rèn)知。
寒序科技聯(lián)合創(chuàng)始人兼首席科學(xué)家,北京大學(xué)物理學(xué)院助理教授、研究員、博士生導(dǎo)師羅昭初是國內(nèi)磁學(xué)領(lǐng)域的知名學(xué)者。他在清華大學(xué)材料學(xué)院獲得學(xué)士和博士學(xué)位,并分別在頂級期刊Nature、Science發(fā)布兩篇論文。
二、低能耗、速度快、體積小是天然優(yōu)勢,兩大產(chǎn)品系列明年推出
寒序科技已經(jīng)形成兩大產(chǎn)品系列,分別是針對AI需求,探索磁性存算一體技術(shù),適用于大模型推理的超高帶寬磁性邏輯計(jì)算芯片SpinPU-E系列芯片;針對特定需求,探索量子啟發(fā)的經(jīng)典計(jì)算,高比特?cái)?shù)全連接磁性概率計(jì)算芯片SpinPU-M系列芯片。
▲寒序科技的產(chǎn)品矩陣(圖源:寒序科技)
這家創(chuàng)企的M系列芯片對標(biāo)的是北美量子計(jì)算創(chuàng)企D-Wave。D-Wave專注用超導(dǎo)量子比特實(shí)現(xiàn)量子計(jì)算機(jī)。
在量子計(jì)算標(biāo)準(zhǔn)問題Max-Cut求解測試中,SpinPU-M01與D-Wave最新一代產(chǎn)品相比,速度均在秒級以下,求解規(guī)模更優(yōu)。且寒序科技的SpinPU-M01芯片大規(guī)模流片量產(chǎn)后,性能可對標(biāo)D-Wave最新產(chǎn)品。
▲寒序科技與D-Wave產(chǎn)品性能對比(圖源:寒序科技)
創(chuàng)業(yè)初期,朱欣岳基于學(xué)術(shù)和產(chǎn)業(yè)認(rèn)知的判斷是:云端推理需求、端側(cè)模型部署需求會激增。2024年初,寒序科技就已針對Llama、Qwen、DeepSeek等開源模型進(jìn)行了更底層的垂直適配。
磁性計(jì)算芯片具備的低能耗、速度快、體積小的底層優(yōu)勢,與這兩大領(lǐng)域相契合。
質(zhì)量、電荷和自旋,是標(biāo)識電子特性最為重要的三個(gè)物理量,傳統(tǒng)芯片以電子的電荷作為信息載體,信息通過電流傳導(dǎo)。然而,電子的另一個(gè)自由度——自旋則幾乎被忽略了。
電子電荷在電路中流動會因電阻產(chǎn)生熱量,導(dǎo)致能量損耗。隨著芯片集成度提高,熱損耗問題愈發(fā)嚴(yán)重。而電子自旋主要通過改變自旋狀態(tài)來傳遞和處理信息,不依賴電子的大量定向移動,理論上能耗更低,且其翻轉(zhuǎn)速度極快,理論上可以在亞納秒甚至皮秒級的時(shí)間尺度內(nèi)完成,這使得基于電子自旋的信息處理有望實(shí)現(xiàn)更高的頻率和更快的運(yùn)算速度。
▲電子自旋原理示意圖(圖源:寒序科技)
從最底層物理材料、芯片設(shè)計(jì)到上層軟件算法進(jìn)行聯(lián)合優(yōu)化,磁計(jì)算芯片可以實(shí)現(xiàn)更低功耗和更快運(yùn)算速度。相比于同樣擁有功耗、速率優(yōu)勢的光芯片,磁計(jì)算芯片還能做到更小的體積和更高的硅基兼容性。
同時(shí),微納磁器件直接沉積到硅基晶體管之上,在后道工藝的上層金屬做磁性隧道結(jié),單元級互聯(lián)實(shí)現(xiàn)超高密度,從計(jì)算架構(gòu)上做到超高訪存帶寬,相比于HBM有更大帶寬優(yōu)勢。而高帶寬就意味著更快的推理速度,寒序科技計(jì)劃將首詞元延遲(TTFT,Time to First Token)和詞元生成速度(TPS,Tokens Per Second)做到極致,比英偉達(dá)快5倍~10倍,做“最快”的推理芯片。
從產(chǎn)業(yè)角度看,存算分離架構(gòu)中數(shù)據(jù)需在存儲端與計(jì)算端之間頻繁傳輸,難以跨越傳統(tǒng)馮·諾依曼架構(gòu)帶來的“存儲墻”和“功耗墻”。寒序科技基于存算一體架構(gòu)的磁性芯片則利用微納磁性器件與獨(dú)有的磁性芯片設(shè)計(jì)手段,推出超高帶寬、更快推理速度的SpinPU-E系列磁邏輯計(jì)算芯片。
在基于先進(jìn)存儲的高性能推理芯片架構(gòu)上,寒序科技對標(biāo)的是時(shí)下兩家知名AI芯片創(chuàng)企Groq和Cerebras。他們采用的路線均為SRAM存算一體,但因其器件體積較大、集成密度低、芯片容量小,導(dǎo)致用于云計(jì)算推理時(shí)成本較高。
SRAM存儲單元由六個(gè)晶體管組成,單位面積芯片上存儲的容量或者能承載的模型權(quán)重較為有限,且SRAM的性能提升很大程度上要依賴于工藝節(jié)點(diǎn)下降,國內(nèi)的工藝現(xiàn)狀意味著這條路面臨諸多瓶頸。
三、主攻AI藥物研發(fā),參與智算中心建設(shè)、大模型適配
在商業(yè)化落地層面,寒序科技的M系列概率計(jì)算芯片瞄準(zhǔn)了AI制藥、航天、水利電力領(lǐng)域,選擇標(biāo)準(zhǔn)是:哪個(gè)賽道能快速驗(yàn)證產(chǎn)品性能,就在哪個(gè)賽道做標(biāo)桿客戶。E系列的邏輯計(jì)算芯片則直接面向智算中心、大模型企業(yè)與互聯(lián)網(wǎng)大廠的推理需求,展開產(chǎn)品適配與市場拓展。
憑借與學(xué)術(shù)界緊密的技術(shù)聯(lián)結(jié)優(yōu)勢,以及具備與行業(yè)頭部企業(yè)協(xié)同開展工業(yè)級測試的能力,AI制藥領(lǐng)域成為寒序科技的第一個(gè)性能驗(yàn)證場景。
SpinPU-E系列磁邏輯計(jì)算芯片為Transformer架構(gòu)定制設(shè)計(jì),可兼容國內(nèi)28nm硅基工藝,采用存算一體的磁計(jì)算范式,提高帶寬并降低成本。應(yīng)用方面適用于主流AI模型的端側(cè)部署,直接面向AI大模型及邊緣推理市場,應(yīng)用場景包括智能硬件、具身智能、自動駕駛、AI PC等。
SpinPU-M01實(shí)現(xiàn)了1024比特?cái)?shù)、1023連接度、16位寬精度,朱欣岳透露,下一代芯片他們保守會做到4096比特?cái)?shù)、4095連接度、16~32位寬精度。
▲寒序科技SpinPU-M01性能(圖源:寒序科技)
對于未來的產(chǎn)品迭代規(guī)劃,其會在可控成本下進(jìn)行工程實(shí)現(xiàn),追求計(jì)算速度的極限,同時(shí)讓M系列做到軟件側(cè)盡量開源、硬件側(cè)盡量穩(wěn)定,目前其第一代產(chǎn)品仍在優(yōu)化過程中。
在芯片研發(fā)之外,寒序科技還會參與智算中心建設(shè)、異構(gòu)計(jì)算適配、前沿大模型適配等。朱欣岳提到,這是因?yàn)樗麄兲峁┑募铀倏ê头?wù)器的標(biāo)準(zhǔn)、具體產(chǎn)品形態(tài)和交易結(jié)構(gòu)會隨著市場變化而變化,因此寒序科技會將后期產(chǎn)品化以及算法適配的工作前置,注重產(chǎn)業(yè)生態(tài)站位以及與下游客戶的綁定,以便動態(tài)調(diào)整終端產(chǎn)品形態(tài)和交付方式。
結(jié)語:跳出主流硅基芯片,磁性芯片在推理、邊緣側(cè)找到落地場景
當(dāng)下,大模型的發(fā)展對如何讓算力更好用、易用提出更高要求,寒序科技在傳統(tǒng)硅基芯片之外,選擇了一條以CMOS兼容的新型磁性芯片路徑,并依托其低能耗、速度快、體積小的天然優(yōu)勢,在AI推理、邊緣端模型部署中找到了有效落地場景。
成立不到兩年,有著多學(xué)科交叉背景的寒序科技團(tuán)隊(duì),將北京大學(xué)這一國內(nèi)磁學(xué)研究高地在學(xué)術(shù)研究上的進(jìn)展,與國內(nèi)工藝基礎(chǔ)相協(xié)同,在產(chǎn)品層面已經(jīng)初見成效。寒序科技SpinPU-M系列芯片正在與客戶進(jìn)行聯(lián)合調(diào)試,其面向云側(cè)和邊緣側(cè)的芯片都將于未來推出。
未來,這種依托于磁性器件特性的磁概率計(jì)算和磁邏輯計(jì)算芯片未來如何在實(shí)際應(yīng)用中有效落地并發(fā)揮價(jià)值,還需拭目以待。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.