廣東首個采用國產(chǎn)TPU技術(shù)的智算中心,來了!
來源:證券時報網(wǎng)作者:周春媚2024-09-14 15:21

近日,在第五屆深圳國際人工智能展(GAIE)第二屆智能算力發(fā)展論壇上,中昊芯英(杭州)科技有限公司(以下簡稱“中昊芯英”)與中國聯(lián)合網(wǎng)絡(luò)通信有限公司深圳市分公司(以下簡稱“深圳聯(lián)通”)聯(lián)合舉辦了“智算基建,加速未來”高性能AI智算中心項目啟動儀式,標(biāo)志著雙方將攜手合作共同建設(shè)廣東首個采用國產(chǎn)TPU技術(shù)的智算中心。

image.png

據(jù)了解,中昊芯英作為國內(nèi)領(lǐng)先的TPU架構(gòu)AI芯片企業(yè),此次提供了搭載其自主研發(fā)的高性能TPU芯片“剎那?”的人工智能服務(wù)器及大規(guī)模AI計算集群系統(tǒng)“泰則?”,為項目搭建堅實的AI計算底座。深圳聯(lián)通則憑借其強(qiáng)大的網(wǎng)絡(luò)資源和豐富的運(yùn)營經(jīng)驗,將配合政府及行業(yè)伙伴,建設(shè)針對特定行業(yè)的智算節(jié)點,預(yù)部署相應(yīng)軟件和模型,為社會提供智能算力服務(wù)或MaaS服務(wù),賦能產(chǎn)業(yè)發(fā)展。

把TPU做成AI界的X86

在ChatGPT掀起生成式AI的浪潮以后,美國芯片公司英偉達(dá)作為“賣鏟人”,憑借其 GPU 在大模型訓(xùn)練和推理中的出色發(fā)揮而賺得盆滿缽滿,其高性能的A100、H100等計算卡供不應(yīng)求、價格昂貴。在AI時代,要與已在行業(yè)中深耕積累了幾十年的行業(yè)龍頭競爭,更務(wù)實的選擇或許是另辟蹊徑,尋覓新的突破口。

“我們想把TPU這個架構(gòu)做成AI界的X86。”在接受記者采訪時,中昊芯英創(chuàng)始人兼CEO楊龔軼凡表示,英特爾的X86統(tǒng)治了PC,CPU時代沒有任何架構(gòu)能夠跟X86競爭,直到手機(jī)出現(xiàn),ARM才分走了一部分市場份額。“我們希望TPU架構(gòu)就是AI界里未來最核心的架構(gòu)方式。TPU是為了AI的深度學(xué)習(xí)而設(shè)計的,它的想象力比GPU更強(qiáng),雖然放棄了一些靈活性,但也獲取了巨大的性能優(yōu)勢?!睏铨忀W凡說。

針對大模型的模型訓(xùn)練和推理性設(shè)計,一方面,TPU軟件和網(wǎng)絡(luò)的架構(gòu)和結(jié)構(gòu)比GPU實現(xiàn)同樣性能的網(wǎng)絡(luò)架構(gòu)更為簡潔和簡單,在軟件的運(yùn)維層面也會更簡潔一些;另一方面,在硬件的搭載過程中,也會設(shè)計讓它實現(xiàn)可運(yùn)維,盡可能降低生產(chǎn)成本、運(yùn)維成本,最后實現(xiàn)對模型的高算力的支持。

目前,英偉達(dá)雖然在高端AI芯片上占據(jù)了大多數(shù)市場份額,但谷歌、微軟、亞馬遜等云服務(wù)商也是AI芯片領(lǐng)域的重要玩家,其中谷歌TPU更是對英偉達(dá)的GPU構(gòu)成了挑戰(zhàn)。目前,國內(nèi)做TPU芯片的公司并不多,中昊芯英是國內(nèi)唯一掌握TPU架構(gòu)AI芯片核心研發(fā)技術(shù)的公司。據(jù)了解,楊龔軼凡曾在谷歌深度參與了TPU 2/3/4的設(shè)計與研發(fā),公司匯聚了來自谷歌、甲骨文、微軟、海思等全球科技巨頭的AI軟硬件設(shè)計人才,在國產(chǎn)TPU芯片上具有較強(qiáng)的先發(fā)優(yōu)勢。

據(jù)楊龔軼凡介紹,經(jīng)過近5年的積累,中昊芯英已經(jīng)進(jìn)入第一代產(chǎn)品的量產(chǎn)生產(chǎn)周期。不過,楊龔軼凡也表示,高性能芯片作為時間周期長的科技型產(chǎn)品,公司的TPU雖然用5年走過了“從0到1”,但“從1到100”依然需要時間?!肮雀鑿哪戤a(chǎn)1000片芯片到今年有280萬芯片的量產(chǎn),花了近10年時間。我們希望在未來的3到4年內(nèi),在中昊芯英第10年的時候,也有超過百萬片的芯片銷售,實現(xiàn)超過百億元的營收體量?!睏铨忀W凡說。

為人工智能產(chǎn)業(yè)發(fā)展夯實算力基座

深圳作為全國科技創(chuàng)新的前沿陣地,一直走在人工智能產(chǎn)業(yè)發(fā)展的前列。據(jù)深圳聯(lián)通副總經(jīng)理趙桂標(biāo)介紹,中昊芯英與深圳聯(lián)通本次共建的智算中心是廣東地區(qū)首個采用國產(chǎn)TPU技術(shù)的智算中心?!澳壳?,項目第一期會部署32個智算節(jié)點,算力為50P,后期會加快擴(kuò)容,擴(kuò)大到千卡集群的規(guī)模,助力智算中心相關(guān)建設(shè),成為深圳智算核心高地的重要組成部分?!壁w桂標(biāo)表示。

值得一提的是,該項目的優(yōu)勢在于算力的共享,避免單個企業(yè)因業(yè)務(wù)需求波動導(dǎo)致的算力閑置或不足問題,提高算力整體利用率,降低運(yùn)營成本。同時,該項目將搭載聯(lián)通云自研“星羅”算力管理平臺,實現(xiàn)多元異構(gòu)算力的適配和服務(wù)編排,形成“通算+智算+超算”的融合調(diào)度能力,可面向客戶提供一體化的算力運(yùn)營服務(wù),也可用于企業(yè)私有化部署的智能算力網(wǎng)絡(luò)搭建及運(yùn)營管理。

深圳聯(lián)通表示,此次雙方合作共建的智算中心,是一個由業(yè)務(wù)需求驅(qū)動的項目。這一項目主要有兩大特點,一是數(shù)、算、用一體,能夠滿足數(shù)算用場景,是一個訓(xùn)練推理一體化的項目;二是這一合作模式可復(fù)制,其他地方可以根據(jù)這個經(jīng)驗進(jìn)行快速迭代和復(fù)制,快速建立起相關(guān)的算力中心,為企業(yè)提供訓(xùn)練推理一體化的算力服務(wù)。

記者了解到,在中昊芯英與深圳聯(lián)通共建智算中心的這一合作模式中,雙方將充分發(fā)揮各自優(yōu)勢,做到資源共享、能力互補(bǔ)、互利共贏。楊龔軼凡表示,中昊芯英作為芯片研發(fā)商,在算力集群的軟件棧和硬件棧打造上具有專業(yè)優(yōu)勢,而深圳聯(lián)通則擅長云平臺的建設(shè)和導(dǎo)入、智算中心的建設(shè)、能耗的管理。通過合作,雙方致力于將智算中心打造得可靠、好用、效率高。

人工智能產(chǎn)業(yè)的騰飛離不開算力的支撐。隨著AIGC時代的到來,大模型訓(xùn)練、神經(jīng)網(wǎng)絡(luò)開發(fā)等應(yīng)用場景對算力的需求日益激增。中昊芯英表示,在企業(yè)布局和市場需求的共同推動下,中昊芯英AI高性能智算中心的運(yùn)營方案也正逐漸走向成熟,將成為推動產(chǎn)業(yè)轉(zhuǎn)型升級的重要力量,為人工智能產(chǎn)業(yè)的發(fā)展夯實算力基座。

校對:劉星瑩

責(zé)任編輯: 劉少敘
聲明:證券時報力求信息真實、準(zhǔn)確,文章提及內(nèi)容僅供參考,不構(gòu)成實質(zhì)性投資建議,據(jù)此操作風(fēng)險自擔(dān)
下載“證券時報”官方APP,或關(guān)注官方微信公眾號,即可隨時了解股市動態(tài),洞察政策信息,把握財富機(jī)會。
網(wǎng)友評論
登錄后可以發(fā)言
發(fā)送
網(wǎng)友評論僅供其表達(dá)個人看法,并不表明證券時報立場
暫無評論
為你推薦
時報熱榜
換一換
    熱點視頻
    換一換