據(jù)美國多家媒體報(bào)道，全球半導(dǎo)體巨頭英偉達(dá)即將以數(shù)億美元的估值收購人工智能初創(chuàng)企業(yè)Lepton AI。值得關(guān)注的是，Lepton AI是由阿里云前副總裁賈揚(yáng)清創(chuàng)立。該公司的多家投資機(jī)構(gòu)也得以順利退出。

Lepton AI

Lepton AI做什么？

Lepton AI成立于2023年，創(chuàng)始人為賈揚(yáng)清和Junjie Bai，目前擁有大約20名員工，其客戶中包括多家風(fēng)險(xiǎn)投資支持的初創(chuàng)公司。

據(jù)公司介紹，該公司創(chuàng)立的平臺主要針對AI工作負(fù)載進(jìn)行了優(yōu)化，客戶既可以使用它來訓(xùn)練AI模型，也可以執(zhí)行推理，即在訓(xùn)練后在生產(chǎn)環(huán)境中運(yùn)行神經(jīng)網(wǎng)絡(luò)的任務(wù)。

此外，Lepton AI提供了一個(gè)可視化界面，用于在其云中設(shè)置訓(xùn)練集群。該公司提供多種英偉達(dá)顯卡供用戶選擇。而對于并排訓(xùn)練多個(gè)模型的團(tuán)隊(duì)，該平臺提供了一個(gè)工具，可用于集中管理分配給每個(gè)項(xiàng)目的硬件數(shù)量。

在訓(xùn)練期間，AI模型有時(shí)會遇到錯(cuò)誤，從而降低其輸出質(zhì)量。Lepton AI的平臺提供了檢測此類錯(cuò)誤的功能。它還發(fā)現(xiàn)了更微妙的技術(shù)問題，例如神經(jīng)網(wǎng)絡(luò)在訓(xùn)練期間使用的內(nèi)存可能超過應(yīng)有的內(nèi)存。

模型開發(fā)完成后，Lepton AI 客戶可以將其部署在公司云中的推理優(yōu)化實(shí)例上。該平臺承諾提供每秒超過600個(gè)令牌的處理速度，同時(shí)將延遲保持在10毫秒以下。當(dāng)需求增加時(shí)，自動擴(kuò)展功能會自動向客戶的推理環(huán)境添加更多硬件資源。

此外，Lepton AI還使用vLLM等開源工具加快推理速度。該技術(shù)將類似的LLM提示合并到單個(gè)請求中，從而減少了模型必須執(zhí)行的處理量。開發(fā)人員還使用vLLM來減少模型的內(nèi)存占用。

分析認(rèn)為，英偉達(dá)作為目前全球AI芯片的主要提供商，同時(shí)也面臨其最大客戶——云服務(wù)提供商的競爭壓力，如亞馬遜和谷歌正試圖開發(fā)和低價(jià)租賃替代芯片來削弱英偉達(dá)的市場地位。英偉達(dá)正尋求多元化發(fā)展，通過收購小型AI初創(chuàng)公司來推動其云和軟件業(yè)務(wù)的快速發(fā)展，使得使用英偉達(dá)芯片構(gòu)建新的AI模型成為可能。

英偉達(dá)此次收購Lepton AI，無疑是對其自身技術(shù)生態(tài)的一次有力補(bǔ)充。通過吸納Lepton AI在AI應(yīng)用平臺方面的專長，英偉達(dá)將能夠更好地滿足市場對高效、靈活A(yù)I解決方案的迫切需求。同時(shí)，這也將為英偉達(dá)芯片在AI領(lǐng)域的廣泛應(yīng)用開辟新的道路。

而對于Lepton AI而言，加入英偉達(dá)大家庭意味著其將獲得更多的資源和支持，從而加速技術(shù)創(chuàng)新和市場拓展的步伐?？梢灶A(yù)見，在英偉達(dá)的強(qiáng)大助力下，Lepton AI的技術(shù)成果有望更快地轉(zhuǎn)化為實(shí)際應(yīng)用，為全球企業(yè)帶來更加智能、高效的AI解決方案。

值得關(guān)注的是，在傳出收購Lepton AI消息的同時(shí)，英偉達(dá)還將收購另外一家人工智能初創(chuàng)企業(yè)Gretel。Gretel提供了用于創(chuàng)建合成數(shù)據(jù)的工具，這些合成數(shù)據(jù)是自動生成的，可用于訓(xùn)練AI模型。據(jù)報(bào)道，這筆交易的價(jià)值超過3.2億美元。

創(chuàng)始人賈揚(yáng)清

公開資料顯示，賈揚(yáng)清是全球AI架構(gòu)領(lǐng)域最知名的技術(shù)人才之一。2002年考入清華大學(xué)自動化系，先后獲得學(xué)士和碩士學(xué)位，后在美國加州大學(xué)伯克利分校獲得計(jì)算機(jī)科學(xué)博士學(xué)位。

2013年賈揚(yáng)清博士畢業(yè)后加入谷歌。2016年2月，賈揚(yáng)清從谷歌離職進(jìn)入Facebook，在時(shí)任Facebook人工智能實(shí)驗(yàn)室負(fù)責(zé)人Yann Le Cun手下?lián)窝芯靠茖W(xué)家。而在這個(gè)重要的人工智能實(shí)驗(yàn)室里，賈揚(yáng)清打造的深度學(xué)習(xí)框架Caffe，成為了Facebook重點(diǎn)部署的框架之一。2019年3月，阿里巴巴達(dá)摩院宣布，原Facebook人工智能科學(xué)家賈揚(yáng)清已正式加入阿里巴巴，擔(dān)任技術(shù)副總裁崗位，領(lǐng)導(dǎo)大數(shù)據(jù)計(jì)算平臺的研發(fā)工作。

2023年，賈揚(yáng)清離職創(chuàng)立了Lepton AI，該公司另外一位創(chuàng)始人Junjie Bai同樣在Meta工作過。

2023年5月，公司宣布完成天使輪融資，紅杉中國、Fusion Fund和CRV成為其天使輪投資者。英偉達(dá)此番收購的交易價(jià)值可能達(dá)數(shù)億美元，完成后，三家機(jī)構(gòu)也將實(shí)現(xiàn)比較可觀的退出。

校對：楊舒欣