8月15日，科大訊飛在星火認(rèn)知大模型發(fā)布會(huì)上，與華為共同發(fā)布一款用于企業(yè)構(gòu)建專屬大模型的軟硬件一體化設(shè)備“星火一體機(jī)”，讓所有企業(yè)都可以在國產(chǎn)自主創(chuàng)新的平臺(tái)上自主、安全、可控地私有化部署大模型。

【資料圖】

科大訊飛董事長劉慶峰在發(fā)布會(huì)上介紹稱：“星火一體機(jī)可用于大模型的訓(xùn)練和推理，企業(yè)拎回去，開箱即可用。每一家企業(yè)，每一個(gè)行業(yè)、每一個(gè)學(xué)校、每個(gè)醫(yī)院都可以有機(jī)會(huì)構(gòu)建自己的專屬大模型。”

他還表示，正在與華為打造面向超大規(guī)模參數(shù)大模型訓(xùn)練的國產(chǎn)算力的集群，對(duì)標(biāo)英偉達(dá)的A100芯片。A100是目前在大模型訓(xùn)練市場上應(yīng)用最廣泛的芯片。

另據(jù)第一財(cái)經(jīng)記者獨(dú)家證實(shí)，星火一體機(jī)使用的是華為尚未官方對(duì)外發(fā)布的昇騰910B人工智能芯片。今年8月1日，華為在官網(wǎng)上公布了昇騰910B NPU驅(qū)動(dòng)和固件升級(jí)指南。

一位業(yè)內(nèi)人士告訴第一財(cái)經(jīng)記者：“華為昇騰910B芯片的性能從未對(duì)外公布，但最近華為在業(yè)內(nèi)大力推廣這一平臺(tái)，而且它的性能與上一代的910相比，應(yīng)該絕對(duì)不是一個(gè)量級(jí)。”

第一財(cái)經(jīng)記者了解到，星火一體機(jī)也是910B芯片首個(gè)對(duì)外商業(yè)化應(yīng)用產(chǎn)品。上個(gè)月，科大訊飛就與華為宣布，打造基于中國自主創(chuàng)新的通用智能新底座。一方面，訊飛星火認(rèn)知大模型基于訓(xùn)練推理一體化設(shè)計(jì)，實(shí)現(xiàn)大模型稀疏化、低精度量化的技術(shù)突破，能高效適配昇騰AI，加速大模型的行業(yè)落地應(yīng)用和迭代；另一方面，以昇騰AI為核心，軟硬件協(xié)同優(yōu)化，構(gòu)建算力集中、性能優(yōu)越、供給穩(wěn)定、數(shù)據(jù)安全的大模型訓(xùn)練集群。

據(jù)介紹，星火一體機(jī)提供從底層算力、AI框架、訓(xùn)練算法、推理能力、應(yīng)用成效等全棧AI能力，可用于問答系統(tǒng)、對(duì)話生成、知識(shí)圖譜構(gòu)建、智能推薦等多個(gè)領(lǐng)域的應(yīng)用，具備大模型預(yù)訓(xùn)練、多模態(tài)理解與生成、多任務(wù)學(xué)習(xí)和遷移等能力。

劉慶峰表示：“華為與科大訊飛將共同在生成式軟硬件平臺(tái)上，把高算力、高性能的算子庫，多卡的高速互聯(lián)以及分布式存儲(chǔ)結(jié)合起來，尤其是我們聯(lián)合針對(duì)人工智能所需要的最重要的算子庫進(jìn)行甄別和打磨，在此基礎(chǔ)上架構(gòu)科大訊飛的訓(xùn)練和數(shù)據(jù)閉環(huán)的全流程設(shè)計(jì)，以及訓(xùn)練和推理一體化設(shè)計(jì)的自研的大模型訓(xùn)練平臺(tái)。”

劉慶峰稱，目前該平臺(tái)在單卡算力上已經(jīng)能夠?qū)?biāo)英偉達(dá)的A100芯片。“現(xiàn)在我們基本按照國產(chǎn)的芯片來規(guī)劃了，因?yàn)槲覀円呀?jīng)不能買美國芯片了，除了早期有的那些（英偉達(dá)）的算力外，我們現(xiàn)在必須全部國產(chǎn)化。”他表示。

訊飛星火大模型擁有130億、650億和1750億三個(gè)版本的模型參數(shù)可選，圍繞星火大模型，科大訊飛也在構(gòu)建開發(fā)者生態(tài)，目前已經(jīng)有4000多個(gè)助手開發(fā)者團(tuán)隊(duì)加入星火平臺(tái)。

在媒體采訪中談及星火大模型未來是否會(huì)走向開源時(shí)，劉慶峰說道：“我們會(huì)做一部分開源，但是肯定不會(huì)全部開源，開源的部分主要是為了推動(dòng)科研、高校研發(fā)這些目的，我們會(huì)給他們一份開源。”

標(biāo)簽：