可替代NVIDIA！摩尔线程GPU千卡集群完成30亿参数大模子实训

快科技5月27日音书，摩尔线程、无问芯穹辘集书记，两边仍是正经完成MT-infini-3B 3B(30亿参数)规模大模子的实训，基于摩尔线程国产全功能GPU MTT S4000构成的千卡集群，以及无问芯穹的AIStudio PaaS平台。

本次实训充分考据了夸娥千卡智算集群在大模子探员场景下的可靠性，同期也在行业内率先开启了国产大道话模子与国产GPU千卡智算集群深度合营的新范式。

据悉，此次的MT-infini-3B模子探员统共用时13.2天，全程踏实无中断，集群探员踏实性达到100％，千卡探员和单机比较膨胀效果陶冶90％。

当今，实训出来的MT-infini-3B性能在同规模模子中踏进前方，比较在海外主流硬件上(尤其是NVIDIA)探员而成的其他模子，在C-Eval、MMLU、CMMLU等3个测试集上均罢了性能开头。

无问芯穹正在打造“M种模子”和“N种芯片”之间的“M x N”中间层家具，罢了多种大模子算法在多元芯片上的高效、妥洽部署，已与摩尔线程达成深度政策合营。

摩尔线程是第一家接入无问芯穹并进行千卡级别大模子探员的国产GPU公司，夸娥千卡集群已与无穹Infini-AI告成完成系统级和会适配，完成LLama2 700亿参数大模子的探员测试。

T-infini-3B的探员，则是行业内初度罢了基于国产GPU芯片从0到1的端到端大模子实训案例。

就在日前，基于摩尔线程的夸娥千卡集群，憨猴集团也告捷完成了7B、34B、70B不同参数目级的大模子辨认式探员，两边还达成政策合营。

经两边共同严苛测试，兼容适配进程高，探员效果达到预期，精度稳妥条件，系数探员历程抓续踏实。