文 / 一燈
近期，DeepSeek的火爆出圈，直接撬動(dòng)了資本市場(chǎng)對(duì)AI+產(chǎn)業(yè)鏈的投資熱情。不僅在2月5日開(kāi)工第一天，DeepSeek概念指數(shù)大漲14.73%，AI應(yīng)用端和科技全線拉升，2月6日早盤(pán)仍顯示，A股TMT科技板塊延續(xù)強(qiáng)勢(shì)，DeepSeek、AI算力概念繼續(xù)活躍。
而就在新年開(kāi)工、DeepSeek概念指數(shù)大漲的同一天，中國(guó)大模型市場(chǎng)又傳出重磅新聞：百度智能云成功點(diǎn)亮昆侖芯三代萬(wàn)卡集群，成為國(guó)內(nèi)首個(gè)正式點(diǎn)亮的自研萬(wàn)卡集群。模型上線首日，已有超1.5萬(wàn)家客戶通過(guò)千帆平臺(tái)進(jìn)行模型調(diào)用。
這不僅標(biāo)志著百度在自研芯片與大規(guī)模AI算力布局上的又一次重大突破，也預(yù)示著AI模型的訓(xùn)練成本將迎來(lái)新一輪下調(diào)，整個(gè)行業(yè)的發(fā)展再次被注入新動(dòng)能。
那么，在各大科技巨頭都加速推進(jìn)AI算力基建的當(dāng)下，萬(wàn)卡集群究竟是什么？為何大家都在積極推進(jìn)自研、自建萬(wàn)卡集群？國(guó)產(chǎn)萬(wàn)卡集群的不斷演進(jìn)，又將給智算產(chǎn)業(yè)帶來(lái)怎樣的改變？
01 國(guó)產(chǎn)萬(wàn)卡集群，中國(guó)AI新突破近年來(lái)，隨著AI大模型的不斷涌現(xiàn)，模型規(guī)模和數(shù)據(jù)參數(shù)都呈現(xiàn)出指數(shù)級(jí)增長(zhǎng)。
例如在前期訓(xùn)練，據(jù)了解，2018年OpenAI發(fā)布的GPT-1模型參數(shù)量為1.17億；到2020年，GPT-3的參數(shù)量已達(dá)到1750億；2023年，GPT-4的參數(shù)量進(jìn)一步增長(zhǎng)到約1.8萬(wàn)億。
參數(shù)量的快速增長(zhǎng)推動(dòng)了AI模型性能的大幅提升，使其在自然語(yǔ)言處理、圖像識(shí)別等領(lǐng)域的表現(xiàn)越來(lái)越好。但同時(shí)，模型參數(shù)量的增長(zhǎng)也讓AI 模型訓(xùn)練的算力需求每3.5個(gè)月翻一番，每年所需算力增幅高達(dá)10倍，增速遠(yuǎn)遠(yuǎn)超出了芯片產(chǎn)業(yè)長(zhǎng)期存在的摩爾定律（性能每18個(gè)月翻一番）。
圖源：國(guó)金證券研究所
以擁有16個(gè)專(zhuān)家模型、約1.8萬(wàn)億參數(shù)的GPT-4為例，其訓(xùn)練約使用了 25000個(gè)英偉達(dá)（NVIDIA ）的A100 GPU ，持續(xù)時(shí)間長(zhǎng)達(dá)90至100天，對(duì)算力的消耗非常大。
并且，除了訓(xùn)練時(shí)的算力需求，隨著大模型及應(yīng)用越來(lái)越多地部署到企業(yè)實(shí)際業(yè)務(wù)場(chǎng)景中，后期推理的算力需求也水漲船高。因此，大規(guī)模 GPU 算力集群成為必然選擇。這也是為什么近年來(lái)國(guó)內(nèi)外科技廠商紛紛布局 AI 算力基礎(chǔ)設(shè)施，死磕萬(wàn)卡甚至10萬(wàn)卡集群。
而萬(wàn)卡集群，顧名思義，是指由超過(guò)一萬(wàn)張加速卡（如GPU、TPU或其他專(zhuān)用AI加速芯片）組成的高性能計(jì)算系統(tǒng)，用以加速人工智能模型的訓(xùn)練和推理過(guò)程。
圖源：百度
相比于訓(xùn)練周期長(zhǎng)、成本高的傳統(tǒng)千億參數(shù)模型，萬(wàn)卡集群首先在計(jì)算能力、數(shù)據(jù)處理速度和存儲(chǔ)容量等方面都有著質(zhì)的飛躍。它能夠通過(guò)并行計(jì)算和分布式處理，將龐大的數(shù)據(jù)和模型有效地組織起來(lái)，顯著縮短模型的訓(xùn)練周期，提高研發(fā)效率。
其次，作為一種靈活的計(jì)算基礎(chǔ)設(shè)施，萬(wàn)卡集群能夠根據(jù)不同的應(yīng)用需求進(jìn)行定制化的配置和優(yōu)化，同時(shí)支持更大規(guī)模模型和更復(fù)雜的多模態(tài)任務(wù)，比如智能醫(yī)療診斷、自動(dòng)駕駛技術(shù)、自然語(yǔ)言處理等領(lǐng)域。這既為AI技術(shù)的創(chuàng)新和發(fā)展提供了更廣闊的空間和可能，也為企業(yè)在AI領(lǐng)域的競(jìng)爭(zhēng)中贏得先機(jī)。
此外，萬(wàn)卡集群通過(guò)提升算力利用率、簡(jiǎn)化用戶部署流程，也降低了AI技術(shù)的使用門(mén)檻，進(jìn)而推動(dòng)其在各個(gè)領(lǐng)域的廣泛應(yīng)用。
但在《節(jié)點(diǎn)財(cái)經(jīng)》看來(lái)，萬(wàn)卡集群雖好，但想要成功搭建也不是易事。
據(jù)了解，要想建設(shè)萬(wàn)卡集群規(guī)模的算力中心，通常要面臨幾大挑戰(zhàn)：
● 算力使用效率：集群規(guī)模提升不等于算力線性提升，關(guān)鍵在于互聯(lián)網(wǎng)絡(luò)和軟硬件適配調(diào)優(yōu)。需運(yùn)用系統(tǒng)工程方法，精細(xì)化設(shè)計(jì)網(wǎng)絡(luò)和軟硬件整合優(yōu)化，以提升集群算力使用效率。
● 海量數(shù)據(jù)處理：未來(lái)萬(wàn)億模型的訓(xùn)練對(duì)checkpoint的讀寫(xiě)吞吐性能更是要求高達(dá)10TB/s，需通過(guò)協(xié)議融合、自動(dòng)分級(jí)等技術(shù)手段提升數(shù)據(jù)共享和處理能力。
● 多芯混訓(xùn)難題：受限于芯片廠商的產(chǎn)能，AI企業(yè)經(jīng)常采用不同型號(hào)、不同廠商的芯片來(lái)組建算力集群。這些芯片在性能、架構(gòu)、指令集等方面都存在差異，如何讓它們?cè)谕粋€(gè)集群中協(xié)同工作，并且保證混部訓(xùn)練的效率，是一個(gè)亟待解決的問(wèn)題。
● 智算中心設(shè)計(jì)：高能耗、高密度的智算中心對(duì)于空間和能源的需求，遠(yuǎn)遠(yuǎn)超過(guò)了傳統(tǒng)機(jī)房部署方式的承載能力。這就要求在建設(shè)之初，提前對(duì)智算中心的供電制冷、承重等進(jìn)行配套設(shè)計(jì)，以便更好支撐超萬(wàn)卡集群的快速建設(shè)、便捷部署。
● 穩(wěn)定性與運(yùn)維：萬(wàn)卡集群中的計(jì)算卡數(shù)量龐大，網(wǎng)絡(luò)連接復(fù)雜，且當(dāng)單卡可靠性為99.99%時(shí)，萬(wàn)卡集群整體可靠性僅36.7%。一旦出現(xiàn)故障或延遲，將直接影響整個(gè)集群的計(jì)算效率和穩(wěn)定性。
圖源：百度
正如此前中國(guó)工程院院士、清華大學(xué)計(jì)算機(jī)系教授鄭緯民所言，當(dāng)下構(gòu)建國(guó)產(chǎn)自主萬(wàn)卡系統(tǒng)充滿挑戰(zhàn)，但至關(guān)重要。
02 百舸平臺(tái)賦能，讓中國(guó)AI產(chǎn)業(yè)率先跑起來(lái)目前，國(guó)內(nèi)智算中心的搭建有國(guó)內(nèi)外芯片混搭和全部國(guó)產(chǎn)化兩種集群模式，而后者關(guān)乎一國(guó)在邁向通用智能征程中的核心競(jìng)爭(zhēng)力。
正是意識(shí)到這樣的重要性，百度一直探索用自研芯片搭建自主可控的算力生態(tài)系統(tǒng)，始終將助力實(shí)現(xiàn) AI 基礎(chǔ)設(shè)施國(guó)產(chǎn)化作為核心目標(biāo)。
據(jù)了解，此次萬(wàn)卡集群的成功點(diǎn)亮，得益于百度在硬件和軟件方面的技術(shù)創(chuàng)新。
在硬件層面，自研芯片保障了在生成式AI時(shí)代的技術(shù)主權(quán)。此次支撐萬(wàn)卡集群高效運(yùn)行的昆侖芯三代，延續(xù)并優(yōu)化了前代產(chǎn)品的設(shè)計(jì)，在算力、能效、穩(wěn)定性等方面全面升級(jí)。
同時(shí)，百度也突破了卡間互聯(lián)拓?fù)湎拗?，避免通信帶寬成為瓶頸，并采用創(chuàng)新性散熱方案，有效解決了能效與散熱問(wèn)題，以確保集群高效、穩(wěn)定地運(yùn)行。
而在軟件層面，百舸AI異構(gòu)計(jì)算平臺(tái)4.0則在構(gòu)建高性能網(wǎng)絡(luò)、優(yōu)化分布式訓(xùn)練、多芯混訓(xùn)、故障診斷手段等方面發(fā)揮了至關(guān)重要的作用：
● 在分布式訓(xùn)練優(yōu)化上，百舸4.0采用高效并行化任務(wù)切分策略，將訓(xùn)練主流開(kāi)源模型的集群MFU提升至58%，大幅提升模型訓(xùn)練速度和資源利用率；
● 針對(duì)機(jī)間通信帶寬需求，百舸4.0構(gòu)建超大規(guī)模 HPN 高性能網(wǎng)絡(luò)并優(yōu)化拓?fù)浣Y(jié)構(gòu)，顯著降低了通信瓶頸，使帶寬有效性達(dá)到90%以上；
● 在多芯混訓(xùn)方面，百舸4.0可自動(dòng)進(jìn)行芯片選型，依據(jù)集群剩余資源選擇性價(jià)比最高的芯片運(yùn)行任務(wù)，實(shí)現(xiàn)高達(dá) 95% 的萬(wàn)卡多芯混合訓(xùn)練效能。
● 在集群穩(wěn)定性上，百舸4.0提供全面故障診斷手段，能快速自動(dòng)偵測(cè)節(jié)點(diǎn)故障，并將故障恢復(fù)時(shí)間從小時(shí)級(jí)縮短到分鐘級(jí)，避免由于單卡故障率隨規(guī)模指數(shù)上升而造成的萬(wàn)卡集群有效性大幅下降，保障有效訓(xùn)練率達(dá)到98%。
圖源：百度
由此，《節(jié)點(diǎn)財(cái)經(jīng)》認(rèn)為，構(gòu)建萬(wàn)卡集群不僅是芯片的堆砌整合，更要依托強(qiáng)大的AI計(jì)算平臺(tái)來(lái)支撐整個(gè)集群的調(diào)配設(shè)計(jì)。而百度智能云依托百舸AI異構(gòu)計(jì)算平臺(tái)4.0，實(shí)現(xiàn)了從集群創(chuàng)建到開(kāi)發(fā)實(shí)驗(yàn)，再到模型訓(xùn)練、推理的全鏈路優(yōu)化。不僅提升了自身的智算實(shí)力，也為智算行業(yè)提供新的發(fā)展思路。
值得一提的是，憑借著自研昆侖芯的技術(shù)優(yōu)勢(shì)以及百舸平臺(tái)的有力加持，百度智能云已為眾多企業(yè)提供了多、快、穩(wěn)、省的AI基礎(chǔ)設(shè)施。
例如，生數(shù)科技依托百度百舸高效、穩(wěn)定、混合多芯的能力，得以在短時(shí)間內(nèi)完成了Vidu大模型的上線和開(kāi)放API，其素材渲染加速效率提升3倍，數(shù)據(jù)拉取效率提升51倍；長(zhǎng)安汽車(chē)通過(guò)與百度智能云的深度合作，讓自動(dòng)駕駛模型訓(xùn)練的算力總體平均使用率提升到90%以上，綜合資源利用率提升了50%；教育場(chǎng)景先行者好未來(lái)教育集團(tuán)則借助百舸平臺(tái)自研出九章大模型（MathGPT），目前已經(jīng)廣泛應(yīng)用于好未來(lái)的智能硬件、學(xué)而思旗艦學(xué)習(xí)機(jī)及多個(gè)業(yè)務(wù)場(chǎng)景中......
圖源：百度智能云
可以預(yù)見(jiàn)，未來(lái)一年，將是各種AI原生應(yīng)用爆發(fā)的黃金時(shí)期。而百度智能云自研萬(wàn)卡集群的建成，不僅帶來(lái)了強(qiáng)大的算力支持，讓中國(guó)產(chǎn)業(yè)率先跑起來(lái)，也推動(dòng)了模型降本的趨勢(shì)，為各行各業(yè)的AI應(yīng)用和創(chuàng)新提供了實(shí)實(shí)在在的價(jià)值。
03 花小錢(qián)辦大事，中國(guó)AI再引全球矚目百度智能云自研萬(wàn)卡集群的成功點(diǎn)亮，不僅在國(guó)內(nèi)引發(fā)廣泛關(guān)注，也在國(guó)際市場(chǎng)掀起熱議。
日前，花旗銀行在研報(bào)中指出，百度、DeepSeek等中國(guó)模型展現(xiàn)出高效和低成本優(yōu)勢(shì)，將有助于加速全球AI應(yīng)用開(kāi)發(fā)，并在全球引發(fā)更多技術(shù)創(chuàng)新，推動(dòng)2025年人工智能應(yīng)用的拐點(diǎn)。
而資本市場(chǎng)上，百度在港股、美股的雙雙上漲，似乎也印證了這一點(diǎn)。
圖源：百度
《節(jié)點(diǎn)財(cái)經(jīng)》認(rèn)為，對(duì)于科技公司來(lái)說(shuō)，擁有強(qiáng)大的萬(wàn)卡集群意味著在AI時(shí)代奠定了堅(jiān)實(shí)的基礎(chǔ)和競(jìng)爭(zhēng)力。
一方面，萬(wàn)卡集群能夠?yàn)楣緝?nèi)部的各類(lèi)AI項(xiàng)目和業(yè)務(wù)提供穩(wěn)定且高效的計(jì)算支持；另一方面，萬(wàn)卡集群的建設(shè)不僅反映了企業(yè)在技術(shù)水平、資金投入和戰(zhàn)略規(guī)劃上的決策和能力，還能提升其在行業(yè)中的聲譽(yù)和影響力，吸引更多的人才、合作伙伴和資金，進(jìn)而形成一個(gè)良好的產(chǎn)業(yè)生態(tài)，為企業(yè)的持續(xù)發(fā)展提供堅(jiān)實(shí)的支持。
而從全球AI競(jìng)賽來(lái)看，繼DeepSeek從算法優(yōu)化角度狙擊大模型成本后，百度智能云再次證明了中國(guó)科技花小錢(qián)辦大事的智慧。國(guó)產(chǎn)萬(wàn)卡集群的出現(xiàn)，不僅再顯中國(guó)硬科技實(shí)力，也能解決過(guò)去價(jià)格高和無(wú)法穩(wěn)定應(yīng)用等問(wèn)題，進(jìn)一步降低企業(yè)進(jìn)行應(yīng)用開(kāi)發(fā)與產(chǎn)業(yè)創(chuàng)新的門(mén)檻。
據(jù)了解，百度智能云還計(jì)劃點(diǎn)亮3萬(wàn)卡集群，探索更高性能與擴(kuò)展性的算力邊界?？梢灶A(yù)見(jiàn)，隨著3萬(wàn)卡集群的進(jìn)一步落地，百度智能云乃至中國(guó)AI產(chǎn)業(yè)，都將在全球范圍內(nèi)贏得更大的市場(chǎng)話語(yǔ)權(quán)。
總之，在生成式AI浪潮下，中國(guó)科技企業(yè)正在從新技術(shù)的追隨者向新航路的開(kāi)辟者邁進(jìn)。而隨著智算需求的不斷增長(zhǎng)和算力中心的規(guī)模演進(jìn)，萬(wàn)卡集群將成為未來(lái)智能算力領(lǐng)域的新賽場(chǎng)。
當(dāng)下，百度智能云在AI算力賽道上的持續(xù)領(lǐng)跑，有望定義新一代集群架構(gòu)，重構(gòu)全球AI算力格局，同時(shí)催化新質(zhì)生產(chǎn)力，充分釋放AI在各行業(yè)場(chǎng)景落地，助力中國(guó)產(chǎn)業(yè)跑出真正的發(fā)展加速度。
看完覺(jué)得寫(xiě)得好的，不防打賞一元，以支持藍(lán)海情報(bào)網(wǎng)揭秘更多好的項(xiàng)目。
感謝您的支持，我會(huì)繼續(xù)努力的!
打開(kāi)支付寶掃一掃，即可進(jìn)行掃碼打賞哦
手機(jī)直接保存圖片,掃一掃識(shí)別二維碼,即可進(jìn)行掃碼打賞哦
