圖源:攝圖網(wǎng)
全球最強(qiáng)開源模型,一夜易主!
近日,超級獨(dú)角獸Databricks重磅推出1320億參數(shù)的開源模型——DBRX,超越了Llama 2(meta)、Mixtral和Grok-1(注:馬斯克旗下AI初創(chuàng)公司xAI研發(fā)的大模型)。
據(jù)了解,DBRX采用了細(xì)粒度MoE架構(gòu),推理速度比LLaMA 2-70B快了2倍。最重要的是,訓(xùn)練成本只用了1000萬美元和3100塊H100,成本直降50%。Databricks就在2個月內(nèi)推出了DBRX。比起meta開發(fā)Llama2所用的成本和芯片,這是非常小的一部分。
DBRX在語言理解、編程、數(shù)學(xué)和邏輯方面輕松擊敗了開源模型LLaMA2-70B、Mixtral,以及Grok-1。另外,與閉源模型GPT-3.5相比,DBRX Instruct的性能全面超越了它,甚至還可與Gemini 1.0 Pro和Mistral Medium相較量。
Databricks自從2013年成立以來共完成了11輪融資,根據(jù)最新一輪融資,Databricks估值高達(dá)430億美元(約合3000億元人民幣)。
Databricks通過DBRX向meta、谷歌、OpenAI等AI公司發(fā)起挑戰(zhàn)。目前,企業(yè)可以在Databricks平臺上訪問DBRX,能在RAG系統(tǒng)中利用長上下文功能,還可以在自己的私有數(shù)據(jù)上構(gòu)建定制的DBRX模型。而開源社區(qū)可以通過GitHub存儲庫和Hugging Face訪問DBRX。
中國AI算力產(chǎn)品競爭態(tài)勢
目前可以衡量國內(nèi)AI算力競爭情況的模型有百度的文心大模型、騰訊的混元大模型、華為盤古大模型、阿里的通義大模型以及浪潮的源AI大模型。其中參數(shù)量最高的是阿里的通義大模型,高達(dá)十萬億級,而應(yīng)用場景相對較廣的是百度的文心大模型,涵蓋聊天互動、文本生產(chǎn)以及文生圖等。
易用性和性能成為AI框架的核心競爭力
中國人工智能開發(fā)者選擇開源框架最重要的兩個因素是:易用性和性能。人工智能框架隔離了底層的復(fù)雜性,更加易用的框架能夠讓開發(fā)人員以更快的速度和更高的效率,來探索、創(chuàng)建、改進(jìn)和迭代人工智能項(xiàng)目。而人工智能框架的性能則涉及到框架本身的底層性能,包括框架的底層算法效率,以及框架利用底層硬件資源進(jìn)行優(yōu)化開發(fā)、訓(xùn)練和推理的能力。
有40%的開發(fā)者將易用性作為選擇框架的首選因素,34%的開發(fā)者將性能作為選擇框架的首選因素。在第二重要的因素選擇中,開發(fā)者選擇性能比易用性更多。與易用性和性能這兩個因素相比,選擇其他選項(xiàng)作為首選的比例很少。受訪者把對社區(qū)活躍度、框架廠商提供的技術(shù)支持或培訓(xùn),知名度或流行程度,以及前沿技術(shù)支持的關(guān)注放在了同等位置上。
泛開發(fā)、全場景、超大規(guī)模將成為主流趨勢
展望未來,AI框架將注重前端便捷性與后端高效性的統(tǒng)一,AI框架將支持端邊云全場景跨平臺設(shè)備部。另外,隨著處理任務(wù)的復(fù)雜化、處理數(shù)據(jù)的密集化,跨架構(gòu)的開發(fā)能力將會成為常態(tài)化的需求。AI框架需要與硬件基礎(chǔ)設(shè)施平臺充分解耦,通過標(biāo)準(zhǔn)的硬件注冊接口實(shí)現(xiàn)跨設(shè)備平臺的快速部署。
中國科學(xué)院院士、復(fù)旦大學(xué)副校長張人禾表示,科學(xué)智能正在改變基礎(chǔ)科學(xué)研究范式,新型大模型融合了Type 1(數(shù)據(jù)驅(qū)動)與Type 2(機(jī)理驅(qū)動)模型,將科學(xué)機(jī)理、知識注入模型構(gòu)建中。有效融合數(shù)據(jù)和機(jī)理,降低大數(shù)據(jù)和大算力依賴,提升模型可解釋性。
360CEO周鴻祎指出,大模型首次讓人們看到了人工智能的統(tǒng)一可能性。他解釋說,盡管人工智能在過去一直備受關(guān)注,但其實(shí)際應(yīng)用一直受限于各個領(lǐng)域的算法不統(tǒng)一。而大模型則通過統(tǒng)一的數(shù)據(jù)處理和知識方法,有可能將眾多人工智能垂直領(lǐng)域的問題統(tǒng)一解決。
經(jīng)濟(jì)學(xué)人APP資訊組
看完覺得寫得好的,不防打賞一元,以支持藍(lán)海情報(bào)網(wǎng)揭秘更多好的項(xiàng)目。