瞻觀前沿

新加坡科技設(shè)計大學(xué)(SUTD)的盧偉副教授、研究助理張培元先生和博士生們最近共同開發(fā)了一個名為TinyLlama的開源小語言模型。在曾光濤先生和王天鐸先生的帶領(lǐng)下，這個模型擁有11億個參數(shù)，在多個基準(zhǔn)測試中均表現(xiàn)優(yōu)異，甚至超過了其他同等規(guī)模的開源模TinyLlama只用了短短四個月的時間，就已經(jīng)預(yù)訓(xùn)練了總計3萬億個代幣的數(shù)據(jù)集。

目前的大型語言模型(LLM)如ChatGPT或Google Bard都是由OpenAI或Google等大型科技公司開發(fā)的，并且需要數(shù)千甚至數(shù)萬個圖形處理單元(GPU)的支持，用戶需要在線連接到它們的海量語言模型服務(wù)器。相比之下，TinyLlama僅基于16個GPU構(gòu)建，占用的隨機存取存儲器(RAM)僅為550MB。這意味著TinyLlama可以輕松部署在移動設(shè)備上，讓每個人無論走到哪里都可以在口袋里攜帶一個迷你ChatGPT。

小型科技公司以及個人研究人員和開發(fā)人員越來越需要更少資源來運行的小型語言模型。因此，這些模型(例如TinyLlama)對他們來說更可行，并且更適合手機等邊緣設(shè)備。這種模型的緊湊性也使得它們能夠滿足多種需要在沒有互聯(lián)網(wǎng)連接的情況下進(jìn)行實時機器翻譯的應(yīng)用程序，這意味著用戶可以離線訪問語言模型。

（圖片來源：攝圖網(wǎng)）

技術(shù)價值觀察

AIGC全稱為AI-Geneated Content,指基于大型預(yù)訓(xùn)練模型、生成對抗網(wǎng)絡(luò)GAN等人工智能技術(shù)，通過已有數(shù)據(jù)尋找規(guī)律，并通過適當(dāng)?shù)姆夯芰ι上嚓P(guān)內(nèi)容的技術(shù)。

AIGC產(chǎn)業(yè)可大致分為基礎(chǔ)設(shè)施層、模型層及應(yīng)用層，目前中國AIGC產(chǎn)業(yè)整體層級尚不夠完整，模型層成為當(dāng)前關(guān)鍵卡口。在一定程度上限制了上下層級的發(fā)展。

基礎(chǔ)設(shè)施層：主要分為數(shù)據(jù)層、算力層、計算平臺、模型開發(fā)訓(xùn)練平臺和其他配套設(shè)施。模型層：即垂直化、應(yīng)用化、場景化的模型和應(yīng)用工具，主要分為底層通用大模型和中間層模型，底層通用大模型又可分為開源基礎(chǔ)模型、非開源基礎(chǔ)模型和模型托管平臺;中間層模型有人類互動反饋、大模型調(diào)整和個性化模型。應(yīng)用層：即面向C端用戶的文字、圖片、音視頻等內(nèi)容生成服務(wù)，按不同的價值創(chuàng)造邏輯，可分為生產(chǎn)可直接消費內(nèi)容、結(jié)合底層系統(tǒng)生產(chǎn)高附加值內(nèi)容、提供內(nèi)容生產(chǎn)輔助工具、用于提供體系化解決方案四類。在這四類中，目前我國落地及變現(xiàn)進(jìn)展最快的是生產(chǎn)可直接消費內(nèi)容這一賽道。

迷你AI模型TinyLlama存取在存儲器，可隨身攜帶，適用于小型科技公司以及個人研究人員和開發(fā)人員，處于AIGC產(chǎn)業(yè)鏈應(yīng)用層。

宏觀市場觀察

中國AIGC行業(yè)市場份額

目前，中國AIGC行業(yè)互聯(lián)網(wǎng)等大廠具有明顯優(yōu)勢，紛紛將資源投入與主營業(yè)務(wù)結(jié)合，打造自己的大模型掌握行業(yè)定價權(quán)，實現(xiàn)自身生態(tài)更好的發(fā)展。故挑選了華為、百度、騰訊以及新晉獨角獸企業(yè)小冰進(jìn)行市場份額分析。

AIGC多行業(yè)滲透，滲透度高

據(jù)IDC，2022年中國人工智能行業(yè)應(yīng)用滲透度排名前五的行業(yè)依次為互聯(lián)網(wǎng)、金融、政府、電信和制造。另外，AI為自動駕駛、交通物流所賦予的價值也不容忽視，據(jù)麥肯錫預(yù)計，AI為交通領(lǐng)域創(chuàng)造3800億元的經(jīng)濟價值。

中國AIGC行業(yè)投融資仍處于起步階段

從AIGC的投資輪次分析，目前AIGC行業(yè)的融資輪次仍處于早期階段，D輪后的融資寥寥無幾。根據(jù)前文的分析，2021年盡管AIGC行業(yè)的融資時間和融資金額水漲船高，結(jié)合輪次分析，也是主要集中在C輪之前，眾多初創(chuàng)企業(yè)進(jìn)入，獲得了投資機構(gòu)的關(guān)注和早期投資。

中國AIGC技術(shù)賽道熱力圖

根據(jù)產(chǎn)業(yè)熱力圖顯示，目前AIGC關(guān)鍵技術(shù)強相關(guān)的城市集群主要集中在西北、華北和華中地區(qū)，尤其是陜西省成為重點發(fā)展區(qū)域。這些城市群已投入大量政策、資金、環(huán)境和人才資源用于AIGC研發(fā)，成為潛在的AIGC技術(shù)發(fā)展中心。根據(jù)熱力圖的分布西北地區(qū)有極大的可能性成為AIGC技術(shù)的先導(dǎo)區(qū)域。重點關(guān)注陜西省西安市雁塔區(qū)、北京市海淀區(qū)、湖南省長沙市開福區(qū)等地的相關(guān)企業(yè)，以及這些地方對AIGC產(chǎn)業(yè)發(fā)展的投資環(huán)境和潛力市場。

經(jīng)濟學(xué)人APP資訊組

看完覺得寫得好的，不防打賞一元，以支持藍(lán)海情報網(wǎng)揭秘更多好的項目。

標(biāo)簽： 模型 行業(yè) 中國 隨筆