©?深響原創(chuàng) · 作者｜亞瀾
經(jīng)歷了巨頭級(jí)公司全力加碼、明星創(chuàng)業(yè)者云集的百模大戰(zhàn)尖峰時(shí)刻，大模型對(duì)于很多人來(lái)說(shuō)不再是一個(gè)陌生詞匯。
喧囂伴隨著認(rèn)知門(mén)檻的降低，逐漸叩開(kāi)市場(chǎng)的大門(mén)，而喧囂背后，大模型行業(yè)已達(dá)成共識(shí)——必須聚焦于場(chǎng)景和實(shí)際應(yīng)用，只有使用量拉起來(lái)了，才有機(jī)會(huì)磨出真正有價(jià)值的好模型。也難怪就連Open AI的創(chuàng)始人Altman都已著手創(chuàng)辦新公司Thrive AI Health，聚焦到健康慢病管理場(chǎng)景了。
在拉通大模型的應(yīng)用方向，我們關(guān)注到智能客服這一特定領(lǐng)域。大模型的應(yīng)用對(duì)于智能客服行業(yè)的商業(yè)模式、組織結(jié)構(gòu)、業(yè)務(wù)效率效果、商業(yè)價(jià)值等方面都產(chǎn)生了深刻的影響。曉多科技CTO向海告訴「深響」。
曉多科技是以智能對(duì)話(huà)為核心的認(rèn)知智能 SaaS 產(chǎn)品和行業(yè)數(shù)智化解決方案服務(wù)商，其智能客服廣泛應(yīng)用于電商、電信、政務(wù)、教育等多領(lǐng)域，覆蓋全國(guó)50多城，服務(wù)了包括美的、海信、極米、方太、芝華士等零售類(lèi)品牌，在今年5月成為了抖音電商客服服務(wù)商。作為專(zhuān)注智能客服十余年的關(guān)鍵企業(yè)，曉多科技從認(rèn)知到實(shí)踐，讓我們看到大模型落地特定行業(yè)的探索過(guò)程——大模型究竟如何在智能客服具體場(chǎng)景中發(fā)揮作用？給客服行業(yè)帶來(lái)了哪些層面的改變？我們?nèi)绾稳ダ斫膺@些變化以及借力這些變化？
客服雖然并不高大上，但他們卻是品牌商家直面用戶(hù)的窗口。根據(jù)《2023年中國(guó)智能客服市場(chǎng)報(bào)告》，中國(guó)智能客服市場(chǎng)規(guī)模已達(dá)66.8億元，預(yù)計(jì)到2027年，市場(chǎng)規(guī)模有望增長(zhǎng)至181.3億元。而大模型技術(shù)的應(yīng)用，一方面解決著過(guò)去客服交互、客服培訓(xùn)等具體環(huán)節(jié)的痛點(diǎn)，另一方面也為智能客服行業(yè)延展出更多的業(yè)務(wù)空間，讓智能客服不止于客服，更是深入到營(yíng)銷(xiāo)、交易、履約等各個(gè)生意關(guān)鍵環(huán)節(jié)，實(shí)現(xiàn)更大的價(jià)值。
01、先用再說(shuō)
曉多科技能夠在今天迅速拿起大模型的利器其實(shí)有一定的歷史淵源。
十年前，CEO江嶺察覺(jué)到客服行業(yè)痛點(diǎn)問(wèn)題，就針對(duì)電商客服場(chǎng)景設(shè)計(jì)了人工智能輔助工具，其核心產(chǎn)品智能客服機(jī)器人已為多個(gè)電商平臺(tái)的多品類(lèi)企業(yè)提供著高準(zhǔn)確率、高覆蓋率的個(gè)性化服務(wù)。江嶺是自然語(yǔ)言處理和機(jī)器學(xué)習(xí)專(zhuān)家，曉多科技的大部分研發(fā)人員則來(lái)自百度、騰訊、華為、科大訊飛等知名企業(yè)。
這樣的技術(shù)積累和敏感度，讓曉多科技在2020年就將大模型納入了重點(diǎn)關(guān)注范圍。2022年，ChatGPT在全球范圍引發(fā)熱議，江嶺沒(méi)有猶豫，立即發(fā)起了全員AI的工作要求，讓各個(gè)業(yè)務(wù)模塊嘗試用GPT提效并加速認(rèn)知上的迭代。
2022年12月，曉多科技的大模型團(tuán)隊(duì)正式組建，覆蓋工程、算法、數(shù)據(jù)、產(chǎn)品等角色，并在單獨(dú)的空間中閉關(guān)，圍繞自己的業(yè)務(wù)場(chǎng)景去測(cè)，跑通微調(diào)模型。當(dāng)時(shí)的曉多科技明確了一個(gè)很重要的方向判斷：大模型的魔法不會(huì)憑空出現(xiàn)，必須圍繞自身的業(yè)務(wù)場(chǎng)景去探索。
但曉多科技的業(yè)務(wù)模塊并不簡(jiǎn)單，一豎一橫的布局嚴(yán)密地構(gòu)建出其在智能客服領(lǐng)域的專(zhuān)業(yè)度和護(hù)城河：
一豎是曉多科技最為核心的前臺(tái)業(yè)務(wù)，直面消費(fèi)者，包括接待消費(fèi)者、回答消費(fèi)者、導(dǎo)購(gòu)消費(fèi)者等等；
一橫則是圍繞客服管理和能力提升的后臺(tái)業(yè)務(wù)，包括客服招聘、崗前培訓(xùn)、上崗考核、崗后團(tuán)隊(duì)管理等等。
這么多的場(chǎng)景，怎么選擇？怎么切入？曉多的答案是先測(cè)試最核心的應(yīng)答環(huán)節(jié)，這是智能客服最重要的能力。
2023年3月，曉多科技與國(guó)家超級(jí)計(jì)算成都中心達(dá)成合作，解決算力資源問(wèn)題，把基礎(chǔ)模型微調(diào)訓(xùn)練全部跑通。5月發(fā)布了基于生成式預(yù)訓(xùn)練Transformer的深度學(xué)習(xí)模型XPT曉模型。XPT曉模型與ChatGPT的核心技術(shù)架構(gòu)相同，但不同的是，曉模型接受了大量的電商行業(yè)的領(lǐng)域知識(shí)訓(xùn)練，積累了電商行業(yè)關(guān)于商品、行業(yè)上下游、行業(yè)政策以及產(chǎn)品使用場(chǎng)景相關(guān)的數(shù)億Token的領(lǐng)域知識(shí)，可以更好地為顧客提供智能化和個(gè)性化的服務(wù)。
XPT曉模型
XPT曉模型是曉多科技一豎業(yè)務(wù)的進(jìn)階。但考慮到人力和資源的效率問(wèn)題，對(duì)于一橫業(yè)務(wù)對(duì)應(yīng)的諸多場(chǎng)景，曉多科技選擇放手，以采購(gòu)其他人的API為主了。
CTO向海向「深響」坦言：一開(kāi)始都自己做，但什么都全做的思路其實(shí)不符合曉多對(duì)于大模型ALL in One的理解。
彼時(shí)向海注意到火山引擎在大模型上的投入很大，而且產(chǎn)品的成熟度和迭代速度有目共睹。曉多科技自己開(kāi)發(fā)Agent產(chǎn)品時(shí)也受到了字節(jié)扣子（coze.cn）的一些產(chǎn)品思路啟發(fā)。于是曉多科技開(kāi)始和火山引擎團(tuán)隊(duì)接觸并初步合作。
火山引擎團(tuán)隊(duì)先做事的風(fēng)格讓向海印象深刻。讓我們先用了再說(shuō)、先敞開(kāi)測(cè)、先把場(chǎng)景擺出來(lái)，向海說(shuō)：用下來(lái)之后確實(shí)很多場(chǎng)景都匹配，可用性超過(guò)80%，穩(wěn)定性也好。新業(yè)務(wù)測(cè)下來(lái)10次能對(duì)9.9、9.5次，符合我們的預(yù)期。
另外，曉多科技的業(yè)務(wù)場(chǎng)景很多都在電商上，618、雙11這樣的大促節(jié)點(diǎn)帶來(lái)的高并發(fā)問(wèn)題不容忽視，火山引擎對(duì)于高并發(fā)的保障能力也是曉多科技認(rèn)可的關(guān)鍵：1000條并發(fā)過(guò)來(lái)，就能在幾分鐘、十幾分鐘形成一個(gè)模型的迭代，這個(gè)速度非常誘人。
今年五月，字節(jié)跳動(dòng)豆包大模型在火山引擎原動(dòng)力大會(huì)上正式發(fā)布，據(jù)火山引擎總裁譚待介紹，經(jīng)過(guò)一年時(shí)間的迭代和市場(chǎng)驗(yàn)證，豆包大模型正成為國(guó)內(nèi)使用量最大、應(yīng)用場(chǎng)景最豐富的大模型之一，日均處理1200億Tokens文本，生成3000萬(wàn)張圖片。而豆包主力模型在企業(yè)市場(chǎng)的定價(jià)只有0.0008元/千Tokens，這種讓大模型以分計(jì)價(jià)到以厘計(jì)價(jià)的轉(zhuǎn)折顯然會(huì)刺激更多企業(yè)把大模型先用起來(lái)。
向海告訴「深響」，目前曉多科技與豆包大模型在橫豎兩向的諸多業(yè)務(wù)場(chǎng)景上都有緊密合作。
在一橫的場(chǎng)景中，豆包是曉多科技的伙伴。比如通過(guò)調(diào)用豆包的API，用豆包模擬消費(fèi)者進(jìn)線(xiàn)，來(lái)訓(xùn)練客服應(yīng)對(duì)各種問(wèn)題。就像今年618前夕，曉多科技的一個(gè)客戶(hù)招聘了三四百個(gè)客服，通過(guò)豆包的合作，在2-3天內(nèi)完成了這批客服的訓(xùn)練和考試，大大節(jié)省了管理、考核、培訓(xùn)的時(shí)間精力和成本。
在一豎的核心場(chǎng)景中，豆包則扮演著導(dǎo)師的角色，生成大量訓(xùn)練數(shù)據(jù)，幫助曉多訓(xùn)練中小模型，幫曉多糾正優(yōu)化小模型，讓曉多能在響應(yīng)時(shí)間有要求、準(zhǔn)確率有要求、不接受幻覺(jué)的的場(chǎng)景上可以跑得更快。
向海為我們舉了一個(gè)有趣的例子：人工客服在回答消費(fèi)者問(wèn)題時(shí)其實(shí)會(huì)逐漸積累負(fù)面情緒，當(dāng)負(fù)面情緒不可避免地爆發(fā)時(shí)，智能系統(tǒng)就會(huì)做出攔截。這本來(lái)是智能客服的優(yōu)勢(shì)，但由于語(yǔ)言的藝術(shù)博大精深，有時(shí)就會(huì)錯(cuò)誤地理解詞語(yǔ)的含義而做出錯(cuò)誤的響應(yīng)動(dòng)作。羅技有一款鼠標(biāo)GPW，被消費(fèi)者們昵稱(chēng)為狗屁王，當(dāng)客服向消費(fèi)者提到這塊產(chǎn)品時(shí)，就不應(yīng)該被攔截。但有時(shí)這種細(xì)分場(chǎng)景的小模型識(shí)別不出來(lái)，我們就需要豆包作為導(dǎo)師來(lái)糾偏，讓我們的局部小模型自驅(qū)完成迭代，變得更好。
而字節(jié)跳動(dòng)的抖音電商、抖音生活服務(wù)、巨量引擎等業(yè)務(wù)跟消費(fèi)零售關(guān)系非常緊密，這也是其大模型的天然優(yōu)勢(shì)——在足夠多的場(chǎng)景中進(jìn)行深度的浸泡，理解毛細(xì)化的需求，為更多消費(fèi)場(chǎng)景的企業(yè)提供全局視角才能看到的啟發(fā)。
02、具體場(chǎng)景，具體解決
明確了曉多科技應(yīng)用大模型的頂層設(shè)計(jì)，我們不妨再進(jìn)一步，具體來(lái)看兩個(gè)用大模型提效的實(shí)際業(yè)務(wù)場(chǎng)景——全渠道商品知識(shí)庫(kù)和訓(xùn)練場(chǎng)。
全渠道商品知識(shí)庫(kù)是客服系統(tǒng)非常重要的一個(gè)組成部分，從產(chǎn)品規(guī)格、使用說(shuō)明、常見(jiàn)問(wèn)答到退貨政策、配送信息、故障排除步驟等等，好的知識(shí)庫(kù)可以有效地管理和應(yīng)用商品知識(shí)，提升服務(wù)體驗(yàn)。
但在實(shí)際的客服工作中，好的知識(shí)庫(kù)實(shí)在太難得了。我們發(fā)現(xiàn)，大部分商家的知識(shí)庫(kù)仍然是文檔、Excel形式，知識(shí)庫(kù)更新不及時(shí)、內(nèi)容不全面、結(jié)構(gòu)混亂、不易搜索、知識(shí)庫(kù)系統(tǒng)與客服系統(tǒng)集成度太低、人工依賴(lài)度高等等問(wèn)題層出不窮。比如客服在回答消費(fèi)者問(wèn)題時(shí)往往需要在多個(gè)平臺(tái)和文檔之間來(lái)回切換找答案，耗時(shí)且低效，更別說(shuō)及時(shí)進(jìn)行商品對(duì)比和商品推薦以及跨平臺(tái)的知識(shí)分享了。
對(duì)此，曉多采取了通過(guò)后臺(tái)管理界面一鍵同步功能，實(shí)現(xiàn)與電商平臺(tái)的無(wú)縫對(duì)接，一鍵操作，便可輕松同步商品信息，這就解決了知識(shí)庫(kù)內(nèi)容及時(shí)和全面的問(wèn)題。而借助曉多的智能學(xué)習(xí)引擎，這些信息被高效轉(zhuǎn)化為可直接利用的豐富商品知識(shí)庫(kù)，讓商品管理變得便捷高效。商品知識(shí)庫(kù)搭建完成后，即可一鍵啟動(dòng)，實(shí)現(xiàn)即時(shí)的智能應(yīng)答和輔助，還可以一套知識(shí)庫(kù)，在多渠道靈活分享使用。
這背后既有曉多科技對(duì)于智能客服各個(gè)環(huán)節(jié)細(xì)致入微的理解，也有大模型技術(shù)深入實(shí)際應(yīng)用層面的積極進(jìn)展?；鹕揭嫘袠I(yè)團(tuán)隊(duì)與曉多科技合作采用標(biāo)簽化替代自然語(yǔ)言、設(shè)定結(jié)構(gòu)化輸出模板、創(chuàng)新實(shí)踐示例、任務(wù)定制最優(yōu)參數(shù)等策略，深度優(yōu)化提示詞，顯著提升大模型輸出的質(zhì)量和穩(wěn)定性。特別是在豆包通用模型 Doubao-pro-32k 版本中，針對(duì)超 5k 字的文本場(chǎng)景，有效解決了應(yīng)答延遲問(wèn)題。
具體而言，在客服轉(zhuǎn)述用戶(hù)的提問(wèn)后，豆包大模型就通過(guò)分析和精準(zhǔn)理解，將問(wèn)題轉(zhuǎn)化為知識(shí)庫(kù)查詢(xún)可用的關(guān)鍵字，以便能快速檢索到相關(guān)內(nèi)容。而基于對(duì)用戶(hù)需求的理解，豆包大模型可在眾多內(nèi)容中將用戶(hù)最為關(guān)心的部分以高亮顯示，進(jìn)行重點(diǎn)呈現(xiàn)，并支持多個(gè)不同產(chǎn)品之間的對(duì)比。通過(guò)兩次轉(zhuǎn)譯讓用戶(hù)以口語(yǔ)化的自然語(yǔ)言提出需求，既收獲對(duì)核心需求的精準(zhǔn)回復(fù)，節(jié)約對(duì)話(huà)時(shí)間的同時(shí)，還提高了用戶(hù)的滿(mǎn)意度和下單率。
同樣能帶來(lái)超預(yù)期提效的還有訓(xùn)練場(chǎng)。
客服培訓(xùn)其實(shí)一直是整個(gè)行業(yè)的痛點(diǎn)，培訓(xùn)時(shí)間長(zhǎng)、效果差、培訓(xùn)內(nèi)容和實(shí)際情況脫節(jié)等問(wèn)題直接影響著工作效率。針對(duì)這些問(wèn)題，曉多訓(xùn)練場(chǎng)就通過(guò)調(diào)用大模型模擬用戶(hù)進(jìn)線(xiàn)，用實(shí)操練兵替代只看資料、考試、帶教的新人培訓(xùn)方式。
曉多科技一開(kāi)始使用的是傳統(tǒng)的工程方法，容易顯得不自然和機(jī)械化，用了豆包大模型后，對(duì)話(huà)更加擬人化，更符合實(shí)際情況，提高了消費(fèi)者問(wèn)題模擬的準(zhǔn)確度，同時(shí)能與訓(xùn)練中的客服有效互動(dòng)，提出的問(wèn)題衍生不重復(fù)。這對(duì)于客服訓(xùn)練來(lái)說(shuō)至關(guān)重要，消費(fèi)者可不會(huì)按照流程手冊(cè)來(lái)提問(wèn)，現(xiàn)實(shí)中的場(chǎng)景一定是帶有個(gè)性化需求、帶有情緒的，如果訓(xùn)練時(shí)沒(méi)有貼合實(shí)際，真到了工作中，客服恐怕就會(huì)手足無(wú)措。
據(jù)了解，在豆包大模型幫助下，曉多科技的AI 訓(xùn)練場(chǎng)場(chǎng)景獲得了更高的并發(fā)保障，同時(shí)成本也優(yōu)化了50倍以上，實(shí)現(xiàn)了效率成本雙提升。目前曉多訓(xùn)練場(chǎng)可以將客服培訓(xùn)周期從原來(lái)的3-4個(gè)月縮短到8周左右，而AI訓(xùn)練的客服對(duì)比常規(guī)培訓(xùn)的客服，銷(xiāo)售轉(zhuǎn)化率提升了3%-5%。
訓(xùn)練場(chǎng)中還有原版回復(fù)功能
讓新客服可以模仿再練習(xí)
03、感知變化，用才知道
更加值得探討的是，大模型技術(shù)對(duì)業(yè)務(wù)層面的提效還會(huì)進(jìn)一步影響到行業(yè)的商業(yè)模式和發(fā)展方向。
以智能客服這樣的to B生意來(lái)說(shuō)，過(guò)去的邏輯是，大家要盡量SaaS標(biāo)準(zhǔn)化，提高邊際效益，從而帶來(lái)更多利潤(rùn)空間。但實(shí)情是客戶(hù)的生意五花八門(mén)，也經(jīng)常提出定制的個(gè)性化需求，以至于不少人都質(zhì)疑SaaS模式在中國(guó)的可行性。
而現(xiàn)在，大模型技術(shù)的改變?yōu)槲覀儙?lái)了全新的視角，它讓個(gè)性化服務(wù)變得既可行又經(jīng)濟(jì)。
個(gè)性的東西才是企業(yè)基業(yè)長(zhǎng)青的秘訣。向海告訴「深響」：大模型讓我們可以重新回歸到個(gè)性化的服務(wù)上，對(duì)行業(yè)進(jìn)行建模，對(duì)流程進(jìn)行建模，把基座做好，支持我們?cè)谏厦鎮(zhèn)€性化。而更多長(zhǎng)尾需求得到解決，個(gè)性化響應(yīng)能力不斷增強(qiáng)，也相當(dāng)于讓我們有了更廣闊的發(fā)展空間。
而在未來(lái)，智能客服行業(yè)將不僅僅是單純的客服概念，它正逐步從成本中心轉(zhuǎn)變?yōu)閮r(jià)值中心，成為企業(yè)直面消費(fèi)者的第一現(xiàn)場(chǎng)。大模型技術(shù)的到來(lái)恰逢其時(shí)，它順應(yīng)了客服行業(yè)正在經(jīng)歷的深刻變革——客服的角色不再局限于傳統(tǒng)的服務(wù)范疇，而是擴(kuò)展到了咨詢(xún)、銷(xiāo)售導(dǎo)購(gòu)等多個(gè)層面。服務(wù)場(chǎng)景日益豐富的客觀趨勢(shì)下，智能客服成為連接企業(yè)與消費(fèi)者的紐帶，也有了不止于客服的、更立體的價(jià)值。
當(dāng)然，大模型技術(shù)對(duì)于智能客服行業(yè)已經(jīng)產(chǎn)生了一些很直觀的影響，比如工作流程、組織結(jié)構(gòu)、關(guān)鍵崗位的變化等等。繁瑣、重復(fù)性的腦力工作得到緩解，客服們可以承擔(dān)起更多情感價(jià)值的傳遞。
整體看下來(lái)不難發(fā)現(xiàn)，大模型雖然是前沿科技，但在上述案例中并非以高高在上的姿態(tài)存在，而是深入到了業(yè)務(wù)的細(xì)枝末節(jié)，與人平視，追求效率務(wù)實(shí)。
曉多科技認(rèn)為智能客服進(jìn)化與人類(lèi)形成的關(guān)系進(jìn)階路徑是：助理（Copilot），教練（Coach），同事（Coworker）。在訓(xùn)練場(chǎng)的例子中，智能客服是Coach；在多策，智能客服是Coworker……這其實(shí)也與豆包大模型的理念不謀而合——字節(jié)跳動(dòng)產(chǎn)品與戰(zhàn)略副總裁朱駿曾透露其團(tuán)隊(duì)給豆包的三個(gè)產(chǎn)品設(shè)計(jì)原則，擬人化、離用戶(hù)近、個(gè)性化。
豆包大模型其實(shí)包括了豆包通用模型pro、豆包通用模型lite、豆包·角色扮演模型、豆包·語(yǔ)音合成模型、豆包·聲音復(fù)刻模型、豆包·語(yǔ)音識(shí)別模型、豆包·文生圖模型、豆包·Function Call模型、豆包·向量化模型等9款大模型。企業(yè)可以根據(jù)自身業(yè)務(wù)場(chǎng)景需求，靈活選擇并快速落地。而目前，豆包大模型已在金融、汽車(chē)、智能終端、電商零售、教育科研等多個(gè)行業(yè)落地。其背后的火山引擎則以一站式大模型服務(wù)平臺(tái)火山方舟，讓模型即服務(wù)，幫助企業(yè)在高效、安全的環(huán)境里應(yīng)用各類(lèi)模型。
放眼整個(gè)科技行業(yè)，我們總是試圖總結(jié)一些評(píng)價(jià)大模型水平的衡量標(biāo)準(zhǔn)，比如泛化能力、精度和穩(wěn)定性、訓(xùn)練數(shù)據(jù)量、工具鏈完備性、可解釋性和魯棒性等等。但誰(shuí)用誰(shuí)知道，拋開(kāi)專(zhuān)業(yè)術(shù)語(yǔ)和科技感，解決真問(wèn)題、技術(shù)真落地才是這輪大模型技術(shù)進(jìn)步的中心奧義。
并發(fā)足、穩(wěn)定夠、幻覺(jué)少、價(jià)格好。向海如是說(shuō)。
看完覺(jué)得寫(xiě)得好的，不防打賞一元，以支持藍(lán)海情報(bào)網(wǎng)揭秘更多好的項(xiàng)目。
感謝您的支持，我會(huì)繼續(xù)努力的!
打開(kāi)支付寶掃一掃，即可進(jìn)行掃碼打賞哦
手機(jī)直接保存圖片,掃一掃識(shí)別二維碼,即可進(jìn)行掃碼打賞哦
