現(xiàn)在，我們更多探討的是要重新定義服務知識管理，只有把知識做好，客服才能邁向更高的智能化程度。今年八月發(fā)布了云中問道大模型，我們不停地在做新任務的探索。整個思路分為三部分：一是升級思路，順應LLM發(fā)展趨勢，關注場景化升級策略。二是升級內(nèi)容：選取重點服務場景，提供模塊化升級服務。三是攜手云問：構建私有化大模型，共建新一代客服中心。

在這個過程中會有很多坑，但還是要去試，因為很多事情只有嘗試了才知道結果，ChatGPT剛出現(xiàn)的時候是基于人類反饋做的強化學習，將來是不是基于AI做學習，人就可以不用做那么多數(shù)據(jù)的標注？我們也不知道未來發(fā)展方向會如何。

首先，要關注場景化升級策略。我們會有幾點考慮，大模型能夠為客戶服務帶來哪些場景上的能效提升？怎樣在可控成本內(nèi)利用大模型實現(xiàn)客服體驗升級？我們一直強調可控成本，很有意思的是比如千億參數(shù)的大模型生成速率反而沒有小模型生成速率快，越小模型生成越快，參數(shù)量越少，之前我們一直在研究怎么在單臺的GPU上跑更多的模型。效果可控是非常重要的，如何在B端服務場景下保證質量？我們會核查準確率，當然準確率會分成非常多的任務，包括直接查詢、表格渲染、邏輯推理等，大概有十幾項的任務來評測這個模型在不同的知識問答或者知識調用場景中會產(chǎn)生哪些效果。

業(yè)務場景分成兩塊：運營管理、交互服務。運營管理主要是客服知識管理，現(xiàn)在很多客戶都有這樣的前瞻性判斷，如果客服的知識中心建設得非常好，實際上是可以直接沿用到集團。場景訴求一定要根據(jù)場景來，因為在做SFT、模型微調甚至將來要做基座模型強化學習時一定要強調數(shù)據(jù)質量。此外是服務質效管理，我們覺得大模型可以落地的任務就是質檢，因為以前質檢的內(nèi)容很單調，包括運營決策的分析，客服主管每天要寫報告、寫報表，這些是可以通過模型替代的。在人機交互和人工服務方面，比如業(yè)務引導、主動營銷使用大模型挺好實現(xiàn)，因為這兩個場景相對比較閉環(huán)，做業(yè)務引導時會要求用戶在某一個業(yè)務流程內(nèi)進行交互，現(xiàn)在通過大模型可以實現(xiàn)流程之間順滑地跳轉。在營銷端也可以做很多場景上的事情，例如工單流轉、用戶畫像、服務接待等。

大模型+知識人機交互。有些企業(yè)已經(jīng)構建了FAQ庫，目前這個階段我們已經(jīng)把機器人答案生成的錯誤率控在6%—7%以內(nèi)，但是這個數(shù)值也很高，所有任務數(shù)據(jù)都是數(shù)以萬計的，模型到了一定數(shù)量的時候確實很難做提升，但是我們還會多些嘗試，想一些工程上的辦法來解決這件事情。

如果我們已經(jīng)建了FAQ庫，但不能用模型，其實還可以做答案的組裝，比如冰箱出現(xiàn)了問題，我應該怎么解決？客戶咨詢的時候會提出很多疑惑，可能涵蓋了好幾個知識點，以前機器人回答是“您是不是想問1.XXX 2.XXX 3.XXX 4.XXX”，讓客戶選，這種體驗并不好，但是模型可以把這個任務拆解成幾個，把幾個答案組裝在一起再回復用戶，我們把這個任務過程稱為答案組裝，還有答案的改寫。因為知識庫已經(jīng)生成，每一類用戶需求還不一樣，當你識別這個用戶出現(xiàn)非常激烈語氣時可以先安撫，知識點不會根據(jù)每個場景來編輯，這個時候可以回復“您消消氣，這是什么導致的”，其實也是一種優(yōu)化提升，都是基于低成本時去做的，顯得比較有意義、有必要。以前是大場景套小場景，用戶問的是很小的場景，但這個場景可能是非常大的流程里出現(xiàn)的，現(xiàn)在摘取其中一段是更有意義的。

對于沒有構建或者不想構建FAQ庫的企業(yè)怎么辦？我們的建議是既然現(xiàn)在有客服團隊，所以最好是先做知識生成或者段落生成，把知識先做結構化，只有這樣，讓模型在生成的時候才能更加準確。

大模型的輔助應用  

1.大模型+對話流程引擎，構建智能導購服務。怎么規(guī)避模型生成內(nèi)容有太多不準確的問題？在不拋棄傳統(tǒng)的導航的前提下，可以先問要干什么，A.咨詢產(chǎn)品/B.售后服務，再用一個小場景問需要咨詢什么樣的產(chǎn)品，最后再調用模型做知識庫里的回答。

2.大模型+人工服務輔助，基于客服已有知識庫，利用大模型提供真正個性化的知識服務輔助。在實踐過程中，我們發(fā)現(xiàn)很多企業(yè)的系統(tǒng)非常不好用，還不如excel，可以利用模型來進行改善，畫像抽取、關鍵信息抽取、工單抽取、服務小結生成等其實是模型比較擅長的能力，此外還有服務小結、工單提取等。

3.大模型+客服知識管理，如何有效提高客服知識庫構建效率？大模型時代比以往更需要做知識管理。從知識服務全生命周期出發(fā)看大模型的賦能策略，包括構建、存儲、消費等不同環(huán)節(jié)，不同環(huán)節(jié)有不同模型，有的模型在任務生成上做得非常好，因為我們做生成任務也很多，所以有大量的數(shù)據(jù)，可以知道基座模型好，還是加了微調數(shù)據(jù)之后效果會更好，未來是模型組合的時代。

4.大模型服務輔助知識構建，快速創(chuàng)建客服知識庫。類似于知識生成引擎，這個知識生成指的是知識轉化，并不是完全生成新的內(nèi)容，這是兩個不同的概念?；跇I(yè)務文檔生成知識，基于內(nèi)容提問，答案要清晰有依據(jù)?；跉v史會話生成知識，變化會更靈活，尤其工業(yè)用品、消費用品等產(chǎn)品迭代非常快，所以知識更新也很快，我們希望客服第一個知道問題的，一旦有相關的問題出現(xiàn)，模型就可以基于歷史會話生成知識。

形成了初步的知識庫后流程搭建是非常耗時間的，這是知識工程平臺，不光是客服需要，整個集團都需要這樣的平臺。比如這是一篇標準，會有關聯(lián)關系、術語定義、段落、表格、圖片、公式、主題詞、FAQ，為什么要把知識做拆分呢？根據(jù)實際應用場景，我們發(fā)現(xiàn)客戶經(jīng)常會做兩個參數(shù)的對比，如果直接從文檔對比是很難的，但是如果摘取后再做參數(shù)對比就非常簡單了。

聚合搜索是我們提出的概念，因為模型其實沒有大家想象得那么無所不能，但它確實可以減輕很多工作，比如我輸入一個問題，年假或者事假怎么請？我們會用云中問道的模型生成一個回答，這是基于搜索結果來生成回答的，生成結果甚至路徑不是唯一的，比如事假怎么請有好幾條結果，模型會根據(jù)幾條結果合并一條給到我們，這也是一種提升。比如客戶問最近有哪些活動，會自動列出五條活動，對應五個word，右側會做一個說明，這叫聚合搜索。我們把所有適合于服務人員做的搜索場景全部歸在一個場景里，即使生成錯了，也可以看到摘自哪篇原文，定位到哪個段落。

5.安全事件分析，因為我們希望客服人員不僅僅做服務，也可以做很多分析，給企業(yè)提供更多價值。我們通過事件分類等，在不同時間和空間以及對應的不同元素上了解這件事情是怎么進展的，比如服務路徑、用戶對于不同產(chǎn)品之間故障的類型是什么樣的評價等，可以通過模型做摘要，按照時間排列。

6.大模型+服務質效的管理。我們做了一個培訓視頻生成，把PPT變成視頻，再加數(shù)字人做講解，可讀性會更高。而且培訓視頻結合了客服培訓學院，在不同階段、不同崗位應該要學什么知識，我們會按照崗位類型、階段類型做區(qū)別。在進行培訓時，常常需要考試來進行評定，比如一線化妝品有很多門店，要定期給業(yè)務人員做培訓，如果用戶出現(xiàn)了過敏情況我們應該怎么回復，這個時候可以根據(jù)內(nèi)容自動生成考題。我們的知識已經(jīng)按照體系化來設計，對應了崗位的標簽、分類，選擇這個崗位之后就會根據(jù)這個崗位應該學的知識自動生成考試，這就是知識體系化的好處，所有東西都是前后有所關聯(lián)的。

7. 大模型+智能質檢。首先它會有語義泛化能力，傳統(tǒng)質檢大多是用關鍵詞或者關鍵字組合來做的，同一個商品會有很多的故障類型，用戶會反饋這個產(chǎn)品是什么問題導致的，需要很多人去進行回答，當中間缺失某一環(huán)節(jié)，就需要標記一個責任歸屬。經(jīng)過現(xiàn)實我們發(fā)現(xiàn)，機器人標記要比人力做得準確性更高。關于話術流程質檢也是如此，現(xiàn)在大多數(shù)是根據(jù)敏感詞等進行劃分，但對于業(yè)務規(guī)范性的質檢有所疏漏，例如關于用戶修改身份信息，應確認兩次甚至三次才行，但很多客服只確認一次，而傳統(tǒng)質檢不一定會檢測出，但通過模型就可以很快捷地進行合規(guī)質檢。

大模型的使用會給予客服中心和企業(yè)內(nèi)部越來越多的便捷，但其未來發(fā)展仍需要更多人、更多公司的集體努力與嘗試。