我們認為， AI Answer 為結(jié)合大語言模型（LLM）和信息檢索（IR，Information retrieval）技術的智能信息互動應用。在這個應用中，LLM 負責理解語境并構(gòu)建查詢，而 IR 技術則依據(jù)這些查詢獲取相關數(shù)據(jù)或文檔。檢索到的結(jié)果最終由LLM 生成回應，從而形成一個以模型外部信息為支撐的動態(tài)對話過程。

AI Answer檢索的信息可以是企業(yè)閉源知識庫、行業(yè)知識圖譜、或是互聯(lián)網(wǎng)開放信息。相較于傳統(tǒng)知識檢索應用，AI Answer在交互模式、泛化能力及精確度上均有能力躍遷，我們認為通用智能模型在企業(yè)端或?qū)⒙氏纫訟I Answer模式落地，價值增量包括：

??數(shù)據(jù)價值挖掘：企業(yè)端根據(jù)企業(yè)內(nèi)部數(shù)據(jù)與已有知識，自動生成數(shù)據(jù)洞察與前瞻性的預測分析，提高企業(yè)運維效率與知識創(chuàng)新動能。同時用戶端AI Answer通過分析用戶的角色、需求、歷史查詢記錄，自動分配合適的數(shù)據(jù)訪問權限，推薦個性化檢索路徑與知識生成。

??知識資產(chǎn)沉淀：自動為線上知識文檔生成分類標簽，降低人工信息整理成本。根據(jù)用戶使用應用的情況跟蹤企業(yè)知識庫變化，自動更新生成內(nèi)容，確保信息準確性與實時。同時用戶使用AI Answer產(chǎn)生的行為可作為人類反饋，訓練AI Answer在生成內(nèi)容上進一步對齊應用領域的需求和偏好。

??搜索效率提升：通過精準分析用戶需求，自動剔除重復或冗余的信息，整合高質(zhì)量知識資產(chǎn)。同時AI Answer應用可作為虛擬助手，在平臺上同步協(xié)助員工解決問題、主動提供建議和關聯(lián)資料，促進信息獲取的及時性。

以C端檢索范式演進為鑒，我們認為B端 AI賦能內(nèi)部知識庫重建有望帶來諸多價值增量，滿足企業(yè)端提效需求。微軟2月8日發(fā)布基于OpenAI大模型的搜索引擎新版Bing（中文名“必應”）[1]，首次推出嵌入搜索引擎的“問答式搜索”功能，搜索界面的問答機器人可以與用戶聊天、協(xié)助撰寫文本、匯總?cè)W(wǎng)絡信息并以對話方式響應查詢。

StatCounter數(shù)據(jù)顯示谷歌的搜索引擎幾乎占據(jù)了90%的市場份額，我們認為Bing憑借智能化檢索有望不斷突破市場份額。據(jù) Data.AI 的圖示區(qū)間數(shù)據(jù)，在嵌入了OpenAI大模型能力后，Bing的APP日均下載量在全球范圍內(nèi)增長了823%，同期對比谷歌搜索應用的下載量僅增長3%。

以Glean為例，大模型賦能的AI Answer重構(gòu)企業(yè)管理軟件。AI技術在企業(yè)端的應用場景廣闊，其中知識內(nèi)容檢索場景知識密度要求較高，需求明確且技術路徑相對成熟。Glean通過打通跨應用數(shù)據(jù)打造駕于SaaS層之上的“聚合層”，成為企業(yè)應用場景的入口級產(chǎn)品。Glean可以結(jié)合企業(yè)內(nèi)部知識圖譜、以及上百家第三方SaaS應用中進行信息檢索，為每位用戶的自然語言查詢生成定制化的結(jié)果，覆蓋信息查找、復雜功能執(zhí)行等場景。

目前，Glean只面向企業(yè)客戶提供服務，公司推出兩種定價方案，1）按席位收費，每月不超過100美元；2）根據(jù)企業(yè)的需求定制價格，目前商業(yè)模式以第二種為主。此外，在服務模式上，Glean 還提供高水平的安全性和靈活性，可以選擇在本地或云端部署，并且對用戶數(shù)據(jù)進行加密和權限層級管理。

供給端，模型層技術趨于平權，企業(yè)具備閉源數(shù)據(jù)卡位，商業(yè)落地可得性較高。數(shù)據(jù)層面，與其他B端AI應用相比集成了垂直行業(yè)知識的AI Answer應用更易實施落地。

通用人工智能積累了強大的通識能力，但由于其廣泛而非專精的數(shù)據(jù)結(jié)構(gòu)，其在專業(yè)領域的檢索實效性及性價比尚有欠缺。通過擬合垂直領域的數(shù)據(jù)，AI Answer能理解行業(yè)內(nèi)的專業(yè)詞匯、概念和信息，從而在搜索過程中融入垂域要素，更好的理解用戶意圖并產(chǎn)生更準確的搜索結(jié)果。

模型層面，B端企業(yè)AI Answer場景對于算法模型在知識涌現(xiàn)、數(shù)理分析等高階能力需求較弱，對檢索能力和文本生成能力需求較強，技術平權背景下可以通過使用LLAMA、Bloom、ChatGLM等開源模型也可在垂域細分領域達到較優(yōu)效果。

例如，企業(yè)可以使用LangChain將數(shù)據(jù)庫文檔加載并索引到本地知識庫中，通過嵌入模型對文本進行矢量化，助力快速檢索相關段落，再通過ChatGLM協(xié)助用戶基于檢索到的信息和用戶會話歷史生成精準的答案。

需求端，AI Answer助力企業(yè)知識圖譜重構(gòu)，實現(xiàn)內(nèi)外雙向賦能。

1）企業(yè)需要快速準確地獲取和利用特定領域的知識和信息，以提高決策效率和質(zhì)量。傳統(tǒng)的搜索引擎往往不能滿足企業(yè)的個性化需求，而需要一個能夠理解企業(yè)商業(yè)模式下特定語境和邏輯的智能問答系統(tǒng)。

2）企業(yè)需要對自己擁有或者能夠獲取的數(shù)據(jù)和知識進行有效地組織和管理，以提高數(shù)據(jù)質(zhì)量和可用性。傳統(tǒng)的知識庫構(gòu)建和維護往往需要大量的人力和時間成本，AI Answer能夠助力企業(yè)自動化地從各種數(shù)據(jù)源中抽取、整合、更新和驗證知識。

3）企業(yè)需要與客戶、合作伙伴、員工等各方有效地溝通和協(xié)作，傳統(tǒng)的人工客服或者機器人往往不能滿足用戶的多樣化和復雜化的問題，AI Answer經(jīng)過細化調(diào)優(yōu)，能夠靈活地適應不同場景和需求。

LangChain是一個封裝了各種大語言模型應用開發(fā)工具的開源Python框架，提供了一套開發(fā)大模型的工具、組件和接口。LangChain幫助開發(fā)者將大模型和其他知識源/數(shù)據(jù)庫結(jié)合起來，以創(chuàng)建功能更強大的應用程序，包括基于知識庫問答、聊天機器人、智能代理等。該開源Python可被用于整合和管理大模型（如ChatGLM）的輸出，提供了標準的模塊化組件、集成了不同的大語言模型并將其進行整合，并將它們連接到各種外部數(shù)據(jù)源和API。

通過各種模塊化組件，LangChain框架提供了全方位全流程的優(yōu)化服務。傳統(tǒng)的大模型無法聯(lián)網(wǎng)、無法調(diào)用其他API、無法訪問本地文件、對Prompt要求高、生成能力強但內(nèi)容準確度無法保證，而LangChain則提供了相應模塊，旨在解決這一系列問題。

? Prompt：使用LLM需要用戶輸入需求，LangChain將用戶的輸入傳遞給Prompt Template。一個Prompt通常由Instructions、Context、Input Data和Output Indicator組成，但一般用戶并不會完整地輸入每個部分，使用LangChain的Prompt Template可以很好地根據(jù)用戶輸入定義各個部分，同時將Input Data留作動態(tài)輸入項。

? Chain：利用該模塊，LangChain可以不單單利用本身的LLM和Prompt Template，而是將原模型鏈接到其他信息源或API，將模塊組合成完整的工作流，拓展LLM應用邊界。

? Agent：如果LLM僅利用Chain模塊，那么模型將按照預設的接口和順序執(zhí)行工作，而Agent模組可以利用LLM分析應該使用哪個API或者搜索引擎、數(shù)據(jù)源等工具鏈，并自行決定調(diào)用和實現(xiàn)的順序。比如，ChatGPT有很強的生成回答能力，但不夠準確；Wolfram Alpha有很準確的知識儲備，但語義理解能力較差，Agent可以針對ChatGPT的問題，自行判斷是否需要調(diào)用Wolfram Alpha，并生成回答。

? Memory：默認情況下，Chain和Agent是無狀態(tài)（stateless）的[2]，這意味著它們獨立地處理每個傳入的Query（就像底層的LLM和聊天模型），不具備上文記憶的能力。為了記住先前的交互，LangChain通過每次Prompt加入上文內(nèi)容和記錄的tricks，在不同的Query間傳遞上文，在前ChatGPT時代就實現(xiàn)了記憶的功能。

案例：YouTube博主Data Independent通過LangChain構(gòu)建了一個PDF問答機器人。

LangChain憑借PDF Loader的幫助加載上傳的PDF，并使用Splitter分割語句向量，同時盡可能保留原始語義，調(diào)用OpenAI的Embedding引擎進行長向量變換并存儲在本地或者Pinecone云向量數(shù)據(jù)庫，最后用戶只需調(diào)用LangChain的QA Chain就可以針對上傳的PDF進行問答。整個過程中，LangChain相當于對每個環(huán)節(jié)集成，并對整體的交互進行封裝。

LangChain受到廣泛關注和使用，獲得種子輪融資，但商業(yè)化任重道遠。2023年4月6日，LangChain宣布獲得由Benchmark領投的1,000萬美元種子輪融資。

截至2023年4月19日，LangChain在Github上已有2.8萬Stars、478位貢獻者，被2,400多名用戶使用。但究其本質(zhì)，LangChain是“整合其他開源庫的開源庫”，提供開發(fā)LLM的框架，以此節(jié)省開發(fā)人員編寫代碼的時間。而由于開源加之經(jīng)濟成本不穩(wěn)定、對輸出沒有評估步驟，客戶目前更偏好直接的模型交付，LangChain商業(yè)化仍有待探索。

LangFlow為LangChain開源且無代碼的可視化開發(fā)界面，用戶可以通過拖拽模塊和自然語言交互的模式構(gòu)建應用原型。

Langchain將制作AI應用的工具能力模板化和標準化，而LangFlow 提供了一系列可供選擇的LangChain組件，包括 LLMs、提示模板、代理和鏈等等，用戶可以通過鏈接節(jié)點的方式輕松構(gòu)建和測試產(chǎn)品原型，例如聊天機器人和文本解析助手。LangFlow基于Python開發(fā)，同類產(chǎn)品還有基于JavaScript開發(fā)的Flowise。

圖表：LangFlow通過簡單鏈接四個模塊即可構(gòu)建具備記憶且可自定義模板的聊天機器人

大模型：開源模型百花齊放，助力B端高效部署

ChatGLM等開源模型帶來大模型普惠，助力B端部署AI Answer。

企業(yè)可以通過Langchain平臺調(diào)用部分開源的自然語言處理模型，例如ChatGLM、Bloom與LLAMA模型等，這些開源模型為企業(yè)級AI應用的推廣奠定了基礎。其中，ChatGLM是可被集成到LangChain的一款重要開源模型，能夠通過提供自然語言處理能力為企業(yè)打造高效的AI Answer應用。

其研發(fā)企業(yè)智譜AI成立于2019年，源自清華大學計算機系知識工程實驗室。2022年，公司合作研發(fā)了支持中英雙語的千億級超大規(guī)模預訓練模型GLM-130B，并搭建了高精度通用知識圖譜。

GLM-130B在多個公開評測榜單上超越了GPT-3的性能，支持單張消費級推理并且具備跨平臺跨芯片的快速推理能力?；贕LM-130B模型，公司又開發(fā)了6B參數(shù)規(guī)模的雙語對話模型ChatGLM，可以處理多種自然語言任務（如對話聊天和智能問答），并且支持在單張消費級顯卡上推理使用。目前，GLM-130B和ChatGLM均開源，為企業(yè)端客戶提供了更低門檻和更高安全性的應用方案。

向量是多模數(shù)據(jù)的壓縮，是AI學習的通用數(shù)據(jù)形式。非結(jié)構(gòu)化數(shù)據(jù)通常需要向量化之后才能被AI模型所理解，向量嵌入（vector embedding）是自然語言處理和深度學習中常用的數(shù)據(jù)預處理技術，即將非數(shù)值如文本、圖片、視頻等源數(shù)據(jù)轉(zhuǎn)化為機器可以理解的多維數(shù)值向量。

向量搜索是一種模糊匹配，區(qū)別于傳統(tǒng)的關鍵詞索引精準查詢。向量搜索一般采用K近鄰法或近似臨近算法，計算目標對象與數(shù)據(jù)庫中向量嵌入的距離以表示兩者的相似度，排序后返回最為相似的結(jié)果。區(qū)別于傳統(tǒng)數(shù)據(jù)庫的精確索引，向量搜索是一種模糊匹配，輸出的是概率上的最近似答案。

向量數(shù)據(jù)庫是專門用來存儲和查詢向量的數(shù)據(jù)庫。向量數(shù)據(jù)庫即原生面向向量設計的、專門用于存儲、管理、查詢、檢索向量的數(shù)據(jù)庫。向量化技術已較為成熟，也出現(xiàn)了不少開源的向量搜索算法庫（如Facebook的FAISS），但向量數(shù)據(jù)庫提供一種開箱即用的解決方案，在數(shù)據(jù)持久化、實時增刪改、分布式計算、容災備份等方面提供更完整的支持，更適合企業(yè)級應用。

向量數(shù)據(jù)庫幫助拓展LLM時空邊界，是企業(yè)知識庫的必備存儲“大腦”。目前向量數(shù)據(jù)庫的核心應用場景之一便是拓展LLM的時空邊界，賦能企業(yè)打造基于專屬知識庫的AI Answer應用。

時間維度上，初始的LLM是基于歷史的通用語料庫訓練的，而實際企業(yè)應用場景中需要補充實時的、專業(yè)性的知識；空間維度上，LLM的輸入token存在長度限制，因此無法直接將企業(yè)知識庫的全量信息作為prompt一次性輸入，僅需最相關的部分。

向量數(shù)據(jù)庫和LLM的具體交互過程為：用戶首先將企業(yè)知識庫的全量信息通過嵌入模型轉(zhuǎn)化為向量后儲存在向量數(shù)據(jù)庫中，用戶輸入prompt時，先將其同樣向量化，并在向量數(shù)據(jù)庫中檢索最為相關的內(nèi)容，再將檢索到的相關信息和初始prompt一起輸入給LLM模型，以得到最終返回結(jié)果。

案例：星環(huán)科技Hippo向量數(shù)據(jù)庫具備多種企業(yè)級特性。目前向量數(shù)據(jù)庫市場參與者以海外初創(chuàng)型公司的開源產(chǎn)品為主，近期一級市場投融資熱度較高。

國內(nèi)大數(shù)據(jù)基礎軟件領軍企業(yè)星環(huán)科技在向量數(shù)據(jù)庫上已有數(shù)年技術積累，之前主要內(nèi)部自用，今年5月底正式產(chǎn)品化對外發(fā)布為Hippo向量數(shù)據(jù)庫產(chǎn)品，在高可用、高性能、易拓展等方面具備優(yōu)勢，支持多種向量搜索索引，支持數(shù)據(jù)分區(qū)分片、數(shù)據(jù)持久化、增量數(shù)據(jù)攝取、向量標量字段過濾混合查詢等功能，能夠很好地滿足企業(yè)針對海量向量數(shù)據(jù)的高實時性查詢、檢索、召回等場景。

應用場景和未來展望：企業(yè)內(nèi)部知識庫有望重構(gòu)

知識管理平臺重新整合內(nèi)部知識，助力B端客戶打造AI Answer應用。我們認為企業(yè)知識庫有望成為AI Answer在B端的先行落地形式，目前我們觀察到第四范式、星環(huán)科技、云知聲、創(chuàng)新奇智、中科聞歌、鼎捷軟件等廠商均具備了基于企業(yè)內(nèi)部知識打造知識庫的能力。

OA有望成為企業(yè)管理軟件領域AI Answer先行落地場景。知識管理是OA的新興模塊，其主要用于企業(yè)內(nèi)部文檔和知識資料的存儲和管理，目前泛微、致遠、藍凌等頭部OA廠商均推出了知識管理類產(chǎn)品（如泛微采知連、致遠知識管理解決方案、藍凌知識管理平臺等），而現(xiàn)階段知識管理模塊主要為知識存儲，并通過簡單的搜索功能實現(xiàn)知識提取，企業(yè)應用效率低下。

我們認為AI有望助力知識管理能夠進行全方位升級，通過第三方大模型賦能實現(xiàn)AI Answer，真正將企業(yè)知識靈活運用，進一步激勵企業(yè)員工充實知識庫并提高其使用效率。

? 泛微網(wǎng)絡：千里聆&采知連&小E助手實現(xiàn)知識的管理和問答。泛微千里聆基于RPA（機器人流程自動化）和NLP（自然語言處理）技術，具備信息采集功能；采知連未知識管理領域?qū)ｍ棶a(chǎn)品，實現(xiàn)文檔管理、知識倉庫、知識運營；小E智能語音輔助系統(tǒng)能夠?qū)崿F(xiàn)智能助理、知識問答、數(shù)據(jù)查詢、業(yè)務處理等功能。我們認為未來公司產(chǎn)品有望與大模型實現(xiàn)深度融合，期待大模型融合后的企業(yè)協(xié)同管理應用推出。

? 致遠互聯(lián)：AICOP助力實現(xiàn)“智能協(xié)同”。6月12日，致遠互聯(lián)發(fā)布智能協(xié)同應用AICOP的視頻演示，展示了智能協(xié)同助手“小致”在預訂會議、準備會議資料、生成報告&文稿&會議紀要、填寫表單、發(fā)起流程等場景的賦能應用。

ERP 中 AI Answer落地展望：大模型助力下AI Answer 賦能生產(chǎn)流程管理。與OA相比，ERP與業(yè)務和生產(chǎn)聯(lián)系更緊密且具有更明顯的行業(yè)屬性，在業(yè)務運行過程ERP沉淀的行業(yè)垂類數(shù)據(jù)有望助力大模型的訓練。海外微軟的Dynamics 365 Copilot展示了客服、市場、供應鏈管理等場景的AI賦能應用；國內(nèi)對標來看，用友網(wǎng)絡深耕ERP多年布局二十余個行業(yè)并積累了各行業(yè)豐富的用戶授權數(shù)據(jù)，公司計劃后續(xù)將通過和通用大模型廠商合作+自研結(jié)合的方式進一步訓練企業(yè)服務大模型，期待大模型賦能下AI Answer在財務、人力、采購、制造、營銷等領域場景落地。

釘釘有望為中小組織和個人構(gòu)建“知識圖譜”。2023年6月，釘釘AI正式邀請測試，其展示了AI+文檔、AI+群聊、AI+應用、AI+問答機器人等功能。其中AI+問答機器人能夠接收用戶主動上傳特定的文檔數(shù)據(jù)，生成特定場景的問答機器人，并作為專業(yè)模型實現(xiàn)更有效、準確的AI問答。我們認為這類功能為中小型組織和個人快速構(gòu)建知識庫，實現(xiàn)知識的沉淀和應用。

WPS、印象筆記等文檔類軟件有望基于用戶端海量文檔實現(xiàn)AI Answer。我們認為WPS、印象筆記等文檔類軟件作為文檔沉淀的平臺，具備天然接入AI大模型的應用條件。如印象筆記的“知識星圖”功能，能夠借助AI語義分析產(chǎn)生知識圖譜和知識網(wǎng)絡，實現(xiàn)信息的高效收集和利用。我們認為文檔類軟件有望在B端和C端幫助用戶更好地基于平臺沉淀的文檔實現(xiàn)AI Answer。

垂類場景：各行業(yè)知識應用有望百花齊放

各個細分行業(yè)積累的大量知識有望在大模型賦能下實現(xiàn)歸集，賦能千行百業(yè)。如醫(yī)療行業(yè)的衛(wèi)寧健康、保險行業(yè)的新致軟件、教育行業(yè)的科大訊飛均憑借過去在垂類行業(yè)的深耕，借助大模型實現(xiàn)知識的賦能應用。展望未來，我們期待更多行業(yè)能夠在大模型賦能下實現(xiàn)行業(yè)知識萃取，各行業(yè)知識應用有望百花齊放。

圖表：衛(wèi)寧健康推出醫(yī)療垂類模型WiNGPT賦能問診、報告生成等場景，未來計劃以Copilot形式融入WiNEX

于鐘海 SAC 執(zhí)證編號：S0080518070011 SFC CE Ref：BOP246

魏鸛霏 SAC 執(zhí)證編號：S0080523060019 SFC CE Ref：BSX734

王之昊 SAC 執(zhí)證編號：S0080522050001 SFC CE Ref：BSS168

韓蕊 SAC 執(zhí)證編號：S0080121080059

胡安琪 SAC 執(zhí)證編號：S0080122070070

譚哲賢 SAC 執(zhí)證編號：S0080122070047