最近在落地基於RAG的智能政務服務助手，參考業界的設計，結合業主的需求，總體的功能設計如下，希望大家給點建議與意見，歡迎一起學習探討大語言模型套用落地的實踐。
建設背景
隨著社會的發展和新一代資訊化技術的進步，政務服務的需求和要求也在不斷變化。為了滿足公眾對於高效、便捷、貼心的政務服務的需求，政府機構需要不斷提升服務質素和效率。大語言模型技術的出現，為政務服務升級提供了新的可能。
1、提升政務服務效率
傳統的政務服務方式，如視窗辦理、電話咨詢等，存在效率較低、人力成本高等問題。透過大語言模型技術，可以快速、準確地理解公眾的問題和需求，提供精準、及時的答復和建議，有效提升政務服務效率。
2、提升政務服務智能化水平
實作對海量數據的分析和處理，挖掘數據中的規律和趨勢，為政府決策提供科學依據。同時，大語言模型技術還可以根據公眾的需求和反饋，不斷最佳化服務內容和方式，提升政務服務的智能化水平。
3、滿足公眾多樣化的需求
隨著社會的多元化和公眾需求的多樣化，政務服務也需要滿足不同人群、不同領域的需求。大語言模型技術可以針對不同的服務場景和需求，提供個人化的解決方案和服務方式，滿足公眾多樣化的需求。
建設的目標
套用自然語言處理、語音技術及大語言模型等新一代人工智能創新技術，構建智能化的政務服務咨詢機器人，為公眾提供24小時不間斷的線上服務，能夠自動回答公眾的問題，提供政策解讀、辦事指南等咨詢服務，幫助公眾更好地了解和辦理相關業務，輔助群眾「一視窗「式辦理所需業務，節省群眾全站尋找辦理入口時間。
建設內容
圍繞辦事服務事項相關業務內容，結合大語言模型的推理能力和向量數據庫的儲存和檢索能力，構建基於知識庫的智能問答服務，總體的主要包括以下幾個方面的建設內容：機器人管理平台、智能問答服務及LLM大語言模型服務。
機器人管理平台
透過靈活的角色設定以及私有化知識庫管理，生成客製版助理機器人，支持釋出至各類終端，提供知識問答服務。主要包括機器人管理、知識庫管理（問答式、文件式）、事項管理、基礎支撐服務等功能。
智能問答服務
提供多樣化的對話式智能問答服務，結合知識庫資訊，自動生成問答結果、相關推薦、參考連結等內容。主要包括服務導航、熱門推薦、卡片式問答、引導式對話、生成式問答、相關推薦、語音服務等功能。
大語言模型服務
基於Langchain與LLM 大語言模型構建模型對話服務，提供開箱即用的數據處理、模型呼叫等能力，並基於 FastAPI 對外提供的 API 呼叫服務。
