最近在落地基于RAG的智能政务服务助手,参考业界的设计,结合业主的需求,总体的功能设计如下,希望大家给点建议与意见,欢迎一起学习探讨大语言模型应用落地的实践。
建设背景
随着社会的发展和新一代信息化技术的进步,政务服务的需求和要求也在不断变化。为了满足公众对于高效、便捷、贴心的政务服务的需求,政府机构需要不断提升服务质量和效率。大语言模型技术的出现,为政务服务升级提供了新的可能。
1、提升政务服务效率
传统的政务服务方式,如窗口办理、电话咨询等,存在效率较低、人力成本高等问题。通过大语言模型技术,可以快速、准确地理解公众的问题和需求,提供精准、及时的答复和建议,有效提升政务服务效率。
2、提升政务服务智能化水平
实现对海量数据的分析和处理,挖掘数据中的规律和趋势,为政府决策提供科学依据。同时,大语言模型技术还可以根据公众的需求和反馈,不断优化服务内容和方式,提升政务服务的智能化水平。
3、满足公众多样化的需求
随着社会的多元化和公众需求的多样化,政务服务也需要满足不同人群、不同领域的需求。大语言模型技术可以针对不同的服务场景和需求,提供个性化的解决方案和服务方式,满足公众多样化的需求。
建设的目标
应用自然语言处理、语音技术及大语言模型等新一代人工智能创新技术,构建智能化的政务服务咨询机器人,为公众提供24小时不间断的在线服务,能够自动回答公众的问题,提供政策解读、办事指南等咨询服务,帮助公众更好地了解和办理相关业务,辅助群众「一窗口「式办理所需业务,节省群众全站寻找办理入口时间。
建设内容
围绕办事服务事项相关业务内容,结合大语言模型的推理能力和向量数据库的存储和检索能力,构建基于知识库的智能问答服务,总体的主要包括以下几个方面的建设内容:机器人管理平台、智能问答服务及LLM大语言模型服务。
机器人管理平台
通过灵活的角色设定以及私有化知识库管理,生成定制版助理机器人,支持发布至各类终端,提供知识问答服务。主要包括机器人管理、知识库管理(问答式、文档式)、事项管理、基础支撑服务等功能。
智能问答服务
提供多样化的对话式智能问答服务,结合知识库信息,自动生成问答结果、相关推荐、参考链接等内容。主要包括服务导航、热门推荐、卡片式问答、引导式对话、生成式问答、相关推荐、语音服务等功能。
大语言模型服务
基于Langchain与LLM 大语言模型构建模型对话服务,提供开箱即用的数据处理、模型调用等能力,并基于 FastAPI 对外提供的 API 调用服务。