领域交互式语言大模型系统采购意向公告

采购内容：领域交互式语言大模型系统1套，用开源预训练大模型+领域专业数据进行微调训练的方式，为用户提供快速、准确的专业知识问答辅助、摘要生成和交互式数据可视分析等服务，有效提升用户研判和推理的效率。

采购数量：1套

主要功能或目标：整体需求包括领域文本训练数据治理、领域文本知识问答对生成、大模型微调训练、可信问答应用、大模型应用演示系统设计与实现、国产智能计算训练与推理服务器等6部分内容。

需满足的要求：1.领域文本训练数据的治理需系统梳理领域现有数据资源，围绕领域训练数据的自动采集、管理、数据处理和数据校验开展，重点完成领域中相关文本数据的自动收集（如OCR、实体自动抽取等）、整理、归档和标注等内容，系统功能包括文档管理模块、OCR模块、向量化模块和向量知识库。2.领域文本知识问答对生成基于大语言模型，实现领域相关常见知识问答对生成，组织教员、学员开展高质量有监督训练数据的采集，实现多轮问答式采集工具，收集文本答案并建立问题的提示词、思维链，建立相关问答对库，为模型训练提供丰富的领域训练数据，提高大模型在领域的理解能力和推理能力，为后续交互问答和大模型微调提供支撑，系统功能包括数据审核、任务推理和系统管理。3.大模型微调训练调用基座大模型完成大模型微调训练，使用领域问答对数据进行模型微调训练，通过最大化模型在问答对数据上的预测正确率来调整模型参数，使其更好地适应相关用户分析领域的特定语境和问题类型。在微调训练后，对模型进行指标评估、迭代优化，系统功能包括微调训练平台、指标评估平台、模型调试平台。4.大模型可信问答应用基于检索增强生成、知识溯源等技术实现智能知识问答和摘要总结生成应用。通过检索增强技术、向量化召回实现从数据中筛选出与问题相关的关键信息，并根据信息的来源、权威性等因素对答案进行排序和评价，从而提高领域知识生成答案的可信度和可靠性，系统功能包括提示工程模块、检索增强生成模块、可信问答模块、知识溯源模块、智能知识问答应用和摘要总结生成应用。5.大模型应用演示系统设计与实现开展大模型应用系统的设计与开发，系统由领域文本训练数据治理系统、领域文本问答对生成、大模型微调平台以及大模型应用平台组成，系统能力支撑覆盖相关领域业务数据处理及知识库构建、微调所需问答对生成、领域大模型微调训练、领域知识问答应用等大模型训练及应用。6.国产智能计算训练与推理服务器提供1台国产具备智能加速卡模型训练服务器，用于国产大模型的微调训练，作为应用演示系统的训练子系统；提供1台国产智能计算推理服务器，用于训练后模型的推理计算，作为应用演示系统的推理子系统。