技术参数及配置要求 | 一、硬件配置 采购描述 配置参数信息 数量 台数 CPU Intel Xeon Gold 6430 32C64T 2.1-3.4GHz 2 内存 SK 48G DDR5 RECC 5600 内存(共1056G内存) 22 系统盘 三星480G 固态硬盘 2 数据盘 三星 PM983 3.84T U.2 NVME 固态硬盘 2 阵列卡 LSI 9364-8i 阵列卡 1 准系统 KF-GS4208-i4 4U准系统(8*600W双宽GPU直通/支持2*第4 5代可扩展至强 up350W/32*DIMM/12LFF中支持2NVMe/2*M.2 2280/额外1*PCIe5.0 x16+1*PCIe4.0 x8/四口千兆网卡/独立管理端口/2600W钛金级 3+1冗余/含导轨/含4090供电线*8) 1 显卡 RTX 4090 48G 显卡,T Core计算能力:191 TFLOPS,CUDA 核心数:16384,显存48GB 8 二、软件技术服务(报价时要求提供对应截图,包括但不限于:软件功能的截图、模型运行结果截图等,报价时以附件形式上传)。 1、操作系统 提供Ubuntu LTS版本的合规安装介质,执行基础操作系统安装,包括:磁盘分区、系统文件部署、基础驱动加载等;配置系统时区、语言、键盘布局为合同约定参数;创建客户指定的管理员账户并设置初始密码。 2、提供自有调度平台,实现多用户空间管理,支持用户专属工作区,确保资源互不可见、互不干扰。应提供用户权限控制。管理员可通过 UI 界面添加/移除成员,实现基于RBAC的权限管控,并支持通过bearer token的方式实现用户认证。 3、资源部署与监控 提供的产品应支持一键式应用部署。支持通过图形化界面上传 YAML 文件部署应用,表单化创建 Deployment/StatefulSet(填写镜像名、副本数、端口等参数),实时查看 Pod 状态(运行中/异常/重启次数)。 4、部署包含但不限于以下主流系列模型,并确保模型在硬件环境上的稳定运行: ● Deepseek-r1-671B 大模型 ● Qwen3-32B大模型 ● Qwen2.5-Omni-7B大模型 ● Qwen2.5-VL-7B-Instruct 大模型 ● Qwen2-Audio-7B-Instruct 大模型 ● Qwen3-30B-A3B 大模型 ● stable-audio-open-1.0 大模型 5、RAG知识检索增强服务 需支持以下功能: ● 联网搜索:集成Google、Bing等主流搜索引擎;自动将搜索结果插入Prompt,并标注来源链接; ● 本地知识库:支持向量数据库集成,提供知识库管理界面;支持文档上传和删除,支持文件管理功能;支持多文件格式上传,实现跨文件语义搜索。 6、提供大模型微调框架及技术服务。 7、项目人员要求:要求供应商提供不低于3人的自有技术团队进行项目保障,签合同时需要提交社保证明待查,项目人员需要到现场提供技术服务。 8、需部署以下时间序列模型,并提供示例数据集和技术文档,包括部署流程说明、常见问题解答等内容。 ● TiRex ● Timecopilot、 ● Toto 0pen Base 1.0、 ● Yinglong 6m、 ● TabPFN-TS、 ● chronos bolt base、 ● timesfm 2 0 500m、 ● sundial base 128m、 ● Moirai_base、 ● VisionTS、 ● Lag-Llama、 ● Timer、 ● timesfm ● TTM-R2-Tiny 9、 在合同成立后,7天内完成所有硬件及软件技术服务的交付,并达到验收标准。否则取消成交资格。 三、资格文件:要求报价人拥有自研大模型推理算法和自研混合专家模型的微调训练算法,报价时以附件形式上传相应的知识产权证书。 |