知识问答大模型(维修)技术方案-软硬件环境
三、软硬件环境
本系统的软硬件环境包括:软件环境和硬件环境。
(一)软件环境
本系统软件环境如下表所示。
表 2 软件环境表
序号 类型 名称 版本号
1 操作系统 Windows Server 2019 Standard 2019
2 AI运行环境 Python 3.10
3 高性能开发环境 C++17编译标准 C++17
4 服务网关组件 Nginx(统一接口入口) 1.24
5 数据库连接工具 HikariCP(数据库高速管理器) 内置配套
6 数据库组件 SQLite(业务数据库) 3.45
7 Redis(缓存库) 7.2
8 Milvus向量数据库 2.3.3
9 AI加速工具 ONNX Runtime(AI 推理加速器) 1.17
10 TensorRT(GPU 推理加速引擎) 10.0
11 AI图像处理工具 OpenCV(图像处理库) 4.9
12 AI模型 PaddleOCR(图片识别) 2.7
13 Qwen2-7B-Instruct (量化大模型) INT4量化版
14 BGE-large-zh-v1.5(Embedding 向量) v1.5
15 BGE-reranker-base(Rerank 重排) base版
16 MacBERT-base(关键字抽取) base版
17 AI计算工具 PyTorch 2.2
18 桌面前端工具 Electron 桌面打包 28.0+
19 前端界面工具 Vue3(开发界面) 3.4+
20 Element Plus UI组件库 2.6+
21 网络请求工具 Axios(前后端异步通信) 1.6+
22 3D可视化组件 Three.js(3D可视化引擎) r128+
23 Cesium(3D可视化引擎) 1.111
24 部署运维工具 Docker(可选部署工具) 27.0.3
(二)硬件环境
本系统硬件环境如下表所示。
表 3 硬件环境
序号 名称 规格/版档号
1 CPU ≥8核16线程(i7-12700同等及以上)
2 内存 ≥32GB DDR4,推荐64GB及以上
3 存储硬盘 SSD固态硬盘,可用空间≥100GB
4 GPU RTX3060 12GB及以上
5 网卡 千兆有线网卡
6 显示器 1080P及以上分辨率
openEuler 是由开放原子开源基金会孵化的全场景开源操作系统项目,面向数字基础设施四大核心场景(服务器、云计算、边缘计算、嵌入式),全面支持 ARM、x86、RISC-V、loongArch、PowerPC、SW-64 等多样性计算架构
更多推荐


所有评论(0)