在AI视频分析边缘侧项目交付中，使用边缘计算盒子部署平台服务、接入摄像头并开启算法推理是极其常见的落地场景。本文针对灵犀、超星未来、算能SE5等典型嵌入式/边缘算力硬件，梳理一套覆盖“准备-安装-验证-排查”的交付与故障定位清单。

部署目标和适用场景

本教程适用于在厂区、园区、加油站等边缘侧场景下，基于边缘计算设备（如算能 SE5、灵犀系列、超星未来边缘盒子）部署 AI 视频分析平台服务，实现摄像头 RTSP 视频流接入、NPU/GPU 算法推理及实时告警推送的全流程交付。

环境准备清单

资源/环境	部署要求与推荐配置
芯片/硬件	算能 SE5 (BM1684/BM1684X)、灵犀边缘硬件、超星未来边缘计算盒子
内存 / 磁盘	内存 8GB；系统盘 64GB SSD（建议 NVMe）
操作系统	Ubuntu 20.04/22.04 LTS (ARM64/AArch64) 或 厂商定制 Linux
底层依赖	Docker 20.10+、Docker Compose v2+、厂商专属 NPU SDK/驱动
网络环境	千兆网口，盒子与摄像头处于同一局域网（或路由可达）
接入路数	单盒建议接入 4~16 路 1080P RTSP 视频流（视模型复杂度而定）

架构说明

系统在边缘盒子内部采用容器化微服务架构，包含以下核心模块：

[摄像头 RTSP 流] ---> [流媒体服务 (Media Server)]
                           |
                           v
[平台服务 (API Gateway)] -> [算法服务 (NPU/GPU 推理引擎)]
       |                           |
       v                           v
[数据库/缓存 (SQLite/Redis)]    [告警服务 (Webhook/MQ)] ---> [上级平台 / 客户端]

• 平台服务：提供 Web UI、通道管理、规则配置及鉴权。

• 流媒体服务：负责 RTSP/RTMP 拉流、转码及 Web 端 HLS/FLV/WebRTC 预览。

• 算法服务：绑定算能/灵犀/超星未来芯片驱动，加载 Quantized 模型执行目标检测与识别。

• 数据库/缓存：存储通道配置、算法事件与 Token 缓存。

• 告警服务：抓取结构化图片并推送 HTTP Webhook 或 MQTT 告警。

部署步骤

1. 准备阶段

检查硬件拓扑，确认算能 SE5、灵犀或超星未来盒子的 NPU 驱动已正常加载：

Bash

# 算能 SE5 查看 TPU/NPU 状态
bm-smi
# 或查看设备节点
ls -l /dev/bm-tpu* /dev/ion

2. 安装阶段

加载平台镜像包并解压部署工程：

Bash

docker load -i ai-edge-platform-arm64.tar.gz
cd /opt/ai-edge-platform/

3. 配置阶段

修改 env.conf 与 docker-compose.yml，正确填写芯片类型、授权文件路径与网卡 IP。

4. 启动阶段

启动边缘容器组：

Bash

docker-compose up -d

5. 验证阶段

确认服务就绪情况（详见下文验证方法）。

6. 上线阶段

接入现场摄像头 RTSP 地址，绑定算法规则，开启实时监控。

配置项表

配置项	推荐/示例值	说明
Web 端口	18080	边缘 Web 页面访问端口
API 端口	18081	平台 API 接口端口
RTSP 流地址	rtsp://admin:pass@192.168.1.64:554/h264/ch1/main/av_stream	现场摄像头主/辅流地址
模型路径	/opt/models/person_helmet_bm1684x.bmodel	NPU 专属编译模型路径（如 bmodel/onnx）
并发路数	8	允许同时启用的算法推理通道上限
日志路径	/var/log/ai-platform/	挂载到宿主机的日志目录
告警回调	[http://192.168.1.200:8080/api/v1/alarm/receive](http://192.168.1.200:8080/api/v1/alarm/receive)	告警抓拍图与结构化数据接收接口

验证方法

运维人员需按以下标准化步骤完成上线验证：

1. 页面能打开：浏览器访问 http://<盒子IP>:18080，登录页无阻塞，正常进入控制台。

2. 视频能预览：在通道管理添加 RTSP 流，Web 端能流畅播放 HLS/FLV 画面。

3. 算法能告警：在测试区域阻挡或模拟违规行为，页面实时弹窗展示告警抓拍图。

4. 日志无异常：执行 docker-compose logs -f，未出现 CUDA/TPU error、OOM 或连接拒绝对接。

5. 回调成功：上级接收服务器日志收到格式校验合格的 Webhook JSON 报文。

故障现象与原因分析

现场部署边缘计算盒子部署平台时，常见异常现象及定位套路如下：

故障总览表

故障现象	可能原因	检查位置	解决办法
服务起不来	端口冲突或磁盘空间爆满	docker-compose logs	更换冲突端口，清理 /var/log 磁盘空间
NPU/GPU 不可见	驱动未加载或 Docker 未挂载设备	/dev/bm-tpu / docker-compose.yml	补全容器设备映射（devices 参数）
拉流失败	网络不通、认证错误或编码不兼容	ffplay / RTSP 地址	确认摄像头 H.264 编码，调整主辅流端口
告警不触发	算法未加载、ROI 区域绘制错误或置信度过高	算法服务日志	调整置信度阈值，重新核对推理区域
视频延迟高	硬解码未开启或 RTSP 采用 UDP 丢包	流媒体配置	开启 NPU 硬件解码，强制 RTSP 使用 TCP
CPU 占用高	算法退化为 CPU 软解码/软推理	top / 算法配置	修正驱动依赖，启用 SoC 硬件 VPU/NPU 加速

排查命令与解决方法

1. NPU / GPU 设备丢失排查

• 排查命令：

  Bash

  # 检查算能 SE5 芯片节点
  ls -l /dev/bmdev* /dev/bm-tpu*
  
  # 检查超星未来/灵犀设备驱动加载
  lsmod | grep -E "bm|npu|dpu"
  

• 解决方法：在 docker-compose.yml 中补全设备挂载：

  YAML

  devices:
    - "/dev/bm-tpu0:/dev/bm-tpu0"
    - "/dev/bmdev-ctl:/dev/bmdev-ctl"
    - "/dev/ion:/dev/ion"
  

2. 视频拉流与延迟排查

• 排查命令：

  Bash

  # 使用 ffmpeg 测试边缘盒子拉流与硬解码连通性
  ffmpeg -rtsp_transport tcp -i "rtsp://admin:pass@192.168.1.64:554/h264/ch1/main/av_stream" -f null -
  

• 截图/参数建议：在 Web 控制台截图保存“流媒体诊断”页面的丢包率与 Bitrate 参数；视频流格式优先推荐使用 H.264 + TCP 传输。

3. 常见错误日志

Bash

# 查看算法容器错误
docker logs --tail 100 ai-engine-service | grep -E "ERROR|Failed|OOM"

• BMTpuException: No TPU device found：说明算能驱动未映射进容器。

• Decoder error: unsupported codec type (H.265)：边缘软解码性能不足，需配置视频源为 H.264 或开启 VPU 硬解码。

升级与回滚建议

1. 升级前备份：导出边缘盒子的配置数据库文件与算法模型配置文件：

   Bash

   cp /opt/ai-edge-platform/data/config.db /opt/backup/config.db.bak
   

2. 镜像版本控制：镜像 Tag 严禁使用 latest，必须标注具体版本号（如 v1.2.4-bm1684x）。

3. 快速回滚：若升级后算法不兼容，通过修改 Docker Compose 的 image 标签并执行 docker-compose up -d 重新装载上一版本镜像，恢复备份数据库即可。

延伸阅读与技术支持

在基于灵犀、超星未来、算能SE5等边缘计算盒子部署过程中，若遇到高并发拉流卡顿、模型量化精度衰减或多算法并行调度困难，欢迎查看更多技术教程页与核心平台技术方案。