Merge pull request #4471 from myhloli/dev

fix: update accelerator card usage instructions across multiple docum…
This commit is contained in:
Xiaomeng Zhao
2026-02-02 15:21:42 +08:00
committed by GitHub
9 changed files with 23 additions and 28 deletions

View File

@@ -1,6 +1,6 @@
# 基础镜像配置 vLLM 或 LMDeploy ,请根据实际需要选择其中一个,要求 amd64(x86-64) CPU + Cambricon MLU. # 基础镜像配置 vLLM 或 LMDeploy ,请根据实际需要选择其中一个,要求 amd64(x86-64) CPU + Cambricon MLU.
# Base image containing the LMDEPLOY inference environment, requiring amd64(x86-64) CPU + Cambricon MLU. # Base image containing the LMDEPLOY inference environment, requiring amd64(x86-64) CPU + Cambricon MLU.
FROM crpi-4crprmm5baj1v8iv.cn-hangzhou.personal.cr.aliyuncs.com/lmdeploy_dlinfer/camb:qwen_vl2.5 FROM crpi-4crprmm5baj1v8iv.cn-hangzhou.personal.cr.aliyuncs.com/lmdeploy_dlinfer/camb:qwen2.5_vl
ARG BACKEND=lmdeploy ARG BACKEND=lmdeploy
# Base image containing the vLLM inference environment, requiring amd64(x86-64) CPU + Cambricon MLU. # Base image containing the vLLM inference environment, requiring amd64(x86-64) CPU + Cambricon MLU.
# FROM crpi-vofi3w62lkohhxsp.cn-shanghai.personal.cr.aliyuncs.com/opendatalab-mineru/mlu:vllm0.8.3-torch2.6.0-torchmlu1.26.1-ubuntu22.04-py310 # FROM crpi-vofi3w62lkohhxsp.cn-shanghai.personal.cr.aliyuncs.com/opendatalab-mineru/mlu:vllm0.8.3-torch2.6.0-torchmlu1.26.1-ubuntu22.04-py310

View File

@@ -175,4 +175,5 @@ docker run -u root --name mineru_docker --privileged=true \
🔴: 不支持,无法运行,或精度存在较大差异 🔴: 不支持,无法运行,或精度存在较大差异
>[!TIP] >[!TIP]
>NPU加速卡指定可用加速卡的方式与NVIDIA GPU类似请参考[ASCEND_RT_VISIBLE_DEVICES](https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/850alpha001/maintenref/envvar/envref_07_0028.html) > - NPU加速卡指定可用加速卡的方式与NVIDIA GPU类似请参考[ASCEND_RT_VISIBLE_DEVICES](https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/850alpha001/maintenref/envvar/envref_07_0028.html)
> - 在Ascend平台可以通过`npu-smi info`命令查看加速卡的使用情况并根据需要指定空闲的加速卡ID以避免资源冲突。

View File

@@ -36,24 +36,11 @@ docker run --name mineru_docker \
--privileged \ --privileged \
--ipc=host \ --ipc=host \
--network=host \ --network=host \
--cap-add SYS_PTRACE \
--device=/dev/mem \
--device=/dev/dri \
--device=/dev/infiniband \
--device=/dev/cambricon_ctl \
--device=/dev/cambricon_dev0 \
--device=/dev/cambricon_dev1 \
--device=/dev/cambricon_dev2 \
--device=/dev/cambricon_dev3 \
--device=/dev/cambricon_dev4 \
--device=/dev/cambricon_dev5 \
--device=/dev/cambricon_dev6 \
--device=/dev/cambricon_dev7 \
--group-add video \
--shm-size=400g \ --shm-size=400g \
--ulimit memlock=-1 \ --ulimit memlock=-1 \
--security-opt seccomp=unconfined \ -v /dev:/dev \
--security-opt apparmor=unconfined \ -v /lib/modules:/lib/modules:ro \
-v /usr/bin/cnmon:/usr/bin/cnmon \
-e MINERU_MODEL_SOURCE=local \ -e MINERU_MODEL_SOURCE=local \
-e MINERU_LMDEPLOY_DEVICE=camb \ -e MINERU_LMDEPLOY_DEVICE=camb \
-it mineru:mlu-lmdeploy-latest \ -it mineru:mlu-lmdeploy-latest \
@@ -86,7 +73,7 @@ docker run --name mineru_docker \
不同环境下MinerU对Cambricon加速卡的支持情况如下表所示 不同环境下MinerU对Cambricon加速卡的支持情况如下表所示
>[!TIP] >[!TIP]
> - `lmdeploy`黄灯问题为不能批量输出文件夹,单文件输入正常 > - `lmdeploy`黄灯问题为不能输入文件夹使用批量解析功能,输入单个文件时表现正常
> - `vllm`黄灯问题为在精度未对齐,在部分场景下可能出现预期外结果。 > - `vllm`黄灯问题为在精度未对齐,在部分场景下可能出现预期外结果。
<table border="1"> <table border="1">
@@ -168,5 +155,6 @@ docker run --name mineru_docker \
🔴: 不支持,无法运行,或精度存在较大差异 🔴: 不支持,无法运行,或精度存在较大差异
>[!TIP] >[!TIP]
>Cambricon加速卡指定可用加速卡的方式与NVIDIA GPU类似请参考[使用指定GPU设备](https://opendatalab.github.io/MinerU/zh/usage/advanced_cli_parameters/#cuda_visible_devices)章节说明, > - Cambricon加速卡指定可用加速卡的方式与NVIDIA GPU类似请参考[使用指定GPU设备](https://opendatalab.github.io/MinerU/zh/usage/advanced_cli_parameters/#cuda_visible_devices)章节说明,
>将环境变量`CUDA_VISIBLE_DEVICES`替换为`MLU_VISIBLE_DEVICES`即可。 >将环境变量`CUDA_VISIBLE_DEVICES`替换为`MLU_VISIBLE_DEVICES`即可。
> - 在Cambricon平台可以通过`cnmon`命令查看加速卡的使用情况并根据需要指定空闲的加速卡ID以避免资源冲突。

View File

@@ -105,5 +105,6 @@ docker run -u root --name mineru_docker \
🔴: 不支持,无法运行,或精度存在较大差异 🔴: 不支持,无法运行,或精度存在较大差异
>[!TIP] >[!TIP]
>GCU加速卡指定可用加速卡的方式与NVIDIA GPU类似请参考[使用指定GPU设备](https://opendatalab.github.io/MinerU/zh/usage/advanced_cli_parameters/#cuda_visible_devices)章节说明, > - GCU加速卡指定可用加速卡的方式与NVIDIA GPU类似请参考[使用指定GPU设备](https://opendatalab.github.io/MinerU/zh/usage/advanced_cli_parameters/#cuda_visible_devices)章节说明,
>将环境变量`CUDA_VISIBLE_DEVICES`替换为`TOPS_VISIBLE_DEVICES`即可。 >将环境变量`CUDA_VISIBLE_DEVICES`替换为`TOPS_VISIBLE_DEVICES`即可。
> - 在Enflame平台可以通过`efsmi`命令查看加速卡的使用情况并根据需要指定空闲的加速卡ID以避免资源冲突。

View File

@@ -2,7 +2,7 @@
以下为本指南测试使用的平台信息,供参考: 以下为本指南测试使用的平台信息,供参考:
``` ```
os: Ubuntu 22.04.3 LTS os: Ubuntu 22.04.3 LTS
cpu: Hygon Hygon C86-4G(x86-64) cpu: Hygon C86-4G(x86-64)
dcu: BW200 dcu: BW200
driver: 6.3.13-V1.12.0a driver: 6.3.13-V1.12.0a
docker: 20.10.24 docker: 20.10.24
@@ -112,4 +112,5 @@ docker run -u root --name mineru_docker \
🔴: 不支持,无法运行,或精度存在较大差异 🔴: 不支持,无法运行,或精度存在较大差异
>[!TIP] >[!TIP]
>DCU加速卡指定可用加速卡的方式与AMD GPU类似请参考[GPU isolation techniques](https://rocm.docs.amd.com/en/docs-6.2.4/conceptual/gpu-isolation.html) > - DCU加速卡指定可用加速卡的方式与AMD GPU类似请参考[GPU isolation techniques](https://rocm.docs.amd.com/en/docs-6.2.4/conceptual/gpu-isolation.html)
> - 在Hygon平台可以通过`hy-smi`命令查看加速卡的使用情况并根据需要指定空闲的加速卡ID以避免资源冲突。

View File

@@ -119,4 +119,5 @@ docker run --name mineru_docker \
🔴: 不支持,无法运行,或精度存在较大差异 🔴: 不支持,无法运行,或精度存在较大差异
>[!TIP] >[!TIP]
>Iluvatar加速卡指定可用加速卡的方式与NVIDIA GPU类似请参考[使用指定GPU设备](https://opendatalab.github.io/MinerU/zh/usage/advanced_cli_parameters/#cuda_visible_devices)章节说明 > - Iluvatar加速卡指定可用加速卡的方式与NVIDIA GPU类似请参考[使用指定GPU设备](https://opendatalab.github.io/MinerU/zh/usage/advanced_cli_parameters/#cuda_visible_devices)章节说明
> - 在Iluvatar平台可以通过`ixsmi`命令查看加速卡的使用情况并根据需要指定空闲的加速卡ID以避免资源冲突。

View File

@@ -148,4 +148,5 @@ docker run --ipc host \
🔴: 不支持,无法运行,或精度存在较大差异 🔴: 不支持,无法运行,或精度存在较大差异
>[!TIP] >[!TIP]
>MACA加速卡指定可用加速卡的方式与NVIDIA GPU类似请参考[使用指定GPU设备](https://opendatalab.github.io/MinerU/zh/usage/advanced_cli_parameters/#cuda_visible_devices)章节说明。 > - MACA加速卡指定可用加速卡的方式与NVIDIA GPU类似请参考[使用指定GPU设备](https://opendatalab.github.io/MinerU/zh/usage/advanced_cli_parameters/#cuda_visible_devices)章节说明。
> - 在METAX平台可以通过`mx-smi`命令查看加速卡的使用情况并根据需要指定空闲的加速卡ID以避免资源冲突。

View File

@@ -112,4 +112,5 @@ docker run -u root --name mineru_docker \
🔴: 不支持,无法运行,或精度存在较大差异 🔴: 不支持,无法运行,或精度存在较大差异
>[!TIP] >[!TIP]
>MooreThreads加速卡指定可用加速卡的方式与NVIDIA GPU类似请参考[GPU 枚举](https://docs.mthreads.com/cloud-native/cloud-native-doc-online/install_guide/#gpu-%E6%9E%9A%E4%B8%BE) > - MooreThreads加速卡指定可用加速卡的方式与NVIDIA GPU类似请参考[GPU 枚举](https://docs.mthreads.com/cloud-native/cloud-native-doc-online/install_guide/#gpu-%E6%9E%9A%E4%B8%BE)
> - 在MooreThreads平台可以通过`mthreads-gmi`命令查看加速卡的使用情况并根据需要指定空闲的加速卡ID以避免资源冲突。

View File

@@ -139,4 +139,5 @@ docker run --privileged=true \
🔴: 不支持,无法运行,或精度存在较大差异 🔴: 不支持,无法运行,或精度存在较大差异
>[!TIP] >[!TIP]
>PPU加速卡指定可用加速卡的方式与NVIDIA GPU类似请参考[使用指定GPU设备](https://opendatalab.github.io/MinerU/zh/usage/advanced_cli_parameters/#cuda_visible_devices)章节说明。 > - PPU加速卡指定可用加速卡的方式与NVIDIA GPU类似请参考[使用指定GPU设备](https://opendatalab.github.io/MinerU/zh/usage/advanced_cli_parameters/#cuda_visible_devices)章节说明。
> - 在T-Head平台可以通过`ppu-smi`命令查看加速卡的使用情况并根据需要指定空闲的加速卡ID以避免资源冲突。