diff --git a/docs/zh/usage/acceleration_cards/MooreThreads.md b/docs/zh/usage/acceleration_cards/MooreThreads.md new file mode 100644 index 00000000..64958bfa --- /dev/null +++ b/docs/zh/usage/acceleration_cards/MooreThreads.md @@ -0,0 +1,111 @@ +## 1. 测试平台 +以下为本指南测试使用的平台信息，供参考： +``` +os: Ubuntu 22.04.4 LTS +cpu: Intel x86-64 +dcu: MTT S4000 +driver: 3.0.0-rc-KuaE2.0 +docker: 24.0.7 +``` + +## 2. 环境准备 + +### 2.1 使用 Dockerfile 构建镜像 + +```bash +wget https://gcore.jsdelivr.net/gh/opendatalab/MinerU@master/docker/china/musa.Dockerfile +docker build --network=host -t mineru:musa-vllm-latest -f musa.Dockerfile . +``` + + +## 3. 启动 Docker 容器 + +```bash +docker run -u root --name mineru_docker \ + --network=host \ + --ipc=host \ + --shm-size=80g \ + --privileged \ + -e MTHREADS_VISIBLE_DEVICES=all \ + -e MINERU_DEVICE_MODE=musa \ + -e MINERU_MODEL_SOURCE=local \ + -it mineru:musa-vllm-latest \ + /bin/bash +``` + +执行该命令后，您将进入到Docker容器的交互式终端，您可以直接在容器内运行MinerU相关命令来使用MinerU的功能。 +您也可以直接通过替换`/bin/bash`为服务启动命令来启动MinerU服务，详细说明请参考[通过命令启动服务](https://opendatalab.github.io/MinerU/zh/usage/quick_usage/#apiwebuihttp-clientserver)。 + + +## 4. 注意事项 + +不同环境下，MinerU对MooreThreads加速卡的支持情况如下表所示： + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + +
使用场景容器环境
vllm
命令行工具(mineru)pipeline🟢
<vlm/hybrid>-auto-engine🟢
<vlm/hybrid>-http-client🟢
fastapi服务(mineru-api)pipeline🟢
<vlm/hybrid>-auto-engine🟢
<vlm/hybrid>-http-client🟢
gradio界面(mineru-gradio)pipeline🟢
<vlm/hybrid>-auto-engine🟢
<vlm/hybrid>-http-client🟢
openai-server服务（mineru-openai-server）🟢
数据并行 (--data-parallel-size)🟢
+ +注： +🟢: 支持，运行较稳定，精度与Nvidia GPU基本一致 +🟡: 支持但较不稳定，在某些场景下可能出现异常，或精度存在一定差异 +🔴: 不支持，无法运行，或精度存在较大差异 + +>[!TIP] +>MooreThreads 加速卡指定可用加速卡的方式与Nvidia GPU类似，请参考[GPU 枚举](https://docs.mthreads.com/cloud-native/cloud-native-doc-online/install_guide/#gpu-%E6%9E%9A%E4%B8%BE) \ No newline at end of file diff --git a/docs/zh/usage/index.md b/docs/zh/usage/index.md index c4670bc9..20878af3 100644 --- a/docs/zh/usage/index.md +++ b/docs/zh/usage/index.md @@ -13,6 +13,8 @@ * [平头哥 T-Head](acceleration_cards/THead.md) 🚀 * [沐曦 METAX](acceleration_cards/METAX.md) 🚀 * [海光 Hygon](acceleration_cards/Hygon.md) 🚀 + * [燧原 Enflame](acceleration_cards/Enflame.md) 🚀 + * [摩尔线程 MooreThreads](acceleration_cards/MooreThreads.md) 🚀 * [AMD](acceleration_cards/AMD.md) [#3662](https://github.com/opendatalab/MinerU/discussions/3662) ❤️ * [太初元碁 Tecorigin](acceleration_cards/Tecorigin.md) [#3767](https://github.com/opendatalab/MinerU/pull/3767) ❤️ * [寒武纪 Cambricon](acceleration_cards/Cambricon.md) [#4004](https://github.com/opendatalab/MinerU/discussions/4004) ❤️