PaddleOCR-VL-1.6_Demo/gpu/README.md

GPU 子项目

GPU 环境与 CPU 环境隔离，所有用户功能通过仓库根目录统一入口调用。

当前开发机器没有 NVIDIA 独立显卡，GPU 实机功能尚未验证。

安装

依据 PaddlePaddle 官方兼容表选择 CUDA Wheel：

python gpu/setup_env.py --cuda cu118 --dry-run
python gpu/setup_env.py --cuda cu118

或：

python gpu/setup_env.py --cuda cu126

安装脚本会：

1. 创建 gpu/.venv
2. 使用 PaddlePaddle CUDA 专用索引安装依赖
3. 成功后创建 gpu/.gpu-ready

无 nvidia-smi 时默认拒绝安装。--allow-no-gpu 仅用于准备环境或 CI，不代表环境可以推理。

统一入口

python ocr.py verify --device gpu
python ocr.py data/images/手写01.png --device gpu --warmup 1 --rounds 3
python ocr.py data/images/ --device gpu
python ocr.py data/documents/sample.pdf --device gpu --pdf-mode hybrid

统一入口只调用已经安装完成的 gpu/.venv，不会从默认 PyPI 重新解析 paddlepaddle-gpu，也不会自动回退到 CPU。

PDF 混合模式

--pdf-mode hybrid 会先读取 PDF 文本层。只有需要 OCR 的页面才初始化 GPU 模型，因此纯电子 PDF 不会创建 CUDA 模型或占用大块显存。

python ocr.py data/documents/sample.pdf \
  --device gpu \
  --device-id 0 \
  --pdf-mode hybrid

当前限制

• 仅单 GPU
• 批量图片使用单模型串行处理
• 未启用 TensorRT/FP16/BF16
• 未验证 PaddleOCR-VL-1.6 在目标显卡上的显存需求
• 未实现多 GPU 调度

目标 GPU 机器安装后，先执行：

python ocr.py verify --device gpu