(简体中文|English)
该文档维护了 Paddle Serving 提供的镜像列表。
您可以通过两种方式获取镜像。
-
通过 TAG 直接从
registry.baidubce.com
或 拉取镜像,具体TAG请参见下文的镜像说明章节的表格。docker pull registry.baidubce.com/paddlepaddle/serving:<TAG> # registry.baidubce.com
-
基于 Dockerfile 构建镜像
建立新目录,复制对应 Dockerfile 内容到该目录下 Dockerfile 文件。执行
cd tools docker build -f ${DOCKERFILE} -t <image-name>:<images-tag> .
运行时镜像不能用于开发编译。 若需要基于源代码二次开发编译,请使用后缀为-devel的版本。 在TAG列,latest也可以替换成对应的版本号,例如0.5.0/0.4.1等,但需要注意的是,部分开发环境随着某个版本迭代才增加,因此并非所有环境都有对应的版本号可以使用。
镜像选择 | 操作系统 | TAG | Dockerfile |
---|---|---|---|
CPU 运行镜像 | CentOS7 | latest | Dockerfile |
CPU 开发镜像 | CentOS7 | latest-devel | Dockerfile.devel |
GPU (cuda9.0-cudnn7) 运行镜像 | CentOS7 | latest-cuda9.0-cudnn7 | Dockerfile.cuda9.0-cudnn7 |
GPU (cuda9.0-cudnn7) 开发镜像 | CentOS7 | latest-cuda9.0-cudnn7-devel | Dockerfile.cuda9.0-cudnn7.devel |
GPU (cuda10.0-cudnn7) 运行镜像 | CentOS7 | latest-cuda10.0-cudnn7 | Dockerfile.cuda10.0-cudnn7 |
GPU (cuda10.0-cudnn7) 开发镜像 | CentOS7 | latest-cuda10.0-cudnn7-devel | Dockerfile.cuda10.0-cudnn7.devel |
GPU (cuda10.1-cudnn7-tensorRT6) 运行镜像 | Ubuntu16 | latest-cuda10.1-cudnn7 | Dockerfile.cuda10.1-cudnn7 |
GPU (cuda10.1-cudnn7-tensorRT6) 开发镜像 | Ubuntu16 | latest-cuda10.1-cudnn7-devel | Dockerfile.cuda10.1-cudnn7.devel |
GPU (cuda10.2-cudnn8-tensorRT7) 运行镜像 | Ubuntu16 | latest-cuda10.2-cudnn8 | Dockerfile.cuda10.2-cudnn8 |
GPU (cuda10.2-cudnn8-tensorRT7) 开发镜像 | Ubuntu16 | latest-cuda10.2-cudnn8-devel | Dockerfile.cuda10.2-cudnn8.devel |
GPU (cuda11-cudnn8-tensorRT7) 运行镜像 | Ubuntu18 | latest-cuda11-cudnn8 | Dockerfile.cuda11-cudnn8 |
GPU (cuda11-cudnn8-tensorRT7) 开发镜像 | Ubuntu18 | latest-cuda11-cudnn8-devel | Dockerfile.cuda11-cudnn8.devel |
Java镜像:
registry.baidubce.com/paddlepaddle/serving:latest-java
XPU镜像:
registry.baidubce.com/paddlepaddle/serving:xpu-beta
运行CUDA容器需要至少具有一个支持CUDA的GPU以及与您所使用的CUDA工具包版本兼容的驱动程序。
运行CUDA容器的机器只需要相应的NVIDIA驱动程序,而CUDA工具包不是必要的。
相关CUDA工具包版本、驱动版本和GPU架构的关系请参阅 nvidia-docker wiki。
编译镜像:
Env | Version | Docker images tag | OS | Gcc Version |
---|---|---|---|---|
CPU | 0.5.0 | 0.5.0-devel | Ubuntu 16 | 8.2.0 |
<=0.4.0 | 0.4.0-devel | CentOS 7 | 4.8.5 | |
Cuda9.0 | 0.5.0 | 0.5.0-cuda9.0-cudnn7-devel | Ubuntu 16 | 4.8.5 |
<=0.4.0 | 0.4.0-cuda9.0-cudnn7-devel | CentOS 7 | 4.8.5 | |
Cuda10.0 | 0.5.0 | 0.5.0-cuda10.0-cudnn7-devel | Ubuntu 16 | 4.8.5 |
<=0.4.0 | 0.4.0-cuda10.0-cudnn7-devel | CentOS 7 | 4.8.5 | |
Cuda10.1 | 0.5.0 | 0.5.0-cuda10.1-cudnn7-devel | Ubuntu 16 | 8.2.0 |
<=0.4.0 | 0.4.0-cuda10.1-cudnn7-devel | CentOS 7 | 4.8.5 | |
Cuda10.2 | 0.5.0 | 0.5.0-cuda10.2-cudnn8-devel | Ubuntu 16 | 8.2.0 |
<=0.4.0 | Nan | Nan | Nan | |
Cuda11.0 | 0.5.0 | 0.5.0-cuda11.0-cudnn8-devel | Ubuntu 18 | 8.2.0 |
<=0.4.0 | Nan | Nan | Nan |
运行镜像:
Env | Version | Docker images tag | OS | Gcc Version |
---|---|---|---|---|
CPU | 0.5.0 | 0.5.0 | Ubuntu 16 | 8.2.0 |
<=0.4.0 | 0.4.0 | CentOS 7 | 4.8.5 | |
Cuda9.0 | 0.5.0 | 0.5.0-cuda9.0-cudnn7 | Ubuntu 16 | 4.8.5 |
<=0.4.0 | 0.4.0-cuda9.0-cudnn7 | CentOS 7 | 4.8.5 | |
Cuda10.0 | 0.5.0 | 0.5.0-cuda10.0-cudnn7 | Ubuntu 16 | 4.8.5 |
<=0.4.0 | 0.4.0-cuda10.0-cudnn7 | CentOS 7 | 4.8.5 | |
Cuda10.1 | 0.5.0 | 0.5.0-cuda10.1-cudnn7 | Ubuntu 16 | 8.2.0 |
<=0.4.0 | 0.4.0-cuda10.1-cudnn7 | CentOS 7 | 4.8.5 | |
Cuda10.2 | 0.5.0 | 0.5.0-cuda10.2-cudnn8 | Ubuntu 16 | 8.2.0 |
<=0.4.0 | Nan | Nan | Nan | |
Cuda11.0 | 0.5.0 | 0.5.0-cuda11.0-cudnn8 | Ubuntu 18 | 8.2.0 |
<=0.4.0 | Nan | Nan | Nan |
注意事项: 如果您在0.5.0及以上版本需要在一个容器当中同时运行CPU server和GPU server,需要选择Cuda10.1/10.2/11的镜像,因为他们和CPU环境有着相同版本的gcc。