nvidia-docker2 是 NVIDIA 推出的一款 Docker 插件，在 Docker 的基础上增加了对 NVIDIA 显卡的支持。它通过基于 nvidia-docker1 和 Docker Engine API 的容器解决方案，使得用户能够在 NVIDIA GPU 上运行任何应用程序。
nvidia-docker2 的实现主要依赖两个组件：
NVIDIA Container Runtime：这是 NVIDIA 特意为容器设计的运行时环境，它提供了 CUDA 和 TensorRT 等 NVIDIA 库的支持，并且能够检测并管理 GPU 资源。
Docker Engine API：nvidia-docker2 建立在 Docker Engine API 之上，它扩展了 Docker CLI 的功能，以允许用户使用 NVIDIA 显卡来加速容器中的工作负载。
nvidia-docker2 主要的工作流程如下：
用户启动一个容器时，Docker Engine 会将请求发送到 nvidia-docker2 插件。
nvidia-docker2 检查 NVIDIA Container Runtime 是否安装并可用。如果没有，则自动下载并安装它。
nvidia-docker2 与 NVIDIA Container Runtime 通信，获取有关可用GPU资源的信息。
nvidia-docker2 使用这些信息来指定要将哪个 GPU 分配给容器。
nvidia-docker2 启动一个新的容器，并将选定的 GPU 分配给该容器。
容器现在可以使用 NVIDIA GPU 运行任何支持 CUDA 和/或 TensorRT 的应用程序。
总的来说，nvidia-docker2 的实现是通过 NVIDIA Container Runtime 和 Docker Engine API 之间的交互来实现的。该插件能够让用户更轻松地利用 NVIDIA GPU 来运行 Docker 容器，从而加速计算和数据处理的速度。
![http://mirrors.163.com/centos/7/os/x86_64/repodata/repomd.xml: [Errno 14] HTTP Error 500 - Internal Server Error
Trying other mirror.](https://linuxcpp.0voice.com/zb_users/upload/2023/05/202305162230567920271.png)
