NVIDIA Container ToolkitとDockerでディープラーニング開発環境を構築する (1) - NVIDIA Container Toolkit & Docker Engineのインストール

このシリーズでは、ローカルにNVIDIA Container ToolkitとDockerベースのディープラーニング開発環境を構築し、リモートサーバーとして活用できるようにSSHとJupyter Labを設定する方法を扱います。この投稿はシリーズの最初の記事で、NVIDIA Container Toolkitのインストール方法を紹介します。

Posted Aug 26, 2024

By Yunseo Kim

views 30 min read

概要

このシリーズでは、NVIDIA Container ToolkitとDockerをインストールし、Docker Hubのnvidia/cudaリポジトリが提供するCUDAおよびcuDNNイメージをベースにDockerfileを作成してディープラーニング開発環境を構築するプロセスを扱います。必要な方が自由に使用できるように、このプロセスを経て完成したDockerfileとイメージをGitHubとDocker Hubを通じて共有し、さらにリモートサーバーとして活用するためのSSHおよびJupyter Lab設定ガイドを提供します。
シリーズは3つの記事で構成される予定で、この記事はそのシリーズの最初の記事です。

第1回：NVIDIA Container Toolkit & Docker Engineのインストール（本文）
第2回：GPUを活用するためのコンテナランタイムの構成、Dockerfileの作成およびDockerイメージのビルド
第3回（アップロード予定）

x86_64 Linuxの環境で、CUDAをサポートするNVIDIAグラフィックカードを搭載したシステムを前提として進めます。UbuntuまたはFedora以外のディストリビューションでは直接テストしていないため、いくつかの細かい部分で若干の違いがある可能性があります。

開発環境の構成

ホストオペレーティングシステムとアーキテクチャ：x86_64、Linux環境（Ubuntu 18.04/20.04/22.04 LTS、RHEL/Centos、Fedora、openSUSE/SLES 15.xなど）
構築する技術スタック（言語およびライブラリ）
- Python 3
- NVIDIA Container Toolkit
- Docker CE
- CUDA 12.4
- cuDNN
- JupyterLab
- NumPy & SciPy
- CuPy (オプション、GPUを使用したPythonでの高速計算のためのNumPy/SciPy互換配列ライブラリ)
- pandas
- cuDF (オプション、コードの変更なしでpandasをGPUで高速化)
- Matplotlib & Seaborn
- DALI (オプション、GPUを使用した高性能な組み込みデータローダーとデータイテレータの代替)
- scikit-learn
- cuML (オプション、scikit-learn APIに近いAPIを持つGPU上での機械学習アルゴリズムの実行)
- PyTorch
- OpenSSH
- tqdm
状況に応じて、また個人の好みに応じて、pandasの代わりにPolars DataFrameライブラリを使用することも検討できます。Rustで書かれており、大規模データ処理時にcuDF + pandasの組み合わせには及ばないものの、純粋なpandasパッケージと比較するとかなり優れたパフォーマンスを示し、クエリにより特化した文法を提供します。Polars公式ブログによると、NVIDIA RAPIDSチームと協力して近い将来cuDFとの連携もサポートする予定だそうです。

以前に作成した機械学習開発環境構築ガイドとの比較表

以前このブログにアップロードした機械学習開発環境構築ガイドがすでに存在し、ほとんどはまだ有効ですが、いくつかの変更点があるため、この投稿を新たに作成しました。変更点は以下の表の通りです。

相違点	既存の記事 (2021年版)	本文 (2024年版)
Linuxディストリビューション	Ubuntuベース	Ubuntu以外にもFedora/RHEL/Centos、 Debian、openSUSE/SLESなどにも適用可能
開発環境構築方法	venvを使用したPython仮想環境	NVIDIA Container Toolkitを使用した Dockerコンテナベースの環境
NVIDIAグラフィックドライバのインストール	O	O
ホストシステムへの CUDAおよびcuDNNの直接インストール	O (Aptパッケージマネージャを使用)	X (Docker HubでNVIDIAが提供する事前インストールイメージを使用するため直接作業する必要なし)
移植性	他のシステムに移行するたびに開発環境を新たに構築する必要がある	Dockerベースのため、作成したDockerfileで必要に応じて新しいイメージをビルドするか既存のイメージ（追加ボリュームやネットワーク設定を除く）を簡単に移植可能
cuDNN以外の追加的な GPU加速ライブラリの活用	X	CuPy、cuDF、cuML、DALIの導入
Jupyter Notebookインターフェース	Jupyter Notebook (classic)	JupyterLab (Next-Generation)
SSHサーバー設定	別途扱わない	第3回で基本的なSSHサーバー設定構成を含む

Dockerではなくvenvなどのpython仮想環境を活用したい場合は、既存の記事もまだ有効なので、その記事を参考にすることをお勧めします。

0. 事前確認事項

NVIDIA Container ToolkitはApt、YumまたはDnf、ZypperパッケージマネージャをサポートするLinuxディストリビューションで使用可能です。リンクされたページでサポートされているLinuxディストリビューションのリストを確認できます。公式サポート表には別途記載されていませんが、FedoraもRHELと同じRed Hat Linuxベースなので問題なく使用できます。Linuxの環境に慣れていない場合や、どのディストリビューションを使用すべきかよくわからない場合は、Ubuntu LTSバージョンを使用するのが最も無難です。オープンソースではない独占的なドライバも自動的にインストールされるため、初心者が使用するにも比較的便利で、ユーザー数が多いため、ほとんどの技術文書がUbuntuを基準に作成されています。
- 使用中のシステムアーキテクチャとLinuxディストリビューションのバージョンは、ターミナルでuname -m && cat /etc/*releaseコマンドで確認できます。
システムに搭載されているグラフィックカードが使用しようとするCUDAおよびcuDNNバージョンをサポートするモデルかどうかを先に確認する必要があります。
- 現在のコンピュータに搭載されているGPUモデル名は、ターミナルでlspci | grep -i nvidiaコマンドで確認できます。
- https://docs.nvidia.com/deeplearning/cudnn/latest/reference/support-matrix.htmlページでcuDNNバージョン別にサポートするNVIDIAグラフィックドライババージョンおよび要求されるCUDA Compute Capability条件、そしてサポートするNVIDIAハードウェアリストを確認しましょう。
- https://developer.nvidia.com/cuda-gpusにあるGPUリストで該当するモデル名を見つけた後、Compute Capability数値を確認しましょう。この数値が先ほど確認したCUDA Compute Capability条件を満たしていれば、CUDAおよびcuDNNを問題なく使用できます。

ディープラーニング作業用のグラフィックカードを新しく購入する予定がある場合、GPU選定基準は次の記事によくまとめられています。著者が継続的に更新している記事です。
Which GPU(s) to Get for Deep Learning
同じ方が書いたA Full Hardware Guide to Deep Learningという記事も非常に有益です。

上記で言及したすべての事項を満たしていれば、作業環境の構築を始めましょう。

1. NVIDIAグラフィックドライバのインストール

まず、NVIDIAグラフィックドライバをホストシステムにインストールする必要があります。NVIDIAドライバダウンロードページから.runインストーラーをダウンロードして利用しても構いませんが、できるだけ自分のシステムのパッケージマネージャを活用してインストールするのがバージョン管理とメンテナンスの面で良いです。https://docs.nvidia.com/cuda/cuda-installation-guide-linux/#driver-installation公式文書を参考に、自分のシステム環境に合ったグラフィックドライバをインストールします。

Proprietary module vs Open-source module

NVIDIA Linuxドライバはいくつかのカーネルモジュールで構成されており、バージョン515ドライバおよびそれ以降のリリースから、NVIDIAは2種類のドライバカーネルモジュールを提供しています。

Proprietary: NVIDIAが従来提供してきた独占ソフトウェアドライバ。
Open-source: MIT/GPLv2デュアルライセンスで提供されるオープンソースドライバ。https://github.com/NVIDIA/open-gpu-kernel-modulesを通じてソースコードを公開しています。

Proprietaryドライバは、MaxwellアーキテクチャからBlackwell以前のアーキテクチャに基づいて設計されたGPUに対して提供され、Blackwellアーキテクチャからはサポートが終了する予定です。一方、Open-sourceドライバは、Turingおよびそれよりもあとのアーキテクチャに対してサポートされます。

NVIDIAは可能であればオープンソースカーネルモジュールを使用することを推奨しています。使用中のGPUがオープンソースドライバと互換性があるかどうかはこのリンクで確認できます。

この記事ではオープンソースドライバをインストールすると仮定して説明します。

Debian & Ubuntu

UbuntuまたはDebianの場合、ターミナルで次のコマンドを入力してインストールします。

  
sudo apt update
sudo apt install nvidia-open

Fedora

Fedora 40を基準に、RPM Fusionが提供する事前ビルドされたパッケージをダウンロードしてインストールする方法を紹介します。

1-Fedora-1. RPM Fusionリポジトリの構成

RPM Fusion公式ガイドを参考に進めます。
ターミナルで次のコマンドを実行します。

  
sudo dnf install https://mirrors.rpmfusion.org/free/fedora/rpmfusion-free-release-$(rpm -E %fedora).noarch.rpm https://mirrors.rpmfusion.org/nonfree/fedora/rpmfusion-nonfree-release-$(rpm -E %fedora).noarch.rpm

1-Fedora-2. akmod-nvidia-openパッケージのインストール

RPM Fusionが提供するNVIDIAドライバインストールガイドを参考に、 rpmfusion-nonfree-taintedリポジトリを有効にした後、akmod-nvidia-openパッケージをインストールします。

  
sudo dnf update --refresh
sudo dnf install rpmfusion-nonfree-release-tainted
sudo dnf install akmod-nvidia-open
sudo dnf mark install akmod-nvidia-open

1-Fedora-3. セキュアブート（Secure Boot）時のドライバ正常ロードのためのキー登録

以下で説明する若干の追加手順を踏めば、正常にセキュアブート機能を利用しながらNVIDIAグラフィックドライバを使用できます。セキュアブートを無効にするとシステムのセキュリティがかなり脆弱になるため、無効にしないことをお勧めします。少なくとも2020年代に入ってからは、よほどのことがない限りセキュアブートを解除する理由はありません。

まず、次のツールをインストールします。

sudo dnf install kmodtool akmods mokutil openssl

次に、以下のコマンドを実行してキーを生成します。

sudo kmodgenca -a

これでUEFIファームウェアのMOKに生成したキーを登録する必要があります。

sudo mokutil --import /etc/pki/akmods/certs/public_key.der

上記のコマンドを実行すると、キー登録のためのパスワードを入力するよう表示されます。しばらくしてキー登録手順完了のために再起動しますが、その時に使用する一回限りのパスワードなので、適当に覚えられるものを入力します。

これで次のコマンドを実行してシステムを再起動します。

systemctl reboot

システムが起動する際に自動的にMOK管理ウィンドウが表示されます。”Enroll MOK”を選択した後、”Continue”、”Yes”を続けて選択すると、先ほど設定したパスワードを要求するウィンドウが表示されます。先ほど設定したパスワードを入力すると、キー登録手順が完了します。これでrebootを入力して再起動すると、正常にNVIDIAドライバがロードされるはずです。

NVIDIAドライバのインストール確認

ターミナルで次のコマンドを実行して、現在ロードされているNVIDIAカーネルモジュールを確認できます。

cat /proc/driver/nvidia/version

以下のような形式のメッセージが出力されれば正常にインストールされています。

  
NVRM version: NVIDIA UNIX Open Kernel Module for x86_64  555.58.02  Release Build  (dvs-builder@U16-I3-B03-4-3)  Tue Jun 25 01:26:03 UTC 2024
GCC version:  gcc version 14.2.1 20240801 (Red Hat 14.2.1-1) (GCC) 

2. NVIDIA Container Toolkitのインストール

次にNVIDIA Container Toolkitをインストールする必要があります。NVIDIA Container Toolkit公式インストールガイドを参考にインストールを進めますが、Fedoraの場合はインストール過程で注意事項があるため、このセクションの内容を最後まで確認してから進めてください。

Aptを使用する場合（Ubuntu、Debianなど）

2-Apt-1. パッケージダウンロードのためのリポジトリ構成

  
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \
&& curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
  sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \
  sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

2-Apt-2. パッケージリストの更新

sudo apt update

2-Apt-3. パッケージのインストール

sudo apt install nvidia-container-toolkit

YumまたはDnfを使用する場合（Fedora、RHEL、Centosなど）

Fedora 40でテストした際、Ubuntuとは異なり、nvidia-smiコマンドおよびnvidia-persistencedパッケージがNVIDIAグラフィックドライバにデフォルトで含まれていないため、xorg-x11-drv-nvidia-cudaパッケージを追加インストールする必要がありました。RHELおよびCentosでは直接テストしていませんが、Fedoraとシステム構成が非常に似ているため、もし以下のガイドに従って進めた際に問題が発生した場合は、同じ方法を試してみるのが役立つかもしれません。

Fedora 40で上記の方法でxorg-x11-drv-nvidia-cudaをインストールし、サンプルワークロードを実行してテストした際、筆者のシステムでは正常に動作しました。もしSELinuxなどの理由でまだ問題が発生する場合は、FedoraのAI-MLグループが提供するFedora専用nvidia-container-toolkitパッケージおよびガイドが役立つかもしれません。

2-Dnf-1. パッケージダウンロードのためのリポジトリ構成

  
curl -s -L https://nvidia.github.io/libnvidia-container/stable/rpm/nvidia-container-toolkit.repo | \
sudo tee /etc/yum.repos.d/nvidia-container-toolkit.repo

2-Dnf-2. パッケージのインストール

sudo dnf install nvidia-container-toolkit

または

sudo yum install nvidia-container-toolkit

Zypperを使用する場合（openSUSE、SLES）

2-Zypper-1. パッケージダウンロードのためのリポジトリ構成

sudo zypper ar https://nvidia.github.io/libnvidia-container/stable/rpm/nvidia-container-toolkit.repo

2-Zypper-2. パッケージのインストール

  
sudo zypper --gpg-auto-import-keys install nvidia-container-toolkit

3. Docker Engineのインストール

次にDocker Engineをインストールします。Docker公式ドキュメントを参考にインストールを進めます。

Ubuntuの場合

3-Ubuntu-1. パッケージの競合を防ぐための以前のバージョンまたは非公式パッケージの削除

  
for pkg in docker.io docker-doc docker-compose docker-compose-v2 podman-docker containerd runc; do sudo apt remove $pkg; done

3-Ubuntu-2. リポジトリの構成

  
# Add Docker's official GPG key:
sudo apt update
sudo apt install ca-certificates curl
sudo install -m 0755 -d /etc/apt/keyrings
sudo curl -fsSL https://download.docker.com/linux/ubuntu/gpg -o /etc/apt/keyrings/docker.asc
sudo chmod a+r /etc/apt/keyrings/docker.asc
# Add the repository to Apt sources:
echo \
  "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.asc] https://download.docker.com/linux/ubuntu \
  $(. /etc/os-release && echo "$VERSION_CODENAME") stable" | \
  sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
sudo apt update

3-Ubuntu-3. パッケージのインストール

sudo apt install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin

3-Ubuntu-4. `Docker`グループの作成とユーザーの登録

non-rootユーザーもsudoなしでDockerを管理できるようにするには、Dockerグループを作成した後、Dockerを利用したいユーザーを登録すれば良いです。ターミナルで次のコマンドを実行します。

  
sudo groupadd docker
sudo usermod -aG docker $USER

その後、ログアウトして再度ログインすると変更された設定が適用されます。UbuntuまたはDebianの場合、特別な作業なしでもシステム起動時ごとにDockerサービスが自動的に実行されます。

Fedoraの場合

3-Fedora-1. パッケージの競合を防ぐための以前のバージョンまたは非公式パッケージの削除

  
sudo dnf remove docker \
                docker-client \
                docker-client-latest \
                docker-common \
                docker-latest \
                docker-latest-logrotate \
                docker-logrotate \
                docker-selinux \
                docker-engine-selinux \
                docker-engine

3-Fedora-2. リポジトリの構成

  
sudo dnf install dnf-plugins-core
sudo dnf config-manager --add-repo https://download.docker.com/linux/fedora/docker-ce.repo

3-Fedora-3. パッケージのインストール

sudo dnf install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin

パッケージのインストール過程でGPGキーを承認するかどうかの通知が表示されます。GPGキーが060A 61C5 1B55 8A7F 742B 77AA C52F EB6B 621E 9F35と一致する場合は、yを入力して承認してください。

もしGPGキーが一致しない場合、サプライチェーン攻撃によって偽造されたパッケージをダウンロードした可能性があるため、インストールを中止する必要があります。

3-Fedora-4. Dockerデーモンの起動

これでDockerがインストールされましたが、実行されていない状態なので、次のコマンドを入力してDockerを実行できます。

sudo systemctl start docker

システム起動時にDockerサービスが自動的に実行されるようにするには、次のコマンドを実行します。

  
sudo systemctl enable docker.service
sudo systemctl enable containerd.service

3-Fedora-5. `Docker`グループにユーザーを登録する

non-rootユーザーもDockerを管理できるようにするには、DockerグループにDockerを利用したいユーザーを登録します。Fedoraの場合、先のパッケージインストール過程でDockerグループを自動的に作成するため、ユーザー登録のみ行えば良いです。

  
sudo usermod -aG docker $USER

その後、ログアウトして再度ログインすると変更された設定が適用されます。

正常に設定されたかどうかの確認

ターミナルで次のコマンドを実行してみます。

docker run hello-world

以下のようなメッセージが出力されれば成功です。

  
Hello from Docker!
This message shows that your installation appears to be working correctly.

To generate this message, Docker took the following steps:
 1. The Docker client contacted the Docker daemon.
 2. The Docker daemon pulled the "hello-world" image from the Docker Hub.
    (amd64)
 3. The Docker daemon created a new container from that image which runs the
    executable that produces the output you are currently reading.
 4. The Docker daemon streamed that output to the Docker client, which sent it
    to your terminal.

To try something more ambitious, you can run an Ubuntu container with:
 $ docker run -it ubuntu bash

Share images, automate workflows, and more with a free Docker ID:
 https://hub.docker.com/

For more examples and ideas, visit:
 https://docs.docker.com/get-started/

さらなる読み物

パート2に続く

Data Science, Machine Learning, Deep Learning

Development Environment

This post is licensed under CC BY-NC 4.0 by the author.