Jupyter Notebook accéléré par le GPU

Jupyter Notebook est un environnement de développement moderne largement utilisé pour l'apprentissage automatique et l'informatique. Ce logiciel vous permet d'exécuter du code Python directement à partir d'une interface web et de voir immédiatement les résultats. Cependant, il y a un problème : le code s'exécute sur l'unité centrale. Si vous souhaitez qu'il fonctionne sur le GPU, vous devez créer un environnement virtuel distinct. Dans ce guide, nous vous montrons comment procéder.

Installer Anaconda

Commencez par installer la distribution Anaconda Python, qui contient des outils de gestion des environnements virtuels. Téléchargez le script shell :

wget https://repo.anaconda.com/archive/Anaconda3-2023.09-0-Linux-x86_64.sh

Rendez ce script exécutable :

chmod a+x Anaconda3-2023.09-0-Linux-x86_64.sh

Exécuter l'installation :

./Anaconda3-2023.09-0-Linux-x86_64.sh

Au cours du processus, le système vous demandera de lire le contrat d'utilisation et de clarifier certains détails de l'installation.

Installer CUDA®

L'étape suivante consiste à installer la dernière version de la boîte à outils NVIDIA® CUDA®. Vous pouvez obtenir des informations supplémentaires en consultant notre guide étape par étape Installer la boîte à outils CUDA® sous Linux. La manière la plus simple de procéder est d'exécuter les commandes suivantes. Obtenir un fichier pin pour le dépôt CUDA® :

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-ubuntu2204.pin

Placez ce fichier dans un répertoire de configuration apt standard :

sudo mv cuda-ubuntu2204.pin /etc/apt/preferences.d/cuda-repository-pin-600

Téléchargez une copie locale du référentiel CUDA® sous la forme d'un paquetage DEB unique :

wget https://developer.download.nvidia.com/compute/cuda/12.3.2/local_installers/cuda-repo-ubuntu2204-12-3-local_12.3.2-545.23.08-1_amd64.deb

Installer le paquetage téléchargé :

sudo dpkg -i cuda-repo-ubuntu2204-12-3-local_12.3.2-545.23.08-1_amd64.deb

Créer une paire de clés GPG pour travailler avec un dépôt local de CUDA® :

sudo cp /var/cuda-repo-ubuntu2204-12-3-local/cuda-*-keyring.gpg /usr/share/keyrings/

Mettre à jour le cache des paquets :

sudo apt-get update

Installez le kit d'outils CUDA® à l'aide du gestionnaire apt standard :

sudo apt-get -y install cuda-toolkit-12-3

Redémarrez le serveur :

sudo shutdown -r now

Reconnectez-vous à la session SSH avec la redirection de port. Vous devez rediriger le port 8888 vers l'hôte local 127.0.0.1:8888. Pour plus d'informations, veuillez consulter cet article.

Après le redémarrage, créez un environnement virtuel distinct pour les tâches de calcul du GPU :

conda create --name gpu_env python==3.8

Installons les paquets supplémentaires :

conda install -c anaconda tensorflow-gpu keras-gpu

Soyez patient, cela peut prendre jusqu'à 30 minutes. Nous sommes maintenant prêts à ajouter l'environnement créé à la liste des environnements disponibles.

python -m ipykernel install --user --name gpu_env --display-name "Python (GPU)"

Installez torch avec le support CUDA®. Ces paquets sont nécessaires pour exécuter les exemples de code :

pip3 install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu118

Exécuter Jupyter Notebook

Vous pouvez exécuter ce logiciel à l'aide d'une seule commande :

(base) $ jupyter notebook

Ouvrez l'interface web en utilisant le lien et le jeton affichés :

http://127.0.0.1:8888/?token=[put_your_own_token_from_console]

Testez votre installation avec un petit code qui vérifie la disponibilité de CUDA® :

import torch
torch.cuda.is_available()

Si tout est correct, vous obtiendrez une valeur True après l'exécution. Vous pouvez également afficher tous les GPU NVIDIA® présentés :

import subprocess
def get_gpu_info():
    try:
        return subprocess.check_output("nvidia-smi --query-gpu=gpu_name --format=csv,noheader", shell=True).decode('utf-8')
    except Exception as e:
        print(f"Error: {str(e)}")
        return None
print(get_gpu_info())

Voir aussi :

• StarCoder : votre assistant de codage local
• Open WebUI : Tout en un
• Comment fonctionne Ollama ?