Pytorch¶
Η Pytorch είναι ένα framework μηχανικής μάθησης βασισμένο στη βιβλιοθήκη Torch
Pytorch 2.1.0 + GPU support (Ampere partition)¶
Δημιουργία PyTorch Virtual Enviroment¶
Προκειμένου να χρησιμοποιήσουμε την PyTorch με χρήση GPU πρέπει πρώτα να στήσουμε ένα περιβάλον python. Αφότου συνδεθείτε στο cluster μπορείτε να τρέξετε τις παρακάτω εντολές:
# module load gcc/13.2.0-i python/3.11
# python3 -m venv pytorch-env
# source pytorch-env/bin/activate
# pip install --upgrade pip
# pip install torch torchvision torchaudio
Αφού ολοκληρωθεί η εγκατάσταση, μπορείτε να επαληθεύσετε την σωστή δημιουργία του περιβάλλοντος, υποβάλλοντας το παρακάτω python script (pytorch_test.py) στο ampere partition:
PyTorch Test
import torch
import sys
print(torch.cuda.is_available())
print(torch.cuda.device_count())
print(torch.cuda.current_device())
print(torch.cuda.get_device_name(0))
sys.exit()
Job Submission¶
Θα υποβάλουμε το παραπάνω δοκιμαστικό Python script στο Ampere partition, χρησιμοποιώντας το bash script pytorch-case.sh:
SLURM submission script
#!/bin/bash
#SBATCH --job-name=pytorch-case
#SBATCH --partition=ampere
#SBATCH --gres=gpu:1
#SBATCH --ntasks=1
#SBATCH --time=10:00
module load gcc/13.2.0-i python/3.11 cuda/12.4.0
source ~/pytorch-env/bin/activate
# Where ~/pytorch-2.1.0/ is the path to the virtual environment
python3 pytorch_test.py
Το *.out αρχείο θα περιέχει τις εξής γραμμές:
Output
1 True
2 1
3 0
4 NVIDIA A100-SXM4-40GB