0 引言

在普通的個人計算機上進行模型訓練是一件非常痛苦的事情。過去一直使用CPU，終于忍不住要試一下GPU了。下面描述了檢查PyTorch是否在使用GPU的全過程。

1 檢查是否有GPU

首先檢查本機是否有GPU設備。從任務管理器->性能中可以獲得相關信息。GPU的名稱為NVIDIA GeForce GTX 1660 SUPER，可以使用的內存共22G。這顯示出計算機具備使用GPU的能力。免費給CUDA做點廣告吧---CUDA是 NVIDIA 專為圖形處理單元 (GPU) 上的通用計算開發的并行計算平臺和編程模型。借助 CUDA，開發者能夠利用 GPU 的強大性能顯著加速計算應用。在經 GPU 加速的應用中，工作負載的串行部分在 CPU 上運行，且 CPU 已針對單線程性能進行優化，而應用的計算密集型部分則以并行方式在 GPU 核心上運行。使用 CUDA 時，開發者使用編程語言如 C、C++、Fortran、Python 和 MATLAB進行編程，并通過擴展程序以幾個基本關鍵字的形式來表示并行性。NVIDIA 的 CUDA 工具包提供了開發 GPU 加速應用所需的一切。CUDA 工具包中包含多個 GPU 加速庫、一個編譯器、多種開發工具以及 CUDA 運行環境。

2 安裝PyTorch CUDA

默認情況下安裝PyTorch(pip install torch)安裝的是CPU版本。為了安裝GPU版本，在PyTorch的網頁中按下圖選擇安裝選項，系統得到最下端的安裝命令行。

pip3 install torch==1.9.0+cu102 torchvision==0.10.0+cu102 torchaudio===0.9.0 -f https://download.pytorch.org/whl/torch_stable.html

在tfs4虛擬環境中運行該命令行，開始安裝torch, 安裝包大約1.44G，取決于網絡速度，在我目前的安裝中，花了大約10分鐘時間。安裝完畢，檢查安裝的版本為 Version: 1.9.0+cu102。

3 檢查PyTorch是否在使用GPU

(1) 首先輸入pytorch模塊

import torchprint(torch.__version__)

(2) 檢查是否可使用CUDA

torch.cuda.is_available()

(3) 檢查CUDA版本

torch.version.cuda

(4) 檢查有幾個GPU

torch.cuda.device_count()

(5) 檢查目前的GPU

torch.cuda.current_device()

(6) 檢查目前GPU的設備名稱

torch.cuda.get_device_name(torch.cuda.current_device())

(7) 檢查內存

torch.cuda.memory_allocated(0)/1024**3torch.cuda.memory_reserved(0)/1024**3

5 結束語

目前的配置如下:  PyTorch 版本1.9.0+cu102，只有1個GPU, 設備名稱GeForce GTX 1660 SUPER, 顯存6G。查了一下，發現這是2019年10月推出的產品，目前的市場價格大約在1600元。接下來我們的訓練模型將在GPU上運行，但不知速度能提高多少。