CodLe

Keep calm and make sure the growth is my own business.

Linux 源码安装 PyTorch 小记

Codle / Jul 24, 2024


PyTorch 是一个非常强大的神经网络的框架,为了发挥其最大的效果一般都会结合 GPU 来使用。但是随着相关显卡硬件的发展,官方对于一些老型号显卡的预编译也随之取消了。如果还在使用较老的显卡型号,同时也想使用 PyTorch 的 GPU 支持,那么就需要从源码进行安装了。

本机配置

首先,这里介绍一些本机的实际环境:

安装环境

安装环境主要包含 Python 环境、显卡驱动、CUDA、cuDNN。下面将分别讲述安装的过程。

Python 环境

PyTorch 是一个 Python 下的神经网络框架,因此首先需要安装 Python 环境。对于 Python 环境,官方推荐使用 Anaconda 工具包。
首先是 Anaconda 的下载,官方下载页面:https://www.anaconda.com/download/#linux ,一般是下载 Python 3.6 版本。
下载是一个 sh 文件,使用以下命令进行安装:

sh ./Anaconda3-5.2.0-Linux-x86_64.sh

显卡驱动

显卡驱动安装是 GPU 支持中比较困难的一步。英伟达的显卡驱动分为两个版本,apt 上的非公版本和英伟达官网的版本。但从我自己的试验结果而言,英伟达的官方驱动很难安装成功,还是推荐使用 apt 来安装。

对于 Ubuntu 16.04 以上的版本,有一个比较简单的方法:

sudo ubuntu-drivers autoinstall

这是一个 Ubuntu 设备管理器,使用autoinstall可以安装所有设备的最新版本驱动,相当方便。

CUDA

CUDA 从英伟达官网下载,下载地址:https://developer.nvidia.com/cuda-downloads
选择:Linux->x86_64->Ubuntu->17.10(还没有 18.04 版本,17.10版本可以正常使用)->runfile(local)

这里下载 runfile 文件,不要下载 deb 的版本,因为 deb 版本会自动安装显卡驱动,与 apt 源里面的驱动冲突,会导致安装异常。

runfile 文件可以使用bash cuda_9.2.148_396.37_linux.run 来运行,中间大部分都可以选择默认,唯一需要注意的是询问是否安装显卡驱动时,一定要选否

安装好后,编辑~/.bashrc文件,在后面增加:

export PATH=/usr/local/cuda-9.2/bin:${PATH:+:${PATH}}
export CUDA_HOME=/usr/local/cuda-9.2
export LD_LIBRARY_PATH=${CUDA_HOME}/lib64:${CUDNN_HOME}/lib64:$LD_LIBRARY_PATH
export CPLUS_INCLUDE_PATH=${CUDA_HOME}/include:${CUDNN_HOME}/include:$CPLUS_INCLUDE_PATH

cuDNN

cuDNN 的下载在https://developer.nvidia.com/cudnn ,需要一个英伟达账号,注册即可。

下载为 tar 包,首先是解压:

tar -xzvf cudnn-9.0-linux-x64-v7.tgz

然后链接库:

sudo cp cuda/include/cudnn.h /usr/local/cuda/include
sudo cp cuda/lib64/libcudnn* /usr/local/cuda/lib64
sudo chmod a+r /usr/local/cuda/include/cudnn.h /usr/local/cuda/lib64/libcudnn*

接着在.bashrc 中添加:

export CUDNN_PATH="/usr/local/cuda/lib64/libcudnn.so.7"
export CUDNN_LIBRARY="/usr/local/cuda/lib64/libcudnn.so"
export CUDNN_INCLUDE_DIR="/usr/local/cuda/include/"
export CUDNN_LIB_DIR="/usr/local/cuda/lib64/"

安装 PyTorch

需要注意的一点

源码需要在本机上进行编译,因此需要电脑安装 GCC 和 G++。针对 GCC 的版本,PyTorch 要求 GCC 低于 7 版本,而 CUDA 9.2 要求高于 6 版本,因此推荐使用 6 版本。

安装:

sudo apt install gcc-6 g++-6 gcc-6-multilib g++-6-multilib

设置权重:

sudo update-alternatives --install /usr/bin/gcc gcc /usr/bin/gcc-6 50
sudo update-alternatives --install /usr/bin/g++ g++ /usr/bin/g++-6 50

配置当前的 GCC、G++ 版本:

sudo update-alternatives --config gcc
sudo update-alternatives --config g++

根据提示框选择相应版本即可。

安装依赖项目

首先安装依赖:

export CMAKE_PREFIX_PATH="$(dirname $(which conda))/../" # [anaconda root directory]

conda install numpy pyyaml mkl mkl-include setuptools cmake cffi typing
conda install -c mingfeima mkldnn

conda install -c pytorch magma-cuda90 

下载源码

需要安装 Git 软件,没有安装使用sudo apt install git进行安装。
执行下面代码,将 PyTorch 拷贝下来:

git clone --recursive https://github.com/pytorch/pytorch
cd pytorch

安装

进入文件夹,安装 PyTorch。

cd pytorch
python setup.py install

大概需要等 2 个小时左右,取决于 CPU 的速度。

测试

离开 PyTorch 的源码文件夹再进行测试。

打开 IPython 环境:

ipython

输入下面代码测试 GPU 能否工作:

import torch
a = torch.LongTensor([1, 2, 3])
print(a)
a = a.cuda()
print(a)