环境：Ubuntu 16.04 64bit
Nvidia GeForce GTX 1070 （驱动Nvidia-Linux-x86_64-367.57）
安装：CUDA 8.0.44
cuDNN 5.1
显卡驱动安装：Ubuntu 16.04 Nvidia 显卡驱动安装 见
CUDA是NVIDIA的编程语言平台，想使用GPU就必须要使用cuda。
cuDNN是GPU加速计算深层神经网络的库。
下载CUDA
去官网https://developer.nvidia.com/cuda-downloads下载CUDA。
我选择的是：
Operating System : Linux
Architecture : x86_64
Distribution : Ubuntu
Version : 16.04
Installer Type : runfile(local)
deb里似乎带了旧显卡驱动，安装完后还要重新装显卡驱动，有些麻烦。就用runfile。
安装cuda
我安装的时候运行完，显示安装cuda_toolkit的时候库libGLU.so和libXmu.so缺失。或许可以尝试先安装：
apt-get install libglu1-mesa libxi-dev libxmu-dev libglu1-mesa-dev
（见Missing recommended library: libGLU.so）
我是先装Nvidia驱动的，第一次装cuda的时候总是报Warning : Incomplete installation ...然后提示没有驱动。我感觉可能是显卡驱动那边有问题，于是
sudo update-initramfs -u
重启。
sudo modprobe nvidia
然后安装Cuda。
具体参考：this installation did not install the CUDA driver
安装：
sudo sh ./cuda_8.0.44_linux.run
(可通过sudo sh ./cuda_8.0.44_linux.run --help查看一些参数命令，安装某一部分或是卸载的参数都可以看到，可能有些情况安装要带--override参数）
一大堆条款什么的，愿意看就看吧，不想看直接回车按到底。
输入accept接受条款。
接下来只有nvidia驱动那里不要装，因为我之前已经装过了显卡驱动。其他都选是或者默认就可以。
流程：
输入n。不装nvidia驱动。
输入y。安装cuda toolkit
回车。 使用默认安装路径/usr/local/cuda-8.0
输入y。安装指向/usr/local/cuda的链接
输入y。安装Samples。
回车。 使用Samples默认安装路径/home/username
环境变量设置
sudo vim ~/.bashrc
在末尾添加
export CUDA_HOME=/usr/local/cuda-8.0
export LD_LIBRARY_PATH=/usr/local/cuda-8.0/lib64:$LD_LIBRARY_PATH
export PATH=/usr/local/cuda-8.0/bin:$PATH
保存退出。
然后刷新。
source ~/.bashrc
动态链接库设置
创建文件：
sudo vim /etc/ld.so.conf.d/cuda.conf
写入：/usr/local/cuda/lib64
保存之后使其立即生效：
sudo ldconfig -v
检查
（1）Cuda版本
nvcc --version
我这里提示nvcc没安装。之前说装toolkit时缺两个库，我装上后重装了cuda还是这样，执行cuda.run --silent --toolkit还是没用。最后只能sudo apt-get install nvidia-cuda-toolkit下一个G了，不知道为什么。
sudo apt-get install nvidia-cuda-toolkit
nvcc --version
（2）Sample测试
cd /usr/local/cuda/samples
sudo chown -R <username>:<usergroup> .
cd 1_Utilities/deviceQuery
make .
./deviceQuery
输出一些关于cuda及显卡的信息则正常。make时可能会因gcc、g++版本过高引发问题，但我没遇到，解决方法可见底部我的参考。
获取cuDNN
去官网https://developer.nvidia.com/rdp/cudnn-download下载cuDNN，要注册NVIDIA账号。
我选择的是cuDNN v5.1 -> cuDNN v5.1 Library for Linux
安装cuDNN
下载cuDNN后解压
cd cuda/include
sudo cp cudnn.h /usr/local/cuda/include #复制头文件
cd ../lib64
sudo rm -rf libcudnn.so libcudnn.so.5 #删除原动态文件
sudo ln -s libcudnn.so.5.1.5 libcudnn.so.5 #生成软链接
sudo ln -s libcudnn.so.5 libcudnn.so #生成软链接
若需要更换cudnn版本，则替换原来的libcudnn*，并重新软链接。
更新链接库：
sudo ldconfig
Ubuntu 12.04配置NVIDIA CUDA5.5实录
关于Ubuntu 12.04 下 CUDA5.5 的安装请参看如下链接 Ubuntu 12.04 安装 CUDA-5.5
Caffe配置简明教程 ( Ubuntu 14.04 / CUDA 7.5 / cuDNN 5.1 / OpenCV 3.1 )