教你从头到尾利用DL学梵高作画:GTX 1070 cuda 8.0 tensorflow gpu版

213 阅读11分钟

教你从头到尾利用DL学梵高作画

\

\

作者:七月在线开发/市场团队中的三人,骁哲、李伟、July。本教程主要由骁哲撰写,李伟负责Linux命令部分。
时间:二零一六年九月二十五日
配置:GTX 1070 cuda 8.0 Ubuntu 14.04 cudnn 5.1 tensorflow gpu
交流:TensorFlow实战交流Q群 472899334,有问题可以加此群共同交流。另探究实验背后原理,请参看我们的深度学习在线课程:深度学习在线班。\

\

\

一、前言

    12年本博客推出SVM三层境界,14年July团队开始做机器学习线下班,也因此写了一系列ML博客。15年,July团队正式创业,开始做七月在线 —— 国内领先的人工智能教育平台,最初涵盖算法、机器学习、深度学习三大重心。16年,七月在线从上半年的5个课程扩展到下半年的30个课程,讲师团队也从上半年的5人扩大至现有的19人(且到18年上半年,讲师团队已超过60人)。

    与此同时,机器学习越来越火,且随着计算机计算能力的提高深度学习则更趋火热。公司在做深度学习的课程时,开发/市场同事也会顺带着学习学习,但从始至终都尚未跟着课程上的实验实际动手做过。

    直到最近,我们团队人手渐渐齐了之后,发现可以动手做一些实验了。为何呢?学一个东西,懂它理论之后,最重要的是付诸实践,动手实验一把,不然永远只是纸上谈兵。我们三虽然都不讲课(一市场一PHP一打杂),但可以辅助讲师团队带动更多学员一起做实验、一起搞。

    激情澎湃,心血来潮。

  • 21号下午5点,同事李、许开始搞DL:用DL学梵高作画。恩,是搞DL 不是搞ML。
  • 接近6点的时候,开始卷积计算,等待的过程就像生孩子一样。
  • 晚上8点,CPU搞了一个半小时搞出来了,然后开始装cuda,好用GPU搞几副梵高笔下的画。
  • 0点,同事还在装,因为GTX 1070下装cuda8.0实在是费劲呐(1070+8.0之所以难装,一个是网上教程很少,一个是1070 8.0都是刚出来的,特别是1070目前只能用cuda 8.0。可能960/970/980搭cuda 7.5会轻松太多)。
  • 接下来,两同事在黑暗中前行了一夜,趟遍无数坑。
  • 22号早上6点半,cuda、TensorFlow终于编译好,我..
  • 22号早上8点,用DL学梵高作画,GTX 1070 cuda 8.0 Ubuntu 14.04 cudnn 5.1 tensorflow gpu,折腾一整夜,趟遍无数坑,两位同事一PHP一市场终于搞定。(恩,有人说,PHP是世界上最好的语言)。\

    我们搭建好之后,兴高采烈的在微博上发布(因为两同事此前从未搞过DL,可以想象我们心情之兴奋),发现咱5月DL班里一学员之前也搭过这个配置,说:“装cuda 和驱动花了几天,经常出现黑屏”。也有朋友反馈:“配置这玩意确实很麻烦。”、以及“是真的很麻烦,我自己尝试搭建就一直没成功”。所以,很多朋友求教程。

    事实上,GPU搭好后,最后跑下demo就几分钟的事,主要是整个搭建过程 很折腾。不信?你可以先不看本教程,然后自个从头到尾搭一把1070+8.0,没搭过1070+8.0之前就不要来轻易下结论了。真心话。

    综上,特此推出本份教程,是网上极少有的1070+8.0教程里面最详尽的一份(部分图都是由骁哲用手机对着电脑拍下),希望让更多人少走弯路。此外,我们更会在深度学习课程上带领更多人跟我们一块做DL实验,一起玩。

\

\

二、配置

我们的配置为

  • 硬件配置:酷睿i7-6700+GTX1070+500G固态硬盘+8G内存+主板
  • 软件配置:Ubuntu14.04 +GTX1070显卡驱动+CUDA8.0+cudnn5.1+Tensorflow

\

\

三、下载

考虑到有些同学Linux操作不是很熟练,以下步骤尽量详细,以让每一个人都能玩一把。另,操作系统为全新安装的Ubuntu14.04英文桌面版,如果已安装其它版本或非全新安装,步骤可相应调整。

3.1、 Ubuntu14.04

http://www.ubuntu.com/download/alternative-downloads(下载地址,选择64位下载)

说明:

  1. 我们自己下载的时候是在官方英文版页面下载,中文版网页面似乎没有Ubuntu14.04的下载页。
  2. Ubuntu14.04版本选择上建议使用英文原版,Kylin(麒麟:给中国用户特别定制)版本不建议使用。原因:呵呵,外来和尚会念经
  3. Ubuntu16.04版本我们测试后发现进入桌面会屏幕闪动,分析原因似乎跟我们的显卡是1070版本有关(其实只要把GTX1070显卡驱动装上就行),而Ubuntu14.04未出现以上状况。所以考虑为广大人民群众减少麻烦,当您的显卡与我们类似(GTX1070\GTX1080),请参考本条建议。

UltraISO软碟通:

http://cn.ultraiso.net/xiazai.html(下载地址)

说明:

  1. 这个软件是将你U盘制作成Ubuntu14.04安装盘的工具。
  2. 使用方法请查看百度文库相关说明:wenku.baidu.com/link?url=XI…
  3. 如果下载地址链接失效,自行百度:UltraISO软碟通。
  4. 安装是在Windows下安装的。

3.2、 GTX1070显卡驱动

http://www.geforce.cn/drivers(下载地址)

说明:

(1)选项图解

(2)大家可以根据自己电脑配置进行选择。

3.3、 CUDA

https://developer.nvidia.com/cuda-toolkit(下载地址)

说明:

(1)在NVIDIA的CUDA下载页面下,选择要使用的CUDA版本进行下载。

(2)我们这里使用CUDA8.0(页面有提示GTX1070、GTX1080支持8.0版本),学员如果没有使用以上两个版本的GPU,可以下载CUDA7.5。DOWNLOAD(下载)。

(3)下载需要注册。

(4)图解选择

 

 

3.4、 Cudnn

https://developer.nvidia.com/cudnn(下载地址)

说明:

(1)下载需要填写一个调查问卷,就三个选项,建议认真填写,毕竟人家免费给咱使用。

(2)填写完毕点击 **I Agree To ** 前面的小方框,出现如下:

    点击下载后出现很多个选择,勾选3个选项:Images、Image Classification、Tensorflow。

\

3.5、 Tensorflow

tensorflow github上面提到 4 种安装方式,本教程使用 第四种 源码安装\

  1. Virtualenv installation
  2. Anaconda installation
  3. Docker installation
  4. Installing from sources

github.com/tensorflow/…(下载地址)

说明:

(1)打开下载页面,往下翻,直到下图这个位置:

(2) 点击Python 2开始下载。

最后,将所有下载文件全部存放至自己的移动硬盘/U盘内,等待安装时候使用。

\

\

四、 安装

4.1、 安装Ubuntu14.04

安装Ubuntu14.04:

http://jingyan.baidu.com/article/eb9f7b6d8536a8869364e813.html

说明:

(1)我们直接安装的英文原版系统,语言也是选择英文的。

(2)上述链接在--第三步:安装类型上选择的是--自定义。我们选择的是--清除整个磁盘并且安装,如果你有Windows系统,还会提示安装Ubuntu14.04与Windows并存模式。这个自行选择 ,切记! 这个地方谨慎选择。

(3)感谢百度经验上传者!

4.2、 安装GTX1070显卡驱动及CUDA8.0

注:安装驱动需要在字符界面下安装

步骤:

1)进入Ubuntu界面

2)插入U盘,将内容拷贝至Desktop文件下。熟悉Ubuntu的同学,这步可以按照自己习惯放置在其他文件夹下。

3)如图搜索Terminal

\

4) 将命令框图标拖动到左边栏里或者桌面,以便使用。

5) 打开命令框,输入 sudo  –i

输入开机密码

输入  sudo apt-get install vim\

           sudo  vi   /etc/default/grub

\

6) 此时系统会进入一个文本页面。在第20行前后会出现GRUB_CMDLINE_LINUX_DEFAULT="quiet"。将光标移动到这个命令最前端,然后键盘点击Esc键,再点击y键两次,点一下p键。就会将本条指令复制一个放到下一行。然后点击i键,就能进行编辑了,在本行命令前面添加#号,然后移动到复制出来的那条,修改quiet为text,按Esc键。Shift+:输入wq。

 

此时会调回命令框界面,输入sudo update-grub2

      输入shutdown  –r  now重启

7) 重启后进入字符界面,按照提示输入你的用户名及密码

\

输入sudo  -i

输入密码

输入cd  /home/***(这个按Tab键自动匹配)/Desktop

输入 ./NVIDIA-LIN…(这个按Tab键自动匹配) 或  /bin/bash 文件名

不懂的看图如下

\

按回车键后出现

…………………………………………………………………………………………………………………………………………………………………………………………………………………………….

说明开始安装

然后选择Accept等等同意字样

期间遇到协议的时候一直按空格键就行

协议完成后提示如图

\

输入accept

然后一路同意就行

8) 安装NVIDIA结束后,同样操作安装CUDA8.0,这里需要注意其中一个地方需要填写N才行,不能写Y。如图

\

其余操作如图

\

然后回车等待就行

9) 类似刚刚第(5)步的执行

输入sudo  vi   /etc/default/grub此时系统会进入一个文本页面。在第20行前后会出现GRUB_CMDLINE_LINUX_DEFAULT="quiet"。将光标移动到这个命令最前端,然后键盘点击Esc键,再点击y键两次,点一下p键。就会将本条指令复制一个放到下一行。然后点击i键,就能进行编辑了,在本行命令前面删除#号,然后移动到复制出来的那条,命令前面添加#号,按Esc键。Shift+:输入wq。

此时会调回命令框界面,输入sudo update-grub

      输入shutdown  –r  now重启

4.3、 Cudnn安装

cd  /home/***(自己的用户名)/Desktop/###(这个命令意思是找到刚刚我们用U盘传过来的文件)

tar xvzf cudnn-8.0-linux-x64-v5.1-ga.tgz###(解压这个文件)

sudo cp cuda/include/cudnn.h /usr/local/cuda/include###(复制)

sudo cp cuda/lib64/libcudnn* /usr/local/cuda/lib64###(复制)

sudo chmoda+r/usr/local/cuda/include/cudnn.h/usr/local/cuda/lib64/libcudnn*

 

4.4、 其他依赖安装:

https://github.com/tensorflow/tensorflow/blob/master/tensorflow/g3doc/get_started/os_setup.md

我们是在github的Tensorflow官方网页上,根据提示安装,地址如上。

按步骤截图如下

sudo apt-get install python-pip python-dev (这个不完整,完整版如下)

sudo apt-get install python-pip python-dev Python-scipy Pythoy-numpy git

 

 

\

\

\

4.5、 Bazel安装

由于本教程使用tensorflow源码编译/安装,所以需要使用 bazel build。

链接:www.bazel.io/versions/ma…

\

自动跳转

\

\

之后回到之前的Tensorflow安装教程页面:https://github.com/tensorflow/tensorflow/blob/master/tensorflow/g3doc/get_started/os_setup.md

\

4.6、 numpy安装

http://www.scipy.org/scipylib/download.html

\

git clone git://github.com/numpy/numpy.git numpy

\

4.7、 Tensorflow安装

还是刚刚的网址

https://github.com/tensorflow/tensorflow/blob/master/tensorflow/g3doc/get_started/os_setup.md

\

./configure

如果configure 失败 尝试执行一下两个命令
export LD_LIBRARY_PATH="$LD_LIBRARY_PATH:/usr/local/cuda/lib64:/usr/local/cuda/extras/CUPTI/lib64"
export CUDA_HOME=/usr/local/cuda

\

bazel build -c opt //tensorflow/tools/pip_package:build_pip_package

bazel build -c opt --config=cuda //tensorflow/tools/pip_package:build_pip_package

bazel-bin/tensorflow/tools/pip_package/build_pip_package /tmp/tensorflow_pkg

sudo pip install /home/***(你自己的用户名)/Desktop/tensorflow-0.10.0-cp2-none-any.whl

\

bazel build -c opt //tensorflow/tools/pip_package:build_pip_package

 

# To build with GPU support:

bazel build -c opt --config=cuda //tensorflow/tools/pip_package:build_pip_package

 

mkdir _python_build

cd _python_build

ln -s ../bazel-bin/tensorflow/tools/pip_package/build_pip_package.runfiles/org_tensorflow/* .

ln -s ../tensorflow/tools/pip_package/* .

python setup.py develop

 

\

\

五、 测试Tensorflow

 

\

\

六、 实验:模仿梵高绘画

neural-style下载
在这个github网站下载相应代码:github.com/anishathaly…\

\

接下来,下载vgg19:
www.vlfeat.org/matconvnet/…

然后,把vgg放到neural-style的文件夹根目录下\

现在,在命令窗口cd  /home/***(你自己的用户名)/Desktop/

   git clone  github.com/anishathaly…

接着 你就能在桌面打开这个文件夹了

\

把你想修改的照片放入example文件夹内,然后在刚才的窗口命令接着输入:

python   neural_style.py   --content  ./example/***.jpg(此括号内不要复制:***代表你想要使用的图片名称)   --styles  ./example/ 1-style.jpg(此括号内不要复制:1-style.jpg是梵高星空图片在文件夹内名称,你也可以换其他的风格,改名称就行了) --output  ./example/$$$.jpg(此括号内不要复制:$$$代表你想要生成的图片名称)

例如我的输入如下python neural_style.py –content  ./example/1-content.jpg  --styles ./example/1-style.jpg --output ./example/1-output.jpg

\

接下来,就是见证奇迹的时刻。

在计算机学到梵高作品星空的风格之后,让计算机对指定图片进行梵高式处理,如下图所示

\

之前用CPU得一个半小时才能出来结果的,现在用GPU几分钟即可出结果。不枉费劲心思折腾GPU。\

\

\

后记

    两位同事此前从未做过任何DL实验,仅拼着一腔热情、兴趣、热爱做这个实验,刚做完时觉得很麻烦,因为很多坑网上都没提过、全凭在黑暗中摸石头过河,且前行整整一夜。但相信有此教程后,1070+8.0则不再麻烦,可能一两个小时便能搞定(因为后来我们一下午连搞三遍,一遍比一遍快)。动嘴容易、动手方知没那么容易,但真正推动社会前行的永远是实干家,而非评论家。

    这个实验只是开始,我们开发/市场团队还会辅助讲师团队带动更多学员朋友做一系列更多实验,比如char-rnn、WaveNet(用卷积神经网络模拟人的声音)等等,哪怕实验再简单我们也会去做,因为:学计算机/ML/DL,第一要领就是动手、就是实验,否则说再多都是纸上谈兵。

    创造价值、帮助众人。贴两张图,是为念。最后探究实验背后原理,请参看此课程:深度学习班

\

    七月在线开发/市场团队骁哲、李伟、July,二零一六年九月二十五日。