本书是深度学习的入门教材，系统地介绍了深度学习的基本概念与实战应用，包括深度学习在图像、语音、文本方向的应用，以及前沿发展等。本书分为10章，大致为3个部分：第1部分（1-3章）介绍深度学习的基础知识。第2部分（4-6章）介绍深度学习的各个方面，从算法设计到模型实现。第3部分（8-10章）介绍深度学习的实战应用以及前沿发展。每章都附有相应的习题和参考文献，以便感兴趣的读者进一步深入思考。"让学习变得轻松”是本书的基本编写理念。本书适合作为相关专业本科和研究生教材，也适合作为深度学习研究与开发人员的入门书籍。

作者简介

清华大学博士，解放军理工大学教授、学科带头人，中国云计算专家委员会委员。主要研究方向为信息网格和云计算，完成科研课题18项，发表论文70余篇，获部级科技进步奖6项。曾夺得国际计算机排序比赛冠军，并二次夺得全国高校科技比赛*高奖，获“全军十大学习成才标兵”、“南京十大杰出青年”和“清华大学学术新秀”等称号。2002年首倡的“网格计算池”和2003年研发的“反垃圾邮件网格”分别为云计算和云安全的前身。创办了知名的中国网格和中国云计算网站。

第1章深度学习的来源与应用 1
1．1 人工智能的思想、流派与发展起落 1
1．1．1 人工智能的思潮流派和主要研究与应用领域 2
1．1．2 人工智能的三起三落 4
1．2 什么是深度学习 6
1．2．1 我们不分离――数据和算法 6
1．2．2 深度学习基础 9
1．3 机器学习与深度学习 10
1．3．1 机器学习的定义与种类 10
1．3．2 机器学习的任务与方法 13
1．3．3 深度学习的提出 16
1．4 深度学习的应用场景 18
1．4．1 应用场合和概念层次 18
1．4．2 主要开发工具和框架 20
1．4．3 人工智能、深度学习有关学术会议和赛事 22
习题 24
参考文献 24
第2章深度学习的数学基础 26
2．1 线性代数 26
2．1．1 向量空间 26
2．1．2 矩阵分析 28
2．2 概率与统计 30
2．2．1 概率与条件概率 30
2．2．2 贝叶斯理论 33
2．2．3 信息论基础 35
2．3 多元微积分 39
2．3．1 导数和偏导数 39
2．3．2 梯度和海森矩阵 42
2．3．3 最速下降法 44
2．3．4 随机梯度下降算法 45
习题 48
参考文献 50
第3章人工神经网络与深度学习 51
3．1 探秘大脑的工作原理 52
3．1．1 人类活动抽象与深度学习模型 53
3．1．2 人脑神经元的结构 54
3．1．3 人脑神经元功能 55
3．1．4 人脑视觉机理 57
3．2 人脑神经元模型 59
3．2．1 人脑神经元模型介绍 60
3．2．2 激活函数 62
3．3 M-P模型 64
3．3．1 标准M-P模型 65
3．3．2 改进的M-P模型 66
3．4 人脑神经网络的互连结构 66
3．4．1 前馈神经网络 67
3．4．2 反馈网络 67
3．5 人工神经网络的学习 68
3．5．1 人工神经网络的学习方式 68
3．5．2 神经网络的学习规则 71
3．5．3 人工神经网络算法基本要求 73
3．5．4 神经网络计算特点 74
3．6 人工神经网络的特点 75
3．7 神经网络基本概念与功能 76
3．7．1 几个基本概念 76
3．7．2 基本功能 78
3．7．3 感知机的局限性 83
3．8 深度学习其他网络结构 84
3．8．1 卷积神经网络 88
3．8．2 循环（递归）神经网络 94
习题 97
参考文献 98
第4章深度学习基本过程 99
4．1 正向学习过程 99
4．1．1 正向学习概述 99
4．1．2 正向传播的流程 100
4．1．3 正向传播的详细原理 100
4．2 反向调整过程 102
4．2．1 反向调整概述 102
4．2．2 反向传播过程详解 103
4．2．3 深层模型反向调整的问题与对策 106
4．3 手写体数字识别实例 107
4．3．1 数据准备 107
4．3．2 网络设计 109
4．3．3 模型训练 115
4．3．4 模型测试 116
习题 121
参考文献 121
第5章深度学习主流模型 122
5．1 卷积神经网络 123
5．1．1 CNN概念 123
5．1．2 CNN常用算法 127
5．1．3 CNN训练技巧 131
5．2 循环神经网络 132
5．2．1 RNN结构 132
5．2．2 RNN训练 133
5．2．3 RNN训练技巧 135
习题 136
参考文献 136
第6章深度学习的主流开源框架 138
6．1 Caffe 138
6．1．1 Caffe框架 138
6．1．2 安装Caffe 139
6．1．3 案例：基于Caffe的目标识别 145
6．2 TensorFlow 146
6．2．1 TensorFlow框架 146
6．2．2 安装TensorFlow 147
6．2．3 案例：基于TensorFlow的目标识别 149
6．3 其他开源框架 150
6．3．1 CNTK 150
6．3．2 MXNet 151
6．3．3 Theano 151
6．3．4 Torch 151
6．3．5 Deeplearning4j 152
习题 153
参考文献 153
第7章深度学习在图像中的应用 154
7．1 图像识别基础 154
7．2 基于深度学习的大规模图像识别 155
7．2．1 大规模图像数据库：ImageNet 155
7．2．2 AlexNet网络结构 156
7．2．3 非线性激活函数ReLU 157
7．2．4 在多GPU上进行实现 158
7．2．5 增加训练样本 158
7．2．6 dropout技术 159
7．3 应用举例：人脸识别 160
7．3．1 人脸识别的经典流程 160
7．3．2 人脸图像数据库 161
7．3．3 基于深度学习的人脸识别方法 162
7．4 应用举例：图像风格化 163
7．4．1 内容重构 164
7．4．2 风格重构 165
7．4．3 内容与风格的重组 166
7．5 应用举例：图像标注 167
7．5．1 基于深度网络的图像标注方法概述 168
7．5．2 视觉语义对齐 169
7．5．3 为新图像生成对应文本描述 171
习题 172
参考文献 172
第8章深度学习在语音中的应用 174
8．1 语音识别基础 174
8．1．1 人类之间的交流 175
8．1．2 人机交流 175
8．1．3 语音识别系统的基本结构 176
8．1．4 特征提取 176
8．1．5 声学模型 177
8．1．6 语言模型 177
8．1．7 解码器 178
8．1．8 用于语音识别的GMM-HMM模型 178
8．2 基于深度学习的连续语音识别 181
8．2．1 DNN-HMM混合系统 181
8．2．2 CD-DNN-HMM的关键模块及分析 185
8．3 应用举例：语音输入法 190
8．3．1 案例背景 190
8．3．2 语音输入法设计 191
8．3．3 语音中心SpeechCenter的设计 192
8．3．4 输入法FreeVoice的设计 194
8．3．5 FreeVoice和SpeechCenter之间的通信设计 196
习题 198
参考文献 198
第9章深度学习在文本中的应用 201
9．1 自然语言处理基础 201
9．1．1 正则表达式和自动机 202
9．1．2 句法处理 203
9．1．3 词的分类和词性标注 203
9．1．4 上下文无关语法 205
9．1．5 浅层语法分析 205
9．1．6 语义分析 206
9．1．7 语义网络 206
9．1．8 词汇关系信息库 206
9．2 基于深度学习的文本处理 207
9．2．1 词汇向量化表示 207
9．2．2 句法分析 209
9．2．3 神经机器翻译 209
9．2．4 情感分析 210
9．3 应用举例：机器翻译 211
9．4 应用举例：聊天机器人 215
9．4．1　聊天机器人的主要功能模块 216
9．4．2　主要的技术挑战 217
9．4．3　深度学习构建智能聊天机器人 218
习题 220
参考文献 220
第10章深度学习前沿发展 222
10．1 增强学习 222
10．1．1 增强学习的基本概念 222
10．1．2 增强学习的过程 224
10．1．3 增强学习的应用 225
10．2 迁移学习 225
10．2．1 迁移学习的定义 226
10．2．2 迁移学习的分类 226
10．2．3 迁移学习的应用场景 226
10．3 记忆网络 228
10．3．1 循环神经网络 228
10．3．2 长短期记忆网络 228
10．3．3 长短期记忆变体 231
10．4 深度学习的硬件实现 232
10．4．1 FPGA 232
10．4．2 ASIC 233
10．4．3 TPU 234
10．4．4 寒武纪 235
10．4．5 TrueNorth 237
习题 238
参考文献 238
附录A 人工智能和大数据实验环境 240

前言/序言

总序

短短几年间，大数据就以一日千里的发展速度，快速实现了从概念到落地，直接带动了相关产业井喷式发展。全球多家研究机构统计数据显示，大数据产业将迎来发展黄金期：IDC预计，大数据和分析市场将从2016年的1300亿美元增长到2020年的2030亿美元以上；中国报告大厅发布的大数据行业报告数据也说明，自2017年起,我国大数据产业将迎来发展黄金期，未来2~3年的市场规模增长率将保持在35%左右。

数据采集、数据存储、数据挖掘、数据分析等大数据技术在越来越多的行业中得到应用，随之而来的就是大数据人才问题的凸显。麦肯锡预测，每年数据科学专业的应届毕业生将增加7%，然而仅高质量项目对于专业数据科学家的需求每年就会增加12%，完全供不应求。根据《人民日报》的报道，未来3~5年，中国需要180万数据人才，但目前只有约30万人，人才缺口达到150万之多。

以贵州大学为例，其首届大数据专业研究生就业率就达到100%，可以说“一抢而空”。急切的人才需求直接催热了大数据专业，国家教育部正式设立“数据科学与大数据技术”本科新专业。目前已经有两批共计35所大学获批，包括北京大学、中南大学、对外经济贸易大学、中国人民大学、北京邮电大学、复旦大学等。估计2018年会有几百所高校获批。

不过，就目前而言，在大数据人才培养和大数据课程建设方面，大部分高校仍然处于起步阶段，需要探索的还有很多。首先，大数据是个新生事物，懂大数据的老师少之又少，院校缺“人”；其次，尚未形成完善的大数据人才培养和课程体系，院校缺“机制”；再次，大数据实验需要为每位学生提供集群计算机，院校缺“机器”；最后，院校没有海量数据，开展大数据教学科研工作缺“原材料”。

其实，早在网格计算和云计算兴起时，我国科技工作者就曾遇到过类似的挑战，我有幸参与了这些问题的解决过程。为了解决网格计算问题，我在清华大学读博期间，于2001年创办了中国网格信息中转站网站，每天花几个小时收集和分享有价值的资料给学术界，此后我也多次筹办和主持全国性的网格计算学术会议，进行信息传递与知识分享。2002年，我与其他专家合作的《网格计算》教材也正式面世。

2008年，当云计算开始萌芽之时，我创办了中国云计算网站（chinacloud.cn）（在各大搜索引擎“云计算”关键词中排名第一），2010年出版了《云计算（第一版）》、2011年出版了《云计算（第二版）》、2015年出版了《云计算（第三版）》，每一版都花费了大量成本制作并免费分享对应的几十个教学PPT。目前，这些PPT的下载总量达到了几百万次之多。同时，《云计算》教材也成为国内高校的首选教材，在CNKI公布的高被引图书名单中，对于2010年以来出版的所有图书，《云计算(第一版)》在自动化和计算机领域排名全国第一。除了资料分享，在2010年，我在南京组织了全国高校云计算师资培训班，培养了国内第一批云计算老师，并通过与华为、中兴、360等知名企业合作，输出云计算技术，培养云计算研发人才。这些工作获得了大家的认可与好评，此后我接连担任了工信部云计算研究中心专家、中国云计算专家委员会云存储组组长等职位。

近几年，面对日益突出的大数据发展难题，我也正在尝试使用此前类似的办法去应对这些挑战。为了解决大数据技术资料缺乏和交流不够通透的问题，我于2013年创办了中国大数据网站（thebigdata.cn），投入大量的人力进行日常维护，该网站目前已经在各大搜索引擎的“大数据”关键词排名中位居第一；为了解决大数据师资匮乏的问题，我面向全国院校陆续举办多期大数据师资培训班。2016年年末至今，在南京多次举办全国高校/高职/中职大数据免费培训班，基于《大数据》《大数据实验手册》以及云创大数据提供的大数据实验平台，帮助到场老师们跑通了Hadoop、Spark等多个大数据实验，使他们跨过了“从理论到实践，从知道到用过”的门槛。2017年5月，还举办了全国千所高校大数据师资免费讲习班，盛况空前。

其中，为了解决大数据实验难的问题而开发的大数据实验平台，正在为越来越多高校的教学科研带去方便：2016年，我带领云创大数据（www.cstor.cn，股票代码：835305）的科研人员，应用Docker容器技术，成功开发了BDRack大数据实验一体机，它打破虚拟化技术的性能瓶颈，可以为每一位参加实验的人员虚拟出Hadoop集群、Spark集群、Storm集群等，自带实验所需数据，并准备了详细的实验手册（包含42个大数据实验）、PPT和实验过程视频，可以开展大数据管理、大数据挖掘等各类实验，并可进行精确营销、信用分析等多种实战演练。目前，大数据实验平台已经在郑州大学、西京学院、郑州升达经贸管理学院、镇江高等职业技术学校等多所院校成功应用，并广受校方好评。该平台也以云服务的方式在线提供（大数据实验平台，https://bd.cstor.cn），帮助师生通过自学，用一个月左右的时间成为大数据动手的高手。

同时，为了解决缺乏权威大数据教材的问题，我所负责的南京大数据研究院，联合金陵科技学院、河南大学、云创大数据、中国地震局等多家单位，历时两年，编著出版了适合本科教学的《大数据》《大数据库》《大数据实验手册》等教材。另外，《数据挖掘》《虚拟化与容器》《大数据可视化》《深度学习》等本科教材也将于近期出版。在大数据教学中，本科院校的实践教学应更加系统性，偏向新技术的应用，且对工程实践能力要求更高。而高职、高专院校则更偏向于技术性和技能训练，理论以够用为主，学生将主要从事数据清洗和运维方面的工作。基于此，我们还联合多家高职院校专家准备了《云计算基础》《大数据基础》《数据挖掘基础》《R语言》《数据清洗》《大数据系统运维》《大数据实践》系列教材，目前也已经陆续进入定稿出版阶段。

此外，我们也将继续在中国大数据（thebigdata.cn）和中国云计算（chinacloud.cn）等网站免费提供配套PPT和其他资料。同时，持续开放大数据实验平台（https://bd.cstor.cn）、免费的物联网大数据托管平台万物云（wanwuyun.com）和环境大数据免费分享平台环境云（envicloud.cn），使资源与数据随手可得，让大数据学习变得更加轻松。

在此，特别感谢我的硕士导师谢希仁教授和博士导师李三立院士。谢希仁教授所著的《计算机网络》已经更新到第7版，与时俱进且日臻完美，时时提醒学生要以这样的标准来写书。李三立院士是留苏博士，为我国计算机事业做出了杰出贡献，曾任国家攀登计划项目首席科学家。他严谨治学的态度带出了一大批杰出的学生。

本丛书是集体智慧的结晶，在此谨向付出辛勤劳动的各位作者致敬！书中难免会有不当之处，请读者不吝赐教。我的邮箱：gloud@126.com，微信公众号：刘鹏看未来（lpoutlook）。

刘鹏

于南京大数据研究院

前言

自2012年以来，深度学习在图像识别上取得了重大突破，使得深度学习技术得到了前所未有的关注。越来越多的科研人员与工程技术人员投入到深度学习的研究中，涌现出了大量的深度学习开源框架和成功应用，各种基于深度学习的技术和应用也层出不穷。有关深度学习的文章、评论、文档也非常多。然而尚缺乏针对本科生入门的系统性深度学习教材，以使读者可以了解深度学习的来龙去脉，为以后进一步使用深度学习做相关应用或者深入研究深度学习技术奠定基础。

南京大数据研究院刘鹏教授顺势而为，周密思考，在高级大数据人才培养课程体系中，专门设立深度学习课程，并邀请全国上百家高校中从事一线教学科研任务的教师一起，编撰高级大数据人才培养丛书。本书即该套丛书之一。

本书的定位是深度学习。以“让学习变得轻松”为根本出发点，介绍深度学习的入门知识，通过浅显易懂的语言，将深度学习的发展过程说清楚，以便将来对深度学习进行进一步深入研究或应用。本书特别注重动手能力，因此对于书中所有的例子和实验，都可以使用深度学习一体机进行练习。读者在读完本书之后，不仅仅了解了深度学习的原理，更重要的是，可以自己搭建深度学习的环境，训练自己的深度学习模型，甚至构建深度学习的原型系统。

本书以教育部“十三五”规划和学校的相关规划发展为依据，响应国家有关大力发展人工智能的号召，遵循本科教育的规律，顺应学生身心发展的特点，致力于构建开放而有力的教材体系，促进学生学习方式的改变，全面提高学生的知识素养，为他们的终身学习、生活和工作奠定坚实的理论和实践基础。作为深度学习的入门教材，本书分别从基本概念、基础与应用（包括深度学习在图像、语音、文本方向的应用），以及前沿发展等方面系统介绍了深度学习。本书大致分3个部分：第1部分介绍深度学习的基础知识。第2部分介绍深度学习模型与算法。第3部分介绍深度学习的应用，最后附上人工智能和大数据实验环境的介绍供读者参考。

本书得到了南京大数据研究院院长刘鹏教授，金陵科技学院副校长张燕教授的大力支持。2015年度江苏高校优秀科技创新团队“大数据智能挖掘信息技术研究”在书稿提纲和内容组织上提出了诸多建设性意见。编写过程得到了金陵科深度学习——高级大数据人才培养丛书下载 mobi epub pdf txt 电子书格式