内容介绍
基本信息
| 书名: | Python机器学习及实践-从零开始通往Kaggle竞赛之路 |
| 作者: | 范淼 | 开本: | |
| YJ: | 49 | 页数: | |
| 现价: | 见1;CY=CY部 | 出版时间 | 2016-10 |
| 书号: | 9787302442875 | 印刷时间: | |
| 出版社: | 清华大学出版社 | 版次: | |
| 商品类型: | 正版图书 | 印次: | |
内容提要 作者简介 范淼 :清华大学计算机系人工智能研究所博士,研究方向涉及机器学习与自然语言处理技术。2015年3月受国家留学基金委公派至美国纽约大学计算机系联合培养。攻读博士期间,于所在研究领域内多个重要GJ会议与期刊上发表论文近20篇。先后在Hulu、MSRA(微软亚洲研究院)、百度自然语言处理部、Bosch(博世)北美硅谷研究院等多个公司的研发部门实习,并承担机器学习与自然语言处理相关的研究任务。
李超: 工学博士,清华大学副研究员,信息技术研究院Web 与软件技术研究中心副主任。中国计算机学会信息存储技术专委会WY、中国计算机学会GJ会员、全国文献影像技术标准化技术WY会(SAC/TC86/SC6)WY、IEEE 会员。研究领域包括海量数据存储、组织与管理、分析,及其在数字图书馆/档案馆/教育/医疗/金融等领域的应用。主持及参与多项国家973、863、科技支撑、自然基金等纵向项目及横向合作项目。已发表学术论文50 余篇、获得授权发明专利10 余项。
精彩导读 D3章 进阶篇 在D2章中,我们向读者介绍了大量经典的机器学习模型,并且使用Python编程语言分析这些模型在许多不同现实数据上的性能表现。然而,细心的读者在深入研究这些数据或者查阅Scikit-learn的文档之后J会发现: 所有我们在D2章中使用过的数据几乎都经过了规范化处理,而且模型也大多只是采用了默认的初始化配置。换言之,尽管我们可以使用经过处理之后的数据,在默认配置下学习到一套用以拟合这些数据的参数,并且使用这些参数和默认配置取得一些看似良好的性能表现;但是我们仍然无法回答几个Z为关键的问题: 实际研究和工作中接触到的数据都是这样规整的吗?难道这些默认配置J是ZJ的么?我们的模型性能是否还有提升的空间?本章“3.1模型使用技巧”节将会帮助读者朋友解答上述疑问。阅读完这一节,相信各位读者朋友J会掌握如何通过抽取或者筛选数据特征、优化模型配置,进一步提升经典模型的性能表现。 然而,随着近些年机器学习研究与应用的快速发展,经典模型渐渐无法满足日益增长的数据量和复杂的数据分析需求。因此,越来越多更加高效而且强力的学习模型以及对应的程序库正逐渐被设计和编写,并慢慢被科研圈和工业界所广泛接受与采用。这些模型和程序库包括: 用于自然语言处理的NLTK程序包;词向量技术Word2Vec;能够提供强大预测能力的XGBoost模型,以及Google发布的用于深度学习的Tensorflow框架等等。更加令人振奋的是,上述这些Z为流行的程序库和模型, 不但提供了Python的编程接口API,而且有些成为Python编程语言的工具包,更是方便了我们后续的学习和使用。因此,在“3.2流行库/模型实践”节将会带领各位读者一同领略这些时下Z为流行的程序库和新模型的奥妙。
3.1模型实用及技巧 这一节将向读者朋友传授一系列更加偏向于实战的模型使用技巧。相信各位读者在D2章中品味了多个经典的机器学习模型之后,J会发现: 一旦我们确定使用某个模型,本书所提供的程序库J可以帮助我们从标准的训练数据中,依靠默认的配置学习到模型所需要的参数(Parameters);接下来,我们便可以利用这组得来的参数指导模型在测试数据集上进行预测,进而对模型的表现性能进行评价。 但是,这套方案并不能保证: (1) 所有用于训练的数据特征都是Z好的;(2) 学习得到的参数一定是Z优的;(3) 默认配置下的模型总是ZJ的。也J是说,我们可以从多个角度对在前面所使用过的模型进行性能提升。本节将向大家介绍多种提升模型性能的方式,包括如何预处理数据、控制参数训练以及优化模型配置等方法。 3.1.1特征提升 早期机器学习的研究与应用,受模型种类和运算能力的限制。因此,大部分研发人员把更多的精力放在对数据的预处理上。他们期望通过对数据特征的抽取或者筛选来达到提升模型性能的目的。所谓特征抽取,J是逐条将原始数据转化为特征向量的形式,这个过程同时涉及对数据特征的量化表示;而特征筛选则更进一步,在高维度、已量化的特征向量中选择对指定任务更有效的特征组合,进一步提升模型性能。 3.1.1.1特征抽取 原始数据的种类有很多种,除了数字化的信号数据(声纹、图像),还有大量符号化的文本。然而,我们无法直接将符号化的文字本身用于计算任务,而是需要通过某些处理手段,预先将文本量化为特征向量。 有些用符号表示的数据特征已经相对结构化,并且以字典这种数据结构进行存储。这时,我们使用DictVectorizer对特征进行抽取和向量化。比如下面的代码55。
代码55: DictVectorizer对使用字典存储的数据进行特征抽取与向量化 >>> # 定义一组字典列表,用来表示多个数据样本(每个字典代表一个数据样本)。 >>>measurements= [{'city': 'Dubai', 'temperature': 33.}, {'city': 'London', 'temperature': 12.}, {'city': 'San Fransisco', 'temperature': 18.}] >>> # 从sklearn.feature_extraction 导入 DictVectorizer >>>from sklearn.feature_extraction import DictVectorizer >>> # 初始化DictVectorizer特征抽取器 >>>vec=DictVectorizer() >>> # 输出转化之后的特征矩阵。 >>>print vec.fit_transform(measurements).toarray() >>> # 输出各个维度的特征含义。 >>>print vec.get_feature_names()[[1. 0 0.33] [0. 1. 0.12.] [0. 0. 1.18.]] ['city=Dubai', 'city=London', 'city=San Fransisco', 'temperature']
从代码55的输出可以看到: 在特征向量化的过程中,DictVectorizer对于类别型(Categorical)与数值型(Numerical)特征的处理方式有很大差异。由于类别型特征无法直接数字化表示,因此需要借助原特征的名称,组合产生新的特征,并采用0/1二值方式进行量化;而数值型特征的转化则相对方便,一般情况下只需要维持原始特征值即可。 另外一些文本数据则表现得更为原始,几乎没有使用特殊的数据结构进行存储,只是一系列字符串。我们处理这些数据,比较常用的文本特征表示方法为词袋法(Bag of Words): 顾名思义,不考虑词语出现的顺序,只是将训练文本中的每个出现过的词汇单D视作一列特征。我们称这些不重复的词汇集合为词表(Vocabulary),于是每条训练文本都可以在高维度的词表上映射出一个特征向量。而特征数值的常见计算方式有两种,分别是: CountVectorizer和TfidfVectorizer。对于每一条训练文本,CountVectorizer只考虑每种词汇(Term)在该条训练文本中出现的频率(Term Frequency)。而TfidfVectorizer除了考量某一词汇在D前文本中出现的频率(Term Frequency)之外,同时关注包含这个词汇的文本条数的倒数(Inverse Document Frequency)。相比之下,训练文本的条目越多,TfidfVectorizer这种特征量化方式J更有优势。因为我们计算词频(Term Frequency)的目的在于找出对所在文本的含义更有贡献的重要词汇。然而,如果一个词汇几乎在每篇文本中出现,说明这是一个常用词汇,反而不会帮助模型对文本的分类;在训练文本量较多的时候,利用TfidfVectorizer压制这些常用词汇的对分类决策的干扰,往往可以起到提升模型性能的作用。 我们通常称这些在每条文本中都出现的常用词汇为停用词(Stop Words),如英文中的the、a等。这些停用词在文本特征抽取中经常以黑名单的方式过滤掉,并且用来提高模型的性能表现。下面的代码让我们重新对“20类新闻文本分类”问题进行分析处理,这一次的重点在于列举上述两种文本特征量化模型的使用方法,并比较他们的性能差异。 ……
目录
●D1章简介篇1
1.1机器学习综述1
1.1.1任务3
1.1.2经验5
1.1.3性能5
1.2Python编程库8
1.2.1为什么使用Python8
1.2.2Python机器学习的优势9
1.2.3NumPy & SciPy10
1.2.4Matplotlib11
1.2.5Scikit�瞝earn11
1.2.6Pandas11
1.2.7Anaconda12
1.3Python环境配置12
1.3.1Windows系统环境12
1.3.2Mac OS 系统环境17
1.4Python编程基础18
1.4.1Python基本语法19
1.4.2Python 数据类型20
1.4.3Python 数据运算22
1.4.4Python 流程控制26
1.4.5Python 函数(模块)设计28
1.4.6Python 编程库(包)的导入29
1.4.7Python 基础综合实践30
1.5章末小结33〖1〗Python机器学习及实践〖1〗目录●D2章基础篇34
2.1监督学习经典模型34
2.1.1分类学习35
2.1.2回归预测64
2.2无监督学习经典模型81
2.2.1数据聚类81
2.2.2特征降维91
2.3章末小结97
●D3章进阶篇98
3.1模型实用技巧98
3.1.1特征提升99
3.1.2模型正则化111
3.1.3模型检验121
3.1.4超参数搜索122
3.2流行库/模型实践129
3.2.1自然语言处理包(NLTK)131
3.2.2词向量(Word2Vec)技术133
3.2.3XGBoost模型138
3.2.4Tensorflow框架140
3.3章末小结152
●D4章实战篇153
4.1Kaggle平台简介153
4.2Titanic罹难乘客预测157
4.3IMDB影评得分估计165
4.4MNIST手写体数字图片识别174
4.5章末小结180
●后记181
●参考文献182
目录
。。。。。。。。。。
《Python数据科学实战:从入门到精通》 内容简介: 在这个信息爆炸的时代,数据已成为驱动创新和决策的核心要素。掌握数据分析和科学计算的能力,已经成为各行各业专业人士必备的技能。《Python数据科学实战:从入门到精通》正是为 aspiring data scientists, analysts, researchers, 以及任何希望深入理解和利用数据的人们量身打造的一本深度实践指南。本书将带领读者踏上一段从零开始、循序渐进的Python数据科学探索之旅,最终实现独立完成复杂数据分析项目的目标。 本书并非浅尝辄止的理论堆砌,而是聚焦于Python强大的数据科学生态系统,系统地阐述了从数据获取、清洗、预处理、探索性数据分析 (EDA),到数据建模、评估和可视化等整个数据科学工作流程。我们相信,真正掌握一门技术,在于反复的实践和解决实际问题的能力,因此,本书的每一章都穿插了精心设计的案例分析和动手练习,旨在帮助读者巩固所学知识,并培养解决真实世界数据挑战的信心。 核心内容涵盖: 第一部分:Python基础与数据科学环境搭建 在正式进入数据科学的海洋之前,扎实的基础知识是必不可少的。本部分将从Python语言的核心概念入手,即使是编程新手也能快速上手。我们将重点讲解Python的数据类型、控制流、函数、面向对象编程等基础知识,并特别强调它们在数据处理中的应用。 Python入门: 深入浅出地讲解Python的基本语法、变量、运算符、数据结构(列表、元组、字典、集合)等,并提供大量代码示例。 环境配置: 指导读者如何安装和配置Python开发环境,包括Anaconda发行版、Jupyter Notebook/Lab等交互式开发工具,以及常用的IDE(如VS Code)的配置,确保读者能够立即投入到实践中。 NumPy: 作为Python科学计算的基石,NumPy提供了强大的N维数组对象和一系列用于数组操作的函数。本部分将详细讲解NumPy的数组创建、索引、切片、数学运算、线性代数运算以及广播机制,为后续的数据处理打下坚实基础。 Pandas: Pandas库是Python数据分析的瑞士军刀。我们将深入探讨其核心数据结构——Series和DataFrame,学习如何进行数据读取(CSV、Excel、SQL数据库等)、数据清洗(缺失值处理、重复值处理、数据类型转换)、数据重塑(排序、分组、聚合、合并、连接)、时间序列数据处理以及数据透视表等。通过实际数据操作,读者将深刻理解Pandas在数据预处理阶段的强大能力。 第二部分:数据可视化与探索性数据分析 (EDA) 数据可视化是将复杂数据转化为易于理解的洞察的关键。本部分将引领读者掌握多种数据可视化工具和技术,并学习如何通过EDA来理解数据的内在规律和特征。 Matplotlib: Python最基础、最灵活的绘图库。我们将学习如何创建各种静态、动态、交互式的图表,包括折线图、散点图、柱状图、饼图、直方图、箱线图等,并掌握图表的定制化,如标题、标签、图例、颜色、样式等。 Seaborn: Seaborn是基于Matplotlib的统计数据可视化库,提供了更高级的接口和更美观的默认样式,特别擅长绘制复杂的统计图表。我们将学习如何使用Seaborn绘制分布图、关系图、分类图、回归图、矩阵图等,以及如何利用其便捷的函数快速探索数据间的关系。 探索性数据分析 (EDA): 本部分将系统性地讲解EDA的流程和技巧。通过对真实数据集进行分析,读者将学会如何运用统计摘要、数据分布分析、相关性分析、异常值检测以及不同特征之间的关系探索等方法,来发现数据中的模式、趋势、异常和潜在的问题,为后续的建模提供依据。 第三部分:机器学习基础与实践 在掌握了数据处理和分析的技能后,我们将正式进入机器学习的世界。本书将从机器学习的基本概念讲起,介绍监督学习、无监督学习等主要范式,并重点讲解几种常用且强大的机器学习算法。 机器学习概述: 介绍机器学习的基本概念,如监督学习、无监督学习、半监督学习、强化学习;讲解特征工程、模型训练、模型评估等核心流程。 Scikit-learn: 作为Python中最流行、功能最全面的机器学习库,Scikit-learn将贯穿本部分。我们将学习如何使用Scikit-learn进行数据预处理(特征缩放、编码、降维)、模型选择(交叉验证、网格搜索)、模型训练(拟合数据)、模型预测和模型评估(准确率、召回率、F1分数、AUC等)。 监督学习算法: 线性回归与逻辑回归: 讲解它们的基本原理、适用场景和Scikit-learn实现,并探讨模型正则化技术(Lasso, Ridge)以防止过拟合。 决策树与随机森林: 深入理解决策树的构建过程,以及随机森林如何通过集成学习提升模型性能和鲁棒性。 支持向量机 (SVM): 介绍SVM的核技巧,以及如何选择合适的核函数和参数来解决分类和回归问题。 K近邻 (KNN): 讲解其简单的原理和应用,以及距离度量的选择。 集成学习(XGBoost/LightGBM): 重点介绍梯度提升算法,并详细讲解XGBoost和LightGBM这两个在Kaggle竞赛中表现卓越的库,包括它们的原理、参数调优和实际应用技巧。 无监督学习算法: K-Means聚类: 学习如何进行数据聚类,发现数据的内在分组。 主成分分析 (PCA): 掌握降维技术,用于数据压缩和特征提取。 第四部分:高级主题与项目实战 为了让读者真正具备独立解决问题的能力,本书将进一步探讨一些高级机器学习技术,并引导读者完成一系列端到端的数据科学项目。 模型评估与选择: 深入讲解各种模型评估指标的含义和适用场景,学习如何进行模型性能的横向和纵向比较,以及如何利用交叉验证、网格搜索和随机搜索等技术进行超参数调优。 特征工程进阶: 探讨更复杂的特征工程技巧,包括特征交互、特征组合、特征选择方法(如基于模型的方法、过滤法、包装法)等,以提升模型性能。 模型解释性: 学习如何理解和解释机器学习模型的预测结果,介绍SHAP、LIME等模型解释工具,帮助理解模型“黑箱”内部的决策过程。 时间序列分析基础: 介绍时间序列数据的特性,以及ARIMA、Prophet等基础时间序列预测模型,为处理具有时间依赖性的数据奠定基础。 真实世界项目实践: 房价预测项目: 从数据获取、清洗、EDA、特征工程、模型选择到模型评估,完成一个完整的回归问题预测。 客户流失预测项目: 运用分类算法,构建模型来预测客户是否会流失。 文本情感分析项目(选讲): 介绍文本数据的预处理(如分词、去停用词、词干提取),并应用NLP技术进行情感分析。 本书特色: 实践驱动: 每一个理论概念都伴随着代码示例和实际案例,强调“学以致用”。 循序渐进: 内容设计符合学习曲线,从基础概念到高级技巧,逐步深入。 工具全面: 覆盖Python数据科学领域最核心、最常用的库,如NumPy, Pandas, Matplotlib, Seaborn, Scikit-learn, XGBoost, LightGBM等。 项目导向: 通过完成真实世界的数据科学项目,让读者掌握端到端解决问题的能力。 通俗易懂: 语言力求简洁明了,避免生涩的学术术语,让技术小白也能轻松理解。 通过《Python数据科学实战:从入门到精通》,您将不仅仅学会使用Python进行数据分析,更能培养起独立思考、分析问题、解决问题的能力,为在数据科学领域的深入发展打下坚实的基础,开启您精彩的数据探索之旅。