当前位置： 编码机 >> 编码机优势 >> 清华高材生机器学习,没有捷径
《机械进修与运用》由清华大学出书社出书，是机械进修和深度进修范畴又一高品质的初学与抬高讲义。该书系统、深入地报告了机械进修与深度进修的首要法子与理论，并精细连合工程实习与运用。
做家简介
雷明，结业于清华大学谋略机系，协商方位为机械进修、谋略机视觉。有超出12年的学术协商与产物研发阅历，曾发布论文数篇，具备深沉的理论功底与充盈的实习阅历。其撰写的系列技艺文章在半年内累计赏玩量达数百万次，善于用灵便、抽象的言语把繁杂、笼统的理论和算法诠释知晓。
适读人群
谋略机，电子，主动化，人为智能等关连专科的本科生，协商生
从事人为智能学术协商与产物研发的人员
对人为智能、机械进修感爱好的人
本书上风（附出色试读）
1、实质所有、系统，紧跟时间步调
完全的报告了机械进修、深度进修首要算法以及在各个范畴的模范运用，含括了学术界与产业界截至年头的新结果，紧跟时间步调，补偿了市情上典范讲义实质老化的遗憾。
出色试读
图象超分辩的方向是由低分辩率的图象获得高分辩率的图象，保守的做法大多采纳纯图象处置的技艺。用机械进修的思绪处置超分辩题目取患了更好的成果，卷积神经网络被胜利地用于超分辩题目。文件[7]提议了一种用生成对立网络框架处置图象超分辩题目的法子，称为超分辩生成对立网络，简称SRGAN，也许将收缩4倍以上的图象举行还原。
这类法子运用了一种新的损失函数，由对立损失和实质损失两部份构成。第一部份损失和准则生成对立框架不异，经过一个识别模子，让生成网络生成的超分辩图象和实在高分辩率图象尽或者濒临。
生成器卷积网络采纳了深度残差网络；识别模子也是一个条理很深的卷积网络，用于辨别一张图象是实在的高分辩率图象照样由生成器网络生成的图象。网络构造以下图所示。
图象超分辩的网络构造
假定低分辩率图象为ILR，这边的方向是遵循它猜测出高分辩率的图象ISR，在锻炼模范中与低分辩率图象相对应的实在高分辩率图象为IHR。
2、推导论证清楚、深入、详细
绝大部份中枢算法均有详细的推导、证实流程，从题目根源、思惟层面对算法举行讲授，让读者不但知其然还知其因而然，真实把握算法的思惟与精华。在书的前部对机械进修所需的数学学问也做了系统的讲授
出色试读
方向函数的二阶导数为η，前方假定二阶导数η0，进而保证方向函数是凸函数，即启齿进取的抛物线，有微小值。假定η0，或者η=0该怎样处置？对于线性核或正定核函数，由于矩阵K的大肆一个上述子题目对应的二阶子矩阵半正定，必然有η=0。底下给出证实这个对于两个变量的子题目的方向函数是凸函数，只要要证实它的Hessian矩阵是半正定矩阵。这两个变量的方向函数的Hessian为
和10.3.2节证实周全对偶题目的Hessian矩阵正定的法子不异，假定是线性核，这个矩阵也也许写成一个矩阵和它的转置的乘积大局：
矩阵A为锻炼模范特色向量乘上种别标签产生的矩阵。显然这个Hessian矩阵是半正定的，因而必然有η=0。假定长短线性核，由于核函数相当于对两个核映照以后的向量做内积，因而上头的论断一样建立。
不论本次迭代时αi和αj的初始值是几许，经过上头的子题目求解算法获得是在可行域里的最小值，因而屡屡求解革新这两个变量的值以后，都能保证方向函数值小于或者即是初始值，即函数值降落，因而SMO算法能保证约束。
3、中枢算法配有完结细节先容，运用示例，著名开源库代码解析
对大部份中枢算法的完结细节举行了先容，并配有示例程序与著名开源库源代码解析，包含OpenCV，libsvm，liblinear，Caffe，这对须要运用、完结机械进修算法的读者相当首要
出色试读
求解器的完结是源代码解析的中枢，分为可托域牛顿法与坐标降落法两类。可托域牛顿法由TRON类完结，坐标降落法由各个题目详细的求解函数完结。限于篇幅，在这边只解析一部份求解器，其余的完结旨趣相像。
可托域牛顿法由类TRON完结，这个类为L2-正则化logistic回归和L2-正则化赞成向量机的锻炼供应赞成。类界说以下：
classTRON
{
public:
//传入的是基类function的指针，也许运用上头两种损失函数，eps为迭代精度
//max_iter为最大迭代次数，默许值为
TRON(constfunction*fun_obj,doubleeps=0.1,intmax_iter=);
~TRON();
//这是求解的接口函数
voidtron(double*w);
voidset_print_string(void(*i_print)(constchar*buf));
private:
inttrcg(doubledelta,double*g,double*s,double*r);//共轭梯度法，被tron挪用
doublenorm_inf(intn,double*x);
doubleeps;//约束精度
intmax_iter;//最大迭代次数
function*fun_obj;//方向函数
voidinfo(constchar*fmt,...);
void(*tron_print_string)(constchar*buf);
};
4、首要算法的实习运用均有讲授
中枢算法的实习运用都有先容，对深度进修技艺在谋略机视觉、语音识别、天然言语处置、谋略机图形学等范畴的运用情状有详细而深入的先容。这些实质能扶助读者把握算法的实习运用法子、建模的思绪。
置备指南
当前本书在京东上七五折包邮预售：
（扫码加入置备链接）
目录
全书由21章构成，共分为三大部份。第1～3章为第一部份，先容机械进修的基根源理、所需的数学学问（包含微积分、线性代数、几率论和优化法子），以及机械进修中的中枢观点。第4～20章为第二部份，是本书的主体，先容种种罕用的有监视进修算法、无监视进修算法、半监视进修算法和加强进修算法。对于每种算法，从旨趣与推导、工程完结和实习运用3个方面举行先容，对于大多半算法，都配有熟练程序。第21章为第三部份，先容机械进修和深度进修算法实习运历时面对的题目，并给出模范的处置计划。别的，附录A给出种种机械进修算法的归纳，附录B给出梯度降落法的衍化干系，附录C给出EM算法的推导。
第一部份根基观点与数学学问
第1章机械进修简介3
1.1机械进修是甚么3
1.1.1一个简洁的例子3
1.1.2为甚么须要机械进修5
1.2模范运用7
1.2.1语音识别7
1.2.2人脸探测8
1.2.3人机弈棋9
1.2.4机械翻译10
1.2.5主动驾驶11
1.3进步经过11
1.3.1史书成效11
1.3.2目下进步12
1.4对于本书13
参考文件15
第2章数学学问17
2.1微积分和线性代数17
2.1.1导数17
2.1.2向量与矩阵19
2.1.3偏导数与梯度21
2.1.4雅克比矩阵22
2.1.5Hessian矩阵23
2.1.6泰勒张开24
2.1.7队列式24
2.1.8特色值与特色向量25
2.1.9神奇值分解26
2.1.10二次型26
2.1.11向量与矩阵求导26
2.2最优化法子27
2.2.1梯度降落法27
2.2.2牛顿法28
2.2.3坐标降落法29
2.2.4拉格朗日乘数法30
2.2.5凸优化30
2.2.6拉格朗日对偶34
2.2.7KKT前提36
2.2.8拟牛顿法37
2.2.9面对的题目38
2.3几率论39
2.3.1随机事宜与几率39
2.3.2前提几率39
2.3.3随机变量40
2.3.4数学期冀与方差41
2.3.5随机向量41
2.3.6最大似然猜测42
参考文件43
第3章根基观点44
3.1算法分类44
3.1.1监视记号44
3.1.2分类题目与回归题目45
3.1.3识别模子与生成模子47
3.1.4加强进修47
3.2模子评估目标48
3.2.1精度与调回率48
3.2.2ROC弧线48
3.2.3混淆矩阵50
3.2.4穿插考证50
3.3模子抉择50
3.3.1过拟合与欠拟合50
3.3.2差错与方差分解51
3.3.3正则化52
参考文件54
第二部份首要的机械进修算法与理论
第4章贝叶斯分类器57
4.1贝叶斯决定57
4.2节约贝叶斯分类器58
4.2.1离别型特色58
4.2.2持续型特色59
4.3正态贝叶斯分类器59
4.3.1锻炼算法59
4.3.2推断算法60
4.4熟练程序61
4.5源代码解析64
4.5.1首要数据构造64
4.5.2锻炼函数65
4.5.3推断函数68
4.6运用70
参考文件71
第5章决定树72
5.1树形决定流程72
5.2分类与回归树73
5.3锻炼算法74
5.3.1递归分割流程74
5.3.2搜求最好分割74
5.3.3叶子节点值的设定77
5.3.4属性缺失题目77
5.3.5剪枝算法78
5.4熟练程序79
5.5源代码解析81
5.5.1首要数据构造81
5.5.2递归分割84
5.5.3搜求最好分割90
5.5.4搜求取代分割96
5.5.5变量的首要性99
5.5.6推断算法
5.6运用
参考文件
第6章k附近算法
6.1根基观点
6.2推断算法
6.3间隔界说
6.3.1罕用间隔界说
6.3.2间隔度量进修
6.4熟练程序
6.5运用
参考文件
第7章数据降维
7.1主成份解析
7.1.1数据降维题目
7.1.2谋略投影矩阵
7.1.3向量降维
7.1.4向量重构
7.2源代码解析
7.2.1首要数据构造
7.2.2谋略投影矩阵
7.2.3向量降维
7.2.4向量重构
7.3流形进修
7.3.1个别线性嵌入
7.3.2拉普拉斯特色映照
7.3.3个别坚持投影
7.3.4等距映照
7.4运用
参考文件
第8章线性识别解析
8.1用投影举行分类
8.2投影矩阵
8.2.1一维的情状
8.2.2推行到高维
8.3熟练程序
8.4源代码解析
8.4.1首要数据构造
8.4.2谋略投影矩阵
8.4.3向量投影
8.4.4向量重构
8.5运用
参考文件
第9章人为神经网络
9.1多层前馈型神经网络
9.1.1神经元
9.1.2网络构造
9.1.3正向传布算法
9.2反向传布算法
9.2.1一个简洁的例子
9.2.2完全的算法
9.3熟练程序
9.4理论诠释
9.4.1数学性质
9.4.2与神经系统的干系
9.5面对的题目
9.5.1梯度消散
9.5.2蜕化
9.5.3个别微小值
9.5.4鞍点
9.6完结细节题目
9.6.1输入值与输出值
9.6.2网络范围
9.6.3激活函数
9.6.4损失函数
9.6.5权重初始化
9.6.6正则化
9.6.7进修率的设定
9.6.8动量项
9.7源代码解析
9.7.1首要数据构造
9.7.2激活函数
9.7.3权重初始化
9.7.4锻炼函数
9.7.5推断函数
9.8运用
参考文件
第10章赞成向量机
10.1线性分类器
10.1.1线性分类器概括
10.1.2分类断绝
10.2线性可分的题目
10.2.1原题目
10.2.2对偶题目
10.3线性不行分的题目
10.3.1原题目
10.3.2对偶题目
10.4核映照与核函数
10.5SMO算法
10.5.1求解子题目
10.5.2优化变量的抉择
10.6多分类题目
10.7熟练程序
10.8源代码解析
10.8.1求解算法
10.8.2首要数据构造
10.8.3求解器
10.9运用
参考文件
第11章线性模子
11.1logistic回归
11.2正则化logistic回归
11.2.1对数似然函数
11.2.2L2正则化原题目
11.2.3L2正则化对偶题目
11.2.4L1正则化原题目
11.2.5熟练程序
11.3线性赞成向量机
11.3.1L2正则化L1lossSVC原题目
11.3.2L2正则化L2lossSVC原题目
11.3.3L2正则化SVC对偶题目
11.3.4L1正则化L2lossSVC原题目
11.3.5多类线性赞成向量机
11.3.6熟练程序
11.4源代码解析
11.4.1求解的题目
11.4.2首要数据构造
11.4.3求解器
11.5softmax回归
11.6运用
参考文件
第12章随机丛林
12.1集成进修
12.1.1随机抽样
12.1.2Bagging算法
12.2随机丛林概括
12.3锻炼算法
12.4变量的首要性
12.5熟练程序
12.6源代码解析
12.6.1首要数据构造
12.6.2锻炼算法
12.6.3推断算法
12.7运用
参考文件
第13章Boosting算法
13.1AdaBoost算法简介
13.2锻炼算法
13.3锻炼过错解析
13.4广义加法模子
13.5种种AdaBoost算法
13.5.1离别型AdaBoost
13.5.2实数型AdaBoost
13.5.3LogitBoost
13.5.4Gentle型AdaBoost
13.6完结细节题目
13.6.1弱分类器的抉择
13.6.2弱分类器的数目
13.6.3模范权重裁减
13.7熟练程序
13.8源代码解析
13.8.1首要数据构造
13.8.2弱分类器
13.8.3强分类器
13.9运用——方向探测
13.9.1VJ框架的旨趣
13.9.2模子锻炼
参考文件
第14章深度进修概论
14.1机械进修面对的挑战
14.1.1人为特色
14.1.2机械进修算法
14.2深度进修技艺
14.3进步与模范运用
14.3.1谋略机视觉
14.3.2语音识别
14.3.3天然言语处置
14.3.4谋略机图形学
14.3.5引荐系统
14.3.6深度加强进修
14.4主动编码器
14.4.1主动编码器简介
14.4.2去噪主动编码器
14.4.3疏落主动编码器
14.4.4压缩主动编码器
14.4.5多层编码器
14.5受限玻尔兹曼机
14.5.1玻尔兹曼散布
14.5.2受限玻尔兹曼机
14.5.3锻炼算法
14.5.4深度玻尔兹曼机
14.5.5深度相信网
参考文件
第15章卷积神经网络
15.1网络构造
15.1.1卷积层
15.1.2池化层
15.1.3全连贯层
15.2锻炼算法
15.2.1卷积层
15.2.2池化层
15.2.3随机梯度降落法
15.2.4转移进修
15.3模范网络
15.3.1LeNet5网络
15.3.2AlexNet网络
15.3.3VGG网络
15.3.4GoogLeNet网络
15.4理论解析
15.4.1反卷积运算
15.4.2卷积层可视化
15.4.3理论诠释
15.5挑战与改革法子
15.5.1卷积层
15.5.2池化层
15.5.3激活函数
15.5.4损失函数
15.5.5网络构造
15.5.6批量归一化
15.6实习例子
15.6.1LeNet5网络
15.6.2锻炼自身的模子
15.7源代码解析
15.7.1Caffe简介
15.7.2数据层
15.7.3卷积层
15.7.4池化层
15.7.5神经元层
15.7.6内积层
15.7.7损失层
15.7.8网络的完结——Net类
15.7.9求解器
15.8运用——谋略机视觉
15.8.1人脸探测
15.8.2通用方向探测
15.8.3人脸关键点定位
15.8.4人脸识别
15.8.5图象分隔
15.8.6边际探测
15.8.7格调转移
15.8.8图象增加
15.8.9三维视觉
15.8.10方向跟踪
15.9运用——谋略机图形学
15.9.1几许模子
15.9.2物理模子
15.9.3纹理合成
15.9.4图象彩色化
15.9.5HDR
15.10运用——天然言语处置
15.10.1文天职类
15.10.2机械翻译
参考文件
第16章轮回神经网络
16.1网络构造
16.1.1轮回层
16.1.2输出层
16.1.3一个简洁的例子
16.1.4深层网络
16.2网络的锻炼
16.2.1一个简洁的例子
16.2.2完全的算法
16.3挑战与改革法子
16.3.1梯度消散
16.3.2长短期印象模子
16.3.3门控轮回单位
16.3.4双向网络
16.4序列推断题目
16.4.1序列标注题目
16.4.2连贯主义时序分类
16.4.3序列到序列进修
16.5运用——语音识别
16.5.1语音识别题目
16.5.2隐马尔可夫模子
16.5.3高斯搀杂模子
16.5.4GMM-HMM框架
16.5.5深度模子
16.6运用——天然言语处置
16.6.1华文分词
16.6.2词性标注
16.6.3定名实体识别
16.6.4文天职类
16.6.5主动择要
16.6.6机械翻译
16.7运用——机械视觉
16.7.1字符识别
16.7.2方向跟踪
16.7.3视频解析
参考文件
第17章生成对立网络
17.1随机数据生成
17.2生成对立网络简介
17.2.1生成模子
17.2.2识别模子
17.3模子的锻炼
17.3.1方向函数
17.3.2锻炼算法
17.3.3理论解析
17.4运用与改革
17.4.1改革计划
17.4.2模范运用
参考文件
第18章聚类算法
18.1题目界说
18.2条理聚类
18.3基于质心的算法
18.4基于几率散布的算法
18.5基于密度的算法
18.5.1DBSCAN算法
18.5.2OPTICS算法
18.5.3MeanShift算法
18.6基于图的算法
18.7算法评估目标
18.7.1内部目标
18.7.2外部目标
18.8运用
参考文件
第19章半监视进修
19.1题目假定
19.1.1持续性假定
19.1.2聚类假定
19.1.3流形假定
19.1.4低密度分隔假定
19.2启示式算法
19.2.1自锻炼
19.2.2协同锻炼
19.3生成模子
19.4低密度分隔
19.5基于图的算法
19.6半监视深度进修
参考文件
第20章加强进修
20.1加强进修简介
20.1.1题目界说
20.1.2马尔可夫决定流程
20.2基于动态谋划的算法
20.2.1战略迭代算法
20.2.2代价迭代算法
20.3蒙特卡洛算法
20.3.1算法简介
20.3.2形态代价函数猜测
20.3.3行为代价函数猜测
20.3.4蒙特卡洛节制
20.4时序差分进修
20.4.1Sarsa算法
20.4.2Q进修
20.5深度加强进修
20.5.1深度Q网络
20.5.2战略梯度算法
20.6运用
参考文件
第三部份工程实习题目
第21章工程实习题目概括
21.1完结细节题目
21.1.1锻炼模范
21.1.2特色预处置
21.1.3模子抉择
21.1.4过拟合题目
21.2平安性题目
21.2.1对立模范
21.2.2产生因为解析
21.3完结成本题目
21.3.1锻炼模范量
21.3.2谋略与储备成本
21.4深度模子优化
21.4.1剪枝与编码
21.4.2二值化网络
21.4.3卷积核分别
参考文件
附录A种种机械进修算法的归纳
附录B梯度降落法的衍化干系（见第15章）
附录CEM算法的推导（见第18章）
预览时标签不行点收录于合集#个