编辑推荐

适读人群:《模式识别(第四版)》可作为高等院校自动化、计算机、电子和通信等专业研究生和高年级本科生的教材,也可作为计算机信息处理、自动控制等相关领域的工程技术人员的参考用书。

模式识别(第四版)》在完美地合当前的理论与实践的基础上,讨论了贝叶斯分类、贝叶斯网络、线性和非线性分类器设计、上下文相关分类、特征生成、特征选取技术、学习理论的基本概念以及聚类概念与算法。

内容简介

模式识别(第四版)》全面阐述了模式识别的基础理论、*新方法以及各种应用。讨论了贝叶斯分类、贝叶斯网络、线性和非线性分类器设计、特征生成、特征选取技术、学习理论的基本概念以及聚类概念与算法。与前一版相比,增加了大数据集和高维数据相关的*新算法,提供了*新的分类器和鲁棒回归的核方法。新增一些热点问题,如非线性降维、非负矩阵因数分解、关联性反馈、鲁棒回归、半监督学习、谱聚类和聚类组合技术。每章均提供有习题与练习,用MATLAB求解问题,给出一些例题的多种求解方法;且支持网站上提供有习题解答,以便于读者增加实际经验。

作者简介

    SergiosTheodoridis:希腊雅典大学物理学学士、英国伯明翰大学信号处理与通信硕士和博士。希腊雅典大学信息与通信系教授,其4篇论文获IEEE神经网络会刊卓越论文奖,IET和IEEE高级会士。

    KonstantinosKoutroumbas:希腊佩特雷大学计算机学士、英国伦敦大学计算机硕士、希腊雅典大学计算机博士。希腊雅典国家天文台空间应用与遥感研究院研究员,国际知名专家。

    李晶皎:东北大学信息学院教授,博士生导师。一直从事教学和科研工作,主要研究方向为模式识别、语音信号处理、计算机系统结构、嵌入式系统等。

目录

目录
第1章导论1
1.1模式识别的重要性1
1.2特征、特征向量和分类器3
1.3有监督、无监督和半监督学习4
1.4MATLAB程序6
1.5《模式识别(第四版)》的内容安排6
第2章基于贝叶斯决策理论的分类器8
2.1引言8
2.2贝叶斯决策理论8
2.3判别函数和决策面12
2.4正态分布的贝叶斯分类13
2.5未知概率密度函数的估计23
2.6最近邻规则42
2.7贝叶斯网络44
习题49
MATLAB编程和练习55
参考文献60
第3章线性分类器63
3.1引言63
3.2线性判别函数和决策超平面63
3.3感知器算法64
3.4最小二乘法70
3.5均方估计的回顾75
3.6逻辑识别80
3.7支持向量机81
习题97
MATLAB编程和练习99
参考文献100
第4章非线性分类器104
4.1引言104
4.2异或问题104
4.3两层感知器105
4.4三层感知器108
4.5基于训练集准确分类的算法109
4.6反向传播算法110
4.7反向传播算法的改进115
4.8代价函数选择117
4.9神经网络大小的选择119
4.10仿真实例123
4.11具有权值共享的网络124
4.12线性分类器的推广125
4.13线性二分法中l维空间的容量126
4.14多项式分类器127
4.15径向基函数网络129
4.16通用逼近131
4.17概率神经元网络132
4.18支持向量机:非线性情况134
4.19超越SVM的范例137
4.20决策树146
4.21合并分类器150
4.22合并分类器的增强法155
4.23类的不平衡问题160
4.24讨论161
习题161
MATLAB编程和练习164
参考文献168
第5章特征选择178
5.1引言178
5.2预处理178
5.3峰值现象180
5.4基于统计假设检验的特征选择182
5.5接收机操作特性(ROC)曲线187
5.6类可分性测量188
5.7特征子集的选择193
5.8最优特征生成196
5.9神经网络和特征生成/选择203
5.10推广理论的提示204
5.11贝叶斯信息准则210
习题211
MATLAB编程和练习213
参考文献216
第6章特征生成I:线性变换221
6.1引言221
6.2基本向量和图像221
6.3Karhunen-Loève变换223
6.4奇异值分解229
6.5独立成分分析234
6.6非负矩阵因子分解239
6.7非线性维数降低240
6.8离散傅里叶变换(DFT)248
6.9离散正弦和余弦变换251
6.10Hadamard变换252
6.11Haar变换253
6.12回顾Haar展开式254
6.13离散时间小波变换(DTWT)257
6.14多分辨解释264
6.15小波包265
6.16二维推广简介266
6.17应用268
习题271
MATLAB编程和练习273
参考文献275
第7章特征生成II282
7.1引言282
7.2区域特征282
7.3字符形状和大小的特征298
7.4分形概述304
7.5语音和声音分类的典型特征309
习题320
MATLAB编程和练习322
参考文献325
第8章模板匹配331
8.1引言331
8.2基于最优路径搜索技术的测度331
8.3基于相关的测度342
8.4可变形的模板模型346
8.5基于内容的信息检索:相关反馈349
习题352
MATLAB编程和练习353
参考文献355
第9章上下文相关分类358
9.1引言358
9.2贝叶斯分类器358
9.3马尔可夫链模型358
9.4Viterbi算法359
9.5信道均衡362
9.6隐马尔可夫模型365
9.7状态驻留的HMM373
9.8用神经网络训练马尔可夫模型378
9.9马尔可夫随机场的讨论379
习题381
MATLAB编程和练习382
参考文献384
第10章监督学习:尾声389
10.1引言389
10.2误差计算方法389
10.3探讨有限数据集的大小390
10.4医学图像实例研究393
10.5半监督学习395
习题404
参考文献404
第11章聚类:基本概念408
11.1引言408
11.2近邻测度412
习题427
参考文献428
第12章聚类算法I:顺序算法430
12.1引言430
12.2聚类算法的种类431
12.3顺序聚类算法433
12.4BSAS的改进436
12.5两个阈值的顺序方法437
12.6改进阶段439
12.7神经网络的实现440
习题443
MATLAB编程和练习444
参考文献445
第13章聚类算法II:层次算法448
13.1引言448
13.2合并算法448
13.3cophenetic矩阵465
13.4分裂算法466
13.5用于大数据集的层次算法467
13.6最佳聚类数的选择472
习题474
MATLAB编程和练习475
参考文献477
第14章聚类算法III:基于函数最优方法480
14.1引言480
14.2混合分解方法481
14.3模糊聚类算法487
14.4可能性聚类502
14.5硬聚类算法506
14.6向量量化513
附录514
习题515
MATLAB编程和练习516
参考文献519
第15章聚类算法IV523
15.1引言523
15.2基于图论的聚类算法523
15.3竞争学习算法533
15.4二值形态聚类算法540
15.5边界检测算法546
15.6谷点搜索聚类算法548
15.7通过代价最优聚类(回顾)550
15.8核聚类方法555
15.9对大数据集的基于密度算法558
15.10高维数据集的聚类算法562
15.11其他聚类算法572
15.12聚类组合573
习题578
MATLAB编程和练习580
参考文献582
第16章聚类有效性591
16.1引言591
16.2假设检验回顾591
16.3聚类有效性中的假设检验593
16.4相关准则600
16.5单独聚类有效性612
16.6聚类趋势613
习题620
参考文献622
附录A概率论和统计学的相关知识626
附录B线性代数基础635
附录C代价函数的优化637
附录D线性系统理论的基本定义649
索引652

前言/序言

译者序

模式识别诞生于20世纪20年代,随着20世纪40年代计算机的出现,20世纪50年代人工智能的兴起,模式识别在20世纪60年代初迅速发展成一门学科。模式识别研究的理论和方法在很多地方得到了成功的应用,从最初的光学字符识别(OCR),扩展到笔输入计算机、生物身份认证、DNA序列分析、化学气味识别、药物分子识别、图像理解、人脸辨识、表情识别、手势识别、语音识别、说话人识别、信息检索、数据挖掘和信号处理等。

尽管如此,与生物认知系统相比,模式识别系统的识别能力和鲁棒性还远不能让人满意。模式识别还有许多的基础理论和基本方法等待人们解决,新问题也层出不穷。为此,相关人员很需要一本关于这一领域的高水平学术著作,它既有基础知识的介绍,还有本领域研究现状的介绍,以及未来发展的展望等。《模式识别(第四版)》正是这样一本经典著作。

模式识别(第四版)》是第四版,于2009年由模式识别领域的两位顶级专家合著,他们是希腊雅典大学信息学院与通信系的SergiosTheodoridis教授和希腊雅典国家天文台空间应用与遥感研究院的KonstantinosKoutroumbas博士。第四版的特点是:大部分章节增加了MATLAB编程和练习,新增了一些模式识别最新研究成果,如非线性降维、非负矩阵因数分解、关联性反馈、鲁棒回归、半监督学习、谱聚类和聚类组合技术。

为了适用于电力电子工程、计算机工程、计算机科学和信息、以及自动控制等专业的研究生,以及高年级本科生各种不同知识背景的学生,《模式识别(第四版)》内容安排既全面,又相对独立。在各个章节中需要的一些数学工具,如概率、统计和约束优化等知识,在《模式识别(第四版)》的4个附录中做了简单的讲解。《模式识别(第四版)》可以面向大学生和研究生,可以作为一学期或两个学期的课程。《模式识别(第四版)》也可以作为自学教材,或供研究人员和工程技术人员参考。

负责《模式识别(第四版)》初译人员有:东北大学信息学院的王骄、闫爱云、张瑶、王亮、李亮、薛长江、李鹏飞、宋光杰。

负责《模式识别(第四版)》译校人员有:东北大学信息学院的王爱侠、李贞妮。

东北大学李晶皎教授完成最后译校。

在翻译过程中,我们力求忠实、准确地把握原著,同时保留原著的风格。但由于译者水平有限,书中难免有错误和不准确之处,恳请广大读者批评指正。

前言

模式识别(第四版)》是作者在20年来给研究生和本科生教学的基础上编写的,该课程面向很多专业的学生,例如电力电子工程、计算机工程、计算机科学和信息以及自动控制等专业的研究生。这些经验使我们得以把《模式识别(第四版)》内容编写得既全面又相对独立,并且适用于各种不同知识背景的学生。读者需要具备的知识包括:微积分学基础、初等线性代数和概率论基础。在各个章节中需要的一些数学工具,如概率、统计和约束优化等知识,在《模式识别(第四版)》的4个附录中做了简单的讲解。《模式识别(第四版)》面向大学生和研究生,可以作为一个学期或两个学期的课程。《模式识别(第四版)》也可以作为自学教材,或供研究人员和工程技术人员参考。我们编写《模式识别(第四版)》的动力之一是,使这《模式识别(第四版)》适合于所有从事模式识别相关研究的人员。

范围和方法

模式识别(第四版)》采用统一的方式讲述各种模式识别方法。模式识别是多个应用领域的核心,包括图像分析、语音和声音识别、生物统计学、生物信息学、数据挖掘和信息检索等。尽管这些领域有很多不同点,但也有共同之处,对它们的研究也有统一的方法,例如数据分类、隐藏模式等。《模式识别(第四版)》的重点在于讲述现在常用的方法。读者可以从《模式识别(第四版)》获得并理解相关的基础知识,进而研究更多的与应用相关的方法。

模式识别(第四版)》的每一章都采用循序渐进的讲解方式,从基础开始过渡到比较高深的课题,最后对最新技术发表评论。我们尽量保持数学描述和直接叙述之间的平衡,这不是一件容易的任务。然而,我们坚信对于模式识别,如果试图回避数学,将使读者很难理解算法的本质、并丧失研究新算法的潜能;《模式识别(第四版)》会使得读者能够很容易的解决遇到的问题。在模式识别中,最终采用的合适技术和算法在很大程度上依赖于所要解决的问题。根据我们的经验,讲解模式识别是一个使学生复习数学基础知识的好方法。

新增内容

第四版新增内容如下:

●大部分章节的最后新增了MATLAB代码和计算机实验。

●更多的实例和新增的图增强了《模式识别(第四版)》的可读性。

●有关当前热门问题的新增章节如下:

—非线性降维

—非负矩阵分解

—关联性反馈

—鲁棒回归

—半监督学习

—谱聚类

—聚类组合技术

部分章节被重写,增加了更多的当前应用方面的内容。

补充内容

MATLAB文档可从与《模式识别(第四版)》相关的网站下载,网址是www.elsevierdirect.com/9781597492720。电子文档的图和每章后习题和练习的解答都可从网站上下载。读者还可以下载相关问题的详细证明和《模式识别(第四版)》所有章节的课件。

我们定期在网站上增加和更新MATLAB示例,欢迎读者多提建议。尽管网站上的内容经过多次仔细检查,但有些地方还是不可避免地存在错误,欢迎读者批评指正。

致谢

模式识别(第四版)》的出版离不开广大师生多年来的支持和帮助。特别感谢KostasBerberidis、VelissarisGezerlis、XarisGeorgion、KristinaGeorgoulakis、LeyterisKofidis、ThanassisLiavas、MichalisMavroforakis、AggelosPikrakis、ThanassisRontogiannis、MargaritisSdralis、KostasSlavakis和TheodorosYiannakoponlos。YannisKopsinis和KostasThernelis自始至终都给予了莫大的支持和帮助。对《模式识别(第四版)》的再版仔细阅读、提出大量批评和建议的有:AlexandrosB?lnn、DionissisCavouras、VassilisDigalakis、VassilisDrakopoulos、NikosGalatsanos、GeorgeGlentis、SpirosHatzispyros、EvagelosKarkaletsis、EliasKoutsoupias、AristidesLikas、GerassimosMileounis、GeorgeMonstakides、GeorgePaliouras、StavrosPerantonis、TakisStamatoponlos、NikosVassilas、ManolisZervakis和VassilisZissimopoulos。

模式识别(第四版)》的再版还要感谢读者的批评和建议,提出批评和建议的读者有:TulayAdali,UniversityofMaryland;MehnietCelenk,OhioUniversity;RamaChellappa,UniversityofMaryland;MarkClements,GeorgiaInstituteofTechnology;RobertDuin,DelftUniversityofTechnology;MiguelFigneroa,VillanuevaUniversityofPuertoRico;DimitrisGunopoulos,UniversityofAthens;MathiasKolsch,NavalPostgraduateSchool;AdamKrzyzak,ConcordiaUniversity;BaoxiuLi,ArizonaStateUniversity;DavidMiller,PennsylvaniaStateUniversity;BernhardSch?lkopf,MaxPlanckInstitute;HariSundaram,ArizonaStateUniversity;HarryWechsler,GeorgeMasonUniversity和AlexanderZien,MaxPlanckInstitute。

我们由衷地感谢这些同事所给予的批评和建议。非常感谢N.Kalouptsidis教授,长期以来我们的合作和友谊是《模式识别(第四版)》灵感的来源。

最后,K.Koutroumbas要感谢Sophia、Dimitris-Marios和Valentini-Theodora的耐心与支持。同时,S.Theodoridis要感谢Despina、Eva和Eleni,她们是快乐和动力的源泉。


其他推荐