机器学习

  • Created: 2015-10-13
  • 6001
Name:机器学习
No.:S081202ZJ008Semester:春季学期
Hour:40Credit:2.0
Teacher:卿来云
Introduction:
 
本课程为计算机专业研究生的专业基础课,介绍流行的机器学习算法。课程在简单回顾概率论基础知识后,着重讲述机器学习中的几个主要任务:概率分布估计、回归和分类中的机器学习模型及学习过程中的模型选择问题,同时兼顾机器学习的计算问题。通过学习本课程,使计算机专业研究生掌握现代机器学习的基本理论,了解机器学习模型的应用及最新进展,理解相关模型的数学本质。 
Content:
 
第一章:引言
第二章:概率基础
随机变量及其分布、概率不等式、概率收敛性、渐近性
第三章:概率分布
参数估计(极大似然估计、贝叶斯估计)
非参数估计(核密度估计)
第四章:回归
线性回归、正则化、岭回归和LASSO、稀疏学习、Nadaraya-Watson和局部线性回归
第五章:分类
贝叶斯分类器、朴素贝叶斯、感知机和神经网络、logistic 回归
最大边际、支持向量机(SVM)、最近邻分类器
第六章:核方法
对偶表示、高斯过程
第七章:模型选择和模型组合
模型复杂性、偏差方差分解、AIC/BIC/MDL、Boosting
第八章:机器学习中的优化计算
蒙特卡罗方法、凸优化
Material:
 

Christopher M., Pattern Recognition and Machine Learning, Springer Press, 2006

References:
 
(1) Wasserman L., All of Statistics: A Concise Course in Statistical Inference, Springer Press, 2005
中译版:张波、刘中华、魏秋萍和代金译,统计学完全教程,科学出版社,2008年
(2) Hastie T., Tibshirani R. Friedman J., The Elements of Statistical Learning - Data Mining, Inference and Prediction, Springer Press, 2010
中译版:范明,柴玉梅,昝红英译,统计学习基础—数据挖掘、推理与预测,电子工业出版社