机器学习及其应用2019

　　《机器学习及其应用2019》是对第十五届和第十六届中国“机器学习及其应用”研讨会的一个总结，邀请了与会的11位专家就其研究领域撰文，以综述的形式探讨了机器学习不同分支及相关领域的研究成果。内容涉及深度学习、主动学习、子空间学习、随机优化、因果图模型、聚类、分类等，介绍了新型深度学习范式，以及机器学习在机器翻译、大数据分析等方面的应用。
　　《机器学习及其应用2019》可供计算机、自动化及相关专业的研究人员、教师、研究生和工程技术人员阅读参考。

于剑，博士，目前任北京交通大学计算机学院教授，博导，人工智能研究院常务副院长，是交通数据分析与挖掘北京市重点实验室主任，中国计算机学会会士，中国计算机学会人工智能与模式识别秘书长，中国人工智能学会机器学习专委会副主任。长期从事机器学习、自然语言处理等的研究和应用。在国际杂志、国际会议和国内一级刊物上发表学术论文数100余篇。出版有学术专著《机器学习：从公理到算法》。

发展至今，机器学习及其应用研讨会已经成为一个著名的学术品牌了。

《机器学习及其应用2019》是对第十五届和第十六届中国机器学习及其应用研讨会交流内容的部分总结，共邀请了会议中的11位专家就其研究领域撰文，以综述的形式探讨了机器学习不同分支及相关领域的研究进展。全书共分11章，涉及深度学习、主动学习、子空间学习、随机优化、因果图模型、聚类、分类等，介绍了新型深度学习范式，以及机器学习在机器翻译、大数据分析等方面的应用。

《机器学习及其应用2019》概括了国内机器学习及其应用的研究进展，可供计算机、自动化、信息处理及相关专业的研究人员、教师、研究生和工程技术人员参考，也可作为人工智能、机器学习课程的辅助内容，希望对有志于从事机器学习研究的人员有所帮助。

　　发展至今，“机器学习及其应用”研讨会已经成为一个著名的学术品牌了。其历史大致可以分为四个阶段。“机器学习及其应用”研讨会的创始阶段是2002年到2004年，它起源于2002年陆汝钤院士在复旦大学智能信息处理实验室发起组织的“智能信息处理系列研讨会”。是年11月，第一届研讨会邀请了十余位专家闭门研讨，在复旦大学成功举行。2004年11月周志华教授与王珏研究员在复旦大学主办了第二届“机器学习及其应用”研讨会。此次研讨会除邀请报告人外，还吸引了闻讯自发与会旁听的学者和研究生100余人。自此，研讨会的模式从闭门的学术讨论，变成了开放的学术交流。
　　“机器学习及其应用”研讨会的起步阶段是2005年到2010年。由于当时机器学习受到的关注和支持较少，组织者和主办单位承担压力大，2005年研讨会移师南京大学软件新技术国家重点实验室，周志华教授和王珏研究员主持举办了第三届研讨会，吸引了来自全国近10个省市的250余人旁听。此次研讨会确定了会议不征文、不收费、报告人由组织者邀请，以及“学术至上，其他从简”的办会宗旨，同时确定了研讨会举办的时间，如无特殊，则为当年11月份的第一个周末。此后，组织者争取到兄弟单位给予协助，2006年、2007年分别由南京航空航天大学信息科学与技术学院、南京师范大学数学与计算机学院协办了第四届和第五届研讨会，两次均吸引了来自全国10余个省市的约300人旁听；2008年举行的第六届研讨会，适逢南京大学计算机学科建立50周年，与会人数达到了380余人；2009年和2010年在南京大学分别举行了第七、八届研讨会，均有400余人旁听。这一时期为国内机器学习界的“垦荒”阶段，众多学者为研讨会作出了重要贡献。研讨会在国内机器学习领域乃至整个计算机领域逐渐产生了重要的影响，学界美其名为“南京会议”。

关于深度学习的一点思考
1 引言
2 深度神经网络
3 为何“深”
4 为何有必要探讨DNN之外的深度模型
参考文献

随机梯度下降郎之万动力学的泛化分析
1 介绍
2 基本设定
3 理想情况：Langevin方程的泛化性能
4 离散时间序列下SGLD的稳定性
5 离散情形下SGLD算法的PAC-Bayesian理论
6 结论
参考文献
A附录

因果和因果图模型
1 引言
2 因果
3 因果图模型
4 图模型空间
5 总结和讨论
参考文献

一致性学习理论研究
1 引言
2 相关工作
3 噪声环境下k近邻方法一致性
4 Pairwise损失函数一致性
5 总结与展望
参考文献

大规模分类任务的分层学习
1 引言
2 类别的层次结构
3 分层分类的性能评价
4 层次结构的构建
5 分层分类的特征选择
6 分层分类器学习
7 停止机制设计
8 总结与展望
参考文献

概念器的发展与应用
1 概念器模型
2 基于概念器的深度神经网络模型
参考文献
……
从谱聚类到自注意力模型——谈经典机器学习在深度学习时代的新形态
子空间学习研究进展与展望
主动学习研究简介
神经机器翻译
面向个性化教育的大数据分析方法研究与应用