实战深度学习算法：零起点通关神经网络模型（基于Python和NumPy实现）

深度学习是机器学习的重要分支。本书系统地介绍了如何用 Python 和 NumPy 一步步地实现深度学习的基础模型，无须借助 TensorFlow、PyTorch 等深度学习框架，帮助读者更好地理解底层算法的脉络，进而进行模型的定制、优化和改进。全书由简到难地讲述感知机模型、多分类神经网络、深层全连接网络、卷积神经网络、批量规范化方法、循环神经网络、长短时记忆网络、双向结构的 BiGRU 模型等神经网络模型的必要算法推导、实现及其实例，读者可直接动手调试和观察整个训练过程，进一步理解模型及其算法原理。

本书适合没有深度学习基础，希望进入此领域的在校学生、研究者阅读，也适合有一定基础但不满足于“调包”和“调参”的工程师学习，还可供想要深入了解底层算法的研究人员参考阅读。

徐彬，重庆大学计算机科学系学士、BI挪威商学院硕士。曾任中国工商银行软件工程师、平安银行应用架构专家、银行间市场清算所创新衍生品及利率产品项目群负责人。 研究方向包括信贷及清算风险管控、复杂项目群管理，机器学习在特定场景的应用。

适读人群 ：本书适用于没有深度学习基础，希望进入此领域的在校学生、研究者阅读，也适合有一定基础但不满足于“调包”和“调参”的工程师学习，还可供想要深入了解底层算法的研究人员参考阅读。

数据、算力和算法是人工智能的三大基石，而我们可控、可学且能够学会的就是算法，本书即是一本帮助你入门深度学习算法的教程，专治各种看不懂、专治框架版本升级外加弃用！用Python给深度学习算法加点料！

本书系统地介绍了如何用 Python 和 NumPy 一步步地实现深度学习的基础模型：

感知机模型

多分类神经网络

深层全连接网络

卷积神经网络

批量规范化方法

循环神经网络

长短时记忆网络

双向结构的 BiGRU 模型

以深度学习为代表的人工智能技术深刻地影响着我们的生活方式，从图像识别、语音识别、机器翻译到智能医诊、自动驾驶、智能风控……在多个应用领域不断地刷新纪录。
　　深度学习近年来之所以能取得颠覆性突破，一方面，归功于“数字化”对社会的渗透使得大量数据得以积累；另一方面，受益于单位成本下硬件算力的提升，推动了复杂模型的商用；然而最根本的，还是来自深度学习背后基础算法的巧思妙想与厚积薄发。
　　只有深入了解深度学习的算法原理，才能更灵活、高效地运用于实践当中。现有的深度学习框架将算法使用简化为“调包”和“调参”，降低了使用成本，然而却没有降低学习成本。对于算法，最有效的学习方式是理解原理并动手实践。从原始论文可以查阅算法的详解和推导，却不容易复现结果。主流的深度学习框架多采用计算图模型，不容易调试或观察，对希望深入了解算法的初学者并不友好。致力于用深度学习方法创造社会价值的从业者，也需要看清底层算法的脉络，来做模型的定制、优化和改进。
　　内容组织逻辑
　　本书的特点是“原理 +实践”。按照“带着问题看算法”的逻辑来组织内容，所描述的每一种深度学习算法都围绕一个实际的目标问题展开，提供了基础算法的必要推导和实例，方便直观理解。
　　1.提出问题。
　　2.以问题为动机，引出模型。
　　3.介绍模型原理、必要推导和实例。
　　4.实现模型算法。
　　5.解决问题与验证。
　　第 1章至第 3章，从感知机模型开始，步步渐进，介绍多分类神经网络、深层全连接神经网络；第 4章至第 6章，描述卷积神经网络（ CNN）的核心算法、学习策略优化方法，以及深度学习的批量规范化方法；第 7章至第 9章，系统介绍了序列模型，基础的循环神经网络（ Vanilla RNN）、长短时记忆网络（ LSTM）和双向结构的 BiGRU模型，以及序列模型适用的正则化方法。每章均以真实数据集作为目标问题，引出算法原理，不借助深度学习框架给予实现，最后完成数据集的验证。
　　阅读和使用
　　对于初学者，在阅读本书前，不需要具备机器学习基础，可以通过案例和模型概述等章节入门深度学习的概念；如果会使用 Python语言简单编程，还可以结合书中的案例，动手了解各种模型所能解决的问题。
　　对于已有深度学习框架使用经验、希望了解底层算法的读者，可以查阅重要算法的原理、前向计算和反向传播的推导步骤，并在各章节的算法实现部分了解全部算法的实现过程。
　　附录部分包含了书中讨论的深度学习算法所涉及的数学基础，方便初学者速查和理解其直观意义。如需概念的严格定义和展开论证，可参考相关教材和专著。
　　通过阅读本书，希望读者可以：
　　?理解深度学习主要的核心模型。
　　?灵活复现重要论文、验证新方法。
　　?自由替换模型中的底层算法，取得一手实验结果。
　　?针对自己工作的特定场景，对算法做定制和优化，实现工程应用。
　　致谢
　　感谢为此书提供支持和做出过贡献的每个人。感谢家人的支持，他们是我动力的源泉。重庆大学郭平教授拨冗审阅了部分内容，提出了宝贵意见，对本书质量的提高有很大帮助，在此向他表示衷心的感谢。感谢一起工作过的同事和旅途巧遇的伙伴给予的启发，打开了前沿技术新世界的大门。电子工业出版社的孙学瑛女士在本书写作和出版过程中给予了很多帮助，在此特向她致谢。
　　徐彬
　　2019年 7月