因果推断与机器学习

本书是一本理论扎实，同时联系实际应用的图书。全书系统地介绍了因果推断的基本知识、基于机器学习的因果推断方法和基于因果推断的机器学习方法及其在一些重要领域的应用。 全书共分6章。第1章从潜结果框架和结构因果模型出发，介绍因果推断的基本概念和方法。第2章介绍近年统计和机器学习文献中出现的一些重要的基于机器学习的因果推断方法。第3章介绍能够提高机器学习模型的泛化能力的因果表征学习。第4章介绍因果机器学习如何提高机器学习模型的可解释性与公平性。第5章介绍因果机器学习在推荐系统和学习排序中的应用。第6章是对全书的一个总结和对未来的展望。本书对结合因果推断和机器学习的理论与实践进行了介绍。通过阅读本书，读者不仅可以掌握因果机器学习的基础理论，还可对本书中提到的论文代码进行钻研，从而在实践中加深对因果机器学习的理解。

郭若城，伦敦字节跳动人工智能实验室机器学习研究员。研究重点为因果推断和可置信的机器学习在推荐系统、搜索排序和图数据中的应用。曾获美国亚利桑那州立大学杰出计算机科学博士生奖项。程璐，美国伊利诺伊芝加哥分校计算机系助理教授，于2022年获美国亚利桑那州立大学（ASU）计算机科学专业博士学位，师从刘欢教授。研究方向包括社会负责任人工智能，具体为人工智能的公平性、可解释性、隐私保护、可泛化性、对社会的公益性、因果机器学习，以及社会计算。刘昊，美国加州理工学院在读计算机专业博士生，本科毕业于南京大学匡亚明学院，研究方向为可置信的机器学习、因果机器学习。刘欢，美国亚利桑那州立大学计算机科学与工程学院教授，ACM Fellow、AAAI Fellow、AAAS Fellow、IEEE Fellow。研究重点是开发人工智能、数据挖掘、机器学习和社会计算的计算方法，并设计高效的算法有效地解决了从基础研究、特征选择、社会媒体挖掘到现实世界应用的问题。

第1章 因果推断入门 1
1．1 定义因果关系的两种基本框架 1
1．1．1 结构因果模型 3
1．1．2 潜结果框架 17
1．2 因果识别和因果效应估测 21
1．2．1 工具变量 22
1．2．2 断点回归设计 27
1．2．3 前门准则 30
1．2．4 双重差分模型 32
1．2．5 合成控制 34
1．2．6 因果中介效应分析 39
1．2．7 部分识别、ATE的上下界和敏感度分析 44
第2章 用机器学习解决因果推断问题 52
2．1 基于集成学习的因果推断 53
2．2 基于神经网络的因果推断 57
2．2．1 反事实回归网络 57
2．2．2 因果效应变分自编码器 62
2．2．3 因果中介效应分析变分自编码器 69
2．2．4 针对线上评论多方面情感的多重因果效应估计 71
2．2．5 基于多模态代理变量的多方面情感效应估计 74
2．2．6 在网络数据中解决因果推断问题 77
第3章 因果表征学习与泛化能力 82
3．1 数据增强 84
3．1．1 利用众包技术的反事实数据增强 84
3．1．2 基于规则的反事实数据增强 89
3．1．3 基于模型的反事实数据增强 91
3．2 提高模型泛化能力的归纳偏置 96
3．2．1 使用不变预测的因果推理 96
3．2．2 独立机制原则 101
3．2．3 因果学习和反因果学习 102
3．2．4 半同胞回归 103
3．2．5 不变风险最小化 105
3．2．6 不变合理化 113
第4章 可解释性、公平性和因果机器学习 120
4．1 可解释性 121
4．1．1 可解释性的属性 122
4．1．2 基于相关性的可解释性模型 124
4．1．3 基于因果机器学习的可解释性模型 127
4．2 公平性 144
4．2．1 不公平机器学习的典型实例 145
4．2．2 机器学习不公平的原因 147
4．2．3 基于相关关系的公平性定义 149
4．2．4 因果推断对公平性研究的重要性 153
4．2．5 因果公平性定义 156
4．2．6 基于因果推断的公平机器学习 162
4．3 因果推断在可信和负责任人工智能的其他应用 166
第5章 特定领域的机器学习 169
5．1 推荐系统与因果机器学习 170
5．1．1 推荐系统简介 170
5．1．2 用因果推断修正推荐系统中的偏差 180
5．2 基于因果推断的学习排序 196
5．2．1 学习排序简介 197
5．2．2 用因果推断修正学习排序中的偏差 201
第6章 总结与展望 212
6．1 总结 212
6．2 展望 218
术语表 220
参考文献 232