最优化方法 张鹏著

本书介绍优化理论的基本概念问题的基本求解方法，内容包括线性规划、整数规划、动态规划、图与网络算法、无约束优化、约束优化等。这些优化概念和方法从总体上可分为组合优化和连续优化两大类。本书的内容可看作是计算机类专业本科算法课程的延伸，尤其注重数学概念的应用和分析证明能力的训练。

目录
前言
第1章 凸集和凸函数 1
1.1 最优化问题和方法 1
1.2 凸集及相关性质 4
1.3 凸集的分离 5
1.3.1 点和凸集的分离 5
1.3.2 凸集和凸集的分离 11
1.4 凸函数 13
1.4.1 凸函数及相关性质 13
1.4.2 凸函数的判别 15
1.5 凸规划问题 20
1.6 习题 21
第2章 线性规划的基本性质 23
2.1 线性规划的形式 23
2.1.1 线性规划的三种基本形式 23
2.1.2 三种形式相互等价 29
2.2 可行域和顶点 30
2.3 解线性规划的图解法 32
2.4 基本解和基本可行解 33
2.5 线性规划基本定理 41
2.6 习题 43
第3章 单纯形算法 45
3.1 单纯形算法的基本思想 45
3.2 几何形式的单纯形算法 46
3.3 代数化的单纯形算法 46
3.3.1 基本思想 46
3.3.2 代数化的单纯形算法示例 46
3.4 一般的单纯形算法 51
3.4.1 检验数向量 51
3.4.2 目标函数值和检验数向量的值 51
3.4.3 单纯形算法 53
3.5 表格化的单纯形算法 54
3.5.1 单纯形表 54
3.5.2 旋转 55
3.6 使用数学软件解线性规划 62
3.6.1 使用MATLAB解线性规划 63
3.6.2 使用CPLEX解线性规划 64
3.7 单纯形算法的分析 66
3.8 退化问题的处理 71
3.9 两阶段法 72
3.9.1 两阶段法的基本思想 72
3.9.2 解辅助线性规划 73
3.9.3 两阶段单纯形算法 75
3.10 矩阵的全单位模性质 85
3.11 再议解线性规划 87
3.11.1 单纯形算法的复杂性 87
3.11.2 解线性规划的多项式时间算法 88
3.11.3 单纯形算法的平滑分析 88
3.12 习题 89
第4章 线性规划对偶理论 92
4.1 线性规划的对偶 92
4.2 对偶定理 98
4.3 对偶单纯形算法 107
4.4 关于单纯形表检验数行和右端项的讨论 112
4.5 原始对偶算法 113
4.5.1 最短路问题的整数规划 114
4.5.2 原始对偶算法 115
4.5.3 算法分析 117
4.6 习题 121
第5章 整数规划 124
5.1 整数规划问题 124
5.1.1 背包问题 124
5.1.2 最小生成树问题 125
5.1.3 旅行售货商问题 126
5.1.4 整数线性规划 127
5.2 割平面法 129
5.2.1 割平面法的基本思想 129
5.2.2 割平面的生成方法 129
5.3 分枝定界法 135
5.3.1 分枝定界法的基本思想 135
5.3.2 分枝定界法解整数规划 136
5.4 习题 143
第6章 动态规划 144
6.1 动态规划的原理 144
6.1.1 多阶段决策问题 144
6.1.2 最优化原理 149
6.1.3 前向优化和后向优化 151
6.2 问题举例 152
6.2.1 最长公共子序列问题 152
6.2.2 背包问题 154
6.2.3 从背包问题谈时间复杂度 157
6.2.4 旅行售货商问题 160
6.2.5 一般图上的最短s-t路问题 164
6.3 习题 167
第7章 图与网络算法 169
7.1 最大流问题 169
7.1.1 最大流的增广路算法 169
7.1.2 最大流和最小割 178
7.1.3 对偶理论的观点 179
7.2 最小费用流问题 183
7.3 匹配问题概述 193
7.4 二分图上不带权重的最大匹配问题 194
7.4.1 使用最大流算法求解 194
7.4.2 增广路算法 197
7.5 二分图上带权重的最大匹配问题 204
7.5.1 归约到最小费用流问题的解法 204
7.5.2 匈牙利算法 206
7.6 一般图上的最大匹配问题 211
7.7 习题 211
第8章 无约束优化的基本概念 214
8.1 一元函数的极小化问题 214
8.1.1 黄金分割法 214
8.1.2 函数逼近法 218
8.2 下降方向 218
8.3 一维搜索的基本概念 219
8.4 习题 220
第9章 使用导数的无约束优化方法 221
9.1 无约束优化问题的一阶极值条件 221
9.2 下降算法的一般形式 222
9.3 最速下降法 223
9.3.1 算法 223
9.3.2 搜索为什么要沿负梯度方向进行 223
9.3.3 最速下降法的锯齿现象 227
9.4 牛顿法 228
9.4.1 一元优化问题的牛顿法 228
9.4.2 多元优化问题的牛顿法 230
9.4.3 阻尼牛顿法 234
9.4.4 牛顿法的进一步修正 237
9.5 共轭梯度法 238
9.5.1 基本概念 238
9.5.2 共轭方向的几何意义 239
9.5.3 共轭梯度算法 241
9.5.4 一般无约束优化问题的共轭梯度法 250
9.6 无约束优化问题的二阶极值条件 251
9.7 拟牛顿法 253
9.7.1 拟牛顿方程 253
9.7.2 DFP算法 254
9.7.3 BFGS算法 256
9.8 习题 256
第10章 约束优化问题的基本概念和性质 258
10.1 问题举例 258
10.2 可行方向 260
10.3 不等式约束问题的一阶最优性条件 261
10.3.1 必要条件 262
10.3.2 充分条件 272
10.4 一般约束问题的一阶最优性条件 273
10.4.1 必要条件 273
10.4.2 充分条件 275
10.5 约束优化问题的对偶理论 279
10.5.1 对偶问题 279
10.5.2 凸规划的对偶 283
10.6 习题 288
第11章 约束优化问题的解法 290
11.1 二次规划的解法 290
11.1.1 等式约束二次规划的直接消元法 290
11.1.2 等式约束二次规划的拉格朗日方法 292
11.1.3 一种凸二次规划的有效集方法 295
11.2 简约梯度法 304
11.2.1 简约梯度 304
11.2.2 构造搜索方向 308
11.2.3 算法设计 312
11.3 罚函数法 321
11.3.1 外点罚函数法 321
11.3.2 内点罚函数法 327
11.4 习题 330
第12章 若干基本的数学概念和定理 332
12.1 n维空间中的点与集合 332
12.2 连续和一致连续 333
12.3 无穷小量与无穷小量的阶 333
12.4 一元函数可微和微分 334
12.5 二元函数可微和全微分 335
12.6 泰勒公式 336
12.6.1 带佩亚诺余项的泰勒公式 336
12.6.2 带拉格朗日余项的泰勒公式 336
12.7 方向导数 337
参考文献 339
索引 343