编辑推荐
适读人群 :运筹学、计算数学、应用数学专业研究生和高年级本科生,从事数学的教师、科研人员及工程技术人员 本书作者是获得“中国青年女科学家奖”的范金燕教授,第二作者是国际工业与应用数学联合会主席、中国数学会理事长袁亚湘院士。本书介绍了近年来国内外非线性方程组的前沿研究成果。作者重点考虑在弱于非奇异性的局部误差条件下Levenberg-Marquardt方法的收敛性质;提出信赖域半径趋于零的一类新的信赖域方法;提出大规模非线性方程组的子空间方法。
内容简介
非线性方程组在国防、经济、工程、管理等许多领域有着广泛的应用。《非线性方程组数值方法》系统介绍非线性方程组的数值方法和相关理论,主要内容包括:牛顿法、拟牛顿法、高斯-牛顿法、Levenberg-Marquardt方法、信赖域方法、子空间方法、非线性*小二乘问题、特殊非线性矩阵方程等。
目录
目录
《运筹与管理科学丛书》序
前言
第1章 导论 1
1.1 问题 1
1.2 方法概述 1
1.3 收敛性与收敛速度 3
第2章 牛顿法 6
2.1 牛顿法 6
2.2 非精确牛顿法 10
第3章 拟牛顿法 13
3.1 拟牛顿条件 13
3.2 几个重要的拟牛顿法 15
第4章 Levenberg-Marquardt方法 21
4.1 Levenberg-Marquardt方法 21
4.1.1 二次收敛速度 21
4.1.2 线搜索算法 28
4.1.3 基于信赖域的算法 30
4.1.4 基于的参数选取法 37
4.1.5 复杂度 45
4.2 多步Levenberg-Marquardt方法 51
4.3 自适应Levenberg-Marquardt方法 62
4.4 非精确Levenberg-Marquardt方法 67
4.4.1 收敛速度 67
4.4.2 复杂度 71
4.5 基于概率模型的Levenberg-Marquardt方法 79
第5章 信赖域方法 81
5.1 信赖域方法 81
5.2 信赖域半径趋于零的信赖域方法 90
5.3 改进信赖域方法 96
第6章 约束非线性方程组 104
6.1 约束Levenberg-Marquardt方法 104
6.2 投影Levenberg-Marquardt方法 106
6.3 投影信赖域方法 109
第7章 非线性最小二乘问题 111
7.1 高斯-牛顿法 111
7.2 Moré算法 116
7.3 结构型拟牛顿法 119
7.4 SQP方法 123
7.5 可分离非线性最小二乘 125
第8章 子空间方法 131
8.1 子空间方法的例子 131
8.2 非线性方程组的子空间方法 134
8.3 非线性最小二乘的子空间方法 137
第9章 其他方法 141
9.1 正则化牛顿法 141
9.2 谱梯度投影法 150
9.3 高斯-牛顿-BFGS方法 151
9.4 正交化方法 153
9.5 滤子法 154
9.6 非光滑牛顿法 157
第10章 特殊非线性矩阵方程 159
10.1 Kohn-Sham方程 159
10.1.1 Kohn-Sham方程与能量极小化问题的关系 159
10.1.2 Kohn-Sham方程的自洽场迭代 170
10.1.3 简单势能混合自洽场迭代 179
10.2 距离几何问题 192
10.2.1 矩阵分解算法 193
10.2.2 半正定松弛算法 194
10.2.3 几何构建算法 195
10.2.4 其他算法 196
10.3 二次矩阵方程 197
10.4 代数Riccati方程 199
10.5 矩阵方程 202
参考文献 204
索引 222
《运筹与管理科学丛书》已出版书目 223
经典数学分析:理论、技巧与应用 本书深入剖析了经典数学分析的核心概念、严谨的理论框架以及在现代科学与工程领域中的广泛应用。全书结构清晰,论证详实,旨在为读者构建扎实而全面的分析学基础。 第一部分:实数系统与基础拓扑 本部分首先从公理化的角度重构了实数系统的完备性,这是整个数学分析的基石。我们详细探讨了连续性的严格定义,包括 $epsilon-delta$ 语言的精确运用,并在此基础上引入了有界性、最大值原理和柯西收敛准则。 随后,我们将目光投向度量空间的基本概念。详细阐述了拓扑空间的定义,区分了开集、闭集、邻域和边界。重点分析了紧致性的诸多等价刻画,特别是 Heine-Borel 定理在 $mathbb{R}^n$ 上的推广及其在函数空间中的重要作用。我们还讨论了连通性的概念及其在分析中的应用,例如,连续函数如何保持空间的连通性。 关键内容聚焦: 实数系统的公理化构造与完备性证明。 点集拓扑基础:开闭集、收敛性、聚点与极限点。 紧集与可分性(可数稠密子集)的性质。 第二部分:序列、级数与函数序列的收敛性 本部分是经典分析的训练场,重点在于掌握极限的精细控制。我们首先研究序列的收敛性,引入了上极限和下极限的概念,并探讨了单调有界序列收敛性的强大工具——Bolzano-Weierstrass 定理。 在级数方面,本书超越了简单的比值判别法和积分判别法,深入探讨了傅立叶级数收敛的初步理论基础(仅涉及 $L^1$ 空间上的点态收敛,不涉及测度论)。我们详尽分析了绝对收敛与条件收敛的本质区别,并引入了黎曼重排定理,揭示了条件收敛序列的巨大灵活性。 更进一步,我们转向函数序列与函数项级数的收敛性。一致收敛作为连接点态收敛和微积分运算(如求导与积分的交换性)的关键桥梁,得到了最深入的讨论。我们利用 Weierstrass M 判别法来保证函数项级数的一致收敛性,并分析了收敛一致性对函数性质(如连续性、可积性)的保持作用。 关键内容聚焦: 序列的比较判别法及其在级数收敛性判断中的应用。 等价无穷小与高阶无穷小的精确估计。 一致收敛的判定与保持性质(连续性、可积性)。 幂级数的收敛半径与求和。 第三部分:微分学:单变量与多变量函数 本部分系统性地建立了微分学的理论框架。 单变量微分: 从导数的精确定义出发,我们讨论了微分中值定理(如罗尔定理、拉格朗日中值定理、柯西中值定理)的严谨证明及其在不等式证明中的应用。泰勒定理的严格表述(使用不同形式的余项,如拉格朗日余项和积分余项)被详细推导,为局部逼近奠定了基础。我们还分析了函数的极值问题和曲率的计算。 多变量微分: 引入了偏导数和方向导数的概念。我们强调全微分与偏导数之间的差异,明确了可微性的严格条件。链式法则在多维空间中的推广被系统地阐述。 极值理论与约束优化初步: 针对多变量函数,本书详尽分析了二阶偏导数判别法(Hessian 矩阵的性质)。在约束优化方面,我们详细介绍了拉格朗日乘数法的几何意义和代数推导,着重于其在物理系统稳定性和经济模型中的应用,而不涉及KKT条件。 关键内容聚焦: 中值定理的严密证明及其在分析中的核心地位。 全微分的定义及其与偏导数的关系。 Hessian 矩阵与二次型在多变量函数极值判断中的作用。 拉格朗日乘数法在等式约束优化中的应用。 第四部分:黎曼积分与基本积分技巧 本部分聚焦于经典一维黎曼积分的理论构建。我们首先详细定义了上和与下和,并给出了黎曼可积的充要条件(即函数几乎处处不连续)。本书严格证明了连续函数和有界单调函数的可积性。 在积分的性质方面,我们推导了微积分基本定理(牛顿-莱布尼茨公式)的两个部分,并严格论证了其成立的条件,特别是需要函数可微且导函数黎曼可积的要求。 积分技巧部分涵盖了分部积分法和变量代换法的理论依据,并给出了大量涉及三角函数、双曲函数和有理函数积分的实例。此外,我们还探讨了广义黎曼积分(不含瑕点积分的测度论处理),主要关注积分上限趋于无穷或下限趋于无穷的情况,以及函数在积分区间内出现不连续点的情况,并分析了此类广义积分的收敛条件。 关键内容聚焦: 黎曼可积性的充要条件与阶梯函数的逼近思想。 微积分基本定理的严谨证明及其在求解定积分中的威力。 分部积分法和变量代换法的理论基础。 简单瑕点积分的收敛性判定。 第五部分:多元积分与线积分基础 本部分将积分概念扩展到高维空间。 多重积分: 引入了直角坐标系下的二重积分和三重积分的定义,重点阐述了Fubini 定理的条件和应用,该定理允许我们通过累次积分来计算多重积分。对坐标变换(如极坐标、柱坐标、球坐标)的几何意义和雅可比行列式的引入进行了详尽的几何解释。 曲线积分与曲面积分基础: 我们定义了第一类和第二类曲线积分,并分析了它们在计算质量、质心和功等物理量中的作用。接着,我们过渡到格林公式(Green's Theorem)在二维平面上的应用,将其视为沿闭合曲线的线积分与区域上的二重积分之间的关系。 本书的积分部分严格遵循经典分析的路径,侧重于空间直觉的几何解释和计算技巧的掌握,为读者深入研究更高阶的向量分析(如斯托克斯公式和高斯散度定理)打下坚实的基础,但不涉及勒贝格积分或微分形式的理论。 关键内容聚焦: 累次积分的计算方法与Fubini定理的运用。 雅可比行列式在多变量积分变换中的核心作用。 线积分的物理意义与计算实例。 二维空间中的格林公式及其在保守场判断中的应用。 全书语言严谨,逻辑性强,配有丰富的例题与习题,是数学、物理、工程学等领域研究生和高年级本科生全面掌握经典数学分析理论的理想教材。
读完《非线性方程组数值方法》,我感觉自己像是完成了一场精密的“算法训练营”。这本书的内容就像是一个精心设计的迷宫,你需要一步一步地跟随作者的引导,才能最终抵达终点。我尤其欣赏作者在讲解过程中所展现出的那种“刨根问底”的精神。对于每一个数值方法,他都不会止步于给出公式和步骤,而是会追溯其产生的背景,分析其数学原理,甚至还会探讨其在不同场景下的表现。 例如,在讲解到根号法(bisection method)时,作者不仅仅停留在区间套的简单描述,而是详细地分析了其二分收敛的速度,以及为什么它总是能保证收敛,尽管速度可能不是最快的。然后,他会很自然地引出更快速的牛顿法,但同时也会指出牛顿法的缺点,比如对初值敏感以及计算雅可比矩阵的成本。这种对比和权衡,让读者能够更清晰地认识到不同方法的适用范围和优劣势。书中还穿插了大量的例子,这些例子往往选取了实际应用中遇到的典型问题,使得抽象的数学理论变得具体生动。