内容简介
This book grew out of my lecture notes for a graduate course on optimal control theory which I taught at the University of Illinois at Urbana-Champaign during the period from 2005 to 2010. While preparing the lectures, I have accumulated an entire shelf of textbooks on calculus of variations and optimal control systems.
内页插图
目录
Preface
1 Introduction
1.1 Optimal control problem
1.2 Some background on finite-dimensional optimization
1.2.1 Unconstrained optimization
1.2.2 Constrained optimization
1.3 Preview of infinite-dimensional optimization
1.3.1 Function spaces, norms, and local minima
1.3.2 First variation and first-order necessary condition
1.3.3 Second variation and second-order conditions
1.3.4 Global minima and convex problems
1.4 Notes and references for Chapter 1
2 Calculus of Variations
2.1 Examples of variational problems
2.1.1 Dido's isoperimetric problem
2.1.2 Light refiection and refraction
2.1.3 Catenary
2.1.4 Brachistochrone
2.2 Basic calculus of variations problem
2.2.1 Weak and strong extrema
2.3 First-order necessary conditions for weak extrema
2.3.1 Euler-Lagrange equation
2.3.2 Historical remarks
2.3.3 Technical remarks
2.3.4 Two specialcases
2.3.5 Variable-endpoint problems
2.4 Hanultonian formalism and mechanics
2.4.1 Hamilton's canonical equations
2.4.2 Legendre transformation
2.4.3 Principle of least action and conservation laws
2.5 Variational problems with constraints
2.5.1 Integral constraints
2.5.2 Non-integral constraints
2.6 Second-order conditions
2.6.1 Legendre's necessary condition for a weak minimum
2.6.2 Sufficient condition for a weak minimum
2.7 Notes and references for Chapter 2
3 Wom Calculus of Variations to Optimal Control
3.1 Necessary conditions for strong extrema
3.1.1 Weierstrass-Erdmann corner conditions
3.1.2 Weierstrass excess function
3.2 Calculus of variations versus optimal control
3.3 Optimal control problem formulation and as8umptions
3.3.1 Controlsystem
3.3.2 Cost functional
3.3.3 Targetset
3.4 Variational approach to the fixed-time, free-endpoint problem
3.4.1 Preliminaries
3.4.2 First variation
3.4.3 Second variation
3.4.4 Some comments
3.4.5 Critique of the variational approach and preview of the maximum principle
3.5 Notes and references for Chapter 3
……
4 The Maximum Principle
5 The Hamilton-Jacobi-Bellman Equation
6 The Linear Quadratic Regulator
7 Advanced Topics
Bibliography
Index
前言/序言
凸优化基础:理论、算法与应用 本书旨在为读者提供一个全面而深入的凸优化理论框架,覆盖从经典理论到现代算法的各个方面,并强调其在工程、科学和金融等领域的实际应用。本书内容结构严谨,逻辑清晰,旨在帮助读者构建扎实的数学基础,并能熟练运用凸优化工具解决复杂问题。 第一部分:凸集与凸函数的基本性质 本部分是理解凸优化的基石。我们首先详细介绍了凸集的定义、基本运算(如交集、凸包)以及重要的几何特性。重点讨论了超平面、半空间、多面体等在凸优化背景下的作用。随后,深入探讨了凸函数的定义、等价刻画(如一阶和二阶条件),以及保持凸性的操作(如仿射变换、复合函数)。此外,本书还详述了闭凸集、相对内部、渐近方向等概念,为后续的对偶理论和算法分析奠定基础。我们通过大量的例子和反例,帮助读者直观理解这些抽象的数学概念。 第二部分:线性规划与单纯形法 线性规划(LP)作为凸优化问题中最基础且应用最广泛的形式,占据了本部分的核心。我们首先构建了标准的线性规划模型,并将其与几何意义下的多面体联系起来。详细阐述了单纯形法的原理、步骤和几何解释,包括基可行解、最优性条件以及如何处理退化和无界性问题。接着,引入了对偶理论,系统地推导了LP的对偶问题,并深入分析了强对偶性、弱对偶性及其在敏感性分析中的应用。此外,本书还涵盖了内点法(特别是中心路径理论)在解决大型线性规划问题中的优势和实现细节。 第三部分:无约束优化方法 本部分聚焦于求解 $min f(x)$,其中 $f(x)$ 是一个可微的凸函数。我们从一阶方法开始,系统地介绍了梯度下降法(包括最优步长和回溯线搜索)的收敛性分析,并讨论了其在处理大规模问题时的局限性。随后,转入二阶方法,详细讲解了牛顿法的原理、收敛速度(二次收敛)以及其在计算上的挑战(如海森矩阵的计算和求逆)。为了折衷一阶和二阶方法的优缺点,本书深入分析了拟牛顿法(如DFP和BFGS算法),重点阐述了如何通过秩一或秩二更新来近似海森矩阵的逆,以及这些方法的实际性能。 第四部分:约束优化与KKT条件 当优化问题包含约束条件时,传统的无约束方法不再适用。本部分的核心是拉格朗日对偶理论和Karush-Kuhn-Tucker (KKT) 条件。我们首先构建了拉格朗日函数,并详细推导了KKT条件,将其作为处理等式和不等式约束优化问题的必要和充分最优性条件(在凸性条件下)。我们还探讨了不同的约束规范(如线性无关约束规范LICQ、Slater条件),并分析了它们对KKT条件充分性的影响。此外,本书还讨论了如何通过增广拉格朗日方法(Augmented Lagrangian Method)来处理难以处理的等式约束,并引出了乘子法(Method of Multipliers)。 第五部分:内点法 内点法是解决凸优化问题,特别是大规模线性规划和二次规划的现代高效算法。本部分首先介绍了障碍函数法的思想,通过引入对数障碍函数将约束问题转化为一系列无约束问题。然后,重点深入讲解了中心路径的概念,即障碍函数趋于零时最优解的轨迹。本书详细阐述了Primal-Dual Interior Point Methods的算法框架,包括如何通过牛顿法求解中心路径上的割线点,并分析了其优越的全局收敛性和多项式时间复杂度。对非线性凸优化问题,本书也探讨了如何将内点法推广应用。 第六部分:共轭函数与分析 共轭函数是凸分析中一个强大的工具,它允许我们将原始问题转化为对偶问题,并在分析算法的收敛性时提供新的视角。本部分系统地定义了共轭函数的构造、性质及其与原函数之间的关系。深入分析了Fenchel对偶定理,它是处理任意凸函数对偶性的基础,并展示了它如何自然地导出KKT条件。我们还探讨了共轭函数在变分法和稀疏优化(如Lasso模型的求解)中的应用。 第七部分:近邻点方法与随机梯度方法 随着数据规模的爆炸式增长,传统的确定性算法在计算上变得难以承受。本部分转向随机优化方法。我们首先介绍了加速近邻梯度(Nesterov's Acceleration),分析了它如何通过历史信息的利用显著提升一阶方法的收敛速度。随后,重点讲解了随机梯度下降(SGD)的原理、变体(如动量法、AdaGrad、RMSProp)以及在非凸和凸设置下的收敛分析。本书强调了在随机设置下,理解方差对收敛性的影响至关重要,并提供了实用的步长选择策略。 第八部分:应用实例与建模技巧 本部分将理论与实践紧密结合,通过具体的案例展示凸优化在不同领域的建模能力。我们详细分析了最小二乘问题(包括带正则化的岭回归L2和Lasso回归L1)、支持向量机(SVM)的优化形式、最大熵模型的推导,以及在鲁棒优化和资源分配问题中的应用。重点在于如何将一个实际问题转化为标准的凸优化形式(如SOCP, SDP或LP),并选择合适的算法进行求解。 本书面向高年级本科生、研究生以及需要将优化技术应用于实际问题的工程师和研究人员。阅读本书需要具备微积分、线性代数和基本的实分析知识。本书的叙述风格力求严谨但不失启发性,旨在培养读者解决复杂优化问题的独立思考能力。
我是一位对数学教育充满热情的教师,一直在探索如何将更高级的数学概念以更生动、更易于理解的方式呈现给学生。变分法和最优控制论在我看来,是连接纯粹数学理论与实际应用的一个绝佳的桥梁。我常常思考,如何才能让我的学生明白,积分和导数这些基础工具,是如何能够延伸到解决更复杂的问题,比如如何找到一条曲线,使得某个积分值达到最小或最大。这本书的名字,[Calculus of Variations and Optimal Control Theory: a Concise Introduction],尤其吸引我,因为“concise introduction”暗示着它可能不会过于冗长和晦涩,而是能够提供一个清晰的入门路径。我非常期待书中能够包含一些巧妙的例子,这些例子能够直观地展示变分法的思想,例如,为什么肥皂膜总是形成最小曲面,或者为什么光线在不同介质中会走最短时间的路程。对于最优控制论,我希望它能展现出如何将动态系统“引导”到我们期望的状态,例如,如何让一个机器人手臂以最快的速度和最精确的方式到达目标位置。如果书中能够提供一些教学上的建议,或者指出哪些概念是学生们普遍容易混淆的地方,那将对我非常有帮助。