资源 | 北大「最优化:建模、算法与理论」新书, 附579页电子版与课件
来源:专知 本文附PPT,建议阅读5分钟 最优化计算方法是运筹学、计算数学、机器学习和数据科学与大数据技术等专业的一门核心课程。
链接:
http://bicmr.pku.edu.cn/~wenzw/optbook.html
基础知识:第二章介绍最优化建模和算法中经常需要使用的一些基础知识,包括范数、导数、凸集、凸函数、次梯度、共轭函数等。此外为了内容的完整性也在附录部分简要概述了一些基础知识,其中线性代数包含矩阵、特征值、广义逆、SMW公式、Schur补等,数值代数包括范数、方程组求解、矩阵分解、数值代数软件包等,概率论包含随机变量、期望、方差、条件期望、概率不等式等重要概念和结论。
优化建模:第三章阐述一些典型的优化建模方法,并以科学工程计算和机器学习中一些典型问题为例介绍如何建立优化模型。第四章给出了最优化问题的一些典型分类和判别技巧,如线性规划、半定规划、最小二乘问题、复合优化、矩阵优化、随机优化等等。一个实际问题根据其侧重点可以由不同的优化模型来描述,一种优化模型也可以对应很多不同的实际应用。
最优性理论:第五章介绍最优性理论,包括最优解的存在性和唯一性,无约束可微问题、无约束不可微问题、带约束优化问题的一阶或二阶最优性条件,对偶理论,带广义不等式(如半定规划问题)的对偶理论。
最优化算法:第六章介绍无约束优化算法,包括线搜索方法、梯度类算法、次梯度算法、牛顿类算法、信赖域算法、非线性最小二乘法。第七章介绍约束优化算法,包括罚函数法、增广拉格朗日函数法及其在典型凸优化问题的主问题和对偶问题上的具体应用,线性规划内点法。第八章介绍复合优化算法,包括近似点梯度法、Nesterov加速算法、近似点算法、分块坐标下降法、对偶算法、交替方向乘子法、随机优化算法。
评论