课程简介
最优化计算方法是运筹学、计算数学、机器学习和数据科学与大数据技术等专业的一门核心课程。最优化问题通常需要对实际需求进行定性和定量分析,建立恰当的数学模型来描述该问题,设计合适的计算方法来寻找问题的最优解,探索研究模型和算法的理论性质,考察算法的计算性能等多方面。最优化广泛应用于科学与工程计算、数据科学、机器学习、人工智能、图像和信号处理、金融和经济、管理科学等众多领域。本课程面向数学以及相关学科的本科生介绍最优化的基本概念、典型案例、基本算法和理论。希望通过本课程的学习,培养学生针对科学和工程实际问题建立合适最优化模型的能力,选择和运用合适算法和软件的能力,设计合适的计算方法求解问题,探索研究模型和算法的理论性质,考察算法的计算性能等多方面的能力。
课程大纲
一. 优化建模与理论
1.优化问题概论,3学时
2.凸集,3学时
3.凸函数,3学时
4.凸优化问题:线性规划,二次锥规划,半定规划,3学时
5.对偶理论和最优性条件,3学时
二. 无约束优化算法与理论
6.线搜索和梯度下降算法,3学时
7.次梯度和次梯度算法,3学时
8.牛顿法、拟牛顿法、信赖域算法,3学时
9.非线性最小二乘算法,3学时
三. 约束优化和复合函数优化算法与理论
10. 罚函数法和增广拉格朗日函数法,3学时
11. 近似点算子和近似点梯度法,3学时
12. Nesterov加速算法,3学时
13. 对偶算法,3学时
14. 交替方向乘子法,3学时
15. 坐标下降法,3学时
16. 半光滑牛顿法,3学时
课程说明
先修课程要求:
年级要求: 大三,大四,研究生
不是必须先修但有帮助: 数值代数,概率论
会Matlab或者Python程序编写
参考资料
详细版: 刘浩洋, 户将, 李勇锋,文再文,最优化:建模、算法与理论, 高教出版社, ISBN:9787040550351
H. Liu, J. Hu, Y. Li, Z. Wen, Optimization: Modeling, Algorithm and Theory (in Chinese)
简化版:刘浩洋, 户将, 李勇锋,文再文,最优化计算方法,高教出版社,ISBN: 978-7-04-055841-8
H. Liu, J. Hu, Y. Li, Z. Wen, Computational Methods For Optimization (in Chinese)
北京大学课程网页:http://faculty.bicmr.pku.edu.cn/~wenzw/opt-2023-fall.html
拓展阅读
其他
主讲教师
文再文 教授
文再文,北京大学北京国际数学研究中心教授,工学院工业工程与管理系主任。主要研究最优化算法与理论及其在机器学习和人工智能中的应用。2016年获中国青年科技奖。2020年获国家万人计划科技创新领军人才和北京市杰出青年中关村奖,现为中国运筹学会常务理事,中国运筹学会数学规划分会副理事长。
课程助教
周宇昕
卢红亮
相关课程推荐