我目前在美国德克萨斯大学达拉斯分校读研究生,有一门Optimization课程想让老师帮忙梳理一下重点,叫优化理论与实践,因为这门课我学得比较费劲一些,所以想课下再学一学,麻烦老师了!
德克萨斯大学达拉斯分校优化理论与实践课程重点介绍了优化理论、数值算法和应用的基础。课程分为三个主要部分:线性规划(单纯形法,对偶理论),无约束方法(最优性条件,下降算法和收敛定理),和约束最小化(拉格朗日乘子,Karush-Kuhn-Tucker条件,有效集,罚函数和内点法)。课程还特别强调了相关理论在工程、运营、金融、统计等方面的应用。根据同学的需求,我们总结了这门课的重点,详情如下。
一、重点内容
1、无约束最优化
一阶必要条件;二阶条件;凸面;下降算法,最速下降;收敛定理;牛顿法,拟牛顿法;共轭方向法;最小平方。
2、线性规划
基本解决方案;单纯形法;二元性;内点方法。
3、约束优化
一阶条件;二阶条件;拉格朗日乘数;KKT条件;有效集方法;惩罚和障碍方法。
二、学习目标
1、识别、阐述和解决线性规划问题。
2、理解线性规划的单纯形法。
3、能够将线性规划应用于网络流量、博弈论、金融、机器学习等应用。
4、学习无约束最优化的最速下降、牛顿法和共轭梯度。
5、理解无约束和有约束最优化的必要和充分条件,包括拉格朗日乘数和KKT条件。
6、理解约束优化的有效集和惩罚/障碍方法。
7、能够应用数值软件包解决优化问题。
德克萨斯大学达拉斯分校优化理论与实践课程学习过程中,同学还会使用Matlab的优化工具箱来获得与课程内容相关的实际经验。在此过程中同学如果遇到问题,可以随时来问我们。