最优化课程的一本好教材

  盛煌资讯     |      2024-08-26 05:16

Advances in Education
Vol. 09  No. 04 ( 2019 ), Article ID: 31353 , 4 pages
10.12677/AE.2019.94076

A Good Textbook for Optimization

—Review of Theory and Algorithms on Nonlinear Programming

Naiyang Deng

School of Science, China Agricultural University, Beijing

Received: Jun. 30th, 2019; accepted: Jul. 12th, 2019; published: Jul. 22nd, 2019

ABSTRACT

This paper provides a review for the textbook written by Professors Yiju Wang and Naihua Xiu, named Theory and Method of Nonlinear Optimization published by Science Publishing House in 2012 by pointing out some highlights and features of the book, and giving some suggestions for improvement.

Keywords:Book Review, Highlights and Features, Suggestions

最优化课程的一本好教材

——《非线性最优化理论与方法》书评

邓乃扬

中国农业大学理学院,北京

收稿日期:2019年6月30日;录用日期:2019年7月12日;发布日期:2019年7月22日

摘 要

本文对王宜举教授和修乃华教授2012年在科学出版社出版的《非线性最优化理论与方法》进行了评述,指出了该书的一些亮点和特色,同时也给出了进一步提升的建议。

关键词 :书评,亮点与特色,建议

Copyright © 2019 by author(s) and Hans Publishers Inc.

This work is licensed under the Creative Commons Attribution International License (CC BY).

http://creativecommons.org/licenses/by/4.0/

1. 引言

最优化是运筹学的基础和核心。它运用严谨的数学方法并以计算机为工具,研究各种复杂系统中的最优化问题及解决方案,为决策者提供科学决策的依据,最终达到复杂系统运行的均衡与优化目标。它在工程技术、交通运输、经济与管理、军事等多方面有重要应用。最优化方法在近几十年得到快速发展,新的理论和方法不断出现。为及时吸收新近发展成熟并在实际中得到广泛应用的最优化方法以应用于教学科研中,不断有新的最优化教材出版。在此,笔者就王宜举和修乃华两位教授在科学出版社出版的最优化教材《非线性最优化理论与方法》(2012年第一版,2016年再版,2019年第三版),即文献 [1] 与国内外的同类教材进行简单对比,列出本书的一些特色与亮点,同时给出需进一步提升的建议。

2. 内容简介及使用情况

王宜举教授和修乃华教授编写的最优化教材《非线性最优化理论与方法》系统地介绍了非线性最优化问题的有关理论与方法,主要包括一些传统理论与经典算法,如优化问题的最优性理论,无约束优化问题的线搜索方法、共轭梯度法、拟牛顿方法,约束优化问题的可行方法、罚函数方法和SQP方法等,同时也吸收了新近发展成熟并得到广泛应用的成果,如信赖域方法、投影方法等。该书在编写过程中既注重基础理论的严谨性和方法的实用性,又保持内容的新颖性,是一本不可多得的运筹学专业研究生和数学专业高年级本科生教材或参考书。该书出版后,先后被复旦大学、厦门大学、天津大学、中国农业大学、大连理工大学、中南财经政法大学、广西大学、重庆大学、杭州电子科技大学、苏州大学、哈尔滨师范大学、重庆师范大学、桂林电子科技大学等20多所高等院校定为运筹学专业研究生教材,受到国内外同行的普遍欢迎。笔者在退休之前曾使用这本书进行运筹学专业研究生的课堂教学,取得了不错的效果。

3. 同类教材分析及亮点与特色

在最优化理论与算法方面,常见的公开出版的中文版教材有文献 [2] - [8] ,常见的外文版教材有文献 [9] [10] [11] [12] [13] 。这些教材从不同角度对最优化问题的最优性理论和算法进行了详细的探讨,成为最优化理论与方法课程的经典教材和参考书。但这些教材对最优化理论与方法的论述各有侧重,适用于不同的教学人群。如邓乃扬教授编写的《无约束最优化计算方法》侧重于无约束优化问题的讨论,陈宝林教授编写的《最优化理论与方法》内容全面,浅显易懂,适于非数学专业的研究生教学,倪勤教授编写的《最优化方法与程序设计》侧重于最优化问题的算法设计。Fletcher编写的《Practical Method of Optimization》侧重于非数学语言的讲述,适于非数学专业的读者。Bertsekas编写的《Nonlinear Programming》内容全面,理论性强,但内容太多,不适合研究生的课堂教学。Nocedal和Wright编写的《Numerical Optimization》教材侧重于最优化问题的算法设计层面。

相比这些教材,王宜举和修乃华编著的《非线性最优化理论与方法》,有以下特色和亮点:

一、该书开篇第一章对最优化问题进行了详细的分类,并对最优化问题的每一个数值算法进行了全面的论述。这为该书的学习提供了便利。

众所周知,最优化问题分约束优化问题与无约束优化问题,凸规划问题和非凸规划问题,光滑优化问题和非光滑优化问题,连续优化问题和组合优化问题、整数规划问题,确定型规划问题和随机优化问题、模糊规划问题等。初学者在看到这些问题的时候可能会有疑惑:这些问题类是怎么划分的,它们之间有什么关系?对此,该书在开篇第1节便给出了解答。

其次,该书在第一章第2节通过一个简单的二次规划问题引出了最优化问题的各种求解方法,如解析法,图解法和实验法,形式转化法,智能算法,数值迭代法等。该部分不但对这些算法的设计思想及其发展历程进行了比较详尽的论述,还分析了它们的优缺点和适用的问题类型,从而给读者,特别是初学者一个清晰的算法轮廓,为本书的算法学习提供了一个好的引领。

二、该书第七章对约束优化问题的最优性条件进行了深入、细致、全面的论述,成为该书的一大亮点。

众所周知,最优性理论是最优化研究的核心和算法设计的基础。对此,该书从等式约束优化问题的最优性条件入手,引出了非线性约束优化问题的各种最优性条件。在此基础上,该书对约束优化问题的最优性条件通过图表的方式对非线性约束优化问题的各种最优性条件进行梳理,给出了它们之间的关系,言简意赅,形象生动。

对约束优化问题的对偶,大多数最优化教材都是从线性规划问题的对偶引申而来。该书不同,它从约束优化问题的KKT条件入手,引出了Lagrange函数鞍点的概念,进而利用鞍点不等式引出了约束优化问题的两个双层优化问题:minmax问题和maxmin问题。通过证明前一个是原问题引出原规划问题的对偶问题,maxmin问题。这样直观的引入大大增强了可读性。

三、该书第九章对约束优化问题的投影算法进行了深入细致的讨论,成为投影算法论述最全面的教材。

投影算法是约束优化问题的一类常用方法, 因其迭代过程简单、理论性质强而受到优化学者们的关注。其主要思想是沿靠近负梯度方向的可行域的边界进行曲线搜索。该算法最早由Goldstein (1964),Levitin和Polyak (1966)提出,后由McCormick和Tapia (1972),Bertsekas (1976),Calamai和More (1987)逐步改进而成,具有迭代过程简单、储存量小等优点,适于可行域结构简单的优化问题。

该书第九章第3节首先对投影算子的各种性质,如各类投影算子的单调性等,进行了深刻的挖掘,并借助投影算子建立了约束优化问题的最优性条件,成为约束优化问题投影算法的经典性结果。

四、该书给出了习题,便于教学。

国内的非线性优化研究生教材多数不配备习题。该书在章末都配备了习题。学生通过这些习题的训练,不但可以提高他们的学习兴趣,而且可以提升他们的独立科研能力。更重要的,该书还制作了习题解答,读者可以电邮索取。这不但便于教学,而且学生在习题训练遇到难点时不至于花费太多时间,减少他们的畏难情绪。

4. 进一步提升的建议

《非线性最优化理论与方法》有很多亮点和特色,成为国内颇受欢迎的一本运筹学专业研究生教材。为更便于教学,笔者有以下建议:

1) 在程序设计方面进行细化,使得初学者在上完这门课后,可以直接进行编程计算

众所周知,最优化这门课程主要运用数学方法,为各种实际优化问题提供解决方案。为使读者在学习完《非线性最优化理论与方法》这门课程之后,能运用学到的优化方法解决各种实际问题,建议作者在程序设计方面进行细化,使读者能尽快掌握优化编程方面的能力。

2) 将该书制作成PPT课件,便于教学

进入新时代,多媒体成为一种简易、快捷、实用而又流行的教学手段。为适应时代的发展,提高教学效率,为教材制作PPT成为基本要求。为此,建议作者对《非线性最优化理论与方法》这本教材进行详细梳理,制作出受读者欢迎的PPT课件。

文章引用

邓乃扬. 最优化课程的一本好教材——《非线性最优化理论与方法》书评
A Good Textbook for Optimization—Review of Theory and Algorithms on Nonlinear Programming[J]. 教育进展, 2019, 09(04): 450-453. https://doi.org/10.12677/AE.2019.94076

参考文献

  1. 1. 王宜举, 修乃华. 非线性最优化理论与方法[M]. 武汉: 科学出版社.

  2. 2. 邓乃扬, 无约束最优化计算方法[M]. 武汉: 科学出版社, 1982.

  3. 3. 席少霖, 赵凤治. 最优化计算方法[M]. 上海: 科学技术出版社, 1983.

  4. 4. 席少霖. 非线性最优化方法[M]. 北京: 高等教育出版社, 1992.

  5. 5. 赵瑞安, 吴方. 非线性最优化理论与方法[M]. 杭州: 浙江科学技术出版社, 1992.

  6. 6. 袁亚湘. 非线性最优化数值方法[M]. 上海: 上海科学技术出版社, 1993.

  7. 7. 倪勤. 最优化方法与程序设计[M]. 武汉: 科学出版社, 2009.

  8. 8. 陈宝林. 最优化理论与方法[M]. 北京: 清华大学出版社, 1989.

  9. 9. Fletcher, R. (1987) Practical Method of Optimization. 2nd Edition, Wiley, New York.

  10. 10. Bazaraa, M.S., Sherali, H.D. and Shetty, C.M. (1993) Nonlinear Programming Theory and Algorithms. John Wiley and Sons, New York.

  11. 11. Bertsekas, D.P. (1999) Nonlinear Programming. Athena Scientific, Belmont, Massachusetts.

  12. 12. Nocedal, J. and Wright, S.J. (1999) Numerical Optimization. Springer Press, Berlin. https://doi.org/10.1007/b98874

  13. 13. Boyd, S. and Vandenberghe, L. (2004) Convex Optimization. Cambridge University Press, Cambridge. https://doi.org/10.1017/CBO9780511804441