作者：[俄]尤里·涅斯捷罗夫（YuriiN
页数：444
出版社：机械工业出版社
出版日期：2020
ISBN：9787111659891
电子书格式：pdf/epub/txt
内容简介
本书提供了凸优化一个全面的、最新的介绍，这是一个日益重要的领域，在应用数学、经济和金融、工程和计算机科学，特别是在数据科学和机器学习领域有广泛应用。
作者简介
尤里·涅斯罗杰夫（Yurii Nesterov）是的优化专家。他是Nesterov梯度加速法、多项式时间内点法、平滑技术、正则化牛顿法等方面开创性著作的作者。曾获丹吉格奖(2000)、冯·诺依曼理论奖(2009)、SIAM杰出论文奖(2014)、欧洲金奖(2016)等多项国际大奖。
目录
译者序
前言
致谢
引言
第一部分黑箱优化
第1章非线性优化
11非线性优化引论
111问题的一般描述
112数值方法的性能
113全局优化的复杂度界
114优化领域的“身份证”
12无约束极小化的局部算法
121松弛和近似
122可微函数类
123梯度法
124牛顿法
13非线性优化中的一阶方法
131梯度法和牛顿法有何不同
132共轭梯度法
133约束极小化问题
第2章光滑凸优化
21光滑函数的极小化
211光滑凸函数
212函数类F∞,1L(n)的复杂度下界
213强凸函数类
214函数类S∞,1μ,L(n)的复杂度下界
215梯度法
22最优算法
221估计序列
222降低梯度的范数
223凸集
224梯度映射
225简单集上的极小化问题
23具有光滑分量的极小化问题
231极小极大问题
232梯度映射
233极小极大问题的极小化方法
234带有函数约束的优化问题
235约束极小化问题的算法
第3章非光滑凸优化
31一般凸函数
311动机和定义
312凸函数运算
313连续性和可微性
314分离定理
315次梯度
316次梯度计算
317最优性条件
318极小极大定理
319原始对偶算法的基本要素
32非光滑极小化方法
321一般复杂度下界
322估计近似解性能
323次梯度算法
324函数约束的极小化问题
325最优拉格朗日乘子的近似
326强凸函数
327有限维问题的复杂度界
328割平面算法
33完整数据的算法
331目标函数的非光滑模型
332Kelley算法
333水平集法
334约束极小化问题
第4章二阶算法
41牛顿法的三次正则化
411二次逼近的三次正则化
412一般收敛性结果
413具体问题类的全局效率界
414实现问题
415全局复杂度界
42加速的三次牛顿法
421实向量空间
422一致凸函数
423牛顿迭代的三次正则化
424一个加速算法
425二阶算法的全局非退化性
426极小化强凸函数
427伪加速
428降低梯度的范数
429非退化问题的复杂度
43最优二阶算法
431复杂度下界
432一个概念性最优算法
433搜索过程的复杂度
44修正的高斯牛顿法
441高斯牛顿迭代的二次正则化
442修正的高斯牛顿过程
443全局收敛速率
444讨论
第二部分结构优化
第5章多项式时间内点法
51自和谐函数
511凸优化中的黑箱概念
512牛顿法实际上做什么
513自和谐函数的定义
514主要不等式
515自和谐性和Fenchel对偶
52自和谐函数极小化
521牛顿法的局部收敛性
522路径跟踪算法
523强凸函数极小化
53自和谐障碍函数
531研究动机
532自和谐障碍函数的定义
533主要不等式
534路径跟踪算法
535确定解析中心
536函数约束问题
54显式结构问题的应用
541自和谐障碍函数参数的下界
542上界：通用障碍函数和极集
543线性和二次优化
544半定优化
545极端椭球
546构造凸集的自和谐障碍函数
547自和谐障碍函数的例子
548可分优化
549极小化算法的选择
第6章目标函数的原始对偶模型
61目标函数显式模型的光滑化
611不可微函数的光滑近似
612目标函数的极小极大模型
613合成极小化问题的快速梯度法
614应用实例
615算法实现的讨论
62非光滑凸优化的过间隙技术
621原始对偶问题的结构
622过间隙条件
623收敛性分析
624极小化强凸函数
63半定优化中的光滑化技术
631光滑化特征值的对称函数
632极小化对称矩阵的最大特征值
64目标函数的局部模型极小化
641Oracle线性优化
642合成目标函数的条件梯度算法
643收缩型条件梯度
644原始对偶解的计算
645合成项的强凸性
646极小化二次模型
第7章相对尺度优化
71目标函数的齐次模型
711圆锥无约束极小化问题
712次梯度近似算法
713问题结构的直接使用
714应用实例
72凸集的近似
721计算近似椭球
722极小化线性函数的最大绝对值
723具有非负元素的双线性矩阵博弈
724极小化对称矩阵的谱半径
73障碍函数次梯度算法
731自和谐障碍函数的光滑化
732障碍函数次梯度法
733正凹函数极大化
734应用
735随机规划的替代——在线优化
74混合精度优化
741严格正函数
742拟牛顿法
743近似解的解释
附录A求解一些辅助优化问题
参考文献评注
参考文献
索引
前言
致谢
引言
第一部分黑箱优化
第1章非线性优化
11非线性优化引论
111问题的一般描述
112数值方法的性能
113全局优化的复杂度界
114优化领域的“身份证”
12无约束极小化的局部算法
121松弛和近似
122可微函数类
123梯度法
124牛顿法
13非线性优化中的一阶方法
131梯度法和牛顿法有何不同
132共轭梯度法
133约束极小化问题
第2章光滑凸优化
21光滑函数的极小化
211光滑凸函数
212函数类F∞,1L(n)的复杂度下界
213强凸函数类
214函数类S∞,1μ,L(n)的复杂度下界
215梯度法
22最优算法
221估计序列
222降低梯度的范数
223凸集
224梯度映射
225简单集上的极小化问题
23具有光滑分量的极小化问题
231极小极大问题
232梯度映射
233极小极大问题的极小化方法
234带有函数约束的优化问题
235约束极小化问题的算法
第3章非光滑凸优化
31一般凸函数
311动机和定义
312凸函数运算
313连续性和可微性
314分离定理
315次梯度
316次梯度计算
317最优性条件
318极小极大定理
319原始对偶算法的基本要素
32非光滑极小化方法
321一般复杂度下界
322估计近似解性能
323次梯度算法
324函数约束的极小化问题
325最优拉格朗日乘子的近似
326强凸函数
327有限维问题的复杂度界
328割平面算法
33完整数据的算法
331目标函数的非光滑模型
332Kelley算法
333水平集法
334约束极小化问题
第4章二阶算法
41牛顿法的三次正则化
411二次逼近的三次正则化
412一般收敛性结果
413具体问题类的全局效率界
414实现问题
415全局复杂度界
42加速的三次牛顿法
421实向量空间
422一致凸函数
423牛顿迭代的三次正则化
424一个加速算法
425二阶算法的全局非退化性
426极小化强凸函数
427伪加速
428降低梯度的范数
429非退化问题的复杂度
43最优二阶算法
431复杂度下界
432一个概念性最优算法
433搜索过程的复杂度
44修正的高斯牛顿法
441高斯牛顿迭代的二次正则化
442修正的高斯牛顿过程
443全局收敛速率
444讨论
第二部分结构优化
第5章多项式时间内点法
51自和谐函数
511凸优化中的黑箱概念
512牛顿法实际上做什么
513自和谐函数的定义
514主要不等式
515自和谐性和Fenchel对偶
52自和谐函数极小化
521牛顿法的局部收敛性
522路径跟踪算法
523强凸函数极小化
53自和谐障碍函数
531研究动机
532自和谐障碍函数的定义
533主要不等式
534路径跟踪算法
535确定解析中心
536函数约束问题
54显式结构问题的应用
541自和谐障碍函数参数的下界
542上界：通用障碍函数和极集
543线性和二次优化
544半定优化
545极端椭球
546构造凸集的自和谐障碍函数
547自和谐障碍函数的例子
548可分优化
549极小化算法的选择
第6章目标函数的原始对偶模型
61目标函数显式模型的光滑化
611不可微函数的光滑近似
612目标函数的极小极大模型
613合成极小化问题的快速梯度法
614应用实例
615算法实现的讨论
62非光滑凸优化的过间隙技术
621原始对偶问题的结构
622过间隙条件
623收敛性分析
624极小化强凸函数
63半定优化中的光滑化技术
631光滑化特征值的对称函数
632极小化对称矩阵的最大特征值
64目标函数的局部模型极小化
641Oracle线性优化
642合成目标函数的条件梯度算法
643收缩型条件梯度
644原始对偶解的计算
645合成项的强凸性
646极小化二次模型
第7章相对尺度优化
71目标函数的齐次模型
711圆锥无约束极小化问题
712次梯度近似算法
713问题结构的直接使用
714应用实例
72凸集的近似
721计算近似椭球
722极小化线性函数的最大绝对值
723具有非负元素的双线性矩阵博弈
724极小化对称矩阵的谱半径
73障碍函数次梯度算法
731自和谐障碍函数的光滑化
732障碍函数次梯度法
733正凹函数极大化
734应用
735随机规划的替代——在线优化
74混合精度优化
741严格正函数
742拟牛顿法
743近似解的解释
附录A求解一些辅助优化问题
参考文献评注
参考文献
索引
