ABSTRACT

Sequential Quadratic Programming (SQP) method is one of the most effective methods for solving constrained optimization problems. There is a class of subproblems during the process via SQP method. The subproblem which is called SQP multi-parameter subproblem is a multi-parametric quadratic programming. In this work, we introduce weak sharp solution set into SQP multi-pa- rameter subproblem. The character of weak sharp solution set is discussed. Under weak sharp conditions of solution set, the sufficient and necessary condition for finite convergence of feasible solution sequence via any algorithm is obtained.

Keywords:Subproblems of Sequential Quadratic Programming, Multi-Paramatic Programming, Feasible Solution Sequence, Weak Sharp Set, Finite Convergence

SQP子问题解集的有限收敛性

顾亚静，赵文玲^*

山东理工大学理学院，山东 淄博

收稿日期：2016年10月28日；录用日期：2016年11月10日；发布日期：2016年11月18日

摘 要

序列二次规划方法(SQP)是求解约束优化问题的最有效的方法之一。SQP方法求解过程中产生的子问题是一个带参数的二次规划问题(SQP多参数规划子问题)。本文在SQP多参数规划子问题中，引入了其解集弱强的概念，讨论了弱强集的性质，并在其解集是弱强的条件下，给出了由任意算法所产生的可行解序列有限收敛的必要与充分条件。

关键词 :序列二次规划方法的子问题，多参数规划，可行解序列，弱强集，有限收敛

1. 引言

序列二次规划方法(SQP)是求解约束优化问题的一类最有效的方法。

考虑带约束的最优化问题(NP)为

其中是连续可微函数，是约束集。

求约束优化问题(NP)的SQP方法是一种迭代法，它的基本思想就是：将问题中的目标函数用一个二次模型近似，从而得到问题(NP)的一个近似二次规划。求解这个二次规划，便得到问题(NP)的一个近似解迭代点，再从这个点出发，重复以上步骤。这样通过求解一系列二次规划，便得到原问题的解的一串近似解点列。

设是问题(NP)的当前的迭代点，通常情况下，下一步就是通过求解下列子问题来实现的。

，

其中，表示的梯度，为一对称正定矩阵。此问题是一个非线性的多参数规划问题。

多参数规划问题有着广泛的应用。仅在预测控制领域，就被广泛应用于炼油，石化，化工等生产过程中。目前线性多参数规划的发展相对来说比较成熟，国内外学者主要研究非线性的多参数规划。关于非线性多参数规划的研究，早期Fiacco [1] 考虑了Hilbert空间上的非线性多参规划，主要研究了最优性条件，含参最优解向量的局部灵敏性分析及方向导数的计算。在Fiacco的基础上，Grancharova [2] 考虑了空间上非线性多参规划，给出了典型的非线性规划算法SQP方法的KKT条件。M. Diehl [3] ，E. S. Mostafa [4] [5] 和V. Kungurtsev [6] [7] 进一步研究了SQP非线性多参规划，根据问题的性质给出了参数解。Diehl [3] 考虑了SQP在每一步迭代的子问题。V. Kungurtsev [6] 通过对经典SQP增加两次修正，给出了参数解，得到算法的局部收敛。

以上文献虽然利用一些方法对多参数规划问题求解，并得到了参数解，但是它们的结果都依赖于这些具体的方法，不能保证对任意算法所产生的迭代点列是收敛的，更不能保证是有限收敛的。本文将研究任意可行解序列的有限收敛性。

弱强性是优化问题扰动分析的一个重要工具。在数学规划和变分不等式问题中，解集的弱强性对迭代算法产生点列的收敛性起着重要作用。Burke and Ferris [8] 给出了数学规划的解集的弱强性的概念，并证明解集的弱强性是逼近点算法(见 [9] [10] [11] [12] )与某些重要的迭代算法(见 [13] [14] [15] [16] [17] )具有有限收敛性的充分条件。随后，Marcotte and Zhu [18] ，Xiu与Zhang [19] ，Zhou与Wang [12] 相继做出了推广与改进，并弱化条件，得到算法收敛的结果。

本文研究序列二次规划SQP多参数规划子问题mpSQP(x)：

，

其中是闭凸集，，对，在上连续可微。

mpSQP(x)问题的最优解集记为且。

在此问题中，引进解集的弱强性的概念，并在其解集是弱强的条件下，给出了由任意可行解序列有限收敛的必要与充分条件。本文结构如下。在第2节中给出了一些预备知识。在第3节对mpSQP(x)的解集给出了弱强概念，讨论解集弱强的一些性质。在第4节中，当mpSQP(x)的解集是弱强集时，给出了可行解点列具有有限收敛性的充要条件。第5节为本文的总结。

2. 预备知识

在这一节里，我们将介绍本文用到的一些基本的概念。

设是一个无限子序列，定义

。

。

据上述定义即知。

设，，在点的切锥定义为

。

在点的正则法锥定义为

。

在点一般意义下的法锥定义为

。

的极锥定义为

。

据 [20] 中的命题6.5，我们有。

当是凸集时，据 [20] 中的定理6.9，我们有

。

设，在闭集上的投影定义为

。

到的距离定义为

。

如果是闭集，则有。

设函数在点的次微分，则在点的投影次微分定义为

。

如果在点是可微的，据 [20] 的定理25.1知，即此时投影次微分即是投影梯度。

我们称序列有限收敛于，如果存在，当时，有。

3. mpSQP问题解集的弱强性

本节我们将给出mpSQP问题的弱强性，及与弱强性有关的一系列定理和推论。

考虑如下的序列二次规划SQP多参数子问题mpSQP(x)：

，

其中，

。

是闭凸集，，对，在上连续可微。mpSQP(x)问题的最优解集记为，。

在给出关于mpSQP的弱强性定义之前，我们先来介绍一下对于约束问题，光滑的凸规划及非光滑的凸规划中有关弱强性的定义。

对带约束的优化问题：

，

在光滑的凸规划中，是正常闭凸的可微函数，和为非空闭凸集，其解集为在上是具有模的弱强集，当且仅当对有

。

在非光滑的凸规划中，是正常的闭凸函数，和为非空闭凸集，其解集为在上是具有模的弱强集，当且仅当对有

。

其中是的次微分。

值得注意的是，光滑时，两个定义等价，此时在上是常值向量(见 [21] ，推论6)。对于mpSQP问题我们得到相似的结果。基于mpSQP问题，下面给出其解集弱强的定义。

定义3.1 在mpSQP问题中，解集称为是具有模的弱强集，如果存在参数，使得对有

。(3.1)

利用上面的定义，可以得到弱强集具有下面的性质。

定理3.1在mpSQP问题中，对，解集为具有模的弱强集的充要条件为

(3.2)

证明 (必要性)对，因为为mpSQP问题的弱强集，由(3.1)得到，

。

因此

。

即

。

(充分性)对，由(3.2)知有

。

即，单位球，满足

由的任意性，

。

即(3.1)式成立。证毕。

定理3.2 若mpSQP问题的解集是模为的弱强集，当且仅当

。 (3.3)

证明 (必要性)

若为弱强集，为单位球，则在点对，使得

，

也就是

。

因此

。

令，上式即为

。

得到

。

即(3.3)式成立。

(充分性)

由(3.3)，对，，是单位球，存在满足

。

即

。

其中任意，得到(3.1)式。证毕。

定理3.3若mpSQP问题中的解集是参数为的弱强集，当且仅当对，有

。 (3.4)

证明 (必要性) 对于，，且。解集为模为的弱强极小集，连续可微，又由定理3.2必要性，

对满足

即得到(3.4)式。

(充分性) 对，如果，则

，

显然有

。

否则，任取，。

对，有

。

。

推出。

由此可知解集是法向量为的超平面的子集。

令序列收敛到，对正数序列，满足。可以得到

。

且模为，再由(3.4)式，得到

，

。

令，，有

。

因此，由定理3.2 充分性即得为弱强集，弱强参数即为。证毕。

4. mpSQP问题可行解序列的有限收敛性

对于SQP子问题，文献 [21] 得到由任意算法所产生的可行解序列与最优解之间的距离有一个全局误差界。本文在其解集是弱强的条件下，给出了由任意算法所产生的可行解序列有限收敛到弱强集的充分必要条件。

定理4.1若mpSQP问题的解集是模为的弱强集，，，时，有限收敛到的充要条件为

(4.1)

证明 (必要性)对充分大的，时，有，此时有

。

为凸集，由 [20] 中命题6.5和命题6.9知

。

因此有

。

(充分性) 反证法。假设存在序列，对，，但是仍然有

。

又是闭凸集，对任一给定的，存在满足。

由的弱强性定义，有

，

其中，。

又，，因此

。

那么

对，时，我们得到，矛盾。因此，(4.1)成立时，对，收敛到。证毕。

关于变分不等式弱强性的文献 [12] [18] 中，迭代点有限收敛的充要条件为目标函数负梯度在切锥上的投影收敛到0。在目标函数可微的凸规划 [8] 中，迭代点有限收敛等价于目标函数负梯度在切锥上的投影收敛到0；在目标函数不可微的凸规划 [12] 中，迭代点有限收敛要求目标函数负梯度在切锥上的投影收敛到0。同样，本文中以参数形式的SQP子问题为目标函数，要求函数连续可微，去掉了 [8] [18] 中

这一条件，得到迭代点有限收敛的充要条件为目标函数负梯度在切锥上的投影收敛到0。

对于mpSQP中的，可写为的形式，又。

考虑变分不等式问题

。

mpSQP问题就可以看做变分不等式问题的一个推广。就有如下推论：

推论4.1若VIP问题的解集是模为的弱强集，，，时，有限收敛到的充要条件为

。

推论4.1即为变分不等式 [18] 中定理5.2关于VIP问题有限收敛的结果，且去掉了不必要的条件

收敛到0。

5. 结束语

本文在多参数规划的环境中分析SQP子问题，通过定义解集的弱强性，将弱强的概念推广到多参数规划问题中，不拘泥于具体算法的约束，得到多参数规划最优解序列的有限收敛性。应该指出的是，在我们这个结果的推论中，包括了现有的相关文献中在解集是弱强条件下相应的结果。此外，我们建立的弱强的概念为许多最优化算法的有限收敛提供了更弱的充分条件。

最近，N. H. Xiu研究了可行集S为低秩集时三种不同的法锥对可行解序列的包含关系影响，下一步我们可以针对这三种不同定义的法锥做分别的讨论。另外，弱强集与误差界关系密切，可做进一步探讨。

基金项目

国家自然科学基金资助项目(No.11271233)和山东省自然科学基金资助项目(ZR2012AM016)资助。

文章引用

顾亚静,赵文玲. SQP子问题解集的有限收敛性
Finite Convergence of the Solution Set for SQP Subproblem[J]. 应用数学进展, 2016, 05(04): 620-629. http://dx.doi.org/10.12677/AAM.2016.54072

参考文献 (References)