Gauss回代交替方向法求解一类二次规划逆问题 Gauss Back Substitution Alternating Direction Method for a Class of Inverse Quadratic Programming

doi:10.12677/AAM.2020.91008

设为首页加入收藏期刊导航网站地图

期刊菜单

文章导航

AdvancesinAppliedMathematics应用数学进展,2020,9(1),60-71

PublishedOnlineJanuary2020inHans.http://www.hanspub.org/journal/aam

https://doi.org/10.12677/aam.2020.91008

GaussBackSubstitutionAlternating

DirectionMethodforaClassofInverse

QuadraticProgramming

LidanLi

1,2

,HongweiZhang

,LiweiZhang

SchoolofMathematicalSciences,DalianUniversityofTechnology,DalianLiaoning

CollegeofScience,LiaoningTechnicalUniversity,FuxinLiaoning

Received:Dec.25

,2019;accepted:Jan.7

,2020;published:Jan.14

,2020

Abstract

Inthispaper,wesolve theinverseproblemof quadraticprogrammingwhoseobjective

functionisthesumofmatrixspectrumnormandvectorinﬁnitenorm.Wetransform

theproblemintoa convexoptimization problemwith objective functionseparable and

propose Gaussback substitution alternatingdirectionmethodtosolve it.Weﬁndthat

oneofitssubproblemsisstillaconvexoptimizationproblemwithobjectivefunction

separable,but itis impossibleto solve every variableaccurately.So weusethe inexact

methodtosolvethesubproblem.Finally,thenumericalexperimentoftheproblem

inthispaperisgiven.Thedatashowsthatthemethodinthispapercansolvethe

inversequadraticprogrammingproblemeﬃcientlyandquickly.

Keywords

SpectrumNorm,InﬁniteNorm,QuadraticProgramming,G−ADMMMethod

Gauss回代交替方向法求解一类二次规划逆问

题

文章引用:李丽丹,张宏伟,张立卫.Gauss回代交替方向法求解一类二次规划逆问题[J].应用数学进展,2020,

9(1):60-71.DOI:10.12677/aam.2020.91008

李丽丹等

李丽丹

1,2

，张宏伟

，张立卫

大连理工大学数学科学学院，辽宁大连

辽宁工程技术大学理学院，辽宁阜新

收稿日期：2019年12月25日；录用日期：2020年1月7日；发布日期：2020年1月14日

摘要

本文求解了目标函数为矩阵谱范数与向量无穷范数之和的一类二次规划的逆问题。先将该问题转

化为目标函数可分离变量的凸优化问题，提出用Gauss回代交替方向法求解该问题。而对于其中

一个子问题的求解过程中发现其仍是目标函数可分离变量的凸优化问题，但无法精确求解每个变

量，所以采用非精确方法求解该子问题。最后给出采用的Gauss回代交替方向法求解本文问题的

数值实验。数据表明，本文所采用的方法能够高效快速地解决该二次规划逆问题。

关键词

谱范数，无穷范数，二次规划，G−ADMM法

This work is licensed under theCreative Commons Attribution InternationalLicense (CCBY4.0).

http://creativecommons.org/licenses/by/4.0/

1.引言

在本文里，我们考虑如下凸二次规划问题的逆问题：

minf(x)=

⊤

Gx+c

⊤

s.t.x∈Ω

:={x

′

∈R

|Ax

′

≥b}

(1.1)

其中G∈S

定义n×n对称矩阵空间，S

定义了n×n半正定矩阵锥，c∈R

,A∈

m×n

,b∈R

�令

A:=(a

,···,a

)

⊤

∈R

,i=1,···,m,

DOI:10.12677/aam.2020.9100861应用数学进展

李丽丹等

我们用SOL(P)表示问题(P)的最优解，并且在本文中假设m≤n。

给定问题QP(G,c,A,b)的最优解x

∈Ω

以及(G,c)的估计值(G

)∈S

×R

。在本文

中考虑的逆二次优化问题是找到一对值(G,c)∈S

×R

使

IQP(G

,A,x

)

min∥G−G

∥

+∥c−c

∥

∞

s.t.x

∈SOL(QP(G,c,A,b)),

(G,c)∈S

×R

(1.2)

其中∥·∥

,∥·∥

∞

分别表示矩阵的谱范数(即矩阵的最大奇异值)和向量的无穷范数。

根据传统的对偶理论，如果G∈S

，那么x

∈SOL(QP(G,c,A,b))的充分必要条件是存在

u∈R

满足







c−A

⊤

u+Gx

=0,

0≤u⊥Ax

−b≥0.

(1.3)

不失一般性，假设前p个约束在x

处是有效约束，或者等价写成I(x

):={j|a

⊤

−b

=0,j=

1,···m}={1,···p}。令A

:=(a

,···,a

)

⊤

∈R

,i=1,···,p,即A

是A的前p行。则

(1.3)可以等价地表示为







c−A

⊤

y+Gx

=0,

y≥0,

(1.4)

其中y∈R

是u的前p个元素。所以问题IQP( G

,A,x

)可以被简化为

IQP(G

)

min∥G−G

∥

+∥c−c

∥

∞

s.t.c−A

⊤

y+Gx

=0,

(G,c,y)∈S

×R×R

(1.5)

下面我们假设问题(1.5)有解的前提下来研究利用交替方向法求解它。由于交替方向法适用于目标

函数是可分离的优化问题，记δ

(·)是R

上的指示函数，我们把问题(1.5)写成如下可分离形式

min∥G−G

∥

+∥c−c

∥

∞

+δ

(y)

s.t.c−A

⊤

y+Gx

=0,

(G,c,y)∈S

×R

(1.6)

本文的组织结构如下：第2节给出求逆问题所需要的部分预备知识；第3节给出具体求解问

题(1.6)的Gauss回代方法的算法以及各子问题求解的具体步骤；第4节给出Gauss回代算法求

DOI:10.12677/aam.2020.9100862应用数学进展

李丽丹等

解逆问题的数值结果；最后一节为结论。

2.预备知识

我们需要讨论一下Moreau-Yosida正则化的一些性质。设X是一个有限维欧氏空间，其内积

⟨·,·⟩

引导的范数记为∥·∥

.f:X7→(−∞,+∞]是定义在X上的闭凸函数，则f在x∈X点的

Moreau-Yosida正则化定义如下：

min

y∈X

f(y)+

∥y−x∥

上述问题的唯一最优解记为P

(x)�定义f的共轭函数

∗

(x)=sup

y∈X

{⟨x,y⟩

−f(y)}.

由Moreau分解理论[1](定理31.5)可知，对于∀x∈X,我们有

x=P

(x)+P

∗

(x).(2.1)

如果f是范数函数，记f=∥·∥

♮

�则记∥·∥

♯

为其对偶范数，定义为

∥x∥

♯

=sup

y∈X

{⟨x,y⟩

:|y∥

♮

≤1},

则有P

∗

(x)=Π

♯

(x),其中闭球B

♯

:={x∈X:|x∥

♯

≤1}，而Π

(·)是到闭凸集M的投影算子，

即

(x)=Argmin

y∈M

∥x−y∥

,∀x∈X.

则(2.1)可以写成

x=P

(x)+Π

♯

(x).(2.2)

或等价为

(x)=x−Π

♯

(x).(2.3)

对于具体的矩阵的核范数，取ˆτ>0,令f

ˆτ

m×n

7→R,即f

ˆτ

(X):=ˆτ∥X∥

∗

�函数f

ˆτ

在点

X∈R

m×n

处Moreau-Yosida正则化定义如下：

min

Y∈R

m×n

ˆτ

(Y)+

∥Y−X∥

.(2.4)

其中∥·∥

为矩阵的Frobenius范数。事实上，矩阵的核范数的对偶函数是谱范数(矩阵的奇异值

之和)，定义为∥·∥

�根据(2.2)或(2.3)知

ˆτ

(X)=X−Π

ˆτ

(X),(2.5)

DOI:10.12677/aam.2020.9100863应用数学进展

李丽丹等

其中闭球B

ˆτ

定义为B

ˆτ

:={X∈R

m×n

:∥X∥

≤ˆτ}.

我们要想求解(2.4)，关键是如何求解Π

ˆτ

(X)�事实上Π

ˆτ

(X)我们可以由下面两个命题得到。

命题1.([2])x∈R

,u

=|x

|,i=1,...,n.󲣵u

≥...≥u

≥0,k󰍦

≥u

k+1

立󱎻󰐷󰢚󰊫󰊧，



i=1

−ˆτ

C

ˆτ

:={v∈R

:∥v∥

≤ˆτ},¯x:=Π

ˆτ

(x)�∥·∥

󲖟󱙱󲼆󱎻1󲀺󰊧，∥v∥



i=1

|�

x∈C

ˆτ

󰌭,¯x=x�

¯x







sign(x

)(u

−z

),i≤k,

0,i>k.

(2.6)

设r=rank(X),X∈R

m×n

�令X的简化奇异值分解为

X=U

Diag(σ(X))V

⊤

,(2.7)

其中σ(X)=(σ

,...,σ

)

⊤

满足σ

≥σ

≥...≥σ

>0,U

∈R

m×r

∈R

n×r

为列正交阵。则

利用命题1和JohnvonNeumann迹不等式，如下命题成立。

命题2.󲣵X∈R

m×n

󰑀(2.7)󱎻󲜚，X󳌤󱄺B

ˆτ

∗

󱎻

ˆτ

∗

(X)=U

Diag(¯x)V

⊤

¯x=Π

ˆτ

(σ(X))�

若f对应的是向量的无穷范数，令ˇτ>0,f

ˇτ

7→R�且f

ˇτ

(x):=ˇτ∥x∥

∞

�函数f

ˇτ

在点

x∈R

处Moreau-Yosida正则化定义如下：

min

y∈ R

ˇτ

(y)+

∥y−x∥

.(2.8)

∥·∥表示向量的欧式范数。事实上，向量的无穷范数的对偶函数是向量的1范数。根据(2.2)或(2.3)，

同样有

ˇτ

(x)=x−Π

ˇτ

(x),(2.9)

其中闭球B

ˇτ

定义为B

ˇτ

:={x∈R

:∥x∥

≤ˇτ}�其中Π

ˇτ

(x)可由命题1得到。

3.Gauss回代交替方向法求解逆问题

经典的交替方向法(ADMM)适用于线性约束目标可分离变量的优化问题，但从收敛性分析上

看,有两个变量的可分离变量形式的问题所对应的交替方向法，其收敛性证明可在文献[3][4][5]

中找到。而对于变量个数超过两个的问题，收敛性分析证明仍然是开放的。而我们的问题(1.6)中

DOI:10.12677/aam.2020.9100864应用数学进展

李丽丹等

的变量是三个，为了保证收敛，我们采用的Gauss回代交替方向法[6]求解它。

问题(1.6)的增广Lagrange函数为

(G,c,y,λ)=∥G−G

∥

+∥c−c

∥

∞

+δ

(y)−⟨λ,c−A

⊤

y+Gx

⟩+

∥c−A

⊤

y+Gx

∥

其中β>0是等式约束c−A

⊤

y+Gx

=0的罚参数，∥·∥

表示矩阵的Frobenius范数，∥·∥表

示向量的欧式范数。为了方便下面的讨论，我们定义如下的符号以及矩阵

集合W:=S

×R

,V:=R

×R

w=(G,c,y,λ)∈W,v=(c,y,λ)∈V.

矩阵

H=Diag(βI,βA

⊤

I),M=







βI00

−βA

βA

⊤







,Q=







βI−βA

⊤

−βA

βA

⊤

−A

I−A

⊤







.(3.1)

结合上述矩阵，下面我们给出Gauss回代交替方向法的具体步骤。

算法3.1(G-ADMM)

取定参数β>0,α∈[0,1),矩阵M,H由上述给出，给定当前迭代步v

=(c

,λ

),则新的迭代

步w

k+1

生成如下：

步1ADMM步（预测步）获得˜w

,˜c

,˜y

=Argmin

G∈S

{∥G−G

∥

∥c

−A

⊤

+Gx

−

∥

}(3.2)

˜c

=Argmin

c∈R

{∥c−c

∥

∞

∥c−A

⊤

−

∥

}(3.3)

˜y

=Argmin

y∈ R

{

∥˜c

−A

⊤

−

∥

}(3.4)

=λ

−β(˜c

−A

⊤

˜y

)(3.5)

步2Gauss回代步（矫正步）

k+1

−αM

−⊤

H(v

−˜v

注解1.(1)，Gauss󰢜󰁀󰺞󲴒󲖃，󲛸[6]；

k+1

−γα

∗

−⊤

H(v

−˜v

),(3.6)

其中γ∈(0,2),

∗

∥v

−˜v

∥

+∥v

−˜v

∥

2∥v

−˜v

∥

(2)便于理论分析，我们固定参数β。关于动态调整β，见文献[7][8]。

(3)算法的收敛性分析见[6]，这里不再赘述。

DOI:10.12677/aam.2020.9100865应用数学进展

李丽丹等

3.1.非精确求解子问题(3.2)

子问题(3.2)可知是下述问题的最优解

min∥Y∥

∥b

+Gx

∥

s.t.G−G

=Y,

G≽0

(3.7)

其中记b

:=c

−A

⊤

−λ

/β.我们注意到问题(3.7)是一个目标函数可分离的凸规划问题，且其

未知变量为两个，所以可以采用经典的交替方向法求解。此问题与[9]中求解问题非常相似，所以

我们也采用它的求解方法。问题(3.7)的增广Lagrange函数

(Y,G,Ξ)=∥Y∥

∥b

+Gx

∥

−⟨Ξ,G−G

−Y⟩+

∥G−G

−Y∥

其中ρ是对应等式约束的罚参数。同样给出其交替方向法的迭代形式：

l+1

=Argmin{∥Y∥

∥G

−G

−Y−

∥

}(3.8)

l+1

=Argmin

G∈S

{∥Gx

∥

∥G−(G

l+1

)∥

}(3.9)

l+1

=Ξ

−ρ(G

l+1

−Y

l+1

−G

).(3.10)

对于(3.8)，令

Y:=G

−G

−Ξ

/ρ.由预备知识的公式(2.4)中的可得

l+1

Y−Π

1/ρ

∗

(

Y),(3.11)

其中Π

1/ρ

∗

(·)为到闭球B

1/ρ

∗

:={X∈R

m×n

|∥X∥

∗

≤1/ρ}内的投影算子。

关于(3.9)，我们注意到其没有显示解，所以讨论其非精确求解。为保证解的稳定性，通常对

相应子问题进行加二次临近正则化项的正则化处理，即考虑如下极小值问题

l+1

=Argmin

G∈S

{

∥Gx

∥

∥G−(G

l+1

)∥

2τ

∥G−G

∥

}(3.12)

其中1/τ>0为正则化临近参数。为了方便讨论，记(3.12)中的目标函数为f(G)�则f(G)关于G

的梯度为

∇f(G)=



(Gx

0⊤

(Gx

)

⊤



+ρ



G−(G

l+1

)



(G−G

)(3.13)

令G

l+1

exact

为带正则化项子问题(3.12)的精确解，则有G

l+1

exact

满足投影方程

l+1

exact



l+1

exact

−τ∇f(G

l+1

exact

)



DOI:10.12677/aam.2020.9100866应用数学进展

李丽丹等

值得注意的是，对于非精确标准的选取，应当考虑在具体计算中容易执行的不包含精确解G

l+1

exact

信息的非精确标准。为此本文选取[10]中给出的非精确标准来计算近似解G

l+1

。其方法是引入误

差项ξ

，使得近似解满足新的带误差项ξ

的投影方程

l+1

=Π



l+1

−τ∇f(G

l+1

)+ξ



(3.14)

其中误差项ξ

满足[10]中给的下列两种非精确标准之一，

绝对误差标准：∥ξ

∥

≤ε

,其中

∞



<+∞,(3.15)

或

相对误差标准：∥ξ

∥

≤ε

∥G

l+1

−G

∥

,其中

∞



<+∞.(3.16)

我们选择按照如下方式求解满足(3.15)或(3.16)的误差项ξ

和近似解G

l+1

。非精确迭代方法的基

本思想是在某种适当的非精确标准下寻求G

l+1

exact

的近似解，记为G

l+1

。首先选择一个收敛到精确

解G

l+1

exact

的近似序列{G

l+1

}�即

l+1

→Π



l+1

−τ∇f(G

l+1

)



,当j→∞.(3.17)

定义新的序列

l+1

:=Π



l+1

−τ∇f(G

l+1

)



.(3.18)

由(3.17)知道，

l+1

−

l+1

→0,当j→∞.(3.19)

进而对于任意给定的ε

�存在整数i

k+1

，使得当j>i

k+1

时，恒有

∥τ∇f(

l+1

)−τ∇f(G

l+1

)+G

l+1

−

l+1

∥

≤ε

(3.20)

或者

∥τ∇f(

l+1

)−τ∇f(G

l+1

)+G

l+1

−

l+1

∥

≤ε

∥G

l+1

−

l+1

∥

.(3.21)

事实上(3.18)可以写成

l+1

=Π



l+1

−τ∇f(

l+1

)+τ∇f(

l+1

)−τ∇f(G

l+1

)+G

l+1

−

l+1



.(3.22)

定义误差项

:=τ∇f(

l+1

)−τ∇f(G

l+1

)+G

l+1

−

l+1

τβ



(

l+1

−G

l+1

0⊤

((

l+1

−G

l+1

)

⊤



+τρ(

l+1

−G

l+1

(3.23)

判断误差项ξ

是否满足(3.20)，其中



∞

<+∞或者(3.21)，其中



∞

<+∞.如果一个成

DOI:10.12677/aam.2020.9100867应用数学进展

李丽丹等

立，则停止迭代，并记

l+1

�

基于以上分析，我们采用非精确交替方向法求解子问题(3.7)，而其子问题(3.8)解Y可以给出

具体解析表达式，而(3.9)的解G每次迭代都只需求一个满足(3.15)或(3.16)的近似解即可。下面给

出求解问题(3.7)的非精确交替方向法的迭代格式，参见[9]。

算法3.2(部分非精确算法求解子问题(3.7))。

取定参数ρ>0,τ>0和常数ε

满足(3.15)或(3.16)，给定当前迭代步(Y

,Ξ

),则(Y

l+1

,Ξ

l+1

)

生成如下：

步1按照(3.11)计算Y

l+1

�

步2计算G

l+1

使其满足投影方程G

l+1



l+1

−τ∇f(G

l+1

)+ξ



�

其中ξ

满足非精确标准(3.15)或(3.16)。

步3Ξ

l+1

=Ξ

−ρ(G

l+1

−Y

l+1

−G

)�

显然，算法3.2的有效性取决于快速地求解Y和G子问题，因为Y子问题可以精确求解,

故算法3.2的关键是选取快速的内迭代求解G子问题以获取满足非精确标准的近似解G

l+1

。注

意到对于带正则项的G子问题(3.12)，其实质是一个标准的Frobenius范数下结构约束矩阵最小

二乘问题．我们选择谱投影梯度算法(SPG)[11]求近似解G

l+1

，利用SPG算法在非精确标准

(3.15)或(3.16)下计算(3.12)的近似解G

l+1

和ξ

的迭代格式如下：

算法3.3(SPG算法在非精确标准(3.15)或(3.16)下计算(3.12)的近似解G

l+1

和ξ

)。

步1输入正整数

M>1，参数α

min

>0α

max

>α

min

,γ∈(0,1),以及0<σ

<σ

<1.任取

∈[α

min

,α

max

],并取算法1中的第l步G

作为初始矩阵，即令G

,并令j←0�

步2计算D

−α

∇f(G

))−G

,并令λ←1。

步3计算

G=G

+λD

�

步4若

G)≤max

0≤t≤min{j,

M−1}

f(G

j−t

)+γλ⟨D

,∇f(G

)⟩,(3.24)

则令G

j+1

G,s

j+1

−G

=∇f(G

j+1

)−∇f(G

),进入步5；否则定义λ

new

∈

{σ

λ,σ

λ},λ←λ

new

,返回步3。

步5计算b

=⟨s

⟩,若b

≤0,则令α

j+1

=α

max

;否则计算a

=⟨s

⟩和α

j+1

min{α

max

,max{α

min

}},并令j←j+1�

步6令

−τ∇f(G

)),ξ

=τ∇f(

)−τ∇f(G

)+G

−

若∥ξ

∥

≤ε

成立，其中



∞

l=0

<+∞;或者∥ξ

∥

≤ε

∥G

−

∥

,其中



∞

l=0

<+∞,

则终止迭代并令G

l+1

�否则返回到步2。

该算法的收敛性分析参看[9]，这里不再详述。算法3.2的收敛准则标准取为

max



∥Y

l+1

−Y

∥

,∥G

l+1

−G

∥

,∥G

−G

−Y

l+1

∥



≤ε,

DOI:10.12677/aam.2020.9100868应用数学进展

李丽丹等

其中ε为预设的精度。

3.2.求解子问题(3.3)

记c

′

=c−c

,¯c=A

⊤

−

−c

,则子问题(3.3)另写为

˜c

=Argmin

′

∈R

{∥c

′

∥

∞

∥c

′

−¯c∥

}+c

由预备知识中的公式(2.2)或(2.3)可知

Argmin

′

∈R

{∥c

′

∥

∞

∥c

′

−¯c∥

}=¯c−Π

1/ρ

(¯c),

其中Π

1/ρ

(·)为到闭球B

1/ρ

:={x∈R

|∥x∥

≤1/ρ}内的投影算子。而Π

1/ρ

(·)的具体计算由命

题1得。

3.3.求解子问题(3.4)

˜y

本质是下述问题的最优解

min

∥˜c

−A

⊤

−

∥

s.t.y≥0

为了方便，记N

:=˜c

−

:=A

⊤

如果A

是行满秩矩阵，则˜y

是下述简单凸二

次规划问题的解

minf

⊤

y−⟨A

,y⟩

s.t.y≥0

(3.25)

我们只需利用matlab自带的函数quadprog求解此问题即可。

4.数值实验

本节给出利用算法3.1求解逆问题(1.6)的数值实验。验的测试环境为Win7旗舰版操作系统，

存4.0G，频3.40Hz,MATLABR2014a。

1.初始参数A

∈R

p×n

∈R

∈S

均为随机生成,x

=ones(n,1)。

2.初始点的选取为

=zeros(n,1),

=ones(p,1),

=zeros(n,1).

DOI:10.12677/aam.2020.9100869应用数学进展

李丽丹等

3.算法3.1的终止准则为

stopc=max{

∥G

k+1

−G

∥

∥G

∥

∥c

k+1

−c

∥

∥c

−c

∥

∥y

k+1

−y

∥

∥y

−y

∥

}≤ϵ,

ϵ为预设精度，实验中取ϵ=10

−4

。

4.β=5。

表1中各个变量说明：p,n表示矩阵A

的行数和列数，time(s)和iter分别表示算法1的运

行的时间和迭代次数，res表示终止准则stopc的最终值。

Table1.Numericalresultsofalgorithms3.1

表1.算法3.1的数值结果

pntime(s)iterres

20208.36460.925e−04

205025.02360.873e−04

5050126.63380.569e−04

50100545.24670.654e−04

1001001134.14980.176e−04

1002002197.03310.54e−04

2002006231.06420.427e−04

5.结论

本文求解了一类二次规划逆问题，该问题可转化为目标函数可分离变量的线性约束问题，由

于其未知变量超过两个，为了保证收敛性，故采用Gauss回代交替方向法求解，最后给出数值实

验，从数值实验中我们可以看出，法3.1对于求解本文提出的二次规划逆问题(1.2)在维数不是很

高的情况下还是非常有效的。

参考文献

[1]Rockafellar,R.T.(1970)ConvexAnalysis.PrincetonUniversityPress,Princeton.

https://doi.org/10.1515/9781400873173

[2]John, D.,Shai, S.S.,Yoram, S., et al. (2008) EﬃcientProjections onto theℓ1-Ball for Learning

inHighDimensions.Proceedingsofthe25thInternationalConferenceonMachineLearning,

Helsinki,Finland,July2008,272-279.

[3]Boyd,S.,Parikh,N.,Chu,E.,Peleato,B.andEckstein,J.(2011)DistributedOptimization

andStatisticalLearningviatheAlternatingDirectionMethodofMultipliers.Foundations

andTrendsinMachineLearning,3,1-122.https://doi.org/10.1561/2200000016

DOI:10.12677/aam.2020.9100870应用数学进展

李丽丹等

[4]Eckstein,J.andBertsekas,D.P.(1992)OntheDouglas—RachfordSplittingMethodandthe

Proximal Point AlgorithmforMaximalMonotoneOperators.MathematicalProgramming,55,

293-318.https://doi.org/10.1007/BF01581204

[5]Gabay,D.andMercier,B.(1976)ADualAlgorithmforthe SolutionofNonlinearVariational

ProblemsviaFiniteElementApproximation.ComputersMathematicswithApplications,2,

17-40.https://doi.org/10.1016/0898-1221(76)90003-1

[6]He,B.,Tao,M.andYuan,X.(2012)AlternatingDirectionMethodwithGaussianBack

SubstitutionforSeparableConvexProgramming.SIAMJournalonOptimization,22,313-

340.https://doi.org/10.1137/110822347

[7]He,B.,Wang,S.andYang,H.(2003)AModiﬁedVariable-PenaltyAlternatingDirections

MethodforMonotoneVariationalInequalities.JournalofComputationalMathematics,21,

495-504.

[8]He,B.S.,Yang,H.andWang,S.L.(2000)AlternatingDirectionMethodwithSelf-Adaptive

PenaltyParametersforMonotoneVariationalInequalities.JournalofOptimizationTheory

andApplications,106,337-356.https://doi.org/10.1023/A:1004603514434

[9]李姣芬,宋丹丹,李涛,等.核范数和谱范数下广义Sylvester方程最小二乘问题的有效算法[J].

计算数学,2017,39(2):129-150.

[10]Ng,M.K.,Wang,F.andYuan,X.(2011)InexactAlternatingDirectionMethodsforImage

Recovery.SIAMJournalonScientiﬁcComputing,33,1643-1668.

https://doi.org/10.1137/100807697

[11]Birgin,E.G.,Mario,J.andRaydan,M.M.(2000)NonmonotoneSpectralProjectedGradient

MethodsonConvexSets.SIAMJournalonOptimization,10,1196-1211.

https://doi.org/10.1137/S1052623497330963

DOI:10.12677/aam.2020.9100871应用数学进展