本文在低秩矩阵逼近(Low-rank Matrix Approximation, LRMA)问题的基础上将其推广到张量上,提出了利用非凸正则化构造凸优化问题来估计低秩张量的方法,采用参数化的非凸罚函数估计非零的奇异值,并求出了该目标函数的全局最优解。实验结果表明,该方法能很好处理低秩张量逼近问题,实现图像去噪。 In this paper, we extended the low rank matrix approximation problem to tensors. A method for estimating low-rank tensors by constructing convex optimization problems with non-convex reg-ularization is proposed. The non-zero singular values are estimated by parameterized non-convex penalty functions, and the global optimal solution of the objective function is obtained. The ex-perimental results show that this method can deal with the low rank tensor approximation problem very well and achieve image denoising.
马婷婷,冯晓亭
辽宁师范大学数学学院,辽宁 大连
收稿日期:2019年7月15日;录用日期:2019年8月1日;发布日期:2019年8月8日
本文在低秩矩阵逼近(Low-rank Matrix Approximation, LRMA)问题的基础上将其推广到张量上,提出了利用非凸正则化构造凸优化问题来估计低秩张量的方法,采用参数化的非凸罚函数估计非零的奇异值,并求出了该目标函数的全局最优解。实验结果表明,该方法能很好处理低秩张量逼近问题,实现图像去噪。
关键词 :非凸正则化,低秩张量,凸优化,图像去噪
Copyright © 2019 by author(s) and Hans Publishers Inc.
This work is licensed under the Creative Commons Attribution International License (CC BY).
http://creativecommons.org/licenses/by/4.0/
近年来,低秩逼近广泛应用于信号处理 [
定义1 (张量的切片)对于一个三阶张量 A i j k ,用 A ( i , : , : ) , A ( : , i , : ) , A ( : , : , i ) 分别表示张量 A 第i个水平的,侧面的和正面的切片,通常记正面切片 A ( i ) = ( : , : , i ) 。
定义2 (离散傅里叶变换)设张量 A ∈ R n 1 × n 2 × n 3 沿着第三维度的傅里叶变换得到 A ¯ ∈ C n 1 × n 2 × n 3 ,在傅里叶变换域中块循环矩阵可以被映射到傅里叶变换域的一个块对角矩阵。
记 块循环矩阵为
b c i r c ( A ) = [ A ( 1 ) A ( n 3 ) ⋯ A ( 2 ) A ( 2 ) A ( 1 ) ⋯ A ( 3 ) ⋮ ⋮ ⋱ ⋮ A ( n 3 ) A ( n 3 − 1 ) ⋯ A ( 1 ) ] ∈ C n 1 n 3 × n 2 n 3 (1)
记 块对角矩阵为
A ¯ = b d i a g ( A ¯ ) = [ A ¯ ( 1 ) A ¯ ( 2 ) ⋱ A ¯ ( n 3 ) ] ∈ C n 1 n 3 × n 2 n 3 (2)
定义3 [
‖ A ‖ ∗ = 〈 S , I 〉 = ∑ i = 1 r S ( i , i , 1 ) (3)
其中 I 表示单位张量, r = r a n k t ( A ) 。
假设1 [
1) ϕ 在R上连续并且 ϕ 在 R / { 0 } 上是连续可微的且为偶函数即 ϕ ( − x ; a ) = ϕ ( x ; a )
2) ϕ ′ ( x ; a ) ≥ 0 , ∀ a > 0
3) ϕ ″ ( x ; a ) ≤ 0 , ∀ a > 0 (4)
4) ϕ ′ ( 0 − ; a ) = 1
5) inf X ≠ 0 ϕ ″ ( x ; a ) = ϕ ″ ( 0 + ; a ) = − a
定理1 [
A = U ∗ S ∗ V ∗ (5)
其中 U ∈ R n 1 × n 1 × n 3 和 V ∈ R n 2 × n 2 × n 3 都是正交张量, S ∈ R n 1 × n 2 × n 3 是F-对角张量。
定理 2 [
X ¯ = U ⋅ Θ ( Σ ; λ , a ) ⋅ V T (6)
其中 Θ ( y ; λ , a ) : = arg min x ∈ R { 1 2 ( y − x ) 2 + λ ϕ ( x ; a ) } 是函数 ϕ 的近端算子。
设 Y 为受到噪声污染后的低秩张量, X 为潜在的目标低秩张量, E 为高斯噪声张量。则有 Y = X + E 。所以低秩张量逼近模型如下:
arg min X { Ψ ( X ) = 1 2 ‖ Y − X ‖ F 2 + λ ∑ i = 1 k ϕ ( S ( i , i , 1 ) , a ) } (7)
本文假设所有张量都是三阶张量即 X ∈ R n 1 × n 2 × n 3 , Y ∈ R n 1 × n 2 × n 3 。其中 k = min ( n 1 n 3 , n 2 n 3 ) , ϕ 是稀疏产生的正则化函数,所以它可能是非凸的。 S ( i , i , 1 ) 表示张量 X 奇异值分解后F-对角张量的第一个正面切面。
由式(1)可得 ∑ i = 1 r S ( i , i , 1 ) = ‖ A ‖ ∗ 则有 λ ∑ i = 1 k ϕ ( S ( i , i , 1 ) , a ) = λ ϕ ( ‖ A ‖ ∗ , a ) (8)
可以得到目标函数的如下形式:
1 2 [ 1 n 3 ‖ Y ¯ ‖ F 2 + ‖ X ¯ ‖ F 2 − 2 ⋅ 1 n 3 〈 Y ¯ , X ¯ 〉 ] + λ ϕ ( ‖ X ‖ ∗ , a ) (9)
由张量核范数与矩阵核范数之间的关系,所以目标函数可以写成如下形式:
1 2 n 3 ‖ Y ¯ − X ¯ ‖ F 2 + 1 n 3 λ ϕ ( ‖ X ¯ ‖ ∗ , a ) = 1 n 3 [ 1 2 ‖ Y ¯ − X ¯ ‖ F 2 + λ ∑ i = 1 k ϕ ( σ i ( X ¯ ) , a ) ] (10)
式中 X ¯ , Y ¯ ∈ R n 1 n 3 × n 2 n 3 , σ i 表示矩阵 X ¯ 的第i个奇异值, k = min ( n 1 n 3 , n 2 n 3 ) 。
根据定理2可以得到目标函数的最优解为
1 n 3 ( U ⋅ Θ ( Σ ; λ , a ) ⋅ V T ) (11)
其中 Θ ( Σ ; λ , a ) : = arg min X ∈ R { 1 2 ( Σ − X ) 2 + λ ϕ ( X ; a ) }
对于一个噪声图像 Y ,将其进行奇异值分解后得到的F-对角张量的第一个正面切片记为Y,通过块匹配方法可以得到非局部自相似块矩阵 Y j ,则有 Y j = X j + W j ,其中 X j 和 W j 分别表示清晰图像和高斯噪声。通过叠加这些非局部的相似块形成张量,为了从 Y j 中提取出 X j ,我们构造了如下目标函数:
X ^ j : = arg min X { 1 2 ‖ Y j − X ‖ F 2 + λ ∑ i = 1 m ϕ ( S ( i , i , 1 ) ; a ) } (10)
根据定理2可得到(10)的最优解为 X ^ j = 1 n 3 ( U j ⋅ Θ ( Σ j ; λ , a ) ⋅ V j T ) 。
图1. 不同方法去噪效果对比
图1显示了使用不同的方法对噪声图像进行去噪的结果。表1列出了三种测试图像的平均PSNR值和运行时间。所提出的LRTA方法与BM3D、PS和WNNM方法相比可以获得更高的PSNR。在图像质量方面,所提出的LRTA方法也更为清晰一些。
比较上述3幅图像的PSNR值 | 比较上述3幅图像的运行时间 | |||||||||
---|---|---|---|---|---|---|---|---|---|---|
Index | BM3D | WNNM | PS | LRTA | Index | BM3D | WNNM | PS | LRTA | |
1 | 24.31 | 24.53 | 25.12 | 29.10 | 1 | 14.98 | 13.79 | 12.45 | 12.72 | |
2 | 26.45 | 26.45 | 27.66 | 30.91 | 2 | 26.93 | 25.20 | 23.47 | 23.38 | |
3 | 28.62 | 28.30 | 28.59 | 32.33 | 3 | 12.96 | 12.24 | 10.70 | 10.64 |
表1. PSNR值和运行时间数据
本文提出了一种新的方法来估计低秩张量。尽管正则化项不是凸的,但所提出的目标函数是凸的。通过对输入张量进行离散的傅里叶变换后再进行奇异值分解,得到F-对角张量的第一个正面切面形成的矩阵的奇异值进行阈值化,得到目标函数的非迭代解。在基于非局部自相似的图像去噪算法中,证明了该方法的有效性。
马婷婷,冯晓亭. 改进的低秩张量逼近算法Enhanced Low Rank Tensor Approximation Algorithm[J]. 应用数学进展, 2019, 08(08): 1336-1340. https://doi.org/10.12677/AAM.2019.88157