上海理工大学理学院，上海

收稿日期：2024年2月27日；录用日期：2024年3月23日；发布日期：2024年4月23日

摘要

本文主要研究如下带有奇异非线性项的分数阶p-Kirchhoff方程解的存在性： $\{\begin{array}{ll}M\left({\displaystyle {\int }_{{ℝ}^N}}{\displaystyle {\int }_{{ℝ}^N}}\frac{{\left|u\left(x\right)-u\left(y\right)\right|}^p}{{\left|x-y\right|}^{N+ps}}\text{d}y\text{d}x\right){\left(-\Delta \right)}_p^{s}u+\mu {\left|u\right|}^{q-2}u=\lambda g\left(x\right)u^{-\gamma }+f\left(x,u\right),\hfill & x\in \Omega ,\hfill \\ u=0,\hfill & x\in \partial \Omega ,\hfill \end{array}$

其中 $\Omega \subset {ℝ}^N$ $\left(N>ps\right)$ 是一个边界光滑的有界区域， ${\left(-\Delta \right)}_p^s$ 是一个分数阶p-Laplace算子， $M\left(t\right)=a+b{t}^{k-1}$ ， $t\ge 0$ ， $a,b>0$ 。假设 $\gamma \in \left(0,1\right)$ ， $s\in \left(0,1\right)$ ， $\lambda$ 是一个正实数， $1<p<pk<p_s^{\ast }$ ，其中 $p_s^{\ast }$ 是分数阶索伯列夫临界指数。通过Nehari流行方法和变分法，证明了该方程解的存在性。

关键词

Kirchhoff型方程，分数阶p-Laplace方程，Nehari流行，变分法

Existence of Solutions for a Fractional p-Kirchhoff Equation with Singular Nonlinearity

Ying Zhang

College of Science, University of Shanghai for Science and Technology, Shanghai

Received: Feb. 27^th, 2024; accepted: Mar. 23^rd, 2024; published: Apr. 23^rd, 2024

ABSTRACT

This paper studies the following fractional p-Kirchhoff equation with singular nonlinearity: $\{\begin{array}{ll}M\left({\displaystyle {\int }_{{ℝ}^N}}{\displaystyle {\int }_{{ℝ}^N}}\frac{{\left|u\left(x\right)-u\left(y\right)\right|}^p}{{\left|x-y\right|}^{N+ps}}\text{d}y\text{d}x\right){\left(-\Delta \right)}_p^{s}u+\mu {\left|u\right|}^{q-2}u=\lambda g\left(x\right)u^{-\gamma }+f\left(x,u\right),\hfill & x\in \Omega ,\hfill \\ u=0,\hfill & x\in \partial \Omega ,\hfill \end{array}$

where $\Omega$ is a bounded smooth domain of ${ℝ}^N$ $\left(N>ps\right)$, ${\left(-\Delta \right)}_p^s$ is a fractional p-Laplace operator, $M\left(t\right)=a+b{t}^{k-1}$ , $t\ge 0$ , $a,b>0$ . Suppose $\gamma \in \left(0,1\right)$ , $s\in \left(0,1\right)$ , $\lambda$ is a positive real number, $1<p<pk<p_s^{\ast }$ , where $p_s^{\ast }$ is the fractional Sobolev critical exponent. The existence of the equation is proved by Nehari manifold method and variational method.

Keywords:Kirchhoff Type Equation, Fractional p-Laplace Equation, Nehari Manifold, Variational Method

Copyright © 2024 by author(s) and Hans Publishers Inc.

This work is licensed under the Creative Commons Attribution International License (CC BY 4.0).

http://creativecommons.org/licenses/by/4.0/

1. 引言

设 $s\in \left(0,1\right)$ ， $p\in \left(1,\infty \right)$ ， $\Omega \subset {ℝ}^N$ 是一个边界光滑的有界区域，本文考虑如下问题：

$\{\begin{array}{ll}M\left({\displaystyle {\int }_{{ℝ}^N}}{\displaystyle {\int }_{{ℝ}^N}}\frac{{\left|u\left(x\right)-u\left(y\right)\right|}^p}{{\left|x-y\right|}^{N+ps}}\text{d}y\text{d}x\right){\left(-\Delta \right)}_p^{s}u+\mu {\left|u\right|}^{q-2}u=\lambda g\left(x\right)u^{-\gamma }+f\left(x,u\right),\hfill & x\in \Omega ,\hfill \\ u=0,\hfill & x\in \partial \Omega ,\hfill \end{array}$ (1.1)

其中 $\gamma \in \left(0,1\right)$ ， $\lambda$ 是正实数， $1<p<pk<p_s^{*}=\frac{Np}{N-ps}$ ， $N>ps$ 。 ${\left(-\Delta \right)}_p^s$ 是分数阶p-Laplace算子，定义为：

${\left(-\Delta \right)}_p^{s}u\left(x\right)=2\underset{\epsilon \to 0}{\lim }{\displaystyle {\int }_{{ℝ}^N\backslash B_{\epsilon }\left(x\right)}\frac{{\left|u\left(x\right)-u\left(y\right)\right|}^{p-2}\left(u\left(x\right)-u\left(y\right)\right)}{{\left|x-y\right|}^{N+ps}}\text{d}y}$ ， $x\in {ℝ}^N$ 。

近年来，由于椭圆型的分数算子和非局部算子在金融、薄障碍、优化等问题应用广泛，因此该类算子的研究也受到越来越多的关注。在 [1] [2] [3] 中，利用变分法研究了分数阶拉普拉斯算子的半线性Dirichlet问题，在 [4] [5] [6] [7] 中研究了带有凹凸非线性项的非局部算子的存在性和多重性结果，在 [8] [9] 中研究了分数阶p-Laplace算子的特征值问题和最小特征值的简单性质，在 [10] 中研究了带有超线性项和奇异非线性的(p, q)拉普拉斯问题解的存在性和正则性问题。

在 $s=1$ 的情况下，Crandal M. G.，Rabinowitz P. H.和Tartar L.在 [11] 最先研究了一类带有奇异非线性项问题的半线性问题。此后许多作者利用 [11] 中的技术将其与Nehari流行方法结合，研究了Laplace算子、p-Laplace算子、分数阶Laplace算子和分数阶p-Laplace算子的问题，见 [12] [13] [14] 。在 [15] [16] 中，Tuhina M.和Yang D. D.研究了类似的奇异问题：

${\left(-\Delta \right)}_p^{s}u=\lambda u^{-q}+u^{\alpha }$ ，

其中在 $\Omega$ 中 $u>0$ ，在 ${ℝ}^N\backslash \Omega$ 上 $u=0$ ，利用Nehari流行方法证明了方程解的存在性。在 [17] 中，Fiscella A.和Mishra P. K.研究了如下的一类奇异Kirchhoff问题：

$M\left({\displaystyle {\int }_{{ℝ}^N}{\displaystyle {\int }_{{ℝ}^N}\frac{{\left|u\left(x\right)-u\left(y\right)\right|}^2}{{\left|x-y\right|}^{N+2s}}\text{d}x\text{d}y}}\right){\left(-\Delta \right)}^{s}u=\lambda f\left(x\right)u^{-\gamma }+g\left(x\right)u^{2_s^{*}-1}$ ，

其中 $\Omega \subset {ℝ}^N$ 是一个有界开集， $\gamma \in \left(0,1\right)$ ， $f\in L^{\frac{2_s^{*}}{2_s^{*}+\gamma -1}}\left(\Omega \right)$ 。类似的分数阶Kirchhoff 问题和分数阶p-Kirchhoff问题还有很多，例如 [18] [19] [20] 等。

受 [13] [15] [16] [17] [20] 等文献的启发，本文研究问题(1.1)解的存在性，更加深入地了解用Nehari方法和变分法证明解的存在性，为该领域的进一步研究提供了新的思路和方法。首先给出如下假设：

(H₁) $g\left(x\right)$ 在 $\Omega$ 上处处为正，且对于 $1<d<q<p$ ，

$g\in L^{\frac{d}{d+\gamma -1}}\left(\Omega \right)$ ；

(H₂) $F:\bar{\Omega }\times ℝ\to ℝ$ 是连续函数，并且对于任意的 $t>0$ ，我们有

$F\left(x,tu\right)=t^{r}F\left(x,u\right)$ ，

其中 $F\left(x,u\right)={\displaystyle {\int }_0^{u}f\left(x,s\right)\text{d}s}$ ， $1<p<pk<r<p_s^{*}$ 。

注记1.1 由(H₂)，不难看出对于任意的 $\left(x,u\right)\in \bar{\Omega }\times ℝ$ 和常数 $C>0$ ，我们有

$uf\left(x,u\right)=rF\left(x,u\right)$

和

$\left|F\left(x,u\right)\right|\le C{\left|u\right|}^r$

成立。

本文的主要结果如下：

定理1.1 假设条件(H₁)~(H₃)成立，那么存在 $\left({\lambda }^{*},{\mu }^{*}\right)\in \left(0,\infty \right)\times \left(0,\infty \right)$ ，使得对任意的 $\lambda \in \left(0,{\lambda }^{*}\right)$ ， $\mu \in \left(0,{\mu }^{*}\right)$ ，问题(1.1)至少有两个非平凡解。

本文的结构安排如下：第二部分，介绍一些勒贝格空间和分数阶索伯列夫空间的一些基础知识；第三部分，给出一些主要引理及其证明；第四部分是定理1.1的证明。

2. 符号说明和基础知识

在本节中，回忆一些关于勒贝格空间和分数阶索伯列夫空间的一些必要的基础知识，对于更多细节的地方，可以参考 [21] [22] [23] 。 $L^p\left({ℝ}^N\right)$ 表示值域为 $ℝ$ 的 ${ℝ}^N$ 上的函数空间

$L^p\left({ℝ}^N\right)=\left\{u:\left({ℝ}^N\right)\to ℝ,{\displaystyle {\int }_{{ℝ}^N}{\left|u\right|}^p\text{d}x}<\infty \right\}$ ，

记 ${\Vert u\Vert }_{L^p\left({ℝ}^N\right)}={\left({\displaystyle {\int }_{{ℝ}^N}{\left|u\right|}^p\text{d}x}\right)}^{\frac{1}{p}}$ ，令 $s\in \left(0,1\right)$ ， $N>ps$ ， $p\in \left(1,\infty \right)$ ，考虑空间

$W^{s,p}\left({ℝ}^N\right)=\left\{u\in L^p\left({ℝ}^N\right):\left[u\right]<\infty \right\}$ ，

记

${\Vert u\Vert }_{W^{s,p}\left({ℝ}^N\right)}={\Vert u\Vert }_{L^p\left({ℝ}^N\right)}+\left[u\right]$ ，

其中

$\left[u\right]={\left({\displaystyle \underset{{ℝ}^{2N}}{\iint }\frac{{\left|u\left(x\right)-u\left(y\right)\right|}^p}{{\left|x-y\right|}^{N+ps}}\text{d}y\text{d}x}\right)}^{\frac{1}{p}}$

称为Gagliardo半范数。

现在定义空间

$X_0\left(\Omega \right)=\left\{u\in W^{s,p}\left({ℝ}^N\right):u=0在\mathcal{C}\Omega 中\right\}$ ，

在这里， $\mathcal{C}\Omega ={ℝ}^N\backslash \Omega$ 表示 $\Omega$ 在 ${ℝ}^N$ 中的补集，定义 $X_0\left(\Omega \right)$ 上的范数为

$\Vert u\Vert ={\left({\displaystyle \underset{Q}{\iint }\frac{{\left|u\left(x\right)-u\left(y\right)\right|}^p}{{\left|x-y\right|}^{N+ps}}\text{d}x\text{d}y}\right)}^{\frac{1}{p}}$ ，

其中 $Q={ℝ}^{2N}\backslash \left(\mathcal{C}\Omega \times \mathcal{C}\Omega \right)$ 。

定理2.1 ( [23] ，定理6.7)令 $s\in \left(0,1\right)$ ， $p\in \left[1,+\infty \right)$ ， $\Omega \subset {ℝ}^N$ 是一个有界区域，那么存在一个正的常数 $C\left(N,p,s,\Omega \right)$ ，使得对于任意的 $f\in X_0\left(\Omega \right)$ ，有

${\Vert f\Vert }_{L^q\left(\Omega \right)}\le C\left(N,p,s,\Omega \right)\Vert f\Vert$

成立，其中 $q\in \left[1,p_s^{*}\right]$ ， $p_s^{*}=\frac{Np}{N-ps}$ 称为分数阶索伯列夫临界指数。

定义2.1 我们说 $u\in X_0$ 是问题(1.1)的弱解，如果对于任意的 $v\in X_0$ ，都有

$\left(a+b{\Vert u\Vert }^{p\left(k-1\right)}\right)\langle u,v\rangle +\mu {\displaystyle {\int }_{\Omega }{\left|u\right|}^{q-1}uv\text{d}x}=\lambda {\displaystyle {\int }_{\Omega }g\left(x\right){\left|u\right|}^{-\gamma }v\text{d}x}+{\displaystyle {\int }_{\Omega }f\left(x,u\right)v\text{d}x}$

成立，其中

$\langle u,v\rangle ={\displaystyle \underset{Q}{\iint }\frac{{\left|u\left(x\right)-u\left(y\right)\right|}^{p-2}\left(u\left(x\right)-u\left(y\right)\right)\left(v\left(x\right)-v\left(y\right)\right)}{{\left|x-y\right|}^{N+ps}}\text{d}y\text{d}x}$ 。

3. 主要引理的证明

为了证明本文的主要结果，首先证明一些基本的引理。与问题(1.1)相关的能量泛函 $J:X_0\to ℝ$ ，如下所示：

$J\left(u\right)=\frac{a}{p}{\Vert u\Vert }^p+\frac{b}{pk}{\Vert u\Vert }^{pk}+\frac{\mu }{q}{\displaystyle {\int }_{\Omega }{\left|u\right|}^q\text{d}x}-\frac{\lambda }{1-\gamma }{\displaystyle {\int }_{\Omega }g\left(x\right){\left|u\right|}^{1-\gamma }\text{d}x}-{\displaystyle {\int }_{\Omega }F\left(x,u\right)\text{d}x}$ 。

注意到由于奇异项的存在， $J\left(u\right)$ 并不是可微的，因此考虑一类纤维映射 ${\phi }_u$ ，其在 [24] 中被Drabek P.和Pohozaev S. I.介绍。定义纤维映射 ${\phi }_u$ 如下：

$\begin{array}{l}{\phi }_u\left(t\right)=J\left(tu\right)=\frac{a{t}^p}{p}{\Vert u\Vert }^p+\frac{b{t}^{pk}}{pk}{\Vert u\Vert }^{pk}+\mu \frac{t^q}{q}{\displaystyle {\int }_{\Omega }{\left|u\right|}^q\text{d}x}\\ -\frac{\lambda t^{1-\gamma }}{1-\gamma }{\displaystyle {\int }_{\Omega }g\left(x\right){\left|u\right|}^{1-\gamma }\text{d}x}-t^r{\displaystyle {\int }_{\Omega }F\left(x,u\right)\text{d}x}.\end{array}$

由(H₂)和注记1.1，可以得到

${{\phi }^{\prime }}_u\left(t\right)=a{t}^{p-1}{\Vert u\Vert }^p+b{t}^{pk-1}{\Vert u\Vert }^{pk}+\mu t^{q-1}{\displaystyle {\int }_{\Omega }{\left|u\right|}^q\text{d}x}-\lambda t^{-\gamma }{\displaystyle {\int }_{\Omega }g\left(x\right){\left|u\right|}^{1-\gamma }\text{d}x}-t^{r-1}{\displaystyle {\int }_{\Omega }f\left(x,u\right)u\text{d}x}$ ，

$\begin{array}{c}{{\phi }^{″}}_u\left(t\right)=a\left(p-1\right)t^{p-2}{\Vert u\Vert }^p+b\left(pk-1\right)t^{pk-2}{\Vert u\Vert }^{pk}+\mu \left(q-1\right)t^{q-2}{\displaystyle {\int }_{\Omega }{\left|u\right|}^q\text{d}x}\\ +\begin{array}{c}\lambda \gamma t^{-\gamma -1}{\displaystyle {\int }_{\Omega }g\left(x\right){\left|u\right|}^{1-\gamma }\text{d}x}\end{array}-\left(r-1\right)t^{r-2}{\displaystyle {\int }_{\Omega }f\left(x,u\right)u\text{d}x}.\end{array}$

J在 $X_0$ 上并不是下有界的，但是在 $X_0$ 的子集上是有界的，称为Nehari流形：

$N_{\lambda }=\left\{u\in X_0\backslash \left\{0\right\}:{{\phi }^{\prime }}_u\left(1\right)=0\right\}$ 。

现在，将 $N_{\lambda }$ 分为以下三个部分：

$N_{\lambda }^{+}=\left\{u\in N_{\lambda }:{{\phi }^{″}}_u\left(1\right)>0\right\}$ ，

$N_{\lambda }^{-}=\left\{u\in N_{\lambda }:{{\phi }^{″}}_u\left(1\right)<0\right\}$ ，

$N_{\lambda }^0=\left\{u\in N_{\lambda }:{{\phi }^{″}}_u\left(1\right)=0\right\}$ 。

对于 $u\in N_{\lambda }$ ，我们有

${{\phi }^{\prime }}_u\left(1\right)=a{\Vert u\Vert }^p+b{\Vert u\Vert }^{pk}+\mu {\displaystyle {\int }_{\Omega }{\left|u\right|}^q\text{d}x}-\lambda {\displaystyle {\int }_{\Omega }g\left(x\right){\left|u\right|}^{1-\gamma }\text{d}x}-{\displaystyle {\int }_{\Omega }f\left(x,u\right)u\text{d}x}=0$ ，

${{\phi }^{″}}_u\left(1\right)=ap{\Vert u\Vert }^p+bpk{\Vert u\Vert }^{pk}+\mu q{\displaystyle {\int }_{\Omega }{\left|u\right|}^q\text{d}x}-\lambda \left(1-\gamma \right){\displaystyle {\int }_{\Omega }g(x){\left|u\right|}^{1-\gamma }\text{d}x}-r{\displaystyle {\int }_{\Omega }f\left(x,u\right)u\text{d}x}$ 。

接下来，令

$\begin{array}{l}P\left(u\right)=a{\Vert u\Vert }^p,K\left(u\right)=b{\Vert u\Vert }^{pk},Q\left(u\right)=\mu {\displaystyle {\int }_{\Omega }{\left|u\right|}^q\text{d}x},\\ R\left(u\right)=\lambda {\displaystyle {\int }_{\Omega }g\left(x\right){\left|u\right|}^{1-\gamma }\text{d}x},S\left(u\right)={\displaystyle {\int }_{\Omega }f\left(x,u\right)u\text{d}x}.\end{array}$

容易看出，

$u\in N_{\lambda }\iff P\left(u\right)+K\left(u\right)+Q\left(u\right)-R\left(u\right)-S\left(u\right)=0$ 。 (3.1)

引理3.1 令 $u\in X_0$ ，那么我们有

(1) 存在一个常数 $C_1>0$ ，使得

$R\left(u\right)\le C_1\lambda {\Vert u\Vert }^{1-\gamma }$ ，

(2) 存在一个常数 $C_2>a$ ，使得

$S\left(u\right)\le C_2{\Vert u\Vert }^r$ 。

证明：(1) 由(H₁)和定理2.1我们有

$\begin{array}{c}R\left(u\right)=\lambda {\displaystyle {\int }_{\Omega }g\left(x\right){\left|u\right|}^{1-\gamma }\text{d}x}\\ {\begin{array}{c}\le \lambda {\Vert g\left(x\right)\Vert }_{L^{\frac{d}{d+\gamma -1}}\left(\Omega \right)}\Vert {\left|u\right|}^{1-\gamma }\Vert \end{array}}_{L^{\frac{d}{1-\gamma }}\left(\Omega \right)}\\ \begin{array}{c}\le \end{array}\lambda {\Vert g\left(x\right)\Vert }_{L^{\frac{d}{d+\gamma -1}}\left(\Omega \right)}C{\left(N,p,s,\Omega \right)}^{1-\gamma }{\Vert u\Vert }^{1-\gamma }\\ \begin{array}{c}\le \end{array}\lambda C_1{\Vert u\Vert }^{1-\gamma },\end{array}$

其中 $C_1=C_1\left(N,p,s,\gamma ,\Omega \right)$ ，是一个正数。

(2) 由(H₂)、注记1.1和定理2.1，我们有

$\begin{array}{c}S\left(u\right)={\displaystyle {\int }_{\Omega }f\left(x,u\right)u\text{d}x}=r{\displaystyle {\int }_{\Omega }F\left(x,u\right)\text{d}x}\\ \le r{\displaystyle {\int }_{\Omega }\left|F\left(x,u\right)\right|\text{d}x}\le Cr{\displaystyle {\int }_{\Omega }{\left|u\right|}^r\text{d}x}\\ \le K{\Vert u\Vert }^r\le C_2{\Vert u\Vert }^r,\end{array}$

其中 $C_2=K+a$ ， $K=CC\left(N,p,s,\Omega \right)r$ 。证毕。

引理3.2 $\lambda >0$ ，J在 $N_{\lambda }$ 上是强制的和下有界的。

证明：令 $u\in N_{\lambda }$ 且 $\Vert u\Vert >1$ 。那么由(3.1)、注记1.1和引理3.1，我们有

$\begin{array}{c}J\left(u\right)=\frac{a}{p}{\Vert u\Vert }^p+\frac{b}{pk}{\Vert u\Vert }^{pk}+\frac{\mu }{q}{\displaystyle \underset{\Omega }{\int }{\left|u\right|}^q\text{d}x}-\frac{\lambda }{1-\gamma }{\displaystyle {\int }_{\Omega }g\left(x\right){\left|u\right|}^{1-\gamma }\text{d}x}-\frac{1}{r}{\displaystyle {\int }_{\Omega }rF\left(x,u\right)\text{d}x}\\ \begin{array}{c}=\frac{1}{p}P\left(u\right)+\frac{1}{pk}K\left(u\right)+\frac{1}{q}Q\left(u\right)-\end{array}\frac{1}{1-\gamma }R\left(u\right)-\frac{1}{r}S\left(u\right)\\ \begin{array}{c}=\left(\frac{1}{p}-\frac{1}{r}\right)P\left(u\right)+\left(\frac{1}{pk}-\frac{1}{r}\right)K\left(u\right)+\left(\frac{1}{q}-\frac{1}{r}\right)Q\left(u\right)-\end{array}\left(\frac{1}{1-\gamma }-\frac{1}{r}\right)R\left(u\right)\\ \begin{array}{c}\ge \left(\frac{1}{p}-\frac{1}{r}\right)a{\Vert u\Vert }^p-\lambda C_1\end{array}\left(\frac{1}{1-\gamma }-\frac{1}{r}\right){\Vert u\Vert }^{1-\gamma }.\end{array}$

因为 $0<1-\gamma <1<p<pk<r<p_s^{*}$ ，所以如果 $\Vert u\Vert \to \infty$ ， $J\left(u\right)\to \infty$ 成立。证毕。

我们令

$\delta =\frac{a\left(r-p\right)}{C_1\left[r-\left(1-\gamma \right)\right]}{\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{pk-\left(1-\gamma \right)}{r-p}}$ ，

其中 $C_1$ 和 $C_2$ 在引理3.1中已被给出。

引理3.3 如果 $0<\lambda <\delta$ ，那么 $N_{\lambda }^0=\varnothing$ 。

证明：用反证法来证明本引理。假设存在 $0<\lambda <\delta$ 使得 $u\in N_{\lambda }^0$ 。

如果 $\Vert u\Vert <1$ ，那么由(3.1)和引理3.1，得到

$\begin{array}{l}0={{\phi }^{″}}_u\left(1\right)=pP\left(u\right)+pkK\left(u\right)+qQ\left(u\right)-\left(1-\gamma \right)R\left(u\right)-rS\left(u\right)\\ =\left(p-r\right)P\left(u\right)+\left(pk-r\right)K\left(u\right)+\left(q-r\right)Q\left(u\right)+\left[r-\left(1-\gamma \right)\right]R\left(u\right)\\ \le a\left(p-r\right){\Vert u\Vert }^p+b\left(pk-r\right){\Vert u\Vert }^p+\mu C_0\left(q-r\right){\Vert u\Vert }^p+\lambda C_1\left[r-\left(1-\gamma \right)\right]{\Vert u\Vert }^{1-\gamma },\end{array}$

那么

${\Vert u\Vert }^{p-\left(1-\gamma \right)}\le \frac{\lambda C_1\left[r-\left(1-\gamma \right)\right]}{a\left(r-p\right)+b\left(pk-r\right)+\mu C_0\left(r-q\right)}\le \frac{\lambda C_1\left[r-\left(1-\gamma \right)\right]}{a\left(r-p\right)}$ 。

因此

$\lambda \ge \frac{a\left(r-p\right)}{C_1\left[r-\left(1-\gamma \right)\right]}{\Vert u\Vert }^{p-\left(1-\gamma \right)}$ 。 (3.2)

再次利用(3.1)和引理3.1，得到

$\begin{array}{l}0={{\phi }^{″}}_u\left(1\right)=pP\left(u\right)+pkK\left(u\right)+qQ\left(x\right)-\left(1-\gamma \right)R\left(u\right)-rS\left(u\right)\\ \begin{array}{c}=\end{array}\left(p-1+\gamma \right)P\left(u\right)+\left(pk-1+\gamma \right)K\left(u\right)+\left(q-1+\gamma \right)Q\left(x\right)-\left[r-\left(1-\gamma \right)\right]S\left(u\right)\\ \begin{array}{c}\ge \end{array}a\left(p-1+\gamma \right){\Vert u\Vert }^p-C_2\left[r-\left(1-\gamma \right)\right]{\Vert u\Vert }^r.\end{array}$

因此

$\Vert u\Vert \ge {\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{1}{r-p}}$ 。 (3.3)

结合(3.2)和(3.3)，可以得到

$\lambda \ge \frac{a\left(r-p\right)}{C_1\left[r-\left(1-\gamma \right)\right]}{\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{p-\left(1-\gamma \right)}{r-p}}$ 。

又因为 $0<1-\gamma <1<p<pk<r<p_s^{*}$ ， $C_2>a$ ，那么

$0<\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}<1$ ，

$\frac{p-\left(1-\gamma \right)}{r-p}<\frac{pk-\left(1-\gamma \right)}{r-p}$ 。

所以

$\begin{array}{c}\lambda \ge \frac{a\left(r-p\right)}{C_1\left[r-\left(1-\gamma \right)\right]}{\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{p-\left(1-\gamma \right)}{r-p}}\\ \ge \frac{a\left(r-p\right)}{C_1\left[r-\left(1-\gamma \right)\right]}{\left(\frac{a(p-1+\gamma )}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{pk-\left(1-\gamma \right)}{r-p}}=\delta .\end{array}$

显然，这是矛盾的。

如果 $\Vert u\Vert \ge 1$ ，那么由(3.1)和引理3.1，我们得到

$0={{\phi }^{″}}_u\left(1\right)\le \left[a\left(p-r\right)+b\left(pk-r\right)+\mu C_0\left(q-r\right)\right]{\Vert u\Vert }^{pk}+\lambda C_1\left[r-\left(1-\gamma \right)\right]{\Vert u\Vert }^{1-\gamma }$ ，

那么

${\Vert u\Vert }^{pk-\left(1-\gamma \right)}\le \frac{\lambda C_1\left[r-\left(1-\gamma \right)\right]}{a\left(r-p\right)+b\left(r-pk\right)+\mu C_0\left(r-q\right)}\le \frac{\lambda C_1\left[r-\left(1-\gamma \right)\right]}{a\left(r-p\right)}$ 。

因此

$\lambda \ge \frac{a\left(r-p\right)}{C_1\left[r-\left(1-\gamma \right)\right]}{\Vert u\Vert }^{pk-\left(1-\gamma \right)}$ 。 (3.4)

另一方面，再次利用(3.1)和引理3.1，我们仍然得到

$\Vert u\Vert \ge {\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{1}{r-p}}$ 。

结合以上两式，我们得到

$\lambda \ge \frac{a\left(r-p\right)}{C_1\left[r-\left(1-\gamma \right)\right]}{\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{pk-\left(1-\gamma \right)}{r-p}}=\delta$ 。(3.5)

这显然是矛盾的。证毕。

注记3.1 从引理3.2和引理3.3，可以总结出

对于 $0<\lambda <\delta$ ， $N_{\lambda }=N_{\lambda }^{+}\cup N_{\lambda }^{-}$ ；

J在 $N_{\lambda }^{+}$ 和 $N_{\lambda }^{-}$ 上都是强制的和下有界的。

定义，

$\theta =\underset{u\in N_{\lambda }}{\inf }\left(J\left(u\right)\right)$ ； ${\theta }^{+}=\underset{u\in N_{\lambda }^{+}}{\inf }\left(J\left(u\right)\right)$ 和 ${\theta }^{-}=\underset{u\in N_{\lambda }^{-}}{\inf }\left(J\left(u\right)\right)$ 。

引理3.4 如果 $0<\lambda <\delta$ ，那么 $\theta <{\theta }^{+}<0$ 。

证明：取 $u\in N_{\lambda }^{+}$ ，由(3.1)，我们得到

$\begin{array}{l}0<{{\phi }^{″}}_u\left(1\right)=pP\left(u\right)+pkK\left(u\right)+qQ\left(u\right)-\left(1-\gamma \right)R\left(u\right)-rS\left(u\right)\\ =\left(p-1+\gamma \right)P\left(u\right)+\left(pk-1+\gamma \right)K\left(u\right)+\left(q-1+\gamma \right)Q\left(u\right)-\left[r-\left(1-\gamma \right)\right]S\left(u\right).\end{array}$

所以，

$S\left(u\right)<\frac{\left(p-1+\gamma \right)P\left(u\right)+\left(pk-1+\gamma \right)K\left(u\right)+\left(q-1+\gamma \right)Q\left(u\right)}{r-\left(1-\gamma \right)}$ 。(3.6)

另一方面，由(3.1)，我们得到

$\begin{array}{c}J\left(u\right)=\frac{1}{p}P\left(u\right)+\frac{1}{pk}K\left(u\right)+\frac{1}{q}Q\left(u\right)-\frac{1}{1-\gamma }R\left(u\right)-\frac{1}{r}S\left(u\right)\\ =\left(\frac{1}{p}-\frac{1}{1-\gamma }\right)P\left(u\right)+\left(\frac{1}{pk}-\frac{1}{1-\gamma }\right)K\left(u\right)+\left(\frac{1}{q}-\frac{1}{1-\gamma }\right)Q\left(u\right)+\left(\frac{1}{1-\gamma }-\frac{1}{r}\right)S\left(u\right).\end{array}$

再次利用(3.6)，所以

$\begin{array}{c}J\left(u\right)<\left(\frac{1}{p}-\frac{1}{1-\lambda }\right)P\left(u\right)+\left(\frac{1}{pk}-\frac{1}{1-\gamma }\right)K\left(u\right)+\left(\frac{1}{q}-\frac{1}{1-\gamma }\right)Q\left(u\right)\\ +\left(\frac{1}{1-\gamma }-\frac{1}{r}\right)\frac{\left(p-1+\gamma \right)P\left(u\right)+\left(pk-1+\gamma \right)K\left(u\right)+\left(q-1+\gamma \right)Q\left(u\right)}{r-\left(1-\gamma \right)}.\end{array}$

因此，

$\begin{array}{c}J\left(u\right)<\frac{r\left(1-\gamma \right)-pr+\left[pr-p\left(1-\gamma \right)\right]\frac{p-1+\gamma }{r-\left(1-\gamma \right)}}{pr\left(1-\gamma \right)}P\left(u\right)\\ +\frac{r\left(1-\gamma \right)-pkr+\left[pkr-pk\left(1-\gamma \right)\right]\frac{pk-1+\gamma }{r-\left(1-\gamma \right)}}{pkr\left(1-\gamma \right)}K\left(u\right)\\ +\frac{r\left(1-\gamma \right)-qr+\left[qr-q\left(1-\gamma \right)\right]\frac{q-1+\gamma }{r-\left(1-\gamma \right)}}{qr\left(1-\gamma \right)}Q\left(u\right).\end{array}$ (3.7)

不难得到

$r\left(1-\gamma \right)-pr+\left[pr-p\left(1-\gamma \right)\right]\frac{p-1+\gamma }{r-\left(1-\gamma \right)}<0$ ，

$r\left(1-\gamma \right)-pkr+\left[pkr-pk\left(1-\gamma \right)\right]\frac{pk-1+\gamma }{r-\left(1-\gamma \right)}<0$ ，

$r\left(1-\gamma \right)-qr+\left[qr-q\left(1-\gamma \right)\right]\frac{q-1+\gamma }{r-\left(1-\gamma \right)}<0$ 。

所以，可以得出，对于任意的 $u\in N_{\lambda }^{+}$ ，都有 $J\left(u\right)<0$ 。于是， $\theta \le {\theta }^{+}<0$ 。证毕。

引理3.5 如果 $0<\lambda <\frac{1-\gamma }{p}\delta$ ，那么存在 $K>0$ 使得

${\theta }^{-}\ge K>0$ 。

证明：取 $u\in N_{\lambda }^{-}$ ，那么 ${\theta }^{-}\ge K>0$ 。由引理3.3的证明，我们得知

$\Vert u\Vert \ge {\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{1}{r-p}}$ 。

如果 $\Vert u\Vert <1$ ，由(3.1)和引理3.1，我们有

$\begin{array}{c}J\left(u\right)=\frac{1}{p}P\left(u\right)+\frac{1}{pk}K\left(u\right)+\frac{1}{q}Q\left(u\right)-\frac{1}{1-\gamma }R\left(u\right)-\frac{1}{r}S\left(u\right)\\ =\left(\frac{1}{p}-\frac{1}{r}\right)P\left(u\right)+\left(\frac{1}{pk}-\frac{1}{r}\right)K\left(u\right)+\left(\frac{1}{q}-\frac{1}{r}\right)Q\left(u\right)-\left(\frac{1}{1-\gamma }-\frac{1}{r}\right)R\left(u\right)\\ \ge a\left(\frac{1}{p}-\frac{1}{r}\right){\Vert u\Vert }^{pk}-\lambda C_1\left(\frac{1}{1-\gamma }-\frac{1}{r}\right){\Vert u\Vert }^{1-\gamma }\\ ={\Vert u\Vert }^{1-\gamma }\left[a\left(\frac{1}{p}-\frac{1}{r}\right){\Vert u\Vert }^{pk-1+\gamma }-\lambda C_1\left(\frac{1}{1-\gamma }-\frac{1}{r}\right)\right].\end{array}$

于是，

$J\left(u\right)\ge {\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{1-\gamma }{r-p}}\left[a\left(\frac{1}{p}-\frac{1}{r}\right){\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{pk-1+\gamma }{r-p}}-\lambda C_1\left(\frac{1}{1-\gamma }-\frac{1}{r}\right)\right]=d_1$ 。

因此，如果

$\lambda <a\left(\frac{1}{p}-\frac{1}{r}\right){\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{pk-\text{1+}\gamma }{r-p}}\frac{1}{C_1\left(\frac{1}{1-\gamma }-\frac{1}{r}\right)}=\frac{1-\gamma }{p}\delta$ ，

那么， $J\left(u\right)\ge d_1>0$ 。

如果 $\Vert u\Vert \ge 1$ ，再次由(3.1)和引理3.1，我们有

$\begin{array}{c}J\left(u\right)=\frac{1}{p}P\left(u\right)+\frac{1}{pk}K\left(u\right)+\frac{1}{q}Q\left(u\right)-\frac{1}{1-\gamma }R\left(u\right)-\frac{1}{r}S\left(u\right)\\ =\left(\frac{1}{p}-\frac{1}{r}\right)P\left(u\right)+\left(\frac{1}{pk}-\frac{1}{r}\right)K\left(u\right)+\left(\frac{1}{q}-\frac{1}{r}\right)Q\left(u\right)-\left(\frac{1}{1-\gamma }-\frac{1}{r}\right)R\left(u\right)\\ \ge a\left(\frac{1}{p}-\frac{1}{r}\right){\Vert u\Vert }^p-\lambda C_1\left(\frac{1}{1-\gamma }-\frac{1}{r}\right){\Vert u\Vert }^{1-\gamma }\\ ={\Vert u\Vert }^{1-\gamma }\left[a\left(\frac{1}{p}-\frac{1}{r}\right){\Vert u\Vert }^{p-1+\gamma }-\lambda C_1\left(\frac{1}{1-\gamma }-\frac{1}{r}\right)\right].\end{array}$

于是，

$J\left(u\right)\ge {\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{1-\gamma }{r-p}}\left[a\left(\frac{1}{p}-\frac{1}{r}\right){\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{p-1+\gamma }{r-p}}-\lambda C_1\left(\frac{1}{1-\gamma }-\frac{1}{r}\right)\right]=d_2$ 。

因为 $\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}<1$ ，所以，如果 $\lambda <\frac{1-\gamma }{p}\delta$ ，一定有

$\lambda <\frac{1-\gamma }{p}\delta <a\left(\frac{1}{p}-\frac{1}{r}\right){\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{p-\text{1+}\gamma }{r-p}}\frac{1}{C_1\left(\frac{1}{1-\gamma }-\frac{1}{r}\right)}$ 。

于是， $J\left(u\right)\ge d_2>0$ 。最后，令 $K=\min \left(d_1,d_2\right)$ ，可以得到，如果 $0<\lambda <\frac{1-\gamma }{p}\delta$ ，对任意的 $u\in N_{\lambda }^{-}$ 都有 $J\left(u\right)\ge K$ 成立。于是， ${\theta }^{-}\ge K>0$ 。证毕。

引理3.6 对于 $u\in X_0\backslash \left\{0\right\}$ ，存在 ${\delta }^{\prime }>0$ 使得，当 $0<\lambda <{\delta }^{\prime }$ 时，存在唯一的正数 $t^{+}<t^{-}$ ，使得 $t^{+}u\in N_{\lambda }^{+}$ ， $t^{-}u\in N_{\lambda }^{-}$ ，且

$J\left(t^{+}u\right)=\underset{0\le t\le t^{*}}{\inf }J\left(tu\right)$ ， $J\left(t^{-}u\right)=\underset{t\ge 0}{\sup }J\left(tu\right)$ 。

证明：令

$L_1\left(t\right)=a{t}^{p-1}{\Vert u\Vert }^p+b{t}^{pk-1}{\Vert u\Vert }^{pk}$ ，

$L_2\left(t\right)=\lambda t^{-\gamma }{\displaystyle {\int }_{\Omega }g\left(x\right){\left|u\right|}^{1-\gamma }\text{d}x}-\mu t^{q-1}{\displaystyle {\int }_{\Omega }{\left|u\right|}^{q-1}}\text{d}x$ ，

$L_3\left(t\right)=t^{r-1}{\displaystyle {\int }_{\Omega }f\left(x,u\right)u\text{d}x}$ 。