带有奇异非线性项的分数阶p-Kirchhoff方程解的存在性问题

Existence of Solutions for a Fractional p-Kirchhoff Equation with Singular Nonlinearity

摘要: 本文主要研究如下带有奇异非线性项的分数阶p-Kirchhoff方程解的存在性：

Abstract: This paper studies the following fractional p-Kirchhoff equation with singular nonlinearity: 

1. 引言

设 $s\in \left(0,1\right)$ ， $p\in \left(1,\infty \right)$ ， $\Omega \subset {ℝ}^N$ 是一个边界光滑的有界区域，本文考虑如下问题：

$\{\begin{array}{ll}M\left({\displaystyle {\int }_{{ℝ}^N}}{\displaystyle {\int }_{{ℝ}^N}}\frac{{\left|u\left(x\right)-u\left(y\right)\right|}^p}{{\left|x-y\right|}^{N+ps}}\text{d}y\text{d}x\right){\left(-\Delta \right)}_p^{s}u+\mu {\left|u\right|}^{q-2}u=\lambda g\left(x\right)u^{-\gamma }+f\left(x,u\right),\hfill & x\in \Omega ,\hfill \\ u=0,\hfill & x\in \partial \Omega ,\hfill \end{array}$ (1.1)

其中 $\gamma \in \left(0,1\right)$ ， $\lambda$ 是正实数， $1<p<pk<p_s^{*}=\frac{Np}{N-ps}$ ， $N>ps$ 。 ${\left(-\Delta \right)}_p^s$ 是分数阶p-Laplace算子，定义为：

${\left(-\Delta \right)}_p^{s}u\left(x\right)=2\underset{\epsilon \to 0}{\lim }{\displaystyle {\int }_{{ℝ}^N\backslash B_{\epsilon }\left(x\right)}\frac{{\left|u\left(x\right)-u\left(y\right)\right|}^{p-2}\left(u\left(x\right)-u\left(y\right)\right)}{{\left|x-y\right|}^{N+ps}}\text{d}y}$ ， $x\in {ℝ}^N$ 。

近年来，由于椭圆型的分数算子和非局部算子在金融、薄障碍、优化等问题应用广泛，因此该类算子的研究也受到越来越多的关注。在 [1] [2] [3] 中，利用变分法研究了分数阶拉普拉斯算子的半线性Dirichlet问题，在 [4] [5] [6] [7] 中研究了带有凹凸非线性项的非局部算子的存在性和多重性结果，在 [8] [9] 中研究了分数阶p-Laplace算子的特征值问题和最小特征值的简单性质，在 [10] 中研究了带有超线性项和奇异非线性的(p, q)拉普拉斯问题解的存在性和正则性问题。

在 $s=1$ 的情况下，Crandal M. G.，Rabinowitz P. H.和Tartar L.在 [11] 最先研究了一类带有奇异非线性项问题的半线性问题。此后许多作者利用 [11] 中的技术将其与Nehari流行方法结合，研究了Laplace算子、p-Laplace算子、分数阶Laplace算子和分数阶p-Laplace算子的问题，见 [12] [13] [14] 。在 [15] [16] 中，Tuhina M.和Yang D. D.研究了类似的奇异问题：

${\left(-\Delta \right)}_p^{s}u=\lambda u^{-q}+u^{\alpha }$ ，

其中在 $\Omega$ 中 $u>0$ ，在 ${ℝ}^N\backslash \Omega$ 上 $u=0$ ，利用Nehari流行方法证明了方程解的存在性。在 [17] 中，Fiscella A.和Mishra P. K.研究了如下的一类奇异Kirchhoff问题：

$M\left({\displaystyle {\int }_{{ℝ}^N}{\displaystyle {\int }_{{ℝ}^N}\frac{{\left|u\left(x\right)-u\left(y\right)\right|}^2}{{\left|x-y\right|}^{N+2s}}\text{d}x\text{d}y}}\right){\left(-\Delta \right)}^{s}u=\lambda f\left(x\right)u^{-\gamma }+g\left(x\right)u^{2_s^{*}-1}$ ，

其中 $\Omega \subset {ℝ}^N$ 是一个有界开集， $\gamma \in \left(0,1\right)$ ， $f\in L^{\frac{2_s^{*}}{2_s^{*}+\gamma -1}}\left(\Omega \right)$ 。类似的分数阶Kirchhoff 问题和分数阶p-Kirchhoff问题还有很多，例如 [18] [19] [20] 等。

受 [13] [15] [16] [17] [20] 等文献的启发，本文研究问题(1.1)解的存在性，更加深入地了解用Nehari方法和变分法证明解的存在性，为该领域的进一步研究提供了新的思路和方法。首先给出如下假设：

(H₁) $g\left(x\right)$ 在 $\Omega$ 上处处为正，且对于 $1<d<q<p$ ，

$g\in L^{\frac{d}{d+\gamma -1}}\left(\Omega \right)$ ；

(H₂) $F:\bar{\Omega }\times ℝ\to ℝ$ 是连续函数，并且对于任意的 $t>0$ ，我们有

$F\left(x,tu\right)=t^{r}F\left(x,u\right)$ ，

其中 $F\left(x,u\right)={\displaystyle {\int }_0^{u}f\left(x,s\right)\text{d}s}$ ， $1<p<pk<r<p_s^{*}$ 。

注记1.1 由(H₂)，不难看出对于任意的 $\left(x,u\right)\in \bar{\Omega }\times ℝ$ 和常数 $C>0$ ，我们有

$uf\left(x,u\right)=rF\left(x,u\right)$

和

$\left|F\left(x,u\right)\right|\le C{\left|u\right|}^r$

成立。

本文的主要结果如下：

定理1.1 假设条件(H₁)~(H₃)成立，那么存在 $\left({\lambda }^{*},{\mu }^{*}\right)\in \left(0,\infty \right)\times \left(0,\infty \right)$ ，使得对任意的 $\lambda \in \left(0,{\lambda }^{*}\right)$ ， $\mu \in \left(0,{\mu }^{*}\right)$ ，问题(1.1)至少有两个非平凡解。

本文的结构安排如下：第二部分，介绍一些勒贝格空间和分数阶索伯列夫空间的一些基础知识；第三部分，给出一些主要引理及其证明；第四部分是定理1.1的证明。

2. 符号说明和基础知识

在本节中，回忆一些关于勒贝格空间和分数阶索伯列夫空间的一些必要的基础知识，对于更多细节的地方，可以参考 [21] [22] [23] 。 $L^p\left({ℝ}^N\right)$ 表示值域为 $ℝ$ 的 ${ℝ}^N$ 上的函数空间

$L^p\left({ℝ}^N\right)=\left\{u:\left({ℝ}^N\right)\to ℝ,{\displaystyle {\int }_{{ℝ}^N}{\left|u\right|}^p\text{d}x}<\infty \right\}$ ，

记 ${\Vert u\Vert }_{L^p\left({ℝ}^N\right)}={\left({\displaystyle {\int }_{{ℝ}^N}{\left|u\right|}^p\text{d}x}\right)}^{\frac{1}{p}}$ ，令 $s\in \left(0,1\right)$ ， $N>ps$ ， $p\in \left(1,\infty \right)$ ，考虑空间

$W^{s,p}\left({ℝ}^N\right)=\left\{u\in L^p\left({ℝ}^N\right):\left[u\right]<\infty \right\}$ ，

记

${\Vert u\Vert }_{W^{s,p}\left({ℝ}^N\right)}={\Vert u\Vert }_{L^p\left({ℝ}^N\right)}+\left[u\right]$ ，

其中

$\left[u\right]={\left({\displaystyle \underset{{ℝ}^{2N}}{\iint }\frac{{\left|u\left(x\right)-u\left(y\right)\right|}^p}{{\left|x-y\right|}^{N+ps}}\text{d}y\text{d}x}\right)}^{\frac{1}{p}}$

称为Gagliardo半范数。

现在定义空间

$X_0\left(\Omega \right)=\left\{u\in W^{s,p}\left({ℝ}^N\right):u=0在\mathcal{C}\Omega 中\right\}$ ，

在这里， $\mathcal{C}\Omega ={ℝ}^N\backslash \Omega$ 表示 $\Omega$ 在 ${ℝ}^N$ 中的补集，定义 $X_0\left(\Omega \right)$ 上的范数为

$\Vert u\Vert ={\left({\displaystyle \underset{Q}{\iint }\frac{{\left|u\left(x\right)-u\left(y\right)\right|}^p}{{\left|x-y\right|}^{N+ps}}\text{d}x\text{d}y}\right)}^{\frac{1}{p}}$ ，

其中 $Q={ℝ}^{2N}\backslash \left(\mathcal{C}\Omega \times \mathcal{C}\Omega \right)$ 。

定理2.1 ( [23] ，定理6.7)令 $s\in \left(0,1\right)$ ， $p\in \left[1,+\infty \right)$ ， $\Omega \subset {ℝ}^N$ 是一个有界区域，那么存在一个正的常数 $C\left(N,p,s,\Omega \right)$ ，使得对于任意的 $f\in X_0\left(\Omega \right)$ ，有

${\Vert f\Vert }_{L^q\left(\Omega \right)}\le C\left(N,p,s,\Omega \right)\Vert f\Vert$

成立，其中 $q\in \left[1,p_s^{*}\right]$ ， $p_s^{*}=\frac{Np}{N-ps}$ 称为分数阶索伯列夫临界指数。

定义2.1 我们说 $u\in X_0$ 是问题(1.1)的弱解，如果对于任意的 $v\in X_0$ ，都有

$\left(a+b{\Vert u\Vert }^{p\left(k-1\right)}\right)\langle u,v\rangle +\mu {\displaystyle {\int }_{\Omega }{\left|u\right|}^{q-1}uv\text{d}x}=\lambda {\displaystyle {\int }_{\Omega }g\left(x\right){\left|u\right|}^{-\gamma }v\text{d}x}+{\displaystyle {\int }_{\Omega }f\left(x,u\right)v\text{d}x}$

成立，其中

$\langle u,v\rangle ={\displaystyle \underset{Q}{\iint }\frac{{\left|u\left(x\right)-u\left(y\right)\right|}^{p-2}\left(u\left(x\right)-u\left(y\right)\right)\left(v\left(x\right)-v\left(y\right)\right)}{{\left|x-y\right|}^{N+ps}}\text{d}y\text{d}x}$ 。

3. 主要引理的证明

为了证明本文的主要结果，首先证明一些基本的引理。与问题(1.1)相关的能量泛函 $J:X_0\to ℝ$ ，如下所示：

$J\left(u\right)=\frac{a}{p}{\Vert u\Vert }^p+\frac{b}{pk}{\Vert u\Vert }^{pk}+\frac{\mu }{q}{\displaystyle {\int }_{\Omega }{\left|u\right|}^q\text{d}x}-\frac{\lambda }{1-\gamma }{\displaystyle {\int }_{\Omega }g\left(x\right){\left|u\right|}^{1-\gamma }\text{d}x}-{\displaystyle {\int }_{\Omega }F\left(x,u\right)\text{d}x}$ 。

注意到由于奇异项的存在， $J\left(u\right)$ 并不是可微的，因此考虑一类纤维映射 ${\phi }_u$ ，其在 [24] 中被Drabek P.和Pohozaev S. I.介绍。定义纤维映射 ${\phi }_u$ 如下：

$\begin{array}{l}{\phi }_u\left(t\right)=J\left(tu\right)=\frac{a{t}^p}{p}{\Vert u\Vert }^p+\frac{b{t}^{pk}}{pk}{\Vert u\Vert }^{pk}+\mu \frac{t^q}{q}{\displaystyle {\int }_{\Omega }{\left|u\right|}^q\text{d}x}\\ -\frac{\lambda t^{1-\gamma }}{1-\gamma }{\displaystyle {\int }_{\Omega }g\left(x\right){\left|u\right|}^{1-\gamma }\text{d}x}-t^r{\displaystyle {\int }_{\Omega }F\left(x,u\right)\text{d}x}.\end{array}$

由(H₂)和注记1.1，可以得到

${{\phi }^{\prime }}_u\left(t\right)=a{t}^{p-1}{\Vert u\Vert }^p+b{t}^{pk-1}{\Vert u\Vert }^{pk}+\mu t^{q-1}{\displaystyle {\int }_{\Omega }{\left|u\right|}^q\text{d}x}-\lambda t^{-\gamma }{\displaystyle {\int }_{\Omega }g\left(x\right){\left|u\right|}^{1-\gamma }\text{d}x}-t^{r-1}{\displaystyle {\int }_{\Omega }f\left(x,u\right)u\text{d}x}$ ，

$\begin{array}{c}{{\phi }^{″}}_u\left(t\right)=a\left(p-1\right)t^{p-2}{\Vert u\Vert }^p+b\left(pk-1\right)t^{pk-2}{\Vert u\Vert }^{pk}+\mu \left(q-1\right)t^{q-2}{\displaystyle {\int }_{\Omega }{\left|u\right|}^q\text{d}x}\\ +\begin{array}{c}\lambda \gamma t^{-\gamma -1}{\displaystyle {\int }_{\Omega }g\left(x\right){\left|u\right|}^{1-\gamma }\text{d}x}\end{array}-\left(r-1\right)t^{r-2}{\displaystyle {\int }_{\Omega }f\left(x,u\right)u\text{d}x}.\end{array}$

J在 $X_0$ 上并不是下有界的，但是在 $X_0$ 的子集上是有界的，称为Nehari流形：

$N_{\lambda }=\left\{u\in X_0\backslash \left\{0\right\}:{{\phi }^{\prime }}_u\left(1\right)=0\right\}$ 。

现在，将 $N_{\lambda }$ 分为以下三个部分：

$N_{\lambda }^{+}=\left\{u\in N_{\lambda }:{{\phi }^{″}}_u\left(1\right)>0\right\}$ ，

$N_{\lambda }^{-}=\left\{u\in N_{\lambda }:{{\phi }^{″}}_u\left(1\right)<0\right\}$ ，

$N_{\lambda }^0=\left\{u\in N_{\lambda }:{{\phi }^{″}}_u\left(1\right)=0\right\}$ 。

对于 $u\in N_{\lambda }$ ，我们有

${{\phi }^{\prime }}_u\left(1\right)=a{\Vert u\Vert }^p+b{\Vert u\Vert }^{pk}+\mu {\displaystyle {\int }_{\Omega }{\left|u\right|}^q\text{d}x}-\lambda {\displaystyle {\int }_{\Omega }g\left(x\right){\left|u\right|}^{1-\gamma }\text{d}x}-{\displaystyle {\int }_{\Omega }f\left(x,u\right)u\text{d}x}=0$ ，

${{\phi }^{″}}_u\left(1\right)=ap{\Vert u\Vert }^p+bpk{\Vert u\Vert }^{pk}+\mu q{\displaystyle {\int }_{\Omega }{\left|u\right|}^q\text{d}x}-\lambda \left(1-\gamma \right){\displaystyle {\int }_{\Omega }g(x){\left|u\right|}^{1-\gamma }\text{d}x}-r{\displaystyle {\int }_{\Omega }f\left(x,u\right)u\text{d}x}$ 。

接下来，令

$\begin{array}{l}P\left(u\right)=a{\Vert u\Vert }^p,K\left(u\right)=b{\Vert u\Vert }^{pk},Q\left(u\right)=\mu {\displaystyle {\int }_{\Omega }{\left|u\right|}^q\text{d}x},\\ R\left(u\right)=\lambda {\displaystyle {\int }_{\Omega }g\left(x\right){\left|u\right|}^{1-\gamma }\text{d}x},S\left(u\right)={\displaystyle {\int }_{\Omega }f\left(x,u\right)u\text{d}x}.\end{array}$

容易看出，

$u\in N_{\lambda }\iff P\left(u\right)+K\left(u\right)+Q\left(u\right)-R\left(u\right)-S\left(u\right)=0$ 。 (3.1)

引理3.1 令 $u\in X_0$ ，那么我们有

(1) 存在一个常数 $C_1>0$ ，使得

$R\left(u\right)\le C_1\lambda {\Vert u\Vert }^{1-\gamma }$ ，

(2) 存在一个常数 $C_2>a$ ，使得

$S\left(u\right)\le C_2{\Vert u\Vert }^r$ 。

证明：(1) 由(H₁)和定理2.1我们有

$\begin{array}{c}R\left(u\right)=\lambda {\displaystyle {\int }_{\Omega }g\left(x\right){\left|u\right|}^{1-\gamma }\text{d}x}\\ {\begin{array}{c}\le \lambda {\Vert g\left(x\right)\Vert }_{L^{\frac{d}{d+\gamma -1}}\left(\Omega \right)}\Vert {\left|u\right|}^{1-\gamma }\Vert \end{array}}_{L^{\frac{d}{1-\gamma }}\left(\Omega \right)}\\ \begin{array}{c}\le \end{array}\lambda {\Vert g\left(x\right)\Vert }_{L^{\frac{d}{d+\gamma -1}}\left(\Omega \right)}C{\left(N,p,s,\Omega \right)}^{1-\gamma }{\Vert u\Vert }^{1-\gamma }\\ \begin{array}{c}\le \end{array}\lambda C_1{\Vert u\Vert }^{1-\gamma },\end{array}$

其中 $C_1=C_1\left(N,p,s,\gamma ,\Omega \right)$ ，是一个正数。

(2) 由(H₂)、注记1.1和定理2.1，我们有

$\begin{array}{c}S\left(u\right)={\displaystyle {\int }_{\Omega }f\left(x,u\right)u\text{d}x}=r{\displaystyle {\int }_{\Omega }F\left(x,u\right)\text{d}x}\\ \le r{\displaystyle {\int }_{\Omega }\left|F\left(x,u\right)\right|\text{d}x}\le Cr{\displaystyle {\int }_{\Omega }{\left|u\right|}^r\text{d}x}\\ \le K{\Vert u\Vert }^r\le C_2{\Vert u\Vert }^r,\end{array}$

其中 $C_2=K+a$ ， $K=CC\left(N,p,s,\Omega \right)r$ 。证毕。

引理3.2 $\lambda >0$ ，J在 $N_{\lambda }$ 上是强制的和下有界的。

证明：令 $u\in N_{\lambda }$ 且 $\Vert u\Vert >1$ 。那么由(3.1)、注记1.1和引理3.1，我们有

$\begin{array}{c}J\left(u\right)=\frac{a}{p}{\Vert u\Vert }^p+\frac{b}{pk}{\Vert u\Vert }^{pk}+\frac{\mu }{q}{\displaystyle \underset{\Omega }{\int }{\left|u\right|}^q\text{d}x}-\frac{\lambda }{1-\gamma }{\displaystyle {\int }_{\Omega }g\left(x\right){\left|u\right|}^{1-\gamma }\text{d}x}-\frac{1}{r}{\displaystyle {\int }_{\Omega }rF\left(x,u\right)\text{d}x}\\ \begin{array}{c}=\frac{1}{p}P\left(u\right)+\frac{1}{pk}K\left(u\right)+\frac{1}{q}Q\left(u\right)-\end{array}\frac{1}{1-\gamma }R\left(u\right)-\frac{1}{r}S\left(u\right)\\ \begin{array}{c}=\left(\frac{1}{p}-\frac{1}{r}\right)P\left(u\right)+\left(\frac{1}{pk}-\frac{1}{r}\right)K\left(u\right)+\left(\frac{1}{q}-\frac{1}{r}\right)Q\left(u\right)-\end{array}\left(\frac{1}{1-\gamma }-\frac{1}{r}\right)R\left(u\right)\\ \begin{array}{c}\ge \left(\frac{1}{p}-\frac{1}{r}\right)a{\Vert u\Vert }^p-\lambda C_1\end{array}\left(\frac{1}{1-\gamma }-\frac{1}{r}\right){\Vert u\Vert }^{1-\gamma }.\end{array}$

因为 $0<1-\gamma <1<p<pk<r<p_s^{*}$ ，所以如果 $\Vert u\Vert \to \infty$ ， $J\left(u\right)\to \infty$ 成立。证毕。

我们令

$\delta =\frac{a\left(r-p\right)}{C_1\left[r-\left(1-\gamma \right)\right]}{\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{pk-\left(1-\gamma \right)}{r-p}}$ ，

其中 $C_1$ 和 $C_2$ 在引理3.1中已被给出。

引理3.3 如果 $0<\lambda <\delta$ ，那么 $N_{\lambda }^0=\varnothing$ 。

证明：用反证法来证明本引理。假设存在 $0<\lambda <\delta$ 使得 $u\in N_{\lambda }^0$ 。

如果 $\Vert u\Vert <1$ ，那么由(3.1)和引理3.1，得到

$\begin{array}{l}0={{\phi }^{″}}_u\left(1\right)=pP\left(u\right)+pkK\left(u\right)+qQ\left(u\right)-\left(1-\gamma \right)R\left(u\right)-rS\left(u\right)\\ =\left(p-r\right)P\left(u\right)+\left(pk-r\right)K\left(u\right)+\left(q-r\right)Q\left(u\right)+\left[r-\left(1-\gamma \right)\right]R\left(u\right)\\ \le a\left(p-r\right){\Vert u\Vert }^p+b\left(pk-r\right){\Vert u\Vert }^p+\mu C_0\left(q-r\right){\Vert u\Vert }^p+\lambda C_1\left[r-\left(1-\gamma \right)\right]{\Vert u\Vert }^{1-\gamma },\end{array}$

那么

${\Vert u\Vert }^{p-\left(1-\gamma \right)}\le \frac{\lambda C_1\left[r-\left(1-\gamma \right)\right]}{a\left(r-p\right)+b\left(pk-r\right)+\mu C_0\left(r-q\right)}\le \frac{\lambda C_1\left[r-\left(1-\gamma \right)\right]}{a\left(r-p\right)}$ 。

因此

$\lambda \ge \frac{a\left(r-p\right)}{C_1\left[r-\left(1-\gamma \right)\right]}{\Vert u\Vert }^{p-\left(1-\gamma \right)}$ 。 (3.2)

再次利用(3.1)和引理3.1，得到

$\begin{array}{l}0={{\phi }^{″}}_u\left(1\right)=pP\left(u\right)+pkK\left(u\right)+qQ\left(x\right)-\left(1-\gamma \right)R\left(u\right)-rS\left(u\right)\\ \begin{array}{c}=\end{array}\left(p-1+\gamma \right)P\left(u\right)+\left(pk-1+\gamma \right)K\left(u\right)+\left(q-1+\gamma \right)Q\left(x\right)-\left[r-\left(1-\gamma \right)\right]S\left(u\right)\\ \begin{array}{c}\ge \end{array}a\left(p-1+\gamma \right){\Vert u\Vert }^p-C_2\left[r-\left(1-\gamma \right)\right]{\Vert u\Vert }^r.\end{array}$

因此

$\Vert u\Vert \ge {\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{1}{r-p}}$ 。 (3.3)

结合(3.2)和(3.3)，可以得到

$\lambda \ge \frac{a\left(r-p\right)}{C_1\left[r-\left(1-\gamma \right)\right]}{\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{p-\left(1-\gamma \right)}{r-p}}$ 。

又因为 $0<1-\gamma <1<p<pk<r<p_s^{*}$ ， $C_2>a$ ，那么

$0<\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}<1$ ，

$\frac{p-\left(1-\gamma \right)}{r-p}<\frac{pk-\left(1-\gamma \right)}{r-p}$ 。

所以

$\begin{array}{c}\lambda \ge \frac{a\left(r-p\right)}{C_1\left[r-\left(1-\gamma \right)\right]}{\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{p-\left(1-\gamma \right)}{r-p}}\\ \ge \frac{a\left(r-p\right)}{C_1\left[r-\left(1-\gamma \right)\right]}{\left(\frac{a(p-1+\gamma )}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{pk-\left(1-\gamma \right)}{r-p}}=\delta .\end{array}$

显然，这是矛盾的。

如果 $\Vert u\Vert \ge 1$ ，那么由(3.1)和引理3.1，我们得到

$0={{\phi }^{″}}_u\left(1\right)\le \left[a\left(p-r\right)+b\left(pk-r\right)+\mu C_0\left(q-r\right)\right]{\Vert u\Vert }^{pk}+\lambda C_1\left[r-\left(1-\gamma \right)\right]{\Vert u\Vert }^{1-\gamma }$ ，

那么

${\Vert u\Vert }^{pk-\left(1-\gamma \right)}\le \frac{\lambda C_1\left[r-\left(1-\gamma \right)\right]}{a\left(r-p\right)+b\left(r-pk\right)+\mu C_0\left(r-q\right)}\le \frac{\lambda C_1\left[r-\left(1-\gamma \right)\right]}{a\left(r-p\right)}$ 。

因此

$\lambda \ge \frac{a\left(r-p\right)}{C_1\left[r-\left(1-\gamma \right)\right]}{\Vert u\Vert }^{pk-\left(1-\gamma \right)}$ 。 (3.4)

另一方面，再次利用(3.1)和引理3.1，我们仍然得到

$\Vert u\Vert \ge {\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{1}{r-p}}$ 。

结合以上两式，我们得到

$\lambda \ge \frac{a\left(r-p\right)}{C_1\left[r-\left(1-\gamma \right)\right]}{\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{pk-\left(1-\gamma \right)}{r-p}}=\delta$ 。(3.5)

这显然是矛盾的。证毕。

注记3.1 从引理3.2和引理3.3，可以总结出

对于 $0<\lambda <\delta$ ， $N_{\lambda }=N_{\lambda }^{+}\cup N_{\lambda }^{-}$ ；

J在 $N_{\lambda }^{+}$ 和 $N_{\lambda }^{-}$ 上都是强制的和下有界的。

定义，

$\theta =\underset{u\in N_{\lambda }}{\inf }\left(J\left(u\right)\right)$ ； ${\theta }^{+}=\underset{u\in N_{\lambda }^{+}}{\inf }\left(J\left(u\right)\right)$ 和 ${\theta }^{-}=\underset{u\in N_{\lambda }^{-}}{\inf }\left(J\left(u\right)\right)$ 。

引理3.4 如果 $0<\lambda <\delta$ ，那么 $\theta <{\theta }^{+}<0$ 。

证明：取 $u\in N_{\lambda }^{+}$ ，由(3.1)，我们得到

$\begin{array}{l}0<{{\phi }^{″}}_u\left(1\right)=pP\left(u\right)+pkK\left(u\right)+qQ\left(u\right)-\left(1-\gamma \right)R\left(u\right)-rS\left(u\right)\\ =\left(p-1+\gamma \right)P\left(u\right)+\left(pk-1+\gamma \right)K\left(u\right)+\left(q-1+\gamma \right)Q\left(u\right)-\left[r-\left(1-\gamma \right)\right]S\left(u\right).\end{array}$

所以，

$S\left(u\right)<\frac{\left(p-1+\gamma \right)P\left(u\right)+\left(pk-1+\gamma \right)K\left(u\right)+\left(q-1+\gamma \right)Q\left(u\right)}{r-\left(1-\gamma \right)}$ 。(3.6)

另一方面，由(3.1)，我们得到

$\begin{array}{c}J\left(u\right)=\frac{1}{p}P\left(u\right)+\frac{1}{pk}K\left(u\right)+\frac{1}{q}Q\left(u\right)-\frac{1}{1-\gamma }R\left(u\right)-\frac{1}{r}S\left(u\right)\\ =\left(\frac{1}{p}-\frac{1}{1-\gamma }\right)P\left(u\right)+\left(\frac{1}{pk}-\frac{1}{1-\gamma }\right)K\left(u\right)+\left(\frac{1}{q}-\frac{1}{1-\gamma }\right)Q\left(u\right)+\left(\frac{1}{1-\gamma }-\frac{1}{r}\right)S\left(u\right).\end{array}$

再次利用(3.6)，所以

$\begin{array}{c}J\left(u\right)<\left(\frac{1}{p}-\frac{1}{1-\lambda }\right)P\left(u\right)+\left(\frac{1}{pk}-\frac{1}{1-\gamma }\right)K\left(u\right)+\left(\frac{1}{q}-\frac{1}{1-\gamma }\right)Q\left(u\right)\\ +\left(\frac{1}{1-\gamma }-\frac{1}{r}\right)\frac{\left(p-1+\gamma \right)P\left(u\right)+\left(pk-1+\gamma \right)K\left(u\right)+\left(q-1+\gamma \right)Q\left(u\right)}{r-\left(1-\gamma \right)}.\end{array}$

因此，

$\begin{array}{c}J\left(u\right)<\frac{r\left(1-\gamma \right)-pr+\left[pr-p\left(1-\gamma \right)\right]\frac{p-1+\gamma }{r-\left(1-\gamma \right)}}{pr\left(1-\gamma \right)}P\left(u\right)\\ +\frac{r\left(1-\gamma \right)-pkr+\left[pkr-pk\left(1-\gamma \right)\right]\frac{pk-1+\gamma }{r-\left(1-\gamma \right)}}{pkr\left(1-\gamma \right)}K\left(u\right)\\ +\frac{r\left(1-\gamma \right)-qr+\left[qr-q\left(1-\gamma \right)\right]\frac{q-1+\gamma }{r-\left(1-\gamma \right)}}{qr\left(1-\gamma \right)}Q\left(u\right).\end{array}$ (3.7)

不难得到

$r\left(1-\gamma \right)-pr+\left[pr-p\left(1-\gamma \right)\right]\frac{p-1+\gamma }{r-\left(1-\gamma \right)}<0$ ，

$r\left(1-\gamma \right)-pkr+\left[pkr-pk\left(1-\gamma \right)\right]\frac{pk-1+\gamma }{r-\left(1-\gamma \right)}<0$ ，

$r\left(1-\gamma \right)-qr+\left[qr-q\left(1-\gamma \right)\right]\frac{q-1+\gamma }{r-\left(1-\gamma \right)}<0$ 。

所以，可以得出，对于任意的 $u\in N_{\lambda }^{+}$ ，都有 $J\left(u\right)<0$ 。于是， $\theta \le {\theta }^{+}<0$ 。证毕。

引理3.5 如果 $0<\lambda <\frac{1-\gamma }{p}\delta$ ，那么存在 $K>0$ 使得

${\theta }^{-}\ge K>0$ 。

证明：取 $u\in N_{\lambda }^{-}$ ，那么 ${\theta }^{-}\ge K>0$ 。由引理3.3的证明，我们得知

$\Vert u\Vert \ge {\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{1}{r-p}}$ 。

如果 $\Vert u\Vert <1$ ，由(3.1)和引理3.1，我们有

$\begin{array}{c}J\left(u\right)=\frac{1}{p}P\left(u\right)+\frac{1}{pk}K\left(u\right)+\frac{1}{q}Q\left(u\right)-\frac{1}{1-\gamma }R\left(u\right)-\frac{1}{r}S\left(u\right)\\ =\left(\frac{1}{p}-\frac{1}{r}\right)P\left(u\right)+\left(\frac{1}{pk}-\frac{1}{r}\right)K\left(u\right)+\left(\frac{1}{q}-\frac{1}{r}\right)Q\left(u\right)-\left(\frac{1}{1-\gamma }-\frac{1}{r}\right)R\left(u\right)\\ \ge a\left(\frac{1}{p}-\frac{1}{r}\right){\Vert u\Vert }^{pk}-\lambda C_1\left(\frac{1}{1-\gamma }-\frac{1}{r}\right){\Vert u\Vert }^{1-\gamma }\\ ={\Vert u\Vert }^{1-\gamma }\left[a\left(\frac{1}{p}-\frac{1}{r}\right){\Vert u\Vert }^{pk-1+\gamma }-\lambda C_1\left(\frac{1}{1-\gamma }-\frac{1}{r}\right)\right].\end{array}$

于是，

$J\left(u\right)\ge {\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{1-\gamma }{r-p}}\left[a\left(\frac{1}{p}-\frac{1}{r}\right){\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{pk-1+\gamma }{r-p}}-\lambda C_1\left(\frac{1}{1-\gamma }-\frac{1}{r}\right)\right]=d_1$ 。

因此，如果

$\lambda <a\left(\frac{1}{p}-\frac{1}{r}\right){\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{pk-\text{1+}\gamma }{r-p}}\frac{1}{C_1\left(\frac{1}{1-\gamma }-\frac{1}{r}\right)}=\frac{1-\gamma }{p}\delta$ ，

那么， $J\left(u\right)\ge d_1>0$ 。

如果 $\Vert u\Vert \ge 1$ ，再次由(3.1)和引理3.1，我们有

$\begin{array}{c}J\left(u\right)=\frac{1}{p}P\left(u\right)+\frac{1}{pk}K\left(u\right)+\frac{1}{q}Q\left(u\right)-\frac{1}{1-\gamma }R\left(u\right)-\frac{1}{r}S\left(u\right)\\ =\left(\frac{1}{p}-\frac{1}{r}\right)P\left(u\right)+\left(\frac{1}{pk}-\frac{1}{r}\right)K\left(u\right)+\left(\frac{1}{q}-\frac{1}{r}\right)Q\left(u\right)-\left(\frac{1}{1-\gamma }-\frac{1}{r}\right)R\left(u\right)\\ \ge a\left(\frac{1}{p}-\frac{1}{r}\right){\Vert u\Vert }^p-\lambda C_1\left(\frac{1}{1-\gamma }-\frac{1}{r}\right){\Vert u\Vert }^{1-\gamma }\\ ={\Vert u\Vert }^{1-\gamma }\left[a\left(\frac{1}{p}-\frac{1}{r}\right){\Vert u\Vert }^{p-1+\gamma }-\lambda C_1\left(\frac{1}{1-\gamma }-\frac{1}{r}\right)\right].\end{array}$

于是，

$J\left(u\right)\ge {\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{1-\gamma }{r-p}}\left[a\left(\frac{1}{p}-\frac{1}{r}\right){\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{p-1+\gamma }{r-p}}-\lambda C_1\left(\frac{1}{1-\gamma }-\frac{1}{r}\right)\right]=d_2$ 。

因为 $\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}<1$ ，所以，如果 $\lambda <\frac{1-\gamma }{p}\delta$ ，一定有

$\lambda <\frac{1-\gamma }{p}\delta <a\left(\frac{1}{p}-\frac{1}{r}\right){\left(\frac{a\left(p-1+\gamma \right)}{C_2\left[r-\left(1-\gamma \right)\right]}\right)}^{\frac{p-\text{1+}\gamma }{r-p}}\frac{1}{C_1\left(\frac{1}{1-\gamma }-\frac{1}{r}\right)}$ 。

于是， $J\left(u\right)\ge d_2>0$ 。最后，令 $K=\min \left(d_1,d_2\right)$ ，可以得到，如果 $0<\lambda <\frac{1-\gamma }{p}\delta$ ，对任意的 $u\in N_{\lambda }^{-}$ 都有 $J\left(u\right)\ge K$ 成立。于是， ${\theta }^{-}\ge K>0$ 。证毕。

引理3.6 对于 $u\in X_0\backslash \left\{0\right\}$ ，存在 ${\delta }^{\prime }>0$ 使得，当 $0<\lambda <{\delta }^{\prime }$ 时，存在唯一的正数 $t^{+}<t^{-}$ ，使得 $t^{+}u\in N_{\lambda }^{+}$ ， $t^{-}u\in N_{\lambda }^{-}$ ，且

$J\left(t^{+}u\right)=\underset{0\le t\le t^{*}}{\inf }J\left(tu\right)$ ， $J\left(t^{-}u\right)=\underset{t\ge 0}{\sup }J\left(tu\right)$ 。

证明：令

$L_1\left(t\right)=a{t}^{p-1}{\Vert u\Vert }^p+b{t}^{pk-1}{\Vert u\Vert }^{pk}$ ，

$L_2\left(t\right)=\lambda t^{-\gamma }{\displaystyle {\int }_{\Omega }g\left(x\right){\left|u\right|}^{1-\gamma }\text{d}x}-\mu t^{q-1}{\displaystyle {\int }_{\Omega }{\left|u\right|}^{q-1}}\text{d}x$ ，

$L_3\left(t\right)=t^{r-1}{\displaystyle {\int }_{\Omega }f\left(x,u\right)u\text{d}x}$ 。

那么， ${{\phi }^{\prime }}_u\left(t\right)=L_1\left(t\right)-L_2\left(t\right)-L_3\left(t\right)$ 。容易看出：

1) $\underset{t\to 0^{+}}{\lim }\frac{L_3\left(t\right)}{L_1\left(t\right)}=0$ ；

2) $\underset{t\to 0^{+}}{\lim }{L}_2\left(t\right)=\infty$ ；

3) $L_1\left(t\right)-L_3\left(t\right)$ 有唯一的一个极大值点 $t_{\max }$ ，且 $\underset{t\to \infty }{\lim }\left(L_1\left(t\right)-L_3\left(t\right)\right)=-\infty$ ；

4) $L_2\left(t\right)$ 在 $R^{+}$ 上严格递减，存在 $\bar{t}\in \left(0,t_{\max }\right)$ 使得 $\frac{L_1\left(t\right)-L_3\left(t\right)}{L_2\left(t\right)}$ 在 $\left(0,\bar{t}\right)$ 上严格递增的。

由1)，对于 $t>0$ 足够小，有 $L_1\left(t\right)-L_3\left(t\right)>0$ 成立。因此，由2)，存在 $t_1\in \left(0,t_{\max }\right)$ 使得 $L_2\left(t_1\right)>L_1\left(t_1\right)-L_3\left(t_1\right)$ ；另一方面，对于 $\lambda >0$ 足够小，存在 $t_2\in \left(0,t_{\max }\right)$ 使得 $L_2\left(t_1\right)<L_1\left(t_1\right)-L_3\left(t_1\right)$ 。由介值性定理，存在 $t^{+}=t^{+}\left(\lambda \right)\in \left(0,t_{\max }\right)$ ，使得

$L_2\left(t^{+}\right)=L_1\left(t^{+}\right)-L_3\left(t^{+}\right)$ 。 (3.8)

因为 ${{\phi }^{\prime }}_u\left(t\right)=L_1\left(t\right)-L_2\left(t\right)-L_3\left(t\right)$ 在 $\left(0,t_{\max }\right)$ 上是严格单调增的，所以 $t^{+}\in \left(0,t_{\max }\right)$ 是唯一的。结合4)和(3.8)，我们得到

$1=\frac{L_1\left(t^{+}\right)-L_3\left(t^{+}\right)}{L_2\left(t^{+}\right)}<\frac{L_1\left(t\right)-L_3\left(t\right)}{L_2\left(t\right)},t\in \left(t^{+},\bar{t}\right)$ 。

也就是说，对于所有的 $L_2\left(t\right)<L_1\left(t\right)-L_3\left(t\right)$ ，我们有

$L_2\left(t\right)<L_1\left(t\right)-L_3\left(t\right)$ 。

此外，固定 ${\lambda }_1$ ，使得对所有 $\lambda \in \left(0,{\lambda }_1\right)$ ，我们都有

$L_2\left(t\right)<L_1\left(t\right)-L_3\left(t\right),t\in \left(t^{+},t_{\max }\right)$ 。 (3.9)

另外，由3)，我们得到存在 $t^{″}>t_{\max }$ ，使得

$L_1\left(t^{″}\right)-L_3\left(t^{″}\right)<L_2\left(t^{″}\right)$ 。 (3.10)

由(3.9)和(3.10)，我们得到对于 $\lambda \in \left(0,{\lambda }_1\right)$ ，存在 $t^{-}>t_{\max }$ 使得

$L_2\left(t^{-}\right)=L_1\left(t^{-}\right)-L_3\left(t^{-}\right)$ 。(3.11)

由于 $L_1\left(t\right)-L_3\left(t\right)$ 在 $\left(t_{\max },\infty \right)$ 上是严格递减的，我们可以固定 ${\lambda }_2$ 和 ${\mu }^{*}$ ，使得对于 $\lambda \in \left(0,{\lambda }_2\right)$ 和 $\mu \in \left(0,{\mu }^{*}\right)$ 有 ${{\phi }^{\prime }}_u\left(t\right)=L_1\left(t\right)-L_2\left(t\right)-L_3\left(t\right)$ 在 $\left(t_{\max },\infty \right)$ 上是严格递减的，因此， $t^{-}\in \left(t_{\max },\infty \right)$ 是唯一的。通过(3.8)和(3.11)，很容易推断出 $t^{+}$ 和 $t^{-}$ 是 ${\phi }_u\left(t\right)$ 的两个临界点。选择 ${\delta }^{\prime }=\min \left({\lambda }_1,{\lambda }_2,\delta \right)$ 足够小，那么 ${\phi }_u\left(0\right)=0$ ， ${\phi }_u\left(t\right)<0$ 对于t足够小。另外，对于 $t\in \left(0,t^{+}\right)$ 时， ${{\phi }^{\prime }}_u\left(t\right)<0$ ；对于 $t\in \left(t^{+},t_{\max }\right)$ 时， ${{\phi }^{\prime }}_u\left(t\right)>0$ ； ${{\phi }^{\prime }}_u\left(t^{+}\right)=0$ 。所以 ${\phi }_u\left(t\right)$ 在 $t^{+}$ 处达到局部最小值，且 ${{\phi }^{″}}_u\left(t^{+}\right)>0$ 。所以， $t^{+}u\in N_{\lambda }^{+}$ 。同理可得，所以 ${\phi }_u\left(t\right)$ 在 $t^{-}$ 处达到局部最大值，且 ${{\phi }^{″}}_u\left(t^{+}\right)<0$ 。所以， $t^{-}u\in N_{\lambda }^{-}$ 。由引理3.4和引理3.5，我们有， ${\phi }_u\left(t^{+}\right)<0$ ， ${\phi }_u\left(t^{-}\right)>0$ 。所以，存在唯一的一个 $t^{*}\in \left(t^{+},t^{-}\right)$ ，使得 ${\phi }_u\left(t^{*}\right)=0$ 。

因此，我们得到 $J\left(t^{+}u\right)={\phi }_u\left(t^{+}\right)=\underset{0\le t\le t^{*}}{\inf }J\left(tu\right)$ 和 $J\left(t^{-}u\right)={\phi }_u\left(t^{-}\right)=\underset{t>t^{*}}{\sup }J\left(tu\right)$ 。证毕。

4. 主要结果的证明

现在，我们将给出主要结果的证明。令 ${\lambda }^{*}=\min \left({\delta }^{\prime },\frac{1-\gamma }{p}\delta \right)$ ，其中 $\delta$ 和 ${\delta }^{\prime }$ 分别在引理3.3和引理3.6中给出。为了证明定理1.1，我们首先需要下面两个命题。

命题4.1 如果 $\lambda \in \left(0,{\lambda }^{*}\right)$ ，那么泛函J有一个极小值点 $u_{*}\in N_{\lambda }^{+}$ ，满足

$J\left(u_{*}\right)={\theta }^{+}<0$ 。

证明：因为J在 $N_{\lambda }^{+}$ 上是下有界的，所以存在一个极小化序列 $\left\{u_n\right\}\in N_{\lambda }^{+}$ 使得

$J\left(u_n\right)\to {\theta }^{+}$ 。

由引理3.3的证明过程， $\left\{u_n\right\}$ 在 $X_0$ 上是有界的。因为 $X_0$ 是一个自反的巴拿赫空间，所以存在 $u_{*}\in X_0$

$u_n\rightharpoonup u_{*}$ ，在 $X_0$ 中，

$u_n\to u_{*}$ ，在 $L^m\left(\Omega \right)$ 中， $1\le m<p_s^{*}$ ，

$u_n\to u_{*}$ ，在 $\Omega$ 中几乎处处成立，

由控制收敛定理，我们得到

$Q\left(u_{*}\right)=\underset{n\to \infty }{\lim }Q\left(u_n\right)$ ， $R\left(u_{*}\right)=\underset{n\to \infty }{\lim }R\left(u_n\right)$ ， $S\left(u_{*}\right)=\underset{n\to \infty }{\lim }S\left(u_n\right)$ 。 (4.1)

另外， $u_{*}\ne 0$ 且 $R\left(u_{*}\right)>0$ 。事实上，如果不是这样的话，考虑 $\left\{u_n\right\}\in N_{\lambda }^{+}$ ，利用(3.1)，有

$J\left(u_n\right)=\left(\frac{1}{p}-\frac{1}{r}\right)P\left(u_n\right)+\left(\frac{1}{pk}-\frac{1}{r}\right)K\left(u_n\right)+\left(\frac{1}{q}-\frac{1}{r}\right)Q\left(u_n\right)-\left(\frac{1}{1-\gamma }-\frac{1}{r}\right)R\left(u_n\right)$ ，

因此 $\underset{n\to \infty }{\lim }J\left(u_n\right)>0$ 。然而，由引理3.4， $\underset{n\to \infty }{\lim }J\left(u_n\right)<0$ ，显然这是矛盾的。因此

$u_{*}\in X_0\backslash \left\{0\right\}$ 且 $R\left(u_{*}\right)>0$ 。 (4.2)

接下来，我们将证明在 $X_0$ 中， $u_n\to u_{*}$ 成立。假设结论不成立，由Brezis-Lieb引理 [25] ，我们有

${\displaystyle \underset{Q}{\iint }\frac{{\left|u_{*}\left(x\right)-u_{*}\left(y\right)\right|}^p}{{\left|x-y\right|}^{N+ps}}\text{d}y\text{d}x}\le \underset{n\to \infty }{\lim \inf }{\displaystyle \underset{Q}{\iint }\frac{{\left|u_n\left(x\right)-u_n\left(y\right)\right|}^p}{{\left|x-y\right|}^{N+ps}}\text{d}y\text{d}x}$ 。 (4.3)

结合(4.1)，(4.2)，(4.3)，我们得到

$\begin{array}{c}\underset{n\to \infty }{\lim }J\left(u_n\right)=\underset{n\to \infty }{\lim \inf }[\frac{a}{p}{\displaystyle \underset{Q}{\iint }\frac{{\left|u_n\left(x\right)-u_n\left(y\right)\right|}^p}{{\left|x-y\right|}^{N+ps}}\text{d}y\text{d}x}+\frac{b}{pk}{\left({\displaystyle \underset{Q}{\iint }\frac{{\left|u_n\left(x\right)-u_n\left(y\right)\right|}^p}{{\left|x-y\right|}^{N+ps}}\text{d}y\text{d}x}\right)}^k\\ \stackrel{\stackrel{}{}}{}+\frac{\mu }{q}{\displaystyle {\int }_{\Omega }{\left|u_n\right|}^q}\text{d}x-\frac{\lambda }{1-\gamma }{\displaystyle {\int }_{\Omega }g\left(x\right){\left|u_n\right|}^{1-\gamma }\text{d}x}-{\displaystyle {\int }_{\Omega }F\left(x,u_n\right)\text{d}x}]\\ \ge \underset{n\to \infty }{\lim \inf }\left[\frac{a}{p}{\displaystyle \underset{Q}{\iint }\frac{{\left|u_n\left(x\right)-u_n\left(y\right)\right|}^p}{{\left|x-y\right|}^{N+ps}}\text{d}y\text{d}x}+\frac{b}{pk}{\left({\displaystyle \underset{Q}{\iint }\frac{{\left|u_n\left(x\right)-u_n\left(y\right)\right|}^p}{{\left|x-y\right|}^{N+ps}}\text{d}y\text{d}x}\right)}^k\right]\\ +\underset{n\to \infty }{\lim }\frac{\mu }{q}{\displaystyle {\int }_{\Omega }{\left|u_n\right|}^q}\text{d}x-\underset{n\to \infty }{\lim }\frac{\lambda }{1-\gamma }{\displaystyle {\int }_{\Omega }g\left(x\right){\left|u_n\right|}^{1-\gamma }\text{d}x}-\underset{n\to \infty }{\lim }{\displaystyle {\int }_{\Omega }F\left(x,u_n\right)\text{d}x}\\ >J\left(u_{*}\right)\end{array}$ (4.4)

由引理3.6，存在正数 $t^{+}$ 使得 $t^{+}{u}_{*}\in N_{\lambda }^{+}$ ，进一步我们得到

${\displaystyle \underset{Q}{\iint }\frac{{\left|t^{+}{u}_{*}\left(x\right)-t^{+}{u}_{*}\left(y\right)\right|}^p}{{\left|x-y\right|}^{N+sp}}\text{d}y\text{d}x}\le \underset{n\to \infty }{\lim \inf }{\displaystyle \underset{Q}{\iint }\frac{{\left|t^{+}{u}_n\left(x\right)-t^{+}{u}_n\left(y\right)\right|}^p}{{\left|x-y\right|}^{N+sp}}\text{d}y\text{d}x}$ 。 (4.5)

由控制收敛定理，我们得到

$Q\left(t^{+}{u}_{*}\right)=\underset{n\to \infty }{\lim }Q\left(t^{+}{u}_n\right)$ ， $R\left(t^{+}{u}_{*}\right)=\underset{n\to \infty }{\lim }R\left(t^{+}{u}_n\right)$ ， $S\left(t^{+}{u}_{*}\right)=\underset{n\to \infty }{\lim }S\left(t^{+}{u}_n\right)$ 。 (4.6)

因此，

$\begin{array}{c}\underset{n\to \infty }{\lim }{{\phi }^{\prime }}_{u_n}\left(t^{+}\right)=\underset{n\to \infty }{\lim \inf }[a{\left(t^{+}\right)}^{p-1}{\displaystyle \underset{Q}{\iint }\frac{{\left|u_n\left(x\right)-u_n\left(y\right)\right|}^p}{{\left|x-y\right|}^{N+ps}}\text{d}y\text{d}x}+b{\left(t^{+}\right)}^{pk-1}{\left({\displaystyle \underset{Q}{\iint }\frac{{\left|u_n\left(x\right)-u_n\left(y\right)\right|}^p}{{\left|x-y\right|}^{N+ps}}\text{d}y\text{d}x}\right)}^k\\ \stackrel{\stackrel{}{}}{}+\mu {\left(t^{+}\right)}^{q-1}{\displaystyle \underset{\Omega }{\int }{\left|u_n\right|}^q\text{d}x}-\lambda {\left(t^{+}\right)}^{-\gamma }{\displaystyle {\int }_{\Omega }g\left(x\right){\left|u_n\right|}^{1-\gamma }\text{d}x-{\left(t^{+}\right)}^{r-1}r}{\displaystyle {\int }_{\Omega }F\left(x,u_n\right)\text{d}x}]\\ >\frac{1}{t^{+}}[a{\displaystyle \underset{Q}{\iint }\frac{{\left|t^{+}{u}_{*}\left(x\right)-t^{+}{u}_{*}\left(y\right)\right|}^p}{{\left|x-y\right|}^{N+ps}}\text{d}y\text{d}x}+b{\left({\displaystyle \underset{Q}{\iint }\frac{{\left|t^{+}{u}_{*}\left(x\right)-t^{+}{u}_{*}\left(y\right)\right|}^p}{{\left|x-y\right|}^{N+ps}}\text{d}y\text{d}x}\right)}^k\\ \stackrel{\stackrel{}{}}{}+\mu {\left(t^{+}\right)}^q{\displaystyle \underset{\Omega }{\int }{\left|u_{*}\right|}^q\text{d}x}-\lambda {\displaystyle {\int }_{\Omega }g\left(x\right){\left|t^{+}{u}_{*}\right|}^{1-\gamma }}\text{d}x-r{\displaystyle {\int }_{\Omega }f\left(x,t^{+}{u}_n\right)t^{+}{u}_n\text{d}x}]\\ ={{\phi }^{\prime }}_{u_{*}}\left(t^{+}\right)=0.\end{array}$ (4.7)

另一方面，因为 $u_n\in N_{\lambda }^{+}$ ，所以 ${{\phi }^{\prime }}_{u_n}\left(1\right)=0$ 且 ${{\phi }^{″}}_{u_n}\left(1\right)>0$ 。由定理3.6，对于所有的 $t\in \left(0,1\right)$ ，我们有 ${{\phi }^{\prime }}_{u_n}\left(t\right)<0$ 。因此从(4.7)式，很容易得到 $t^{+}>1$ 。又因为 $t^{+}{u}_{*}\in N_{\lambda }^{+}$ ，由引理3.6，我们得到 ${\phi }_{u_{*}}\left(t\right)$ 在 $\left(0,t^{+}\right)$ 上是递减的，所以，通过(4.4)，我们总结出

$J\left(t^{+}{u}_{*}\right)\le J\left(u_{*}\right)<\underset{n\to \infty }{\lim }J\left(u_n\right)=\underset{u\in N_{\lambda }^{+}}{\inf }J\left(u\right)$ 。

显然，这和 $t^{+}{u}_{*}\in N_{\lambda }^{+}$ 是矛盾的。因此，当 $n\to \infty$ 时，在 $X_0$ 中有 $u_n\to u_{*}$ 且 $u_{*}\in N_{\lambda }^{+}$ 。证毕。

命题4.2 如果 $\lambda \in \left(0,{\lambda }^{*}\right)$ ，那么泛函J有一个极小值点 $u_{\#}\in N_{\lambda }^{-}$ ，满足

$J\left(u_{\#}\right)={\theta }^{-}>0$ 。

证明：令 $\left\{u_n\right\}$ 是 $N_{\lambda }^{-}$ 上的极小化序列使得

$J\left(u_n\right)\to {\theta }^{-}$ 。

由引理3.3的证明过程，我们得知 $\left\{u_n\right\}$ 在 $X_0$ 上是有界的，因为 $X_0$ 是一个自反的巴拿赫空间，所以存在 $u_{\#}\in X_0$ 使得

$u_n\rightharpoonup u_{\#}$ ，在 $X_0$ 中，

$u_n\to u_{\#}$ ，在 $L^{\beta }\left(\Omega \right)$ 中， $1\le \beta <p_s^{*}$ ，

$u_n\to u_{\#}$ ，在 $\Omega$ 中几乎处处成立。

类似于命题4.1的证明，很容易得到

$\underset{n\to \infty }{\lim }{\displaystyle {\int }_{\Omega }f\left(x,u_n\right)u_n\text{d}x}={\displaystyle {\int }_{\Omega }f\left(x,u_{\#}\right)u_{\#}\text{d}x}$ ， (4.8)

$\underset{n\to \infty }{\lim }{\displaystyle {\int }_{\Omega }g\left(x\right){\left|u_n\right|}^{1-\gamma }}\text{d}x={\displaystyle {\int }_{\Omega }g\left(x\right){\left|u_{\#}\right|}^{1-\gamma }}\text{d}x$ 。 (4.9)

我们说 $u_{\#}\ne 0$ ，事实上，如果 $u_{\#}=0$ ，由(4.8)，我们得到当 $n\to \infty$ 时，

$S\left(u_n\right)\to 0$ 。 (4.10)

因为 $u_n\in N_{\lambda }^{-}$ ，利用(3.1)和引理3.5，我们得到

$0<K<J\left(u_n\right)=\left(\frac{1}{p}-\frac{1}{1-\lambda }\right)P\left(u\right)+\left(\frac{1}{pk}-\frac{1}{1-\lambda }\right)P\left(u\right)+\left(\frac{1}{1-\lambda }-\frac{1}{r}\right)S\left(u\right)$ 。

于是我们得到 $0<K<J\left(u_n\right)<0$ ，显然是矛盾的。因此，存在一个正实数 $t^{-}$ ，使得 $t^{-}{u}_{\#}\in N_{\lambda }^{-}$ 。类似于命题4.1的证明，容易得到当 $n\to \infty$ 时，在 $X_0$ 中有 $u_n\to u_{\#}$ 且 $u_{\#}\in N_{\lambda }^{-}$ 。证毕。

类似于 [26] 中引理3.7的证明，我们可以得到如下引理。

引理4.1 假设(H₁)~(H₃)成立， $u_{*}\in N_{\lambda }^{\pm }$ ，那么存在 $\epsilon >0$ 和一个连续函数

$\beta :B_{\epsilon }\left(0\right)\to \left(0,\infty \right)$

使得

$\beta \left(0\right)=1,\beta \left(w\right)\left(u+w\right)\in N_{\lambda }^{\pm },\forall w\in B_{\epsilon }\left(0\right)$ ，

其中 $B_{\epsilon }\left(0\right)=\left\{w\in X_0:\Vert w\Vert <\epsilon \right\}$ 。

定理1.1的证明：通过引理4.1，我们可以找到 $\vartheta \left(t\right)>0$ ， $t\in \left[0,t_0\right]$ 使得

$\vartheta \left(t\right)\left(u_{*}+th\right)\in N_{\lambda }^{+}$

和

$\vartheta \left(t\right)\to 1$ ，当 $t\to 0^{+}$

成立。因此，由命题4.1，我们有，对于任意的 $t\in \left[0,t_0\right]$ ，

$m=J\left(u_{*}\right)\le J\left(\vartheta \left(t\right)\left(u_{*}+th\right)\right)$ 。

因此对于所有的 $t\in \left[0,t_1\right]$ ， $0<t_1\le t_0$ ，我们有

$m\le J\left(u_{*}\right)\le J\left(u_{*}+th\right)$ 。

因此

$0\le J\left(u_{*}+th\right)-J\left(u_{*}\right)$ 。

在上式两边同时除以t，且令 $t\to 0^{+}$ ，通过简单的计算，可以得到

$\begin{array}{l}\begin{array}{c}a{\displaystyle \underset{Q}{\iint }\frac{{\left|u_{*}\left(x\right)-u_{*}\left(y\right)\right|}^{p-2}\left(u_{*}\left(x\right)-u_{*}\left(y\right)\right)\left(h\left(x\right)-h\left(y\right)\right)}{{\left|x-y\right|}^{N+ps}}\text{d}y\text{d}x}\end{array}\\ \begin{array}{c}+b{\displaystyle \underset{Q}{\iint }\frac{{\left|u_{*}\left(x\right)-u_{*}\left(y\right)\right|}^{pk-2}\left(u_{*}\left(x\right)-u_{*}\left(y\right)\right)\left(h\left(x\right)-h\left(y\right)\right)}{{\left|x-y\right|}^{N+spk}}\text{d}y\text{d}x}\end{array}\\ -\lambda {\displaystyle {\int }_{\Omega }g\left(x\right)u_{*}^{-\gamma }\left(x\right)h\left(x\right)\text{d}x}-{\displaystyle {\int }_{\Omega }f\left(x,u_{*}\right)h\left(x\right)\text{d}x}\ge 0.\end{array}$

在上式中，用−h代替h，很容易得到 $u_{*}\in N_{\lambda }^{+}$ 是问题(1.1)的一个非平凡解。同样的道理，可以得到 $u_{\#}\in N_{\lambda }^{-}$ 也是问题(1.1)的一个非平凡解。因为 $N_{\lambda }^{+}$ 和 $N_{\lambda }^{-}$ 是不相交的。所以，问题(1.1)有两个非平凡解。证毕。