具有上临界指数的p-Choquard方程基态解的存在性

Existence of Ground State Solution for p-Choquard Equation with Upper Critical Exponent

摘要: 该文讨论下列具有上临界指标的p-Choquard方程 $\{\begin{array}{l}-{\Delta }_{p}u+V\left(x\right){\left|u\right|}^{p-2}u=\left[{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|u\right|}^{p_{\alpha }^{\ast }}\right]{\left|u\right|}^{p_{\alpha }^{\ast }-2}u,in{ℝ}^N;\\ u\in W^{1,p}\left({ℝ}^N\right),\end{array}$ 其中$N\ge 3$ ，$p_{\alpha }^{*}=\frac{p}{2}\left(\frac{N+\alpha }{N-p}\right)$ 是关于Hardy-Littlewood-Sobolev不等式的上临界指数，$2\le p<N$ ，${\Delta }_p:=div\left({\left|\nabla u\right|}^{p-2}\nabla u\right)$ ，${\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}$ 是关于Dirichlet边界条件下的Riesz变分位势，指数$\alpha \in \left(0,N\right)$ 。该文通过Nehari流形和山路引理证明上述方程存在基态解。

Abstract: In this paper, we are concerned with the following p-Choquard equation with upper critical exponent: $\{\begin{array}{l}-{\Delta }_{p}u+V\left(x\right){\left|u\right|}^{p-2}u=\left[{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|u\right|}^{p_{\alpha }^{\ast }}\right]{\left|u\right|}^{p_{\alpha }^{\ast }-2}u,in{ℝ}^N;\\ u\in W^{1,p}\left({ℝ}^N\right),\end{array}$ where $N\ge 3$ , $p_{\alpha }^{*}=\frac{p}{2}\left(\frac{N+\alpha }{N-p}\right)$ is the upper critical Hardy-Littlewood-Sobolev exponent, $2\le p<N$ , ${\Delta }_p:=div\left({\left|\nabla u\right|}^{p-2}\nabla u\right)$ , ${\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}$ is the Riesz fractional potential with Dirichlet boundary condition. $\alpha \in \left(0,N\right)$ . We study the existence of the ground state solution to above equation by using the methods of Nehari manifold and the Mountain Pass Lemma.

1. 引言

本文考虑如下具有Hardy-Littlewood-Sobolev不等式的上临界指数的p-Choquard方程

$\{\begin{array}{l}-{\Delta }_{p}u+V\left(x\right){\left|u\right|}^{p-2}u=\left[{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|u\right|}^{p_{\alpha }^{*}}\right]{\left|u\right|}^{p_{\alpha }^{*}-2}u,in{ℝ}^N;\\ u\in W^{1,p}\left({ℝ}^N\right),\end{array}$ (1.1)

基态解的存在性，其中$N\in \mathbb{N}$ ，$N\ge 3$ ，$V\left(x\right)\in L^{\infty }\left({ℝ}^N\right)$ 。指数$p_{\alpha }^{*}=\frac{p}{2}\left(\frac{N+\alpha }{N-p}\right)$ 是关于Hardy-Littlewood-Sobolev不等式的上临界指数，${\Delta }_p:=div\left({\left|\nabla u\right|}^{p-2}\nabla u\right)$ 是p-Laplace算子。目前在Dirichlet边界条件下的Riesz变分位势${\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}$ 未被广泛研究。

Choquard方程是一类重要的量子物理方程，拥有深厚的物理背景。1954年，Pekar [1]在他关于量子力学理论的极化子模型的研究中首次介绍了著名的Choquard-Pekar方程

$-\Delta u+u=\left(\frac{1}{\left|x\right|}\ast {\left|u\right|}^2\right)u,in{ℝ}^3$ (1.2)

后来，Choquard将方程(1.2)看作是一个电子阱模型，并用其近似于单组分等离子体的Hartree-Fock理论。在文献[2]中，Lieb研究了方程(1.2)基态解的存在唯一性。Penrose [3]在1996年研究量子态的衰减时，他提出了方程(1.2)作为一个自引模型，可以用来描述单个粒子在引力场中的运动。此时，方程(1.2)被称为Schrödinger-Newton方程。后来，基于球对称性和解的平滑性的假设下，Moroz首先在[4]中对Schrödinger-Newton方程的解进行数值和分析后得到初步结论。随后，基于文献[5]的研究，Moroz和Schaftingen在文献[6]中研究了下述非线性Choquard方程基态解的存在性结果：

$-\Delta u+u=\left(I_{\alpha }\ast {\left|u\right|}^{\xi }\right){\left|u\right|}^{\xi -2}u,in{ℝ}^N,$ (1.3)

其中$I_{\alpha }:{ℝ}^N\to ℝ$ 是关于阶$\alpha \in \left(0,N\right)$ 的Riesz位势。对于任意的$x\in {ℝ}^N\backslash \left\{0\right\}$ ，$I_{\alpha }$ 可定义为：

$I_{\alpha }\left(x\right)=\frac{\Gamma \left(\frac{N-\alpha }{2}\right)}{2^{\alpha }{\pi }^{\frac{N}{2}}\Gamma \left(\frac{\alpha }{2}\right){\left|x\right|}^{N-\alpha }}.$

当指数$\xi \in \left(\frac{N+\alpha }{N},\frac{N+\alpha }{N-2}\right)$ 时，他们利用变分法和常微分方程的技巧证明了方程(1.3)存在正的基态解。此外，他们还给出了该方程基态解的正则性结果以及每一个正的基态解都是径向对称的，并且在无穷远处单调衰减。我们将$\frac{N+\alpha }{N-2}$ 和$\frac{N+\alpha }{N}$ 分别称为关于Hardy-Littlewood-Sobolev不等式的上(下)临界指标。之后他们推广了文献[7]的结论，即当$\xi =\frac{N+\alpha }{N}$ 时，方程(1.3)仍存在基态解。

近年来，许多学者关注具有局部非线性扰动和在无穷远处消失的位势函数$V\left(x\right)$ 的Choquard方程：

$\{\begin{array}{l}-\Delta u+V\left(x\right)u=\left(I_{\alpha }\ast {\left|u\right|}^{\xi }\right){\left|u\right|}^{\xi -2}u+f\left(x,u\right),in{ℝ}^N;\\ u\in H^1\left({ℝ}^N\right),\end{array}$ (1.4)

其中$N\ge 1$ ，$\frac{N+\alpha }{N}<\xi <\frac{N+\alpha }{N-\alpha }$ ，$I_{\alpha }$ 是Riesz位势函数。特别地，当指数$\xi =\frac{N+\alpha }{N}$ 时，Wu等学者在文献[8]中研究了上述方程在周期性和非对称周期性两种情形下基态解的存在性问题。同时，具有Hardy-Littlewood-Sobolev不等式的临界指数的Choquard方程的基态解问题同样吸引了许多数学学者。对于上临界指数的情形，可阅读文献[9]-[13]；对于下临界指数的情形，可参考文献[14]-[16]。

对于双临界指标的情形，Seok在文献[17]中考虑了方程，利用山路引理证得方程

$-\Delta u+u=\left[I_{\alpha }\ast \left(\frac{{\left|u\right|}^{2_{\ast }^{\alpha }}}{2_{\ast }^{\alpha }}+\frac{{\left|u\right|}^{2_{\alpha }^{\ast }}}{2_{\alpha }^{\ast }}\right)\right]\left({\left|u\right|}^{2_{\ast }^{\alpha }-2}u+{\left|u\right|}^{2_{\alpha }^{\ast }-2}u\right),$ (1.5)

存在非平凡径向解。随后，Liu和Chen将Seok的结论推广到p-Laplace的情形，在文献[18]中利用山路引理与Nehari流形研究了如下的p-Choquard方程的非负基态解的存在性问题：

$-{\Delta }_{p}u+V\left(x\right){\left|u\right|}^{p-2}u=\left[I_{\alpha }\ast \left(\frac{\lambda {\left|u\right|}^{p_{\ast }^{\alpha }}}{p_{\ast }^{\alpha }}+\frac{{\left|u\right|}^{p_{\alpha }^{\ast }}}{p_{\alpha }^{\ast }}\right)\right]\left(\lambda {\left|u\right|}^{p_{\ast }^{\alpha }-2}u+{\left|u\right|}^{p_{\alpha }^{\ast }-2}u\right),$ (1.6)

其中$N\ge 3,p\in \left(1,\sqrt{N}\right),\alpha \in \left(0,N\right)$ 。他们首先通过一些技巧得到了一个${\left(PS\right)}_c$ 序列，其中$c$ 小于所需的能量，并且${\left(PS\right)}_c$ 序列是Non-vanishing的，结合Nehari流形的一些性质，应用具有Morrey范数的Sobolev不等式和Lion-type定理，完成了方程存在非负基态解的证明。关于具有双临界指数的Choquard方程，可参考文献[19]-[22]。

文献[23]讨论在有限格点图$N^n$ 上的p-Choquard方程

$-{\Delta }_{p}u+V\left(x\right){\left|u\right|}^{p-2}u=\left({\displaystyle \sum _{y\in N_n,y\ne x}\frac{{\left|u\left(y\right)\right|}^q}{d{\left(x,y\right)}^{\alpha }}}\right){\left|u\right|}^{q-2}u,$ (1.7)

其中$n\in {\mathbb{N}}^{+}$ 是顶点的数量，且$p>1$ ，$q>1$ ，$0\le \alpha \le n$ 是一些常数，$V\left(x\right)$ 是在$N^n$ 上的正函数。Liu和Zhang借助Nehari方法证明了在$1\le p\le q$ 的条件下，上述方程存在一个基态解。该研究结果涵盖了$\alpha =0$ 和$\alpha =n$ 等临界情形，从而进一步推进了格点图上Choquard方程的研究领域。

基于上述研究，p-Choquard方程是在二阶Choquard方程的基础上，结合了非线性项和p-Laplace算子的非线性椭圆方程，研究p-Choquard方程可以推动数学工具的发展，如山路引理、Nehari流形等，并将其应用于其他非线性问题。而p-Choquard方程基态解的存在性的研究对于量子力学和凝聚态物理中的模型验证也至关重要。

本文的主要定理如下：

定理1.1 假设$N\ge 3,\alpha \in \left(0,N\right)$ ，则p-Choquard方程(1.1)存在基态解。

下面给出本文的主要证明思路。对山路水平的估计以及有界Palais-Smale序列的弱极限是否为非零的临界点这两个问题给我们的证明带来了挑战。为了克服上述困难，我们将能量泛函$\mathcal{J}$ 约束在Nehari流形中，接着，我们证明山路水平不仅与$\mathcal{J}$ 在Sobolev空间$W^{1,p}\left({ℝ}^N\right)$ 中的极小值相等，还与$\mathcal{J}$ 在Nehari流

形中的极小值相等，且它们都属于区间$\left(0,k_{*}=\frac{\alpha +p}{p\left(N+\alpha \right)}{\mathcal{S}}^{\frac{N+\alpha }{\alpha +p}}\right)$ 。然后我们证明了Palais-Smale序列的有

界性。最后由集中紧性定理得到了定理1.1成立。

本文主要分为三个部分。第一部分主要介绍了Choquard方程的物理背景及研究方向，第二部分给出了一些基本的定义和本文所需要的命题，第三部分证明了方程基态解的存在性。

2. 预备知识

令${\text{C}}_0^{\infty }\left({ℝ}^N\right)$ 是具有紧支集的光滑函数的全体。

定义Sobolev空间$ℰ=\left\{u\in W^{1,p}\left({ℝ}^N\right):{\displaystyle {\int }_{{ℝ}^N}\left({\left|\nabla u\right|}^p+V\left(x\right){\left|u\right|}^p\right)}dx<\infty \right\}$ 是${\text{C}}_0^{\infty }\left({ℝ}^N\right)$ 的完备化，空间$ℰ$ 范数为

${\Vert u\Vert }_{ℰ}^p:={\displaystyle {\int }_{{ℝ}^N}\left({\left|\nabla u\right|}^p+V\left(x\right){\left|u\right|}^p\right)}dx,u\in ℰ,$

其中$V\left(x\right)\in L^{\infty }\left({ℝ}^N\right)$ 。

由Gagliardo-Nirenberg不等式得，对于任意$u\in ℰ$ ，${\Vert u\Vert }_{L^r\left({ℝ}^N\right)}\le C_1{\Vert u\Vert }_{ℰ}^p$ ，其中$p\le r\le p^{\ast }=\frac{Np}{N-p}$ 。

基于变分法，在空间$ℰ$ 上建立方程的变分框架。对任意函数$u\in ℰ$ ，方程对应的能量泛函为：

$\mathcal{J}\left(u\right)=\frac{1}{p}{\displaystyle {\int }_{{ℝ}^N}\left({\left|\nabla u\right|}^p+V\left(x\right){\left|u\right|}^p\right)}dx-\frac{1}{2p_{\alpha }^{*}}{\displaystyle {\int }_{{ℝ}^N}^{}\left[{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}*{\left|u\right|}^{p_{\alpha }^{*}}\right]}{\left|u\right|}^{p_{\alpha }^{*}}dx.$ (2.1)

显然，$\mathcal{J}$ 是$ℰ$ 上的$C^1$ 泛函，且对任意的$u,\phi \in ℰ$ ，有

$\langle {\mathcal{J}}^{\prime }\left(u\right),\phi \rangle ={\displaystyle {\int }_{{ℝ}^N}\left({\left|\nabla u\right|}^{p-2}\nabla u\nabla \phi +V\left(x\right){\left|u\right|}^{p-2}u\phi \right)}dx-{\displaystyle {\int }_{{ℝ}^N}\left[{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|u\right|}^{p_{\alpha }^{\ast }}\right]}{\left|u\right|}^{p_{\alpha }^{\ast }-1}\phi dx.$ (2.2)

于是，方程的基态解对应能量泛函$\mathcal{J}$ 的临界点。

定义2.1 (Riesz变分拉普拉斯位势[24])在有界区域$\Omega$ 中，具有Dirichlet边界条件的Riesz变分拉普拉斯位势可被定义为

${\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}=C\left(N,\alpha \right)\left(P.V.{\displaystyle {\int }_{\Omega }\frac{u\left(x\right)-u\left(y\right)}{{\left|x-y\right|}^{N-\alpha }}}dy+{\int }_{{ℝ}^N\backslash \Omega }\frac{u\left(x\right)-g\left(y\right)}{{\left|x-y\right|}^{N-\alpha }}dy\right),$

其中$P.V.$ 表示积分主值：

$P.V.{\displaystyle {\int }_{{ℝ}^{\mathbb{N}}}\frac{u\left(x\right)-u\left(y\right)}{{\left|x-y\right|}^{N-\alpha }}}dy=\underset{\epsilon \to 0}{\lim }{\int }_{{ℝ}^N\backslash B_{\epsilon }\left(x\right)}\frac{u\left(x\right)-u\left(y\right)}{{\left|x-y\right|}^{N-\alpha }},$

且$B_{\epsilon }\left(x\right):=\left\{y\in {ℝ}^N:\left|x-y\right|<\epsilon \right\}$ ，$x\in \Omega$ 。

定义2.2 令$ℰ$ 是实Banach空间，$\mathcal{J}$ 是$ℰ$ 上的$C^1$ 泛函，存在序列$u_n\subset ℰ$ 满足，当$n\to \infty$ 时，

(1) 若$\mathcal{J}\left(u_n\right)\stackrel{}{\to }k$ ，${\mathcal{J}}^{\text{'}}\left(u_n\right)\stackrel{}{\to }0$ ，则称序列$\left\{u_n\right\}$ 为$\mathcal{J}$ 的${\left(PS\right)}_k$ 序列；

(2) 若$\mathcal{J}$ 的每个${\left(PS\right)}_k$ 序列都有收敛子列，则称$\mathcal{J}$ 满足在$k\in ℝ$ 处的Palais-Smale条件。

注2.1 Palais-Smale条件是山路引理应用的前提之一。在本问题中，为了满足Palais-Smale条件，我们需要证明$\mathcal{J}$ 的${\left(PS\right)}_k$ 序列$\left\{u_n\right\}$ 在空间$ℰ$ 中有界且具有非消失性。

命题2.1 (Hardy-Littlewood-Sobolev不等式[25])假设$s,t\in \left(1,\infty \right)$ ，$0<\alpha <N$ 有$\frac{1}{s}+\frac{1}{t}+\frac{\alpha }{N}=2$ 成立，则对任意的$w_1\in L^s\left({ℝ}^N\right),w_2\in L^t\left({ℝ}^N\right)$ ，存在常数$C\left(N,\alpha ,s,t\right)>0$ 使得

$\left|{\displaystyle \underset{{ℝ}^{2N}}{\iint }\frac{w_1\left(x\right)w_2\left(x\right)}{{\left|x-y\right|}^{N-\alpha }}}dxdy\right|\le C\left(N,\alpha ,s,t\right){\Vert w_1\Vert }_s{\Vert w_2\Vert }_t.$

成立。特别地，若$s=r=2N/\left(N+\alpha \right)$ ，则

$C\left(N,\alpha ,s,t\right)={\pi }^{\left(N-\alpha \right)/2}\frac{\Gamma \left(\frac{\alpha }{2}\right)}{\Gamma \left(\left(N+\alpha \right)/2\right)}{\left[\frac{\Gamma \left(N/2\right)}{\Gamma \left(N\right)}\right]}^{-\alpha /N}.$

命题2.2 ([25])假设$N\ge 1$ ，$\alpha \in \left(0,N\right)$ ，$s\in \left(1,\frac{N}{\alpha }\right)$ 。若$\varphi \in L^s\left({ℝ}^N\right)$ ，则有${\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast \varphi \in L^{\frac{Ns}{N-\alpha s}}\left({ℝ}^N\right)$ 及

${\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast \varphi \right|}^{\frac{Ns}{N-\alpha s}}}\le C{\left({\displaystyle {\int }_{{ℝ}^N}^{}{\left|\varphi \right|}^s}\right)}^{\frac{N}{N-\alpha s}},$ (2.3)

其中常数$C$ 依赖于$\alpha ,N,s$ 。

注2.2 特别地，对任意的$\xi >0$ ，令$w_1=w_2={\left|u\right|}^{\xi }$ 。根据命题2.1，若$u\in L^{t\xi }\left({ℝ}^N\right)$ ，$t>1$ ，$\frac{2}{t}-\frac{\alpha }{N}=1$ 满足$\frac{2}{t}-\frac{\alpha }{N}=1$ ，则${\displaystyle {\int }_{{ℝ}^N}^{}\left[{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}*{\left|u\right|}^{\xi }\right]}{\left|u\right|}^{\xi }$ 成立。由Sobolev嵌入定理，若$u\in ℰ$ ，有$t\xi \in \left[p,p_{}^{\ast }\right]$ 。从而可知

$\frac{p}{2}\left(\frac{N+\alpha }{N}\right)\le \xi \le \frac{p}{2}\left(\frac{N+\alpha }{N-p}\right):=p_{\alpha }^{*}.$

于是，在Hardy-Littlewood-Sobolev不等式的意义下，$\frac{p}{2}\left(\frac{N+\alpha }{N}\right)$ 与$\frac{p}{2}\left(\frac{N+\alpha }{N-p}\right)$ 分别被称为下临界指

标与上临界指标。

由命题2.1以及Riesz变分位势的性质${\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}={\left(-{\Delta }^D\right)}^{\frac{-\alpha }{4}}\ast {\left(-{\Delta }^D\right)}^{\frac{-\alpha }{4}}$ ([25]，Corollary5.10)，公式(2.3)可写为

${\displaystyle {\int }_{{ℝ}^N}\left({\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|u\right|}^p\right)}{\left|u\right|}^p={\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{4}}\ast {\left|u\right|}^p\right|}^2}\le C{\left({\displaystyle {\int }_{{ℝ}^N}^{}{\left|u\right|}^2}\right)}^p.$

另外，Hardy-Littlewood-Sobolev不等式在本文中的情形为

${\displaystyle {\int }_{{ℝ}^N}\left({\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|u\right|}^{p_{\alpha }^{\ast }}\right)}{\left|u\right|}^{p_{\alpha }^{\ast }}\le C{\left({\displaystyle {\int }_{{ℝ}^N}^{}{\left|u\right|}^2}\right)}^{p_{\alpha }^{\ast }}\le C_1{\Vert u\Vert }_{L^{p_{\alpha }^{\ast }}}^{2p_{\alpha }^{\ast }},$ (2.4)

其中$C=C\left(\alpha ,N\right)$ 是依赖于$\alpha ,N$ 的常数。

定义最佳Sobolev常数

${\mathcal{S}}_{\ast }:=\inf \left\{{\displaystyle {\int }_{{ℝ}^N}{\left|\nabla u\right|}^p}dx:u\in ℰ/\left\{0\right\},{\left({\displaystyle {\int }_{{ℝ}^N}{\left|u\right|}^{p^{\ast }}}dx\right)}^{\frac{p}{p^{\ast }}}=1\right\}.$ (2.5)

定义关于Hardy-Littlewood-Sobolev不等式的最佳常数

$\mathcal{S}:=\inf \left\{{\displaystyle {\int }_{{ℝ}^N}{\left|\nabla u\right|}^p}dx:u\in ℰ/\left\{0\right\},{\displaystyle {\int }_{{ℝ}^N}\left[{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|u\right|}^{p_{\alpha }^{\ast }}\right]}{\left|u\right|}^{p_{\alpha }^{\ast }}dx=1\right\}.$ (2.6)

3. 定理1.1的证明

在下面的引理中，首先验证能量泛函$\mathcal{J}$ 具有山路几何结构。

引理3.1 能量泛函$\mathcal{J}$ 满足山路几何结构，即

(1) 存在常数$\alpha ,\sigma >0$ ，使得$\mathcal{J}{|}_{S_{\sigma }}\ge \alpha >0$ ，其中

$S_{\sigma }:=\left\{u\in ℰ:{\Vert u\Vert }_{ℰ}=\sigma \right\};$

(2) 存在函数$u_0\in ℰ$ ，${\Vert u_0\Vert }_{ℰ}>\sigma$ ，使得$\mathcal{J}\left(u_0\right)<0$ 。

证 (1)设常数$\mu >0$ 。结合命题2.1和Sobolev嵌入定理得，

$\begin{array}{c}\mathcal{J}\left(u\right)=\frac{1}{p}{\displaystyle {\int }_{{ℝ}^N}\left({\left|\nabla u\right|}^p+V\left(x\right){\left|u\right|}^p\right)}dx-\frac{1}{2p_{\alpha }^{\ast }}{\displaystyle {\int }_{{ℝ}^N}^{}\left[{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|u\right|}^{p_{\alpha }^{\ast }}\right]}{\left|u\right|}^{p_{\alpha }^{\ast }}\\ \ge \frac{1}{p}{\Vert u\Vert }_{ℰ}^p-\mu {\Vert u\Vert }_{ℰ}^{2p_{\alpha }^{\ast }}\\ ={\Vert u\Vert }_{ℰ}^p\left(\frac{1}{p}-\mu {\Vert u\Vert }_{ℰ}^{2p_{\alpha }^{\ast }-p}\right).\end{array}$

则

$\mathcal{J}{|}_{S_{\sigma }}\ge {\sigma }^p\left(\frac{1}{p}-\mu {\Vert u\Vert }_{ℰ}^{2p_{\alpha }^{\ast }-p}\right)\ge 0.$

从而存在常数$\alpha$ 和$\sigma$ 充分小时，可知$\mathcal{J}{|}_{S_{\sigma }}\ge \alpha >0$ 。

(3) 对任意$u\in ℰ/\left\{0\right\}$ 和任意$t>0$ ，有

$\mathcal{J}\left(tu\right)=\frac{1}{p}{\displaystyle {\int }_{{ℝ}^N}\left({\left|\nabla tu\right|}^p+V\left(x\right){\left|tu\right|}^p\right)}dx-\frac{1}{2p_{\alpha }^{\ast }}{\displaystyle {\int }_{{ℝ}^N}^{}\left[{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|tu\right|}^{p_{\alpha }^{\ast }}\right]}{\left|tu\right|}^{p_{\alpha }^{\ast }}$

$\begin{array}{c}=\frac{t^p}{p}{\displaystyle {\int }_{{ℝ}^N}\left({\left|\nabla u\right|}^p+V\left(x\right){\left|u\right|}^p\right)}dx-\frac{t^{2p_{\alpha }^{\ast }}}{2p_{\alpha }^{\ast }}{\displaystyle {\int }_{{ℝ}^N}^{}\left[{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|u\right|}^{p_{\alpha }^{\ast }}\right]}{\left|u\right|}^{p_{\alpha }^{\ast }}\\ \to -\infty \left(t\to +\infty \right).\end{array}$

综上，能量泛函$\mathcal{J}$ 满足山路几何结构。

在本问题中，我们定义Nehari流形$\mathcal{N}$ 为

$\mathcal{N}:=\left\{u\in u\in ℰ/\left\{0\right\}|\langle {\mathcal{J}}^{\prime }\left(u\right),u\rangle =0\right\}.$

方程的基态解是极小能量解，即$\mathcal{J}$ 约束在Nehari流形$\mathcal{N}$ 中的极小值可被取到。

令

$k_0:=\underset{\gamma \in \Gamma }{\inf }{\max }_{t\in \left[0,1\right]}\mathcal{J}\left(\gamma \left(t\right)\right),k_1:=\underset{u\in \mathcal{N}}{\inf }\mathcal{J}\left(u\right),k_2:=\underset{u\in ℰ/\left\{0\right\}}{\inf }{\max }_{t>0}\mathcal{J}\left(tu\right),$

其中

$\Gamma :=\left\{\gamma \in C\left(\left[0,1\right],ℰ\right)|\gamma \left(0\right)=0,\mathcal{J}\left(\gamma \left(1\right)\right)<0\right\}.$

证明$\mathcal{N}$ 有如下性质：

引理3.2假设$N\ge 3$ ，$\alpha \in \left(0,N\right)$ ，对任意$u\in ℰ/\left\{0\right\}$ ，存在唯一$t_u>0$ 使得$t_{u}u\in \mathcal{N}$ 及$\mathcal{J}\left(t_{u}u\right)={\max }_{t>0}\mathcal{J}\left(tu\right)$ 。

证明：令$w\left(t_u\right)={\max }_{t>0}w\left(t\right)$ ，其中$w\left(t\right):=\mathcal{J}\left(tu\right)$ ，$t>0$ 。则有$w\left(0\right)=0$ ，

$\begin{array}{l}w\left(t\right)=\mathcal{J}\left(tu\right)=\frac{1}{p}{\displaystyle {\int }_{{ℝ}^N}\left({\left|\nabla tu\right|}^p+V\left(x\right){\left|tu\right|}^p\right)}dx-\frac{1}{2p_{\alpha }^{\ast }}{\displaystyle {\int }_{{ℝ}^N}^{}\left[{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|tu\right|}^{p_{\alpha }^{\ast }}\right]}{\left|tu\right|}^{p_{\alpha }^{\ast }}\\ =\frac{t^p}{p}{\displaystyle {\int }_{{ℝ}^N}\left({\left|\nabla u\right|}^p+V\left(x\right){\left|u\right|}^p\right)}dx-\frac{t^{2p_{\alpha }^{\ast }}}{2p_{\alpha }^{\ast }}{\displaystyle {\int }_{{ℝ}^N}^{}\left[{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|u\right|}^{p_{\alpha }^{\ast }}\right]}{\left|u\right|}^{p_{\alpha }^{\ast }}.\end{array}$

由Hardy-Littlewood-Sobolev不等式

${\displaystyle {\int }_{{ℝ}^N}^{}\left[{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|u\right|}^{p_{\alpha }^{\ast }}\right]}{\left|u\right|}^{p_{\alpha }^{\ast }}\le C_1{\Vert u\Vert }_{L^{p_{\alpha }^{\ast }}}^{2p_{\alpha }^{\ast }}\le C_2{\Vert u\Vert }_{ℰ}^{2p_{\alpha }^{\ast }},$

可得

$w\left(t\right)\ge \frac{t^p}{p}{\Vert u\Vert }_{ℰ}^p-C_2\frac{t^{2p_{\alpha }^{\ast }}}{2p_{\alpha }^{\ast }}{\Vert u\Vert }_{ℰ}^{2p_{\alpha }^{\ast }}.$

从而，存在$t>0$ 充分小时，$w\left(t\right)>0$ 。另一方面，由公式(2.1)，有$\mathcal{J}\left(tu\right)\to -\infty$ $\left(t\to +\infty \right)$ 。则$w\left(t\right)$ 在$t_u>0$ 处取得极小值。综上，$w^{\prime }\left(t_u\right)=\langle {\mathcal{J}}^{\prime }\left(t_{u}u\right),u\rangle =0$ 且$t_{u}u\in \mathcal{N}$ 。

下面证明$t_u$ 的唯一性。若不然，对任意$u\in ℰ/\left\{0\right\}$ ，如果存在$0<t_u<{\overline{t}}_u$ 使得$t_{u}u\in \mathcal{N}$ ，${\overline{t}}_{u}u\in \mathcal{N}$ 。根据Nehari流形$\mathcal{N}$ 的定义，有

$\langle {\mathcal{J}}^{\prime }\left(t_{u}u\right),t_{u}u\rangle =\langle {\mathcal{J}}^{\prime }\left({\overline{t}}_{u}u\right),{\overline{t}}_{u}u\rangle =0.$

由方程(2.2)可知

${\displaystyle {\int }_{{ℝ}^N}\left({\left|\nabla \left({\overline{t}}_{u}u\right)\right|}^p+V\left(x\right){\left|{\overline{t}}_{u}u\right|}^p\right)}dx-{\displaystyle {\int }_{{ℝ}^N}^{}\left[{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|{\overline{t}}_{u}u\right|}^{p_{\alpha }^{\ast }}\right]}{\left|{\overline{t}}_{u}u\right|}^{p_{\alpha }^{\ast }}=0,$

${\displaystyle {\int }_{{ℝ}^N}\left({\left|\nabla \left(t_{u}u\right)\right|}^p+V\left(x\right){\left|t_{u}u\right|}^p\right)}dx-{\displaystyle {\int }_{{ℝ}^N}^{}\left[{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|t_{u}u\right|}^{p_{\alpha }^{\ast }}\right]}{\left|t_{u}u\right|}^{p_{\alpha }^{\ast }}=0.$

通过简单的计算可得

${\overline{t_u}}^p{\Vert u\Vert }_{ℰ}^p={\overline{t_u}}^{2p_{\alpha }^{\ast }}{\displaystyle {\int }_{{ℝ}^N}^{}\left[{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|u\right|}^{p_{\alpha }^{\ast }}\right]}{\left|u\right|}^{p_{\alpha }^{\ast }},$

$t_u{}^p{\Vert u\Vert }_{ℰ}^p=t_u{}^{2p_{\alpha }^{\ast }}{\displaystyle {\int }_{{ℝ}^N}^{}\left[{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|u\right|}^{p_{\alpha }^{\ast }}\right]}{\left|u\right|}^{p_{\alpha }^{\ast }}.$

从而

${\overline{t_u}}^{p-2p_{\alpha }^{\ast }}{\Vert u\Vert }_{ℰ}^p={\displaystyle {\int }_{{ℝ}^N}^{}\left[{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|u\right|}^{p_{\alpha }^{\ast }}\right]}{\left|u\right|}^{p_{\alpha }^{\ast }},$

$t_u{}^{p-2p_{\alpha }^{\ast }}{\Vert u\Vert }_{ℰ}^p={\displaystyle {\int }_{{ℝ}^N}^{}\left[{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|u\right|}^{p_{\alpha }^{\ast }}\right]}{\left|u\right|}^{p_{\alpha }^{\ast }}.$

最后得到

$\left(\frac{1}{{\overline{t_u}}^{2p_{\alpha }^{\ast }-p}}-\frac{1}{t_u{}^{2p_{\alpha }^{\ast }-p}}\right){\Vert u\Vert }_{ℰ}^p=0,$

这与$u\in ℰ\backslash \left\{0\right\}$ ，$0<t_u<{\overline{t}}_u$ 矛盾。

下面我们估计山路水平值$k_0$ 。

引理3.3 设$k_{*}=\frac{\alpha +p}{p\left(N+\alpha \right)}{\mathcal{S}}^{\frac{N+\alpha }{\alpha +p}}$ ，则有$k_0=k_1=k_2\in \left(0,k_{*}\right)$ 。

证明：我们将证明分为两步。

步骤1：由引理3.2，可得$k_1=k_2$ 。先证$k_0=k_1$ 。

令$\gamma :\left[0,1\right]\to W^{1,p}\left({ℝ}^N\right)$ ，定义$\gamma \left(t\right)=t{t}_{1}u$ ，其中$t_1>0$ 充分大，使得$\mathcal{J}\left(t_{1}u\right)<0$ 。显然$\gamma \in \Gamma$ 。由$k_0$ 的定义得

$k_0\le {\max }_{t\in \left[0,1\right]}\mathcal{J}\left(t{t}_{1}u\right)\le {\max }_{t>0}\mathcal{J}\left(tu\right).$ (3.1)

则$k_0\le k_1$ 。

令$l\left(t\right)=\langle {\mathcal{J}}^{\prime }\left(\gamma \left(t\right)\right),\gamma \left(t\right)\rangle$ ，其中$\gamma \in \Gamma$ 。由$\Gamma$ 的定义得$\mathcal{J}\left(\gamma \left(1\right)\right)<0$ 。显然，当$t>0$ 充分小时，$l\left(t\right)>0$ 。设$\mu =\min \left\{2p_{\alpha }^{\ast },p^{\ast }\right\}$ ，则有

$\begin{array}{l}\mathcal{J}\left(\gamma \left(1\right)\right)-\frac{1}{\mu }\langle {\mathcal{J}}^{\prime }\left(\gamma \left(1\right)\right),\gamma \left(1\right)\rangle \\ =\left(\frac{1}{p}-\frac{1}{\mu }\right){\Vert \gamma \left(1\right)\Vert }_{ℰ}^p+\left(\frac{1}{\mu }-\frac{N-p}{2p_{\alpha }^{\ast }}\right){\displaystyle {\int }_{{ℝ}^N}\left[{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|u\right|}^{p_{\alpha }^{\ast }}\right]}{\left|u\right|}^{p_{\alpha }^{\ast }}dx\\ >0\end{array}$

因此

$\langle {\mathcal{J}}^{\prime }\left(\gamma \left(1\right)\right),\gamma \left(1\right)\rangle <\mu \mathcal{J}\left(\gamma \left(1\right)\right)<0$

从而可知存在$t_2\in \left(0,1\right)$ 使得$\langle {\mathcal{J}}^{\prime }\left(\gamma \left(t_2\right)\right),\gamma \left(t_2\right)\rangle =0$ ，这意味着$\gamma \left(t_2\right)\in \mathcal{N}$ 。因此，$k_1\le k_0$ 。

综上可知，$k_0=k_1=k_2$ 。

步骤2：这里我们证明$k_0=k_1=k_2\in \left(0,k_{*}\right)$ 。

由公式(2.6)易证得$\mathcal{S}>0$ 。结合Lieb和Loss在文献[25]中所述，给定$A\in ℝ$ ，$\epsilon >0$ ，当函数$u_0\in ℰ$ 且$u_0=A{\left(\frac{{\epsilon }^{\frac{1}{p-1}}}{{\epsilon }^{\frac{p}{p-1}}+{\left|x\right|}^{\frac{p}{p-1}}}\right)}^{\frac{N-p}{p}}$ 时，最佳Hardy-Littlewood-Sobolev常数$\mathcal{S}$ 可达。

假设截断函数$\eta \in C_0^{\infty }\left({ℝ}^N,\left[0,1\right]\right)$ 满足

$\eta \left(x\right)=\{\begin{array}{ll}\hfill & 1,x\in B_{\rho },\hfill \\ \hfill & 0,x\in B_{\rho }^c.\hfill \end{array}$

其中$\rho >0$ 为常数。

记${\eta }_n\left(x\right)=\eta \left(\frac{x}{n}\right)$ ，因此在$D^{1,p}\left({ℝ}^N\right)$ 中${\eta }_n{u}_0\to u_0$ ，$n\to \infty$ ，并且存在$t_0>0$ 充分大，使得$\mathcal{J}\left(t_0{\eta }_n{u}_0\right)<0$ 。下面令$\gamma \left(t\right)=t{t}_0{\eta }_n{u}_0$ ，则有

$\begin{array}{l}{k}_0\le {\max }_{t\in \left[0,1\right]}\mathcal{J}\left(\gamma \left(t\right)\right)\\ ={\max }_{t\in \left[0,1\right]}\left[\frac{{(t{t}_0)}^p}{p}{\displaystyle {\int }_{{ℝ}^N}\left({\left|\nabla \left({\eta }_n{u}_0\right)\right|}^p+V\left(x\right){\left|{\eta }_n{u}_0\right|}^p\right)}dx-\frac{{(t{t}_0)}^{2p_{\alpha }^{\ast }}}{2p_{\alpha }^{\ast }}{\displaystyle {\int }_{{ℝ}^N}\left({\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|{\eta }_n{u}_0\right|}^{p_{\alpha }^{\ast }}\right)}{\left|{\eta }_n{u}_0\right|}^{p_{\alpha }^{\ast }}\right]\\ \le \left(\frac{1}{p}-\frac{1}{2p_{\alpha }^{\ast }}\right)\frac{{\left[{\displaystyle {\int }_{{ℝ}^N}\left({\left|\nabla \left({\eta }_n{u}_0\right)\right|}^p+V\left(x\right){\left|{\eta }_n{u}_0\right|}^p\right)}dx\right]}^{\frac{2p_{\alpha }^{\ast }}{2p_{\alpha }^{\ast }-p}}}{{\left[{\displaystyle {\int }_{{ℝ}^N}\left({\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|{\eta }_n{u}_0\right|}^{p_{\alpha }^{\ast }}\right)}{\left|{\eta }_n{u}_0\right|}^{p_{\alpha }^{\ast }}\right]}^{\frac{p}{2p_{\alpha }^{\ast }-p}}}.\end{array}$

特别地，由

$\begin{array}{l}{\displaystyle {\int }_{{ℝ}^N}{\left|\nabla \left({\eta }_n{u}_0\right)\right|}^p}dx\to \mathcal{S},n\to \infty ,\\ {\displaystyle {\int }_{{ℝ}^N}\left({\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|{\eta }_n{u}_0\right|}^{p_{\alpha }^{\ast }}\right)}{\left|{\eta }_n{u}_0\right|}^{p_{\alpha }^{\ast }}\to 1,n\to \infty \end{array}$

可知

$k_0<\frac{\alpha +p}{p\left(N+\alpha \right)}{\mathcal{S}}^{\frac{N+\alpha }{\alpha +p}}.$

综上，$k_0=k_1=k_2\in \left(0,k_{*}\right)$ 。

引理3.4 假设$\left\{u_n\right\}\subset ℰ$ 是能量泛函$\mathcal{J}$ 的${\left(PS\right)}_{k_0}$ 序列，那么$\left\{u_n\right\}$ 在$ℰ$ 中有界。

证明：由${\left(PS\right)}_{k_0}$ 序列的定义，

$k_0+o\left(1\right)=\frac{1}{p}{\Vert u_n\Vert }_{ℰ}^p-\frac{1}{2p_{\alpha }^{\ast }}{\displaystyle {\int }_{{ℝ}^N}^{}\left[{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|u_n\right|}^{p_{\alpha }^{\ast }}\right]}{\left|u_n\right|}^{p_{\alpha }^{\ast }}dx,$

$o\left(1\right)={\Vert u_n\Vert }_{ℰ}^p-{\displaystyle {\int }_{{ℝ}^N}^{}\left[{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|u_n\right|}^{p_{\alpha }^{\ast }}\right]}{\left|u_n\right|}^{p_{\alpha }^{\ast }}dx.$

综上，$\left\{u_n\right\}$ 在$ℰ$ 中有界。

由于$\left\{u_n\right\}$ 在$ℰ$ 中有界，可能会出现下面两种情形：

情形(i)：消失，即，$\underset{n\to \infty }{\lim \sup }{\displaystyle {\int }_{{ℝ}^N}{\left|u_n\right|}^p}dx=0$ 。

情形(ii)：非消失，即，$\underset{n\to \infty }{\lim \sup }{\displaystyle {\int }_{{ℝ}^N}{\left|u_n\right|}^p}dx>0$ 。

下面我们证明能量泛函$\mathcal{J}$ 的有界${\left(PS\right)}_{k_0}$ 序列$\left\{u_n\right\}$ 是非消失的。

引理3.5假设$\left\{u_n\right\}\subset ℰ$ 是关于泛函$\mathcal{J}$ 的有界${\left(PS\right)}_{k_0}$ 序列，其中$k_0\in \left(0,k_{*}\right)$ ，则有$\underset{n\to \infty }{\lim \sup }{\displaystyle {\int }_{{ℝ}^N}{\left|u_n\right|}^p}dx>0$ 。

证明：若不然，假设$\underset{n\to \infty }{\lim \sup }{\displaystyle {\int }_{{ℝ}^N}{\left|u_n\right|}^p}dx=0$ 。利用Lion's集中紧性原理可得，

$u_n\to 0L^t\left({ℝ}^N\right),t\in \left[p,p^{\ast }\right).$

由${\left(PS\right)}_{k_0}$ 序列的定义

$\langle {\mathcal{J}}^{\prime }\left(u_n\right),u_n\rangle ={\Vert u_n\Vert }_{ℰ}^p-{\displaystyle {\int }_{{ℝ}^N}^{}\left[{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|u_n\right|}^{p_{\alpha }^{\ast }}\right]}{\left|u_n\right|}^{p_{\alpha }^{\ast }}dx=o\left(1\right),$ (3.2)

$\mathcal{J}\left(u_n\right)=\frac{1}{p}{\Vert u_n\Vert }_{ℰ}^p-\frac{1}{2p_{\alpha }^{\ast }}{\displaystyle {\int }_{{ℝ}^N}^{}\left[{\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|u_n\right|}^{p_{\alpha }^{\ast }}\right]}{\left|u_n\right|}^{p_{\alpha }^{\ast }}dx=k_0+o\left(1\right).$ (3.3)

令$\underset{n\to \infty }{\lim \sup }{\Vert u_n\Vert }_{ℰ}=\kappa$ 。显然，$\kappa \in \left[0,+\infty \right)$ 。由(2.6)与(3.2)得${\kappa }^p\le {\kappa }^{2p_{\alpha }^{\ast }}{S}^{-p_{\alpha }^{\ast }}$ ，求得$\kappa =0$ 或$\kappa \ge S^{\frac{1}{2}\left(\frac{N+\alpha }{\alpha +p}\right)}$ 。我们容易证明当$\kappa =0$ 时，$k_0=0$ 。当$\kappa \ge S^{\frac{1}{2}\left(\frac{N+\alpha }{\alpha +p}\right)}$ 时，结合(3.2)与(3.3)，易得

$\begin{array}{l}{k}_0\ge \left(\frac{1}{p}-\frac{1}{2p_{\alpha }^{\ast }}\right)\underset{n\to \infty }{\lim \sup }{\Vert u\Vert }_{ℰ}^p\\ \ge \frac{\alpha +p}{p\left(N+\alpha \right)}{\kappa }^p\ge \frac{\alpha +p}{p\left(N+\alpha \right)}{\mathcal{S}}^{\frac{p}{2}\left(\frac{N+\alpha }{N-p}\right)}\ge k_{*},\end{array}$

均与已知条件$k_0\in \left(0,k_{*}\right)$ 矛盾。因此反设不成立，引理3.5得证。

定理1.1 由引理3.1，存在有界${\left(PS\right)}_{k_0}$ 序列$\left\{u_n\right\}\subset ℰ$ 满足$\mathcal{J}\left(u_n\right)\to k_0,{\mathcal{J}}^{\prime }\left(u_n\right)\to 0,$ $n\to \infty .$ 在子列的意义下，存在$u\in ℰ$ 使得

$\{\begin{array}{l}{u}_n\rightharpoonup u,inℰ,\\ u_n\to u,in{L}_{loc}^r\left({ℝ}^N\right),r\in \left[p,p^{\ast }\right),\\ u_n\left(x\right)\to u\left(x\right)a.e.in{ℝ}^N.\end{array}$

下面分为两种情形证明定理1。

情形1：$u\ne 0.$ 首先证明${\mathcal{J}}^{\prime }\left(u\right)=0$ 。

又$u_n\to u,$ in $L_{loc}^r\left({ℝ}^N\right),$ $r\in \left[p,p^{\ast }\right)$ 及Hardy-Littlewood-Sobolev不等式，存在常数$C_3> 0$ ，使得

$0\le \left|{\left|u_n\right|}^{p_{\alpha }^{\ast }}-{\left|u\right|}^{p_{\alpha }^{\ast }}\right|\le {\left|u_n-u\right|}^{p_{\alpha }^{\ast }}+C_3\left|u_n\right|{\left|u_n-u\right|}^{p_{\alpha }^{\ast }-1}\to 0.$ (3.4)

对任意$\phi \in C_0^{\infty }\left({ℝ}^N\right)$ ，有

$\begin{array}{l}{\displaystyle {\int }_{{ℝ}^N}^{}\left({\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|u_n\right|}^{p_{\alpha }^{\ast }}\right)}{\left|u_n\right|}^{p_{\alpha }^{\ast }-2}{u}_n\phi dx-{\displaystyle {\int }_{{ℝ}^N}^{}\left({\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|u\right|}^{p_{\alpha }^{\ast }}\right)}{\left|u\right|}^{p_{\alpha }^{\ast }-2}u\phi dx\\ ={\displaystyle {\int }_{{ℝ}^N}^{}\left({\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast \left({\left|u_n\right|}^{p_{\alpha }^{\ast }}-{\left|u\right|}^{p_{\alpha }^{\ast }}\right)\right)}{\left|u\right|}^{p_{\alpha }^{\ast }-2}u\phi dx\end{array}$

$+{\displaystyle {\int }_{{ℝ}^N}^{}\left({\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}*{\left|u_n\right|}^{p_{\alpha }^{*}}\right)}\left({\left|u_n\right|}^{p_{\alpha }^{*}-2}{u}_n-{\left|u\right|}^{p_{\alpha }^{*}-2}u\right)\phi dx\to 0.$ (3.5)

结合式(3.2)，(3.5)以及$C_0^{\infty }\left({ℝ}^N\right)$ 在$ℰ$ 中的稠密性，可得${\mathcal{J}}^{\prime }\left(u\right)=0$ ，从而$u\in \mathcal{N}$ ，$\mathcal{J}\left(u\right)\ge k_1=k_0$ 。

再由Palais-Smale序列的定义及Fatou引理，有

$\begin{array}{l}{k}_0=\underset{n\to \infty }{\lim }\left[\mathcal{J}\left(u_n\right)-\frac{1}{p}\langle {\mathcal{J}}^{\prime }\left(u_n\right),u_n\rangle \right]\\ =\underset{n\to \infty }{\lim }\left[\left(\frac{1}{p}-\frac{1}{2p_{\alpha }^{\ast }}\right){\displaystyle {\int }_{{ℝ}^N}^{}\left({\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|u_n\right|}^{p_{\alpha }^{\ast }}\right)}{\left|u_n\right|}^{p_{\alpha }^{\ast }}dx\right]\\ \le {\displaystyle {\int }_{{ℝ}^N}\underset{n\to \infty }{\lim }}\inf \left[\frac{\alpha +p}{p\left(N+\alpha \right)}\left({\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}*{\left|u_n\right|}^{p_{\alpha }^{\ast }}\right){\left|u_n\right|}^{p_{\alpha }^{\ast }}dx\right]\\ =\frac{\alpha +p}{p\left(N+\alpha \right)}{\displaystyle {\int }_{{ℝ}^N}^{}\left({\left(-{\Delta }^D\right)}^{\frac{-\alpha }{2}}\ast {\left|u\right|}^{p_{\alpha }^{\ast }}\right)}{\left|u\right|}^{p_{\alpha }^{\ast }}dx\\ =\mathcal{J}\left(u\right)-\frac{1}{p}\langle {\mathcal{J}}^{\prime }\left(u\right),u\rangle =\mathcal{J}\left(u\right).\end{array}$

因此，$\mathcal{J}\left(u\right)=k_1=k_0=\underset{\mathcal{N}}{\inf }\mathcal{J}>0$ 。

综上，情形1证明完毕。

情形2：$u=0$ 。由情形1我们有

$\{\begin{array}{l}{u}_n\rightharpoonup 0,inℰ,\\ u_n\to 0,in{L}_{loc}^r\left({ℝ}^N\right),r\in \left[p,p^{*}\right),\\ u_n\left(x\right)\to 0a.e.in{ℝ}^N.\end{array}$

令$\zeta =\underset{n\to \infty }{\lim \sup }{\displaystyle {\int }_{{ℝ}^N}{\left|u_n\right|}^p}dx$ 。由引理3.5，可知$\zeta >0$ 。不失一般性，定义${\tilde{u}}_n\left(x\right)=u_n\left(x-y_n\right),y_n\in {ℝ}^N,$ 由$\mathcal{J}$ 的平移不变性，$\left\{{\tilde{u}}_n\right\}$ 也是有界${\left(PS\right)}_{k_0}$ 序列。取它的一个子列，仍记作$\left\{{\tilde{u}}_n\right\}$ ，有

$\{\begin{array}{l}{\tilde{u}}_n\rightharpoonup \tilde{u},inℰ,\\ {\tilde{u}}_n\to \tilde{u},in{L}_{loc}^r\left({ℝ}^N\right),r\in \left[p,p^{\ast }\right),\\ {\tilde{u}}_n\left(x\right)\to \tilde{u}\left(x\right)a.e.in{ℝ}^N.\end{array}$

由$\zeta >0$ 得$\tilde{u}\ne 0$ 。接下来的证明类似情形1。因此我们证得$\tilde{u}\in \mathcal{N}$ 是方程(1.1)的一个基态解。

注3.1 为了证明方程(1.1)解的Hölder连续性及解的更高阶正则性，我们通常需要应用一些定理或能量估计的技巧，包括Sobolev嵌入定理、Gagliardo-Nirenberg不等式以及可能的局部化估计。本文主要讨论基态解的存在性，解的Hölder连续性及更高阶正则性暂时不做讨论，对于感兴趣的读者，可以尝试自行证明。

基金项目

本文受到国家自然科学基金项目号12471194的资助。