分数阶SchrÖdinger-Poisson系统正束缚态解的存在性

Existence of Positive Bound State Solutions for Fractional SchrÖdinger-Poisson System

摘要: 本文研究如下分数阶Schrödinger-Poisson系统

Abstract: 其中s,t∈(0,1)，2s+2t>3，p∈(3,5)。在位势满足适当假设下，我们采用Nehari流形方法及结合形变讨论证明了正束缚态解的存在性。 This paper is to deal with the following fractional Schrödinger-Poisson system where s,t∈(0,1), 2s+2t>3, p∈(3,5). Under some suitable assumptions for the potentials, we prove the existence of positive bound state solutions by using the Nehari manifold method combining with the deformation argument.

1. 引言

本文研究如下分数阶Schrödinger-Poisson系统

$\{\begin{array}{l}{\left(-\Delta \right)}^{s}u+V\left(x\right)u+K\left(x\right)\varphi u=Q\left(x\right){\left|u\right|}^{p-1}u,x\in R^3,\\ {\left(-\Delta \right)}^t\varphi =K\left(x\right)u^2,x\in R^3,\end{array}$ (1)

正束缚态解的存在性，其中 $s,t\in \left(0,1\right)$， $2s+2t>3$， $p\in \left(3,5\right)$，位势 $V\left(x\right)$， $K\left(x\right)$ 和 $Q\left(x\right)$ 满足合适的假设。

当 $s=t=1$ 时，问题(1)退化为经典的Schrodinger-Poisson系统，其更一般的形式记为：

(2)

该系统出现在量子力学模型和半导体理论中 [1] [2]，非线性项 $f\left(x,u\right)$ 表示粒子的相互作用， $K\left(x\right)\varphi u$ 表示与电场的相互作用。

近年来，对于 $V\left(x\right)$， $K\left(x\right)$ 和 $f\left(x,u\right)$ 的不同假设，很多学者对系统(2)进行了大量的研究，可参见 [3] [4] [5] 等。在文献 [4] 中，作者用热流法证明了当 $V=K\equiv 1$，且 $4<p<6$ 时，系统(2)具有指定变号次数的径向变号解。当V为非径向， $K\equiv 1$， $f={\left|u\right|}^{p-2}u$ 时，在文献 [3] 和 [5] 中分别证明了 $4<p<6$ 和 $3<p\le 4$ 时系统(2)存在基态解。

我们记问题(1)的一般形式为

$\{\begin{array}{l}{\left(-\Delta \right)}^{s}u+V\left(x\right)u+K\left(x\right)\varphi u=f\left(x,u\right),x\in R^3\\ {\left(-\Delta \right)}^t\varphi =K\left(x\right)u^2,x\in R^3.\end{array}$ (3)

在文献 [6] 中，当 $V\left(x\right)=0$， $K\left(x\right)=\lambda >0$ 且 $f\left(x,u\right)$ 具有一般的临界或次临界非线性时，作者证明了径向基态解的存在性。在文献 [7] 中，当，时，作者用Nehari-Pohozaev流形方法证明了正基态解的存在性。在文献 [8] 中，作者研究了当， $f\left(x,u\right)=a\left(x\right){\left|u\right|}^{p-2}u+{\left|u\right|}^{2_s^{*}-2}u$ 时，系统(3)存在基态解和变号解。关于该系统的研究进展可参见 [9] [10] [11] [12] 等等。

本文的目的是描述当系数 $V\left(x\right)$， $K\left(x\right)$ 和 $Q\left(x\right)$ 竞争时发生的一些现象。为了陈述我们的主要结果，令

$V\left(x\right)=V_{\infty }+a\left(x\right),Q\left(x\right)=Q_{\infty }-b(\; x\; )$

其中 $a\left(x\right)$ 和 $b\left(x\right)$ 满足下面的假设：

(H₁) $a\left(x\right)\in L^2\left(R^3\right)$， $a\left(x\right)\ge 0$， $a\left(x\right)\cancel{\equiv }0$ 且 ${\lim }_{\left|x\right|\to \infty }a\left(x\right)=0$ ；

(H₂) $b\left(x\right)\in L^{\mathrm{\infty }}\left(R^3\right)$， $0\le b\left(x\right)<Q_{\infty }$， $b\left(x\right)\cancel{\equiv }0$ 且 ${\lim }_{\left|x\right|\to \infty }b\left(x\right)=0$ ；

(H₃) $K\left(x\right)\in L^{\frac{6}{4s+2t-3}}\left(R^3\right)\cap L^{\frac{2}{2t-1}}\left(R^3\right)$， $K\left(x\right)\ge 0$， $K\left(x\right)\cancel{\equiv }0$ 且存在 $R_0>0$ 使得当 $\left|x\right|\ge R_0$ 时，

$K\left(x\right)\le \frac{1}{{\left(1+\left|x\right|\right)}^{3-2t}}.$

此时，问题(1)变为下面的形式：

$\{\begin{array}{l}{\left(-\Delta \right)}^{s}u+\left(V_{\infty }+a\left(x\right)\right)u+K\left(x\right)\varphi u=\left(Q_{\infty }-b\left(x\right)\right){\left|u\right|}^{p-1}u,x\in R^3,\\ {\left(-\Delta \right)}^t\varphi =K\left(x\right)u^2,x\in R^3.\end{array}$ (4)

就目前的文献来看，关于分数阶Schrödinger-Poisson系统(1)，在位势 $V\left(x\right)$， $K\left(x\right)$ 和 $Q\left(x\right)$ 满足上述假设的条件下，其束缚态解的研究成果还不多见。本文的目的是推广文献 [13] 中的主要结果到非局部情形。该推广是非平凡的，一方面由于 ${\left(-\Delta \right)}^s$ 的非局部性，使得文献 [13] 中的方法不能够直接使用。另一方面，极限方程在无穷远的衰减性是多项式衰减的，而不是指数阶衰减，这会需要更加精细的估计。因此，本文的研究结果更加具有一般性。

下面陈述本文的主要结果：

定理1.1 假设条件(H₁)~(H₃)成立且

(H₄) ${\displaystyle {\int }_{R^3}{a}^2\left(x\right){\left(1+\left|x\right|\right)}^2\text{d}x}<+\infty$， ${\displaystyle {\int }_{R^3}{b}^2\left(x\right){\left(1+\left|x\right|\right)}^2\text{d}x}<+\infty$。则系统(1)存在正束缚态解。

这篇论文的结构如下。在第2节，我们给出了工作空间和准备性引理。在第3节，我们给出了定理1.1的证明。

2. 预备知识

2.1. 工作空间

定义分数阶Sobolev空间 $D^{s,2}\left(R^3\right)$ 为：

$D^{s,2}\left(R^3\right)=\left\{u\in L^{2_s^{*}}\left(R^3\right):{\displaystyle {\int }_{R^3}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}<+\infty \right\},$

其对应的范数为

${\Vert u\Vert }_{D^{s,2}}={\left({\displaystyle {\int }_{R^3}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}\right)}^{\frac{1}{2}}.$

接着引入Hilbert空间 $H^s\left(R^3\right)$，定义为：

$H^s\left(R^3\right)=\{u\in L^2\left(R^3\right):{\displaystyle {\int }_{R^3}\left({\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2+V_{\infty }{\left|u\right|}^2\right)\text{d}x}<+\infty \},$

其上赋予内积

$\langle u,v\rangle ={\displaystyle {\int }_{R^3}\left({\left(-\Delta \right)}^{\frac{s}{2}}u{\left(-\Delta \right)}^{\frac{s}{2}}v+V_{\infty }uv\right)\text{d}x},$

及对应的范数为

${\Vert u\Vert }_{H^s}={\left({\displaystyle {\int }_{R^3}\left({\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2+V_{\infty }{\left|u\right|}^2\right)\text{d}x}\right)}^{\frac{1}{2}}.$

接着，我们介绍要使用到的符号：

· $1\le q\le \infty$， $O\in R^3$ 是一个可测集， $L^q\left(O\right)$ 表示Lebesgue空间。当O是 $R^3$ 的可测子集时，用 ${\left|\cdot \right|}_{L^q\left(O\right)}$ 表示 $L^q\left(O\right)$ 的范数；当 $O=R^3$ 时，用 ${\left|\cdot \right|}_q$ 表示 $L^q\left(O\right)$ 的范数。

· $B_R\left(y\right)$ 表示以y为中心R为半径的球；当 $y=0$ 时，我们用 $B_R$ 来表示。

· $c,C,c_i,C_i$ 表示不同的正常数。

2.2. 准备性引理

对任何固定的，定义泛函 $L_u:D^{t,2}\left(R^3\right)\to R$ 为

注意到，当 $4s+2t\ge 3$ 时， $H^s\left(R^3\right)$ 嵌入，利用(H₃)推得

$\begin{array}{c}\left|L_u\left(v\right)\right|\le {\left({\displaystyle {\int }_{B_{R_0}}{\left|K\right|}^{\frac{6}{4s+2t-3}}\text{d}x}\right)}^{\frac{4s+2t-3}{6}}{\left({\displaystyle {\int }_{B_{R_0}}{\left|u\right|}^{\frac{6}{3-2s}}\text{d}x}\right)}^{\frac{3-2s}{3}}{\left({\displaystyle {\int }_{B_{R_0}}{\left|v\right|}^{\frac{6}{3-2t}}\text{d}x}\right)}^{\frac{3-2t}{6}}+C{\displaystyle {\int }_{B_{R_0}^c}{u}^{2}v\text{d}x}\\ \le {\left({\displaystyle {\int }_{B_{R_0}}{\left|K\right|}^{\frac{6}{4s+2t-3}}\text{d}x}\right)}^{\frac{4s+2t-3}{6}}{\left|u\right|}_{L^{\frac{6}{3-2s}}\left(R^3\right)}^2{\left|v\right|}_{L^{\frac{6}{3-2t}}\left(R^3\right)}+C{\left({\displaystyle {\int }_{B_{R_0}^c}{\left|u\right|}^{\frac{12}{3+2t}}\text{d}x}\right)}^{\frac{3+2t}{6}}{\left({\displaystyle {\int }_{B_{R_0}^c}{\left|v\right|}^{\frac{6}{3-2t}}\text{d}x}\right)}^{\frac{3-2t}{6}}\\ \le C{\Vert u\Vert }_{H^s}^2{\Vert v\Vert }_{D^{t,2}\left(R^3\right)}.\end{array}$

因此， $L_u$ 是 $D^{t,2}\left(R^3\right)$ 上的连续性泛函。应用Lax-Milgram定理，存在唯一的 ${\varphi }_{K,u}^t\in D^{t,2}\left(R^3\right)$ 满足 ${\left(-\Delta \right)}^t{\varphi }_{K,u}^t=K\left(x\right)u^2$，且 ${\varphi }_{K,u}^t$ 的表达式如下：

${\varphi }_{K,u}^t=c_t{\displaystyle \int {}_{R^3}\frac{K\left(y\right)u^2\left(y\right)}{{\left|x-y\right|}^{3-2t}}\text{d}y},x\in R^3$，其中 $c_t={\pi }^{\frac{-3}{2}}{2}^{-2t}\frac{\Gamma \left(\frac{3-2t}{2}\right)}{\Gamma \left(t\right)}.$

因此，系统(1)约化为分数阶Schrödinger方程：

${\left(-\Delta \right)}^{s}u+V\left(x\right)u+K\left(x\right){\varphi }_{K,u}^{t}u=Q\left(x\right){\left|u\right|}^{p-1}u,u\in H^s\left(R^3\right).$ (5)

对应于方程(5)的能量泛函定义为：

$I\left(u\right)=\frac{1}{2}{\displaystyle {\int }_{R^3}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2+\left(V_{\infty }+a\left(x\right)\right)u^2\text{d}x}+\frac{1}{4}{\displaystyle {\int }_{R^3}K\left(x\right){\varphi }_{K,u}^t{u}^2\text{d}x}-\frac{1}{p+1}{\displaystyle {\int }_{R^3}\left(Q_{\infty }-b\left(x\right)\right){\left|u\right|}^{p+1}\text{d}x}.$

显然， $I\in C^1\left(H^s\left(R^3\right),R\right)$ 并且其临界点是问题(5)的弱解。因此，为了找到系统(1)的解，我们只需找到泛函I的临界点即可，事实上，如果 $u\in H^s\left(R^3\right)$ 是I的临界点，那么 $\left(u,{\varphi }_{K,u}^t\right)$ 就是系统(1)的弱解。

下面给出 ${\varphi }_{K,u}^t$ 的性质 [8]。

引理2.1对任意的 $u\in H^s\left(R^3\right)$，有

(i) ${\varphi }_{K,u}^t\ge 0$ ；

(ii) ${\varphi }_{K,lu}^t=l^2{\varphi }_{K,u}^t,\forall l\in R$ ；

(iii) ${\displaystyle {\int }_{R^3}K\left(x\right){\varphi }_{K,u}^t{u}^2\text{d}x}\le c{\Vert u\Vert }_{H^s}^4$。

证 (i)和(ii)是显然成立的，下面只需证明结论(iii)。由(H₃)，Hölder不等式和Sobolev嵌入定理有

${\left|{\varphi }_{K,u}^t\right|}_{L^{\frac{6}{3-2t}}}^2\le {\Vert {\varphi }_{K,u}^t\Vert }_{D^{t,2}}^2={\displaystyle {\int }_{R^3}{\left|{\left(-\Delta \right)}^{\frac{t}{2}}{\varphi }_{K,u}^t\right|}^2\text{d}x}={\displaystyle {\int }_{R^3}K\left(x\right)u^2{\varphi }_{K,u}^t\text{d}x}\le {\left|K\right|}_{L^{\frac{6}{4s+2t-3}}}{\left|u\right|}_{L^{\frac{6}{3-2s}}}^2{\left|{\varphi }_{K,u}^t\right|}_{L^{\frac{6}{3-2t}}}\le C{\Vert u\Vert }_{H^s}^2{\left|{\varphi }_{K,u}^t\right|}_{L^{\frac{6}{3-2t}}},$

因此，由上式可得， ${\left|{\varphi }_{K,u}^t\right|}_{L^{\frac{6}{3-2t}}}\le C{\Vert u\Vert }_{H^s}^2$。结论(iii)得证。

类似于文献 [14] 中命题2.2的证明，不难证得如下结论：

定理2.2设序列 $u_n$ 满足，如果在 $H^s\left(R^3\right)$ 中 $u_n$ 弱收敛于u，那么

(i) ${\varphi }_{K,u_n}^t\to {\varphi }_{K,u}^t$ 在 $D^{t,2}\left(R^3\right)$ 中；

(ii) ${\displaystyle {\int }_{R^3}K\left(x\right){\varphi }_{K,u_n}^t{u}_n^2\text{d}x}\to {\displaystyle {\int }_{R^3}K\left(x\right){\varphi }_{K,u}^t{u}^2\text{d}x}$ ；

(iii) ${\displaystyle {\int }_{R^3}K\left(x\right){\varphi }_{K,u_n}^t{u}_n\phi \text{d}x}\to {\displaystyle {\int }_{R^3}K\left(x\right){\varphi }_{K,u}^{t}u\phi \text{d}x},\forall \phi \in H^s\left(R^3\right)$。

由于泛函I在 $H^s\left(R^3\right)$ 中既无上界也无下界，简单计算可知泛函I限制在Nehari流形N上有下界，其中

$N:=\left\{u\in H^s\left(R^3\right)\backslash \left\{0\right\}:I^{\prime }\left(u\right)\left[u\right]=0\right\}.$

显然，Nehari流形N包含了泛函I的所有临界点，通常称极小化问题的极小元为极小能量解或基态解。

根据标准的讨论，易证得Nehari流形N具有如下性质：

引理2.3 (i)存在正常数 $c>0$，使得对于所有的 $u\in N$，

${\left|u\right|}_{p+1}\ge c>0.$

(ii) N是 $C^1$ 正则流行且微分同胚于 $H^s\left(R^3\right)$ 的球面。

(iii) I限制在N上有正下界。

(iv) u是I在 $H^s\left(R^3\right)$ 上的临界点当且仅当u是I限制在Nehari流形N上的临界点。

下面考虑问题(5)对应的极限方程为：

${\left(-\Delta \right)}^{s}u+V_{\infty }u=Q_{\infty }{\left|u\right|}^{p-1}u,$ (7)

其对应的能量泛函定义如下

$I_{\infty }\left(u\right)=\frac{1}{2}{\displaystyle {\int }_{R^3}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2+V_{\infty }{u}^2\text{d}x}-\frac{1}{p+1}{\displaystyle {\int }_{R^3}{Q}_{\infty }{\left|u\right|}^{p+1}\text{d}x}.$

易证 $I_{\infty }\in C^2\left(H^s\left(R^3\right),R\right)$，并记泛函 $I_{\infty }$ 对应的Nehari流形为

$N_{\infty }:=\left\{u\in H^s\left(R^3\right)\backslash \left\{0\right\}:{I^{\prime }}_{\infty }\left(u\right)\left[u\right]=0\right\}.$

设

$m_{\infty }:=\underset{u\in N_{\infty }}{\inf }{I}_{\infty }\left(u\right).$

由文献 [15] 中的结果知，问题(7)存在唯一正基态解 $\omega \in H^s\left(R^3\right)$，满足 $\underset{\left|x\right|\to \infty }{\lim }\omega \left(x\right)=0$，且存在 $c>0$ 使得

$0<\omega \left(x\right)\le \frac{c}{{\left(1+\left|x\right|\right)}^{3+2s}},\forall x\in R^3.$ (8)

对于 $I_{\infty }$ 的任一变号临界点，下面关系式成立：

$I_{\infty }\left(u\right)\ge 2m_{\infty }.$ (9)

现在，我们考虑约束极小化问题 $m:=\inf \left\{I\left(u\right):u\in N\right\}$。我们发现最小能量m与 $m_{\infty }$ 之间的关系。

引理2.4 $m=m_{\infty }$ 且m不可达。

证 设 $u\in N$，则存在 $t_u>0$ 满足 $t_{u}u\in N_{\infty }$。因此，易得

$I\left(u\right)>I\left(t_{u}u\right)\ge \frac{t_u^2}{2}{\Vert u\Vert }_{H^s}^2-\frac{t_u^{p+1}}{p+1}{\displaystyle {\int }_{R^3}{Q}_{\infty }{\left|u\right|}^{p+1}\text{d}x}=I_{\infty }\left(t_{u}u\right)\ge m_{\infty },$

故 $m\ge m_{\infty }$。

下面我们要找到一组序列， $u_n\in N$ 满足 $\underset{n\to \infty }{\lim }I\left(u_n\right)=m_{\infty }$。为此，我们考虑 ${\left(y_n\right)}_n$， $y_n\in R^3$，且当 $n\to \infty$ 时， $\left|y_n\right|\to +\infty$。设 $u_n=t_n{\omega }_{y_n}=t_n\omega \left(\cdot -y_n\right)$，其中 $t_n=t\left({\omega }_{y_n}\right)$ 满足 $u_n=t_n{\omega }_{y_n}\in N$，那么

$\begin{array}{c}I\left(u_n\right)={\frac{t_n^2}{2}}_n{\displaystyle {\int }_{R^3}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}{\omega }_{y_n}\right|}^2\text{d}x}+\frac{t_n^2}{2}{\displaystyle {\int }_{R^3}\left(V_{\infty }+a\left(x\right)\right){\omega }_{y_n}^2\text{d}x}\\ +\frac{t_n^4}{4}{\displaystyle {\int }_{R^3}K\left(x\right){\varphi }_{K,{\omega }_{y_n}}^t{\omega }_{y_n}^2\text{d}x}-\frac{t_n^{p+1}}{p+1}{\displaystyle {\int }_{R^3}\left(Q_{\infty }-b\left(x\right)\right){\left|{\omega }_{y_n}\right|}^{p+1}\text{d}x}\\ ={\frac{t_n^2}{2}}_n{\displaystyle {\int }_{R^3}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}\omega \right|}^2\text{d}x}+\frac{t_n^2}{2}{\displaystyle {\int }_{R^3}\left(V_{\infty }+a\left(x+y_n\right)\right){\omega }^2\text{d}x}\\ +\frac{t_n^4}{4}{\displaystyle {\int }_{R^3}K\left(x+y_n\right){\varphi }_{K,{\omega }_{y_n}}^t{\omega }^2\text{d}x}-\frac{t_n^{p+1}}{p+1}{\displaystyle {\int }_{R^3}\left(Q_{\infty }-b\left(x+y_n\right)\right)}{\left|\omega \right|}^{p+1}\text{d}x.\end{array}$

由Lebesgue控制收敛定理及假设(H₁)~(H₃)可推得

$\underset{n\to \infty }{\lim }{\displaystyle {\int }_{R^3}a\left(x+y_n\right){\omega }^2}=0,\underset{n\to \infty }{\lim }{\displaystyle {\int }_{R^3}b\left(x+y_n\right){\left|\omega \right|}^{p+1}}=0$

$\underset{n\to \infty }{\lim }{\displaystyle {\int }_{R^3}K\left(x+y_n\right){\varphi }_{K,\omega }^t{\omega }^2}=0.$

结合 ，推出 $1\le t_n\le c$，其中 $c>0$ 是一正常数。因此，由 $p\in \left(3,5\right)$ 及 $\omega \in N_{\infty }$，有 $t_n\to 1$，从而 $I\left(u_n\right)\to m_{\infty }$。

反证法。假设存在 $v\in N$ 满足 $I\left(v\right)=m=m_{\infty }$。显然，存在 ${\kappa }_v>0$ 满足 ${\kappa }_{v}v\in N_{\infty }$，经计算得

$\begin{array}{c}{m}_{\infty }\le I_{\infty }\left({\kappa }_{v}v\right)=\left(\frac{1}{2}-\frac{1}{p+1}\right){\Vert {\kappa }_{v}v\Vert }_{H^s}^2\\ \le \left(\frac{1}{2}-\frac{1}{p+1}\right){\Vert {\kappa }_{v}v\Vert }_{H^s}^2+\left(\frac{1}{4}-\frac{1}{p+1}\right){\displaystyle {\int }_{R^3}K\left(x\right){\varphi }_{K,{\kappa }_{v}v}^t{\left|{\kappa }_{v}v\right|}^2\text{d}x}\\ \le I\left({\kappa }_{v}v\right)\le I\left(v\right)=m=m_{\infty }.\end{array}$

这说明 ${\kappa }_v=1$ 且 ${\displaystyle {\int }_{R^3}K\left(x\right){\varphi }_{K,v}^t{\left|v\right|}^2\text{d}x}=0$，因此 $v\in N_{\infty }$ 且 $I_{\infty }\left(v\right)=m_{\infty }$。

另一方面，由问题(7)的解的唯一性知，存在 $y\in R^3$，对于每一个 $x\in R^3$，满足 $v\left(x\right)=\omega \left(x-y\right)>0$，也就是说 ${\displaystyle {\int }_{R^3}K\left(x\right){\varphi }_{K,v}^t{\left|v\right|}^2\text{d}x}>0$，矛盾。证毕。

我们试图在 $\left(m_{\infty },2m_{\infty }\right)$ 中找到一个高能量水平解，为此，需要下面的全局紧性引理来恢复PS序列的紧性。

引理2.5 ( [12]，引理3.1)设 $u_n$ 是I限制在N上的PS序列，也就是说，

$I\left(u_n\right)\to c,{\nabla I|}_N\left(u_n\right)\to 0$

问题(5)的解为u，子序列仍用 $u_n$ 表示，则

要么在 $H^s\left(R^3\right)$ 中 $u_n\to u$ 成立；

要么在 $H^s\left(R^3\right)$ 中 $u_n$ 弱收敛于u，且存在整数 $k\ge 1$，函数列 $u^1,\cdots ,u^k$，点击序列 $\{y_n^j\}\subset R^3$， $1\le j\le k$，满足

1) 当 $n\to \infty$， $i\ne j$ 时， $\left|y_n^j\right|\to +\infty$， $\left|y_n^i-y_n^j\right|\to +\infty$ ；

2) $u_n-{\displaystyle \underset{j=1}{\overset{k}{\sum }}{u}^j\left(\cdot -y_n^j\right)}\to u$ ；

3) $I\left(u_n\right)\to I\left(u\right)+{\displaystyle \underset{j=1}{\overset{k}{\sum }}{I}_{\infty }\left(u^j\right)}$ ；

4) $u^j$ 是问题(7)的非平凡解。

3. 定理1.1的证明

下面我们采用拓扑方法来证明，当(5)没有基态解时，存在更高能量解。设

$\mu \left(u\right)\left(x\right)=\frac{1}{\left|B_1\left(0\right)\right|}{\displaystyle {\int }_{B_1\left(x\right)}\left|u\left(y\right)\right|\text{d}y},$

那么 $\mu \left(u\right)\in L^{\infty }\left(R^3\right)$ 且在 $H^s\left(R^3\right)$ 中连续。令

$\hat{u}\left(x\right)={\left[\mu \left(u\right)\left(x\right)-\frac{1}{2}\max \mu \left(u\right)\left(x\right)\right]}^{+},$

易证 $\hat{u}\left(x\right)\in C_0\left(R^3\right)$。定义 $\beta :H^s\left(R^3\right)\backslash \left\{0\right\}\to R^3$ 如下：

$\beta \left(u\right)=\frac{1}{{\left|\hat{u}\right|}_1}{\displaystyle {\int }_{R^3}x\hat{u}\left(x\right)\text{d}x}\in R^3.$

因为 $\hat{u}$ 有紧支集，故 $\beta$ 的定义有意义且具有以下性质：

1) $\beta$ 在 $H^s\left(R^3\right)\backslash \left\{0\right\}$ 中连续；

2) 若u是径向函数，则 $\beta \left(u\right)=0$ ；

3) 对于所有 $t\ne 0$， $u\in H^s\left(R^3\right)$，有 $\beta \left(tu\right)=\beta \left(u\right)$ ；

4) 给定 $z\in R^3$，设 $u_z\left(x\right)=u\left(x-z\right)$，则 $\beta \left(u_z\right)=\beta \left(u\right)+z$。

由引理2.4我们知道m不可达，借助重心映射 $\beta$，我们加细Nehari流形，构造新的约束。为此，定义极小化问题如下：

显然， $m=m_{\infty }\le B_0$ 且下面的严格不等式成立。

类似于文献 [14] 中引理3.3的证明，我们可得：

引理3.1 $m=m_{\infty }<B_0$。

引理3.2 I限制在N上在 $\left(m_{\infty },2m_{\infty }\right)$ 中满足PS条件。

证 设 $u_n$ 是 ${I|}_N$ 的PS序列满足 $I\left(u_n\right)\to c\in \left(m_{\infty },2m_{\infty }\right)$。由引理2.5，我们有

$c=I\left(u_n\right)+o_n\left(1\right)=I\left(u\right)+{\displaystyle \underset{j=1}{\overset{k}{\sum }}{I}_{\infty }\left(u^j\right)}+o_n\left(1\right).$

I的任一临界点v满足 $I\left(v\right)\ge m=m_{\infty }$。问题(7)的解u满足 $I_{\infty }\left(u\right)\ge m_{\infty }$。若u是变号解，则 $I_{\infty }\left(u\right)\ge 2m_{\infty }$。故 $\left\{u_n\right\}$ 在 $H^s\left(R^3\right)$ 中强收敛。证毕。

令 $\xi \in R^3$， $\left|\xi \right|=1$ 且 $\sum =\left\{z\in R^3:\left|z-\xi \right|=2\right\}$。对于 $\rho >0$， $\left(z,\varsigma \right)\in \sum \times \left[0,1\right]$，定义

${\bar{\psi }}_{\rho }\left[z,\varsigma \right]\left(x\right):=\left(1-\varsigma \right){\omega }_{\rho z}\left(x\right)+\varsigma {\omega }_{\rho \xi }\left(x\right)=\left(1-\varsigma \right)\omega \left(x-\rho z\right)+\varsigma \omega \left(x-\rho \xi \right),x\in R^3,$

其中 $\omega$ 是问题(7)的一个正基态解。存在正数 ${\kappa }_{\rho ,z,\varsigma }:={\kappa }_{{\bar{\psi }}_{\rho }\left[z,\varsigma \right]}$， ${\tau }_{\rho ,z,\varsigma }:={\tau }_{{\bar{\psi }}_{\rho }\left[z,\varsigma \right]}$ 使得

${\psi }_{\rho }\left[z,\varsigma \right]={\kappa }_{\rho ,z,\varsigma }{\bar{\psi }}_{\rho }\left[z,\varsigma \right]\in N,{\psi }_{\infty ,\rho }\left[z,\varsigma \right]={\tau }_{\rho ,z,\varsigma }{\bar{\psi }}_{\rho }\left[z,\varsigma \right]\in N_{\infty }.$ (10)

类似于 [16] 中引理4.4的证明，易得如下结论：

引理3.3 对于所有 $\rho >0$，

$B_0\le T_{\rho }:=\underset{\sum \times \left[0,1\right]}{\max }I\left\{{\psi }_{\rho }\left[z,\varsigma \right]\right\}.$

为了证明 $T_{\rho }<2m_{\infty }$ 我们做出以下估计。

引理3.4 ( [17]，引理A.1)设 $0<s<N$ 且 $t>s$，那么

${\displaystyle {\int }_{R^N}\frac{1}{{\left|x-y\right|}^{N-s}}\frac{1}{{\left(1+\left|y\right|\right)}^t}\text{d}y}\le \{\begin{array}{l}C{\left(1+\left|x\right|\right)}^{s-t}t<N,\\ C{\left(1+\left|x\right|\right)}^{s-N}\left[1+\log \left(1+\left|x\right|\right)\right]t=N,\\ C{\left(1+\left|x\right|\right)}^{s-N}t>N.\end{array}$

利用引理3.4以及假设(H₃)，可得如下得估计：

引理3.5 对于 $\varsigma \in R^3$ 且 $\left|\varsigma \right|\ge 1$，

${\displaystyle {\int }_{R^3}K\left(x\right){\varphi }_{K,{\omega }_{\rho \varsigma }}^t{\omega }_{\rho \varsigma }^2\text{d}x}=o\left(\epsilon \right).$

证 根据(8)、(H₃)、引理3.4，

$\begin{array}{c}{\varphi }_{K,{\omega }_{\rho \varsigma }}^t\left(x\right)={\displaystyle {\int }_{R^3}\frac{K\left(y\right){\omega }_{\rho \varsigma }^2\left(y\right)}{{\left|x-y\right|}^{3-2t}}\text{d}y}={\displaystyle {\int }_{R^3}\frac{K\left(y\right){\omega }^2\left(y-\rho \varsigma \right)}{{\left|x-y\right|}^{3-2t}}\text{d}y}\le {\displaystyle {\int }_{R^3}\frac{K\left(y\right)}{{\left|x-y\right|}^{3-2t}}\frac{1}{{\left(1+\left|y-\rho \varsigma \right|\right)}^{2\left(3+2s\right)}}\text{d}y}\\ ={\displaystyle {\int }_{\left|y\right|\le \frac{1}{3}\rho }\frac{K\left(y\right)}{{\left|x-y\right|}^{3-2t}}\frac{1}{{\left(1+\left|y-\rho \varsigma \right|\right)}^{2\left(3+2s\right)}}\text{d}y}+{\displaystyle {\int }_{\left|y\right|>\frac{1}{3}\rho }\frac{K\left(y\right)}{{\left|x-y\right|}^{3-2t}}\frac{1}{{\left(1+\left|y-\rho \varsigma \right|\right)}^{2\left(3+2s\right)}}\text{d}y}\\ \le \frac{1}{{\left(1+\frac{2}{3}\rho \right)}^{2\left(3+2s\right)}}{\displaystyle {\int }_{\left|y\right|\le \frac{1}{3}\rho }\frac{K\left(y\right)}{{\left|x-y\right|}^{3-2t}}\text{d}y}+\frac{1}{{\left(1+\frac{1}{3}\rho \right)}^{3-2t}}{\displaystyle {\int }_{\left|y\right|>\frac{1}{3}\rho }\frac{1}{{\left|x-y\right|}^{3-2t}}\frac{1}{{\left(1+\left|y-\rho \varsigma \right|\right)}^{2\left(3+2s\right)}}\text{d}y}\\ \le C\left[{\displaystyle {\int }_{\left|y\right|\le \frac{1}{3}\rho }\frac{K\left(y\right)}{{\left|x-y\right|}^{3-2t}}\text{d}y}+\frac{C}{{\left(1+\left|x-\rho \varsigma \right|\right)}^{3-2t}}\right].\end{array}$

那么

$\begin{array}{l}{\displaystyle {\int }_{R^3}K\left(x\right){\varphi }_{K,{\omega }_{\rho \varsigma }}^t\left(x\right){\omega }_{\rho \varsigma }^2\left(x\right)\text{d}x}\\ \le C{\displaystyle {\int }_{R^3}K\left(x\right){\omega }^2\left(x-\rho \varsigma \right)}\left[{\displaystyle {\int }_{\left|y\right|\le \frac{1}{3}\rho }\frac{K\left(y\right)}{{\left|x-y\right|}^{3-2t}}\text{d}y+}\frac{C}{{\left(1+\left|x-\rho \varsigma \right|\right)}^{3-2t}}\right]\text{d}x\\ =C{\displaystyle {\int }_{R^3}K\left(x\right){\omega }^2\left(x-\rho \varsigma \right)}{\displaystyle {\int }_{\left|y\right|\le \frac{1}{3}\rho }\frac{K\left(y\right)}{{\left|x-y\right|}^{3-2t}}\text{d}y\text{d}x}+C{\displaystyle {\int }_{R^3}K\left(x\right){\omega }^2\left(x-\rho \varsigma \right)\frac{C}{{\left(1+\left|x-\rho \varsigma \right|\right)}^{3-2t}}\text{d}x}\\ =C({\displaystyle {\int }_{\left|x\right|\le \frac{2}{3}\rho }K\left(x\right){\omega }^2\left(x-\rho \varsigma \right)}{\displaystyle {\int }_{\left|y\right|\le \frac{1}{3}\rho }\frac{K\left(y\right)}{{\left|x-y\right|}^{3-2t}}\text{d}y\text{d}x}+{\displaystyle {\int }_{\left|x\right|>\frac{2}{3}\rho }K\left(x\right){\omega }^2\left(x-\rho \varsigma \right)}{\displaystyle {\int }_{\left|y\right|\le \frac{1}{3}\rho }\frac{K\left(y\right)}{{\left|x-y\right|}^{3-2t}}\text{d}y\text{d}x}\\ +{\displaystyle {\int }_{\left|x\right|\le \frac{2}{3}\rho }K\left(x\right){\omega }^2\left(x-\rho \varsigma \right)\frac{C}{{\left(1+\left|x-\rho \varsigma \right|\right)}^{3-2t}}\text{d}x}+{\displaystyle {\int }_{\left|x\right|>\frac{2}{3}\rho }K\left(x\right){\omega }^2\left(x-\rho \varsigma \right)\frac{C}{{\left(1+\left|x-\rho \varsigma \right|\right)}^{3-2t}}\text{d}x}).\end{array}$

下面利用Hölder不等式及(H₃)可得：

$\begin{array}{l}{\displaystyle {\int }_{\left|x\right|\le \frac{2}{3}\rho }K\left(x\right){\omega }^2\left(x-\rho \varsigma \right)}{\displaystyle {\int }_{\left|y\right|\le \frac{1}{3}\rho }\frac{K\left(y\right)}{{\left|x-y\right|}^{3-2t}}\text{d}y\text{d}x}\\ \le C{\displaystyle {\int }_{\left|x\right|\le \frac{2}{3}\rho }K\left(x\right){\omega }^2\left(x-\rho \varsigma \right)}{\left({\displaystyle {\int }_{\left|y\right|\le \frac{1}{3}\rho }{\left(K\left(y\right)\right)}^{\frac{2}{2t-1}}\text{d}y}\right)}^{\frac{2t-1}{2}}{\left({\displaystyle {\int }_{\left|y\right|\le \frac{1}{3}\rho }{\left(\frac{1}{{\left|x-y\right|}^{3-2t}}\right)}^{\frac{2}{3-2t}}\text{d}y}\right)}^{\frac{3-2t}{2}}\text{d}x\\ \le C{\displaystyle {\int }_{\left|x\right|\le \frac{2}{3}\rho }K\left(x\right){\omega }^2\left(x-\rho \varsigma \right)}{\left({\displaystyle {\int }_{\left|x-y\right|\le \rho }\frac{1}{{\left|x-y\right|}^2}\text{d}y}\right)}^{\frac{3-2t}{2}}\text{d}x\\ \le C{\rho }^{\frac{3-2t}{2}}{\left({\displaystyle {\int }_{\left|x\right|\le \frac{2}{3}\rho }{\left(K\left(x\right)\right)}^{\frac{2}{2t-1}}\text{d}x}\right)}^{\frac{2t-1}{2}}{\left({\displaystyle {\int }_{\left|x\right|\le \frac{2}{3}\rho }{\left(\frac{1}{{\left(1+\left|x-\rho \varsigma \right|\right)}^{2\left(3+2s\right)}}\right)}^{\frac{2}{3-2t}}\text{d}x}\right)}^{\frac{3-2t}{2}}\\ \le C{\rho }^{\frac{3-2t}{2}}\frac{1}{{\left(1+\frac{1}{3}\rho \right)}^{2\left(3+2s\right)}}{\rho }^{\frac{3-2t}{2}}=C\frac{{\rho }^{3-2t}}{{\left(1+\frac{1}{3}\rho \right)}^{6+4s}}\le C\frac{{\rho }^{3-2t}}{{\left(1+\rho \right)}^{6+4s}}\le C\frac{1}{{\left(1+\rho \right)}^{3+4s+2t}}.\end{array}$

当 $\left|x\right|>\frac{2}{3}\rho$， $\left|y\right|\le \frac{1}{3}\rho$ 时， $\left|x-y\right|>\frac{1}{3}\rho$，下面利用(8)、(H₃)、Hölder不等式及引理3.4，计算得

$\begin{array}{l}{\displaystyle {\int }_{\left|x\right|>\frac{2}{3}\rho }K\left(x\right){\omega }^2\left(x-\rho \varsigma \right)}{\displaystyle {\int }_{\left|y\right|\le \frac{1}{3}\rho }\frac{K\left(y\right)}{{\left|x-y\right|}^{3-2t}}\text{d}y\text{d}x}\\ \le {\displaystyle {\int }_{\left|x\right|>\frac{2}{3}\rho }\frac{K\left(x\right){\omega }^2\left(x-\rho \varsigma \right)}{{\left(\frac{1}{3}\rho \right)}^{3-2t}}}{\displaystyle {\int }_{\left|y\right|\le \frac{1}{3}\rho }K\left(y\right)\text{d}y\text{d}x}\\ \le C\frac{1}{{\rho }^{3-2t}}{\displaystyle {\int }_{\left|x\right|>\frac{2}{3}\rho }K\left(x\right){\omega }^2\left(x-\rho \varsigma \right)\text{d}x}{\left({\displaystyle {\int }_{\left|y\right|\le \frac{1}{3}\rho }{\left(K\left(y\right)\right)}^{\frac{2}{2t-1}}\text{d}y}\right)}^{\frac{2t-1}{2}}{\rho }^{\frac{3-2t}{2}}\\ \le C\frac{1}{{\rho }^{\frac{3-2t}{2}}}{\displaystyle {\int }_{R^3}\frac{1}{{\left(1+\left|x\right|\right)}^{3-2t}}\frac{1}{{\left(1+\left|x-\rho \varsigma \right|\right)}^{2\left(3+2s\right)}}\text{d}x}\\ \le C\frac{1}{{\rho }^{\frac{3-2t}{2}}}\frac{1}{{\left(1+\left|\rho \varsigma \right|\right)}^{3-2t}}\le C{\rho }^{\frac{3-2t}{2}}\frac{1}{{\left(1+\rho \right)}^{3-2t}}.\end{array}$

当 $\left|x\right|\le \frac{2}{3}\rho$ 时， $\left|x-\rho \varsigma \right|\ge \frac{1}{3}\rho$，从而，

$\begin{array}{l}{\displaystyle {\int }_{\left|x\right|\le \frac{2}{3}\rho }\frac{K\left(x\right){\omega }^2\left(x-\rho \varsigma \right)}{{\left(1+\left|x-\rho \varsigma \right|\right)}^{3-2t}}\text{d}x}\\ \le {\displaystyle {\int }_{\left|x\right|\le \frac{2}{3}\rho }\frac{K\left(x\right)}{{\left(1+\left|x-\rho \varsigma \right|\right)}^{2\left(3+2s\right)}}\frac{1}{{\left(1+\left|x-\rho \varsigma \right|\right)}^{3-2t}}\text{d}x}\\ \le C\frac{1}{{\left(1+\frac{1}{3}\rho \right)}^{3-2t}}\frac{1}{{\left(1+\frac{1}{3}\rho \right)}^{2\left(3+2s\right)}}{\displaystyle {\int }_{\left|x\right|\le \frac{2}{3}\rho }K\left(x\right)\text{d}x}\\ \le C\frac{1}{{\left(1+\rho \right)}^{9+4s-2t}}{\left({\displaystyle {\int }_{\left|x\right|\le \frac{2}{3}\rho }{\left(K\left(x\right)\right)}^{\frac{2}{2t-1}}\text{d}x}\right)}^{\frac{2t-1}{2}}{\rho }^{\frac{3-2t}{2}}\le C\frac{1}{{\left(1+\rho \right)}^{\frac{15}{2}+4s-t}}.\end{array}$

又

${\displaystyle {\int }_{\left|x\right|>\frac{2}{3}\rho }\frac{K\left(x\right){\omega }^2\left(x-\rho \varsigma \right)}{{\left(1+\left|x-\rho \varsigma \right|\right)}^{3-2t}}\text{d}x}\le C{\displaystyle {\int }_{R^3}\frac{1}{{\left(1+\left|x\right|\right)}^{3-2t}}\frac{1}{{\left(1+\left|x-\rho \varsigma \right|\right)}^{2\left(3+2s\right)}}\text{d}x}\le C\frac{1}{{\left(1+\rho \right)}^{3-2t}}.$

综上所述，记 $\epsilon =\frac{1}{\sqrt{\rho }}$，引理3.5得证。

利用引理3.5，很容易推得如下估计：

引理3.6

${\displaystyle {\int }_{R^3}K\left(x\right){\varphi }_{K,{\bar{\psi }}_{\rho }\left[z,\varsigma \right]}^t{\bar{\psi }}_{\rho }^2\left[z,\varsigma \right]\text{d}x}=o\left(\epsilon \right),\forall \varsigma \in \left[0,1\right],z\in \sum .$ (11)

根据假设(H₄)，以及引理3.4，可得如下估计：

引理3.7

${\displaystyle {\int }_{R^3}{\omega }_{\rho \xi }^p{\omega }_{\rho z}\text{d}x}=o\left(\epsilon \right),{\displaystyle {\int }_{R^3}{\omega }_{\rho z}^p{\omega }_{\rho \xi }\text{d}x}=o\left(\epsilon \right),$ (12)

${\displaystyle {\int }_{R^3}a\left(x\right){\omega }_{\rho \xi }^2\text{d}x}=o\left(\epsilon \right),{\displaystyle {\int }_{R^3}a\left(x\right){\omega }_{\rho z}^2\text{d}x}=o\left(\epsilon \right),{\displaystyle {\int }_{R^3}a\left(x\right){\bar{\psi }}_{\rho }^2\left[z,\varsigma \right]\text{d}x}=o\left(\epsilon \right),$ (13)

${\displaystyle {\int }_{R^3}b\left(x\right){\left|{\bar{\psi }}_{\rho }\left[z,\varsigma \right]\right|}^{p+1}\text{d}x}=o\left(\epsilon \right).$ (14)

证 由(8)及引理3.4有

$\begin{array}{c}{\displaystyle {\int }_{R^3}{\omega }_{\rho \xi }^p{\omega }_{\rho z}\text{d}x}={\displaystyle {\int }_{R^3}{\omega }^p\left(x-\rho \xi \right)\omega \left(x-\rho z\right)\text{d}x}\\ \le {\displaystyle {\int }_{R^3}\frac{1}{{\left(1+\left|x-\rho z\right|\right)}^{3+2s}}\frac{1}{{\left(1+\left|x-\rho \xi \right|\right)}^{p\left(3+2s\right)}}\text{d}x}\\ \le {\displaystyle {\int }_{R^3}\frac{1}{{\left(1+\left|x-\rho z\right|\right)}^{3-2t}}\frac{1}{{\left(1+\left|x-\rho \xi \right|\right)}^{p\left(3+2s\right)}}\text{d}x}\\ \le {\displaystyle {\int }_{R^3}\frac{1}{{\left(\left|x-\rho \xi -\rho \left(z-\xi \right)\right|\right)}^{3-2t}}\frac{1}{{\left(1+\left|x-\rho \xi \right|\right)}^{p\left(3+2s\right)}}\text{d}x}\\ \le \frac{C}{{\left(1+\left|\rho \left(z-\xi \right)\right|\right)}^{3-2t}}=\frac{C}{{\left(1+2\rho \right)}^{3-2t}}\le \frac{C}{{\rho }^{3-2t}},\end{array}$

类似于上面的证明，我们能得到 ${\displaystyle {\int }_{R^3}{\omega }_{\rho z}^p{\omega }_{\rho \xi }\text{d}}x=o\left(\epsilon \right)$。

由(8)、引理3.4、(H₄)及Hölder不等式，可得

$\begin{array}{c}{\displaystyle {\int }_{R^3}a\left(x\right){\omega }_{\rho \xi }^2\text{d}x}={\displaystyle {\int }_{R^3}a\left(x\right){\omega }^2\left(x-\rho \xi \right)\text{d}x}\\ \le {\displaystyle {\int }_{R^3}a\left(x\right)\left(1+\left|x\right|\right)\frac{1}{1+\left|x\right|}\frac{C}{{\left(1+\left|x-\rho \xi \right|\right)}^{2\left(3+2s\right)}}\text{d}x}\\ \le {\left({\displaystyle {\int }_{R^3}{\left(a\left(x\right)\left(1+\left|x\right|\right)\right)}^2\text{d}x}\right)}^{\frac{1}{2}}{\left({\displaystyle {\int }_{R^3}{\left(\frac{1}{1+\left|x\right|}\frac{C}{{\left(1+\left|x-\rho \xi \right|\right)}^{2\left(3+2s\right)}}\right)}^2\text{d}x}\right)}^{\frac{1}{2}}\\ \le C\frac{1}{1+\left|\rho \xi \right|}\le \frac{1}{\rho }.\end{array}$

同理可证 ${\displaystyle {\int }_{R^3}a\left(x\right){\omega }_{\rho z}^2\text{d}x}=o\left(\epsilon \right)$。

由 ${\bar{\psi }}_{\rho }\left[z,\varsigma \right]$ 的定义及上面的估算有：

${\displaystyle {\int }_{R^3}a\left(x\right){\bar{\psi }}_{\rho }^2\left[z,\varsigma \right]\text{d}x}\le 2{\displaystyle {\int }_{R^3}a\left(x\right)\left[{\omega }_{\rho z}^2+{\omega }_{\rho \xi }^2\right]\text{d}x}=o\left(\epsilon \right).$

最后类似于上面的证明，易证 ${\displaystyle {\int }_{R^3}b\left(x\right){\left|{\bar{\psi }}_{\rho }\left[z,\varsigma \right]\right|}^{p+1}\text{d}x}=o\left(\epsilon \right)$。证毕。

类似于 [14] 中引理3.7的证明过程，我们可以得到：

引理3.8 ${\kappa }_{\rho ,z,\varsigma }$ 和 ${\tau }_{\rho ,z,\varsigma }$ 如(10)定义，则存在常数C > 0满足

$0<{\kappa }_{\rho ,z,\varsigma }\le C,\forall \rho >0,\forall \left(z,\varsigma \right)\in \sum \times \left[0,1\right],$ (15)

而且

${\kappa }_{\rho ,z,\varsigma }={\tau }_{\rho ,z,\varsigma }+o\left(\epsilon \right).$ (16)

基于上面的估计，经计算我们得到下面的关键估计：

引理3.9 存在 ${\rho }_0$ 满足，对于 ρ > ρ₀ ，

$T_{\rho }:=\underset{\sum \times \left[0,1\right]}{\max }I\left({\psi }_{\rho }\left[z,\varsigma \right]\right)<2m_{\infty }.$

证 由引理3.6、引理3.7及引理3.8，

$\begin{array}{c}I\left({\psi }_{\rho }\left[z,\varsigma \right]\right)=\left(\frac{1}{2}-\frac{1}{p+1}\right){\Vert {\kappa }_{\rho ,z,\varsigma }{\bar{\psi }}_{\rho }\left[z,\varsigma \right]\Vert }_{H^s}^2+\left(\frac{1}{2}-\frac{1}{p+1}\right){\kappa }_{\rho ,z,\varsigma }^2{\displaystyle {\int }_{R^3}a\left(x\right){\bar{\psi }}_{\rho }^2\left[z,\varsigma \right]\text{d}x}\\ +\left(\frac{1}{4}-\frac{1}{p+1}\right){\kappa }_{\rho ,z,\varsigma }^4{\displaystyle {\int }_{R^3}K\left(x\right){\varphi }_{K,{\bar{\psi }}_{\rho }\left[z,\varsigma \right]}^t{\bar{\psi }}_{\rho }^2\left[z,\varsigma \right]\text{d}x}\\ =\left(\frac{1}{2}-\frac{1}{p+1}\right){\Vert {\tau }_{\rho ,z,\varsigma }{\bar{\psi }}_{\rho }\left[z,\varsigma \right]\Vert }_{H^s}^2+o\left(\epsilon \right)\\ =\left(\frac{1}{2}-\frac{1}{p+1}\right){\left(\frac{{\Vert {\bar{\psi }}_{\rho }\left[z,\varsigma \right]\Vert }_{H^s}^2}{{\left|{\bar{\psi }}_{\rho }\left[z,\varsigma \right]\right|}_{p+1}^2}\right)}^{\frac{p+1}{p-1}}+o\left(\epsilon \right)\\ =I_{\infty }\left({\psi }_{\infty }\left[z,\varsigma \right]\right)+o\left(\epsilon \right).\end{array}$ (17)

因为 ${\omega }_{\rho \xi }$ 是(7)的正解，故

${\left({\omega }_{\rho \xi },{\omega }_{\rho z}\right)}_{H^s}={\displaystyle {\int }_{R^3}{\omega }_{\rho \xi }^p{\omega }_{\rho z}\text{d}x}:=A_{\rho }.$

直接计算可得

$\begin{array}{c}{\Vert {\bar{\psi }}_{\rho }\left[z,\varsigma \right]\Vert }_{H^s}^2={\left({\bar{\psi }}_{\rho }\left[z,\varsigma \right],{\bar{\psi }}_{\rho }\left[z,\varsigma \right]\right)}_{H^s}\\ =\left[{\left(1-\varsigma \right)}^2+{\varsigma }^2\right]{\Vert \omega \Vert }_{H^s}^2+2\varsigma \left(1+\varsigma \right){\left({\omega }_{\rho \xi },{\omega }_{\rho z}\right)}_{H^s}\\ =\left[{\left(1-\varsigma \right)}^2+{\varsigma }^2\right]{\Vert \omega \Vert }_{H^s}^2+2\varsigma \left(1+\varsigma \right)A_{\rho }.\end{array}$ (18)

根据文献 [18] 中的引理2.1，对于 $a,b\in R^{+}$ 及 $p\ge 2$ 有：

${\left(a+b\right)}^{p+1}\ge a^{p+1}+b^{p+1}+\left(p+1\right)\left(a^p+b^p\right).$

那么

$\begin{array}{c}{\left|{\bar{\psi }}_{\rho }\left[z,\varsigma \right]\right|}_{p+1}^{p+1}={\displaystyle {\int }_{R^3}{\left[\left(1-\varsigma \right){\omega }_{\rho z}+\varsigma {\omega }_{\rho \xi }\right]}^{p+1}\text{d}x}\\ \ge \left[{\left(1-\varsigma \right)}^{p+1}+{\varsigma }^{p+1}\right]{\left|\omega \right|}_{p+1}^{p+1}+\left(p+1\right)\left[{\left(1-\varsigma \right)}^p\varsigma +\left(1-\varsigma \right){\varsigma }^p\right]A_{\rho }.\end{array}$ (19)

当 $\varsigma$ 或 $\left(1-\varsigma \right)$ 充分小时， ${\psi }_{\infty ,\rho }\left[z,\varsigma \right]$ 趋于 ${\omega }_{\rho \xi }$ 或 ${\omega }_{\rho z}$。那么，此时 $I_{\infty }\left({\psi }_{\infty ,\rho }\left[z,\varsigma \right]\right)\to m_{\infty }$。因此，存在 $\delta >0$，当 $\text{min}\left\{\varsigma ,1-\varsigma \right\}\le \delta$ 时，

$I_{\infty }\left({\psi }_{\infty ,\rho }\left[z,\varsigma \right]\right)<2m_{\infty }.$

下面我们考虑 $\text{min}\left\{\varsigma ,1-\varsigma \right\}>\delta$ 时，由(18)和(19)知：

$\begin{array}{c}\frac{{\Vert {\bar{\psi }}_{\rho }\left[z,\varsigma \right]\Vert }_{H^s}^2}{{\left|{\bar{\psi }}_{\rho }\left[z,\varsigma \right]\right|}_{p+1}^2}\le \frac{\left[{\left(1-\varsigma \right)}^2+{\varsigma }^2\right]{\Vert \omega \Vert }_{H^s}^2+2\varsigma \left(1-\varsigma \right)A_{\rho }}{{\left(\left[{\left(1-\varsigma \right)}^{p+1}+{\varsigma }^{p+1}\right]{\left|\omega \right|}_{p+1}^{p+1}+\left(p+1\right)\left[\left(1-\varsigma \right)\varsigma +\left(1-\varsigma \right){\varsigma }^p\right]A_{\rho }\right)}^{\frac{2}{p+1}}}\\ =\frac{{\left(1-\varsigma \right)}^2+{\varsigma }^2}{{\left({\left(1-\varsigma \right)}^{p+1}+{\varsigma }^{p+1}\right)}^{\frac{2}{p+1}}}\frac{{\Vert \omega \Vert }_{H^s}^2}{{\left|\omega \right|}_{p+1}^{p+1}}\cdot \frac{1+\frac{2\varsigma \left(1-\varsigma \right)}{{\left(1-\varsigma \right)}^2+{\varsigma }^2}\frac{A_{\rho }}{{\Vert \omega \Vert }_{H^s}^2}}{{\left(1+\frac{\left(p+1\right)\left[{\left(1-\varsigma \right)}^p\varsigma +\left(1-\varsigma \right){\varsigma }^p\right]}{{\left(1-\varsigma \right)}^{p+1}+{\varsigma }^{p+1}}\frac{A_{\rho }}{{\left|\omega \right|}_{p+1}^{p+1}}\right)}^{\frac{2}{p+1}}}\\ \le \frac{{\left(1-\varsigma \right)}^2+{\varsigma }^2}{{\left({\left(1-\varsigma \right)}^{p+1}+{\varsigma }^{p+1}\right)}^{\frac{2}{p+1}}}\frac{{\Vert \omega \Vert }_{H^s}^2}{{\left|\omega \right|}_{p+1}^{p+1}}\cdot \frac{1+\frac{2\varsigma \left(1-\varsigma \right)}{{\left(1-\varsigma \right)}^2+{\varsigma }^2}\frac{A_{\rho }}{{\Vert \omega \Vert }_{H^s}^2}}{1+\frac{2\left[{\left(1-\varsigma \right)}^p\varsigma +\left(1-\varsigma \right){\varsigma }^p\right]}{{\left(1-\varsigma \right)}^{p+1}+{\varsigma }^{p+1}}\frac{A_{\rho }}{{\left|\omega \right|}_{p+1}^{p+1}}+o\left(A_{\rho }\right)}.\end{array}$

易证下面两个不等式：

$\frac{\varsigma \left(1-\varsigma \right)}{{\left(1-\varsigma \right)}^2{\varsigma }^2}<\frac{{\left(1-\varsigma \right)}^p\varsigma +\left(1-\varsigma \right){\varsigma }^p}{{\left(1-\varsigma \right)}^{p+1}+{\varsigma }^{p+1}}\left(0<\varsigma <1\right),\frac{{\left(1-\varsigma \right)}^2+{\varsigma }^2}{{\left({\left(1-\varsigma \right)}^{p+1}+{\varsigma }^{p+1}\right)}^{\frac{2}{p+1}}}<2^{\frac{p-1}{p+1}}\left(0\le \varsigma \le 1\right).$

因此，

$\begin{array}{c}{I}_{\infty }\left({\psi }_{\infty ,\rho }\left[z,\varsigma \right]\right)\le \left(\frac{1}{2}-\frac{1}{p+1}\right){\left(\frac{{\left(1-\varsigma \right)}^2+{\varsigma }^2}{{\left({\left(1-\varsigma \right)}^{p+1}+{\varsigma }^{p+1}\right)}^{\frac{2}{p+1}}}\frac{{\Vert \omega \Vert }_{H^s}^2}{{\left|\omega \right|}_{p+1}^2}\right)}^{\frac{p+1}{p-1}}\\ \times \frac{1+\frac{2\varsigma \left(1-\varsigma \right)}{{\left(1-\varsigma \right)}^2+{\varsigma }^2}\frac{A_{\rho }}{{\Vert \omega \Vert }_{H^s}^2}}{1+\frac{2\left({\left(1-\varsigma \right)}^p\varsigma +\left(1-\varsigma \right){\varsigma }^p\right)}{{\left(1-\varsigma \right)}^{p+1}+{\varsigma }^{p+1}}\frac{A_{\rho }}{{\left|\omega \right|}_{p+1}^{p+1}}+o\left(A_{\rho }\right)}\\ \le \left(\frac{1}{2}-\frac{1}{p+1}\right){\left(\frac{{\left(1-\varsigma \right)}^2+\varsigma {}^2}{{\left({\left(1-\varsigma \right)}^{p+1}+{\varsigma }^{p+1}\right)}^{\frac{2}{p+1}}}\frac{{\Vert \omega \Vert }_{H^s}^2}{{\left|\omega \right|}_{p+1}^2}\right)}^{\frac{p+1}{p-1}}\\ <2\left(\frac{1}{2}-\frac{1}{p+1}\right){\left|\omega \right|}_{p+1}^{p+1}=2m_{\infty }.\end{array}$

引理3.10 存在 ${\rho }_1>0$ 满足

(20)

根据 ${\psi }_{\rho }$ 的定义和引理3.1易证上述结果，在此忽略其证明过程。

定理1.1的证明：

由引理2.4我们知道 $m=m_{\infty }$ 且m不可达，并且该问题不能通过极小化来解决。因此，我们将通过形变论证来证明系统(1)存在比 $m_{\infty }$ 能量更高的正解。

对于任意 $c\in R$，定义 $I^c=\left\{u\in N:I\left(c\right)\le c\right\}$。

根据引理3.3，引理3.9和引理3.10得到下列不等式：

$m_{\infty }<A_{\rho }<B_0\le T_{\rho }<2m_{\infty },\forall \rho >\max \left\{{\rho }_0,{\rho }_1\right\}.$

下面证明限制在N上的I在水平 $c^{*}\in \left[B_0,T_{\rho }\right]$ 上存在PS序列。如果已征得该断言成立，则根据引理3.2知，存在非平凡临界点u且 $I\left(u\right)<2m_{\infty }$。

反证法。假设 $\left[B_0,T_{\rho }\right]$ 内不存在PS序列。根据形变引理，存在 $\delta >0$ 和连续映射 $\eta :I^{T_{\rho }}\to I^{B_0-\delta }$，对于 $u\in I^{B_0-\delta }$，有 $B_0-\delta >A_{\rho }$ 且 $\eta \left(u\right)=u$。

定义映射 $H:\sum \times \left[0,1\right]\to R^3$ 为 $H\left(z,\varsigma \right)=\beta \circ \eta \circ {\psi }_{\rho }\left[z,\varsigma \right]$。由引理3.10知 ${\psi }_{\rho }\left[z,0\right]\subset I^{A_{\rho }}\subset I^{B_0-\delta }$。因此 $\eta \left({\psi }_{\rho }\left[z,0\right]\right)={\psi }_{\rho }\left[z,0\right]$，从而。定义 $h\left(t,z,\varsigma \right)=tG\left(z,\varsigma \right)+\left(1-t\right)H\left(z,\varsigma \right):\left[0,1\right]\times \sum \times \left(0,1\right]\to R^3$，其中 $G\left(z,\varsigma \right)=\varsigma \rho \xi +\left(1-\varsigma \right)\rho z$。显然，对于 $t\in \left[0,1\right]$， $z\in \sum$ 有 $h\in C\left(\left[0,1\right]\times \sum \times \left(0,1\right]\right)$。于是 $h\left(t,z,0\right)=\rho z\ne 0$，也就是说 $0\notin h\left(t,\partial \left(\sum \times \left(0,1\right]\right)\right)$。因此，存在 $\left(\bar{z},\bar{\varsigma }\right)\in \sum \times \left(0,1\right]$ 满足

$\beta \circ \eta \circ {\psi }_{\rho }\left[\bar{z},\bar{\varsigma }\right]=0.$ (21)

由引理3.3得 ${\psi }_{\rho }\left[z,\varsigma \right]\in I^{T_{\rho }}$，再根据 $\eta$ 的性质，得到

$\eta \circ \psi \left[z,\varsigma \right]\in I^{B_0-\delta },\forall \left[z,\varsigma \right]\in \sum \times \left[0,1\right].$ (22)

显然， $\eta \circ \psi \left[z,\varsigma \right]\in N$， $\forall \left[z,\varsigma \right]\in \sum \times \left[0,1\right]$，特别地， $\eta \circ \psi \left[\bar{z},\bar{\varsigma }\right]\in N$。结合(21)和 $B_0$ 的定义，易知 $I\left(\eta \circ \psi \left[\bar{z},\bar{\varsigma }\right]\right)\ge B_0$，与(22)矛盾。

设 $u\in I^{T_{\rho }}$ 是我们找到的临界点满足 $I\left(u\right)<2m_{\infty }$。下证u是正函数即不是变号函数。反证法，假设 $u=u^{+}+u^{-}$ 且 $u^{\pm }\ne 0$。类似于 [19] 中定理1.2的证明，我们推出，存在 $0<t_u^{+}<1$ 和 $0<t_u^{-}<1$ 满足 $t_u^{\pm }{u}^{\pm }\in N$。因此，利用引理2.4及上面的事实，可得

$2m_{\infty }=2m\le I\left(t_u^{+}{u}^{+}\right)+I\left(t_u^{-}{u}^{-}\right)\le I\left(t_u^{+}{u}^{+}+t_u^{-}{u}^{-}\right)<I\left(u^{+}+u^{-}\right)=I\left(u\right).$

这与 $I\left(u\right)<2m_{\infty }$ 相矛盾。证毕。

致谢

国家自然科学基金(No.11501403)，山西省留学回国择优项目(2018)，和山西省自然科学面上项目(201901D111085)。