一类非线性薛定谔泊松方程规范解的存在性

Existence of Normalized Solutions for a Class of Nonlinear Schr?dinger-Poisson Equations

摘要: 本文研究了一类非线性薛定谔泊松方程规范解的存在性。在参数μ<0的情况下，首先分析了Pohozaev流形的结构和泛函纤维映射的几何性质，然后通过构造辅助泛函证明了能量泛函在Pohozaev流形附近存在一个有界的(PS)序列，最后应用集中紧性原理证明了方程正径向基态解和山路解的存在性。

Abstract: In this paper, we study the existence of normalized solutions for a class of nonlinear Schrödinger- Poisson system. When parameter μ<0 , firstly, the structure of Pohozaev manifold and the geo-metric properties of functional fiber mapping are analyzed, and then we prove the existence of a bounded (PS) sequence of energy functionals near the Pohozaev manifold by constructing auxiliary functional. Finally, the existence of the positive radial ground state solution and the mountain solu-tion of the equation is proved by the principle of concentration compactness.

1. 引言与主要结果

在本文中，我们研究如下非线性薛定谔泊松方程：

$\{\begin{array}{ll}-\Delta u+\mu {\varphi }_u{\left|u\right|}^{q-2}u={\left|u\right|}^{p-2}u+\lambda u,\hfill & x\in {ℝ}^3,\hfill \\ -\Delta {\varphi }_u={\left|u\right|}^q,\hfill & x\in {ℝ}^3,\hfill \\ {\displaystyle \underset{{ℝ}^3}{\int }{\left|u\right|}^2=c^2.}\hfill & \hfill \end{array}$ (1-1)

在指定的 $L^2$ 范数下规范解的存在性，其中 $\frac{5}{3}<q<\frac{7}{3}$， $\frac{10}{3}<p<6$， $\mu <0$， $c>0$。

非线性薛定谔泊松方程是一个带有牛顿引力势和非线性位势的薛定谔方程，其中引力势是作为质量密度函数而不是波函数。根据经典模型，带电粒子和电磁场的相互作用可以通过耦合非线性薛定谔方程和泊松方程来描述。因此研究非线性薛定谔泊松方程的解的存在性具有重要的物理意义。对于下列非线性薛定谔泊松方程：

$-\Delta u+\lambda u-\gamma \left({\left|x\right|}^{-1}\ast {\left|u\right|}^2\right)u-a{\left|u\right|}^{p-2}u=0,$ (1-2)

近几十年来被许多学者广泛研究，其中 $u\in H^1\left({ℝ}^3\right)$ 且 ${\left|u\right|}^2=c^2$， $\gamma \in ℝ$， $a\in ℝ$， $\frac{10}{3}<p<6$。

为了找到方程(1-2)的解，自然通过考察

$m\left(c\right)=\underset{u\in S\left(c\right)}{\inf }F\left(u\right),$

的极小化子，其中 $\gamma <0$ 和 $a>0$ 的情况已经被广泛研究。当 $p\in \left(2,\frac{10}{3}\right)$ 时对于 $\forall c>0$ 以及当 $p=\frac{10}{3}$ 时均证得 $m\left(c\right)\in \left(-\infty ,0\right]$。在文 [1] 中得到当 $p\in \left(2,3\right)$ 时且对于一个充分小的 $c>0$， $m\left(c\right)$ 的极小化子存在；当 $p=\frac{8}{3}$ 时，在文 [2] 中作者也得到了同样的结果。在文 [3] 和文 [4] 中作者研究了 $p\in \left(3,\frac{10}{3}\right)$ 的情况。在文 [4] 中作者证明了当 $p=3$ 或 $p=\frac{10}{3}$ 时对于 $\forall c>0$， $m\left(c\right)$ 的极小化子不存在。当 $p\in \left(\frac{10}{3},6\right]$ 时容易得到 $m\left(c\right)=-\infty$。然而在文 [5] 中作者证明了当 $p\in \left(\frac{10}{3},6\right)$ 时对于一个充分小的 $c>0$，F限制在 $S\left(c\right)$ 在正水平有一个临界点。Jeanjean和Thanh Trung在文 [6] 中分别详细讨论了 $\gamma >0$ 和 $a>0$ 、 $\gamma <0$ 和 $a>0$ 以及 $\gamma >0$ 和 $a<0$ 三种情况，在 $\gamma >0$ 和 $a>0$ 的情况下，当 $p\in \left(\frac{10}{3},6\right]$ 时且 $c\in \left(0,c_1\right)$ 方程(1-2)存在基态解和山路解；在 $\gamma <0$ 和 $a>0$ 的情况下，当 $p=6$ 时方程(1-2)不存在正解；在 $\gamma >0$ 和 $a<0$ 的情况下，当 $p\in \left(\frac{10}{3},6\right]$ 时且对于 $\forall c>0$， $m\left(c\right)$ 是可达的。

为了得到(1-1)的解，我们将寻找下列泛函：

$F\left(u\right):=\frac{1}{2}{\displaystyle \underset{{ℝ}^3}{\int }{\left|\nabla u\right|}^2\text{d}x}+\frac{\mu }{2q}{\displaystyle \underset{{ℝ}^3}{\int }{\displaystyle \underset{{ℝ}^3}{\int }\frac{{\left|u\left(x\right)\right|}^q{\left|u\left(y\right)\right|}^q}{|x-y|}\text{d}x\text{d}y}}-\frac{1}{p}{\displaystyle \underset{{ℝ}^3}{\int }{\left|u\right|}^p\text{d}x},$

在集合 $\Lambda \left(c\right):=\left\{u\in S\left(c\right):Q\left(u\right)=0\right\}$ 上的极小化子，其中

$S\left(c\right):=\left\{u\in H^1\left({ℝ}^3\right):{\left|u\right|}_2^2=c^2\right\},$

$Q\left(u\right):={\displaystyle \underset{{ℝ}^3}{\int }{\left|\nabla u\right|}^2\text{d}x}+\mu \frac{3q-5}{2q}{\displaystyle \underset{{ℝ}^3}{\int }{\displaystyle \underset{{ℝ}^3}{\int }\frac{{\left|u\left(x\right)\right|}^q{\left|u\left(y\right)\right|}^q}{|x-y|}\text{d}x\text{d}y}}-\frac{3\left(p-2\right)}{2p}{\displaystyle \underset{{ℝ}^3}{\int }{\left|u\right|}^p\text{d}x}.$

首先分析Pohozaev流形的结构和泛函纤维映射的几何性质，然后通过构造辅助泛函证明了能量泛函在Pohozaev流形附近存在一个有界的(PS)序列，最后应用集中紧性原理证明方程规范解的存在性。

定理1.1.若 $\frac{5}{3}<q<\frac{7}{3}$， $\frac{10}{3}<p<6$，假设有

$\frac{2q}{\left(3q-5\right)K_H}{c}^{-\frac{4\left(p-q-1\right)}{p{\gamma }_{p-2}}}{\left(\frac{\left(p{\gamma }_p-2\right){\gamma }_p{K}_{GN}}{7-3q}\right)}^{\frac{3q-7}{p{\gamma }_p-2}}{\left(\frac{p{\gamma }_p-\left(3q-5\right)}{p{\gamma }_p}\right)}^{\frac{3q-5-p{\gamma }_p}{p{\gamma }_p-2}}<\mu <0,$ (1-3)

成立，则存在 $u_c^{+}\in {\Lambda }^{+}\left(c\right)$ 满足 $F\left(u_c^{+}\right)={\gamma }^{+}\left(c\right)$ 以及存在 $u_c^{-}\in {\Lambda }^{-}\left(c\right)$ 满足 $F\left(u_c^{-}\right)={\gamma }^{-}\left(c\right)$，其中 $u_c^{+}$ 和 $u_c^{-}$ 是正径向函数。此外，存在 ${\lambda }_c^{+}<0$ 和 ${\lambda }_c^{-}<0$ 使得 $\left(u_c^{+},{\lambda }_c^{+}\right)$ 和 $\left(u_c^{-},{\lambda }_c^{-}\right)$ 是(1-1)的解。

注文 [7] 中作者研究了 ${\gamma }^{-}\left(c\right)>0$，本文可能有 ${\gamma }^{-}\left(c\right)\le 0$ 的情况出现，因此，本文补充和完善了文 [7] 的研究成果。此外，本文引入参数q，从而推广和完善了文 [6] 中的部分结果。

2. 预备知识

为了简便，整篇文章引入下列记号：

· 在通常的Sobolev空间 $H^1\left({ℝ}^3\right)$ 中，其上内积和范数分别为：

$\left(u,v\right)={\displaystyle \underset{{ℝ}^3}{\int }\left(\nabla u\nabla v+uv\right)\text{d}x},\Vert u\Vert ={\left({\displaystyle \underset{{ℝ}^3}{\int }\left({\left|\nabla u\right|}^2+u^2\right)\text{d}x}\right)}^{\frac{1}{2}}.$

· $L^s\left({ℝ}^3\right)$ 表示Lebesgue空间，其上范数为 ${\left|u\right|}_s={\left({\displaystyle \underset{{ℝ}^3}{\int }{\left|u\right|}^s\text{d}x}\right)}^{\frac{1}{s}}$，其中 $s\in \left[1,+\infty \right)$。

· 记 ${\gamma }_p:=\frac{3\left(p-2\right)}{2p}$。

· $S\left(c\right)$ 在u处的切空间定义为：

$T_{u}S:=\left\{v\in H^1\left({ℝ}^3\right):{\displaystyle \underset{{ℝ}^3}{\int }uv\text{d}x=0}\right\}.$

· $A\left(u\right):={\displaystyle \underset{{ℝ}^3}{\int }{\left|\nabla u\right|}^2\text{d}x}$， $B\left(u\right):={\displaystyle \underset{{ℝ}^3}{\int }{\displaystyle \underset{{ℝ}^3}{\int }\frac{{\left|u\left(x\right)\right|}^q{\left|u\left(y\right)\right|}^q}{|x-y|}\text{d}x\text{d}y}}$， $C\left(u\right):={\displaystyle \underset{{ℝ}^3}{\int }{\left|u\right|}^p\text{d}x}$。

· 对于 $\forall u\in S\left(c\right)$，定义 $u^t\left(x\right):=t^{\frac{3}{2}}u\left(tx\right)$，其中 $t>0$。

对于 $\forall u\in S\left(c\right)$，定义纤维映射

$t\in \left(0,+\infty \right)\mapsto g_u\left(t\right):=F\left(u^t\right)=\frac{1}{2}{t}^{2}A\left(u\right)+\frac{\mu }{2q}{t}^{3q-5}B\left(u\right)-\frac{1}{p}{t}^{p{\gamma }_p}C\left(u\right),$

因此，我们有

${g^{\prime }}_u\left(t\right)=tA\left(u\right)+\mu \frac{3q-5}{2q}{t}^{3q-6}B\left(u\right)-{\gamma }_p{t}^{p{\gamma }_p-1}C\left(u\right)=\frac{1}{t}Q\left(u^t\right).$

此外， $Q\left(u\right)=0$ 与一个Pohozaev恒等式相对应，并且集合 $\Lambda \left(c\right)$ 作为一个自然限制而出现，其中

$\Lambda \left(c\right):=\left\{u\in S\left(c\right):Q\left(u\right)=0\right\}=\left\{u\in S\left(c\right):{g^{\prime }}_u\left(1\right)=0\right\}.$

事实上，如果对于 $\forall u\in S\left(c\right)$，则 $t>0$ 是 $g_u$ 的一个临界点当且仅当 $u^t\in \Lambda \left(c\right)$。特别地， $u\in \Lambda \left(c\right)$ 当且仅当1是 $g_u$ 的一个临界点。

我们将 $\Lambda \left(c\right)$ 分解成三个互不相交集合的并即 $\Lambda \left(c\right)={\Lambda }^{+}\left(c\right)\cup {\Lambda }^0\left(c\right)\cup {\Lambda }^{-}\left(c\right)$，其中

${\Lambda }^{+}\left(c\right):=\left\{u\in S\left(c\right):{g^{\prime }}_u\left(1\right)=0,{g^{″}}_u\left(1\right)>0\right\};$

${\Lambda }^0\left(c\right):=\left\{u\in S\left(c\right):{g^{\prime }}_u\left(1\right)=0,{g^{″}}_u\left(1\right)=0\right\};$

${\Lambda }^{-}\left(c\right):=\left\{u\in S\left(c\right):{g^{\prime }}_u\left(1\right)=0,{g^{″}}_u\left(1\right)<0\right\}.$

引理2.1. [8] (Hardy-Littlewood-Sobolev不等式)设 $p>1$， $q>1$， $0<\eta <N$， $\frac{1}{p}+\frac{1}{q}+\frac{\eta }{N}=2$，则存在 $C\left(N,\eta ,p,q\right)>0$，使得对一切 $f\in L^p\left({ℝ}^N\right)$， $g\in L^q\left({ℝ}^N\right)$，有

$\left|{\displaystyle \underset{{ℝ}^N}{\int }{\displaystyle \underset{{ℝ}^N}{\int }\frac{f\left(x\right)g\left(y\right)}{{\left|x-y\right|}^{\eta }}\text{d}x\text{d}y}}\right|\le C\left(N,\eta ,p,q\right){\Vert f\Vert }_{L^p\left({ℝ}^N\right)}{\Vert g\Vert }_{L^q\left({ℝ}^N\right)},$

成立。

引理2.2. (见文 [6] 引理2.1)取 $u\in S\left(c\right)$，则

1) 存在一个常数 $K_H>0$ 使得 $B\left(u\right)\le K_{H}A{\left(u\right)}^{\frac{3q-5}{2}}{c}^{5-q}$。

2) 存在一个常数 $K_{GN}>0$ 使得 $C\left(u\right)\le K_{GN}A{\left(u\right)}^{\frac{p{\gamma }_p}{2}}{c}^{p\left(1-{\gamma }_p\right)}$。

引理2.3. 当 $\frac{5}{3}<q<\frac{7}{3}$ 且 $\frac{10}{3}<p<6$ 时，如果 $u\in H^1\left({ℝ}^3\right)$ 是

$-\Delta u+\mu {\varphi }_u{\left|u\right|}^{q-2}u={\left|u\right|}^{p-2}u+\lambda u,$ (2-1)

的一个弱解，则 $Q\left(u\right)=0$。此外，如果 $u\ne 0$，则有 $\lambda <0$。

证明由于 $u\in H^1\left({ℝ}^3\right)$ 是弱解，则下列Pohozaev恒等式成立，

$\frac{1}{2}A\left(u\right)+\frac{5\mu }{2q}B\left(u\right)-\frac{3}{p}C\left(u\right)-\frac{3}{2}\lambda D\left(u\right)=0,$ (2-2)

其中 $D\left(u\right)={\left|u\right|}_2^2$。用(2-5)乘以u并积分，可以得到第二个恒等式

$A\left(u\right)+\mu B\left(u\right)-C\left(u\right)-\lambda D\left(u\right)=0.$ (2-3)

结合(2-2)和(2-3)，可得

$A\left(u\right)+\mu \frac{3q-5}{2q}B\left(u\right)-{\gamma }_{p}C\left(u\right)=0.$

这意味着 $Q\left(u\right)=0$。再次应用(2-2)和(2-3)，我们得到

$q\left(6-q\right)A\left(u\right)+\mu \left(6q-5p\right)B\left(u\right)=3\left(p-2\right)q\lambda D\left(u\right),$ (2-4)

其中

$q\left(6-q\right)<0,\mu \left(6q-5p\right)<0,3\left(p-2\right)q>0.$

因此， $\lambda <0$。

引理2.4当 $\frac{5}{3}<q<\frac{7}{3}$ 且 $\frac{10}{3}<p<6$ 时，如果 $u\in H^1\left({ℝ}^3\right)$ 是

$-\Delta u+\mu {\varphi }_u{\left|u\right|}^{q-2}u={\left|u\right|}^{p-2}u+\lambda u,$ (2-5)

的一个弱解，则 $u\in L^{\infty }\left({ℝ}^3\right)\cap C\left({ℝ}^3\right)$。此外，如果 $u\ge 0$ 且u不恒为0，则 $u>0$。

证明应用文 [9] 中定理2.1.，我们得到对于 $\forall r>1$ 有 $u\in W_{loc}^{2,r}\left({ℝ}^3\right)$，因此 $u\in C\left({ℝ}^3\right)$。记 $K:={\left|x\right|}^{-1}$， $K:=K_1+K_2$，其中 $K_1:={\left|x\right|}^{-1}{\chi }_{B_1}$， $K_2:={\left|x\right|}^{-1}{\chi }_{B_1^c}$。由卷积的Young不等式可知 ${\left|K_1\ast {\left|u\right|}^q\right|}_{\infty }\le {\left|K_1\right|}_2{\left|{\left|u\right|}^q\right|}_2<+\infty$ 且 ${\left|K_2\ast {\left|u\right|}^q\right|}_{\infty }\le {\left|K_2\right|}_4{\left|{\left|u\right|}^q\right|}_{\frac{4}{3}}<+\infty$，因此 $K\ast {\left|u\right|}^q$ 有界且连续。此外，从文 [10] 中命题B.1可以推断出 $u\in L^{\infty }\left({ℝ}^3\right)$。若 $u\ge 0$ 且u不恒为0，应用强极大值原理，可得 $u>0$。

$F_{|S\left(c\right)}:S\left(c\right)\to ℝ$ 是 $S\left(c\right)$ 上的一个 $C^1$ 类泛函，且对于 $\forall u\in S\left(c\right)$ 和 $\forall v\in T_{u}S\left(c\right)$，我们有

$\langle {F^{\prime }}_{|S\left(c\right)},v\rangle =\langle F^{\prime },v\rangle .$

我们用 $\Vert d{F}_{|S\left(c\right)}\Vert {}_{\ast }$ 表示在余切空间 $T_{u}S{\left(c\right)}^{\prime }$ 中的范数，即

$\Vert d{F}_{|S\left(c\right)}\Vert {}_{\ast }=\underset{\Vert \phi \le 1\Vert ,\phi \in T_{u}S\left(c\right)}{\sup }\left|dF\left(u\right)\left[\phi \right]\right|.$ (2-6)

引理2.5. (见 [11] 引理3.6)对于 $\forall u\in S\left(c\right)$ 和 $t>0$ 映射

$T_{u}S\left(c\right)\to T_{u^t}S\left(c\right),\psi \to {\psi }^t,$

是一个线性同构映射且逆映射

$T_{u^t}S\left(c\right)\to T_{u}S\left(c\right),\varphi \to {\varphi }^{\frac{1}{t}}.$

引理2.6. [12] 取 $\left\{u_n\right\}\subset H_r^1\left({ℝ}^3\right)$ 且满足 $u_n\stackrel{w}{\to }u$ 在 $H_r^1\left({ℝ}^3\right)$，则 $B\left(u_n\right)\to B\left(u\right)$。

3. 有界(PS)序列的结构

引理3.1. F限制在 $\Lambda \left(c\right)$ 上在 $H^1\left({ℝ}^3\right)$ 中是强制的。特别地，F限制在 $\Lambda \left(c\right)$ 上是下方有界的。

证明取 $u\in \Lambda \left(c\right)$，由 $Q\left(u\right)=0$ 可得

$\frac{1}{p}C\left(u\right)=\frac{1}{p{\gamma }_p}A\left(u\right)+\mu \frac{1}{p{\gamma }_p}\frac{3q-5}{2q}B\left(u\right),$

应用引理2.2.(1)，可以得到

$\begin{array}{c}F\left(u\right)=\left(\frac{1}{2}-\frac{1}{p{\gamma }_p}\right)A\left(u\right)+\frac{\mu }{2q}\left(1-\frac{3q-5}{p{\gamma }_p}\right)B\left(u\right)\\ \ge \left(\frac{1}{2}-\frac{1}{p{\gamma }_p}\right)A\left(u\right)+\frac{\mu }{2q}\left(1-\frac{3q-5}{p{\gamma }_p}\right)K_{H}A{\left(u\right)}^{\frac{3q-5}{2}}{c}^{5-q},\end{array}$ (3-1)

其中 $3q-5<2<p{\gamma }_p$，结论得证。

对于 $\forall u\in S\left(c\right)$，回顾

$g_u\left(t\right)=F\left(u^t\right)=\frac{1}{2}{t}^{2}A\left(u\right)+\frac{\mu }{2q}{t}^{3q-5}B\left(u\right)-\frac{1}{p}{t}^{p{\gamma }_p}C\left(u\right),$

${g^{\prime }}_u\left(t\right):=th\left(t\right),$

其中 $h\left(t\right):=A\left(u\right)+\mu \frac{3q-5}{2q}{t}^{3q-7}B\left(u\right)-{\gamma }_p{t}^{p{\gamma }_p-2}C\left(u\right)$。

引理3.2. 若(1-3)成立，则 $\underset{t>0}{\max }{g^{\prime }}_u\left(t\right)>0$。此外， ${g^{\prime }}_u\left(t\right)$ 在 $\left(0,+\infty \right)$ 上有且仅有两个零点，且它们都是非退化的。

证明由 $h^{\prime }\left(t\right)=0$ 即

$\mu \frac{\left(3q-5\right)\left(3q-7\right)}{2q}{t}^{3q-8}B\left(u\right)-{\gamma }_p\left(p{\gamma }_p-2\right)t^{p{\gamma }_p-3}C\left(u\right)=0,$

可知其只有唯一一个正解即

$\tilde{t}={\left(\frac{\mu \frac{\left(3q-5\right)\left(3q-7\right)}{2q}B\left(u\right)}{{\gamma }_p\left(p{\gamma }_p-2\right)C\left(u\right)}\right)}^{\frac{1}{p{\gamma }_p-\left(3q-5\right)}},$

且 $\tilde{t}$ 是 $h\left(t\right)$ 的最大值点，其中当

$\frac{2q}{\left(3q-5\right)K_H}{c}^{-\frac{4\left(p-q-1\right)}{p{\gamma }_{p-2}}}{\left(\frac{\left(p{\gamma }_p-2\right){\gamma }_p{K}_{GN}}{7-3q}\right)}^{\frac{3q-7}{p{\gamma }_p-2}}{\left(\frac{p{\gamma }_p-\left(3q-5\right)}{p{\gamma }_p}\right)}^{\frac{3q-5-p{\gamma }_p}{p{\gamma }_p-2}}<\mu <0,$

时 $h\left(\tilde{t}\right)>0$。此外，当 $t\to 0^{+}$ 时 $h\left(t\right)\to -\infty$ 且当 $t\to +\infty$ 时 $h\left(t\right)\to -\infty$，从中我们可知 $h\left(t\right)$ 只有两个零点为 $t_1$ 和 $t_2$，且 $0<t_1<t_2$。由 ${g^{\prime }}_u\left(t\right)=th\left(t\right)$ 可知，

$\underset{t>0}{\max }{g^{\prime }}_u\left(t\right)>0\iff \underset{t>0}{\max }h\left(t\right)=h\left(\tilde{t}\right)>0,$

且 ${g^{\prime }}_u\left(t\right)=0$ 当且仅当 $h\left(t\right)=0$，因此 $t_1$ 和 $t_2$ 也正好是 $g_u\left(t\right)$ 的两个临界点。此外，由 $h^{\prime }\left(t_1\right)>0$， $h^{\prime }\left(t_2\right)<0$ 及 ${g^{\prime }}_u\left(t\right)=th\left(t\right)$ 知 ${g^{″}}_u\left(t_1\right)\ne 0$， ${g^{″}}_u\left(t_2\right)\ne 0$。

引理3.3. 若(1-3)成立，则 ${\Lambda }^0\left(c\right)=\varnothing$。

证明假设存在 $u\in {\Lambda }^0\left(c\right)$，则 ${g^{\prime }}_u\left(1\right)=0$ 且 ${g^{″}}_u\left(1\right)=0$。由 ${g^{\prime }}_u\left(t\right)=th\left(t\right)$ 可知， $h\left(1\right)=0$ 且 $h^{\prime }\left(1\right)=0$，但由引理3.2.知 $h^{\prime }\left(1\right)\ne 0$，矛盾。

引理3.4. 若(1-3)成立，则对于 $\forall u\in S\left(c\right)$，存在

1) $s_u^{+}\in \left(0,\tilde{t}\right)$ 是唯一的且使得 $s_u^{+}$ 是 $g_u$ 唯一的局部极小值点， $u^{s_u^{+}}\in {\Lambda }^{+}\left(c\right)$。

2) $s_u^{-}\in \left(\tilde{t},+\infty \right)$ 是唯一的且使得 $s_u^{-}$ 是 $g_u$ 唯一的局部极大值点， $u^{s_u^{-}}\in {\Lambda }^{-}\left(c\right)$。

3) $u\mapsto s_u^{\pm }$ 是 $C^1$ 连续的。

证明当 $t\to 0^{+}$ 时 $g_u\left(t\right)\to 0^{-}$，当 $t\to +\infty$ 时 $g_u\left(t\right)\to -\infty$，由引理3.2.可知 ${g^{\prime }}_u\left(t\right)=0$ 只有两个解即 $s_u^{+}=t_1$ 和 $s_u^{-}=t_2$，且 $0<s_u^{+}<\tilde{t}<s_u^{-}$。此外，当 $t\in \left(0,s_u^{+}\right)$ 时 ${g^{\prime }}_u\left(t\right)<0$ 且当 $t\in \left(s_u^{+},s_u^{-}\right)$ 时 ${g^{\prime }}_u\left(t\right)>0$，因此 $s_u^{+}\in \left(0,\tilde{t}\right)$ 是 $g_u$ 唯一的局部极小值点且 $u^{s_u^{+}}\in {\Lambda }^{+}\left(c\right)$。类似地，可以得到 $s_u^{-}\in \left(\tilde{t},+\infty \right)$ 是 $g_u$ 唯一的局部极大值点且 $u^{s_u^{-}}\in {\Lambda }^{-}\left(c\right)$。

仿照 [7] 中定理5.3的论证，由引理3.3.及隐函数定理容易得到 $u\mapsto s_u^{\pm }$ 是 $C^1$ 连续的。

引理3.5. 若(1-3)成立，则

1) 对于 $\forall u\in {\Lambda }^{+}\left(c\right)$， $F\left(u\right)<0$。

2) 对于 $\forall u\in {\Lambda }^{-}\left(c\right)$，存在 $\alpha =\alpha \left(c\right)>0$ 使得 $A\left(u\right)>\alpha$。

证明取 $\forall u\in {\Lambda }^{+}\left(c\right)$，则有

$A\left(u\right)=-\mu \frac{3q-5}{2q}B\left(u\right)+{\gamma }_{p}C\left(u\right),$

$A\left(u\right)>-\mu \frac{\left(3q-5\right)\left(3q-6\right)}{2q}B\left(u\right)+{\gamma }_p\left(p{\gamma }_p-1\right)C\left(u\right).$

因此，可得

$\begin{array}{c}F\left(u\right)=\frac{1}{2}A\left(u\right)+\frac{\mu }{2q}B\left(u\right)-\frac{1}{p}C\left(u\right)=\left(\frac{1}{2}-\frac{1}{p{\gamma }_p}\right)A\left(u\right)+\frac{\mu }{2q}\frac{p{\gamma }_p-\left(3q-5\right)}{p{\gamma }_p}B\left(u\right)\\ <\left(\frac{1}{2p{\gamma }_p}-\frac{1}{\left(3q-5\right)p{\gamma }_p}\right)A\left(u\right).\end{array}$

因为 $2p{\gamma }_p>\left(3q-5\right)p{\gamma }_p$，所以 $F\left(u\right)<0$。

取 $\forall u\in {\Lambda }^{-}\left(c\right)$，由 $Q\left(u\right)=0$ 可得，

$\begin{array}{l}A\left(u\right)+\left(3q-6\right)\left(-A\left(u\right)+{\gamma }_{p}C\left(u\right)\right)-{\gamma }_p\left(p{\gamma }_p-1\right)C\left(u\right)<0\\ \iff \left(7-3q\right)A\left(u\right)+{\gamma }_p\left(3q-5-p{\gamma }_p\right)C\left(u\right)<0.\end{array}$

应用引理2.2.，则有

$\alpha :={\left(\frac{7-3q}{{\gamma }_p\left(3q-5-p{\gamma }_p\right)K_{GN}{c}^{\frac{6-p}{2}}}\right)}^{\frac{2}{p{\gamma }_p-2}}<A\left(u\right),$

因此对于 $\forall u\in {\Lambda }^{-}\left(c\right)$， $A\left(u\right)>\alpha$。

我们定义：

$S_r\left(c\right)=S\left(c\right)\cap H_r^1\left({ℝ}^3\right),{\Lambda }_r\left(c\right)=\Lambda \left(c\right)\cap H_r^1\left({ℝ}^3\right),{\Lambda }_r^{\pm }\left(c\right)={\Lambda }^{\pm }\left(c\right)\cap H_r^1\left({ℝ}^3\right).$

引理3.6. 若(1-3)成立，则

$\underset{u\in {\Lambda }_r^{\pm }\left(c\right)}{\inf }F\left(u\right)=\underset{u\in {\Lambda }^{\pm }\left(c\right)}{\inf }F\left(u\right),$

且如果 $\underset{u\in {\Lambda }^{\pm }\left(c\right)}{\inf }F\left(u\right)$ 是可达的，则可达元是一个非负径向函数。

证明因为 ${\Lambda }_r^{\pm }\left(c\right)\subset {\Lambda }^{\pm }\left(c\right)$，则

$\underset{u\in {\Lambda }_r^{\pm }\left(c\right)}{\inf }F\left(u\right)\ge \underset{u\in {\Lambda }^{\pm }\left(c\right)}{\inf }F\left(u\right),$ (3-2)

因此，只需证明

$\underset{u\in {\Lambda }_r^{\pm }\left(c\right)}{\inf }F\left(u\right)\le \underset{u\in {\Lambda }^{\pm }\left(c\right)}{\inf }F\left(u\right).$ (3-3)

我们观察到

$\underset{u\in {\Lambda }^{+}\left(c\right)}{\inf }F\left(u\right)=\underset{u\in S\left(c\right)}{\inf }\underset{0<t\le s_u^{+}}{\min }F\left(u^t\right),\underset{u\in {\Lambda }^{-}\left(c\right)}{\inf }F\left(u\right)=\underset{u\in S\left(c\right)}{\inf }\underset{s_u^{+}<t\le s_u^{-}}{\min }F\left(u^t\right).$ (3-4)

取 $u\in S\left(c\right)$ 和 $v\in S_r\left(c\right)$，其中v是 $\left|u\right|$ 的Schwarz径向重排，则 $A\left(v\right)\le A\left(u\right)$， $C\left(v\right)=C\left(u\right)$，且由Riesz’s重排不等式(见文 [8] 中3.7节)可得 $B\left(v\right)\ge B\left(u\right)$，因此对于所有 $t>0$，我们有

$\begin{array}{c}F\left(v^t\right)=\frac{1}{2}{t}^{2}A\left(v\right)+\frac{\mu }{2q}{t}^{3q-5}B\left(v\right)-\frac{1}{p}{t}^{p{\gamma }_p}C\left(v\right)\\ \le \frac{1}{2}{t}^{2}A\left(u\right)+\frac{\mu }{2q}{t}^{3q-5}B\left(u\right)-\frac{1}{p}{t}^{p{\gamma }_p}C\left(u\right)=F\left(u^t\right).\end{array}$ (3-5)

对于 $\forall w\in S\left(c\right)$，

${g^{\prime }}_w\left(t\right)=tA\left(w\right)+\mu \frac{3q-5}{2q}{t}^{3q-6}B\left(w\right)-{\gamma }_p{t}^{p{\gamma }_p-1}C\left(w\right).$

由于 $\mu <0$，因此 ${g^{\prime }}_v\left(t\right)\le {g^{\prime }}_u\left(t\right)$，且对于 $\forall t>0$ 有 $g_v\left(t\right)\le g_u\left(t\right)$。由引理3.4.可知， ${g^{\prime }}_v\left(t\right)=0$ 正好有两个临界点且 $0<s_v^{+}<s_v^{-}$，这意味着 $0<s_u^{+}<s_v^{+}<s_v^{-}<s_u^{-}$，因此可以推断出

$\underset{0<t\le s_v^{+}}{\min }F\left(v^t\right)\le \underset{0<t\le s_u^{+}}{\min }F\left(u^t\right),\underset{s_v^{+}<t\le s_v^{-}}{\max }F\left(v^t\right)\le \underset{s_u^{+}<t\le s_u^{-}}{\max }F\left(u^t\right).$

由(3-4)可知不等式(3-3)成立，如果存在 $u_0\in {\Lambda }^{+}\left(c\right)$ 使得 $F\left(u_0\right)=\underset{u\in {\Lambda }^{+}\left(c\right)}{\inf }F\left(u\right)$，则 $v\in {\Lambda }_r^{+}\left(c\right)$，其中v是 $\left|u_0\right|$ 的Schwarz径向重排。事实上，如果 $A\left(v\right)<A\left(u_0\right)$ 或者 $B\left(v\right)>B\left(u_0\right)$，则 $F\left(v^t\right)<F\left(u_0^t\right)$。因此，

根据以上论点可以得出矛盾，即

$\underset{u\in {\Lambda }^{+}\left(c\right)}{\inf }F\left(u\right)=\underset{u\in S\left(c\right)}{\inf }\underset{0<t\le s_u^{+}}{\min }F\left(u^t\right)\le \underset{0<t\le s_v^{+}}{\min }F\left(v^t\right)<\underset{0<t\le s_{u_0}^{+}}{\min }F\left(u_0^t\right)=\underset{u\in {\Lambda }^{+}\left(c\right)}{\inf }F\left(u\right).$

因此 $A\left(v\right)=A\left(u_0\right)$， $B\left(v\right)=B\left(u_0\right)$ 且 $C\left(v\right)=C\left(u_0\right)$，从中可以推断出 $v\in {\Lambda }_r^{+}\left(c\right)$ 且 $F\left(v\right)=F\left(u_0\right)$。此外，对于存在 $u_0\in {\Lambda }^{-}\left(c\right)$ 使得 $F\left(u_0\right)=\underset{u\in {\Lambda }^{-}\left(c\right)}{\inf }F\left(u\right)$ 这种情况的证明是类似的。

引理3.7. 若(1-3)成立，则对于 $F_{|S\left(c\right)}$ 在水平 ${\gamma }^{\pm }\left(c\right)$ 上存在一个有界(PS)序列 $\left\{u_n^{\pm }\right\}\subset {\Lambda }_r^{\pm }\left(c\right)$。

为了证明引理3.7.，我们定义函数

$I^{\pm }:S\left(c\right)\to ℝ,I^{\pm }\left(u\right)=F\left(u^{s_u^{\pm }}\right).$

注意到由引理3.4.和隐函数定理可知 $u\mapsto s_u^{\pm }$ 是 $C^1$ 连续的，所以 $I^{\pm }$ 是 $C^1$ 连续的。

引理3.8. 若(1-3)成立，则对于 $\forall u\in S\left(c\right)$， $\psi \in T_{u}S\left(c\right)$，我们有

$d{I}^{\pm }\left(u\right)\left[\psi \right]=dF\left(u^{s_u^{\pm }}\right)\left[{\psi }^{s_u^{\pm }}\right].$ (3-6)

证明首先我们给出 $I^{+}$ 的证明。取 $\psi \in T_{u}S\left(c\right)$，则 $\psi =h^{\prime }\left(0\right)$，其中 $h:\left(-\epsilon ,+\epsilon \right)\mapsto S\left(c\right)$ 是一个 $C^1$ 类曲线且 $h\left(0\right)=u$，我们观察到

$\frac{I^{+}\left(h\left(t\right)\right)-I^{+}\left(h\left(0\right)\right)}{t}=\frac{F\left(h{\left(t\right)}^{s_t}\right)-F\left(h{\left(0\right)}^{s_0}\right)}{t},$

其中 $s_t=s_{h\left(t\right)}^{+}$，因此 $s_0=s_u^{+}$。回顾引理3.4.中 $s_0$ 是 $s\mapsto F\left(u^s\right)$ 的一个严格局部极小值且 $u\mapsto s_0$ 是连续的，则

$\begin{array}{l}F\left(h{\left(t\right)}^{s_t}\right)-F\left(h{\left(0\right)}^{s_0}\right)\ge F\left(h{\left(t\right)}^{s_t}\right)-F\left(h{\left(0\right)}^{s_t}\right)\\ =\frac{s_t^2}{2}\left[A\left(h\left(t\right)\right)-A\left(h\left(0\right)\right)\right]+\frac{\mu }{2q}{s}_t^{3q-5}\left[B\left(h\left(t\right)\right)-B\left(h\left(0\right)\right)\right]+\frac{s_t^{p{\gamma }_p}}{p}\left[C\left(h\left(t\right)\right)-C\left(h\left(0\right)\right)\right]\\ =s_t^2{\displaystyle \underset{{ℝ}^3}{\int }\nabla h\left({\eta }_{1}t\right)\nabla h^{\prime }\left({\eta }_{1}t\right)t\text{d}x}+\mu s_t^{3q-5}{\displaystyle \underset{{ℝ}^3}{\int }{\displaystyle \underset{{ℝ}^3}{\int }\frac{{\left|h\left({\eta }_{2}t\right)\left(x\right)\right|}^q{\left|h\left({\eta }_{2}t\right)\left(y\right)\right|}^{q-2}h\left({\eta }_{2}t\right)\left(y\right)h^{\prime }\left({\eta }_{2}t\right)\left(y\right)}{\left|x-y\right|}t\text{d}x\text{d}y}}\\ -s_t^{p{\gamma }_p}{\displaystyle \underset{{ℝ}^3}{\int }{\left|h\left({\eta }_{3}t\right)\right|}^{p-2}h\left({\eta }_{3}t\right)h^{\prime }\left({\eta }_{3}t\right)t\text{d}x},\end{array}$

其中 ${\eta }_1,{\eta }_2,{\eta }_3\in \left(0,1\right)$。类似地，

$\begin{array}{l}F\left(h{\left(t\right)}^{s_t}\right)-F\left(h{\left(0\right)}^{s_0}\right)\ge F\left(h{\left(t\right)}^{s_0}\right)-F\left(h{\left(0\right)}^{s_0}\right)\\ =s_0^2{\displaystyle \underset{{ℝ}^3}{\int }\nabla h\left({\eta }_{4}t\right)\nabla }{h}^{\prime }\left({\eta }_{4}t\right)t\text{d}x+\mu s_0^{3q-5}{\displaystyle \underset{{ℝ}^3}{\int }{\displaystyle \underset{{ℝ}^3}{\int }\frac{{\left|h\left({\eta }_{5}t\right)\left(x\right)\right|}^q{\left|h\left({\eta }_{5}t\right)\left(y\right)\right|}^{q-2}h\left({\eta }_{5}t\right)\left(y\right)h^{\prime }\left({\eta }_{5}t\right)\left(y\right)}{\left|x-y\right|}t\text{d}x\text{d}y}}\\ -s_0^{p{\gamma }_p}{\displaystyle \underset{{ℝ}^3}{\int }{\left|h\left({\eta }_{6}t\right)\right|}^{p-2}h\left({\eta }_{6}t\right)h^{\prime }\left({\eta }_{6}t\right)t\text{d}x,}\end{array}$

其中 ${\eta }_4,{\eta }_5,{\eta }_6\in \left(0,1\right)$。从中可以推断出，对于 $\forall u\in S\left(c\right)$， $\psi \in T_{u}S\left(c\right)$，

$\begin{array}{l}\underset{t\to 0}{\lim }\frac{I^{+}\left(h\left(t\right)\right)-I^{+}\left(h\left(0\right)\right)}{t}\\ =s_{u^{+}}^2{\displaystyle \underset{{ℝ}^3}{\int }\nabla u\nabla \psi }\text{d}x+\mu s_{u^{+}}^{3q-5}{\displaystyle \underset{{ℝ}^3}{\int }{\displaystyle \underset{{ℝ}^3}{\int }\frac{{\left|u\left(x\right)\right|}^q{\left|u\left(y\right)\right|}^{q-2}u\left(y\right)\psi \left(y\right)}{\left|x-y\right|}\text{d}x\text{d}y}}-s_{u^{+}}^{p{\gamma }_p}{\displaystyle \underset{{ℝ}^3}{\int }{\left|u\right|}^{p-2}u\psi }\text{d}x\\ =dF\left(u^{s_u^{\pm }}\right)\left[{\psi }^{s_u^{\pm }}\right].\end{array}$

$I^{-}$ 的证明是类似的。

设 $\zeta$ 是属于 $S_r\left(c\right)$ 的所有单元素集合，在 [13] 定义3.1的意义下，它显然是 $S_r\left(c\right)$ 紧子集具有闭边界(实际上是空的)的同伦稳定族。由引理3.6.可得

$e_{\zeta }^{+}:=\underset{A\subset \zeta }{\inf }\underset{u\in A}{\max }{I}^{+}\left(u\right)=\underset{u\in S_r\left(c\right)}{\inf }{I}^{+}\left(u\right)=\underset{u\in {\Lambda }_r^{+}\left(c\right)}{\inf }F\left(u\right)=\underset{u\in {\Lambda }^{+}\left(c\right)}{\inf }F\left(u\right)={\gamma }^{+}\left(c\right),$

$e_{\zeta }^{-}:=\underset{A\subset \zeta }{\inf }\underset{u\in A}{\max }{I}^{-}\left(u\right)=\underset{u\in S_r\left(c\right)}{\inf }{I}^{-}\left(u\right)=\underset{u\in {\Lambda }_r^{-}\left(c\right)}{\inf }F\left(u\right)=\underset{u\in {\Lambda }^{-}\left(c\right)}{\inf }F\left(u\right)={\gamma }^{-}\left(c\right).$

引理3.9. 若(1-3)成立，则对于 $F_{|S_r\left(c\right)}$ 在水平 $e_{\zeta }^{\pm }$ 上存在一个有界(PS)序列 $\left\{u_n^{\pm }\right\}\subset {\Lambda }^{\pm }\left(c\right)$。

证明首先处理 $e_{\zeta }^{+}$ 情况。取 $\left\{{\omega }_n\right\}\subset \zeta$ 满足

$\underset{u\in {\omega }_n}{\max }{I}^{+}\left(u\right)<e_{\zeta }^{+}+\frac{1}{n},$

考虑同伦

$\tau :\left[0,1\right]\times S\left(c\right)\mapsto S\left(c\right),\tau \left(t,x\right)=u^{1-t-t{s}_u^{+}}.$

根据 $\zeta$ 的定义，我们有

${\beta }_n=\tau \left(\left\{1\right\}\times {\omega }_n\right)=\left\{u^{s_u^{+}}:u\in {\omega }_n\right\}\subset \zeta .$

引理3.4.意味着对于 $\forall n\in \mathbb{N}$， ${\beta }_n\subset {\Lambda }^{+}\left(c\right)$。取 $v\in {\beta }_n$，即存在 $u\in {\omega }_n$ 使得 $v=u^{s_u^{+}}$，则 $I^{+}\left(v\right)=I^{+}\left(u\right)$。

因此，可得

$\underset{v\in {\beta }_n}{\max }{I}^{+}\left(v\right)=\underset{u\in {\omega }_n}{\max }{I}^{+}\left(u\right),$

则 ${\beta }_n$ 是 $e_{\zeta }^{+}$ 的另一个极小化序列。对于特殊情况即边界 $B=\varnothing$，应用 [13] 中定理3.2，在水平 $e_{\zeta }^{+}$ 上 $I^{+}$ 在 $S\left(c\right)$ 上存在一个(PS)序列 $\left\{y_n\right\}$ 并满足

$\Vert y_n-{\beta }_n\Vert \to 0,n\to \infty .$ (3-7)

记 $s_n=s_{y_n}^{+}$，取 $u_n^{+}=y_n^{s_n}\in {\Lambda }^{+}\left(c\right)$，我们断言对于 $n\in \mathbb{N}$ 充分大，存在一个常数 $C>0$ 使得

$\frac{1}{C}\le s_n^2\le C.$ (3-8)

事实上，观察到

$s_n^2=\frac{A\left(u_n^{+}\right)}{A\left(y_n\right)},$

由于 $F\left(u_n^{+}\right)=I^{+}\left(y_n\right)\to e_{\zeta }^{+}={\gamma }^{+}\left(c\right)<0$，从(3-1)中可以推断出存在 $M>0$ 且满足

$\frac{1}{M}\le A\left(u_n^{+}\right)\le M.$ (3-9)

另一方面，因为 ${\beta }_n\subset {\Lambda }^{+}\left(c\right)$ 是 $e_{\zeta }^{+}$ 的一个极小化序列，且F限制在 ${\Lambda }^{+}\left(c\right)$ 在 $H^1\left({ℝ}^3\right)$ 中是强制的，可以得到 ${\beta }_n$ 在 $H^1\left({ℝ}^3\right)$ 中是一致有界的，因此(3-7)意味着 $\underset{n}{\sup }A\left(y_n\right)<\infty$。此外，因为对于 $\forall n\in \mathbb{N}$， ${\beta }_n$ 是紧的，则存在 $v_n\in {\beta }_n$ 使得当 $n\to \infty$ 时 ${\Vert v_n-y_n\Vert }_{H^1\left({ℝ}^3\right)}\to 0$。应用引理3.1.，存在一个 $\delta >0$ 使得

$A\left(y_n\right)\ge A\left(v_n\right)-A\left(v_n-y_n\right)\ge \frac{\delta }{2},$

这意味着(3-8)成立。根据(2-6)、引理2.2.和引理3.8.，我们有

$\Vert d{F}_{|S\left(c\right)}\left(u_n^{+}\right)\Vert {}_{\ast }=\underset{\Vert \psi \le 1\Vert ,\psi \in T_{u}S\left(c\right)}{\sup }\left|dF\left(u_n^{+}\right)\left[\psi \right]\right|=\underset{\Vert \psi \le 1\Vert ,\psi \in T_{u}S\left(c\right)}{\sup }\left|dF\left(u_n^{+}\right)\left[{\left({\psi }^{\frac{1}{s_n}}\right)}^{s_n}\right]\right|=\underset{\Vert \psi \le 1\Vert ,\psi \in T_{u}S\left(c\right)}{\sup }\left|d{I}^{+}\left(y_n\right)\left[{\psi }^{\frac{1}{s_n}}\right]\right|.$

这意味着 $\left\{u_n^{+}\right\}\subset {\Lambda }^{+}\left(c\right)$ 是 $F_{|S\left(c\right)}$ 在水平 $e_{\zeta }^{+}$ 上的一个(PS)序列，因为 $\left\{y_n\right\}$ 是 $I^{+}$ 在水平 $e_{\zeta }^{+}$ 上的一个(PS)序列且根据(3-8)可知 $\Vert {\psi }^{\frac{1}{s_n}}\Vert \le C_1\Vert \psi \Vert \le C_1$。对于 $e_{\zeta }^{-}$ 这种情况证明是相同的，除了应用引理3.5.(2)以及(3-1)得出存在一个 $M>0$，当用 $A\left(u_n^{+}\right)$ 代替 $A\left(u_n^{-}\right)$ 时(3-9)式成立。

引理3.7.的证明应用引理3.9.，我们推断对于 $F_{|S\left(c\right)}$ 在水平 $e_{\zeta }^{+}={\gamma }^{+}\left(c\right)$ 上存在一个(PS)序列 $\left\{u_n^{+}\right\}\subset {\Lambda }_r^{+}\left(c\right)$，且对于 $F_{|S\left(c\right)}$ 在水平 $e_{\zeta }^{-}={\gamma }^{-}\left(c\right)$ 上存在一个(PS)序列 $\left\{u_n^{-}\right\}\subset {\Lambda }_r^{-}\left(c\right)$。由引理3.1.可知，在这两种情况下的序列都是有界的。

4. (PS)序列的紧性

引理4.1. 若(1-3)成立，且 $\left\{u_n\right\}\subset {\Lambda }^{\pm }\left(c\right)$ 是 ${\gamma }^{\pm }\left(c\right)$ 的一个极小化序列，则 $\left\{u_n\right\}$ 收敛到一个非平凡极限。

证明因为F限制在 $\Lambda \left(c\right)$ 在 $H^1\left({ℝ}^3\right)$ 中是强制的， $\left\{u_n\right\}$ 是有界的，因此 $u_n\stackrel{w}{\to }u$ 在 $H^1\left({ℝ}^3\right)$。运用反证法假设 $u_c=0$，这意味着 $\left\{u_n\right\}$ 具有消失性。由 [14] 中引理I.1可知，有

${\left|u\right|}_q\to 0,n\to \infty .$

因此

$C\left(u_n\right)\to 0,B\left(u_n\right)\le K_1{\left|u_n\right|}_{\frac{6}{5}q}^{2q}\to 0.$

因为 $\left\{u_n\right\}\subset \Lambda \left(c\right)$，则 $Q\left(u_n\right)=0$，所以

$A\left(u_n\right)=-\mu \frac{3q-5}{2q}B\left(u_n\right)+{\gamma }_{p}C\left(u_n\right)\to 0.$ (4-1)

若 $\left\{u_n\right\}\subset {\Lambda }^{-}\left(c\right)$，则由引理3.5.可知存在 $\alpha >0$ 使得

$A\left(u_n\right)>\alpha >0,\forall n\in \mathbb{N}.$

与(4-1)矛盾。若 $\left\{u_n\right\}\subset {\Lambda }^{+}\left(c\right)$，则

$F\left(u_n\right)=\frac{1}{2}A\left(u_n\right)+\frac{\mu }{2q}B\left(u_n\right)-\frac{1}{p}C\left(u_n\right)\to 0,$

此外，由

$F\left(u_n\right)\to {\gamma }^{+}\left(c\right)=\underset{u\in {\Lambda }^{+}\left(c\right)}{\inf }F\left(u\right)<0,$

得出矛盾。

引理4.2 假设 $F_{|S\left(c\right)}$ 上的一个有界(PS)序列 $\left\{u_n\right\}\subset {\Lambda }_r\left(c\right)$ 弱收敛到一个非零函数 $u_c$，则 $u_n\to u_c\in {\Lambda }_r\left(c\right)$ 在 $H_r^1\left({ℝ}^3\right)$ 中。特别地， $u_c$ 是(1-2)对于某个 ${\lambda }_c<0$ 的径向基态解。

证明因为 $H_r^1\left({ℝ}^3\right)\subset L^q\left({ℝ}^3\right)$ 是紧嵌入，其中 $q\in \left(2,6\right)$，因此存在 $u\in H_r^1\left({ℝ}^3\right)$ 使得

$\{\begin{array}{cc}{u}_n\stackrel{w}{\to }u,& H^1\left({ℝ}^3\right),\\ u_n\stackrel{}{\to }u,& L^q\left({ℝ}^3\right),q\in \left(2,6\right),\\ u_n\stackrel{}{\to }u,& a.e.{ℝ}^3.\end{array}$

因为 $\left\{u_n\right\}\subset H_r^1\left({ℝ}^3\right)$ 是有界的，则

${F^{\prime }}_{|S\left(c\right)}\left(u_n\right)\to 0,H^{-1}\left({ℝ}^3\right)\iff F^{\prime }\left(u_n\right)-\frac{1}{c^2}\langle F^{\prime }\left(u_n\right),u_n\rangle u_n,H^{-1}\left({ℝ}^3\right).$

因此，对于 $\forall \sigma \in H^1\left({ℝ}^3\right)$，有

$\begin{array}{c}{o}_n\left(1\right)=\langle F^{\prime }\left(u_n\right)-\frac{1}{c^2}\langle F^{\prime }\left(u_n\right),u_n\rangle u_n,\sigma \rangle \\ ={\displaystyle \underset{{ℝ}^3}{\int }\nabla u_n\nabla \sigma }\text{d}x+\mu {\displaystyle \underset{{ℝ}^3}{\int }{\displaystyle \underset{{ℝ}^3}{\int }\frac{{\left|u_n\left(x\right)\right|}^q{\left|u_n\left(y\right)\right|}^{q-2}{u}_n\left(y\right)\sigma \left(y\right)}{\left|x-y\right|}\text{d}x\text{d}y}}-{\displaystyle \underset{{ℝ}^3}{\int }{\left|u_n\right|}^{p-2}{u}_n\sigma }\text{d}x-{\lambda }_n{\displaystyle \underset{{ℝ}^3}{\int }{u}_n\sigma }\text{d}x,\end{array}$ (4-2)

其中当 $n\to \infty$ 时 $o_n\left(1\right)\to 0$，且由于 $Q\left(u_n\right)=0$，我们有

${\lambda }_n=\frac{1}{c^2}\left[A\left(u_n\right)+\mu B\left(u_n\right)-C\left(u_n\right)\right]=\frac{1}{c^2}\left[\mu \frac{5-q}{2q}B\left(u_n\right)+\left({\gamma }_p-1\right)C\left(u_n\right)\right].$

因为 $\left\{u_n\right\}\subset H_r^1\left({ℝ}^3\right)$，则 $C\left(u_n\right)\to C\left(u_c\right)$ 且由引理2.5知 $B\left(u_n\right)\to B\left(u_c\right)$，因此可以得到

${\lambda }_n\to {\lambda }_c=\frac{1}{c^2}\left[\mu \frac{5-q}{2q}B\left(u_c\right)+\left({\gamma }_p-1\right)C\left(u_c\right)\right].$

从(4-2)中我们可以得到

${\displaystyle \underset{{ℝ}^3}{\int }\nabla u_c\nabla \sigma }\text{d}x+\mu {\displaystyle \underset{{ℝ}^3}{\int }{\displaystyle \underset{{ℝ}^3}{\int }\frac{{\left|u_c\left(x\right)\right|}^q{\left|u_c\left(y\right)\right|}^{q-2}{u}_c\left(y\right)\sigma \left(y\right)}{\left|x-y\right|}\text{d}x\text{d}y}}-{\displaystyle \underset{{ℝ}^3}{\int }{\left|u_c\right|}^{p-2}{u}_c\sigma }\text{d}x-{\lambda }_c{\displaystyle \underset{{ℝ}^3}{\int }{u}_c\sigma }\text{d}x=0,$ (4-3)

这意味着 $\left(u_c,{\lambda }_c\right)$ 满足

$-\Delta u_c+\mu {\varphi }_{u_c}|u_c{|}^{q-2}{u}_c=|u_c{|}^{p-2}{u}_c+{\lambda }_c{u}_c,H^{-1}\left({ℝ}^3\right).$

由假设 $u_c\ne 0$ 及引理2.3.知， $Q\left(u_c\right)=0$ 且 ${\lambda }_c<0$。在(4-2)中取 $\sigma =u_n$ 以及在(4-3)中取 $\sigma =u_c$，可得

${\displaystyle \underset{{ℝ}^3}{\int }{\left|\nabla u_n\right|}^2\text{d}x}+\mu B\left(u_n\right)-C\left(u_n\right)-{\lambda }_n{\displaystyle \underset{{ℝ}^3}{\int }{\left|u_n\right|}^2\text{d}x}\to {\displaystyle \underset{{ℝ}^3}{\int }{\left|\nabla u_c\right|}^2\text{d}x}+\mu B\left(u_c\right)-C\left(u_c\right)-{\lambda }_c{\displaystyle \underset{{ℝ}^3}{\int }{\left|u_c\right|}^2\text{d}x}.$

根据 $B\left(u_n\right)\to B\left(u_c\right)$， $C\left(u_n\right)\to C\left(u_c\right)$ 以及 ${\lambda }_n\to {\lambda }_c$，我们可以推断出

${\displaystyle \underset{{ℝ}^3}{\int }{\left|\nabla u_n\right|}^2\text{d}x}-{\lambda }_n{\displaystyle \underset{{ℝ}^3}{\int }{\left|u_n\right|}^2\text{d}x}\to {\displaystyle \underset{{ℝ}^3}{\int }{\left|\nabla u_c\right|}^2\text{d}x}-{\lambda }_c{\displaystyle \underset{{ℝ}^3}{\int }{\left|u_c\right|}^2\text{d}x}.$

因为 ${\lambda }_c<0$，所以可以推断出 $u_n\to u_c$ 在 $H_r^1\left({ℝ}^3\right)$。

定理1.1.的证明我们给出 ${\gamma }^{+}\left(c\right)$ 这种情况的证明，对于 ${\gamma }^{-}\left(c\right)$ 这种情况的证明是一样的。由引理3.7.可知， $F_{|S\left(c\right)}$ 在水平 ${\gamma }^{+}\left(c\right)$ 上存在一个有界(PS)序列 $\left\{u_n^{+}\right\}\subset {\Lambda }_r^{+}\left(c\right)$。根据引理4.1.和引理4.2.，我们推断 $u_n^{+}\to u_c^{+}$ 在 $H_r^1\left({ℝ}^3\right)$ 中且存在 ${\lambda }_c^{+}<0$ 使得 $\left(u_c^{+},{\lambda }_c^{+}\right)$ 是(1-1)的一个解。因为 ${\Lambda }^0\left(c\right)=\varnothing$，我们推断 $u_c^{+}\in {\Lambda }_r^{+}\left(c\right)$。由引理3.6.知 $u_c^{+}$ 是一个非负Schwarz径向函数，此外，从引理2.4.中可以推断出 $u_c^{+}$ 是一个

有界且处处取正值的连续函数。

5. 结论

本文研究了一类带有参数的非线性薛定谔泊松方程规范解的存在性，通过构造辅助泛函证明了能量泛函在Pohozaev流形附近存在一个有界的(PS)序列，最后应用集中紧性原理证明了方程正径向基态解和山路解的存在性。这些结论推广和完善了文 [6] 和文 [7] 中的研究成果。

基金项目

国家自然科学青年基金(11601363)和山西省自然科学青年基金(201601D021011)。

NOTES

^*通讯作者。