势在无穷远处消失的四阶椭圆方程的变号解

Sign-Changing Solutions for Fourth-Order Elliptic Equations with Potential Vanishing at Infinity

摘要: Kirchhoff方程在物理领域具有基础性地位，其解的存在性的理论研究意义日益凸显，并受到广泛关注。其中，四阶Kirchhoff方程在近年来吸引了大批学者广泛研究。本文研究一类四阶Kirchhoff型椭圆方程解的存在性：${\Delta }^{2}u-\left(1+{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u\right|}}^{2}dx\right)\Delta u+V\left(x\right)u=K\left(x\right)f\left(u\right),x\in {ℝ}^3$ ，其中$V\left(x\right)$ ，$K\left(x\right)$ 为非负连续函数，$V\left(x\right)$ 在无穷远处消失，$f$ 为准临界增长的连续函数。利用极小化方法和形变引理，本文证明了上述问题在一定的条件下存在一个变号解。文献中的最新结果得到了极大的改进和推广。

Abstract: The Kirchhoff equation holds a fundamental position in the field of physics, and the significance of studying the existence of its solutions is increasingly prominent. Its application has received widespread attention. The fourth-order elliptic equation of Kirchhoff-type has attracted the particular attention of researchers in recent years. In this paper, we investigate the existence of solutions for the following fourth-order elliptic equation of Kirchhoff-type: ${\Delta }^{2}u-\left(1+{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u\right|}}^{2}dx\right)\Delta u+V\left(x\right)u=K\left(x\right)f\left(u\right),x\in {ℝ}^3$ , where $V\left(x\right)$ , $K\left(x\right)$ are nonnegative continuous functions, $V\left(x\right)$ vanishes at infinity and $f$ is a continuous function with quasicritical growth. Using a minimization argument and the quantitative deformation lemma, we prove the problem above has a sign-changing solution. Recent results from the literature are greatly improved and extended.

1. 引言

本文考虑以下四阶Kirchhoff型椭圆型方程：

${\Delta }^{2}u-\left(1+{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u\right|}}^2\text{d}x\right)\Delta u+V\left(x\right)u=K\left(x\right)f\left(u\right),$ (1.1)

其中${\Delta }^2：=\Delta \left(\Delta \right)$ 是双调和算子，$V\left(x\right)$ 和$K\left(x\right)$ 是非负连续函数。由于${{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u\right|}}^2\text{d}x$ 的出现，问题(1.1)是一个非局部问题，这也带来了一定的困难。

当$\Omega$ 是${ℝ}^N$ 的有界域且$V\left(x\right)=0$ 时，问题(1.1)与下面的四阶Kirchhoff型椭圆型方程有关：

$\{\begin{array}{l}{\Delta }^{2}u-\left(a+b{\displaystyle {\int }_{{ℝ}^N}{\left|\nabla u\right|}^2\text{d}x}\right)\Delta u=f\left(x,u\right),x\in \Omega ,\\ u=\Delta u=0,x\in \partial \Omega ,\end{array}$ (1.2)

它是张力的弹性梁或薄板的非线性振动模型，其中u表示梁或板的位移，${\Delta }^{2}u$ 表示梁截面抵抗弯曲的能力，a表示初始张力，$b{\displaystyle {\int }_{{ℝ}^N}{\left|\nabla u\right|}^2\text{d}x}$ 表示由形变引起的张力增量，$f\left(x,u\right)$ 表示非线性恢复力。该模型在工程结构分析具有重要的应用价值。对于问题(1.2)，现已有一些结果，参阅文献[1]-[4]。例如，当$f\left(x,u\right)$ 被$\lambda f\left(x,u\right)$ 代替时，王等[3]用分支方法证明了对所有$\lambda >0$ 都存在正解，而$\lambda <0$ 时则没有正解。此外，问题(1.2)与Kirchhoff方程的定态模拟有关：

$u_{tt}+{\Delta }^{2}u-\left(1+{\displaystyle {\int }_{{ℝ}^N}{\left|\nabla u\right|}^2\text{d}x}\right)\Delta u=f\left(x,u\right).$ (1.3)

从物理和工程的角度来看，一维和二维是相关的，因为在这些情况下，模型(1.3)被认为是描述非线性振动的近似，参阅文献[5] [6]。

借助Banach不动点定理，马[7]研究了一类非局部四阶Kirchhoff型方程解的存在性和多解性：

$\{\begin{array}{l}{u}^{″}-M\left({\displaystyle {\int }_0^1{\left|u^{\prime }\right|}^2\text{d}x}\right)u^{″}=q\left(x\right)f\left(x,u,u^{\prime }\right),\\ u\left(0\right)=u\left(1\right)=0,u^{″}\left(0\right)=u^{″}\left(1\right)=0.\end{array}$ (1.4)

近年来，关于下面的四阶椭圆型方程，得到了一些结果，参阅文献[8]-[10]：

$\{\begin{array}{l}{\Delta }^{2}u-M\left({\displaystyle {\int }_{{ℝ}^N}{\left|\nabla u\right|}^2\text{d}x}\right)\Delta u=f\left(x,u\right),\\ u=\Delta u=0,x\in \partial \Omega ,\end{array}$ (1.5)

其中$\Omega \subset {ℝ}^N$ 是有界光滑区域，$M:{ℝ}^N\to {ℝ}^N$ 是连续的，且满足(H)对于某些$m_0>0$ ，$M\left(t\right)>m_0$ ，$\forall t>0$ 。此外，存在$m^{\prime }>m_0$ 且$t_0>0$ ，使得$M\left(t\right)=m^{\prime }$ 且$\forall t>t_0$ 。

在对非线性函数$f\left(x,u\right)$ 作适当的假设下，得到了系统(1.5)解的存在性和多解性。当$M=\lambda$ 时，借助山路技术和截断方法，王[10]证明了存在${\lambda }^{*}>0$ 使得当$\lambda \in \left(0,{\lambda }^{*}\right)$ 时系统(1.5)至少有一个非平凡解。另外，使用变分方法和临界点理论，Ferrara等人[8]通过将一个关于非线性项的代数条件与经典的Ambrosetti-Rabinowitz条件(简称(AR))相结合，得到了四阶Kirchhoff型椭圆型问题非平凡非负解的多解性结果，即存在$\mu >4$ 和$L>0$ 使得

$\mu F\left(x,t\right)\le tf\left(x,t\right)\forall \left(x,t\right)\in {ℝ}^N\times ℝ,\left|t\right|>L,$

其中$F\left(x,t\right)={\displaystyle {\int }_0^{t}f\left(x,s\right)\text{d}s}$ 。另外，关于$\Omega$ 为无界区域的系统(1.5)解的存在性和多解性，也有很多结果，参阅文献[11]。

如果用${ℝ}^N$ 代替$\Omega$ ，且(1.1)中的$V\left(x\right)\ne 0$ ，则关于下面的四阶椭圆型方程，得到了一些结果，参阅文献[12]-[20]：

$\{\begin{array}{l}{\Delta }^{2}u-\left(a+b{\displaystyle {\int }_{{ℝ}^N}{\left|\nabla u\right|}^2\text{d}x}\right)\Delta u+V\left(x\right)u=f\left(x,u\right),\\ u\in H^2\left({ℝ}^N\right),\end{array}$

其中，

$H^2\left({ℝ}^N\right):=\left\{u\in L^2\left({ℝ}^N\right):\nabla u,u\in L^2\left({ℝ}^N\right)\right\}.$

在关于$f\left(x,u\right)$ 和$V\left(x\right)$ 的一些适当的假设下，江等人[15]证明了当$4<N<8$ 时，存在许多具有变号位势的高能解。若$a+b{{\displaystyle {\int }_{{ℝ}^N}\left|\nabla u\right|}}^2\text{d}x$ 被替换为$M{{\displaystyle {\int }_{{ℝ}^N}\left|\nabla u\right|}}^2\text{d}x$ ，其中$M$ 满足条件(H)且$f\left(x,u\right)=\lambda k\left(x,u\right)+h\left(x,u\right)$ ，吴和李[16]证明了对所有$\lambda >0$ 都有无穷多解。在[12]中，Almuaalemi等人利用山路定理得到了无穷高能解的存在性。

当方程(1.5)中$a=1$ ，$b=0$ ，可以得到以下的方程：

$\{\begin{array}{l}{\Delta }^{2}u-\Delta u+V\left(x\right)u=f\left(x,u\right),\\ u\in H^2\left({ℝ}^N\right),\end{array}$ (1.6)

其已被广泛研究，参阅文献[21]-[27]。特别地，在关于$f\left(x,u\right)$ 的一些适当的假设下，基于变分方法，刘等[21]得到了系统(1.6)的非平凡解的存在性和多解性，而叶和唐[25]在不考虑空间紧性的情况下，证明了问题(1.6)的解的存在性和多解性，大大改进了[21]中的最新结果。在[27]中，张等利用临界点理论中的亏格性质，得到了问题(1.6)无穷多解的存在性。

受上述文献的启发，更准确地说，在[28] [29]中，本文研究了一般非线性的问题(1.1)，其中包括在[28] [29]中使用的非线性。此外，本文还假设了函数$V\left(x\right)$ 和$K\left(x\right)$ 的更一般的条件。在本文中，如果满足以下条件，则$\left(V,K\right)\in \kappa$ ：

(H₁) $V\left(x\right)$ ，$K\left(x\right)>0$ ，对$x\in {ℝ}^3$ 且$K\in L^{\infty }\left({ℝ}^3\right)$ ；

(H₂) 如果$\left\{A_n\right\}\subset {ℝ}^3$ 是Borel集的序列，使得对所有$n$ 和一些$R>0$ ，$A_n$ 的勒贝格测度小于$R$ ，则

$\underset{r\to \infty }{\lim }{\displaystyle {\int }_{A_n\cap B_r^c(0)}K\left(x\right)\text{d}x=0,n\in \mathbb{N}},$

会发生以下其中一种情况：

(H₃) $\frac{K}{V}\in L^{\infty }\left({ℝ}^3\right)$

或

(H₄) 存在$p\in \left(2,6\right)$ 使得$\frac{K\left(x\right)}{V{\left(x\right)}^{\frac{6-p}{4}}}\to 0,\left|x\right|\to \infty .$

Alves和Souto [30]引入了关于函数$V\left(x\right)$ 和$K\left(x\right)$ 的假设(H₁)~(H₄)，并将问题(1.1)刻画为零质量。具有零质量的非线性椭圆型方程已被许多作者研究过，参阅文献[30]-[33]。在梁或板的模型中，势函数在无穷远处消失意味着弹性地基随着空间而衰减到0，这体现了支撑介质在远离指定区域时逐渐软化的物理情形。另外，对于正定势而言，相当于板放在均匀地基上，紧嵌入较易可得。而对在无穷远处消失势而言，远处恢复力几乎为0。此时，系统的平衡不再依赖外部的恢复力，而是由${\Delta }^{2}u$ 与Kirchhoff项主导，从而构成一类具有零质量特征的非局部问题。

关于函数$f$ ，假设$f\in C^1\left(ℝ,ℝ\right)$ 并且满足以下条件：

(f₁) 若(H₃)成立，则$\underset{t\to 0}{\lim }\frac{f\left(t\right)}{t}=0$ ；

(f₂) 若(H₄)成立，则$\underset{t\to 0}{\lim }\frac{f\left(t\right)}{{\left|t\right|}^{p-1}}=m_0\in ℝ$ ，其中$p\in \left(2,6\right)$ ；

(f₃) $f$ 是准临界增长的，即满足$\underset{t\to \infty }{\lim }\frac{f\left(t\right)}{t^5}=0$ ；

(f₄) $\underset{\left|t\right|\to \infty }{\lim }\frac{F\left(t\right)}{t^4}=\infty$ ，其中$F\left(t\right)={\displaystyle {\int }_0^{t}f\left(s\right)\text{d}s}$ ；

(f5) 映射$t\mapsto \frac{f\left(t\right)}{{\left|t\right|}^3}$ 对所有$t\in ℝ\backslash \left\{0\right\}$ 是非减的。

以下是本文得到的主要结果：

定理1.1 假设$\left(V,K\right)\in \kappa$ 且$f$ 满足(f₁)~(f₅)，则问题(1.1)至少存在一个变号解。

在本文中，由于不需要关于非线性项$f$ 的经典(AR)条件，因此很难证明Palais-Smale序列是有界的。此外，由于本文是在整个${ℝ}^3$ 中工作，因此，紧性的缺乏对本文来说也是一个困难。为了解决这些问题，本文的主要工具是极小化方法和形变引理。在定理1.1的证明中，主要工作是证明${\rm M}\ne \varnothing$ (定义在(2.3)中)，极小元是$I$ 的一个临界点(定义在(2.1)中)。首先，利用Brouwer不动点定理证明了流形${\rm M}\ne \varnothing$ ，本文所用的方法与文献[34]中的方法完全不同。然后，利用文献[35]中引入的形变引理证明了极小元是$I$ 的一个临界点。

本文主要是研究势函数在无穷远处消失的情况，相较于文献[16]，其是处理强制势下具有凹凸非线性结构的同类方程，通过山路定理和临界点理论得到多重解与无穷多解的存在性。此外，本文将文献[20]所研究的$5\le N\le 7$ 推进至$N=3$ 。另外，本文利用文献[30]所建立的条件与框架，将其针对二阶消失势的Schrödinger方程的基态解存在性，拓展至含非局部性的四阶Kirchhoff方程的变号解存在性，更具普适性。

在本文中，利用${\Vert \cdot \Vert }_r$ 表示$L^r$ -范数，$1\le r\le \infty$ ，$S_p$ 是嵌入的最佳Sobolev常数，使用记号$u^{+}=\max \left\{u\left(x\right),0\right\}$ 和$u^{-}=\min \left\{u\left(x\right),0\right\}$ ，且$u=u^{+}+u^{-}$ 。此外，$C$ 表示各种正的通用常量。另外，如果取序列$\left\{u_n\right\}$ 的一个子序列，则子序列依然用$\left\{u_n\right\}$ 来表示。此外，使用$o\left(1\right)$ 来表示任何趋于零的量为$n\to \infty$ 。

论文的剩余部分结构如下。第二节讨论了变分设定，并证明了必要的引理。在第三节中，本文给出了主要结果的证明。

2. 变分结构及相关引理

在这一部分中，主要概述问题(1.1)的变分框架，并给出一些初步的引理。

令

$D^{1,2}\left({ℝ}^3\right):=\left\{u\in L^6\left({ℝ}^3\right):\nabla u\in L^2\left({ℝ}^3\right)\right\}$

且

$E:=\left\{u\in H^2\left({ℝ}^3\right)\cap D^{1,2}\left({ℝ}^3\right):{\displaystyle {\int }_{{ℝ}^3}V\left(x\right)u^2\text{d}x<+\infty }\right\}.$

则在条件(H₁)，(H₃)和(H₄)下，$E$ 是具有如下内积和范数的Hilbert空间：

$\langle u,v\rangle ={\displaystyle {\int }_{{ℝ}^3}\left(\Delta u\Delta v+\nabla u\nabla v+V\left(x\right)uv\right)\text{d}x}$

且

$\Vert u\Vert ={\left({\displaystyle {\int }_{{ℝ}^3}\left({\left|\Delta u\right|}^2+{\left|\nabla u\right|}^2+V(x){\left|u\right|}^2\right)\text{d}x}\right)}^{\frac{1}{2}}.$

为了恢复紧性，对于$p\in \left[1,\infty \right)$ ，定义加权勒贝格空间$L_K^p\left({ℝ}^3\right)$ 如下：

$L_K^p\left({ℝ}^3\right)=\left\{u:{ℝ}^3\to ℝ:u是可测的,{\displaystyle {\int }_{{ℝ}^3}K\left(x\right){\left|u\right|}^p\text{d}x<\infty }\right\}.$

此外，存在以下的紧性引理。

引理2.1 假设$\left(V,K\right)\in \kappa$ 。若(H₃)或(H₄)成立，则对$2\le r<6$ ，$E$ 嵌入到$L_K^r\left({ℝ}^3\right)$ 是紧的。

证明：令$\left\{u_n\right\}\subset E$ 是一个有界序列，由于$E$ 是一个Sobolev空间，满足。

情形1：假设(H₃)成立。因为$K\left(x\right)\in L^{\infty }\left({ℝ}^3\right)$ 且在$L^r\left(B_R\left(0\right)\right)$ 中满足$u_n\to u$ 。因此，

$\underset{n\to \infty }{\lim }{{\displaystyle {\int }_{B_R(0)}K\left(x\right)\left|u_n\right|}}^r\text{d}x={{\displaystyle {\int }_{B_R(0)}K\left(x\right)\left|u\right|}}^r\text{d}x.$

对给定的$\epsilon >0$ ，存在$0<s_0<s_1$ 且$C>0$ 使得

$K\left(x\right){\left|s\right|}^r\le \epsilon C\left(V\left(x\right){\left|s\right|}^2+{\left|s\right|}^6\right)+CK\left(x\right){\chi }_{[s_0,s_1]}\left(\left|s\right|\right){\left|s\right|}^6,\forall s\in ℝ.$

因此，

${\displaystyle {\int }_{B_R^c(0)}K\left(x\right){\left|u\right|}^r}\text{d}x\le \epsilon CP\left(u\right)+C{\displaystyle {\int }_{A\cap B_R^c(0)}K\left(x\right)\text{d}x},$

其中${\displaystyle {\int }_{B_R^c(0)}\left(V\left(x\right){\left|u\right|}^2+{\left|u\right|}^6\right)\text{d}x}$ 和$A=\left\{x\in {ℝ}^3:s_0\le \left|u\left(x\right)\right|\le s_1\right\}$ 。因为在$E$ 中有，且$E$ 嵌入$L^6\left({ℝ}^3\right)$ 是连续的，则存在$M_1>0$ 和$\forall n\in \mathbb{N}$ 使得

${\displaystyle {\int }_{{ℝ}^3}\left({\left|\Delta u_n\right|}^2+{\left|\nabla u_n\right|}^2+V\left(x\right){\left|u_n\right|}^2\right)\text{d}x}\le M_1$ ，${{\displaystyle {\int }_{{ℝ}^3}\left|u_n\right|}}^6\text{d}x\le M_1.$

这意味着$P\left(u_n\right)$ 有界。另一方面，令$A_n=\left\{x\in {ℝ}^3:s_0\le \left|u_n\left(x\right)\right|\le s_1\right\}$ ，则有$s_0^6\left|A_n\right|\le {{\displaystyle {\int }_{A_n}\left|u_n\right|}}^6\text{d}x\le M_1$ 。因此，$\underset{n\in \mathbb{N}}{\sup }{A}_n<+\infty$ 。由(H₃)知，存在$R>0$ 满足${\displaystyle {\int }_{A_n\cap B_R^c(0)}K\left(x\right)\text{d}x}<\frac{\epsilon }{s_1^6}$ 。那么${\displaystyle {\int }_{B_R^c(0)}K\left(x\right){\left|u_n\right|}^r\text{d}x}\le \epsilon \left(C{M}_1+\frac{C}{s_1^6}\right)$ 。从而$\underset{n\to \infty }{\lim }{{\displaystyle {\int }_{{ℝ}^3}K\left(x\right)\left|u_n\right|}}^r\text{d}x={{\displaystyle {\int }_{{ℝ}^3}K\left(x\right)\left|u\right|}}^r\text{d}x$ 。

情形2：假设(H₄)成立，令$g\left(s\right)=V\left(x\right)s^{2-r}+s^{6-r}$ ，其中$s>0$ 。易知它存在最小值$C_{r}V{\left(x\right)}^{\frac{6-r}{4}}$ ，其中$C_r={\left(\frac{r-2}{6-r}\right)}^{\frac{2-r}{4}}\frac{4}{6-r}$ 。因此，$C_{r}V{\left(x\right)}^{\frac{6-p}{4}}\le V\left(x\right)s^{2-r}+s^{6-r}$ 。由(H₄)知，对$\epsilon \in \left(0,C_r\right)$ ，存在足够大的$R>0$ 满足$K\left(x\right){\left|s\right|}^r\le \epsilon \left(V\left(x\right){\left|s\right|}^2+{\left|s\right|}^6\right)$ 。于是，${\displaystyle {\int }_{B_R^c(0)}K\left(x\right)}{\left|u\right|}^r\text{d}x\le \epsilon {\displaystyle {\int }_{B_R^c}\left(V\left(x\right){\left|u\right|}^2+{\left|u\right|}^6\right)\text{d}x}$ 。由，类似于情形1，可得$\underset{n\to \infty }{\lim }{{\displaystyle {\int }_{{ℝ}^3}K\left(x\right)\left|u_n\right|}}^r\text{d}x={{\displaystyle {\int }_{{ℝ}^3}K\left(x\right)\left|u\right|}}^r\text{d}x$ 。证毕。

众所周知，问题(1.1)的弱解是下列泛函的一个临界点：

$I\left(u\right)=\frac{1}{2}{\Vert u\Vert }^2+\frac{1}{4}{\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u\right|}^2\text{d}x}\right)}^2-{\displaystyle {\int }_{{ℝ}^3}K\left(x\right)F\left(u\right)\text{d}x}.$ (2.1)

在上述假设下，很容易知道$I\in C^1\left(E,ℝ\right)$ 且

$\begin{array}{c}\langle I^{\prime }\left(u\right),v\rangle ={\displaystyle {\int }_{{ℝ}^3}\left(\Delta u\Delta v+\nabla u\nabla v+V\left(x\right)uv\right)\text{d}x}\\ +{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u\right|}}^2\text{d}x{\displaystyle {\int }_{{ℝ}^3}\nabla u\nabla v\text{d}x-{\displaystyle {\int }_{{ℝ}^3}K\left(x\right)f\left(u\right)v\text{d}x}}.\end{array}$ (2.2)

因此，如果$u\in E$ 是$I$ 的临界点，则$u$ 是问题(1.1)的解。

引理2.2 ([30], Lemma 2.2) 假设$f$ 满足(f₁)~(f₃)且$\left(V,K\right)\in \kappa$ 。令$\left\{v_n\right\}$ 是一个在$E$ 中满足$v_n\rightharpoonup v$ 的序列，则

${\displaystyle {\int }_{{ℝ}^3}KF\left(v_n\right)\text{d}x}\to {\displaystyle {\int }_{{ℝ}^3}KF\left(v\right)\text{d}x}$

且

${\displaystyle {\int }_{{ℝ}^3}Kf\left(v_n\right)v_n\text{d}x}\to {\displaystyle {\int }_{{ℝ}^3}Kf\left(v\right)v\text{d}x}.$

引理2.3 ([31], Lemma 2.4) 假设$f$ 满足(f₁)~(f₅)且$\left(V,K\right)\in \kappa$ ，则对任意$u\in E\backslash \left\{0\right\}$ ，有

$\underset{\left|t\right|\to \infty }{\lim }{\displaystyle {\int }_{{ℝ}^3}\text{}\frac{Kf\left(tu\right)u}{t^3}\text{d}x}=\infty .$

引理2.4 ([31], Lemma 2.5) 假设$f$ 满足(f₁)~(f₅)且$\left(V,K\right)\in \kappa$ ，则对任意$u\in E\backslash \left\{0\right\}$ ，有

$\underset{\left|t\right|\to \infty }{\lim }{\displaystyle {\int }_{{ℝ}^3}\text{}\frac{KF\left(tu\right)}{t^4}\text{d}x}=\infty .$

引理2.5 ([31], Lemma 2.6) 假设$f$ 满足(f₁)~(f₅)且$\left(V,K\right)\in \kappa$ ，则对任意$u\in E\backslash \left\{0\right\}$ ，有

$\underset{\left|t\right|\to 0}{\lim }{\displaystyle {\int }_{{ℝ}^3}\text{}\frac{Kf\left(tu\right)u}{t}\text{d}x}=0.$

现在，证明与问题(1.1)的变号解的存在性有关的一些技术引理。

为此，对于任意$u\in E$ 且$u^{\pm }\ne 0$ ，定义$H_u:{ℝ}_{+}^2\to ℝ$ 为$H_u\left(t,s\right)=I\left(t{u}^{+}+s{u}^{-}\right)$ 。

引理2.6 假设$\left(V,K\right)\in \kappa$ 且$f$ 满足(f₁)~(f₅)，则：

(i) 对$t,s>0$ ，$\left(t,s\right)$ 是$H_u$ 的一个临界点当且仅当$t{u}^{+}+s{u}^{-}\in {\rm M}$ ，其中

${\rm M}=\left\{u\in E:u^{\pm }\ne 0,\langle I^{\prime }\left(u\right),u^{+}\rangle =\langle I^{\prime }\left(u\right),u^{-}\rangle =0\right\};$ (2.3)

(ii) 映射$H_u$ 存在唯一的临界点$\left(t_{+},s_{-}\right)$ ，其中$t_{+}=t_{+}\left(u\right)>0$ 且$s_{-}=s_{-}\left(u\right)>0$ ，这是$H_u$ 的唯一极大点。

证明：因为

$\begin{array}{c}\nabla H_u\left(t,s\right)=\left(\langle I^{\prime }\left(t{u}^{+}+s{u}^{-}\right),u^{+}\rangle ,\langle I^{\prime }\left(t{u}^{+}+s{u}^{-}\right),u^{-}\rangle \right)\\ =\left(\frac{1}{t}\langle I^{\prime }\left(t{u}^{+}+s{u}^{-}\right),t{u}^{+}\rangle ,\frac{1}{s}\langle I^{\prime }\left(t{u}^{+}+s{u}^{-}\right),s{u}^{-}\rangle \right)\\ =\left(\frac{1}{t}{g}_u\left(t,s\right),\frac{1}{s}{h}_u\left(t,s\right)\right),\end{array}$

其中

$g_u\left(t,s\right)=t^2{\Vert u^{+}\Vert }^2+t^2{s}^2{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2}\text{d}x{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{-}\right|}^2}\text{d}x+t^4{\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x}\right)}^2-{\displaystyle {\int }_{{ℝ}^3}Kf\left(t{u}^{+}\right)t{u}^{+}\text{d}x}$ (2.4)

且

$h_u\left(t,s\right)=s^2{\Vert u^{-}\Vert }^2+t^2{s}^2{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2}\text{d}x{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{-}\right|}^2}\text{d}x+s^4{\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{-}\right|}^2\text{d}x}\right)}^2-{\displaystyle {\int }_{{ℝ}^3}Kf\left(s{u}^{-}\right)s{u}^{-}\text{d}x}.$ (2.5)

因此，(i)得到了证明。

现在对(ii)进行证明。首先，证明$H_u$ 临界点的存在性，即${\rm M}\ne \varnothing$ 。对于$u\in E$ ，当$u^{\pm }\ne 0$ 且$s_0\ge 0$ 取定时，对于(2.4)和引理2.5，我们有

$g_u\left(t,s_0\right)=t^2\left({\Vert u^{+}\Vert }^2+t^2{\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x}\right)}^2\right)+t^2\left(s_0^2{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{-}\right|}^2\text{d}x-{\displaystyle {\int }_{{ℝ}^3}\frac{Kf\left(t{u}^{+}\right)u^{+}}{t}\text{d}x}}}\right),$

则当$t$ 足够小时，有$g_u\left(t,s_0\right)>0$ 。同时，从(2.4)中，可得到

$g_u\left(t,s_0\right)=t^4\left(\frac{1}{t^2}{\Vert u^{+}\Vert }^2+{\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x}\right)}^2\right)+t^4\left(\frac{s_0^2}{t^2}{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{-}\right|}^2\text{d}x-{\displaystyle {\int }_{{ℝ}^3}\frac{Kf\left(t{u}^{+}\right)u^{+}}{t^3}\text{d}x}}}\right).$

因此，从引理2.3推出，对于足够小的$t$ ，有$g_u\left(t,s_0\right)<0$ 。由于$g_u\left(t,s_0\right)$ 是连续的，则存在$t_0>0$ ，使得$g_u\left(t_0,s_0\right)=0$ 。现在证明$t_0$ 是唯一的。若不然，存在$0<t_1<t_2$ ，使得$g_u\left(t_1,s_0\right)=g_u\left(t_2,s_0\right)=0$ 。因此，

$\frac{1}{t_1^2}{\Vert u^{+}\Vert }^2+{\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x}\right)}^2+\frac{s_0^2}{t_1^2}{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2}\text{d}x{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{-}\right|}^2}\text{d}x={\displaystyle {\int }_{{ℝ}^3}\frac{Kf\left(t_1{u}^{+}\right)}{{\left(t_1{u}^{+}\right)}^3}}{\left(u^{+}\right)}^4\text{d}x$

且

$\frac{1}{t_2^2}{\Vert u^{+}\Vert }^2+{\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x}\right)}^2+\frac{s_0^2}{t_2^2}{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2}\text{d}x{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{-}\right|}^2}\text{d}x={\displaystyle {\int }_{{ℝ}^3}\frac{Kf\left(t_2{u}^{+}\right)}{{\left(t_2{u}^{+}\right)}^3}}{\left(u^{+}\right)}^4\text{d}x.$

因此，

$\left(\frac{1}{t_1^2}-\frac{1}{t_2^2}\right)\left({\Vert u^{+}\Vert }^2+s_0^2{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{-}\right|}^2\text{d}x}}\right)={\displaystyle {\int }_{{ℝ}^3}\left(\frac{Kf\left(t_1{u}^{+}\right)}{{\left(t_1{u}^{+}\right)}^3}-\frac{Kf\left(t_2{u}^{+}\right)}{{\left(t_2{u}^{+}\right)}^3}\right)}{\left(u^{+}\right)}^4\text{d}x.$

根据(f₅)和$0<t_1<t_2$ ，矛盾。因此，存在唯一的$t_0>0$ 使得$g_u\left(t_0,s_0\right)=0$ 。设${\phi }_1\left(s\right)=t\left(s\right)$ ，其中$t\left(s\right)$ 满足前面提到的性质，用$s$ 代替$s_0$ 。因此，很好地定义了映射${\phi }_1:{ℝ}_{+}\to \left(0,\infty \right)$ 。根据$\frac{\partial H_u}{\partial t}$ 的定义，可得

$\frac{\partial H_u}{\partial t}\left({\phi }_1\left(s\right),s\right)=0,s\ge 0,$

即

${\phi }_1\left(s\right){\Vert u^{+}\Vert }^2+{\phi }_1^3\left(s\right){\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x}\right)}^2+{\phi }_1\left(s\right)s^2{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{+}\right|}}^2\text{d}x{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{-}\right|}}^2\text{d}x={\displaystyle {\int }_{{ℝ}^3}Kf\left({\phi }_1\left(s\right)u^{+}\right)}\left(u^{+}\right)\text{d}x,s\ge 0.$ (2.6)

下面，证明函数${\phi }_1$ 的一些性质：

(P₁) ${\phi }_1$ 是连续的。

事实上，当$n\to \infty$ 时，设$s_n\to s_0$ 。首先，先证明${\phi }_1\left(s_n\right)$ 是有界的。若不然，因$\left\{s_n\right\}$ 存在一个子序列，仍记为$\left\{s_n\right\}$ ，使得当$n\to \infty$ 时，有$\phi \left(s_n\right)\to \infty$ 。因此，对足够大的$n$ ，有${\phi }_1\left(s_n\right)\ge s_n$ 。由(2.4)，可得

$\frac{{\Vert u^{+}\Vert }^2}{{\phi }_1^2\left(s_n\right)}+{\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x}\right)}^2+\frac{s_n^2}{{\phi }_1^2\left(s_n\right)}{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2}\text{d}x{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{-}\right|}^2}\text{d}x={\displaystyle {\int }_{{ℝ}^3}K\frac{f\left({\phi }_1\left(s_n\right)u^{+}\right)}{{\left({\phi }_1\left(s_n\right)u^{+}\right)}^3}}{\left(u^{+}\right)}^4\text{d}x.$

由引理2.3知，矛盾。因此，${\phi }_1\left(s_n\right)$ 是有界的。于是，存在$t_0\ge 0$ ，当$n\to \infty$ 时，使得

${\phi }_1\left(s_n\right)\to t_0.$ (2.7)

在$s=s_n$ 的情况下，将(2.6)中的$n\to \infty$ 传递到极限，利用(2.7)得到

$t_0{\Vert u^{+}\Vert }^2+t_0^3{\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x}\right)}^2+t_0{s}_0^2{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{+}\right|}}^2\text{d}x{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{-}\right|}}^2\text{d}x={\displaystyle {\int }_{{ℝ}^3}Kf\left(t_0{u}^{+}\right)u^{+}\text{d}x},s\ge 0.$

这说明$\frac{\partial H_u}{\partial t}\left(t_0,s_0\right)=0$ 。因此，$t_0={\phi }_1\left(s_0\right)$ 意味着${\phi }_1$ 是连续的。

(P₂) ${\phi }_1\left(s\right)$ 有下界0。

若不然，存在一个序列$\left\{s_n\right\}$ 使得当$n\to \infty$ 时，有${\phi }_1\left(s_n\right)\to 0^{+}$ 。于是，根据(2.6)和引理2.5，可得

${\Vert u^{+}\Vert }^2\le \underset{n\to \infty }{\lim }{\displaystyle {\int }_{{ℝ}^3}K\frac{f\left({\phi }_1\left(s_n\right)u^{+}\right)u^{+}}{{\phi }_1\left(s_n\right)}\text{d}x}=0.$

这与$u^{+}\ne 0$ 矛盾。因此，存在$C_0>0$ 使得${\phi }_1\left(s\right)\ge C_0$ 。

(P₃) 对足够大的$s$ 满足${\phi }_1\left(s\right)\le s$ 。

事实上，如果存在具有$s_n\to \infty$ 的序列$\left\{s_n\right\}$ ，使得${\phi }_1\left(s_n\right)>s_n$ 对所有$n\in \mathbb{N}$ 成立，则它从(2.6)推出(2.7)成立，这与引理2.3相矛盾。因此，对于足够大的$s$ 满足${\phi }_1\left(s\right)\le s$ 。类似地，对$h_u\left(t,s\right)$ ，也可以定义映射${\phi }_2:{ℝ}_{+}\to \left(0,\infty \right)$ 为${\phi }_2\left(t\right)=s\left(t\right)$ 满足(P₁)~(P₃)。

考虑

$B=\left[\begin{array}{cc}\frac{\partial g_u}{\partial t}& \frac{\partial g_u}{\partial s}\\ \frac{\partial h_u}{\partial t}& \frac{\partial h_u}{\partial s}\end{array}\right].$

则

$\frac{\partial g_u}{\partial s}\left(t,s\right)=2t^{2}s{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x}{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{-}\right|}^2\text{d}x},$

$\frac{\partial h_u}{\partial t}\left(t,s\right)=2t{s}^2{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x}{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{-}\right|}^2\text{d}x},$

$\begin{array}{c}\frac{\partial g_u}{\partial t}\left(t,s\right)=2t{\Vert u^{+}\Vert }^2+4t^3{\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x}\right)}^2+2t{s}^2{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x}{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{-}\right|}^2\text{d}x}\\ -\left({\displaystyle {\int }_{{ℝ}^3}\left(K{f}^{\prime }\left(t{u}^{+}\right)t{\left(u^{+}\right)}^2+Kf\left(t{u}^{+}\right)u^{+}\right)\text{d}x}\right),\end{array}$

$\begin{array}{c}\frac{\partial h_u}{\partial s}\left(t,s\right)=2s{\Vert u^{-}\Vert }^2+4s^3{\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{-}\right|}^2\text{d}x}\right)}^2+2t^{2}s{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x}{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{-}\right|}^2\text{d}x}\\ -\left({\displaystyle {\int }_{{ℝ}^3}\left(K{f}^{\prime }\left(s{u}^{-}\right)s{\left(u^{-}\right)}^2+Kf\left(s{u}^{-}\right)u^{-}\right)\text{d}x}\right).\end{array}$

由(f₅)知，$f^{\prime }\left(t\right)t-3f\left(t\right)\ge 0$ 。因此，根据$g_u\left(t,s\right)=0$ 知，

$\frac{\partial g_u}{\partial t}\left(t,s\right)\le -2t{\Vert u^{+}\Vert }^2-2t{s}^2{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x}{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{-}\right|}^2\text{d}x}\le 0,$

$\frac{\partial h_u}{\partial s}\left(t,s\right)\le -2s{\Vert u^{-}\Vert }^2-2t^{2}s{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x}{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{-}\right|}^2\text{d}x}\le 0.$

于是$\det B>0$ .

根据(P₃)，存在$C_1>0$ 使得对$t,s>C_1$ ，满足${\phi }_1\left(s\right)\le s$ 且${\phi }_2\left(t\right)\le t$ 。令$C_2=\max \left\{\underset{s\in \left[0,C_1\right]}{\max }{\phi }_1\left(s\right),\underset{t\in \left[0,C_1\right]}{\max }{\phi }_2\left(t\right)\right\}$ 。

设$C=\max \left\{C_1,C_2\right\}$ ，定义$T:\left[0,C\right]\times \left[0,C\right]\to {ℝ}_{+}^2$ 为$T\left(t,s\right)=\left({\phi }_1\left(s\right),{\phi }_2\left(t\right)\right)$ 。下面，将证明对所有$\left(t,s\right)\in \left[0,C\right]\times \left[0,C\right]$ 满足$T\left(t,s\right)\in \left[0,C\right]\times \left[0,C\right]$ 。事实上，

$\{\begin{array}{l}{\phi }_2\left(t\right)\le t\le C,t>C_1,\\ {\phi }_2\left(t\right)\le \underset{t\in \left[0,C_1\right]}{\max }{\phi }_2\left(t\right)\le C_2,t\le C_1,\end{array}$

则${\phi }_2\left(t\right)\le C$ 。类似地，可得${\phi }_1\left(s\right)\le C$ 。因此，根据Brouwer不动点定理，存在$\left(t_{+},s_{-}\right)$ ，使得

$\left({\phi }_1\left(s_{-}\right),{\phi }_2\left(t_{+}\right)\right)=\left(t_{+},s_{-}\right).$

根据${\phi }_1,{\phi }_2>0$ ，这意味着$t_{+},s_{-}>0$ 。接着，根据定义，可得$\frac{\partial H_u}{\partial t}\left(t_{+},s_{-}\right)=\frac{\partial H_u}{\partial s}\left(t_{+},s_{-}\right)=0$ 。

现在证明$\left(t_{+},s_{-}\right)$ 的唯一性。事实上，假设$w\in {\rm M}$ ，则

$\nabla H_w\left(1,1\right)=\left(\frac{\partial H_w}{\partial t}\left(1,1\right),\frac{\partial H_w}{\partial s}\left(1,1\right)\right)=\left(\langle I^{\prime }\left(w^{+}+w^{-}\right),w^{+}\rangle ,\langle I^{\prime }\left(w^{+}+w^{-}\right),w^{-}\rangle \right)=\left(0,0\right).$

因此，$\left(1,1\right)$ 是$H_w$ 的一个临界点。现在证明$\left(1,1\right)$ 也是$H_w$ 的唯一正坐标临界点。假设$\left(t_0,s_0\right)$ 是$H_w$ 一个临界点，不失一般性，假设$0<t_0\le s_0$ ，则

$t_0^2{\Vert w^{+}\Vert }^2+t_0^4{\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla w^{+}\right|}^2\text{d}x}\right)}^2+t_0^2{s}_0^2{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla w^{+}\right|}}^2\text{d}x{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla w^{-}\right|}}^2\text{d}x={\displaystyle {\int }_{{ℝ}^3}Kf\left(t_0{w}^{+}\right)}\left(t_0{w}^{+}\right)\text{d}x$ (2.8)

且

$s_0^2{\Vert w^{-}\Vert }^2+s_0^4{\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla w^{-}\right|}^2\text{d}x}\right)}^2+t_0^2{s}_0^2{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla w^{+}\right|}}^2\text{d}x{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla w^{-}\right|}}^2\text{d}x={\displaystyle {\int }_{{ℝ}^3}Kf\left(s_0{w}^{-}\right)}\left(s_0{w}^{-}\right)\text{d}x.$ (2.9)

因为$0<t_0\le s_0$ ，由(2.9)，可得

$s_0^2{\Vert w^{-}\Vert }^2+s_0^4{\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla w^{-}\right|}^2\text{d}x}\right)}^2+s_0^4{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla w^{+}\right|}}^2\text{d}x{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla w^{-}\right|}}^2\text{d}x\ge {\displaystyle {\int }_{{ℝ}^3}Kf\left(s_0{w}^{-}\right)}\left(s_0{w}^{-}\right)\text{d}x,$

则

$\frac{{\Vert w^{-}\Vert }^2}{s_0^2}+{\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla w^{-}\right|}^2\text{d}x}\right)}^2+{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla w^{+}\right|}^2}\text{d}x{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla w^{-}\right|}^2}\text{d}x\ge {\displaystyle {\int }_{{ℝ}^3}K\frac{f\left(s_0{w}^{-}\right)}{{\left(s_0{w}^{-}\right)}^3}}{\left(w^{-}\right)}^4\text{d}x.$ (2.10)

另一方面，因为$w\in {\rm M}$ ，所以

${\Vert w^{-}\Vert }^2+{\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla w^{-}\right|}^2\text{d}x}\right)}^2+{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla w^{+}\right|}^2}\text{d}x{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla w^{-}\right|}^2}\text{d}x={\displaystyle {\int }_{{ℝ}^3}K\frac{f\left(w^{-}\right)}{{\left(w^{-}\right)}^3}}{\left(w^{-}\right)}^4\text{d}x.$ (2.11)

由(2.10)和(2.11)，可得

$\left(\frac{1}{s_0^2}-1\right){\Vert w^{-}\Vert }^2\ge {\displaystyle {\int }_{{ℝ}^3}K\left[\frac{f\left(s_0{w}^{-}\right)}{{\left(s_0{w}^{-}\right)}^3}-\frac{f\left(w^{-}\right)}{{\left(w^{-}\right)}^3}\right]}{\left(w^{-}\right)}^4\text{d}x.$ (2.12)

由(2.12)和(f₅)可得$0<t_0\le s_0\le 1$ 。现证明$t_0\ge 1$ 。事实上，由(2.8)和$0<t_0\le s_0$ ，可得

$\frac{{\Vert w^{+}\Vert }^2}{t_0^2}+{\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla w^{+}\right|}^2\text{d}x}\right)}^2+{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla w^{-}\right|}}^2\text{d}x{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla w^{+}\right|}}^2\text{d}x\le {\displaystyle {\int }_{{ℝ}^3}K\frac{f\left(t_0{w}^{+}\right)}{{\left(t_0{w}^{+}\right)}^3}}{\left(w^{+}\right)}^4\text{d}x.$ (2.13)

另外，

${\Vert w^{+}\Vert }^2+{\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla w^{+}\right|}^2\text{d}x}\right)}^2+{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla w^{-}\right|}}^2\text{d}x{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla w^{+}\right|}}^2\text{d}x={\displaystyle {\int }_{{ℝ}^3}K\frac{f\left(w^{+}\right)}{{\left(w^{+}\right)}^3}}{\left(w^{+}\right)}^4\text{d}x.$ (2.14)

由(2.13)和(2.14)，可得

$\left(\frac{1}{t_0^2}-1\right){\Vert w^{+}\Vert }^2\le {\displaystyle {\int }_{{ℝ}^3}K\left[\frac{f\left(t_0{w}^{+}\right)}{{\left(t_0{w}^{+}\right)}^3}-\frac{f\left(w^{+}\right)}{{\left(w^{+}\right)}^3}\right]}{\left(w^{+}\right)}^4\text{d}x.$ (2.15)

若$t_0<1$ ，(2.15)的左边是正的。然而，根据(f₅)，(2.15)的右边是负的。因此，可以证明$t_0\ge 1$ 。于是，$t_0=s_0=1$ 。从而，$\left(1,1\right)$ 是$H_u$ 具有正坐标的唯一临界点。

现在证明$u\in E$ ，$u^{\pm }\ne 0$ 且$\left(t_1,s_1\right)$ ，$\left(t_2,s_2\right)$ 是具有正坐标的$H_u$ 的临界点。由(i)，可得

$w_1=t_1{u}^{+}+s_1{u}^{-}\in {\rm M},w_2=t_2{u}^{+}+s_2{u}^{-}\in {\rm M}.$

因此，

$w_2=\left(\frac{t_2}{t_1}\right)t_1{u}^{+}+\left(\frac{s_2}{s_1}\right)s_1{u}^{-}=\left(\frac{t_2}{t_1}\right)w_1^{+}+\left(\frac{s_2}{s_1}\right)w_1^{-}\in {\rm M}.$

因为$w_1\in E$ 且$w_1^{\pm }\ne 0$ ，则可得$\left(\frac{t_2}{t_1},\frac{s_2}{s_1}\right)$ 是具有正坐标的$H_{w_1}$ 的一个临界点。因为$w_1\in {\rm M}$ ，所以$\frac{t_2}{t_1}=\frac{s_2}{s_1}=1$ ，这意味着$t_1=t_2$ 和$s_1=s_2$ 。

最后，证明唯一临界点是$H_u$ 的唯一极大值。根据$H_u\left(t,s\right)$ 的定义和引理2.4，可得当$\left|\left(t,s\right)\right|\to \infty$ 时，$\left|H_u\left(t,s\right)\right|\to -\infty$ ，即$H_u\left(t,s\right)$ 有一个极大值点。下面，将证明其在${ℝ}_{+}^2$ 的边界上不能达到极大值。不失一般性，只需证明$\left(l,0\right)$ 不是$H_u$ 的一个极大值点。事实上，因为

$\begin{array}{c}{H}_u\left(l,s\right)=I\left(l{u}^{+}+s{u}^{-}\right)\\ =\frac{l^2}{2}{\Vert u^{+}\Vert }^2+\frac{l^4}{4}{\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x}\right)}^2-{\displaystyle {\int }_{{ℝ}^3}KF\left(l{u}^{+}\right)\text{d}x}\\ +\frac{l^2{s}^2}{2}{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2}\text{d}x{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{-}\right|}^2}\text{d}x+\frac{s^2}{2}{\Vert u^{-}\Vert }^2\\ +\frac{s^4}{4}{\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{-}\right|}^2\text{d}x}\right)}^2-{\displaystyle {\int }_{{ℝ}^3}KF\left(s{u}^{-}\right)\text{d}x}.\end{array}$

根据引理2.5，由于$s$ 足够小，因此，它是关于$s$ 的增函数，即$\left(l,0\right)$ 不是$H_u$ 在${ℝ}_{+}^2$ 的极大值点。于是，$H_u$ 在某一点$\left(t_0,s_0\right)$ 有极大值，这是$H_u$ 的临界点。证毕。

引理2.7 假设$\left(V,K\right)\in \kappa$ 且$f$ 满足(f₁)~(f₅)。若$u\in E$ 且$u^{\pm }\ne 0$ ，使得$g_u\left(1,1\right)\le 0$ 且$h_u\left(1,1\right)\le 0$ ，其中$g_u\left(t,s\right)$ 和$h_u\left(t,s\right)$ 在(2.4)和(2.5)给出，则引理2.6中得到的$\left(t_{+},s_{-}\right)$ 满足$0<t_{+},s_{-}\le 1$ 。

证明：不失一般性，假设$t_{+}\ge s_{-}>0$ 。因为$t_{+}{u}^{+}+s_{-}{u}^{-}\in {\rm M}$ ，所以

$\begin{array}{c}{t}_{+}^2{\Vert u^{+}\Vert }^2+t_{+}^4{\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x}\right)}^2\\ +t_{+}^4{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x}{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{-}\right|}^2\text{d}x}\\ \ge t_{+}^2{\Vert u^{+}\Vert }^2+t_{+}^4\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x}\right)\\ +t_{+}^2{s}_{-}^2{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x}{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{-}\right|}^2\text{d}x}\\ ={\displaystyle {\int }_{{ℝ}^3}Kf\left(t_{+}{u}^{+}\right)}\left(t_{+}{u}^{+}\right)\text{d}x.\end{array}$ (2.16)

另一方面，因为$g_u\left(1,1\right)\le 0$ ，所以

${\Vert u^{+}\Vert }^2+{\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x}\right)}^2+{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x}{\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{-}\right|}^2\text{d}x}\le {\displaystyle {\int }_{{ℝ}^3}Kf\left(u^{+}\right)u^{+}\text{d}x}.$ (2.17)

于是，由(2.16)和(2.17)，可得

$\left(\frac{1}{t_{+}^2}-1\right){\Vert u^{+}\Vert }^2\ge {\displaystyle {\int }_{{ℝ}^3}K\left(\frac{f\left(t_{+}{u}^{+}\right)}{{\left(t_{+}{u}^{+}\right)}^3}-\frac{f\left(u^{+}\right)}{{\left(u^{+}\right)}^3}\right)}{\left(u^{+}\right)}^4\text{d}x.$ (2.18)

若$t_{+}>1$ ，则(2.18)式左边为负的，然而根据条件(f₅)，(2.18)右边为正的，矛盾。因此，$t_{+}\le 1$ 。证毕。

根据引理2.6，定义

$m=\inf \left\{I\left(u\right):u\in {\rm M}\right\}.$ (2.19)

引理2.8 假设$\left(V,K\right)\in \kappa$ 且$f$ 满足(f₁)~(f₅)，则$m>0$ 是可取得的。

证明：首先，假设(H₃)是成立的。则根据(f₁)和(f₃)，对任意$\epsilon >0$ ，存在$C_{\epsilon }>0$ 使得

$\left|f\left(t\right)\right|\le \epsilon \left|t\right|+C_{\epsilon }{\left|t\right|}^5,t\in ℝ.$

因此，

$\left|{\displaystyle {\int }_{{ℝ}^3}Kf\left(u\right)u\text{d}x}\right|\le \epsilon {\displaystyle {\int }_{{ℝ}^3}K{u}^2}\text{d}x+C_{\epsilon }{\displaystyle {\int }_{{ℝ}^3}K{u}^6}\text{d}x\le \epsilon {\Vert K/V\Vert }_{\infty }{\Vert u\Vert }^2+C_{\epsilon }{\Vert K\Vert }_{\infty }{S}_6^{-3}{\Vert u\Vert }^6.$ (2.20)

则根据(2.20)和$u\in {\rm M}$ ，有

$\begin{array}{c}{\Vert u\Vert }^2\le {\displaystyle {\int }_{{ℝ}^3}\left({\left|\Delta u\right|}^2+{\left|\nabla u\right|}^2+V\left(x\right)u^2\right)\text{d}x}+{\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u\right|}^2\text{d}x}\right)}^2\\ ={{\displaystyle {\int }_{{ℝ}^3}Kf\left(u\right)u\text{d}x\le \epsilon \Vert K/V\Vert }}_{\infty }{\Vert u\Vert }^2+C_{\epsilon }{\Vert K\Vert }_{\infty }{S}_6^{-3}{\Vert u\Vert }^6.\end{array}$

取定$\epsilon <\frac{1}{{\Vert K/V\Vert }_{\infty }}$ ，由(2.19)，存在$a_1>0$ 满足${\Vert u\Vert }^2\ge a$ 。

下面，假设(H₄)成立。由[30]知，存在$C_p>0$ ，对任意$\epsilon \in \left(0,C_p\right)$ ，存在足够大的$R>0$ ，满足

${\displaystyle {\int }_{\left|x\right|\ge R}K}{\left|u\right|}^p\text{d}x\le \epsilon {\displaystyle {\int }_{\left|x\right|\ge R}\left(V\left(x\right)u^2+u^6\right)\text{d}x},u\in E.$ (2.22)

由(f₂)和(f₃)，存在$C_1,C_2>0$ 使得

$\left|f\left(t\right)\right|\le C_1{\left|t\right|}^{p-1}+C_2{\left|t\right|}^5,t\in ℝ.$

于是，根据(2.22)和Hölder不等式，可得

$\begin{array}{c}\left|{\displaystyle {\int }_{{ℝ}^3}Kf\left(u\right)u\text{d}x}\right|\le C_1{\displaystyle {\int }_{{ℝ}^3}K{\left|u\right|}^p\text{d}x+C_2}{\displaystyle {\int }_{{ℝ}^3}K{u}^6}\text{d}x\\ \le C_1\epsilon {\displaystyle {\int }_{\left|x\right|\ge R}\left(V\left(x\right)u^2+u^6\right)\text{d}x}+C_2{\Vert K\Vert }_{\infty }{\displaystyle {\int }_{{ℝ}^3}{\left|u\right|}^6}\text{d}x\\ +C_1{\left({\displaystyle {\int }_{\left|x\right|<R}{\left|K\right|}^{6/6-p}\text{d}x}\right)}^{\frac{6-p}{6}}{\left({\displaystyle {\int }_{\left|x\right|<R}{\left|u\right|}^6\text{d}x}\right)}^{\frac{p}{6}}\\ \le C_1\epsilon {\Vert u\Vert }^2+C_1{S}_6^{-3}\left(\epsilon +C_2{\Vert K\Vert }_{\infty }\right){\Vert u\Vert }^6\\ +{\Vert K\Vert }_{\frac{6}{6-p}(B_R(0))}{S}_6^{\frac{-p}{2}}{\Vert u\Vert }^p.\end{array}$ (2.23)

因此，取$\epsilon <1/C_1$ ，根据(2.23)可知，存在$a_2>0$ 使得${\Vert u\Vert }^2\ge a_2$ 。于是，存在$a=\max \left\{a_1,a_2\right\}>0$ 使得${\Vert u\Vert }^2\ge a$ 。根据条件(f₅)知，可得

$f^{\prime }\left(t\right)t^2-3f\left(t\right)t\ge 0,t\in ℝ.$ (2.24)

因此，

$G\left(t\right):=f\left(t\right)t-4F\left(t\right)\ge 0,t\in ℝ.$ (2.25)

并且，当$t>0$ 时，$G$ 递增；当$t<0$ 时，$G$ 递减。于是，

$I\left(u\right)=I\left(u\right)-\frac{1}{4}\langle I^{\prime }\left(u\right),u\rangle =\frac{1}{4}{\Vert u\Vert }^2+\frac{1}{4}{\displaystyle {\int }_{{ℝ}^3}K\left(f\left(u\right)u-4F\left(u\right)\right)\text{d}x}\ge \frac{1}{4}a.$

这也说明了$m\ge \frac{1}{4}a>0$ 。

令$\left\{u_n\right\}\subset {\rm M}$ 使得$I\left(u_n\right)\to m$ ，则$\Vert u_n\Vert \le C$ 。因此，存在$u\in E$ 使得$u_n\rightharpoonup u$ 且$u_n^{\pm }\rightharpoonup u^{\pm }$ 。另一方面，根据$\left\{u_n\right\}\subset {\rm M}$ ，则有$\langle I^{\prime }\left(u_n\right),u_n^{\pm }\rangle =0$ 。于是

${\Vert u_n^{\pm }\Vert }^2+{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u_n\right|}}^2\text{d}x{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u_n^{\pm }\right|}}^2\text{d}x={\displaystyle {\int }_{{ℝ}^3}Kf\left(u_n^{\pm }\right)u_n^{\pm }\text{d}x}.$

由引理2.2知，当$n\to \infty$ 时，

$0<a\le {\Vert u_n^{\pm }\Vert }^2+{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u_n\right|}}^2\text{d}x{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u_n^{\pm }\right|}}^2\text{d}x={\displaystyle {\int }_{{ℝ}^3}Kf\left(u_n^{\pm }\right)u_n^{\pm }\text{d}x}={\displaystyle {\int }_{{ℝ}^3}Kf\left(u^{\pm }\right)u^{\pm }\text{d}x}+o\left(1\right).$

于是，$u^{\pm }\ne 0$ 。另一方面，根据范数弱收敛和Fatou引理，可得

${\Vert u^{\pm }\Vert }^2+{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u\right|}}^2\text{d}x{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{\pm }\right|}}^2\text{d}x\le \underset{n\to \infty }{\lim \inf }\left({\Vert u_n^{\pm }\Vert }^2+{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u_n\right|}}^2\text{d}x{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u_n^{\pm }\right|}}^2\text{d}x\right).$

由引理2.2，可得

${\Vert u^{\pm }\Vert }^2+{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u\right|}}^2\text{d}x{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{\pm }\right|}}^2\text{d}x\le {\displaystyle {\int }_{{ℝ}^3}Kf\left(u^{\pm }\right)u^{\pm }\text{d}x}.$ (2.26)

因此，由(2.26)和引理2.6和2.7知，存在$\left(\overline{t},\overline{s}\right)\in \left(0,1\right]\times \left(0,1\right]$ 使得

$\overline{u}=\overline{t}{u}^{+}+\overline{s}{u}^{-}\in {\rm M}.$

由(2.25)知，

$\begin{array}{c}m\le I\left(\overline{u}\right)-\frac{1}{4}\langle I^{\prime }\left(\overline{u}\right),\overline{u}\rangle \\ =\frac{1}{4}{\Vert \stackrel{\_}{u}\Vert }^2+\frac{1}{4}{\displaystyle {\int }_{{ℝ}^3}K\left(f\left(\overline{u}\right)\overline{u}-4F\left(\overline{u}\right)\right)\text{d}x}\\ =\frac{1}{4}\left({\Vert \overline{t}{u}^{+}\Vert }^2+{\Vert \overline{s}{u}^{-}\Vert }^2\right)+\frac{1}{4}{\displaystyle {\int }_{{ℝ}^3}K\left(f\left(\overline{t}{u}^{+}\right)\overline{t}{u}^{+}-4F\left(\overline{t}{u}^{+}\right)\right)\text{d}x}\\ +\frac{1}{4}{\displaystyle {\int }_{{ℝ}^3}K\left(f\left(\overline{s}{u}^{-}\right)\overline{s}{u}^{-}-4F\left(\overline{s}{u}^{-}\right)\right)\text{d}x}\\ \le \frac{1}{4}{\Vert u\Vert }^2+\frac{1}{4}{\displaystyle {\int }_{{ℝ}^3}K\left(f\left(u\right)u-4F\left(u\right)\right)\text{d}x}\\ \le \underset{n\to \infty }{\lim \inf }\left(I\left(u_n\right)-\frac{1}{4}\langle I^{\prime }\left(u_n\right),u_n\rangle \right)=m.\end{array}$

这意味着$\overline{t}=\overline{s}=1$ 。则$\overline{u}=u$ 且$I\left(u\right)=m$ 。证毕。

3. 结论证明

在这一节中，将利用[36]中的定量引理证明(2.19)的极小元$u$ 确实是问题(1.1)的变号解。

定理1.1的证明：因为$u\in {\rm M}$ ，所以$\langle I^{\prime }\left(u\right),u^{+}\rangle =0=\langle I^{\prime }\left(u\right),u^{-}\rangle$ 。对$\left(t,s\right)\in {ℝ}_{+}^2$ 和$\left(t,s\right)\ne \left(1,1\right)$ 。由引理2.6，则

$I\left(t{u}^{+}+s{u}^{-}\right)<I\left(u^{+}+u^{-}\right)=m.$ (3.1)

令$\alpha ={\Vert u^{+}\Vert }_6$ ，$\beta ={\Vert u^{-}\Vert }_6$ 和$\gamma =\min \left\{\alpha ,\beta \right\}$ 。假设$I^{\prime }\left(u\right)\ne 0$ ，则存在$\rho ,r>0$ 使得

$\Vert I^{\prime }\left(v\right)\Vert \ge \lambda ,\Vert v-u\Vert \le \rho .$ (3.2)

取$\delta \in \left(0,\min \left\{\text{}1/2,\delta /\left(\sqrt{2}\Vert u\Vert \right)\right\}\right)$ 。令$D=\left(1-\sigma ,1+\sigma \right)\times \left(1-\sigma ,1+\sigma \right)$ 且$\psi \left(t,s\right)=t{u}^{+}+s{u}^{-}$ ，$\left(t,s\right)\in D$ ，则根据(3.1)，有

$\overline{m}=\underset{\partial D}{\max }I\circ \psi <m.$ (3.3)

令$0<\epsilon <\min \left\{\left(m-\overline{m}\right)/2,\lambda \delta /8\right\}$ 且$S=\left\{v\in E,\Vert v-u\Vert \le \delta \right\}$ 。因此，由(3.2)知，有

$\Vert I^{\prime }\left(v\right)\Vert \ge 8\epsilon /\delta ,\forall v\in I^{-}\left(\left[m-2\epsilon ,m+2\epsilon \right]\right)\cap S_{2\delta }.$ (3.4)

利用(3.4)和[36]中的引理2.3，存在$\eta \in C\left(\left[0,1\right]\times E,E\right)$ 使得

(i) 若$u\notin I^{-}\left(\left[m-2\epsilon ,m+2\epsilon \right]\right)\cap S_{2\delta }$ ，则$\eta \left(1,u\right)=u$ ；

(ii) $\eta \left(1,I^{m+\epsilon }\cap S\right)\subset I^{m-\epsilon }$ ；

(iii) 对所有$u\in E$ ，有$\Vert \eta \left(1,u\right)-u\Vert \le \delta$ ；

下面，首先证明

$\underset{(t,s)\in \stackrel{\_}{D}}{\max }I\left(\eta \left(1,\psi \left(t,s\right)\right)\right)<m.$ (3.5)

事实上，根据引理2.6，有$I\left(\psi \left(t,s\right)\right)\le m<m+\epsilon$ ，即$\psi \left(t,s\right)\in I^{m+\epsilon }$ 。更进一步地，

${\Vert \psi \left(t,s\right)-u\Vert }^2\le 2\left({\left(t-1\right)}^2{\Vert u^{+}\Vert }^2+{\left(s-1\right)}^2{\Vert u^{-}\Vert }^2\right)\le 2{\sigma }^2{\Vert u\Vert }^2<{\delta }^2.$

这说明了对$\left(s,t\right)\in \overline{D}$ ，有$\psi \left(t,s\right)\in S$ 。于是，由(ii)知，$I\left(\eta \left(1,\psi \left(t,s\right)\right)\right)<m-\epsilon$ 。从而，(3.5)得证。

下面，证明

$\eta \left(1,\psi \left(D\right)\right)\cap {\rm M}\ne \varnothing .$ (3.6)

事实上，定义

$\gamma \left(t,s\right)=\eta \left(1,\psi \left(t,s\right)\right),$

${\text{Ψ}}_0\left(t,s\right)=\left(\langle I^{\prime }\left(\psi \left(t,s\right)\right),t{u}^{+}\rangle ,\langle I^{\prime }\left(\psi \left(t,s\right)\right),s{u}^{-}\rangle \right)=\left(\langle I^{\prime }\left(t{u}^{+}+s{u}^{-}\right),t{u}^{+}\rangle ,\langle I^{\prime }\left(t{u}^{+}+s{u}^{-}\right),s{u}^{-}\rangle \right),$

和

${\text{Ψ}}_1\left(t,s\right)=\left(\langle I^{\prime }\left(\gamma \left(t,s\right)\right),{\left(\gamma \left(t,s\right)\right)}^{+}\rangle ,\langle I^{\prime }\left(\gamma \left(t,s\right)\right),{\left(\gamma \left(t,s\right)\right)}^{-}\rangle \right).$

由(2.4)和(2.5)，可知

$\frac{\partial g_u}{\partial t}\left(1,1\right)={\Vert u^{+}\Vert }^2+3{\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{+}\right|}^2\text{d}x}\right)}^2+{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{+}\right|}}^2\text{d}x{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{-}\right|}}^2\text{d}x-{\displaystyle {\int }_{{ℝ}^3}K{f}^{\prime }}\left(u^{+}\right){\left(u^{+}\right)}^2\text{d}x,$

$\frac{\partial g_u}{\partial s}\left(1,1\right)=2{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{+}\right|}}^2\text{d}x{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{-}\right|}}^2\text{d}x,$

$\frac{\partial h_u}{\partial t}\left(1,1\right)=2{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{+}\right|}}^2\text{d}x{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{-}\right|}}^2\text{d}x,$

和

$\frac{\partial h_u}{\partial s}\left(1,1\right)={\Vert u^{-}\Vert }^2+3{\left({\displaystyle {\int }_{{ℝ}^3}{\left|\nabla u^{-}\right|}^2\text{d}x}\right)}^2+{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{+}\right|}}^2\text{d}x{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{-}\right|}}^2\text{d}x-{\displaystyle {\int }_{{ℝ}^3}K{f}^{\prime }}\left(u^{-}\right){\left(u^{-}\right)}^2\text{d}x.$

设矩阵

$A=\left[\begin{array}{cc}\frac{\partial g_u}{\partial t}\left(1,1\right)& \frac{\partial g_u}{\partial s}\left(1,1\right)\\ \frac{\partial h_u}{\partial t}\left(1,1\right)& \frac{\partial h_u}{\partial s}\left(1,1\right)\end{array}\right].$

由(2.24)，可得

$\begin{array}{c}\frac{\partial g_u}{\partial t}\left(1,1\right)={\Vert u^{+}\Vert }^2+3{\left({{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{+}\right|}}^2\text{d}x\right)}^2\\ +{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{+}\right|}}^2\text{d}x{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{-}\right|}}^2\text{d}x-{\displaystyle {\int }_{{ℝ}^3}K{f}^{\prime }\left(u^{+}\right)}{\left(u^{+}\right)}^2\text{d}x\\ \le {\Vert u^{+}\Vert }^2+3{\left({{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{+}\right|}}^2\text{d}x\right)}^2\\ +{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{+}\right|}}^2\text{d}x{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{-}\right|}}^2\text{d}x-3{\displaystyle {\int }_{{ℝ}^3}Kf\left(u^{+}\right)u^{+}\text{d}x}\\ =-2{\Vert u^{+}\Vert }^2-2{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{+}\right|}}^2\text{d}x{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{-}\right|}}^2\text{d}x\le 0.\end{array}$

类似地，也有

$\frac{\partial h_u}{\partial s}\left(1,1\right)\le -2{\Vert u^{-}\Vert }^2-2{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{+}\right|}}^2\text{d}x{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{-}\right|}}^2\text{d}x.$

于是，可得

$\begin{array}{l}\det A\ge 4\left({\Vert u^{+}\Vert }^2+{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{+}\right|}}^2\text{d}x{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{-}\right|}}^2\text{d}x\right)\times \left({\Vert u^{-}\Vert }^2+{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{+}\right|}}^2\text{d}x{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{-}\right|}}^2\text{d}x\right)\\ -4{\left({{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{+}\right|}}^2\text{d}x{{\displaystyle {\int }_{{ℝ}^3}\left|\nabla u^{-}\right|}}^2\text{d}x\right)}^2>0.\end{array}$

另一方面，${\text{Ψ}}_0$ 是$C^1$ 的且$\left(1,1\right)$ 是${\text{Ψ}}_0$ 的唯一孤立零点，则可得

$\mathrm{deg}\left({\text{Ψ}}_0,D,0\right)=\text{ind}\left({\text{Ψ}}_0,\left(1,1\right)\right)=\mathrm{sgn}{I}_{{\text{Ψ}}_0}\left(1,1\right)=1.$

由(3.3)，(i)和$\overline{m}<m-2\epsilon$ ，则在$\partial D$ 中有$\psi =\gamma$ 。因此，$\text{deg}\left({\text{Ψ}}_0,D,0\right)=\text{deg}\left({\text{Ψ}}_1,D,0\right)=1$ ，则存在$\left(t_0,s_0\right)\in D$ 使得${\text{Ψ}}_1\left(t_0,s_0\right)=0$ 。因为${\Vert u^{\pm }\Vert }_6\ge \alpha$ 且$\left(t_0,s_0\right)\in D$ ，所以${\Vert {\left(\psi \left(t_0,s_0\right)\right)}^{+}\Vert }_6=t_0{\Vert u^{+}\Vert }_6\ge \frac{\alpha }{2}$ 且${\Vert {\left(\psi \left(t_0,s_0\right)\right)}^{-}\Vert }_6=t_0{\Vert u^{-}\Vert }_6\ge \frac{\alpha }{2}$ 。由(iii)知，${\Vert \gamma \left(t_0,s_0\right)-\psi \left(t_0,s_0\right)\Vert }_6\le S_6\Vert \gamma \left(t_0,s_0\right)-\psi \left(t_0,s_0\right)\Vert \le S_6\delta$ ，这意味着${\Vert \gamma {\left(t_0,s_0\right)}^{\pm }-\psi {\left(t_0,s_0\right)}^{\pm }\Vert }_6\le \Vert \gamma \left(t_0,s_0\right)-\psi \left(t_0,s_0\right)\Vert \le S_6\delta$ 。于是，可得

${\Vert {\left(\gamma \left(t_0,s_0\right)\right)}^{\pm }\Vert }_6\ge {\Vert {\left(\psi \left(t_0,s_0\right)\right)}^{\pm }\Vert }_6-S_6\delta \ge \frac{\alpha }{2}-S_6\delta >0.$

也就是说，${\left(\gamma \left(t_0,s_0\right)\right)}^{\pm }\ne 0$ 。因此，$\eta \left(1,\psi \left(t_0,s_0\right)\right)=\gamma \left(t_0,s_0\right)\in {\rm M}$ ，这与(3.5)矛盾。于是，$u$ 是$I$ 的一个临界点，即问题(1.1)存在一个变号解。证毕。