一类拟线性薛定谔方程Robin边值问题变号解的存在性

Existence of Nodal Solutions for a Class of Quasilinear Schrödinger Equations with Robin Boundary Condition

摘要: 本文研究一类拟线性薛定谔方程Robin边值问题。通过Nehari流形方法和形变引理等，得到方程存在只变号一次的光滑变号解。

Abstract: We consider a quasilinear Schrödinger equation with Robin boundary condition. By using the Nehari manifold method and deformation lemma, we establish the existence of smooth nodal solutions that change sign exactly once.

1. 引言

拟线性薛定谔方程是一类重要的非线性偏微分方程，在等离子体物理、流体力学等领域被广泛用作刻画复杂物理现象的基本模型[1]-[3]。其解通常对应于系统的不同量子态：基态解反映系统的最低能量状态，而变号解则描述激发态。另一方面，Robin边界条件作为一类广义边界条件，在热传导和粒子物理等实际问题中具有明确的物理背景。因此，研究带有Robin边界条件的拟线性薛定谔方程变号解的存在性及其性质，不仅具有重要的理论价值，也为理解相关物理过程提供了有力支撑。

本文考虑如下拟线性薛定谔方程Robin边值问题变号解的存在性：

$\{\begin{array}{l}-\Delta u-\Delta \left(u^2\right)u=f\left(x,u\right),x\in \Omega ,\\ \frac{\partial u}{\partial n}+\beta \left(x\right)u=0,x\in \partial \Omega ,\end{array}$ (1.1)

其中$\Omega$ 是${ℝ}^N\left(N\ge 3\right)$ 中具有光滑边界的有界区域，$\frac{\partial u}{\partial n}=\nabla u\cdot n\left(x\right)$ ，$n\left(x\right)$ 是$\partial \Omega$ 上的单位外法向量，$\beta \left(x\right)\in C^{0,\tau }\left(\partial \Omega \right)$ ，$\tau \in \left(0,1\right)$ ，对任意的$x\in \partial \Omega$ ，$\beta \left(x\right)\ge 0$ ，且$\beta \left(x\right)\cancel{\equiv }0$ 。

在过去几十年里，拟线性薛定谔方程解的存在性及相关性质得到了广泛研究[4]-[13]。如Liu等[10]研究了全空间${ℝ}^N$ 上的一类拟线性薛定谔方程，运用Nehari流形方法证明了基态解和变号解的存在性。Deng等[11]研究了如下拟线性薛定谔方程的Robin边值问题：

$\{\begin{array}{l}-\Delta u-\Delta \left(u^2\right)u+a\left(x\right)u=\lambda f\left(x,u\right),x\in \Omega ,\\ \frac{\partial u}{\partial n}+\beta \left(x\right)u=0,x\in \partial \Omega ,\end{array}$ (1.2)

其中$\lambda >0$ ，对任意的$x\in \partial \Omega$ ，$\beta \left(x\right)\ge 0$ 。利用变分法和截断技巧证明了存在参数${\lambda }^{*}>0$ ，当$\lambda >{\lambda }^{*}$ 时，问题(1.2)至少存在两个光滑正解。

受以上研究启发，本文拟利用Nehari流形和变分方法探讨问题(1.1)变号解的存在性。

首先，假设非线性项$f\left(x,t\right)$ 满足条件$H\left(f\right)$ ：

$f\left(x,t\right):\Omega \times ℝ\to ℝ$ 为Carathéodory函数，$f\left(x,0\right)=0$ ，$a.e.x\in \Omega$ ，且

($f_1$ ) 存在$c_0>0$ 和$4<r<2\cdot 2^{\ast }$ ，使得

$\left|f\left(x,t\right)\right|\le c_0\left(1+{\left|t\right|}^{r-1}\right)$ , $a.e.x\in \Omega$ , $\forall t\in ℝ$ ;

($f_2$ ) $\underset{\left|t\right|\to +\infty }{lim}\frac{F\left(x,t\right)}{t^4}=+\infty$ ，对$a.e.x\in \Omega$ 一致成立，其中$F\left(x,t\right)={\displaystyle {\int }_0^{t}f\left(x,s\right)\text{d}s}$ ；

($f_3$ ) $\underset{t\to 0}{lim}\frac{f\left(x,t\right)}{t}=0$ ，对$a.e.x\in \Omega$ 一致成立；

($f_4$ ) 对$a.e.x\in \Omega$ ，函数$t\mapsto \frac{f\left(x,t\right)}{{\left|t\right|}^3}$ 在$\left(-\infty ,0\right)\cup \left(0,+\infty \right)$ 上严格单调递增。

注记1.1 对任意的$t\in ℝ$ ，令

$f\left(t\right)={\left|t\right|}^{q-2}t$ ,

当$4<q<2\cdot 2^{*}$ 时，$f\left(t\right)$ 满足条件$H\left(f\right)$ 。

本文的主要结果如下：

定理1.1 假设条件$H\left(f\right)$ 成立，则问题(1.1)至少存在一个变号解$u_0\in C^1\left(\overline{\Omega }\right)$ ；进一步，若$f\left(x,t\right)$ 还满足

$f\left(x,t\right)t-8F\left(x,t\right)>0$ , $a.e.x\in \Omega$ , $t\ne 0$ , (1.3)

那么，$u_0$ 只变号一次。

2. 预备知识

问题(1.1)对应的能量泛函为

$I\left(u\right)=\frac{1}{2}\left({\displaystyle {\int }_{\Omega }{\left|\nabla u\right|}^2\left(1+2u^2\right)\text{d}x}+{\displaystyle {\int }_{\partial \Omega }\beta \left(x\right)u^2\left(1+u^2\right)\text{d}\sigma }\right)-{\displaystyle {\int }_{\Omega }F\left(x,u\right)\text{d}x}$ .

然而，由于${\displaystyle {\int }_{\Omega }{\left|\nabla u\right|}^2{u}^2\text{d}x}$ 和${\displaystyle {\int }_{\partial \Omega }\beta \left(x\right)u^4\text{d}\sigma }$ 的存在，使得当$N\ge 3$ 时，泛函$I$ 在$H^1\left(\Omega \right)$ 中不是良定义的。

为了克服这一困难，一方面，借鉴文[1]中的思想，作变量替换$u=g\left(v\right)$ ，其中$g$ 是常微分方程

$\{\begin{array}{l}{g}^{\prime }\left(t\right)=\frac{1}{\sqrt{1+2g^2\left(t\right)}}\text{, }t\in \left[0,+\infty \right),\\ g\left(t\right)=-g\left(-t\right),t\in \left(-\infty ,0\right]\end{array}$ (2.1)

的唯一解。

下面给出变换函数g的一些重要性质。

引理2.1 [4]函数g及其导数$g^{\prime }\left(t\right)$ 满足下列性质：

(1) 函数g是唯一确定的、可逆的，并且$g\in C^2$ ；

(2) 对任意的$t\in ℝ$ ，有$\left|g^{\prime }\left(t\right)\right|\le 1$ ；

(3) 对任意的$t\in ℝ$ ，有$\left|g\left(t\right)\right|\le \left|t\right|$ ；

(4) 当$t\to 0$ 时，有$\frac{g\left(t\right)}{t}\to 1$ ；

(5) 对任意的$t\in ℝ$ ，有$\left|g\left(t\right)\right|\le 2^{\frac{1}{4}}{\left|t\right|}_{}^{\frac{1}{2}}$ ；

(6) 对任意的$t>0$ ，有$\frac{1}{2}g\left(t\right)\le t{g}^{\prime }\left(t\right)\le g\left(t\right)$ ；

(7) 当$t\to +\infty$ 时，有$\frac{g\left(t\right)}{\sqrt{t}}\to 2^{\frac{1}{4}}$ ；

(8) 对任意的$t\in ℝ$ ，有$\left|g\left(t\right)g^{\prime }\left(t\right)\right|\le \frac{1}{\sqrt{2}}$ ；

(9) 存在常数$C_1>0$ ，使得

$\left|g\left(t\right)\right|\ge \{\begin{array}{l}{C}_1\left|t\right|,\left|t\right|\le 1,\\ C_1{\left|t\right|}^{\frac{1}{2}},\left|t\right|\ge 1.\end{array}$

通过变量替换$u=g\left(v\right)$ ，泛函$I\left(u\right)$ 可以改写为

$J\left(v\right)=\frac{1}{2}{\displaystyle {\int }_{\Omega }{\left|\nabla v\right|}^2\text{d}x}+\frac{1}{2}{\displaystyle {\int }_{\partial \Omega }\beta \left(x\right)g^2\left(v\right)\left(1+g^2\left(v\right)\right)\text{d}\sigma }-{\displaystyle {\int }_{\Omega }F\left(x,g\left(v\right)\right)\text{d}x}.$ (2.2)

另一方面，引入在处理Robin边界条件时起到关键作用的引理。

引理2.2 [14]设$\Omega$ 是有界区域，且$\partial \Omega \in C^1$ ，则存在有界线性算子

${\gamma }_0:H^1\left(\Omega \right)\to L^2\left(\partial \Omega \right)$ ,

使得

(i) ${\gamma }_{0}u={u|}_{\partial \Omega }$ ，$u\in H^1\left(\Omega \right)\cap C\left(\overline{\Omega }\right)$ ；

(ii) ${\Vert {\gamma }_{0}u\Vert }_{L^2\left(\partial \Omega \right)}\le C{\Vert u\Vert }_{H^1\left(\Omega \right)}$ ，其中$C$ 是和$\Omega$ 有关的常数。

由引理2.1和引理2.2知，泛函$J\left(v\right)$ 在$H^1\left(\Omega \right)$ 中良定义，且在假设条件$H\left(f\right)$ 下，$J\in C^1\left(H^1\left(\Omega \right),ℝ\right)$ 。因此，对任意的$v,\phi \in H^1\left(\Omega \right)$ ，有

$J^{\prime }\left(v\right)\phi ={\displaystyle {\int }_{\Omega }\nabla v\nabla \phi \text{d}x}+{\displaystyle {\int }_{\partial \Omega }\beta \left(x\right)g\left(v\right)g^{\prime }\left(v\right)\left(1+2g^2\left(v\right)\right)\phi \text{d}\sigma }-{\displaystyle {\int }_{\Omega }f\left(x,g\left(v\right)\right)g^{\prime }\left(v\right)\phi \text{d}x}.$

即泛函$J$ 的临界点是下列半线性方程的弱解

$\{\begin{array}{l}-\Delta v=f\left(x,g\left(v\right)\right)g^{\prime }\left(v\right),x\in \Omega ,\\ \frac{\partial v}{\partial n}+\beta \left(x\right)g\left(v\right)g^{\prime }\left(v\right)\left(1+2g^2\left(v\right)\right)=0,x\in \partial \Omega .\end{array}$ (2.3)

为了得到方程(1.1)的解，不妨先寻找方程(2.3)的解，也就是说，寻找泛函$J$ 的临界点。

接下来，给出函数g的一些其他相关性质。

引理2.3 [9]函数g满足下面的性质：

(1) 当$t>0$ 时，函数$g\left(t\right)g^{\prime }\left(t\right)t^{-1}$ 严格单调递减；

(2) 当$t>0$ ，$p\ge 3$ 时，函数$g^p\left(t\right)g^{\prime }\left(t\right)t^{-1}$ 严格单调递增。

此外，根据引理2.1和引理2.2，有下面的等价性结果。

引理2.4 设$\beta \left(x\right)\ge 0$ ，且$\beta \left(x\right)\cancel{\equiv }0$ ，则存常数$c_1,c_2>0$ 和，使得对任意的$v\in H^1\left(\Omega \right)$ ，有

$c_1{\Vert v\Vert }^2\le {\displaystyle {\int }_{\Omega }{\left|\nabla v\right|}^2\text{d}x}+{\displaystyle {\int }_{\partial \Omega }\beta \left(x\right)g^2\left(v\right)\left(1+g^2\left(v\right)\right)\text{d}\sigma }\le c_2{\Vert v\Vert }^2.$ (2.4)

证明 由引理2.1中(9)知，存在常数$C^{\prime }>0$ ，使得

$\begin{array}{l}{\displaystyle {\int }_{\partial \Omega }\beta \left(x\right)g^2\left(v\right)\left(1+g^2\left(v\right)\right)\text{d}\sigma }\\ \ge C^{\prime }{\displaystyle {\int }_{\left\{x\in \partial \Omega :\left|v\left(x\right)\right|\le 1\right\}}\beta \left(x\right)\left(v^2+v^4\right)\text{d}\sigma }+C^{\prime }{\displaystyle {\int }_{\left\{x\in \partial \Omega :\left|v\left(x\right)\right|>1\right\}}\beta \left(x\right)\left(\left|v\right|+v^2\right)\text{d}\sigma }\\ \ge C^{\prime }{\displaystyle {\int }_{\partial \Omega }\beta \left(x\right)v^2\text{d}\sigma }.\end{array}$ (2.5)

下面证明：存在$c_1>0$ ，使得

$c_1{\Vert v\Vert }^2\le {\Vert \nabla v\Vert }_2^2+C^{\prime }{\displaystyle {\int }_{\partial \Omega }\beta \left(x\right)v^2\text{d}\sigma }$ .(2.6)

反证法。假设存在序列${\left\{v_n\right\}}_{n\ge 1}\subseteq H^1\left(\Omega \right)$ ，使得对任意的$n\ge 1$ ，有

${\Vert \nabla v_n\Vert }_2^2+C_1{\displaystyle {\int }_{\partial \Omega }\beta \left(x\right)v_n^2\text{d}\sigma }<\frac{1}{n}{\Vert v_n\Vert }^2.$

设$y_n=\frac{v_n}{\Vert v_n\Vert }$ ($n\ge 1$ )，那么

${\Vert \nabla y_n\Vert }_2^2+C^{\prime }{\displaystyle {\int }_{\partial \Omega }\beta \left(x\right)y_n^2\text{d}\sigma }<\frac{1}{n}.$ (2.7)

因为$\Vert y_n\Vert =1$ ，故存在$y\in H^1\left(\Omega \right)$ ，使得

$y_n\rightharpoonup y于H^1\left(\Omega \right)\text{;}$

$y_n\to y于L^2\left(\Omega \right)\text{;}$

$y_n\to y于L^2\left(\partial \Omega \right).$

在(2.7)中令$n\to +\infty$ ，有

${\Vert \nabla y\Vert }_2^2+C^{\prime }{\displaystyle {\int }_{\partial \Omega }\beta \left(x\right)y^2\text{d}\sigma }\le 0$ .

因为$\beta \left(x\right)\ge 0$ ，故$y=c\in ℝ$ ，从而

$c{C}^{\prime }{\displaystyle {\int }_{\partial \Omega }\beta \left(x\right)y^2\text{d}\sigma }\le 0.$

又因为$\beta \left(x\right)\cancel{\equiv }0$ ，可得$c=0$ ，从而$y_n\to 0$ 于$H^1\left(\Omega \right)$ ，与$\Vert y_n\Vert =1$ 矛盾。因此，由(2.5)和(2.6)知，存在$c_1>0$ ，使得(2.4)中第一个不等式成立。

通过引理2.1中(3) (5)以及引理2.2，可得

$\begin{array}{l}{\displaystyle {\int }_{\Omega }{\left|\nabla v\right|}^2\text{d}x}+{\displaystyle {\int }_{\partial \Omega }\beta \left(x\right)g^2\left(v\right)\left(1+g^2\left(v\right)\right)\text{d}\sigma }\\ \le {\displaystyle {\int }_{\Omega }{\left|\nabla v\right|}^2\text{d}x}+3{\displaystyle {\int }_{\partial \Omega }\beta \left(x\right)v^2\text{d}\sigma }\\ \le {\displaystyle {\int }_{\Omega }{\left|\nabla v\right|}^2\text{d}x}+3S^{\prime }{\Vert \beta \left(x\right)\Vert }_{L^{\infty }\left(\partial \Omega \right)}{\Vert v\Vert }^2\\ \le \max \left\{1,3S^{\prime }{\Vert \beta \left(x\right)\Vert }_{L^{\infty }\left(\partial \Omega \right)}\right\}{\Vert v\Vert }^2,\end{array}$

其中$S^{\prime }>0$ 是迹嵌入常数。于是，取$c_2=\max \left\{1,3S^{\prime }{\Vert \beta \left(x\right)\Vert }_{L^{\infty }\left(\partial \Omega \right)}\right\}$ ，则引理得证。

3. 主要结果的证明

首先，定义Nehari流形

$\mathcal{N}=\left\{v\in H^1\left(\Omega \right):\langle J^{\prime }\left(v\right),v\rangle =0,v\ne 0\right\}$ .

注意到，方程(2.3)的任意非平凡解都包含于$\mathcal{N}$ 。为了寻找方程(2.3)的变号解，还需引入Nehari子流形

${\mathcal{N}}_0=\left\{v\in H^1\left(\Omega \right):v^{+}\in \mathcal{N},-v^{-}\in \mathcal{N}\right\}$ .

引理3.1 假设条件$H\left(f\right)$ 成立。若$v\in H^1\left(\Omega \right)$ ，$v\cancel{\equiv }0$ ，则存在唯一$t_v>0$ ，使得$t_{v}v\in \mathcal{N}$ 。此外，$J\left(t_{v}v\right)=\underset{t\ge 0}{\max }J\left(tv\right)$ 。

证明 由条件($f_1$ )和($f_2$ )，对任意的$\epsilon >0$ ，存在$c_3=c_3\left(\epsilon \right)>0$ ，使得

$F\left(x,t\right)\le \frac{\epsilon }{2}{\left|t\right|}^2+c_3{\left|t\right|}^r,a.e.x\in \Omega$ .

结合引理2.1中(3) (5)，对$v\in H^1\left(\Omega \right)$ ，有

$\begin{array}{c}F\left(x,g\left(v\right)\right)\le \frac{\epsilon }{2}{\left|g\left(v\right)\right|}^2+c_3{\left|g\left(v\right)\right|}^r\\ \le \frac{\epsilon }{2}{\left|v\right|}^2+c_3{\left|v\right|}^{\frac{r}{2}},\end{array}$ (3.1)

故$F\left(x,g\left(v\right)\right)\in L^1\left(\Omega \right)$ 。

定义$\gamma \left(t\right)=J\left(tv\right)$ ，$t>0$ 。一方面，根据引理2.1中(4)、(2.4)、($f_3$ )和Lebesgue控制收敛定理，当$t\to 0^{+}$ 时，有

$\begin{array}{c}\frac{\gamma \left(t\right)}{t^2}=\frac{1}{2}{\displaystyle {\int }_{\Omega }{\left|\nabla \left(tv\right)\right|}^2\text{d}x}+\frac{1}{2}{\displaystyle {\int }_{\partial \Omega }\beta \left(x\right)g^2\left(tv\right)\left(1+g^2\left(tv\right)\right)\text{d}\sigma }-{\displaystyle {\int }_{\Omega }F\left(x,g\left(tv\right)\right)\text{d}x}\\ \ge \frac{c_1}{2}{\Vert v\Vert }^2-{\displaystyle {\int }_{\Omega }\frac{F\left(x,g\left(tv\right)\right)}{g^2\left(tv\right)}\frac{g^2\left(tv\right)}{{\left(tv\right)}^2}{v}^2\text{d}x}\\ \to \frac{c_1}{2}{\Vert v\Vert }^2.\end{array}$

因此，当$t>0$ 充分小时，有$\gamma \left(t\right)>0$ 。

另一方面，由引理2.1中(7)、(2.4)、($f_2$ )和Lebesgue控制收敛定理，当$t\to +\infty$ 时，有

$\begin{array}{c}\gamma \left(t\right)=\frac{1}{2}{\displaystyle {\int }_{\Omega }{\left|\nabla \left(tv\right)\right|}^2\text{d}x}+\frac{1}{2}{\displaystyle {\int }_{\partial \Omega }\beta \left(x\right)g^2\left(tv\right)\left(1+g^2\left(tv\right)\right)\text{d}\sigma }-{\displaystyle {\int }_{\Omega }F\left(x,g\left(tv\right)\right)\text{d}x}\\ \le \frac{c_2}{2}{t}^2{\Vert v\Vert }^2-t^2{\displaystyle {\int }_{\Omega }\frac{F\left(x,g\left(tv\right)\right)}{g^4\left(tv\right)}\frac{g^4\left(tv\right)}{{\left(tv\right)}^2}{v}^2\text{d}x}\\ \to -\infty .\end{array}$

从而，$\gamma$ 存在正最大值。

此外，${\gamma }^{\prime }\left(t\right)=0$ 意味着

${\displaystyle {\int }_{\Omega }{\left|\nabla v\right|}^2\text{d}x}={\displaystyle {\int }_{\Omega }\frac{f\left(x,g\left(tv\right)\right)g^{\prime }\left(tv\right)}{tv}{v}^2\text{d}x}-{\displaystyle {\int }_{\partial \Omega }\beta \left(x\right)\frac{g\left(tv\right)g^{\prime }\left(tv\right)}{tv}\left(1+2g^2\left(tv\right)\right)v^2\text{d}\sigma }$ .

由g的定义知，g是奇函数并且在$ℝ$ 上严格单调递增。利用条件($f_4$ )和引理2.1可得，当$s\ne 0$ 时，函数

$\frac{f\left(x,g\left(s\right)\right)g^{\prime }\left(s\right)}{s}=\frac{f\left(x,g\left(s\right)\right)}{{\left|g\left(s\right)\right|}^3}\frac{{\left|g\left(s\right)\right|}^3{g}^{\prime }\left(s\right)}{s}$

关于$s$ 严格单调递增；函数

$\frac{g\left(s\right)g^{\prime }\left(s\right)}{s}\left(1+2g^2\left(s\right)\right)$

关于$s$ 严格单调递减。因此，存在唯一的$t_v>0$ ，使得${\gamma }^{\prime }\left(t_v\right)=0$ 。又因为${\gamma }^{\prime }\left(t\right)=t^{-1}\langle J^{\prime }\left(tv\right),tv\rangle$ ，所以引理得证。

定义

$m=\underset{v\in \mathcal{N}}{\inf }J\left(v\right)$ , $m_0=\underset{v\in {\mathcal{N}}_0}{\inf }J\left(v\right)$ .

引理3.2 假设条件$H\left(f\right)$ 成立，则$m>0$ ，且$m_0\ge 2m>0$ 。

证明 利用(2.4)、(3.1)和Sobolev嵌入定理，对任意$v\in H^1\left(\Omega \right)$ ，有

$\begin{array}{c}J\left(v\right)=\frac{1}{2}{\displaystyle {\int }_{\Omega }{\left|\nabla v\right|}^2\text{d}x}+\frac{1}{2}{\displaystyle {\int }_{\partial \Omega }\beta \left(x\right)g^2\left(v\right)\left(1+g^2\left(v\right)\right)\text{d}\sigma }-{\displaystyle {\int }_{\Omega }F\left(x,g\left(v\right)\right)\text{d}x}\\ \ge \frac{c_1}{2}{\Vert v\Vert }^2-\frac{\epsilon }{2}{\Vert v\Vert }_2^2-c_3{\Vert v\Vert }_{\frac{r}{2}}^{\frac{r}{2}}\\ \ge \frac{c_1-\epsilon }{2}{\Vert v\Vert }^2-c_4{\Vert v\Vert }^{\frac{r}{2}}\text{.}\end{array}$

因为$r>4$ ，在上式中取$\epsilon =\frac{c_1}{2}$ 和$\Vert v\Vert =\rho$ 充分小，可得

$J\left(v\right)\ge {\rho }_0>0$ ,

其中${\rho }_0=\frac{c_1}{4}{\rho }^2-c_4{\rho }^{\frac{r}{2}}$ 。

设$v\in \mathcal{N}$ ，取$t_1>0$ ，使得$\Vert t_{1}v\Vert =\rho$ 。由引理3.1可得，对任意的$v\in \mathcal{N}$ ，有

$J\left(v\right)\ge J\left(t_{1}v\right)\ge {\rho }_0>0$ .

因此，$m>0$ 。

因为对每一个$v\in {\mathcal{N}}_0$ ，都有$v^{+},-v^{-}\in \mathcal{N}$ ，所以

$J\left(v\right)=J\left(v^{+}\right)+J\left(-v^{-}\right)\ge 2m>0$ , $\forall v\in {\mathcal{N}}_0$ ,

即$m_0\ge 2m>0$ 。

引理3.3 假设条件$H\left(f\right)$ 成立，则$m_0$ 可达，即存在$v_0\in {\mathcal{N}}_0$ ，使得$J\left(v_0\right)=m_0$ 。

证明 假设序列${\left\{v_n\right\}}_{n\ge 1}\subseteq {\mathcal{N}}_0$ 满足

$J\left(v_n\right)\to m_0,n\to \infty$ .

首先，证明${\left\{v_n\right\}}_{n\ge 1}$ 在$H^1\left(\Omega \right)$ 中有界。反证法，假设当$n\to +\infty$ 时，有

$\Vert v_n\Vert \to +\infty$ .

令$w_n=\frac{v_n}{\Vert v_n\Vert }$ ($n\ge 1$ )，则$\Vert w_n\Vert =1$ 。因此，${\left\{w_n\right\}}_{n\ge 1}$ 存在子列，仍记为${\left\{w_n\right\}}_{n\ge 1}$ ，使得

(3.2)

若$w=0$ 。利用(3.1)和(3.2)，对任意的$\tau >0$ ，有

$\underset{n\to \infty }{\lim \sup }{\displaystyle {\int }_{\Omega }F\left(x,g\left(\tau w_n\right)\right)\text{d}x}\le \underset{n\to \infty }{\lim }\left[\frac{\epsilon }{2}{\tau }^2{\Vert w_n\Vert }_2^2-c_3{\tau }^{\frac{r}{2}}{\Vert w_n\Vert }_{\frac{r}{2}}^{\frac{r}{2}}\right]=0$ .(3.3)

令$t_n=\frac{\tau }{\Vert v_n\Vert }$ 。因为$v_n\in {\mathcal{N}}_0\subseteq \mathcal{N}$ ，结合(2.4)、(3.3)和引理3.1，可得

$\begin{array}{c}{m}_0+o\left(1\right)=J\left(v_n\right)\\ \ge J\left(t_n{v}_n\right)\\ =\frac{1}{2}{\displaystyle {\int }_{\Omega }{\left|\nabla t_n{v}_n\right|}^2\text{d}x}+\frac{1}{2}{\displaystyle {\int }_{\partial \Omega }\beta \left(x\right)g^2\left(t_n{v}_n\right)\left(1+g^2\left(t_n{v}_n\right)\right)\text{d}\sigma }\\ -{\displaystyle {\int }_{\Omega }F\left(x,g\left(t_n{v}_n\right)\right)\text{d}x}\\ \ge \frac{c_1}{2}{t}_n^2{\Vert v_n\Vert }^2-{\displaystyle {\int }_{\Omega }F\left(x,g\left(\tau w_n\right)\right)\text{d}x}\\ \ge \frac{c_1}{2}{\tau }^2+o\left(1\right).\end{array}$

因为$\tau >0$ 是任意的，得出矛盾。若$w\ne 0$ 。记${\Omega }_{+}=\left\{x\in \Omega :w\left(x\right)\ne 0\right\}$ ，则${\left|{\Omega }_{+}\right|}_N>0$ ，且

$\left|v_n\left(x\right)\right|\to +\infty$ ($n\to +\infty$ ), $a.e.x\in {\Omega }_{+}$ .

因此，根据条件($f_2$ )、Fatou引理和引理2.1中(7)，有

$\underset{n\to +\infty }{\lim \inf }{\displaystyle {\int }_{\Omega }\frac{F\left(x,g\left(v_n\right)\right)}{v_n^2}\text{d}x}\ge {\displaystyle {\int }_{{\Omega }_{+}}\underset{n\to +\infty }{\lim \inf }\frac{F\left(x,g\left(v_n\right)\right)}{g^4\left(v_n\right)}\frac{g^4\left(v_n\right)}{v_n^2}\text{d}x}=+\infty$ .

结合(2.4)，可得，

$\begin{array}{c}0=\underset{n\to +\infty }{\lim }\frac{m_0+o\left(1\right)}{{\Vert v_n\Vert }^2}\\ =\underset{n\to +\infty }{\lim }\frac{J\left(v_n\right)}{{\Vert v_n\Vert }^2}\\ \le \frac{c_2}{2}{\Vert w_n\Vert }^2-\underset{n\to +\infty }{\lim \inf }{\displaystyle {\int }_{\Omega }\frac{F\left(x,g\left(v_n\right)\right)}{v_n^2}{w}_n^2\text{d}x}\\ =-\infty ,\end{array}$

得出矛盾。因此，${\left\{v_n\right\}}_{n\ge 1}$ 在$H^1\left(\Omega \right)$ 中有界，从而存在子列，仍记为${\left\{v_n\right\}}_{n\ge 1}$ ，使得

(3.4)

断言：。反证法。假设$v_0^{+}\equiv 0$ ，因为，故

$\begin{array}{c}0=\langle J^{\prime }\left(v_n^{+}\right),v_n^{+}\rangle \\ ={\Vert \nabla v_n^{+}\Vert }_2^2+{\displaystyle {\int }_{\partial \Omega }\beta \left(x\right)g\left(v_n^{+}\right)g^{\prime }\left(v_n^{+}\right)\left(1+2g^2\left(v_n^{+}\right)\right)v_n^{+}\text{d}\sigma }\\ -{\displaystyle {\int }_{\Omega }f}\left(x,g\left(v_n^{+}\right)\right)g^{\prime }\left(v_n^{+}\right)v_n^{+}\text{d}x.\end{array}$

对上式取极限，利用(3.4)，有$\underset{n\to +\infty }{\lim }{\Vert \nabla v_n^{+}\Vert }_2^2=0$ ，即得$v_n^{+}\to 0$ 于$H^1\left(\Omega \right)$ 。那么，$J\left(v_n^{+}\right)\to 0$ ，$n\to \infty$ ，这与$m_0>0$ 矛盾。因此，$v_0^{+}\cancel{\equiv }0$ 。同理可得，$v_0^{-}\cancel{\equiv }0$ 。

根据引理3.1知，存在$s_0,t_0>0$ ，使得

$v_0=s_0{v}_0^{+}-t_0{v}_0^{-}\in {\mathcal{N}}_0$ .

再次利用引理3.1以及泛函$J$ 的弱下半连续性，有

$\begin{array}{c}{m}_0=\underset{n\to +\infty }{\lim }J\left(v_n\right)\\ =\underset{n\to +\infty }{\lim }\left[J\left(v_n^{+}\right)+J\left(-v_n^{-}\right)\right]\\ \ge \underset{n\to +\infty }{\lim \inf }\left[J\left(s_0{v}_n^{+}\right)+J\left(-t_0{v}_n^{-}\right)\right]\\ \ge J\left(s_0{v}_0^{+}\right)+J\left(-t_0{v}_0^{-}\right)\\ =J\left(v_0\right)\\ \ge m_0.\end{array}$

于是，$J\left(v_0\right)=m_0$ ，即$m_0$ 可达。

引理3.4 假设条件$H\left(f\right)$ 成立。若$v_0\in {\mathcal{N}}_0$ 满足$J\left(v_0\right)=m_0$ ，则$v_0\in H^1\left(\Omega \right)$ 是泛函$J$ 的临界点，且$v_0\in C^1\left(\overline{\Omega }\right)$ 。

证明 反证法。假设$J^{\prime }\left(v_0\right)\ne 0$ ，则存在$\theta >0$ 和$\delta >0$ ，当$\Vert v-v_0\Vert \le 3\delta$ 时，有

$\Vert J^{\prime }\left(v_0\right)\Vert \ge \theta$ .

因为$v_0\in {\mathcal{N}}_0$ ，故

$\langle J^{\prime }\left(v_0^{+}\right),v_0^{+}\rangle =0$ ,

$\langle J^{\prime }\left(-v_0^{-}\right),-v_0^{-}\rangle =0$ .

根据引理3.1，对任意$s,t>0$ ，且$s,t\ne 1$ ，成立

$\begin{array}{c}J\left(s{v}_0^{+}-t{v}_0^{-}\right)=J\left(s{v}_0^{+}\right)+J\left(-t{v}_0^{-}\right)\\ <J\left(v_0^{+}\right)+J\left(-v_0^{-}\right)\\ =J\left(v_0\right)\\ =m_0.\end{array}$ (3.5)

令$D=\left(\frac{1}{2},\frac{3}{2}\right)\times \left(\frac{1}{2},\frac{3}{2}\right)$ 。由(3.5)知，

$J(s{v}_0^{+}-t{v}_0^{-})=m_0$ 当且仅当$s=t=1$ .

因此，

$l=\underset{\left(s,t\right)\in \partial D}{\max }J\left(s{v}_0^{+}-t{v}_0^{-}\right)<m_0.$

取$\epsilon =\min \left\{\frac{m_0-l}{2},\frac{\theta \delta }{8}\right\}$ ，定义集合

$S=B_{\delta }\left(v_0\right)=\left\{v_0\in H^1\left(\Omega \right):\Vert v-v_0\Vert \le \delta \right\}$ .

根据形变引理[15]，存在连续的形变$\eta :\left[0,1\right]\to H^1\left(\Omega \right)$ ，且具有如下性质：

(i) $\eta \left(\text{1,}v\right)=v$ ，$v\notin J^{-1}\left(\left[m_0-2\epsilon ,m_0+2\epsilon \right]\right)\cap S_{2\delta }$ ；

(ii) $\eta \left(1,J^{m_0+\epsilon }\cap S\right)\subset J^{m_0-\epsilon }$ ；

(iii) $J\left(\eta \left(1,v\right)\right)\le J\left(v\right)$ 。

不难看出，

$\underset{\left(s,t\right)\in \overline{D}}{\max }J\left(\eta \left(1,s{v}_0^{+}-t{v}_0^{-}\right)\right)<m_0.$ (3.6)

定义$h\left(s,t\right)=\eta \left(1,s{v}_0^{+}-t{v}_0^{-}\right)$ 以及

$H_1\left(s,t\right)=\left(\langle J^{\prime }\left(s{v}_0^{+}\right),v_0^{+}\rangle ,\langle J^{\prime }\left(-t{v}_0^{-}\right),-v_0^{-}\rangle \right)$ ,

$H_2\left(s,t\right)=\left(\frac{1}{s}\langle J^{\prime }\left(h^{+}\left(s,t\right)\right),h^{+}\left(s,t\right)\rangle ,\frac{1}{t}\langle J^{\prime }\left(-h^{-}\left(s,t\right)\right),-h^{-}\left(s,t\right)\rangle \right)$ .

因为

$\langle J^{\prime }\left(s{v}_0^{+}\right),v_0^{+}\rangle >0$ , $\langle J^{\prime }\left(-s{v}_0^{-}\right),-v_0^{-}\rangle >0$ , $0<s<1$ ;

$\langle J^{\prime }\left(s{v}_0^{+}\right),v_0^{+}\rangle <0$ , $\langle J^{\prime }\left(-s{v}_0^{-}\right),-v_0^{-}\rangle <0$ , $s>1$ ,

所以$\mathrm{deg}\left(H_1,D,0\right)=1$ 。根据性质(i)和(3.6)可得，对任意的$\left(s,t\right)\in \partial D$ ，有

$h\left(s,t\right)=s{v}_0^{+}-t{v}_0^{-}$ .

因此，$\mathrm{deg}\left(H_1,D,0\right)=\mathrm{deg}\left(H_2,D,0\right)=1$ 。那么，存在$\left(s_0,t_0\right)\in D$ ，使得

$H_2\left(s_0,t_0\right)=0$ ,

这意味着

$\eta \left(1,s_0{v}_0^{+}-t_0{v}_0^{-}\right)=h\left(s_0,t_0\right)\in {\mathcal{N}}_0$ ,

与(3.6)矛盾。即证明了$v_0$ 是泛函$J$ 的临界点。

最后，由文[16]知，$v_0\in C^1\left(\overline{\Omega }\right)$ 。

定理1.1的证明 引理3.4表明$v_0$ 是方程(2.3)的变号解，且$v_0\in C^1\left(\overline{\Omega }\right)$ 。

下面证明$v_0$ 只变号一次。假设$v_0=v_1+v_2+v_3$ ，${\Omega }_1=\left\{x\in \Omega :v_1\left(x\right)>0\right\}$ 和${\Omega }_2=\left\{x\in \Omega :v_2\left(x\right)<0\right\}$ 都是$\Omega$ 的连通开子集，${\Omega }_1\cap {\Omega }_2=\varnothing$ ，且

${v_1|}_{\Omega \backslash {\Omega }_1}={v_2|}_{\Omega \backslash {\Omega }_2}={v_3|}_{{\Omega }_1\cup {\Omega }_2}=0$ .

令$z=v_1+v_2$ ，则$z^{+}=v_1$ ，$z^{-}=-v_2$ ，且$z^{\pm }\cancel{\equiv }0$ 。因为$J^{\prime }\left(v_0\right)=0$ ，故

$\langle J^{\prime }\left(z\right),z^{+}\rangle =\langle J^{\prime }\left(z\right),z^{-}\rangle =0$ ,

即$z^{+},-z^{-}\in \mathcal{N}$ ，$z\in {\mathcal{N}}_0$ 。利用引理2.1中(6)，有

$\begin{array}{c}{m}_0=J\left(v_0\right)\\ =J\left(v_0\right)-\frac{1}{4}\langle J^{\prime }\left(v_0\right),v_0\rangle \\ =J\left(z\right)+J\left(v_3\right)-\frac{1}{4}\left[\langle J^{\prime }\left(z\right),z\rangle +\langle J^{\prime }\left(v_3\right),v_3\rangle \right]\\ \ge m_0+J\left(v_3\right)-\frac{1}{4}\langle J^{\prime }\left(v_3\right),v_3\rangle \\ \ge m_0+{\displaystyle {\int }_{\Omega }\left[\frac{1}{8}f\left(x,g\left(v_3\right)\right)g\left(v_3\right)-F\left(x,g\left(v_3\right)\right)\right]\text{d}x}.\end{array}$

由(1.3)得，$v_3=0$ ，因此$v_0$ 只变号一次。

最后，令$u_0=g\left(v_0\right)$ ，则$u_0$ 是问题(1.1)的解。因函数$g$ 在$ℝ$ 上严格单调递增且光滑，故$u_0$ 是问题(1.1)的变号解，且$u_0\in C^1\left(\overline{\Omega }\right)$ 。同理，$u_0$ 只变号一次，即证明了定理1.1。

基金项目

上海出版印刷高等专科学校高层次人才科研启动基金项目(2024RCKY10)。