一类渐进线性三调和椭圆方程非平凡解的存在性

The Existence of Nontrivial Solution to a Class Triharmonic Elliptic Equations with Asymptotically Linear

摘要: 这篇文章考虑下列一类渐进线性三调和椭圆方程：$\{\begin{array}{ll}-{\Delta }^{3}u+c_1{\Delta }^{2}u+c_2\Delta u=f\left(x,u\right),\hfill & 在\Omega 中,\hfill \\ u=\Delta u={\Delta }^{2}u=0,\hfill & 在\partial \Omega 上,\hfill \end{array}$ ，其中${\left(-\Delta \right)}^3(\cdot )=-\Delta \left({\Delta }^2(\cdot )\right)$ 表示三调和算子，$\Omega \subset R^n\left(n\ge 1\right)$ 是一个有界的光滑区域，$c_1,c_2$ 是常数，$f\left(x,t\right)$ 对$t$ 在无穷远处是渐进线性的。通过使用山路定理，得出上述方程非平凡解的存在性。

Abstract: This article considers a class sixth-order elliptic equations with asymptotically linear: $\{\begin{array}{ll}-{\Delta }^{3}u+c_1{\Delta }^{2}u+c_2\Delta u=f\left(x,u\right),\hfill & \text{in}\Omega ,\hfill \\ u=\Delta u={\Delta }^{2}u=0,\hfill & \text{on}\partial \Omega ,\hfill \end{array}$ , where${\left(-\Delta \right)}^3(\cdot )=-\Delta \left({\Delta }^2(\cdot )\right)$ denotes the triharmonic operator, $\Omega \subset R^n\left(n\ge 1\right)$ is a smooth bounded domain,$c_1,c_2$ are constants.$f\left(x,t\right)$ asymptotically linear with respect to $t$ . By using the mountain pass theorem, we give the existence result for nontrivial solutions for the above equation.

1. 引言

在这篇文章中，我们考虑下面一类三调和椭圆方程边值问题解的存在性：

$\{\begin{array}{ll}-{\Delta }^{3}u+c_1{\Delta }^{2}u+c_2\Delta u=f\left(x,u\right),\hfill & 在\Omega 中,\hfill \\ u=\Delta u={\Delta }^{2}u=0,\hfill & 在\partial \Omega 上,\hfill \end{array}$ (1)

其中${\left(-\Delta \right)}^3(\cdot )=-\Delta \left({\Delta }^2(\cdot )\right)$ 表示三调和算子，$\Omega \subset R^n\left(n\ge 1\right)$ 是一个有界的光滑区域，$c_1,c_2$ 是常数。

三调和问题广泛出现在科学与工程领域的诸多应用中。特别地，在流体力学中，三调和方程用于描述[1]中中小型腔体内二维缓慢旋转的高粘性流体流动。此外，三调和方程还可应用于薄膜模型[2] [3]，相场晶体模型[4] [5]，几何设计模型[6] [7]。

近年来，双调和问题引起了许多学者的兴趣，许多不同的方法被研究者研究。例如文献[8]-[15]。特别地，在文献[16]中，Liu和Wang考虑了如下的双调和方程：

$\{\begin{array}{ll}{\Delta }^{2}u=f\left(x,u\right),\hfill & 在\Omega 中,\hfill \\ u=\Delta u=0,\hfill & 在\partial \Omega 上,\hfill \end{array}$ (2)

其中$\Omega \subset R^n\left(n>4\right)$ 是一个光滑的有界区域。通过应用山路定理，证明了方程(2)正解的存在性和非存在性。

在文献[17]中，Feng研究了如下的四阶椭圆方程：

$\{\begin{array}{ll}{\Delta }^{2}u=\lambda f\left(x,u\right),\hfill & 在\Omega 中,\hfill \\ u=\Delta u=0,\hfill & 在\partial \Omega 上,\hfill \end{array}$ (3)

其中$\lambda \ne 0$ 是一个参数，$\Omega \subset R^n\left(n\ge 2\right)$ 是一个光滑有界区域，非线性项$f\in C\left(\overline{\Omega }\times \left[0,+\infty \right),\left[0,+\infty \right)\right)$ 。通过在锥上使用不动点定理，证明了双调和问题(3)正解的存在性、多重性、非存在性。

在文献[18]中，Dalmasso应用极值原理证明了下列双调和问题

$\{\begin{array}{ll}{\Delta }^{2}u=u^p,\hfill & 在B_R中,\hfill \\ u=\Delta u=0,\hfill & 在B_R上\hfill \end{array}$ (4)

正解的存在性和唯一性，其中$B_R$ 表示在$R^n\left(n\ge 1\right)$ 中以原点为中心，半径为$R$ 的球。$p\in \left(0,1\right)\cup \left(1,+\infty \right)$ 。

在文献[19]中，An和Liu研究了如下的四阶椭圆问题：

$\{\begin{array}{ll}{\Delta }^{2}u+c\Delta u=f\left(x,u\right),\hfill & 在\Omega 中,\hfill \\ u=\Delta u=0,\hfill & 在\partial \Omega 上,\hfill \end{array}$ (5)

其中${\Delta }^2$ 表示双调和算子，$c$ 是常数，且$c<{\lambda }_1$ ，${\lambda }_k\left(k=1,2,\cdots \right)$ 为$-\Delta$ 在空间$H_0^1\left(\Omega \right)$ 中的特征值。应用山路定理，证明了方程(5)非平凡解的存在。之后，Hu和Wang在文献[20]中使用变形的山路定理推广了文献[16]和文献[19]中的结果。

然而，与双调和问题的可解性研究成果相比，三调和问题的相关结论较为有限，这是因为三调和问题的研究比双调和问题更为复杂。由于缺乏适用于二阶椭圆方程的通用极值原理和一些其他典型的技术，到目前为止关于三调和的研究成果非常有限。例如，在文献[21]中Zhao和Miao使用山路定理和喷泉定理研究了下列$p\left(x\right)$ -三调和方程

$\{\begin{array}{ll}-{\Delta }_{p\left(x\right)}^{3}u=\lambda f\left(x,u\right),\hfill & 在\Omega 中,\hfill \\ u=\Delta u={\Delta }^{2}u=0,\hfill & 在\partial \Omega 上\hfill \end{array}$ (6)

解的存在性，其中${\Delta }_{p\left(x\right)}^{3}u=div\left(\Delta \left({\left|\nabla \Delta u\right|}^{p\left(x\right)-2}\nabla \Delta u\right)\right)$ 表示$p\left(x\right)$ -三调和算子，$p\left(x\right)\in C\left(\overline{\Omega }\right)$ 且满足

$3<p^{-}:=\underset{x\in \overline{\Omega }}{\inf }p\left(x\right)\le p^{+}:=\underset{x\in \overline{\Omega }}{\sup }p\left(x\right)$ ，

$\lambda$ 是一个实数，$F\left(x,t\right)={\displaystyle {\int }_0^{t}f\left(x,s\right)\text{d}s}$ 。

因此，在这篇文章中，我们尝试对一类带有Navier边界条件的三调和问题做一些研究。此外，这篇文章有如下特点：首先，与文献[21]相比，我们考虑常数$c_1$ 和$c_2$ ，更具有一般性。第二，我们研究的方程的解与第一特征值有关，这在文献[21]中并未涉及。

在这篇文章中，我们假设$f\left(x,u\right)$ 满足下列条件：

(S₁) $f\left(x,t\right)\in C\left(\Omega \times R\right);f\left(x,t\right)\equiv 0,\forall x\in \Omega ,t\le 0,f\left(x,t\right)\ge 0,\forall x\in \Omega ,t>0$ ；

(S₂) $\left|f\left(x,t\right)\right|\le a\left(x\right)+b{\left|t\right|}^p,\forall t\in R$ ，$a.e.x\in \Omega$ ，其中$a\left(x\right)\in L^q\left(\Omega \right),b\in R,\frac{1}{p}+\frac{1}{q}=1$ ，且当$N>6$ 时，$1<p<\frac{N+6}{N-6}$ ；当$N\le 6$ 时，$1<p<\infty$ ；

(S₃) 对于$a.e.x\in \Omega$ ，$\frac{f\left(x,t\right)}{t}$ 关于$t\ge 0$ 是非减的；

(S₄) $\underset{t\to 0}{\lim }\frac{f\left(x,t\right)}{t}=\mu$ ；$\underset{t\to \infty }{\lim }\frac{f\left(x,t\right)}{t}=\nu$ 对$a.e.x\in \Omega$ 一致成立，其中

$\mu <{\lambda }_1\left({\lambda }_1^2+c_1{\lambda }_1-c_2\right)<\nu <+\infty$ ，

$\nu \ne {\Lambda }_k={\lambda }_k\left({\lambda }_k^2+c_1{\lambda }_k-c_2\right)$ 为常数，${\lambda }_k\left(k=1,2,\cdots \right)$ 为$-\Delta$ 在空间$H_0^1\left(\Omega \right)$ 中的特征值。

我们的主要结果如下：

定理1.1 令$c_2<{\lambda }_1^2+c_1{\lambda }_1$ ，假设条件(S₁)~(S₄)成立，那么问题(1)至少有一个非平凡解。

2. 预备知识

设$\Omega \subset R^n$ 是一个有界光滑区域，定义希尔伯特空间

$H=H^3\left(\Omega \right)\cap H_0^1\left(\Omega \right)$ ，

并赋予其内积：

${\left(u,v\right)}_H={\displaystyle {\int }_{\Omega }\left(\nabla \Delta u\nabla \Delta v+\Delta u\Delta v+\nabla u\nabla v\right)\text{d}x}$ ，

由此诱导的范数为：

${\Vert u\Vert }_H^2={\displaystyle {\int }_{\Omega }{\left|\nabla \Delta u\right|}^2\text{d}x}+{\displaystyle {\int }_{\Omega }{\left|\Delta u\right|}^2\text{d}x}+{\displaystyle {\int }_{\Omega }{\left|\nabla u\right|}^2\text{d}x}$ 。

令${\lambda }_k\left(k=1,2,\cdots \right)$ 是下列特征值问题

$\{\begin{array}{ll}-\Delta u=\lambda u,\hfill & 在\Omega 中,\hfill \\ u=0,\hfill & 在\partial \Omega 上\hfill \end{array}$

的特征值，${\phi }_k\left(k=1,2,\cdots \right)$ 是对应的特征函数，每个特征值${\lambda }_k$ 按重数重复计入。则有

$0<{\lambda }_1<{\lambda }_2\le \cdots \le {\lambda }_k\to \infty$ ，

且由于在Navier边界条件下，算子可分解为二阶算子的复合，因此${\phi }_1\left(x\right)>0$ 对所有的$x\in \Omega$ 成立。

对于任意的$k=1,2,\cdots$ ，令${\Lambda }_k={\lambda }_k\left({\lambda }_k^2+c_1{\lambda }_k-c_2\right)$ ，我们称${\Lambda }_k$ 是下列特征值问题

$\{\begin{array}{ll}-{\Delta }^{3}u+c_1{\Delta }^{2}u+c_2\Delta u=\Lambda u,\hfill & 在\Omega 中,\hfill \\ u=\Delta u={\Delta }^{2}u=0,\hfill & 在\partial \Omega 上\hfill \end{array}$ (7)

的特征值，对应的特征函数仍为${\phi }_k\left(x\right)$ 。

注意到在$\Omega$ 中$-\Delta {\phi }_k={\lambda }_k{\phi }_k$ ，且${{\phi }_k|}_{\partial \Omega }=0$ 。则有

$-{\Delta }^3{\phi }_k={\left(-\Delta \right)}^2\left(\left(-\Delta \right){\phi }_k\right)={\left(-\Delta \right)}^2\left({\lambda }_k{\phi }_k\right)=-\Delta \left(-\Delta \left({\lambda }_k{\phi }_k\right)\right)=-\Delta \left({\lambda }_k^2{\phi }_k\right)={\lambda }_k^3{\phi }_k$ ，

${\Delta }^2{\phi }_k=\Delta \left(-{\lambda }_k{\phi }_k\right)=-{\lambda }_k\Delta {\phi }_k=-{\lambda }_k\left(-{\lambda }_k{\phi }_k\right)={\lambda }_k^2{\phi }_k$ 。

因此

$-{\Delta }^3{\phi }_k+c_1{\Delta }^2{\phi }_k+c_2\Delta {\phi }_k={\lambda }_k^3{\phi }_k+c_1{\lambda }_k^2{\phi }_k-c_2{\lambda }_k{\phi }_k={\lambda }_k\left({\lambda }_k^2+c_1{\lambda }_k-c_2\right){\phi }_k={\Lambda }_k{\phi }_k$ 。

所以${\Lambda }_k$ 是特征值问题(7)的特征值，对应的特征函数为${\phi }_k\left(x\right)$ 。

显然函数集${\phi }_k\left(x\right)$ 构成空间$H$ 的一组正交基，因此空间$H$ 中的任意元素$u$ 都可以表示为

$u={\displaystyle \sum _{k=1}^{\infty }{u}_k}{\phi }_k,{\displaystyle \sum _{k=1}^{\infty }{u}_k^2<\infty }$ 。

假设$c_2<{\lambda }_1^2+c_1{\lambda }_1$ ，为$u\in H$ 定义如下新的范数：

${\Vert u\Vert }^2={\displaystyle {\int }_{\Omega }{\left|\nabla \Delta u\right|}^2\text{d}x}+c_1{\displaystyle {\int }_{\Omega }{\left|\Delta u\right|}^2\text{d}x}-c_2{\displaystyle {\int }_{\Omega }{\left|\nabla u\right|}^2\text{d}x}$ 。

引理2.1 范数$\Vert \cdot \Vert$ 与原范数${\Vert \cdot \Vert }_H$ 在$H$ 中等价，且对所有的$u\in H$ ，满足如下Poincaré不等式：

${\Vert u\Vert }^2\ge {\Lambda }_1{\Vert u\Vert }_{L^2}^2$ 。(8)

证明 注意到

$\begin{array}{c}{\Vert u\Vert }^2={\displaystyle {\int }_{\Omega }{\left|\nabla \Delta u\right|}^2\text{d}x}+c_1{\displaystyle {\int }_{\Omega }{\left|\Delta u\right|}^2\text{d}x}-c_2{\displaystyle {\int }_{\Omega }{\left|\nabla u\right|}^2\text{d}x}\\ \le {\displaystyle {\int }_{\Omega }{\left|\nabla \Delta u\right|}^2\text{d}x}+\left|c_1\right|{\displaystyle {\int }_{\Omega }{\left|\Delta u\right|}^2\text{d}x}+\left|c_2\right|{\displaystyle {\int }_{\Omega }{\left|\nabla u\right|}^2\text{d}x}\\ \le \max \left\{1,\left|c_1\right|,\left|c_2\right|\right\}\left({\displaystyle {\int }_{\Omega }{\left|\nabla \Delta u\right|}^2\text{d}x}+{\displaystyle {\int }_{\Omega }{\left|\Delta u\right|}^2\text{d}x}+{\displaystyle {\int }_{\Omega }{\left|\nabla u\right|}^2\text{d}x}\right)\\ =\beta {\Vert u\Vert }_H^2.\end{array}$

其中$\beta =\max \left\{1,\left|c_1\right|,\left|c_2\right|\right\}$ 。

设$\left\{{\phi }_k\right\}$ 是$-\Delta$ 在$H_0^1\left(\Omega \right)$ 中的正交归一特征函数组，对应的特征值为${\lambda }_k$ ，则$u\in H$ 可展开为

$u={\displaystyle \sum _{k=1}^{\infty }{u}_k}{\phi }_k,u_k={\displaystyle {\int }_{\Omega }u{\phi }_k\text{d}x}$ ，

则有$\Delta u=-{\displaystyle \sum _{k=1}^{\infty }{\lambda }_k{u}_k}{\phi }_k$ ，因此

${\Vert \nabla \Delta u\Vert }^2={\displaystyle \sum _{k=1}^{\infty }{\lambda }_k^3{u}_k^2},{\Vert \Delta u\Vert }^2={\displaystyle \sum _{k=1}^{\infty }{\lambda }_k^2{u}_k^2},{\Vert \nabla u\Vert }^2={\displaystyle \sum _{k=1}^{\infty }{\lambda }_k{u}_k^2}$ 。

因此原范数为

${\Vert u\Vert }_H^2={\displaystyle \sum _{k=1}^{\infty }\left({\lambda }_k^3+{\lambda }_k^2+{\lambda }_k\right)u_k^2}$ ，

新定义的范数为

${\Vert u\Vert }^2={\displaystyle \sum _{k=1}^{\infty }\left({\lambda }_k^3+c_1{\lambda }_k^2-c_2{\lambda }_k\right)u_k^2}={\displaystyle \sum _{k=1}^{\infty }{\Lambda }_k{u}_k^2}$ ，其中${\Lambda }_k:={\lambda }_k\left({\lambda }_k^2+c_1{\lambda }_k-c_2\right)$ 。

令

${\rho }_k:=\frac{{\Lambda }_k}{{\lambda }_k^3+{\lambda }_k^2+{\lambda }_k}=\frac{{\lambda }_k\left({\lambda }_k^2+c_1{\lambda }_k-c_2\right)}{{\lambda }_k\left({\lambda }_k^2+{\lambda }_k+1\right)}=\frac{{\lambda }_k^2+c_1{\lambda }_k-c_2}{{\lambda }_k^2+{\lambda }_k+1}$ 。

注意到${\lambda }_k\to \infty$ ，且$c_2<{\lambda }_1^2+c_1{\lambda }_1$ ，因此${\rho }_k>0$ 且${\rho }_k\to 1$ 。于是${\rho }_k$ 有下确界，记为${\rho }_{\ast }=\inf {\rho }_k>0$ 。因此

${\Vert u\Vert }^2={\displaystyle \sum _{k=1}^{\infty }{\Lambda }_k{u}_k^2}={\displaystyle \sum _{k=1}^{\infty }{\rho }_k\left({\lambda }_k^3+{\lambda }_k^2+{\lambda }_k\right)u_k^2}\ge {\rho }_{\ast }{\displaystyle \sum _{k=1}^{\infty }\left({\lambda }_k^3+{\lambda }_k^2+{\lambda }_k\right)u_k^2}={\rho }_{\ast }{\Vert u\Vert }_H^2$ 。

取$\alpha ={\rho }_{\ast }$ ，$\beta =\max \left\{1,\left|c_1\right|,\left|c_2\right|\right\}$ ，则显然$\alpha ,\beta >0$ ，且对所有的$u\in H$ ，都有

$\alpha {\Vert u\Vert }_H^2\le {\Vert u\Vert }^2\le \beta {\Vert u\Vert }_H^2$ 。

因此范数$\Vert \cdot \Vert$ 与原范数${\Vert \cdot \Vert }_H$ 在$H$ 中等价。

又因为${\Vert u\Vert }^2={\displaystyle \sum _{k=1}^{\infty }{\Lambda }_k{u}_k^2\ge {\Lambda }_1{\displaystyle \sum _{k=1}^{\infty }{u}_k^2}={\Lambda }_1{\Vert u\Vert }_{L^2}^2}$ ，因此Poincaré不等式成立。

定义2.1 设泛函$I\left(u\right):H\to R$ 定义如下：

$I\left(u\right)=\frac{1}{2}\left({\displaystyle {\int }_{\Omega }{\left|\nabla \Delta u\right|}^2\text{d}x}+c_1{\displaystyle {\int }_{\Omega }{\left|\Delta u\right|}^2\text{d}x}-c_2{\displaystyle {\int }_{\Omega }{\left|\nabla u\right|}^2\text{d}x}\right)-{\displaystyle {\int }_{\Omega }F\left(x,u\right)\text{d}x}$ ，

其中$F\left(x,u\right)={\displaystyle {\int }_0^{u}f\left(x,t\right)\text{d}t}$ 。

定义2.2 如果$u\in H$ 满足如下恒等式：

${\displaystyle {\int }_{\Omega }\left(\nabla \Delta u\nabla \Delta v+c_1\Delta u\Delta v-c_2\nabla u\nabla v\right)\text{d}x}={\displaystyle {\int }_{\Omega }f\left(x,u\right)v\text{d}x}$ 对$\forall v\in H^{\ast }$ ，

其中$H^{\ast }$ 表示空间$H$ 的对偶空间，那么称$u$ 是问题(1)的一个弱解。

由临界点理论可知，问题(1)的弱解就是泛函$I\left(u\right)$ 的临界点。我们将应用山路定理来证明泛函$I\left(u\right)$ 存在非平凡的临界点。

定义2.3 设$E$ 是实Banach空间，$I\in C^1\left(E,R\right)$ 。若序列$\left\{u_n\right\}\subset E$ 满足：

(i) $I\left(u_n\right)\to C$ ，当$n\to \infty$ ；

(ii) $\langle I^{\prime }\left(u_n\right),u_n\rangle \to 0$ ，当$n\to \infty$ ，

则称$\left\{u_n\right\}$ 是泛函$I$ 的一个(PS)序列。如果任何(PS)序列都存在一个收敛子列，则称泛函$I$ 满足(PS)条件。

引理2.2 [19]设$E$ 是实Banach空间，$I\in C^1\left(E,R\right)$ 满足(PS)条件。若满足：

(i) 存在$\rho >0,a>0$ ，使得

$I\left(u\right)\ge I\left(0\right)+a,\forall u\in \partial B_{\rho }$ ，

其中$B_{\rho }:=\left\{u\in E:\Vert u\Vert \le \rho \right\}$ ；

(ii) 存在$e\in E,\Vert e\Vert >\rho$ ，使得

$I\left(e\right)\le I\left(0\right)$ ，

则泛函$I\left(u\right)$ 存在一个临界值$C$ ，其可表征为：

$C=\underset{\gamma \in \Gamma }{\inf }\underset{u\in \gamma \left(\left[0,1\right]\right)}{\max }I\left(u\right)$ ，

其中$\Gamma =\left\{\gamma \in C\left(\left[0,1\right],E\right)|\gamma \left(0\right)=0,\gamma \left(1\right)=e\right\}$ 。

引理2.3 假设条件(S₁)和(S₃)成立，设$\left\{u_n\right\}$ 为泛函$I\left(u\right)$ 的(PS)序列，则序列$\left\{u_n\right\}$ 在$H$ 中存在子列，仍记为$\left\{u_n\right\}$ ，使得

$I\left(t{u}_n\right)\le \frac{1+t^2}{2n}+I\left(u_n\right)$ (9)

对所有的$t>0$ 和$n\in N$ 成立。

证明 设$\left\{u_n\right\}\subset H$ 为(PS)序列，即当$n\to \infty$ 时，有

$I\left(u_n\right)\to C,\langle I^{\prime }\left(u_n\right),u_n\rangle \to 0$ 。

则对于适当的子列，仍记为$\left\{u_n\right\}$ ，对$\forall n\in N$ ，我们有

$-\frac{1}{n}<\langle I^{\prime }\left(u_n\right),u_n\rangle ={\Vert u_n\Vert }^2-{\displaystyle {\int }_{\Omega }f\left(x,u_n\left(x\right)\right)u_n\left(x\right)\text{d}x}<\frac{1}{n}$ 。(10)

我们断言对任意的$t>0$ 和$n\in N$ ，有

$I\left(t{u}_n\right)\le \frac{t^2}{2n}+{\displaystyle {\int }_{\Omega }\left[\frac{1}{2}f\left(x,u_n\left(x\right)\right)u_n\left(x\right)-F\left(x,u_n\left(x\right)\right)\right]\text{d}x}$ 。(11)

事实上，固定$x\in \Omega$ ，对$\forall t>0$ 和$n\in N$ ，令

$h\left(t\right)=\frac{1}{2}{t}^{2}f\left(x,u_n\left(x\right)\right)u_n\left(x\right)-F\left(x,t{u}_n\left(x\right)\right)$

那么根据条件(S₃)，我们有

$\begin{array}{c}{h}^{\prime }\left(t\right)=tf\left(x,u_n\left(x\right)\right)u_n\left(x\right)-f\left(x,t{u}_n\left(x\right)\right)u_n\left(x\right)\\ =t\left(\frac{f\left(x,u_n\left(x\right)\right)}{u_n\left(x\right)}{\left|u_n\left(x\right)\right|}^2-\frac{f\left(x,t{u}_n\left(x\right)\right)}{t{u}_n\left(x\right)}{\left|u_n\left(x\right)\right|}^2\right)\\ =\{\begin{array}{c}\ge 0,\text{ 0<}t\text{<1,}\\ \le 0,t\ge 1.\end{array}\end{array}$

因此

$h\left(t\right)\le h\left(1\right)\forall t>0$ ，

也就是

$\frac{t^2}{2}f\left(x,u_n\left(x\right)\right)u_n\left(x\right)-F\left(x,t{u}_n\left(x\right)\right)\le \frac{1}{2}f\left(x,u_n\left(x\right)\right)u_n\left(x\right)-F\left(x,u_n\left(x\right)\right)\forall t>0$ 。 (12)

因此由(10)式和(12)式可得

$\begin{array}{c}I\left(t{u}_n\right)=\frac{t^2}{2}\left({\displaystyle {\int }_{\Omega }{\left|\nabla \Delta u_n\right|}^2\text{d}x}+c_1{\displaystyle {\int }_{\Omega }{\left|\Delta u_n\right|}^2\text{d}x}-c_2{\displaystyle {\int }_{\Omega }{\left|\nabla u_n\right|}^2\text{d}x}\right)-{\displaystyle {\int }_{\Omega }F\left(x,t{u}_n\right)\text{d}x}\\ =\frac{t^2}{2}{\Vert u_n\Vert }^2-{\displaystyle {\int }_{\Omega }F\left(x,t{u}_n\right)\text{d}x}\\ <\frac{t^2}{2}\left(\frac{1}{n}+{\displaystyle {\int }_{\Omega }f\left(x,u_n\left(x\right)\right)u_n\left(x\right)\text{d}x}\right)-{\displaystyle {\int }_{\Omega }F\left(x,t{u}_n\right)\text{d}x}\\ =\frac{t^2}{2n}+{\displaystyle {\int }_{\Omega }\left[\frac{t^2}{2}f\left(x,u_n\left(x\right)\right)u_n\left(x\right)-F\left(x,t{u}_n\left(x\right)\right)\right]\text{d}x}\\ \le \frac{t^2}{2n}+{\displaystyle {\int }_{\Omega }\left[\frac{1}{2}f\left(x,u_n\left(x\right)\right)u_n\left(x\right)-F\left(x,u_n\left(x\right)\right)\right]\text{d}x},\end{array}$

因此(11)式得证。此外

$\begin{array}{c}I\left(u_n\right)=\frac{1}{2}\left({\displaystyle {\int }_{\Omega }{\left|\nabla \Delta u_n\right|}^2\text{d}x}+c_1{\displaystyle {\int }_{\Omega }{\left|\Delta u_n\right|}^2\text{d}x}-c_2{\displaystyle {\int }_{\Omega }{\left|\nabla u_n\right|}^2\text{d}x}\right)-{\displaystyle {\int }_{\Omega }F\left(x,u_n\right)\text{d}x}\\ =\frac{1}{2}{\Vert u_n\Vert }^2-{\displaystyle {\int }_{\Omega }F\left(x,u_n\right)\text{d}x}\\ \ge \frac{1}{2}\left(-\frac{1}{n}+{\displaystyle {\int }_{\Omega }f\left(x,u_n\left(x\right)\right)u_n\left(x\right)\text{d}x}\right)-{\displaystyle {\int }_{\Omega }F\left(x,t{u}_n\right)\text{d}x}.\end{array}$

因此

${\displaystyle {\int }_{\Omega }\left(\frac{1}{2}f\left(x,u_n\left(x\right)\right)u_n\left(x\right)-{\displaystyle {\int }_{\Omega }F\left(x,u_n\left(x\right)\right)}\right)\text{d}x}\le \frac{1}{2n}+I\left(u_n\right)$ 。(13)

结合(11)式和(13)式，(9)式得证。

引理2.4 [16]如果在$L^p\left(\Omega \right)$ 中$u_n\stackrel{n}{\to }u$ ，$1\le p<\infty$ ，那么在$L^p\left(\Omega \right)$ 中$u_n^{+}\stackrel{n}{\to }{u}^{+}$ ，其中$u_n^{+}=\max \left\{u_n,0\right\}$ ，$u^{+}=\max \left\{u,0\right\}$ 。

引理2.5 假设$c_2<{\lambda }_1^2+c_1{\lambda }_1$ ，且条件(S₁)~(S₄)成立，则$I\left(u\right)$ 满足(PS)条件。

证明 设$\left\{u_n\right\}\subset H$ 为(PS)序列，即满足当$n\to \infty$ 时，有

$I\left(u_n\right)\to C,\langle I^{\prime }\left(u_n\right),u_n\rangle \to 0$ 。(14)

由于$\Omega$ 有界且$f\left(x,t\right)$ 次临界，因此如果$\left\{u_n\right\}$ 在空间$H=H^3\left(\Omega \right)\cap H_0^1\left(\Omega \right)$ 中有界，根据Sobolev嵌入的紧性和标准变分方法，我们可知存在$\left\{u_n\right\}$ 的一个子序列强收敛于$I$ 的某个非平凡临界点，证明完成。因此我们只需证明$\left\{u_n\right\}$ 在$H$ 中有界。

下面用反证法证明$\left\{u_n\right\}$ 在$H$ 中有界。假设$\Vert u_n\Vert \to +\infty$ ，令

$t_n=\frac{2\sqrt{C}}{\Vert u_n\Vert }$ ，$w_n=t_n{u}_n=\frac{2\sqrt{C}{u}_n}{\Vert u_n\Vert }$ ，(15)

其中$C>0$ 是(14)式中给定的常数。显然，$\left\{w_n\right\}$ 在$H$ 中有界。通过提取一个子序列，我们可以假设

$w_n\rightharpoonup w$ ，在$H$ 中，

$w_n\to w$ ，几乎处处在$\Omega$ 中，

$w_n\to w$ ，在$L^2\left(\Omega \right)$ 中。

下面证明$w\ne 0$ 。事实上，若$w\equiv 0$ ，则在$L^2\left(\Omega \right)$ 中$w_n\to 0$ 。因此

$\underset{n\to \infty }{\lim }{\displaystyle {\int }_{\Omega }F\left(x,w_n\left(x\right)\right)\text{d}x}=\underset{n\to \infty }{\lim }{\displaystyle {\int }_{\Omega }{\displaystyle {\int }_0^{w_n}f\left(x,t\right)\text{d}t\text{d}x}}=0$ 。

进一步有

$I\left(w_n\right)=\frac{1}{2}{\Vert w_n\Vert }^2-{\displaystyle {\int }_{\Omega }F\left(x,w_n\left(x\right)\right)\text{d}x}\to 2C$ 。(16)

由$\Vert u_n\Vert \to +\infty$ ，结合(15)式可得当$n\to \infty$ 时$t_n\to 0$ 。因此根据(14)式和引理2.3有

$I\left(w_n\right)=I\left(t_n{u}_n\right)\le \frac{1+t^2}{2n}+I\left(u_n\right)\to C>0$ 。(17)

显然这与(16)式矛盾。因此$w\ne 0$ 。下面证明$w$ 满足

${\displaystyle {\int }_{\Omega }\left(\nabla \Delta w\nabla \Delta \phi +c_1\Delta w\Delta \phi -c_2\nabla w\nabla \phi \right)\text{d}x}={\displaystyle {\int }_{\Omega }\nu w\phi \text{d}x}$ 。(18)

令

$g_n\left(x\right)=\{\begin{array}{ll}\frac{f\left(x,u_n\left(x\right)\right)}{u_n\left(x\right)},\hfill & x\in \Omega 且u_n\left(x\right)>0,\hfill \\ 0,\hfill & 其它.\hfill \end{array}$

根据假设(S₃)和(S₄)我们知道

$0\le g_n\left(x\right)\le \nu ,\forall x\in \Omega$ 。

在$\left\{g_n\right\}$ 中选取适当的子列，为了方便仍记为$\left\{g_n\right\}$ ，则存在$g\in L^2\left(\Omega \right)$ ，使得

$g_n\rightharpoonup g$ ，在$L^2\left(\Omega \right)$ 中，

且

$0\le g\left(x\right)\le \nu$ ，$a.e.$ 在$\Omega$ 中。

因为$\Vert u_n\Vert \to +\infty$ 且在$\Omega$ 中$a.e.w_n\to w$ ，这意味着如果在$\Omega$ 中$a.e.w\left(x\right)>0$ ，则有$a.e.u_n\to +\infty$ 。结合假设(S₄)，我们有

$g\left(x\right)\equiv \nu$ ，当$w\left(x\right)>0$ 时，(19)

对任意的$\phi \in L^2\left(\Omega \right)$ ，由于在$L^2\left(\Omega \right)$ 中$w_n\to w$ ，由引理2.4可知$w_n^{+}\to w^{+}$ 。因此我们有

${\displaystyle {\int }_{\Omega }{g}_n\left(x\right)w_n\left(x\right)\phi \left(x\right)\text{d}x}={\displaystyle {\int }_{\Omega }{g}_n\left(x\right)w_n^{+}\left(x\right)\phi \left(x\right)\text{d}x}\to {\displaystyle {\int }_{\Omega }g\left(x\right)w^{+}\left(x\right)\phi \left(x\right)\text{d}x}$ ，

其中$w^{+}\left(x\right)=\max \left\{w\left(x\right),0\right\}$ ，$w^{-}\left(x\right)=\max \left\{-w\left(x\right),0\right\}$ 。由于$\left\{g_n{w}_n\right\}$ 在$L^2\left(\Omega \right)$ 中有界，因此

$g_n{w}_n\rightharpoonup g{w}^{+}$ ，在$L^2\left(\Omega \right)$ 中。

又因为$\Vert I^{\prime }\left(u_n\right)\Vert \to 0$ ，$\Vert u_n\Vert \to \infty$ ，因此对任意的$\phi \in H$ ，我们有

$\left|{\displaystyle {\int }_{\Omega }\left(\nabla \Delta w_n\nabla \Delta \phi +c_1\Delta w_n\Delta \phi -c_2\nabla w_n\nabla \phi \right)\text{d}x}-{\displaystyle {\int }_{\Omega }{g}_n}{w}_n\phi \text{d}x\right|=t_n\left|\langle I^{\prime }\left(u_n\right),\phi \rangle \right|\le \frac{2\sqrt{C}}{\Vert u_n\Vert }\Vert I^{\prime }\left(u_n\right)\Vert \Vert \phi \Vert \to 0$ 。

由于在$H$ 中$w_n\rightharpoonup w$ 且在$L^2\left(\Omega \right)$ 中$g_n{w}_n\rightharpoonup g{w}^{+}$ ，因此对所有的$\phi \in H$ ，有

${\displaystyle {\int }_{\Omega }\left(\nabla \Delta w\nabla \Delta \phi +c_1\Delta w\Delta \phi -c_2\nabla w\nabla \phi \right)\text{d}x}-{\displaystyle {\int }_{\Omega }g{w}^{+}\phi \text{d}x}=0$ 。(20)

取$\phi =w^{-}$ ，代入(20)式，得$\Vert w^{-}\Vert =0$ 。因此在$\Omega$ 中$w\equiv w^{+}\ge 0$ 。结合极值原理可得在$\Omega$ 内$w\left(x\right)>0$ 。因此，根据(19)式我们有$g\left(x\right)\equiv \nu$ ，且对所有的$\phi \in H$ 有

${\displaystyle {\int }_{\Omega }\left(\nabla \Delta w\nabla \Delta \phi +c_1\Delta w\Delta \phi -c_2\nabla w\nabla \phi \right)\text{d}x}-{\displaystyle {\int }_{\Omega }\nu w\phi \text{d}x}=0$ 。(21)

这意味着$w\left(x\right)>0$ 是下列三调和方程

$-{\Delta }^{3}u+c_1{\Delta }^{2}u+c_2\Delta u=\nu u$

的一个非平凡解。这与$\nu \ne {\Lambda }_k$ 矛盾。因此$\left\{u_n\right\}$ 在$H$ 中有界。

3. 主要结果的证明

定理1.1的证明

由引理2.5可知$I\left(u\right)$ 满足(PS)条件。下面验证$I\left(u\right)$ 也满足山路几何条件。由条件(S₁)、(S₂)和(S₄)可知对$\forall \epsilon >0,\exists C_1,C_2>0$ ，使得对$\forall \left(x,s\right)\in \Omega \times R$ ，有

$F\left(x,s\right)\le \frac{1}{2}\left(\mu +\epsilon \right)s^2+C_1{s}^{p+1}$ ， (22)

$F\left(x,s\right)\frac{1}{2}\left(\nu -\epsilon \right)s^2+C_2$ 。 (23)

取$\epsilon >0$ 足够小，使得$\mu +\epsilon <{\Lambda }_1$ ，根据(22)式和Poincaré不等式(8)，结合Sobolev不等式

${\Vert u\Vert }_{L^{p+1}}^{p+1}\le K{\Vert u\Vert }^{p+1}$

可得

$\begin{array}{c}I\left(u\right)=\frac{1}{2}\left({\displaystyle {\int }_{\Omega }{\left|\nabla \Delta u\right|}^2\text{d}x}+c_1{\displaystyle {\int }_{\Omega }{\left|\Delta u\right|}^2\text{d}x}-c_2{\displaystyle {\int }_{\Omega }{\left|\nabla u\right|}^2\text{d}x}\right)-{\displaystyle {\int }_{\Omega }F\left(x,u\right)\text{d}x}\\ \ge \frac{1}{2}{\Vert u\Vert }^2-\frac{\mu +\epsilon }{2}{\Vert u\Vert }_{L^2}^2-C_1{\Vert u\Vert }_{L^{p+1}}^{p+1}\\ \ge \frac{1}{2}{\Vert u\Vert }^2-\frac{\mu +\epsilon }{2{\Lambda }_1}{\Vert u\Vert }^2-C_1{\Vert u\Vert }_{L^{p+1}}^{p+1}\\ \ge \frac{1}{2}\left(1-\frac{\mu +\epsilon }{{\Lambda }_1}\right){\Vert u\Vert }^2-C_{1}K{\Vert u\Vert }^{p+1}.\end{array}$

因此取$\Vert u\Vert =\rho >0$ 足够小，使得

$a=\frac{1}{2}\left(1-\frac{\mu +\epsilon }{{\Lambda }_1}\right){\rho }^2-C_{1}K{\rho }^{p+1}>0$ ，

可得

$I\left(u\right)\ge I\left(0\right)+a=a,\forall u\in \partial B_{\rho }$ ，

其中$B_{\rho }:=\left\{u\in E:\Vert u\Vert \le \rho \right\}$ 。

另一方面，取$\epsilon >0$ 足够小使得$\nu -\epsilon >{\Lambda }_1$ ，由(23)式可得

$\begin{array}{c}I\left(u\right)=\frac{1}{2}\left({\displaystyle {\int }_{\Omega }{\left|\nabla \Delta u\right|}^2\text{d}x}+c_1{\displaystyle {\int }_{\Omega }{\left|\Delta u\right|}^2\text{d}x}-c_2{\displaystyle {\int }_{\Omega }{\left|\nabla u\right|}^2\text{d}x}\right)-{\displaystyle {\int }_{\Omega }F\left(x,u\right)\text{d}x}\\ \le \frac{1}{2}{\Vert u\Vert }^2-\frac{\nu -\epsilon }{2}{\Vert u\Vert }_{L^2}^2+C_3.\end{array}$

取$u=t{\phi }_1$ ，则

$I\left(t{\phi }_1\right)\le \frac{1}{2}{t}^2{\Vert {\phi }_1\Vert }^2-\frac{\nu -\epsilon }{2}{t}^2{\Vert {\phi }_1\Vert }_{L^2}^2+C_3$ 。

由于${\phi }_1$ 是$-\Delta$ 的第一特征值${\lambda }_1$ 对应的正的特征函数，即

$-\Delta {\phi }_1={\lambda }_1{\phi }_1,{{\phi }_1|}_{\partial \Omega }=0$ 。

同时，${\phi }_1$ 也为三调和算子的特征函数，即

$-{\Delta }^3{\phi }_1+c_1{\Delta }^2{\phi }_1+c_2\Delta {\phi }_1={\Lambda }_1{\phi }_1$ 。

因此

${\Vert {\phi }_1\Vert }^2={\displaystyle {\int }_{\Omega }{\left|\nabla \Delta {\phi }_1\right|}^2\text{d}x}+c_1{\displaystyle {\int }_{\Omega }{\left|\Delta {\phi }_1\right|}^2\text{d}x}-c_2{\displaystyle {\int }_{\Omega }{\left|\nabla {\phi }_1\right|}^2\text{d}x}$ 。

根据Green第一恒等式结合边界条件，我们有

$\begin{array}{c}{\displaystyle {\int }_{\Omega }{\left|\nabla \Delta {\phi }_1\right|}^2\text{d}x}=-{\displaystyle {\int }_{\Omega }\Delta {\phi }_1\cdot {\Delta }^2{\phi }_1\text{d}x}\\ ={\lambda }_1{\displaystyle {\int }_{\Omega }{\phi }_1{\Delta }^2{\phi }_1\text{d}x}\\ =-{\lambda }_1{\displaystyle {\int }_{\Omega }\nabla {\phi }_1\cdot \nabla \Delta {\phi }_1\text{d}x}\\ ={\lambda }_1{\displaystyle {\int }_{\Omega }\Delta {\phi }_1\cdot \Delta {\phi }_1\text{d}x}\\ ={\lambda }_1^3{\displaystyle {\int }_{\Omega }{\left|{\phi }_1\right|}^2\text{d}x}\\ ={\lambda }_1^3{\Vert {\phi }_1\Vert }_{L^2}^2,\end{array}$

同理可得

${\displaystyle {\int }_{\Omega }{\left|\Delta {\phi }_1\right|}^2\text{d}x}={\lambda }_1^2{\Vert {\phi }_1\Vert }_{L^2}^2$ ，${\displaystyle {\int }_{\Omega }{\left|\nabla {\phi }_1\right|}^2\text{d}x}={\lambda }_1{\Vert {\phi }_1\Vert }_{L^2}^2$ ，

因此

${\Vert {\phi }_1\Vert }^2={\lambda }_1^3{\Vert {\phi }_1\Vert }_{L^2}^2+c_1{\lambda }_1^2{\Vert {\phi }_1\Vert }_{L^2}^2-c_2{\lambda }_1{\Vert {\phi }_1\Vert }_{L^2}^2={\lambda }_1\left({\lambda }_1^2+c_1{\lambda }_1-c_2\right){\Vert {\phi }_1\Vert }_{L^2}^2={\Lambda }_1{\Vert {\phi }_1\Vert }_{L^2}^2$ 。

因此当$t\to +\infty$ 时

$I\left(t{\phi }_1\right)\le \frac{1}{2}\left(1-\frac{\nu -\epsilon }{{\Lambda }_1}\right)t^2{\Vert {\phi }_1\Vert }^2+C_3\to -\infty$ 。

这意味着存在$e\in H,\Vert e\Vert >\rho$ ，使得$I\left(e\right)\le I\left(0\right)=0$ 。因此由引理2.2知问题(1)至少有一个非平凡解。