含Φ-Laplace算子的拟线性椭圆型方程解的存在性

Existence of Solutions for Quasilinear Elliptic Equation with Φ-Laplacian Operator

摘要: 该文研究了全空间中一类含Φ-Laplace算子和位势项的拟线性椭圆型方程解的存在性，利用Nehari流形方法和纤维映射等技巧，得到方程至少有两个非平凡解。

Abstract: The paper deals with the existence results of solutions to a quasilinear elliptic problem with Φ-Laplacian operator and potential well on ℝ^N. Nehari manifold and fibering maps are used to obtain the existence two nontrivial solutions.

1. 引言

我们将研究 ${ℝ}^N$ 中的拟线性椭圆型方程

$-{\Delta }_{\Phi }u+V\left(x\right)\varphi \left(\left|u\right|\right)u=f\left(x,u\right),u\in W^{1,\Phi }\left({ℝ}^N\right)$ (1)

非平凡解的存在性，其中 ${\Delta }_{\Phi }u=\text{div}\left(\varphi \left(\left|\nabla u\right|\right)\nabla u\right)$ 是 $\Phi$ -Laplace算子，并且 $\Phi \left(t\right)={\displaystyle {\int }_0^{t}s\varphi \left(s\right)\text{d}s}$， $t\in ℝ$， $f:{ℝ}^N\times ℝ\to ℝ$ 是Carathéodory函数。

拟线性椭圆型方程具有较强的物理背景，是非牛顿流体、等离子物理、图像处理等领域研究相关物理现象的重要模型，见 [1] 和 [2]。近些年来，在有界区域上讨论拟线性椭圆型方程的文章已有很多，如文献 [3] 和 [4]，研究了非线性项在不满足(AR)条件下，方程解的存在性和多重性问题。在文献 [5] 中，Carvalho等利用Nehari方法和形变引理研究了下列问题的正负解和变号解的存在性。

$\{\begin{array}{l}-div\left(\varphi \left(\left|\nabla u\right|\right)\nabla u\right)=f\left(x,u\right),x\in \Omega ,\\ u=0,x\in \partial \Omega .\end{array}$ (2)

本文的结果是对前人研究成果的推广和完善。

对函数 $\varphi \left(x\right)$ 、 $V\left(x\right)$ 和 $f\left(x,t\right)$ 做如下假设。函数 $\varphi \in C^2\left(\left[0,+\infty \right),\left[0,+\infty \right)\right)$，并且满足下列条件：

$\left({\varphi }_1\right)$ $t\mapsto t\varphi \left(t\right)$ 在 $\left(0,+\infty \right)$ 是增函数；

$\left({\varphi }_2\right)$ $\underset{t\to 0}{\lim }t\varphi \left(t\right)=0$， $\underset{t\to \infty }{\lim }t\varphi \left(t\right)=\infty$ ；

$\left({\varphi }_3\right)$ 对任意 $t>0$，存在常数 $l,m\in \left(1,N\right)$，使得

$-1<l-2:=\underset{t>0}{\inf }\frac{{\left(t\varphi \left(t\right)\right)}^{\prime \text{}\prime }t}{{\left(t\varphi \left(t\right)\right)}^{\prime }}\le \underset{t>0}{\sup }\frac{{\left(t\varphi \left(t\right)\right)}^{\prime \text{}\prime }t}{{\left(t\varphi \left(t\right)\right)}^{\prime }}=:m-2<N-2$ ；

$\left({\varphi }_4\right)$ 存在N-函数

$\Psi \left(t\right)={\displaystyle {\int }_0^t\psi \left(s\right)\text{d}s}$，

其中 $\psi :\left[0,\infty \right)\to \left[0,\infty \right)$ 是连续函数，且满足

$\left(a_1\right)$ $1<l\le m<l_{\Psi }:=\underset{t>0}{\inf }\frac{\psi \left(t\right)t}{\Psi \left(t\right)}\le \underset{t>0}{\sup }\frac{\psi \left(t\right)t}{\Psi \left(t\right)}=:m_{\Psi }<l^{*}=\frac{lN}{N-l}$ ；

$\left(V_1\right)$ $V\in C\left({ℝ}^N\right)$， $V_0=\underset{{ℝ}^N}{\inf }V>0$ ；

$\left(V_2\right)$ 对所有的 $M>0$， $\mu \left(V^{-1}\left(-\infty ,M\right]\right)<\infty$，其中 $\mu$ 为 ${ℝ}^N$ 中的Lebesgue测度。

假设 $f:{ℝ}^N\times ℝ\to ℝ$ 是Carathéodory函数， $F\left(x,t\right)={\displaystyle {\int }_0^{t}f\left(x,s\right)\text{d}s}$， $t\in ℝ$，此外，f还满足以下条件：

$\left(f_1\right)$ 存在常数 $C>0$，使得

$\left|f\left(x,t\right)\right|\le C\left(1+\psi \left(t\right)\right)$， $t\in ℝ$， $x\in {ℝ}^N$ ；

$\left(f_2\right)$ $\underset{t\to 0}{\lim }\frac{f\left(x,t\right)}{\psi \left(t\right)}<\lambda$ 对几乎所有的 $x\in {ℝ}^N$ 一致成立；

$\left(f_3\right)$ $t\mapsto \frac{f\left(x,t\right)}{{\left|t\right|}^{m-2}t}$ 在 $ℝ\backslash \left\{0\right\}$ 上单调递增；

$\left(f_4\right)$ $\underset{\left|t\right|\to \infty }{\lim }\frac{f\left(x,t\right)}{{\left|t\right|}^{m-2}t}=+\infty$ 对几乎所有的 $x\in {ℝ}^N$ 一致成立。

注1.1在条件 $\left({\varphi }_3\right)$ 下，可以推出下面的不等式：

$l-\text{2}\le \underset{t>0}{\inf }\frac{{\varphi }^{\prime }\left(t\right)t}{\varphi \left(t\right)}\le \underset{t>0}{\sup }\frac{{\varphi }^{\prime }\left(t\right)t}{\varphi \left(t\right)}\le m-2$， $1<l:=\underset{t>0}{\inf }\frac{\varphi \left(t\right)t^2}{\Phi \left(t\right)}\le \underset{t>0}{\sup }\frac{\varphi \left(t\right)t^2}{\Phi \left(t\right)}=:m<N$。

注1.2经验证，下列函数满足条件 $\left({\varphi }_1\right)\text{-}\left({\varphi }_4\right)$ 和 $\left(f_1\right)\text{-}\left(f_4\right)$ ：

$\Phi \left(t\right)={\left|t\right|}^a\log \left(1+\left|t\right|\right)$， ${\psi }_1\left(t\right)=q{t}^{q-1}\log \left(1+t\right)+\frac{t^q}{t+1}$， $f\left(x,t\right)=\{\begin{array}{l}{\psi }_{\text{2}}\left(t\right),0<t<1,\\ d{\psi }_1\left(t\right),1<t<\infty .\end{array}$

与文献 [5] 相比，本文是在全空间中进行研究的，不满足Orlicz-Sobolev空间中的Poincaré不等式，另外，本文中的非线性项不满足(AR)条件(见文献 [6] )，为了克服这些困难，采用Nehari方法，需要证明Nehari流形是C¹的，再利用极小化方法得到解的存在性。

本文的主要结果如下：

定理1.1假设 $\left({\varphi }_1\right)\text{-}\left({\varphi }_3\right)$ 、 $\left(V_1\right)\text{-}\left(V_2\right)$ 和 $\left(f_1\right)\text{-}\left(f_4\right)$ 成立，则问题(1)在 $W_V^{1,\Phi }\left({ℝ}^N\right)$ 中存在非零基态解。

定理1.2设 $\left({\varphi }_1\right)\text{-}\left({\varphi }_4\right)$ 、 $\left(V_1\right)\text{-}\left(V_2\right)$ 和 $\left(f_1\right)\text{-}\left(f_4\right)$ 成立，则问题(1)至少有两个非平凡解 $u_1$ 和 $u_2$，且 $u_1\ge 0$， $u_2\le 0$。

2. 预备知识和基本引理

记 $L^{\Phi }\left(\Omega \right)=\left\{u:\Omega \to ℝ是可测的,{\displaystyle {\int }_{\Omega }\Phi \left(\left|u\left(x\right)\right|\right)\text{d}x<\infty }\right\}$，在Luxemburg范数

${\Vert u\Vert }_{\Phi }=\inf \left\{k>0|{\displaystyle {\int }_{\Omega }\Phi \left(\frac{\left|u\left(x\right)\right|}{k}\right)\text{d}x\le 1}\right\}$

的意义下， $L^{\Phi }\left(\Omega \right)$ 是一个Banach空间，通常称为Orlicz空间。Orlicz-Sobolev空间 $W^{1,\Phi }\left({ℝ}^N\right)$ 是 $C_0^{\infty }\left({ℝ}^N\right)$ 在范数 ${\Vert u\Vert }_1={\Vert \nabla u\Vert }_{\Phi }\text{+}{\Vert u\Vert }_{\Phi }$ 下的完备化。

为了研究问题(1)，在假设 $\left(V_1\right)$， $\left({\varphi }_1\right)$ 和 $\left({\varphi }_3\right)$ 成立的前提下，记 $W_V^{1,\Phi }\left({ℝ}^N\right)$ 为 $W^{1,\Phi }\left({ℝ}^N\right)$ 的子空间：

$W_V^{1,\Phi }\left({ℝ}^N\right)=\left\{u\in W^{1,\Phi }\left({ℝ}^N\right)|{\displaystyle {\int }_{{ℝ}^N}V\left(x\right)\Phi \left(\left|u\left(x\right)\right|\right)}<\infty \right\}$，

在 $W_V^{1,\Phi }\left({ℝ}^N\right)$ 上定义范数 $\Vert u\Vert ={\Vert \nabla u\Vert }_{\Phi }\text{+}{\Vert u\Vert }_{\Phi ,V}$，其中

${\Vert u\Vert }_{\Phi ,V}=\inf \left\{k>0|{\displaystyle {\int }_{{ℝ}^N}V\left(x\right)\Phi \left(\frac{\left|u\left(x\right)\right|}{k}\right)\text{d}x\le 1}\right\}$。

易知 $\left(W_V^{1,\Phi }\left({ℝ}^N\right),\Vert \cdot \Vert \right)$ 是可分的、自反的Banach空间(见 [7] )。

首先给出本文需要的几个基本引理。

引理2.1 [8] 假设 $\varphi$ 满足 $\left({\varphi }_1\right)\text{-}\left({\varphi }_3\right)$，对 $t\ge 0$，令

${\xi }_1\left(t\right)=\min \left\{t^{\mathcal{l}},t^m\right\}$， ${\xi }_2\left(t\right)=\max \left\{t^{\mathcal{l}},t^m\right\}$，

则对于任意 $\rho ,t>0$， $u\in L^{\Phi }\left({ℝ}^N\right)$，成立

${\xi }_1\left(t\right)\Phi \left(\rho \right)\le \Phi \left(\rho t\right)\le {\xi }_2\left(t\right)\Phi \left(\rho \right)$， ${\xi }_1\left({\Vert u\Vert }_{\Phi }\right)\le {\displaystyle {\int }_{{ℝ}^N}\Phi \left(\left|u\left(x\right)\right|\right)\text{d}x}\le {\xi }_2\left({\Vert u\Vert }_{\Phi }\right)$。

引理2.2 [9] 假设 $\left({\varphi }_1\right)\text{-}\left({\varphi }_3\right)$ 和 $\left(V_1\right)$ 条件成立，则对任意 $u\in W_V^{1,\Phi }\left({ℝ}^N\right)$，有

${\xi }_1\left({\Vert u\Vert }_{\Phi ,V}\right)\le {\displaystyle {\int }_{{ℝ}^N}V\left(x\right)\Phi \left(\left|u\left(x\right)\right|\right)\text{d}x}\le {\xi }_2\left({\Vert u\Vert }_{\Phi ,V}\right)$，

其中 ${\xi }_1\left(t\right)$ 和 ${\xi }_2\left(t\right)$ 由引理2.1中给出。

引理2.3 [8] 假设 $\left({\varphi }_1\right)\text{-}\left({\varphi }_3\right)$ 条件成立，对任意 $\rho ,t>0$， $u\in L^{\Psi }\left({ℝ}^N\right)$，

${\xi }_1\left(t\right)\Psi \left(\rho \right)\le \Psi \left(\rho t\right)\le {\xi }_2\left(t\right)\Psi \left(\rho \right)$， ${\xi }_1\left({\Vert u\Vert }_{\Psi }\right)\le {\displaystyle {\int }_{{ℝ}^N}\Psi \left(\left|u\left(x\right)\right|\right)\text{d}x}\le {\xi }_2\left({\Vert u\Vert }_{\Psi }\right)$，

其中 ${\xi }_1\left(t\right)$ 和 ${\xi }_2\left(t\right)$ 由引理2.1中给出。

引理2.4 [9] 假设 $\left({\varphi }_1\right)\text{-}\left({\varphi }_2\right)$ 、 $\left(V_1\right)$ 和 $\left(V_2\right)$ 条件成立， $\Psi$ 满足

$\overline{\underset{t\to 0}{\lim }}\frac{\Psi \left(t\right)}{\Phi \left(t\right)}<+\infty$， $\overline{\underset{\left|t\right|\to +\infty }{\lim }}\frac{\Psi \left(t\right)}{{\Phi }_{*}\left(t\right)}=0$，

那么 $W_V^{1,\Phi }\left({ℝ}^N\right)$ ↪↪ $L^{\Psi }\left({ℝ}^N\right)$，其中 ${\Phi }_{*}\left(t\right)$ 满足：当 $t\ge 0$ 时， ${\Phi }_{\ast }^{-1}\left(t\right)={\displaystyle {\int }_0^t\frac{{\Phi }^{-1}\left(s\right)}{s^{\left(N\text{+1}\right)/N}}\text{d}s}$， $t<0$ 时， ${\Phi }_{*}\left(t\right)={\Phi }_{*}\left(-t\right)$。特别地， $W_V^{1,\Phi }\left({ℝ}^N\right)$ ↪↪ $L^{\Phi }\left({ℝ}^N\right)$。

问题(1)所对应的能量泛函为

$I\left(u\right)={\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(\left|\nabla u\right|\right)+V\left(x\right)\Phi \left(\left|u\right|\right)\right)\text{d}x}-{\displaystyle {\int }_{{ℝ}^N}F\left(x,u\right)\text{d}x}$， $u\in W_V^{1,\Phi }\left({ℝ}^N\right)$， (3)

其中 $F\left(x,t\right)={\displaystyle {\int }_0^{t}f\left(x,s\right)\text{d}s}$， $s\in ℝ$。易知 $I\left(u\right)\in C^1$，且对任意 $\phi \in W_V^{1,\Phi }\left({ℝ}^N\right)$，成立

$\langle I^{\prime }\left(u\right),\phi \rangle ={\displaystyle {\int }_{{ℝ}^N}\left(\varphi \left(\left|\nabla u\right|\right)\nabla u\nabla \phi +V\left(x\right)\varphi \left(\left|u\right|\right)u\phi \right)\text{d}x}-{\displaystyle {\int }_{{ℝ}^N}f\left(x,u\right)\phi \text{d}x}$。

因此，寻找问题(1)的弱解等价于找泛函I的临界点。

如果问题(1)的弱解存在，那么它一定属于Nehari流形 $\mathcal{M}$ ：

$\mathcal{M}=\left\{u\in W_V^{1,\Phi }\left({ℝ}^N\right)\backslash \left\{0\right\}:\langle I^{\prime }\left(u\right),u\rangle =0\right\}$。

为探索泛函I在Nehari流形上的行为，我们将借助纤维映射进行分析。对 $u\in W_V^{1,\Phi }\left({ℝ}^N\right)$，定义纤

维映射 $h_u\left(t\right):t\to I\left(tu\right)\left(t>0\right)$ ：

$h_u\left(t\right)={\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(t\left|\nabla u\right|\right)+V\left(x\right)\Phi \left(t\left|u\right|\right)\right)\text{d}x}-{\displaystyle {\int }_{{ℝ}^N}F\left(x,tu\right)\text{d}x}$。

由 $\left({\varphi }_1\right)\text{-}\left({\varphi }_3\right)$ 条件可得纤维映射 $h_u\left(t\right)\in C^2$，且

${h^{\prime }}_u\left(t\right)={\displaystyle {\int }_{{ℝ}^N}t\left(\varphi \left(t\left|\nabla u\right|\right){\left|\nabla u\right|}^2+V\left(x\right)\varphi \left(t\left|u\right|\right)u^2\right)\text{d}x}-{\displaystyle {\int }_{{ℝ}^N}f}\left(x,tu\right)u\text{d}x$，

$\begin{array}{c}{h^{″}}_u\left(t\right)={\displaystyle {\int }_{{ℝ}^N}\left(t{\varphi }^{\prime }\left(t\left|\nabla u\right|\right){\left|\nabla u\right|}^3+\varphi \left(t\left|\nabla u\right|\right){\left|\nabla u\right|}^2\right)\text{d}x}\\ +{\displaystyle {\int }_{{ℝ}^N}\left(tV\left(x\right){\varphi }^{\prime }\left(t\left|u\right|\right){\left|u\right|}^3+V\left(x\right)\varphi \left(t\left|u\right|\right)u^2\right)\text{d}x}-{\displaystyle {\int }_{{ℝ}^N}{f}^{\prime }\left(x,tu\right)u^2\text{d}x}\end{array}$。

容易看出， $\mathcal{M}=\left\{u\in W_V^{1,\Phi }\left({ℝ}^N\right)\backslash \left\{0\right\}:{h^{\prime }}_u\left(1\right)=0\right\}$ ；若u是泛函I的局部极小(大)值，则 $h_u\left(t\right)$ 在 $t=1$ 处取得局部极小(大)值；对 $t>0$， $tu\in \mathcal{M}$ 当且仅当 ${h^{\prime }}_u\left(t\right)=0$。

3. 定理1.1的证明

本节的主要工作是证明定理1.1。

引理3.1假设 $\left(f_1\right)$ 和 $\left(f_2\right)$ 成立，若在 $W_V^{1,\Phi }\left({ℝ}^N\right)$ 中有 $u_n\rightharpoonup u$，则下列结论成立：

(1) ${\displaystyle {\int }_{{ℝ}^N}f\left(x,u_n\right)u_n\text{d}x}\to {\displaystyle {\int }_{{ℝ}^N}f\left(x,u\right)u\text{d}x}$ ；(2) ${\displaystyle {\int }_{{ℝ}^N}F\left(x,u_n\right)\text{d}x}\to {\displaystyle {\int }_{{ℝ}^N}F\left(x,u\right)\text{d}x}$。

证首先证明(1)。假设 $\left\{u_n\right\}$ 是 $W_V^{1,\Phi }\left({ℝ}^N\right)$ 中的序列，满足

$u_n\rightharpoonup u$ (在 $W_V^{1,\Phi }\left({ℝ}^N\right)$ 中)。

根据引理2.4，存在 $\left\{u_n\right\}$ 的一个子列(仍记为其本身)，使得

$u_n\to u$ (在 $L^{\Psi }\left({ℝ}^N\right)$ 中)。

那么存在 $\left\{u_n\right\}$ 的一个子列(仍记为其本身)，以及函数 $h\in L^{\Psi }\left({ℝ}^N\right)$，使得

$u_n\to u$ a.e. $x\in {ℝ}^N$， $\left|u_n\right|\le h$ a.e. $x\in {ℝ}^N$。

由 $\left(f_1\right)$ 和 $\left(a_1\right)$ 可得

$\left|f\left(x,u_n\right)u_n\right|\le C\left|u_n\right|+C\psi \left(u_n\right)\left|u_n\right|\le Ch+C\psi \left(h\right)h\le Ch+C{m}_{\Psi }\Psi \left(h\right)\in L^1\left({ℝ}^N\right)$。

由Lebesgue控制收敛定理，有

$\underset{n\to \infty }{\lim }{\displaystyle {\int }_{{ℝ}^N}f\left(x,u_n\right)u_n\text{d}x}={\displaystyle {\int }_{{ℝ}^N}f\left(x,u\right)u\text{d}x}$。

下面证明(2)。由 $\left(f_2\right)$ 可得

$\underset{t\to 0}{\lim }\frac{F\left(x,t\right)}{\Psi \left(t\right)}=\underset{t\to 0}{\lim }\frac{f\left(x,t\right)}{\psi \left(t\right)}<\lambda$。

对任意 $\epsilon >0$ 充分小，存在 $\delta >0$，成立

$\frac{\left|F\left(x,t\right)\right|}{\Psi \left(t\right)}<\lambda -\epsilon$， $x\in {ℝ}^N$， $\left|t\right|<\delta$。

因此

$\left|F\left(x,u_n\right)\right|<\left(\lambda -\epsilon \right)\left|\Psi \left(u_n\right)\right|\le \left(\lambda -\epsilon \right)\Psi \left(h\right)\in L^1\left({ℝ}^N\right)$。

由Lebesgue控制收敛定理，有 $\underset{n\to \infty }{\lim }{\displaystyle {\int }_{{ℝ}^N}F\left(x,u_n\right)\text{d}x}={\displaystyle {\int }_{{ℝ}^N}F\left(x,u\right)\text{d}x}$。证毕。

注3.1给定 $\epsilon >0$ 充分小，由 $\left(f_1\right)$ 和 $\left(f_2\right)$ 可知，存在常数 $C_{\epsilon }>0$，使得

$\left|f\left(x,t\right)\right|\le \left(\lambda -\epsilon \right)\left|\psi \left(t\right)\right|+C_{\epsilon }\psi \left(t\right)$， $t\in ℝ$，

从而

$\left|F\left(x,t\right)\right|\le \left(\lambda -\epsilon \right)\Psi \left(t\right)+C_{\epsilon }\Psi \left(t\right)$， $t\in ℝ$。 (4)

由 $\left(f_2\right)$ 和 $\left(a_1\right)$，可得

$\underset{t\to 0}{\lim \sup }\frac{f\left(x,t\right)t}{\Psi \left(t\right)}<\lambda m_{\Psi }$。 (5)

再根据 $\left(f_1\right)$ 和(5)可得

$\left|f\left(x,t\right)t\right|\le \left(\lambda m_{\Psi }-\epsilon \right)\Psi \left(t\right)+C_{\epsilon }\Psi \left(t\right)$， $t\in ℝ$。 (6)

分别对(4)和(6)关于x在 ${ℝ}^N$ 上积分，对 $\epsilon >0$ 充分小，存在 $C_{\epsilon }>0$，使得对任意 $u\in W_V^{1,\Phi }\left({ℝ}^N\right)$ 有

${\displaystyle {\int }_{{ℝ}^N}f\left(x,u\right)u\text{d}x}\le \left(\lambda m_{\Psi }-\epsilon \right){\displaystyle {\int }_{{ℝ}^N}\Psi \left(u\right)\text{d}x}+C_{\epsilon }{\displaystyle {\int }_{{ℝ}^N}\Psi \left(u\right)\text{d}x}$，

${\displaystyle {\int }_{{ℝ}^N}F\left(x,u\right)\text{d}x}\le \left(\lambda -\epsilon \right){\displaystyle {\int }_{{ℝ}^N}\Psi \left(u\right)\text{d}x}+C_{\epsilon }{\displaystyle {\int }_{{ℝ}^N}\Psi \left(u\right)\text{d}x}$。

利用引理2.1和引理2.4，对 $u\in W_V^{1,\Phi }\left({ℝ}^N\right)$，有

${\displaystyle {\int }_{{ℝ}^N}f\left(x,u\right)u\text{d}x}\le \left(\lambda m_{\Psi }-\epsilon \right)\max \left\{{\Vert u\Vert }^{l_{\Psi }},{\Vert u\Vert }^{m_{\Psi }}\right\}+C_{\epsilon }\max \left\{{\Vert u\Vert }^{l_{\Psi }},{\Vert u\Vert }^{m_{\Psi }}\right\}$， (7)

${\displaystyle {\int }_{{ℝ}^N}F\left(x,u\right)\text{d}x}\le \left(\lambda -\epsilon \right)\max \left\{{\Vert u\Vert }^{l_{\Psi }},{\Vert u\Vert }^{m_{\Psi }}\right\}+C_{\epsilon }\max \left\{{\Vert u\Vert }^{l_{\Psi }},{\Vert u\Vert }^{m_{\Psi }}\right\}$。 (8)

下面将研究纤维映射在无穷远处和原点附近的行为。

引理3.2 设 $\left({\varphi }_1\right)\text{-}\left({\varphi }_3\right)$ 、 $\left(V_1\right)\text{-}\left(V_2\right)$ 和 $\left(f_1\right)\text{-}\left(f_4\right)$ 成立，对 $u\in W_V^{1,\Phi }\left({ℝ}^N\right)\backslash \left\{0\right\}$，则成立：

(1) $\underset{t\to 0}{\lim }\frac{{h^{\prime }}_u\left(t\right)}{t^{m-1}}>0$， $\underset{t\to \infty }{\lim }\frac{{h^{\prime }}_u\left(t\right)}{t^{m-1}}=-\infty$ ；(2) $\underset{t\to 0}{\lim }\frac{h_u\left(t\right)}{t^m}>0$， $\underset{t\to \infty }{\lim }\frac{h_u\left(t\right)}{t^m}=-\infty$。

证 先证(1)。因为

${h^{\prime }}_u\left(t\right)={\displaystyle {\int }_{{ℝ}^N}t\left(\varphi \left(t\left|\nabla u\right|\right){\left|\nabla u\right|}^2+V\left(x\right)\varphi \left(t\left|u\right|\right)u^2\right)\text{d}x}-{\displaystyle {\int }_{{ℝ}^N}f\left(x,tu\right)u\text{d}x}$，

由注1.1，引理2.1以及(7)可得

$\begin{array}{c}t{h^{\prime }}_u\left(t\right)={\displaystyle {\int }_{{ℝ}^N}\left(\varphi \left(t\left|\nabla u\right|\right){\left|t\nabla u\right|}^2+V\left(x\right)\varphi \left(t\left|u\right|\right){\left|tu\right|}^2\right)\text{d}x}-{\displaystyle {\int }_{{ℝ}^N}f\left(x,tu\right)tu\text{d}x}\\ \ge l{\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(t\left|\nabla u\right|\right)+V\left(x\right)\Phi \left(t\left|u\right|\right)\right)\text{d}x}-{\displaystyle {\int }_{{ℝ}^N}f\left(x,tu\right)tu\text{d}x}\\ \ge l{t}^m{\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(\left|\nabla u\right|\right)+V\left(x\right)\Phi \left(\left|u\right|\right)\right)\text{d}x}-\left(\lambda m_{\Psi }-\epsilon +C_{\epsilon }\right)\max \left\{{\Vert tu\Vert }^{l_{\Psi }},{\Vert tu\Vert }^{m_{\Psi }}\right\}\end{array}$。

对任意 $u\in W_V^{1,\Phi }\left({ℝ}^N\right)\backslash \left\{0\right\}$，当 $0<t<1$ 时，有

$\frac{{h^{\prime }}_u\left(t\right)}{t^{m-1}}\ge l{\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(\left|\nabla u\right|\right)+V\left(x\right)\Phi \left(\left|u\right|\right)\right)\text{d}x}-\left(\lambda m_{\Psi }-\epsilon +C_{\epsilon }\right)\frac{\max \left\{{\Vert tu\Vert }^{l_{\Psi }},{\Vert tu\Vert }^{m_{\Psi }}\right\}}{t^m}$。

由于 $m<l_{\Psi }$，于是 $\frac{{h^{\prime }}_u\left(t\right)}{t^{m-1}}\ge l{\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(\left|\nabla u\right|\right)+V\left(x\right)\Phi \left(\left|u\right|\right)\right)\text{d}x}+o\left(1\right)$，故 $\underset{t\to 0}{\lim }\frac{{h^{\prime }}_u\left(t\right)}{t^{m-1}}>0$。

进一步，根据引理2.1，当 $t>1$ 时，有

$\begin{array}{c}t{h^{\prime }}_u\left(t\right)={\displaystyle {\int }_{{ℝ}^N}\left(\varphi \left(t\left|\nabla u\right|\right){\left|t\nabla u\right|}^2+V\left(x\right)\varphi \left(\left|tu\right|\right){\left|tu\right|}^2\right)\text{d}x}-{\displaystyle {\int }_{{ℝ}^N}f\left(x,tu\right)tu\text{d}x}\\ \le m{t}^m{\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(\left|\nabla u\right|\right)+V\left(x\right)\Phi \left(\left|u\right|\right)\right)\text{d}x}-{\displaystyle {\int }_{{ℝ}^N}f\left(x,tu\right)tu\text{d}x}\end{array}$。

所以 $\frac{{h^{\prime }}_u\left(t\right)}{t^{m-1}}\le m{\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(\left|\nabla u\right|\right)+V\left(x\right)\Phi \left(\left|u\right|\right)\right)\text{d}x}-\frac{1}{t^m}{\displaystyle {\int }_{{ℝ}^N}f\left(x,tu\right)tu\text{d}x}$。利用 $\left(f_4\right)$ 可得

$\underset{t\to \infty }{\lim \inf }{\displaystyle {\int }_{{ℝ}^N}\frac{f\left(x,tu\right)tu}{t^m}\text{d}x}=\underset{t\to \infty }{\lim \inf }{\displaystyle {\int }_{{ℝ}^N}\frac{f\left(x,tu\right)}{{\left|tu\right|}^{m-2}tu}{\left|u\right|}^m\text{d}x}=+\infty$。

由Fatou引理，结合上式，有

$\underset{t\to \infty }{\lim }\frac{{h^{\prime }}_u\left(t\right)}{t^{m-1}}\le m{\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(\left|\nabla u\right|\right)+V\left(x\right)\Phi \left(\left|u\right|\right)\right)\text{d}x}-\underset{t\to \infty }{\lim \inf }{\displaystyle {\int }_{{ℝ}^N}\frac{f\left(x,tu\right)tu}{t^m}\text{d}x}=-\infty$。

结论(2)可以根据L’Hospital法则得到。证毕。

引理3.3 设 $\left({\varphi }_1\right)\text{-}\left({\varphi }_3\right)$ 和 $\left(V_1\right)$ 成立，则

$u\in W_V^{1,\Phi }\left({ℝ}^N\right)\mapsto {\displaystyle {\int }_{{ℝ}^N}\left(\varphi \left(\left|\nabla u\right|\right){\left|\nabla u\right|}^2+V\left(x\right)\varphi \left(\left|u\right|\right)u^2\right)\text{d}x}$

和

$u\in W_V^{1,\Phi }\left({ℝ}^N\right)\mapsto {\displaystyle {\int }_{{ℝ}^N}\left(m\Phi \left(\left|\nabla u\right|\right)-\varphi \left(\left|\nabla u\right|\right){\left|\nabla u\right|}^2+V\left(x\right)\left(m\Phi \left(\left|u\right|\right)-\varphi \left(\left|u\right|\right)u^2\right)\right)\text{d}x}$

都是弱下半连续的。

证 此引理的证明是初等的，此处从略。

引理3.4假设 $\left({\varphi }_1\right)\text{-}\left({\varphi }_3\right)$ 、 $\left(V_2\right)$ 和 $\left(f_1\right)\text{-}\left(f_4\right)$ 成立，那么对 $u\in W_V^{1,\Phi }\left({ℝ}^N\right)\backslash \left\{0\right\}$，存在唯一的

$t_{\max }\left(u\right)>0$，使得 $t_{\max }\left(u\right)u\in \mathcal{M}$，并且对任意 $u\in \mathcal{M}$，有 $I\left(u\right)>0$。

证设 $u\in W_V^{1,\Phi }\left({ℝ}^N\right)\backslash \left\{0\right\}$，根据引理3.2知，当t足够小， ${h^{\prime }}_u\left(t\right)>0$ ；当t足够大， ${h^{\prime }}_u\left(t\right)<0$，则 ${h^{\prime }}_u\left(t\right)$ 至少存在 $t_{\max }\left(u\right)\in \left(0,\infty \right)$，使得 ${h^{\prime }}_u\left(t_{\max }\left(u\right)\right)=0$，从而 $t_{\max }\left(u\right)u\in \mathcal{M}$。

下面证明 $t_{\max }\left(u\right)$ 是唯一的。事实上，由注1.1，对任意 $x\in {ℝ}^N$， $t>0$，有

$\frac{\text{d}}{\text{d}t}\left(\frac{\varphi \left(t\left|\nabla u\right|\right)\nabla \left(tu\right)\nabla u}{t^{m-1}}\right)=\frac{{\left|\nabla u\right|}^2\left({\varphi }^{\prime }\left(t\left|\nabla u\right|\right)\left|\nabla \left(tu\right)\right|-\left(m-2\right)\varphi \left(t\left|\nabla u\right|\right)\right)}{t^{m-1}}\le 0$。 (9)

同理可得

$\frac{\text{d}}{\text{d}t}\left(\frac{V\left(x\right)\varphi \left(t\left|u\right|\right)t{u}^2}{t^{m-1}}\right)=\frac{u^2\left({\varphi }^{\prime }\left(t\left|u\right|\right)\left|tu\right|-\left(m-2\right)V\left(x\right)\varphi \left(t\left|u\right|\right)\right)}{t^{m-1}}\le 0$。 (10)

由 ${h^{\prime }}_u\left(t\right)=\langle I^{\prime }\left(tu\right),u\rangle$，结合(3.6)、(3.7)和 $\left(f_3\right)$，对任意 $t>0$， $u\in W_V^{1,\Phi }\left({ℝ}^N\right)\backslash \left\{0\right\}$，

$\frac{\text{d}}{\text{d}t}\left(\frac{{h^{\prime }}_u\left(t\right)}{t^{m-1}}\right)\le -{\displaystyle {\int }_{{ℝ}^N}\frac{\text{d}}{\text{d}t}}\left(\frac{f\left(x,tu\right)}{{\left|tu\right|}^{m-2}tu}\right){\left|u\right|}^m\text{d}x<0$。 (11)

因此， $t\mapsto \frac{{h^{\prime }}_u\left(t\right)}{t^{m-1}}$ 在 $\left(0,\infty \right)$ 上是递减函数，从而 ${h^{\prime }}_u\left(t\right)$ 有唯一的极大值点 $t_{\max }\left(u\right)>0$，并且

$t_{\max }\left(u\right)u\in \mathcal{M}$，由(11)式可知，对任意 $u\in W_V^{1,\Phi }\left({ℝ}^N\right)\backslash \left\{0\right\}$， $t>0$，有 ${h^{″}}_u\left(t\right)<0$。根据引理3.2(1)知 $h\left(t_{\max }\left(u\right)\right)>0$，故 $I\left(t_{\max }\left(u\right)u\right)>0$。因为 $u\in \mathcal{M}$ 当且仅当 $t_{\max }\left(u\right)=1$，故对任意 $u\in \mathcal{M}$，有 $I\left(u\right)>0$。证毕。

引理3.5设 $\left({\varphi }_1\right)\text{-}\left({\varphi }_3\right)$ 和 $\left(V_2\right)$ 成立，定义 $J:W_V^{1,\Phi }\left({ℝ}^N\right)\to ℝ$ ：

$J\left(u\right)={\displaystyle {\int }_{{ℝ}^N}\left(\varphi \left(\left|\nabla u\right|\right){\left|\nabla u\right|}^2+V\left(x\right)\varphi \left(\left|u\right|\right)u^2\right)\text{d}x}$，

则 $J\left(u\right)$ 是 $C^1$ 的，且

$\langle J^{\prime }\left(u\right),v\rangle ={\displaystyle {\int }_{{ℝ}^N}\left(2\varphi \left(\left|\nabla u\right|\right)+{\varphi }^{\prime }\left(\left|\nabla u\right|\right)\left|\nabla u\right|\right)\nabla u\nabla v\text{d}x}+{\displaystyle {\int }_{{ℝ}^N}V\left(x\right)\left(2\varphi \left(\left|u\right|\right)+{\varphi }^{\prime }\left(\left|u\right|\right)\left|u\right|\right)uv\text{d}x}$， $u,v\in W_V^{1,\Phi }\left({ℝ}^N\right)$。

证 此证明是基本的，这里略去。

引理3.6设 $\left({\varphi }_1\right)\text{-}\left({\varphi }_3\right)$ 、 $\left(V_2\right)$ 和 $\left(f_1\right)\text{-}\left(f_4\right)$ 成立，那么 $\mathcal{M}$ 是 $W_V^{1,\Phi }\left({ℝ}^N\right)$ 的 $C^1$ 子流形，并且泛函I在 $\mathcal{M}$ 的临界点是I在 $W_V^{1,\Phi }\left({ℝ}^N\right)$ 上的临界点。

证 由 $h_u\left(t\right)$ 的定义知，对 $u\in W_V^{1,\Phi }\left({ℝ}^N\right)\backslash \left\{0\right\}$， ${h^{\prime }}_u\left(t\right)=\langle I^{\prime }\left(tu\right),u\rangle$。定义函数 $G\left(u\right):=\langle I^{\prime }\left(u\right),u\rangle$，根据引理3.5，对任意 $u\in W_V^{1,\Phi }\left({ℝ}^N\right)\backslash \left\{0\right\}$，知 $G\in C^1$。由引理3.4的证明过程可得， $h_u\left(t\right)$ 在 $t=1$ 处取得全局极大值，且当 $t>0$ 时，对任意 $u\in W_V^{1,\Phi }\left({ℝ}^N\right)\backslash \left\{0\right\}$，有 ${h^{″}}_u\left(t\right)<0$，因此

$G^{\prime }\left(u\right)=I^{″}\left(u\right)\cdot \left(u,u\right)+\langle I^{\prime }\left(u\right),u\rangle ={h^{″}}_u\left(1\right)<0$， $\forall u\in \mathcal{M}$。

因为 $\mathcal{M}=G^{-1}\left(0\right)$，且0是 $G\left(u\right)$ 的正则值，所以 $\mathcal{M}$ 是 $W_V^{1,\Phi }\left({ℝ}^N\right)$ 的 $C^1$ 子流形。

不失一般性，假设 $u_0$ 是I在 $\mathcal{M}$ 中的局部极小值点，那么 $u_0$ 也是下列极小化问题的解

$\{\begin{array}{l}\min I\left(u\right)\\ h\left(u\right)=0\end{array}$。

因此，由Lagrange乘数定理，存在Lagrange乘子 ${\mu }_1\in ℝ$，使得

$I^{\prime }\left(u_0\right)={\mu }_1{G}^{\prime }\left(u_0\right)$。

于是

$\langle I^{\prime }\left(u_0\right),u_0\rangle ={\mu }_1\langle G^{\prime }\left(u_0\right),u_0\rangle =0$。

由于

$\langle G^{\prime }\left(u_0\right),u_0\rangle ={h^{″}}_u\left(1\right)<0$， $\forall u_0\in M$。

所以 $\mu =0$，从而 $I^{\prime }\left(u_0\right)=0$，故 $u_0$ 是I的极小值点。证毕。

引理3.7设 $\left({\varphi }_1\right)\text{-}\left({\varphi }_3\right)$ 、 $\left(V_2\right)$ 和 $\left(f_1\right)\text{-}\left(f_4\right)$ 成立，那么存在常数 $C>0$，使得对任意 $u\in \mathcal{M}$，有 $\Vert u\Vert >C$。

证 反证。假设存在 $\left\{u_n\right\}\subset \mathcal{M}$，对任意整数 $n\ge 1$，有 $\Vert u_n\Vert \le \frac{1}{n}$。给定 $\epsilon >0$，由(3.4)知，存在 $C_{\epsilon }>0$，使得

$\begin{array}{l}{\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(\left|\nabla u_n\right|\right)+V\left(x\right)\Phi \left(\left|u_n\right|\right)\right)\text{d}x}\\ \le \frac{1}{l}{\displaystyle {\int }_{{ℝ}^N}\left(\varphi \left(\left|\nabla u_n\right|\right)\nabla u_n^2+V\left(x\right)\varphi \left(\left|u_n\right|\right)u_n^2\right)\text{d}x}\\ =\frac{1}{l}{\displaystyle {\int }_{{ℝ}^N}f\left(x,u_n\right)u_n\text{d}x}\\ \le \frac{1}{l}\left(\lambda m_{\Psi }-\epsilon \right){\displaystyle {\int }_{{ℝ}^N}\Psi \left(\left|u_n\right|\right)\text{d}x}+\frac{C_{\epsilon }}{l}{\displaystyle {\int }_{{ℝ}^N}\Psi \left(\left|u_n\right|\right)\text{d}x}\\ \le \frac{1}{l}\left(\lambda m_{\Psi }-\epsilon \right)\max \left\{{\Vert u_n\Vert }^{l_{\Psi }},{\Vert u_n\Vert }^{m_{\Psi }}\right\}+\frac{C_{\epsilon }}{l}\max \left\{{\Vert u_n\Vert }^{l_{\Psi }},{\Vert u_n\Vert }^{m_{\Psi }}\right\}\\ =C_1\max \left\{{\Vert u_n\Vert }^{l_{\Psi }},{\Vert u_n\Vert }^{m_{\Psi }}\right\}+C_2\max \left\{{\Vert u_n\Vert }^{l_{\Psi }},{\Vert u_n\Vert }^{m_{\Psi }}\right\}\end{array}$

不妨假设 ${\Vert \nabla u_n\Vert }_{\Phi }\ge {\Vert u_n\Vert }_{\Phi ,V}$，则有 ${\Vert \nabla u_n\Vert }_{\Phi }\ge \frac{1}{2}\Vert u_n\Vert$， $n=1,2,\cdots$，因此

$\begin{array}{l}{\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(\left|\nabla u_n\right|\right)+V\left(x\right)\Phi \left(\left|u_n\right|\right)\right)\text{d}x}\\ \ge \min \left\{{\Vert \nabla u_n\Vert }_{\Phi }^l,{\Vert \nabla u_n\Vert }_{\Phi }^m\right\}\ge {\left(\frac{1}{2}\right)}^m\min \left\{{\Vert u_n\Vert }^l,{\Vert u_n\Vert }^m\right\}={\left(\frac{1}{2}\right)}^m{\Vert u_n\Vert }^m\end{array}$

所以

${\left(\frac{1}{2}\right)}^m{\Vert u_n\Vert }^m\le {\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(\left|\nabla u_n\right|\right)+V\left(x\right)\Phi \left(\left|u_n\right|\right)\right)\text{d}x}\le C{\Vert u_n\Vert }^{l_{\Psi }}+C_2{\Vert u_n\Vert }^{l_{\Psi }}\le C_3{\Vert u_n\Vert }^{l_{\Psi }}$，

其中 $C_1$ 、 $C_2$ 和 $C_3$ 是大于0的常数，进一步有 $1<C_3{\Vert u_n\Vert }^{l_{\Psi }-m}$。由于 $l_{\Psi }>m$。两边取极限，当 $n\to \infty$

时，上式与 $\Vert u_n\Vert \le \frac{1}{n}$ 相矛盾，所以Nehari流形中元素的范数有正下界。证毕。

令 $C_{\mathcal{M}}=\underset{u\in \mathcal{M}}{\inf }I\left(u\right)$，首先证明I的任何极小化序列在 $W_V^{1,\Phi }\left({ℝ}^N\right)$ 上是有界的。

引理3.8假设 $\left({\varphi }_1\right)\text{-}\left({\varphi }_3\right)$ 、 $\left(V_1\right)\text{-}\left(V_2\right)$ 和 $\left(f_1\right)\text{-}\left(f_4\right)$ 成立，设 $\left\{u_n\right\}$ 是泛函I在Nehari流形 $\mathcal{M}$ 中的极小化序列，那么 $\left\{u_n\right\}$ 在 $W_V^{1,\Phi }\left({ℝ}^N\right)$ 中有界。

证反证。如果 $\left\{u_n\right\}$ 在 $W_V^{1,\Phi }\left({ℝ}^N\right)$ 中无界，则存在子序列(仍记为其本身)，使得

$\underset{n\to \infty }{\lim }\Vert u_n\Vert =\infty$，且 $\Vert u_n\Vert >1$， $\forall n\in N$。

因为 $\left\{u_n\right\}\subset \mathcal{M}$ 是 $I\left(u\right)$ 的极小化序列，故 $\underset{n\to \infty }{\lim }I\left(u_n\right)=\underset{u\in \mathcal{M}}{\inf }I\left(u\right)$，且

$\frac{I\left(u_n\right)}{{\Vert u_n\Vert }^m}=o_n\left(1\right)$。

令 $v_n=\frac{u_n}{\Vert u_n\Vert }$， $n=1,2,\cdots$，则 $\left\{v_n\right\}\subset W_V^{1,\Phi }\left({ℝ}^N\right)$，且 $\Vert v_n\Vert =1$， $\forall n\in N$。因此存在 $W_V^{1,\Phi }\left({ℝ}^N\right)$ 中的元素v，使得 $v_n\rightharpoonup v$ (在 $W_V^{1,\Phi }\left({ℝ}^N\right)$ 中)。

我们断言 $v\ne 0$。事实上，假设 $v\equiv 0$，因为 $\left\{u_n\right\}\subset \mathcal{M}$，则

$I\left(u_n\right)=\underset{t>0}{\max }I\left(t{u}_n\right)$， $\forall n\in N$。

设常数 $z>0$，则

$C_M+o_n\left(1\right)\ge I\left(z{v}_n\right)={\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(z\left|\nabla v_n\right|\right)+V\left(x\right)\Phi \left(z\left|v_n\right|\right)\right)\text{d}x}-{\displaystyle {\int }_{{ℝ}^N}F\left(x,z{v}_n\right)\text{d}x}$。

由于在 $W_V^{1,\Phi }\left({ℝ}^N\right)$ 中有 $v_n\rightharpoonup 0$，根据引理3.1(2)知 ${\displaystyle {\int }_{{ℝ}^N}F\left(x,z{v}_n\right)\text{d}x}\to 0$。不妨假设 ${\Vert \nabla v_n\Vert }_{\Phi }\ge {\Vert v_n\Vert }_{\Phi ,V}$，则有 ${\Vert \nabla v_n\Vert }_{\Phi }\ge \frac{1}{2}\Vert v_n\Vert$， $n=1,2,\cdots$。由引理2.1和引理2.2，得到

$\begin{array}{c}{C}_M+o_n\left(1\right)=I\left(u_n\right)\ge {\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(z\left|\nabla v_n\right|\right)+V\left(x\right)\Phi \left(z\left|v_n\right|\right)\right)\text{d}x}+o_n\left(1\right)\\ \ge \min \left\{{\Vert z\nabla v_n\Vert }_{\Phi }^l,{\Vert z\nabla v_n\Vert }_{\Phi }^m\right\}+\min \left\{{\Vert z{v}_n\Vert }_{\Phi ,V}^l,{\Vert z{v}_n\Vert }_{\Phi ,V}^m\right\}+o_n\left(1\right)\\ \ge \min \left\{{\Vert z\nabla v_n\Vert }_{\Phi }^l,{\Vert z\nabla v_n\Vert }_{\Phi }^m\right\}+o_n\left(1\right)\\ \ge \min \left\{{\Vert \frac{1}{2}z{v}_n\Vert }^l,{\Vert \frac{1}{2}z{v}_n\Vert }^m\right\}+o_n(\; 1\; )\end{array}$

对上述不等式两边取极限，则 $C_{\mathcal{M}}\ge \min \left\{{\left(\frac{1}{2}z\right)}^l,{\left(\frac{1}{2}z\right)}^m\right\}$， $z>0$。得到矛盾，故 $v\ne 0$。

令 $n\to \infty$，由引理2.1，

$\begin{array}{c}{\displaystyle {\int }_{{ℝ}^N}\frac{F\left(x,u_n\right)}{{\Vert u_n\Vert }^m}\text{d}x}=\frac{1}{{\Vert u_n\Vert }^m}{\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(\left|\nabla u_n\right|\right)+V\left(x\right)\Phi \left(\left|u_n\right|\right)\right)\text{d}x}+o_n\left(1\right)\\ \le {\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(\left|\nabla v_n\right|\right)+V\left(x\right)\Phi \left(\left|v_n\right|\right)\right)\text{d}x}+o_n\left(1\right)\\ \le \max \left\{{\Vert \nabla v_n\Vert }_{\Phi }^l,{\Vert \nabla v_n\Vert }_{\Phi }^m\right\}+\max \left\{{\Vert v_n\Vert }_{\Phi ,V}^l,{\Vert v_n\Vert }_{\Phi ,V}^m\right\}+o_n\left(1\right)\\ ={\Vert \nabla v_n\Vert }_{\Phi }^l+{\Vert v_n\Vert }_{\Phi ,V}^l+o_n\left(1\right)\\ \le \Vert v_n\Vert +o_n\left(1\right)=1+o_n(\; 1\; )\end{array}$

得到

$\underset{n\to \infty }{\lim \sup }{\displaystyle {\int }_{{ℝ}^N}\frac{F\left(x,u_n\right)}{{\Vert u_n\Vert }^m}\text{d}x}\le 1$。

另一方面，根据Fatou引理和 $\left(f_4\right)$，注意到 $v\ne 0$，则

$\underset{n\to \infty }{\lim \inf }{\displaystyle {\int }_{{ℝ}^N}\frac{F\left(x,u_n\right)}{{\Vert u_n\Vert }^m}\text{d}x}\ge {\displaystyle {\int }_{{ℝ}^N}\underset{n\to \infty }{\lim \inf }\frac{F\left(x,u_n\right)}{{\Vert u_n\Vert }^m}\text{d}x}={\displaystyle {\int }_{{ℝ}^N}\underset{n\to \infty }{\lim \inf }\frac{F\left(x,u_n\right)}{{\left|u_n\right|}^m}{\left|v_n\right|}^m\text{d}x=+\infty }$，

矛盾，因此 $\left\{u_n\right\}$ 在 $W_V^{1,\Phi }\left({ℝ}^N\right)$ 中有界。证毕。

引理3.9设 $\left({\varphi }_1\right)\text{-}\left({\varphi }_3\right)$ 、 $\left(V_1\right)\text{-}\left(V_2\right)$ 和 $\left(f_1\right)\text{-}\left(f_4\right)$ 成立，则存在 $u\in \mathcal{M}$，使得 $C_{\mathcal{M}}=I\left(u\right)>0$。

证设 $\left\{u_n\right\}$ 是泛函I在 $\mathcal{M}$ 中的极小化序列，由引理3.8， $\left\{u_n\right\}$ 在 $W_V^{1,\Phi }\left({ℝ}^N\right)$ 中有界，从而存在 $u\in W_V^{1,\Phi }\left({ℝ}^N\right)$，使得 $u_n\rightharpoonup u$ (在 $W_V^{1,\Phi }\left({ℝ}^N\right)$ 中)。

易见 $u\cancel{\equiv }0$。事实上，假设 $u\equiv 0$，对 $\left\{u_n\right\}\subset \mathcal{M}$，有

$\begin{array}{c}0\le {\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(\left|\nabla u_n\right|\right)+V\left(x\right)\Phi \left(\left|u_n\right|\right)\right)\text{d}x}\\ \le \frac{1}{l}{\displaystyle {\int }_{{ℝ}^N}\left(\varphi \left(\left|\nabla u_n\right|\right){\left|\nabla u_n\right|}^2+V\left(x\right)\varphi \left(\left|u_n\right|\right)u_n^2\right)\text{d}x}\\ =\frac{1}{l}{\displaystyle {\int }_{{ℝ}^N}f\left(x,u_n\right)u_n\text{d}x}\end{array}$ (12)

根据引理3.1(1)可得 ${\displaystyle {\int }_{{ℝ}^N}f\left(x,u_n\right)u_n\text{d}x}=o_n\left(1\right)$，结合12(3.9)式，则有 $\Vert u_n\Vert \to 0$ ( $n\to \infty$ )，这与引理3.7

中的结论 $\Vert u\Vert >C$ 相矛盾，故 $u\cancel{\equiv }0$。

由引理3.3(1)和引理3.1(2)知， $u\in W_V^{1,\Phi }\left({ℝ}^N\right)\mapsto \langle I^{\prime }\left(u\right),u\rangle$ 是弱下半连续的，故

$\langle I^{\prime }\left(u\right),u\rangle \le \underset{n\to \infty }{\lim \inf }\langle I^{\prime }\left(u_n\right),u_n\rangle =0$。

从而 ${h^{\prime }}_u\left(1\right)=\langle I^{\prime }\left(u\right),u\rangle \le 0$，根据引理3.4及其证明过程知，存在 $t\in \left(0,1\right]$ 使得 ${h^{\prime }}_u\left(tu\right)=0$，故 $tu\in \mathcal{M}$。

我们断言当 $t=1$ 时， $u\in \mathcal{M}$。反证。假设 $t\in \left(0,1\right)$，则

$\begin{array}{c}{C}_{\mathcal{M}}\le I\left(tu\right)=I\left(tu\right)-\frac{1}{m}\langle I^{\prime }\left(tu\right),tu\rangle \\ ={\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(t\left|\nabla u\right|\right)-\frac{1}{m}\varphi \left(t\left|\nabla u\right|\right)t^2{\left|\nabla u\right|}^2+V\left(x\right)\Phi \left(t\left|u\right|\right)-\frac{1}{m}V\left(x\right)\varphi \left(t\left|u\right|\right)t^2{u}^2\right)\text{d}x}\\ +{\displaystyle {\int }_{{ℝ}^N}\left(\frac{1}{m}f\left(x,tu\right)tu-F\left(x,tu\right)\right)\text{d}x}\end{array}$ (13)

由 $\left(f_1\right)$ 可得

$\frac{\text{d}}{\text{d}t}\left\{\frac{1}{m}f\left(x,t\right)t-F\left(x,t\right)\right\}=\frac{t^m}{m}\cdot \frac{\text{d}}{\text{d}t}\left\{\frac{f\left(x,t\right)}{t^{m-1}}\right\}>0$，

故对任意 $x\in {ℝ}^N$， $t\mapsto \frac{1}{m}f\left(x,t\right)t-F\left(x,t\right)$ 在 $\left(0,\infty \right)$ 上递增。利用 $\left({\varphi }_3\right)$，通过简单计算可以得到

$t\mapsto \Phi \left(t\left|\nabla u\right|\right)-\frac{1}{m}\varphi \left(t\left|\nabla u\right|\right)t^2{\left|\nabla u\right|}^2+V\left(x\right)\Phi \left(t\left|u\right|\right)-\frac{1}{m}V\left(x\right)\varphi \left(t\left|u\right|\right)t^2{u}^2$

在 $\left(0,\infty \right)$ 上递增。由(12)和(13)可得

$\begin{array}{c}{C}_M<{\displaystyle {\int }_{R^N}\left(\Phi \left(\left|\nabla u\right|\right)-\frac{1}{m}\varphi \left(\left|\nabla u\right|\right){\left|\nabla u\right|}^2\right)\text{d}x}\\ +{\displaystyle {\int }_{R^N}\left(V\left(x\right)\Phi \left(\left|u\right|\right)-\frac{1}{m}V\left(x\right)\varphi \left(\left|u\right|\right)u^2\right)\text{d}x}\\ +{\displaystyle {\int }_{{ℝ}^N}\left(\frac{1}{m}f\left(x,u\right)u-F\left(x,u\right)\right)\text{d}x}\end{array}$

根据引理3.3(2)和引理3.1，

$\begin{array}{c}{C}_M<\underset{n\to \infty }{\lim }{\displaystyle {\int }_{R^N}\left(\Phi \left(\left|\nabla u_n\right|\right)-\frac{1}{m}\varphi \left(\left|\nabla u_n\right|\right){\left|\nabla u_n\right|}^2\right)\text{d}x}\\ +{\displaystyle {\int }_{R^N}\left(V\left(x\right)\Phi \left(\left|u_n\right|\right)-\frac{1}{m}V\left(x\right)\varphi \left(\left|u_n\right|\right)u_n^2\right)\text{d}x}\\ +{\displaystyle {\int }_{{ℝ}^N}\left(\frac{1}{m}f\left(x,u_n\right)u_n-F\left(x,u_n\right)\right)\text{d}x}\\ =\underset{n\to \infty }{\lim }\left(I\left(u_n\right)-\frac{1}{m}{I}^{\prime }\left(u_n\right)u_n\right)=C_M\end{array}$

上式是一个矛盾的结论，故 $t=1$，且 $u\in \mathcal{M}$。证毕。

定理1.1的证明 设 $\left\{u_n\right\}$ 是泛函在流形 $\mathcal{M}$ 中的极小化序列，由引理3.8知，存在流形 $\mathcal{M}$ 中的元素u，使得 $u_n\rightharpoonup u$。由引理2.4可得在 $L^{\Phi }\left({ℝ}^N\right)$ 中有 $u_n\to u$。

下面的证明分为两步：第一步证明在 $W_V^{1,\Phi }\left({ℝ}^N\right)$ 中有 $u_n\to u$ ；第二步证明u是泛函I在 $W_V^{1,\Phi }\left({ℝ}^N\right)$ 中的临界点。

第一步：反证。存在 ${\delta }_1>0$，使得

$\underset{n\to \infty }{\lim \inf }{\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(\left|\nabla u_n-\nabla u\right|\right)+V\left(x\right)\Phi \left(\left|u_n-u\right|\right)\right)\text{d}x}\ge {\delta }_1>0$。 (14)

根据Brezis-Lieb引理(见文献 [10] )有

$\begin{array}{l}\underset{n\to \infty }{\lim \inf }{\displaystyle {\int }_{{ℝ}^N}\left(\left(\Phi \left(\left|\nabla u_n\right|\right)-\Phi \left(\left|\nabla u_n-\nabla u\right|\right)\right)+V(x)\left(\Phi \left(\left|u_n\right|\right)-\Phi \left(\left|u_n-u\right|\right)\right)\right)\text{d}x}\\ ={\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(\left|u\right|\right)+V\left(x\right)\Phi \left(\left|u\right|\right)\right)\text{d}x}\end{array}$。 (15)

由(14)和(15)可得

$\begin{array}{c}{\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(\left|\nabla u\right|\right)+V\left(x\right)\Phi \left(\left|u\right|\right)\right)\text{d}x}\le \underset{n\to \infty }{\lim }{\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(\left|\nabla u_n\right|\right)+V\left(x\right)\Phi \left(\left|u_n\right|\right)\right)\text{d}x}-{\delta }_1\\ <\underset{n\to \infty }{\lim }{\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(\left|\nabla u_n\right|\right)+V\left(x\right)\Phi \left(\left|u_n\right|\right)\right)\text{d}x}\end{array}$。

再根据Lebesgue控制收敛定理，有

$C_{\mathcal{M}}=\underset{n\to \infty }{\lim }I\left(u_n\right)=\underset{n\to \infty }{\lim }\left\{{\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(\left|\nabla u_n\right|\right)+V\left(x\right)\Phi \left(\left|u_n\right|\right)\right)\text{d}x}-{\displaystyle {\int }_{{ℝ}^N}F\left(x,u_n\right)\text{d}x}\right\}>I\left(u\right)$。

上式是一个矛盾结论，故在 $W_V^{1,\Phi }\left({ℝ}^N\right)$ 中有 $u_n\to u$。

第二步：因为 $I\left(u\right)\in C^1$，故 $I^{\prime }\left(u_n\right)\to I^{\prime }\left(u\right)$。根据引理3.9知， $u\in \mathcal{M}$，且

$C_{\mathcal{M}}=I\left(u\right)=\underset{u\in \mathcal{M}}{\min }I\left(u\right)>0$。

由引理3.6可得 $\mathcal{M}$ 是 $W_V^{1,\Phi }\left({ℝ}^N\right)$ 的 $C^1$ 的子流形，故u是泛函I在流形 $\mathcal{M}$ 中的临界点，从而u是泛函I在 $W_V^{1,\Phi }\left({ℝ}^N\right)$ 中的临界点。

4. 定理1.2的证明

考虑截断函数 $f_{\pm }:{ℝ}^N\times ℝ\to ℝ$，

$f_{+}\left(x,t\right)=\{\begin{array}{l}f\left(x,t\right),t\ge 0,\\ 0,t<0,\end{array}$ $f_{-}\left(x,t\right)=\{\begin{array}{l}f\left(x,t\right),t\le 0,\\ 0,t>0,\end{array}$

显然 $f_{\pm }$ 都是连续的，那么对应的能量泛函为 $I_{\pm }:W_V^{1,\Phi }\left({ℝ}^N\right)\to ℝ$，

$I_{\pm }\left(u\right)={\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(\left|\nabla u\right|\right)+V\left(x\right)\Phi \left(\left|u\right|\right)\right)\text{d}x}-{\displaystyle {\int }_{{ℝ}^N}{F}_{\pm }\left(x,u\right)\text{d}x}$， $u\in W_V^{1,\Phi }\left({ℝ}^N\right)$，

其中 $F_{\pm }\left(x,t\right)={\displaystyle {\int }_0^t{f}_{\pm }}\left(x,s\right)\text{d}s$， $x\in {ℝ}^N$， $t\in ℝ$。与 $f_{+}$ 和 $f_{-}$ 相对应的Nehari流形分别为

${\mathcal{M}}^{+}=\left\{u\in W_V^{1,\Phi }\left({ℝ}^N\right)\backslash \left\{0\right\}:\langle {I^{\prime }}_{+}\left(u\right),u\rangle =0\right\}$ ；

${\mathcal{M}}^{-}=\left\{u\in W_V^{1,\Phi }\left({ℝ}^N\right)\backslash \left\{0\right\}:\langle {I^{\prime }}_{-}\left(u\right),u\rangle =0\right\}$。

由引理3.7可知， ${\mathcal{M}}^{\pm }$ 是 $C^1$ 的子流形，并且 ${\mathcal{M}}^{\pm }$ 中的元素的范数有正下界，此外 $c^{\pm }=\underset{w\in {\mathcal{M}}^{\pm }}{\inf }{I}_{\pm }\left(w\right)$ 是泛函 $I_{\pm }$ 的临界值，故泛函I有两个临界点 $u_1,u_2\in W_V^{1,\Phi }\left({ℝ}^N\right)\backslash \left\{0\right\}$，使得

$I_{+}\left(u_1\right)=c^{+}>0$， $I_{-}\left(u_2\right)=c^{-}>0$。

给定 $u\in W_V^{1,\Phi }\left({ℝ}^N\right)\backslash \left\{0\right\}$，令 $u^{+}=\max \left\{u,0\right\}$， $u^{-}=\min \left\{u,0\right\}$，因此 $u=u^{+}+u^{-}$。取 $u_1^{-}$ 作为测试函数，则有

$\begin{array}{c}0\le {\displaystyle {\int }_{{ℝ}^N}\left(\Phi \left(\left|\nabla u_1^{-}\right|\right)+V\left(x\right)\Phi \left(\left|u_1^{-}\right|\right)\right)\text{d}x}\\ \le \frac{1}{l}{\displaystyle {\int }_{{ℝ}^N}\left(\varphi \left(\left|\nabla u_1^{-}\right|\right){\left|\nabla u_1^{-}\right|}^2+V\left(x\right)\varphi \left(\left|u_1^{-}\right|\right)u_1^{-}{}^2\right)\text{d}x}\\ =\frac{1}{l}{\displaystyle {\int }_{{ℝ}^N}f\left(x,u_1\right)u_1^{-}\text{d}x}=0\end{array}$ (16)

由(16)知 $u_1^{-}\equiv 0$，故 $u_1\ge 0$ 且 $u_1\cancel{\equiv }0$，同理可得 $u_2\le 0$ 且 $u_2\cancel{\equiv }0$。证毕。