1. 引言
数学摆无阻力时,振动方程组为
  (1)
属于临界情形,不能按线性近似决定其稳定性态。为判断其零解的稳定性态,将(1)改写为
 ,
则 
 ,于是有 
 ,这里c为任意非负常数。
如果我们取函数
 ,
则此函数具有性质: 
 ,而在原点邻域对任何不同时为零的x, y ( 
  )有 
 。
现在沿着方程组(1)的解 
  对函数 
  取导数
 。
从 
  到t积分上式,得到
 。
从几何图形看,在0xy平面上 
  是一条曲线,其解 
 ,
  在这条曲线上。由于V的性质,c足够小时 
  是围绕原点的一族闭曲线(后面有证明)。因此在无阻力情况下的数学摆方程组(1)的零解是稳定的,但不是渐近稳定的。
这样,借助构造一个特殊的函数 
 ,并利用函数 
  及其通过方程组的全导数 
  的
性质来确定方程组解的稳定性,这就是李雅普诺夫第二方法的思想。具有这种特殊性质的函数 
  称为李雅普诺夫函数,简称V函数。
现在讨论如何应用V函数来确定非线性微分方程组的稳定性态问题。为简单起见,我们只考虑非线性驻定微分方程组
 . (2)
假设 
 ,且 
  在某域 
  (A为正常数)内有连续的偏导数,因而方程组(2)由初值条件 
  所确定的解在域G内存在且唯一。显然 
  是它的特解。
进一步假设函数 
  关于所有变量的偏导数存在且连续,把方程组(2)的解代入,然后对t求导得
 ,
这样求得的导数 
  称为函数V通过方程组(2)的全导数。
2. 相应的证明
为简单起见,考虑两个变量的函数 
 ,但我们的一切讨论对于n > 2的情形仍然成立。
假设V在域
  (3)
是定正的。讨论曲线族
 , (4)
其中c > 0。当c = 0时,由V的定号性知道,只有原点适合这个方程,即曲线退化为一点。
我们证明当c足够小时,曲线(4)是闭的(注意曲线V = c一般来说可能是非常复杂的,它也可能是由不连通的几个分支构成的),并且包围着坐标原点。为此我们来证明,只要c不超过某个只与H有关的足够小的正数 
  时,任何从原点O出发到域(3)的边界上任一点的连续曲线一定和曲线(4)相交。
设
 
 ,
由V的定号性推知 
 ,因而在域(3)的边界上 
 。
现在考虑从坐标原点出发到域(3)的边界引出的任意一条连续曲线L,并注视沿着曲线 
 ,函数 
  产生的变化。显然在曲线的起点O,有 
 ,而在曲线的终点 
  有 
 。因此,只要 
  (这就是我们所要假设的),已知 
  在域(3)内连续,自然在曲线L上是连续的,于是V在这条曲线L上的某点必然要取值c。换句话说,这条曲线L必然要和曲线(4)相交。因此当c相当小时( 
  ),所有的曲线(4)都是闭的并且包围坐标原点。如果让c从零改变到某一足够小的值,则(4)表示闭曲线族。由于V是单值函数,所以这族曲线彼此不相交,且若曲线V=c是由连通的一支所构成,则当c1 < c2时曲线V = c1包含于V = c2之内。
定理 [1] 如果对微分方程组(2)存在定正函数 
 ,其通过方程组(2)的全导数 
  为常负函数或恒为零,则方程组(2)的零解是稳定的。
如果存在定正函数 
 ,其通过方程组(2)的全导数 
  为定负的,则方程组(2)的零解是渐近稳定的。
如果存在函数 
  和某非负常数 
 ,其通过方程组(2)的全导数 
  可表示为
 ,
且当 
  时W为定正函数,当 
  时W为常正函数或恒等于零;又在 
  的任意小邻域内至少存在某个 
 ,使得 
 ,则方程组(2)的零解是不稳定的(不稳定性的证明见 [2])。
证明 为便于理解、说明和论证,我们就三维系统进行讨论。其中借助了直观,又不失其严密性。在三维系统中得到的结论,在n维系统中也是成立的。
事实上 [3],对于定正函数 
 ,其通过方程组
 
的全导数 
  是向量
  与 
 
的数量积
 .
向量
 
的方向是沿着函数 
  的等值面 
  的法线方向而指向 
  增大的方向,数量积
 
其中 
  是等值面V = c的外法线(gradV的指向)与积分曲线
 
的切线方向的夹角。所以如果
  或 
 ,
这时 
  或 
 ,表示夹角 
  不是锐角,因此积分曲线不会由内向外地走出等值面V = c,这就表示零解是稳定的。如果 
 ,这时 
 ,
  永远是钝角。随着时间的推移,积分曲线从外向内地走向各个等值面之内,且趋近于原点,这就表示零解是渐近稳定的。