具有轨道翻转的三点异维环“∞”型奇异轨分支

Bifurcation of Three-Point Heterodimensional Cycles with Orbit Flip in Shape of “∞”

摘要: 本文主要研究了一类具有轨道翻转的三点异维环分支问题。在未扰动异维环Γ的小管状邻域内，通过构建局部活动坐标架，建立Poincaré映射得到后继函数。再通过对分支方程的分析，得到了三点异维环Γ的小邻域内“∞”型双异维环、双同宿环的存在性和双异维环与1-周期轨、2重周期轨的共存性。另外，我们还得到了轨道的存在区域和分支曲面的表达式。

Abstract: In this paper, bifurcation of three-point heterodimensional cycles with orbit flip is studied in a three-dimensional vector field. By establishing local moving frame systems in a small tubular neighborhood of unperturbed heterodimensional cycles, we build a Poincaré return map and obtain succeed functions. Based on analysis of the bifurcation equations, the existence of “∞” type double heterodimensional cycles, homoclinic loops, and the coexistence of hetrodimensional cycle with 1-periodic orbit or 2-fold periodic orbit near Γ are received. Moreover, we give the existence regions of the above orbits and the expression of bifurcation surfaces.

1. 引言

同宿轨和异宿轨及其分支是分支结构不稳定性和动力系统复杂性研究的重要问题之一，在生物学、物理学、金融等领域有重要的应用，得到了众多学者的关注，目前已获得丰富的结果，参见 [1] [2] [3] [4] [5]。

作为异宿轨的一种特殊形式—异维环，它在整个异宿轨的理论研究中占有重要地位。1973年，Newhouse和Palis在文献 [6] 中第一次研究了异维环的分支，通过采用固有值作为分支值得到了2重周期轨数量的下界。此后有关异维环的分支问题得到广泛的关注(参考文献 [6] - [18])。

在文献 [10] 中，作者研究了四维系统中具有倾斜翻转的两点异维环分支问题，利用 [9] 中给出的方法得到了分支方程，并通过对分支方程的分析，证明了同宿轨、周期轨和异宿轨的存在性和共存性以及由倾斜翻转产生的异维环与同宿环共存的结论；文献 [11] 则考虑了在轨道翻转和倾斜翻转的条件下两点异维环的分支问题，得到了周期轨与同宿轨的存在性和在异维环保存的情况下与周期轨的共存性的结论，同时也给出了奇异轨存在性和共存性的范围。此外文献 [12] 将异维环的分支问题提升到了高维系统，给出了微小扰动下，同宿轨、周期轨与异宿环不共存性的条件。

然而，现有的绝大多数论文仅限于研究连接两个奇点的异维环的分支，对三点异维环分支的讨论比较少(例如 [16]、 [17] 和 [18])。本文在文献 [16] [17] [18] 研究的基础上，考虑非对称系统具有轨道翻转时的异维环分支。主要分为以下几个部分：在第二部分，我们给出本文的假设条件；在第三部分构造新的活动坐标架和Poincaré映射，利用后继函数得到分支方程；在第四部分，对得到的分支方程进行分析，讨论三点异维环Γ的小邻域内“∞”型双异维环、双同宿环的存在性和双异维环与周期轨、同宿轨的共存性以及存在区域和平面分支图。

2. 假设条件

考虑 $C^r$ 系统及其未扰系统

$\stackrel{\dot{}}{z}=f\left(z\right)+g\left(z,\mu \right)$ (2.1)

$\stackrel{\dot{}}{z}=f\left(z\right)$ (2.2)

其中 $r\ge 3$， $z\in {ℝ}^3$， $\mu \in {ℝ}^l$， $l\ge 5$， $0\le \left|\mu \right|\ll 1$， $g\left(z,0\right)=0$。假设 $f\left(p_i\right)=0$， $g\left(p_i,\mu \right)=0$， $i=1,2,3$。 $f,g$ 是r级可微连续。

再做如下假设：

(A1) 系统(2.2)具有三个双曲平衡点 $p_1$， $p_2$， $p_3$。并且对应的线性化矩阵 $Df\left(p_1\right)$ 有单特征值 $-{\rho }_1^1$， ${\lambda }_1^1$， ${\lambda }_1^2$ 满足 $-{\rho }_1^1<0<{\lambda }_1^1<{\lambda }_1^2$ ； $Df\left(p_2\right)$ 有单特征值 $-{\rho }_2^1$， ${\lambda }_2^1$， ${\lambda }_2^2$ 满足 $-{\rho }_2^1<0<{\lambda }_2^1<{\lambda }_2^2$ ； $Df\left(p_3\right)$ 有单特征值 $-{\rho }_3^1$， $-{\rho }_3^2$， ${\lambda }_3^1$ 满足 $-{\rho }_3^2<-{\rho }_3^1<0<{\lambda }_3^1$。

(A2) $\Gamma ={\Gamma }_1\cup {\Gamma }_2\cup {\Gamma }_3\cup {\Gamma }_4$ 是系统(2.2)的异维环，其中 ${\Gamma }_k=\left\{z=r_k\left(t\right):t\in R\right\}$， $k=1,2,3,4$。 $r_1\left(-\infty \right)=r_2\left(+\infty \right)=p_1$， $r_1\left(+\infty \right)=r_2\left(-\infty \right)=p_2$， $r_3\left(-\infty \right)=r_4\left(+\infty \right)=p_2$， $r_3\left(+\infty \right)=r_4\left(-\infty \right)=p_3$ (见图1)。

(A3) (非退化条件) $\dim \left(T_{r_3\left(t\right)}{W}_{p_2}^u\cap T_{r_3\left(t\right)}{W}_{p_3}^{ss}\right)=1$。

(A4) 定义 $e_k^{\pm }=\underset{t\to \mp \infty }{\lim }\frac{{\stackrel{\dot{}}{r}}_k\left(t\right)}{\left|{\stackrel{\dot{}}{r}}_k\left(t\right)\right|}$， $k=1,2,3,4$。且 $e_1^{+}\in T_{p_1}{W}_{p_1}^u$， $e_2^{+},e_3^{+}\in T_{p_2}{W}_{p_2}^u$， $e_4^{+}\in T_{p_3}{W}_{p_3}^u$， $e_1^{-},e_4^{-}\in T_{p_2}{W}_{p_2}^s$， $e_2^{-}\in T_{p_1}{W}_{p_1}^s$， $e_3^{-}\in T_{p_3}{W}_{p_3}^{ss}$，分别是 ${\lambda }_1^1$， ${\lambda }_2^1$， ${\lambda }_3^1$， $-{\rho }_2^1$， $-{\rho }_1^1$， $-{\rho }_3^2$ 的单位特征向量，其中 $e_2^{+}=-e_3^{+}$， $e_1^{-}=-e_4^{-}$ (见图1)。

(A5) 令 $\underset{t\to +\infty }{\lim }{T}_{r_1\left(t\right)}{W}_{p_1}^u=span\left\{e_1^{-},e_v^{+}\right\}$， $\underset{t\to -\infty }{\lim }{T}_{r_1\left(t\right)}{W}_{p_2}^s=span\left\{e_1^{+}\right\}$， $\underset{t\to +\infty }{\lim }{T}_{r_2\left(t\right)}{W}_{p_2}^u=span\left\{e_2^{-},e_1^{+}\right\}$， $\underset{t\to -\infty }{\lim }{T}_{r_2\left(t\right)}{W}_{p_1}^s=span\left\{e_2^{+}\right\}$， $\underset{t\to +\infty }{\lim }{T}_{r_3\left(t\right)}{W}_{p_2}^u=span\left\{e_3^{-},e_y^{-}\right\}$， $\underset{t\to -\infty }{\lim }{T}_{r_3\left(t\right)}{W}_{p_3}^s=span\left\{e_3^{+},e_v^{+}\right\}$， $\underset{t\to +\infty }{\lim }{T}_{r_4\left(t\right)}{W}_{p_3}^u=span\left\{e_4^{-}\right\}$， $\underset{t\to -\infty }{\lim }{T}_{r_4\left(t\right)}{W}_{p_2}^s=span\left\{e_4^{+}\right\}$，其中 $e_v^{+}$， $e_y^{-}$ 分别是 ${\lambda }_2^2$， $-{\rho }_3^1$ 的单位特征向量。

(A6) $\frac{{\lambda }_3^1}{{\rho }_3^1}>\frac{{\lambda }_2^1}{{\rho }_2^1}>\frac{{\lambda }_1^1}{{\rho }_1^1}>1$。

Figure 1. Heterodimensional cycle $\Gamma ={\Gamma }_1\cup {\Gamma }_2\cup {\Gamma }_3\cup {\Gamma }_4$

图1. 异维环 $\Gamma ={\Gamma }_1\cup {\Gamma }_2\cup {\Gamma }_3\cup {\Gamma }_4$

3. Poincaré映射和分支方程

这一部分，我们给出系统(2.1)的规范型，并且利用局部活动坐标架，在异维环Γ附近建立Poincaré映射，并给出分支方程。

首先假设 $U_i$ 是奇点 $p_i\left(i=1,2,3\right)$ 充分小邻域，则可通过适当的平移和线性变换，将系统(2.1)在 $U_1$ 内化成如下的形式：

$\{\begin{array}{l}\stackrel{\dot{}}{x}={\lambda }_1^1\left(\mu \right)x+O\left(2\right)\\ \stackrel{\dot{}}{y}=-{\rho }_1^1\left(\mu \right)y+O\left(2\right)\\ \stackrel{\dot{}}{u}={\lambda }_1^2\left(\mu \right)u+O\left(2\right)\end{array}$ (3.1)

在 $U_2$ 内化为：

$\{\begin{array}{l}\stackrel{\dot{}}{x}={\lambda }_2^1\left(\mu \right)x+O\left(2\right)\\ \stackrel{\dot{}}{y}=-{\rho }_2^1\left(\mu \right)y+O\left(2\right)\\ \stackrel{\dot{}}{v}={\lambda }_2^2\left(\mu \right)v+O\left(2\right)\end{array}$ (3.2)

在 $U_3$ 内化为：

$\{\begin{array}{l}\stackrel{\dot{}}{x}={\lambda }_3^1\left(\mu \right)x+O\left(2\right)\\ \stackrel{\dot{}}{y}=-{\rho }_3^1\left(\mu \right)y+O\left(2\right)\\ \stackrel{\dot{}}{w}=-{\rho }_3^2\left(\mu \right)w+O\left(2\right)\end{array}$ (3.3)

根据文献 [19] 以及流形的不变性，我们在小邻域 $U_i$ 内拉直平衡点 $p_i$ 的局部稳定流形和局部不稳定流形、局部强稳定流形和局部强不稳定流形，系统(2.1)在 $U_1$ 内进一步可表示为：

$\{\begin{array}{l}\stackrel{\dot{}}{x}=\left({\lambda }_1^1\left(\mu \right)+o\left(1\right)\right)x+O\left(u\right)O\left(y\right)\\ \stackrel{\dot{}}{y}=\left(-{\rho }_1^1\left(\mu \right)+o\left(1\right)\right)y\\ \stackrel{\dot{}}{u}=\left({\lambda }_1^2\left(\mu \right)+o\left(1\right)\right)u+O\left(x\right)O\left(y\right)\end{array}$ (3.4)

在 $U_2$ 内为：

$\{\begin{array}{l}\stackrel{\dot{}}{x}=\left({\lambda }_2^1\left(\mu \right)+o\left(1\right)\right)x+O\left(v\right)O\left(y\right)\\ \stackrel{\dot{}}{y}=\left(-{\rho }_2^1\left(\mu \right)+o\left(1\right)\right)y\\ \stackrel{\dot{}}{v}=\left({\lambda }_2^2\left(\mu \right)+o\left(1\right)\right)v+O\left(x\right)O\left(y\right)\end{array}$ (3.5)

在 $U_3$ 内为：

$\{\begin{array}{l}\stackrel{\dot{}}{x}=\left({\lambda }_3^1\left(\mu \right)+o\left(1\right)\right)x\\ \stackrel{\dot{}}{y}=\left(-{\rho }_3^1\left(\mu \right)+o\left(1\right)\right)y+O\left(w\right)O\left(x\right)\\ \stackrel{\dot{}}{w}=\left(-{\rho }_3^2\left(\mu \right)+o\left(1\right)\right)w+O\left(x\right)O\left(y\right)\end{array}$ (3.6)

系统(3.4)~(3.6)至少为 $C^{r-2}$ 的。

选取时间 $T_k\gg 1$， $k=1,2,3,4$。且 $r_1\left(-T_1\right),r_2\left(T_2\right)\subset U_1$， $r_1\left(T_1\right),r_2\left(-T_2\right)\subset U_2$， $r_3\left(-T_3\right),r_4\left(T_4\right)\subset U_2$， $r_3\left(T_3\right),r_4\left(-T_4\right)\subset U_3$ 满足 $r_k\left(-T_k\right)={\left(\sigma ,0,0\right)}^{\ast }$， $k=1,3,4$。 $r_2\left(-T_2\right)={\left(-\sigma ,0,0\right)}^{\ast }$ ； $r_k\left(T_k\right)={\left(0,\sigma ,0\right)}^{\ast }$， $k=2,4$。 $r_1\left(T_1\right)={\left(0,-\sigma ,0\right)}^{\ast }$， $r_3\left(T_3\right)={\left(0,\sigma ,0\right)}^{\ast }$。这里 $\ast$ 表示转置， $0<\sigma \ll 1$ 是充分小正常数，并且使得如下范围成立

$\left\{{\left(x,y,u\right)}^{\ast }|\left|x\right|,\left|y\right|,\left|u\right|<2\sigma \right\}\subset U_1$,

$\left\{{\left(x,y,v\right)}^{\ast }|\left|x\right|,\left|y\right|,\left|v\right|<2\sigma \right\}\subset U_2$,

$\left\{{\left(x,y,w\right)}^{\ast }|\left|x\right|,\left|y\right|,\left|w\right|<2\sigma \right\}\subset U_3$.

考虑系统(2.2)的线性变分系统

$\stackrel{\dot{}}{z}=Df\left(r_k\left(t\right)\right)z$ (3.7)

和其伴随系统

$\stackrel{\dot{}}{\psi }=-{\left(Df\left(r_k\left(t\right)\right)\right)}^{\ast }\psi$ (3.8)

$k=1,2,3,4$。

在假设条件(A1)~(A5)成立的前提下，则

1) 当 $k=1$ 时，变分系统(3.7)存在基解矩阵 $Z_1\left(t\right)=\left(z_1^1\left(t\right),z_1^2\left(t\right),z_1^3\left(t\right)\right)$，定义

$z_1^1\left(t\right)=\frac{{\stackrel{\dot{}}{r}}_1\left(t\right)}{\left|{\stackrel{\dot{}}{r}}_1\left(-T_1\right)\right|}\in T_{r_1\left(t\right)}{W}_{p_1}^u\cap T_{r_1\left(t\right)}{W}_{p_2}^s$, $z_1^2\left(t\right)\in {\left(T_{r_1\left(t\right)}{\Gamma }_1\right)}^c$, $z_1^3\left(t\right)\in {\left(T_{r_1\left(t\right)}{\Gamma }_1\right)}^c\cap {\left(T_{r_1\left(t\right)}{W}_{p_2}^s\right)}^c$,

使得

$Z_1\left(-T_1\right)=\left(\begin{array}{ccc}1& 0& 0\\ 0& {\bar{\omega }}_1^{22}& 0\\ 0& {\bar{\omega }}_1^{32}& 1\end{array}\right),Z_1\left(T_1\right)=\left(\begin{array}{ccc}0& {\omega }_1^{12}& 0\\ {\omega }_1^{21}& {\omega }_1^{22}& 0\\ 0& {\omega }_1^{32}& 1\end{array}\right)$,

其中 ${\omega }_1^{21}<0$， ${\bar{\omega }}_1^{22}\ne 0$。

2) 当 $k=2$ 时，变分系统(3.7)存在基解矩阵 $Z_2\left(t\right)=\left(z_2^1\left(t\right),z_2^2\left(t\right),z_2^3\left(t\right)\right)$，定义：

$z_2^1\left(t\right)=\frac{{\stackrel{\dot{}}{r}}_2(t)}{\left|{\stackrel{\dot{}}{r}}_2(-T_2)\right|}\in T_{r_2\left(t\right)}{W}_{p_2}^u\cap T_{r_2\left(t\right)}{W}_{p_1}^s$, $z_2^2\left(t\right),z_2^3\left(t\right)\in {\left(T_{r_2\left(t\right)}{\Gamma }_2\right)}^c$,

使得

$Z_2\left(-T_2\right)=\left(\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\\ 0& 0& 1\end{array}\right),Z_1\left(T_1\right)=\left(\begin{array}{ccc}0& {\omega }_2^{12}& 1\\ {\omega }_2^{21}& {\omega }_2^{22}& 0\\ 0& {\omega }_2^{32}& 0\end{array}\right)$,

其中 ${\omega }_2^{21}<0$。

3) 当 $k=3$ 时，变分系统(3.7)存在基解矩阵 $Z_3\left(t\right)=\left(z_3^1\left(t\right),z_3^2\left(t\right),z_3^3\left(t\right)\right)$，定义：

$z_3^1\left(t\right)=\frac{{\stackrel{\dot{}}{r}}_3\left(t\right)}{\left|{\stackrel{\dot{}}{r}}_3\left(-T_3\right)\right|}\in T_{r_3\left(t\right)}{W}_{p_2}^u\cap T_{r_3\left(t\right)}{W}_{p_3}^{ss}$, $z_3^2\left(t\right)\in {\left(T_{r_3\left(t\right)}{\Gamma }_3\right)}^c$, $z_3^3\left(t\right)\in {\left(T_{r_3\left(t\right)}{\Gamma }_3\right)}^c\cap T_{r_3\left(t\right)}{W}_{p_3}^s$,

使得

$Z_3\left(-T_3\right)=\left(\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\\ 0& {\bar{\omega }}_3^{32}& 1\end{array}\right),Z_3\left(T_3\right)=\left(\begin{array}{ccc}0& {\omega }_3^{12}& 0\\ 0& {\omega }_3^{22}& 1\\ {\omega }_3^{31}& {\omega }_3^{31}& {\omega }_3^{33}\end{array}\right)$,

其中 ${\omega }_3^{31}<0$。

4) 当 $k=4$ 时，变分系统(3.7)存在基解矩阵 $Z_4\left(t\right)=\left(z_4^1\left(t\right),z_4^2\left(t\right),z_4^3\left(t\right)\right)$，我们选择：

$z_4^1\left(t\right)=\frac{{\stackrel{\dot{}}{r}}_4\left(t\right)}{\left|{\stackrel{\dot{}}{r}}_4\left(-T_4\right)\right|}\in T_{r_4\left(t\right)}{W}_{p_3}^u\cap T_{r_4\left(t\right)}{W}_{p_2}^s$, $z_4^2\left(t\right)\in T_{r_4\left(t\right)}{W}_{p_3}^s\cap {\left(T_{r_4\left(t\right)}{\Gamma }_4\right)}^c$,

$z_4^3\left(t\right)\in {\left(T_{r_4\left(t\right)}{W}_{p_3}^u\right)}^c\cap {\left(T_{r_4\left(t\right)}{\Gamma }_4\right)}^c$,

使得

$Z_1\left(-T_1\right)=\left(\begin{array}{ccc}1& 0& 0\\ 0& 1& {\bar{\omega }}_4^{23}\\ 0& 0& 1\end{array}\right),Z_1\left(T_1\right)=\left(\begin{array}{ccc}0& {\omega }_4^{12}& {\omega }_4^{13}\\ {\omega }_4^{21}& {\omega }_4^{22}& {\omega }_4^{23}\\ 0& {\omega }_4^{32}& {\omega }_4^{33}\end{array}\right)$,

其中 ${\omega }_4^{21}<0$， $\omega =\left|\begin{array}{cc}{\omega }_4^{12}& {\omega }_4^{13}\\ {\omega }_4^{32}& {\omega }_4^{33}\end{array}\right|\ne 0$。

我们选择 $\left(z_k^1\left(t\right),z_k^2\left(t\right),z_k^3\left(t\right)\right)$ 作为沿 ${\Gamma }_k\left(k=1,2,3,4\right)$ 的局部活动坐标架，并记

${\Psi }_k\left(t\right)=\left({\psi }_k^1\left(t\right),{\psi }_k^2\left(t\right),{\psi }_k^3\left(t\right)\right)={\left(Z_k{}^{-1}\left(t\right)\right)}^{\ast }$,

其中 ${\Psi }_k\left(t\right)$ 表示伴随系统(3.8)的基解矩阵。

在 ${\Gamma }_k$ 的邻域内引入新的坐标变换

$z\left(t\right)\triangleq h_k\left(t\right)=r_k\left(t\right)+Z_k\left(t\right)N_k\left(t\right),t\in \left[-T_k,T_k\right]$

其中 $N_k\left(t\right)={\left(0,n_k^2\left(t\right),n_i^3\left(t\right)\right)}^{\ast }\left(k=1,2,3,4\right)$。

轨道 ${\Gamma }_k$ 在 $t=-T_k$ 及 $t=T_k$ 时，我们构造八个与系统轨线Γ横截的截面(见图2)：

$\begin{array}{l}{S}_1^0=\left\{z=h_1\left(-T_1\right):\left|x-\sigma \right|,\left|y\right|,\left|u\right|<\delta \right\},S_1^1=\left\{z=h_1\left(T_1\right):\left|x\right|,\left|y-\sigma \right|,\left|v\right|<\delta \right\},\\ S_2^0=\left\{z=h_2\left(-T_2\right):\left|x-\sigma \right|,\left|y\right|,\left|v\right|<\delta \right\},S_2^1=\left\{z=h_2\left(T_2\right):\left|x\right|,\left|y-\sigma \right|,\left|v\right|<\delta \right\},\\ S_3^0=\left\{z=h_3\left(-T_3\right):\left|x-\sigma \right|,\left|y\right|,\left|v\right|<\delta \right\},S_3^1=\left\{z=h_3\left(T_3\right):\left|x\right|,\left|y\right|,\left|w-\sigma \right|<\delta \right\},\\ S_4^0=\left\{z=h_4\left(-T_4\right):\left|x-\sigma \right|,\left|y\right|,\left|w\right|<\delta \right\},S_4^1=\left\{z=h_4\left(T_4\right):\left|x\right|,\left|y-\sigma \right|,\left|v\right|<\delta \right\}.\end{array}$

这里 $0<\delta \ll \sigma$。

Figure 2. The sections and Poincaré map

图2. 轨线Γ横截的八个截面、Poincaré映射

在新的坐标变换下，系统(2.1)具有形式为 $Z\left(t\right)=r_k\left(t\right)+Z_k\left(t\right)N_k\left(t\right)$ 的解，通过计算整理可得：

${\stackrel{\dot{}}{N}}_k\left(t\right)={\Psi }_k^{\ast }\left(t\right)g_{\mu }\left(r_k\left(t\right),0\right)\mu +h.o.t.$ (3.9)

再通过对上式两端同时积分，得到：

$N_k\left(T_k\right)=N_k\left(-T_k\right)+{\displaystyle {\int }_{-T_k}^{T_k}{\Psi }_k^{\ast }}\left(t\right)g_{\mu }\left(r_k\left(t\right),0\right)\mu \text{d}t+h.o.t.$ (3.10)

接着我们建立Poincaré映射。

1) 构建正则映射： $F_k^1:S_k^0\to S_k^1\left(k=1,2,3,4\right)$。其中 $F_k^1{\left(0,n_k^{0,2},n_k^{0,3}\right)}^{\ast }={\left(0,{\bar{n}}_k^{1,2},{\bar{n}}_k^{1,3}\right)}^{\ast }$。

由(3.9)，(3.10)得：

${\bar{n}}_k^{1,j}=n_k^{0,j}+{{\rm M}}_k^j\mu +h.o.t.$ (3.11)

这里 ${{\rm M}}_k^j={\displaystyle {\int }_{-T_k}^{T_k}{\left({\psi }_k^j\left(t\right)\right)}^{\ast }}{g}_{\mu }\left(r_k\left(t\right),0\right)\text{d}t$， $j=2,3$。

2) 建立奇异映射： $F_k^0\left(k=1,2,3,4\right)$，其中 $F_1^0:q_2^1\in S_2^1\to q_1^0\in S_1^0$， $F_2^0:q_1^1\in S_1^1\to q_2^0\in S_2^0$， $F_3^0:q_4^1\in S_4^1\to q_3^0\in S_3^0$， $F_4^0:q_3^1\in S_3^1\to q_4^0\in S_4^0$ (见图2)。

定义 ${\tau }_1,{\tau }_2,{\tau }_3,{\tau }_4$ 分别表示从 $q_2^1$ 到 $q_1^0$， $q_1^1$ 到 $q_2^0$， $q_4^1$ 到 $q_3^0$， $q_3^1$ 到 $q_4^0$ 的飞行时间函数，根据假设条件(A6)成立，我们可以取相应的Shilnikov时间为

$s_1={\text{e}}^{-{\rho }_1^1\left(\mu \right){\tau }_1}$, $s_2={\text{e}}^{-{\rho }_2^1\left(\mu \right){\tau }_2}$, $s_3={\text{e}}^{-{\rho }_2^1\left(\mu \right){\tau }_3}$, $s_4={\text{e}}^{-{\rho }_3^1\left(\mu \right){\tau }_4}$.

3) 建立新旧坐标之间的关系

这里旧坐标为 $q_1^0{\left(x_1^0,y_1^0,u_1^0\right)}^{\ast }$， $q_1^1{\left(x_1^1,y_1^1,v_1^1\right)}^{\ast }$， $q_2^0{\left(x_2^0,y_2^0,v_2^0\right)}^{\ast }$， $q_2^1{\left(x_2^1,y_2^1,u_2^1\right)}^{\ast }$， $q_3^0{\left(x_3^0,y_3^0,v_3^0\right)}^{\ast }$， $q_3^1{\left(x_3^1,y_3^1,w_3^1\right)}^{\ast }$， $q_4^0{\left(x_4^0,y_4^0,w_4^0\right)}^{\ast }$， $q_4^1{\left(x_4^1,y_4^1,v_4^1\right)}^{\ast }$ ；新坐标为 $q_k^j\left(0,n_k^{j,2},n_k^{j,3}\right)$ $\left(k=1,2,3,4;j=0,1\right)$。

接下来利用变换 $h_k\left(t\right)=r_k\left(t\right)+Z_k\left(t\right)N_k\left(t\right)$ 我们可知

$q_k^0=r_k\left(-T_k\right)+Z_k\left(-T_k\right)N_k\left(-T_k\right)$, $q_k^1=r_k\left(T_k\right)+Z_k\left(T_k\right)N_k\left(T_k\right)$,

其中 $N_k\left(-T_k\right)={\left(0,n_k^{0,2},n_k^{0,3}\right)}^{\ast }$， $N_k\left(T_k\right)={\left(0,n_k^{1,2},n_k^{1,3}\right)}^{\ast }$ $\left(k=1,2,3,4\right)$。

将 $Z_k\left(-T_k\right)$， $Z_k\left(T_k\right)$ 和 $r_k\left(-T_k\right)$， $r_k\left(T_k\right)$ 的表达式代入 $q_k^0$， $q_k^1$ 的等式中，我们可得：

$\{\begin{array}{l}{n}_1^{0,2}={\left({\bar{\omega }}_1^{22}\right)}^{-1}{y}_1^0,n_1^{0,3}=u_1^0-{\bar{\omega }}_1^{32}{\left({\bar{\omega }}_1^{22}\right)}^{-1}{y}_1^0,x_1^0=\sigma \\ n_1^{1,2}={\left({\omega }_1^{12}\right)}^{-1}{x}_1^1,n_1^{1,3}=v_1^1-{\omega }_1^{32}{\left({\omega }_1^{12}\right)}^{-1}{x}_1^1,y_1^1\approx -\sigma \end{array}$ (3.12)

$\{\begin{array}{l}{n}_2^{0,2}=y_2^0,n_2^{0,3}=v_2^0,x_2^0=-\sigma \\ n_2^{1,2}={\left({\omega }_2^{32}\right)}^{-1}{u}_2^1,n_2^{1,3}=x_2^1-{\omega }_2^{12}{\left({\omega }_2^{32}\right)}^{-1}{u}_2^1,y_2^1\approx \sigma \end{array}$ (3.13)

$\{\begin{array}{l}{n}_3^{0,2}=y_3^0,n_3^{0,3}=v_3^0-{\bar{\omega }}_3^{32}{y}_3^0,x_3^0=\sigma \\ n_3^{1,2}={\left({\omega }_3^{12}\right)}^{-1}{x}_3^1,n_3^{1,3}=y_3^1-{\omega }_3^{22}{\left({\omega }_3^{12}\right)}^{-1}{x}_3^1,w_3^1\approx \sigma \end{array}$ (3.14)

$\{\begin{array}{l}{n}_4^{0,2}=y_4^0-{\bar{\omega }}_4^{23}{w}_4^0,n_4^{0,3}=w_4^0,x_4^0=\sigma \\ n_4^{1,2}={\left(\omega \right)}^{-1}\left({\omega }_4^{33}{x}_4^1-{\omega }_4^{13}{v}_4^1\right),n_4^{1,3}={\left(\omega \right)}^{-1}\left({\omega }_4^{12}{v}_4^1-{\omega }_4^{32}{x}_4^1\right),y_4^1\approx \sigma \end{array}$ (3.15)

则根据系统(2.1)的规范型(3.4)~(3.6)并且忽略高阶项，我们可得：

$F_1^0:q_2^1\left(x_2^1,y_2^1,u_2^1\right)\in S_2^1\to q_1^0\left(x_1^0,y_1^0,u_1^0\right)\in S_1^0$,

$x_2^1=x\left(T_2\right)\approx \sigma s_1^{\frac{{\lambda }_1^1\left(\mu \right)}{{\rho }_1^1\left(\mu \right)}},y_1^0=y\left(T_2+{\tau }_1\right)\approx \sigma s_1,u_2^1=u\left(T_2\right)\approx u_1^0{s}_1^{\frac{{\lambda }_1^2\left(\mu \right)}{{\rho }_1^1\left(\mu \right)}}$,

$F_2^0:q_1^1\left(x_1^1,y_1^1,v_1^1\right)\in S_1^1\to q_2^0\left(x_2^0,y_2^0,v_2^0\right)\in S_2^0$,

$x_1^1=x\left(T_1\right)\approx -\sigma s_2^{\frac{{\lambda }_2^1\left(\mu \right)}{{\rho }_2^1\left(\mu \right)}},y_2^0=y\left(T_1+{\tau }_2\right)\approx -\sigma s_2,v_1^1=v\left(T_1\right)\approx v_2^0{s}_2^{\frac{{\lambda }_2^2\left(\mu \right)}{{\rho }_2^1\left(\mu \right)}}$,

$F_3^0:q_4^1\left(x_4^1,y_4^1,v_4^1\right)\in S_4^1\to q_3^0\left(x_3^0,y_3^0,v_3^0\right)\in S_3^0$,

$x_4^1=x\left(T_4\right)\approx \sigma s_3^{\frac{{\lambda }_2^1\left(\mu \right)}{{\rho }_2^1\left(\mu \right)}},y_3^0=y\left(T_4+{\tau }_3\right)\approx \sigma s_3,v_4^1=v\left(T_4\right)\approx v_3^0{s}_3^{\frac{{\lambda }_2^2\left(\mu \right)}{{\rho }_2^1\left(\mu \right)}}$,

$F_4^0:q_3^1\left(x_3^1,y_3^1,w_3^1\right)\in S_3^1\to q_4^0\left(x_4^0,y_4^0,w_4^0\right)\in S_4^0$,

$x_3^1=x\left(T_3\right)\approx \sigma s_4^{\frac{{\lambda }_3^1\left(\mu \right)}{{\rho }_3^1\left(\mu \right)}},y_4^0=y\left(T_3+{\tau }_4\right)\approx y_3^1{s}_4,w_4^0=w\left(T_3+{\tau }_4\right)\approx \sigma s_4^{\frac{{\rho }_3^2\left(\mu \right)}{{\rho }_3^1\left(\mu \right)}}$.

综上，我们可得Poincaré映射： $F_k=F_k^1\circ F_k^0$， $k=1,2,3,4$，如下

$\{\begin{array}{l}{\bar{n}}_1^{1,2}={\left({\bar{\omega }}_1^{22}\right)}^{-1}\sigma s_1+{{\rm M}}_1^2\mu +h.o.t.,\\ {\bar{n}}_1^{1,3}=u_1^0-{\bar{\omega }}_1^{32}{\left({\bar{\omega }}_1^{22}\right)}^{-1}\sigma s_1+{{\rm M}}_1^3\mu +h.o.t.,\\ {\bar{n}}_2^{1,2}=-\sigma s_2+{{\rm M}}_2^2\mu +h.o.t.,\\ {\bar{n}}_2^{1,3}=v_2^0+{{\rm M}}_2^3\mu +h.o.t.,\\ {\bar{n}}_3^{1,2}=\sigma s_3+{{\rm M}}_3^2\mu +h.o.t.,\\ {\bar{n}}_3^{1,3}=v_3^0-{\bar{\omega }}_3^{32}\sigma s_3+{{\rm M}}_3^3\mu +h.o.t.,\\ {\bar{n}}_4^{1,2}=y_3^1{s}_4-{\bar{\omega }}_4^{23}\sigma s_4^{\frac{{\rho }_3^2\left(\mu \right)}{{\rho }_3^1\left(\mu \right)}}+{{\rm M}}_4^2\mu +h.o.t.,\\ {\bar{n}}_4^{1,3}=\sigma s_4^{\frac{{\rho }_3^2\left(\mu \right)}{{\rho }_3^1\left(\mu \right)}}+{{\rm M}}_4^3\mu +h.o.t\mathrm{..}\end{array}$ (3.16)

令 $G_k^j={\bar{n}}_k^{1,j}-n_k^{1,j}$ $\left(k=1,2,3,4;j=2,3\right)$，为方便起见使得 ${\lambda }_i^j\left(\mu \right)={\lambda }_i^j$， ${\rho }_3^j\left(\mu \right)={\rho }_3^j$， ${\rho }_i^1\left(\mu \right)={\rho }_i^1$， $i,j=1,2$ ； ${\lambda }_3^1\left(\mu \right)={\lambda }_3^1$。则由(3.12)~(3.16)可得后继函数如下所示：

$\{\begin{array}{l}{G}_1^2={\left({\bar{\omega }}_1^{22}\right)}^{-1}\sigma s_1+{\left({\omega }_1^{12}\right)}^{-1}\sigma s_2^{\frac{{\lambda }_2^1}{{\rho }_2^1}}+{{\rm M}}_1^2\mu +h.o.t.,\\ G_1^3=u_1^0-{\bar{\omega }}_1^{32}{\left({\bar{\omega }}_1^{22}\right)}^{-1}\sigma s_1-v_2^0{s}_2^{\frac{{\lambda }_2^2}{{\rho }_2^1}}-{\omega }_1^{32}{\left({\omega }_1^{12}\right)}^{-1}\sigma s_2^{\frac{{\lambda }_2^1}{{\rho }_2^1}}+{{\rm M}}_1^3\mu +h.o.t.,\\ G_2^2=-\sigma s_2-{\left({\omega }_2^{32}\right)}^{-1}{u}_1^0{s}_1^{\frac{{\lambda }_1^2}{{\rho }_1^1}}+{{\rm M}}_2^2\mu +h.o.t.,\\ G_2^3=v_2^0-\sigma s_1^{\frac{{\lambda }_1^1}{{\rho }_1^1}}+{\omega }_2^{12}{\left({\omega }_2^{32}\right)}^{-1}{u}_1^0{s}_1^{\frac{{\lambda }_1^2}{{\rho }_1^1}}+{{\rm M}}_2^3\mu +h.o.t.,\\ G_3^2=\sigma s_3-{\left({\omega }_3^{12}\right)}^{-1}\sigma s_4^{\frac{{\lambda }_3^1}{{\rho }_3^1}}+{{\rm M}}_3^2\mu +h.o.t.,\\ G_3^3=v_3^0-{\bar{\omega }}_3^{32}\sigma s_3-y_3^1+{\omega }_3^{22}{\left({\omega }_3^{12}\right)}^{-1}\sigma s_4^{\frac{{\lambda }_3^1}{{\rho }_3^1}}+{{\rm M}}_3^3\mu +h.o.t.,\\ G_4^2=y_3^1{s}_4-{\bar{\omega }}_4^{23}\sigma s_4^{\frac{{\rho }_3^2}{{\rho }_3^1}}-{\left(\omega \right)}^{-1}{\omega }_4^{33}\sigma s_3^{\frac{{\lambda }_2^1}{{\rho }_2^1}}+{\left(\omega \right)}^{-1}{\omega }_4^{13}{v}_3^0{s}_3^{\frac{{\lambda }_2^2}{{\rho }_2^1}}++{{\rm M}}_4^2\mu +h.o.t.,\\ G_4^3=\sigma s_4^{\frac{{\rho }_3^2}{{\rho }_3^1}}-{\left(\omega \right)}^{-1}{\omega }_4^{12}{v}_3^0{s}_3^{\frac{{\lambda }_2^2}{{\rho }_2^1}}+{\left(\omega \right)}^{-1}{\omega }_4^{32}\sigma s_3^{\frac{{\lambda }_2^1}{{\rho }_2^1}}+{{\rm M}}_4^3\mu +h.o.t\mathrm{..}\end{array}$ (3.17)

要分析轨道Γ附近的分支情况，我们首先要考虑分支方程

$G=G\left(G_1^2,G_1^3,G_2^2,G_2^3,G_3^2,G_3^3,G_4^2,G_4^3\right)=0$

解的情况。由分支方程(3.17)第二，四和六式知方程 $\left(G_1^3,G_2^3,G_3^3\right)=0$ 有解

$u_1^0={\bar{\omega }}_1^{32}{\left({\bar{\omega }}_1^{22}\right)}^{-1}\sigma s_1+{\omega }_1^{32}{\left({\omega }_1^{12}\right)}^{-1}\sigma s_2^{\frac{{\lambda }_2^1}{{\rho }_2^1}}-{{\rm M}}_1^3\mu +h.o.t.$,

$\begin{array}{c}{v}_2^0=\sigma s_1^{\frac{{\lambda }_1^1}{{\rho }_1^1}}-{\omega }_2^{12}{\left({\omega }_2^{32}\right)}^{-1}{\bar{\omega }}_1^{32}{\left({\bar{\omega }}_1^{22}\right)}^{-1}\sigma s_1^{1+\frac{{\lambda }_1^2}{{\rho }_1^1}}-{\omega }_2^{12}{\left({\omega }_2^{32}\right)}^{-1}{\omega }_1^{32}{\left({\omega }_1^{12}\right)}^{-1}\sigma s_2^{\frac{{\lambda }_2^1}{{\rho }_2^1}+\frac{{\lambda }_1^2}{{\rho }_1^1}}\\ +{\omega }_2^{12}{\left({\omega }_2^{32}\right)}^{-1}{{\rm M}}_1^3\mu s_1^{\frac{{\lambda }_1^2}{{\rho }_1^1}}-{{\rm M}}_2^3\mu +h.o.t.,\end{array}$

$v_3^0={\bar{\omega }}_3^{32}\sigma s_3+y_3^1-{\omega }_3^{22}{\left({\omega }_3^{12}\right)}^{-1}\sigma s_4^{\frac{{\lambda }_3^1}{{\rho }_3^1}}-{{\rm M}}_3^3\mu +h.o.t.$.

将上述解代入方程 $\left(G_1^2,G_2^2,G_3^2,G_4^2,G_4^3\right)=0$，可得

$\{\begin{array}{l}{\left({\bar{\omega }}_1^{22}\right)}^{-1}\sigma s_1+{\left({\omega }_1^{12}\right)}^{-1}\sigma s_2^{\frac{{\lambda }_2^1}{{\rho }_2^1}}+{{\rm M}}_1^2\mu +h.o.t.=0,\\ -\sigma s_2-{\left({\omega }_2^{32}\right)}^{-1}{u}_1^0{s}_1^{\frac{{\lambda }_1^2}{{\rho }_1^1}}+{{\rm M}}_2^2\mu +h.o.t.=0,\\ \sigma s_3-{\left({\omega }_3^{12}\right)}^{-1}\sigma s_4^{\frac{{\lambda }_3^1}{{\rho }_3^1}}+{{\rm M}}_3^2\mu +h.o.t.=0,\\ y_3^1{s}_4-{\bar{\omega }}_4^{23}\sigma s_4^{\frac{{\rho }_3^2}{{\rho }_3^1}}-{\left(\omega \right)}^{-1}{\omega }_4^{33}\sigma s_3^{\frac{{\lambda }_2^1}{{\rho }_2^1}}+{\left(\omega \right)}^{-1}{\omega }_4^{13}{v}_3^0{s}_3^{\frac{{\lambda }_2^2}{{\rho }_2^1}}++{{\rm M}}_4^2\mu +h.o.t.=0,\\ \sigma s_4^{\frac{{\rho }_3^2}{{\rho }_3^1}}-{\left(\omega \right)}^{-1}{\omega }_4^{12}{v}_3^0{s}_3^{\frac{{\lambda }_2^2}{{\rho }_2^1}}+{\left(\omega \right)}^{-1}{\omega }_4^{32}\sigma s_3^{\frac{{\lambda }_2^1}{{\rho }_2^1}}+{{\rm M}}_4^3\mu +h.o.t.=0.\end{array}$ (3.18)

下面分析分支方程(3.18)，在这里我们仅考虑 ${\omega }_4^{13}=0,{\omega }_4^{12}\ne 0$ 情况，其他情况 ${\omega }_4^{13}\ne 0,{\omega }_4^{12}\ne 0;{\omega }_4^{13}\ne 0,{\omega }_4^{12}=0$ 可类似讨论。

当 ${\omega }_4^{13}=0,{\omega }_4^{12}\ne 0$ 时，我们可得如下分支的表达式：

$\{\begin{array}{l}{\left({\bar{\omega }}_1^{22}\right)}^{-1}\sigma s_1+{\left({\omega }_1^{12}\right)}^{-1}\sigma s_2^{\frac{{\lambda }_2^1}{{\rho }_2^1}}+{{\rm M}}_1^2\mu +h.o.t.=0,\\ -\sigma s_2-{\left({\omega }_2^{32}\right)}^{-1}\left({\bar{\omega }}_1^{32}{\left({\bar{\omega }}_1^{22}\right)}^{-1}\sigma s_1-{{\rm M}}_1^3\mu \right)s_1^{\frac{{\lambda }_1^2}{{\rho }_1^1}}+{{\rm M}}_2^2\mu +h.o.t.=0,\\ \sigma s_3-{\left({\omega }_3^{12}\right)}^{-1}\sigma s_4^{\frac{{\lambda }_3^1}{{\rho }_3^1}}+{{\rm M}}_3^2\mu +h.o.t.=0,\\ y_3^1{s}_4-{\bar{\omega }}_4^{23}\sigma s_4^{\frac{{\rho }_3^2}{{\rho }_3^1}}-{\left(\omega \right)}^{-1}{\omega }_4^{33}\sigma s_3^{\frac{{\lambda }_2^1}{{\rho }_2^1}}+{{\rm M}}_4^2\mu +h.o.t.=0,\\ \sigma s_4^{\frac{{\rho }_3^2}{{\rho }_3^1}}-{\left(\omega \right)}^{-1}{\omega }_4^{12}{\bar{\omega }}_3^{32}\sigma s_3^{1+\frac{{\lambda }_2^2}{{\rho }_2^1}}-{\left(\omega \right)}^{-1}{\omega }_4^{12}{y}_3^1{s}_3^{\frac{{\lambda }_2^2}{{\rho }_2^1}}+{\left(\omega \right)}^{-1}{\omega }_4^{12}{\omega }_3^{22}{\left({\omega }_3^{12}\right)}^{-1}\sigma s_4^{\frac{{\lambda }_3^1}{{\rho }_3^1}}{s}_3^{\frac{{\lambda }_2^2}{{\rho }_2^1}}\\ +{\left(\omega \right)}^{-1}{\omega }_4^{12}{{\rm M}}_3^3\mu s_3^{\frac{{\lambda }_2^2}{{\rho }_2^1}}+{\left(\omega \right)}^{-1}{\omega }_4^{32}\sigma s_3^{\frac{{\lambda }_2^1}{{\rho }_2^1}}+{{\rm M}}_4^3\mu +h.o.t.=0.\end{array}$ (3.19)

4. 主要结果

要研究系统(2.1)“∞”型双异维环、双同宿环的存在性和双异维环与其他奇异轨的共存性，则需要分析分支方程(3.19)是否有满足 $s_k=0,k=1,2,3,4$ ； $s_1,s_4>0,s_2=s_3=0$ 的解。通过分析以上的情况，我们给出以下定理。

定理4.1 在(A1)~(A6)的假设下，如果 $Rank\left({{\rm M}}_1^2,{{\rm M}}_2^2,{{\rm M}}_3^2,{{\rm M}}_4^2,{{\rm M}}_4^3\right)=5$，则存在一个 $\left(l-5\right)$ 维的曲面

$L_{14}=\left\{\mu :{{\rm M}}_1^2\mu +h.o.t.={{\rm M}}_2^2\mu +h.o.t.={{\rm M}}_3^2\mu +h.o.t.={{\rm M}}_4^2\mu +h.o.t.={{\rm M}}_4^3\mu +h.o.t.=0\right\}$

此曲面在 $\mu =0$ 时，它具有法平面 ${\Sigma }_{14}=span\left\{{{\rm M}}_1^2,{{\rm M}}_2^2,{{\rm M}}_3^2,{{\rm M}}_4^2,{{\rm M}}_4^3\right\}$。并且当 $\mu \in L_{14}$， $0<\left|\mu \right|\ll 1$ 且 $\left|y_3^1\right|\ll 1$ 时，系统(2.1)在Γ的小邻域内具有一个连接 $p_1$， $p_2$ 和 $p_3$ 的“ $\infty$ ”型异维环 ${\Gamma }^{\mu }={\Gamma }_1^{\mu }\cup {\Gamma }_2^{\mu }\cup {\Gamma }_3^{\mu }\cup {\Gamma }_4^{\mu }$

(见图3)。

Figure 3. The “∞” type double heterodimensional cycle ${\Gamma }^{\mu }={\Gamma }_1^{\mu }\cup {\Gamma }_2^{\mu }\cup {\Gamma }_3^{\mu }\cup {\Gamma }_4^{\mu }$

图3. “∞”型异维环 ${\Gamma }^{\mu }={\Gamma }_1^{\mu }\cup {\Gamma }_2^{\mu }\cup {\Gamma }_3^{\mu }\cup {\Gamma }_4^{\mu }$

证明：考虑分支方程(3.19)具有足够小的非负解 $s_k=0,k=1,2,3,4$ 时，对应系统(2.1)存在“ $\infty$ ”型双异维环，当 $s_k=0,k=1,2,3,4$ 时，分支方程(3.19)可以写为形式

$\{\begin{array}{l}{{\rm M}}_k^2\mu +h.o.t.=0,k=1,2,3,4\\ {{\rm M}}_4^3\mu +h.o.t.=0,\end{array}$ (4.1)

又因为 $Rank\left({{\rm M}}_1^2,{{\rm M}}_2^2,{{\rm M}}_3^2,{{\rm M}}_4^2,{{\rm M}}_4^3\right)=5$，则由(4.1)可定义一个 $\left(l-5\right)$ 维的曲面

$L_{14}=\left\{\mu :{{\rm M}}_1^2\mu +h.o.t.={{\rm M}}_2^2\mu +h.o.t.={{\rm M}}_3^2\mu +h.o.t.={{\rm M}}_4^2\mu +h.o.t.={{\rm M}}_4^3\mu +h.o.t.=0\right\}$,

对 $\mu \in L_{14}$， $0<\left|\mu \right|\ll 1$ 和 $\left|y_3^1\right|\ll 1$，分支方程(3.19)有解 $s_k=0$， $k=1,2,3,4$。于是，系统(2.1)在Γ的小邻域内具有一个连接 $p_1$， $p_2$ 和 $p_3$ 的“ $\infty$ ”型异维环 ${\Gamma }^{\mu }={\Gamma }_1^{\mu }\cup {\Gamma }_2^{\mu }\cup {\Gamma }_3^{\mu }\cup {\Gamma }_4^{\mu }$ (见图3)，并且在 $\mu =0$ 时， $L_{14}$ 的法平面由 ${{\rm M}}_k^2,{{\rm M}}_4^3\left(k=1,2,3,4\right)$ 组成。

定理4.2如果假设条件(A1)~(A6)成立， $Rank\left({{\rm M}}_1^2,{{\rm M}}_2^2,{{\rm M}}_3^2,{{\rm M}}_4^2,{{\rm M}}_4^3\right)\ge 3$，并且满足 ${\bar{\omega }}_1^{22}{{\rm M}}_1^2\mu <0$， ${\omega }_3^{12}{{\rm M}}_3^2\mu >0$， $\left|y_3^1\right|\ll 1$，则存在分支曲面

$L_{23}=\left\{\mu :{{\rm H}}_2^1=0,{{\rm H}}_3^1\left(y_3^1,\mu \right)=0,{\overline{{\rm H}}}_3^1\left(\mu \right)=0\right\}$,

使得当 $\mu \in L_{23}$， $0<\left|\mu \right|\ll 1$ 时，系统(2.1)在Γ的小邻域内存在一个连接 $p_2$ 的“ $\infty$ ”型双同宿环(见图4)，并且在 $\mu =0$ 处曲面 $L_{23}$ 与 $L_{14}$ 相切。这里

$\begin{array}{l}{{\rm H}}_2^1\left(\mu \right)\triangleq {\left({\omega }_2^{32}\right)}^{-1}\left({\bar{\omega }}_1^{32}{{\rm M}}_1^2\mu +{{\rm M}}_1^3\mu \right){\left(-{\bar{\omega }}_1^{22}{\sigma }^{-1}{{\rm M}}_1^2\mu \right)}^{\frac{{\lambda }_1^2}{{\rho }_1^1}}+{{\rm M}}_2^2\mu +h.o.t.,\\ {{\rm H}}_3^1\left(y_3^1,\mu \right)\triangleq y_3^1{\left({\sigma }^{-1}{\omega }_3^{12}{{\rm M}}_3^2\mu \right)}^{\frac{{\rho }_3^1}{{\lambda }_3^1}}-{\bar{\omega }}_4^{23}\sigma {\left({\sigma }^{-1}{\omega }_3^{12}{{\rm M}}_3^2\mu \right)}^{\frac{{\rho }_3^2}{{\lambda }_3^1}}+{{\rm M}}_4^2\mu +h.o.t.,\\ {\overline{{\rm H}}}_3^1\left(\mu \right)\triangleq \sigma {\left({\sigma }^{-1}{\omega }_3^{12}{{\rm M}}_3^2\mu \right)}^{\frac{{\rho }_3^2}{{\lambda }_3^1}}+{{\rm M}}_4^3\mu +h.o.t\mathrm{..}\end{array}$

Figure 4. Double homoclinic loop

图4. “∞”型双同宿环

证明：为了分析系统(2.1)存在“ $\infty$ ”型双同宿环，我们只需要证明分支方程(3.19)存在解 $s_1,s_4>0,s_2=s_3=0$，将 $s_2=s_3=0$ 代入(3.19)中，我们可得：

$\{\begin{array}{l}{\left({\bar{\omega }}_1^{22}\right)}^{-1}\sigma s_1+{{\rm M}}_1^2\mu +h.o.t.=0,\\ -{\left({\omega }_2^{32}\right)}^{-1}\left({\bar{\omega }}_1^{32}{\left({\bar{\omega }}_1^{22}\right)}^{-1}\sigma s_1-{{\rm M}}_1^3\mu \right)s_1^{\frac{{\lambda }_1^2}{{\rho }_1^1}}+{{\rm M}}_2^2\mu +h.o.t.=0,\\ -{\left({\omega }_3^{12}\right)}^{-1}\sigma s_4^{\frac{{\lambda }_3^1}{{\rho }_3^1}}+{{\rm M}}_3^2\mu +h.o.t.=0,\\ y_3^1{s}_4-{\bar{\omega }}_4^{23}\sigma s_4^{\frac{{\rho }_3^2}{{\rho }_3^1}}+{{\rm M}}_4^2\mu +h.o.t.=0,\\ \sigma s_4^{\frac{{\rho }_3^2}{{\rho }_3^1}}+{{\rm M}}_4^3\mu +h.o.t.=0.\end{array}$ (4.2)

由(4.2)第一个方程可得: $s_1=-{\bar{\omega }}_1^{22}{\sigma }^{-1}{{\rm M}}_1^2\mu +h.o.t.$。若 ${\bar{\omega }}_1^{22}{{\rm M}}_1^2\mu <0$，则 $1\gg s_1>0$，将 $s_1$ 代入(4.2)中第二

个方程，可得：

${{\rm H}}_2^1\left(\mu \right)\triangleq {\left({\omega }_2^{32}\right)}^{-1}\left({\bar{\omega }}_1^{32}{{\rm M}}_1^2\mu +{{\rm M}}_1^3\mu \right){\left(-{\bar{\omega }}_1^{22}{\sigma }^{-1}{{\rm M}}_1^2\mu \right)}^{\frac{{\lambda }_1^2}{{\rho }_1^1}}+{{\rm M}}_2^2\mu +h.o.t.$

由(4.2)第三个方程可得： $s_4={\left({\sigma }^{-1}{\omega }_3^{12}{{\rm M}}_3^2\mu \right)}^{\frac{{\rho }_3^1}{{\lambda }_3^1}}+h.o.t.$。对 ${\omega }_3^{12}{{\rm M}}_3^2\mu >0$，则有 $0<s_4\ll 1$，将 $s_4$ 代入(4.2)

中第四和第五个方程中，可得分支曲面

$L_{23}=\left\{\mu :{{\rm H}}_2^1=0,{{\rm H}}_3^1\left(y_3^1,\mu \right)=0,{\overline{{\rm H}}}_3^1\left(\mu \right)=0\right\}$,

这里

$\begin{array}{l}{{\rm H}}_3^1\left(y_3^1,\mu \right)\triangleq y_3^1{\left({\sigma }^{-1}{\omega }_3^{12}{{\rm M}}_3^2\mu \right)}^{\frac{{\rho }_3^1}{{\lambda }_3^1}}-{\bar{\omega }}_4^{23}\sigma {\left({\sigma }^{-1}{\omega }_3^{12}{{\rm M}}_3^2\mu \right)}^{\frac{{\rho }_3^2}{{\lambda }_3^1}}+{{\rm M}}_4^2\mu +h.o.t.,\\ {\overline{{\rm H}}}_3^1\left(\mu \right)\triangleq \sigma {\left({\sigma }^{-1}{\omega }_3^{12}{{\rm M}}_3^2\mu \right)}^{\frac{{\rho }_3^2}{{\lambda }_3^1}}+{{\rm M}}_4^3\mu +h.o.t.,\end{array}$

曲面 $L_{23}$ 在 $\mu =0$ 处的法向量为 ${{\rm M}}_2^2,{{\rm M}}_4^2,{{\rm M}}_4^3\in {\Sigma }_{14}$，因此当 $\mu =0$ 时，曲面 $L_{23}$ 与 $L_{14}$ 相切。

定理4.3假设(A1)~(A6)成立， $Rank\left({{\rm M}}_1^2,{{\rm M}}_2^2,{{\rm M}}_3^2,{{\rm M}}_4^2,{{\rm M}}_4^3\right)=5$，再假设 $\frac{{\lambda }_2^2}{{\rho }_2^1}<\frac{{\rho }_3^2}{{\lambda }_3^1}<1+\frac{{\lambda }_2^2}{{\rho }_2^1}$， $\frac{{\lambda }_2^1}{{\rho }_2^1}-\frac{{\rho }_3^1}{{\lambda }_3^1}>1$，则当 $\mu$ 满足: $\mu \in L_{14}$， ${\omega }_2^{32}{{\rm M}}_1^3\mu >0$， $\omega {\omega }_4^{12}{{\rm M}}_3^3\mu <0$， $0<\left|\mu \right|\ll 1$ ;并且 ${\omega }_1^{12}{\bar{\omega }}_1^{22}>0$， ${\omega }_2^{32}{\bar{\omega }}_1^{32}{\bar{\omega }}_1^{22}>0$， ${\omega }_3^{12}>0$， $\omega {\omega }_4^{32}>0$， $\left|y_3^1\right|\ll 1$ 时，以下结论成立：

1) 若 ${\aleph }_1=0,{\aleph }_2=0$，系统(2.1)在Γ的小邻域内存在两个2重周期轨与异宿环 ${\Gamma }^{\mu }$ 共存(见图5)。

2) 若 ${\aleph }_1>0,{\aleph }_2>0$，系统(2.1)在Γ的小邻域内存在两个1-周期轨与异宿环 ${\Gamma }^{\mu }$ 共存(见图6)。

其中

$\begin{array}{l}{\aleph }_1=-{\left({\omega }_2^{32}\right)}^{-1}{\bar{\omega }}_1^{32}{\left({\bar{\omega }}_1^{22}\right)}^{-1}\sigma \left(1-\alpha \right){\left({\alpha }^{-1}{\omega }_2^{32}{\left({\bar{\omega }}_1^{32}\right)}^{-1}{\bar{\omega }}_1^{22}{\sigma }^{-1}{\left({\omega }_2^{32}\right)}^{-1}{{\rm M}}_1^3\mu \right)}^{\frac{\alpha }{\alpha -1}}-\sigma {\left({\omega }_1^{12}{\left({\bar{\omega }}_1^{22}\right)}^{-1}\right)}^{\frac{{\rho }_2^1}{{\lambda }_2^1}}+h.o.t.,\\ {\aleph }_2=-\sigma {\left({\omega }_3^{12}\right)}^{\frac{{\rho }_3^2}{{\lambda }_3^1}}\left(1-\beta \right){\left(-{\beta }^{-1}{\sigma }^{-1}{\left({\omega }_3^{12}\right)}^{-\frac{{\rho }_3^2}{{\lambda }_3^1}}{\left(\omega \right)}^{-1}{\omega }_4^{12}{{\rm M}}_3^3\mu \right)}^{\frac{\beta }{\beta -1}}-\sigma {\left(\omega \right)}^{-1}{\omega }_4^{32}+h.o.t\mathrm{..}\end{array}$

Figure 5. ${\aleph }_1=0,{\aleph }_2=0$

图5. ${\aleph }_1=0,{\aleph }_2=0$

Figure 6. ${\aleph }_1>0,{\aleph }_2>0$

图6. ${\aleph }_1>0,{\aleph }_2>0$

证明：当 $\mu \in L_{14}$， $0<\left|\mu \right|\ll 1$ 时，分支方程(3.19)可以写为形式：

$\{\begin{array}{l}{\left({\bar{\omega }}_1^{22}\right)}^{-1}\sigma s_1+{\left({\omega }_1^{12}\right)}^{-1}\sigma s_2^{\frac{{\lambda }_2^1}{{\rho }_2^1}}+h.o.t.=0,\\ -\sigma s_2-{\left({\omega }_2^{32}\right)}^{-1}\left({\bar{\omega }}_1^{32}{\left({\bar{\omega }}_1^{22}\right)}^{-1}\sigma s_1-{{\rm M}}_1^3\mu \right)s_1^{\frac{{\lambda }_1^2}{{\rho }_1^1}}+h.o.t.=0,\\ \sigma s_3-{\left({\omega }_3^{12}\right)}^{-1}\sigma s_4^{\frac{{\lambda }_3^1}{{\rho }_3^1}}+h.o.t.=0,\\ y_3^1{s}_4-{\bar{\omega }}_4^{23}\sigma s_4^{\frac{{\rho }_3^2}{{\rho }_3^1}}-{\left(\omega \right)}^{-1}{\omega }_4^{33}\sigma s_3^{\frac{{\lambda }_2^1}{{\rho }_2^1}}+h.o.t.=0,\\ \sigma s_4^{\frac{{\rho }_3^2}{{\rho }_3^1}}-{\left(\omega \right)}^{-1}{\omega }_4^{12}{\bar{\omega }}_3^{32}\sigma s_3^{1+\frac{{\lambda }_2^2}{{\rho }_2^1}}-{\left(\omega \right)}^{-1}{\omega }_4^{12}{y}_3^1{s}_3^{\frac{{\lambda }_2^2}{{\rho }_2^1}}+{\left(\omega \right)}^{-1}{\omega }_4^{12}{{\rm M}}_3^3\mu s_3^{\frac{{\lambda }_2^2}{{\rho }_2^1}}\\ +{\left(\omega \right)}^{-1}{\omega }_4^{12}{\omega }_3^{22}{\left({\omega }_3^{12}\right)}^{-1}\sigma s_4^{\frac{{\lambda }_3^1}{{\rho }_3^1}}{s}_3^{\frac{{\lambda }_2^2}{{\rho }_2^1}}+{\left(\omega \right)}^{-1}{\omega }_4^{32}\sigma s_3^{\frac{{\lambda }_2^1}{{\rho }_2^1}}+h.o.t.=0.\end{array}$ (4.3)

首先我们对分支方程(4.3)前两个方程进行分析

1) 对于(4.3)第一个方程，我们可知

$s_2^{\frac{{\lambda }_2^1}{{\rho }_2^1}}={\omega }_1^{12}{\left({\bar{\omega }}_1^{22}\right)}^{-1}{s}_1+h.o.t.$

当 $s_1=0$ 时， $s_2=0$，则系统(2.1)在 ${\Gamma }_1\cup {\Gamma }_2$ 的小邻域内不存在同宿环与异宿环 ${\Gamma }_1^{\mu }\cup {\Gamma }_2^{\mu }$ 共存；当 ${\omega }_1^{12}{\bar{\omega }}_1^{22}<0$ 时，由 $s_1>0$ 有 $s_2<0$，则系统(2.1)在 ${\Gamma }_1\cup {\Gamma }_2$ 的小邻域内不存在周期轨与异宿环 ${\Gamma }_1^{\mu }\cup {\Gamma }_2^{\mu }$ 共存；当 ${\omega }_1^{12}{\bar{\omega }}_1^{22}>0$ 时，由 $0<s_1\ll 1$ 有 $0<s_2\ll 1$，将(4.3)中第一个方程代入第二个方程中，可得

$-\sigma {\left({\omega }_1^{12}{\left({\bar{\omega }}_1^{22}\right)}^{-1}{s}_1\right)}^{\frac{{\rho }_2^1}{{\lambda }_2^1}}-{\left({\omega }_2^{32}\right)}^{-1}\left({\bar{\omega }}_1^{32}{\left({\bar{\omega }}_1^{22}\right)}^{-1}\sigma s_1-{{\rm M}}_1^3\mu \right)s_1^{\frac{{\lambda }_1^2}{{\rho }_1^1}}+h.o.t.=0,$ (4.4)

通过整理，上式可以重写为下面的形式

$-\sigma {\left({\omega }_1^{12}{\left({\bar{\omega }}_1^{22}\right)}^{-1}\right)}^{\frac{{\rho }_2^1}{{\lambda }_2^1}}-{\left({\omega }_2^{32}\right)}^{-1}{\bar{\omega }}_1^{32}{\left({\bar{\omega }}_1^{22}\right)}^{-1}\sigma s_1^{1+\frac{{\lambda }_1^2}{{\rho }_1^1}-\frac{{\rho }_2^1}{{\lambda }_2^1}}+{\left({\omega }_2^{32}\right)}^{-1}{{\rm M}}_1^3\mu s_1^{\frac{{\lambda }_1^2}{{\rho }_1^1}-\frac{{\rho }_2^1}{{\lambda }_2^1}}+h.o.t.=0,$ (4.5)

我们记

$t=s_1^{\frac{{\lambda }_1^2}{{\rho }_1^1}-\frac{{\rho }_2^1}{{\lambda }_2^1}},\alpha =1+\frac{{\rho }_1^1{\lambda }_2^1}{{\lambda }_1^2{\lambda }_2^1-{\rho }_1^1{\rho }_2^1},$

由式(4.5)可令

$\begin{array}{l}L\left(t\right)={\left({\omega }_2^{32}\right)}^{-1}{{\rm M}}_1^3\mu t-\sigma {\left({\omega }_1^{12}{\left({\bar{\omega }}_1^{22}\right)}^{-1}\right)}^{\frac{{\rho }_2^1}{{\lambda }_2^1}}+h.o.t.,\\ N\left(t\right)={\left({\omega }_2^{32}\right)}^{-1}{\bar{\omega }}_1^{32}{\left({\bar{\omega }}_1^{22}\right)}^{-1}\sigma t^{\alpha }+h.o.t\mathrm{..}\end{array}$ (4.6)

不妨我们考虑 ${\omega }_2^{32}{{\rm M}}_1^3\mu >0$， ${\omega }_1^{12}{\bar{\omega }}_1^{22}>0$， ${\omega }_2^{32}{\bar{\omega }}_1^{32}{\bar{\omega }}_1^{22}>0$，由 $L^{\prime }\left(t\right)=N^{\prime }\left(t\right)$ 可得

$\tilde{t}={\left({\alpha }^{-1}{\left({\bar{\omega }}_1^{32}\right)}^{-1}{\bar{\omega }}_1^{22}{\sigma }^{-1}{{\rm M}}_1^3\mu \right)}^{\frac{1}{\alpha -1}}+h.o.t.$ (4.7)

定义直线 $\tilde{L}\left(t\right)={\left({\omega }_2^{32}\right)}^{-1}{{\rm M}}_1^3\mu \left(t-\tilde{t}\right)+N\left(\tilde{t}\right)$，则该直线与曲线 $N\left(t\right)$ 在 $t=\tilde{t}$ 处相切并且平行于 $L\left(t\right)$。现在我们可以看出 $\tilde{L}\left(0\right)=-{\left({\omega }_2^{32}\right)}^{-1}{{\rm M}}_1^3\mu \tilde{t}+N\left(\tilde{t}\right)$，由(4.6)和(4.7)可得 $\tilde{L}\left(0\right)=L\left(0\right)-{\aleph }_1$，其中

$\begin{array}{l}\tilde{L}\left(0\right)={\left({\omega }_2^{32}\right)}^{-1}{\bar{\omega }}_1^{32}{\left({\bar{\omega }}_1^{22}\right)}^{-1}\sigma \left(1-\alpha \right){\left({\alpha }^{-1}{\omega }_2^{32}{\left({\bar{\omega }}_1^{32}\right)}^{-1}{\bar{\omega }}_1^{22}{\sigma }^{-1}{\left({\omega }_2^{32}\right)}^{-1}{{\rm M}}_1^3\mu \right)}^{\frac{\alpha }{\alpha -1}}+h.o.t.,\\ L\left(0\right)=-\sigma {\left({\omega }_1^{12}{\left({\bar{\omega }}_1^{22}\right)}^{-1}\right)}^{\frac{{\rho }_2^1}{{\lambda }_2^1}}+h.o.t.,\end{array}$

${\aleph }_1=-{\left({\omega }_2^{32}\right)}^{-1}{\bar{\omega }}_1^{32}{\left({\bar{\omega }}_1^{22}\right)}^{-1}\sigma \left(1-\alpha \right){\left({\alpha }^{-1}{\omega }_2^{32}{\left({\bar{\omega }}_1^{32}\right)}^{-1}{\bar{\omega }}_1^{22}{\sigma }^{-1}{\left({\omega }_2^{32}\right)}^{-1}{{\rm M}}_1^3\mu \right)}^{\frac{\alpha }{\alpha -1}}-\sigma {\left({\omega }_1^{12}{\left({\bar{\omega }}_1^{22}\right)}^{-1}\right)}^{\frac{{\rho }_2^1}{{\lambda }_2^1}}+h.o.t.$.

情况1：对于 ${\aleph }_1<0$，由于 $\tilde{L}\left(0\right)-L\left(0\right)=-{\aleph }_1>0$，我们可知直线 $L\left(t\right)$ 与曲线 $N\left(t\right)$ 无交点，即方程(4.5)无解，从而系统(2.1)在 ${\Gamma }_1\cup {\Gamma }_2$ 小邻域内不存在周期轨与异宿环 ${\Gamma }_1^{\mu }\cup {\Gamma }_2^{\mu }$ 共存；

情况2：对于 ${\aleph }_1=0$，由于 $\tilde{L}\left(0\right)-L\left(0\right)=-{\aleph }_1=0$，我们可知直线 $L\left(t\right)$ 与曲线 $N\left(t\right)$ 有唯一的交点 $t^{\ast }=\tilde{t}$，且 $0<t^{\ast }\ll 1$，满足 $L\left(t^{\ast }\right)=N\left(t^{\ast }\right),L^{\prime }\left(t^{\ast }\right)=N^{\prime }\left(t^{\ast }\right)$，回代可得

$\begin{array}{l}0<s_1^{\ast }={\sigma }^{-1}{\alpha }^{-1}{\left({\bar{\omega }}_1^{32}\right)}^{-1}{\bar{\omega }}_1^{22}{{\rm M}}_1^3\mu +h.o.t.\ll 1,\\ 0<s_2^{\ast }={\left({\sigma }^{-1}{\alpha }^{-1}{\left({\bar{\omega }}_1^{32}\right)}^{-1}{\bar{\omega }}_1^{22}{{\rm M}}_1^3\mu \right)}^{\frac{{\rho }_2^1}{{\lambda }_2^1}}+h.o.t\ll 1,\end{array}$

从而系统(2.1)在 ${\Gamma }_1\cup {\Gamma }_2$ 小邻域内存在一个2重周期轨与异宿环 ${\Gamma }_1^{\mu }\cup {\Gamma }_2^{\mu }$ 共存；

情况3：对于 ${\aleph }_1>0$，即 $\tilde{L}\left(0\right)<L\left(0\right)<0=\hat{L}\left(0\right)$，这里定义

$\hat{L}\left(t\right)={\left({\omega }_2^{32}\right)}^{-1}{{\rm M}}_1^3\mu t+h.o.t.$

则直线 $\hat{L}\left(t\right)$ 与曲线 $N\left(t\right)$ 只有一个交点满足 $0<\tilde{t}<\hat{t}\ll 1$

$\hat{t}={\left({\omega }_2^{32}{\left({\bar{\omega }}_1^{32}\right)}^{-1}{\bar{\omega }}_1^{22}{\sigma }^{-1}{\left({\omega }_2^{32}\right)}^{-1}{{\rm M}}_1^3\mu \right)}^{\frac{1}{\alpha -1}}+h.o.t.$

通过计算，我们可知 $\hat{L}\left(\tilde{t}\right)>L\left(\tilde{t}\right)$， $\tilde{L}\left(\tilde{t}\right)=N\left(\tilde{t}\right)$， $L\left(\tilde{t}\right)-\tilde{L}\left(\tilde{t}\right)=L\left(0\right)-\tilde{L}\left(0\right)={\aleph }_1>0$，则可得 $\hat{L}\left(\tilde{t}\right)>L\left(\tilde{t}\right)>\tilde{L}\left(\tilde{t}\right)=N\left(\tilde{t}\right)$，又因为 $\hat{L}\left(\tilde{t}\right)=N\left(\tilde{t}\right)>L\left(\tilde{t}\right)>\tilde{L}\left(\tilde{t}\right)$，故直线 $L\left(t\right)$ 与曲线 $N\left(t\right)$ 有一个交点 $t^{\ast \ast }$ 满足 $0<\tilde{t}<t^{\ast \ast }<\hat{t}\ll 1$。从而存在

$0<s_1^{\ast \ast }=t^{\ast \ast }{}^{\frac{{\rho }_1^1{\lambda }_2^1}{{\lambda }_1^2{\lambda }_2^1-{\rho }_1^1{\rho }_2^1}}+h.o.t.\ll 1,0<s_2^{\ast \ast }={\left({\omega }_1^{12}{\left({\bar{\omega }}_1^{22}\right)}^{-1}{s}_1^{\ast \ast }\right)}^{\frac{{\rho }_2^1}{{\lambda }_2^1}}+h.o.t.\ll 1.$

因此，系统(2.1)在 ${\Gamma }_1\cup {\Gamma }_2$ 小邻域内存在一个1-周期轨与异宿环 ${\Gamma }_1^{\mu }\cup {\Gamma }_2^{\mu }$ 共存。

接着我们对分支方程(4.3)后三个方程进行分析。

2) 由(4.3)第三个方程可得：

$s_4={\left({\omega }_3^{12}{s}_3\right)}^{\frac{{\rho }_3^1}{{\lambda }_3^1}}+h.o.t.$

若 ${\omega }_3^{12}>0$， $s_3\ge 0$，则 $s_4\ge 0$，当且仅当 $s_3=s_4=0$。故系统(2.1)在 ${\Gamma }_3\cup {\Gamma }_4$ 的小邻域内不存在同宿轨与异宿轨 ${\Gamma }_3^{\mu }\cup {\Gamma }_4^{\mu }$ 共存。将(4.3)第三个方程代入第四个方程可得：

$y_3^1={\bar{\omega }}_4^{23}\sigma {\left({\omega }_3^{12}{s}_3\right)}^{\frac{{\rho }_3^2}{{\lambda }_3^1}-\frac{{\rho }_3^1}{{\lambda }_3^1}}+{\left(\omega \right)}^{-1}{\omega }_4^{33}\sigma s_3^{\frac{{\lambda }_2^1}{{\rho }_2^1}-\frac{{\rho }_3^1}{{\lambda }_3^1}}+h.o.t.$

将(4.3)第三个方程以及上式代入第五个方程，并且限制 $\frac{{\lambda }_2^2}{{\rho }_2^1}<\frac{{\rho }_3^2}{{\lambda }_3^1}<1+\frac{{\lambda }_2^2}{{\rho }_2^1}$， $\frac{{\lambda }_2^1}{{\rho }_2^1}-\frac{{\rho }_3^1}{{\lambda }_3^1}>1$，再通过化简

整理可得：

$\sigma {\left({\omega }_3^{12}\right)}^{\frac{{\rho }_3^2}{{\lambda }_3^1}}{s}_3^{\frac{{\rho }_3^2}{{\lambda }_3^1}-\frac{{\lambda }_2^1}{{\rho }_2^1}}+{\left(\omega \right)}^{-1}{\omega }_4^{12}{{\rm M}}_3^3\mu s_3^{\frac{{\lambda }_2^2}{{\rho }_2^1}-\frac{{\lambda }_2^1}{{\rho }_2^1}}+{\left(\omega \right)}^{-1}{\omega }_4^{32}\sigma +h.o.t.=0$ (4.8)

记

$\begin{array}{l}{L}_1\left(s\right)=-{\left(\omega \right)}^{-1}{\omega }_4^{12}{{\rm M}}_3^3\mu s-{\left(\omega \right)}^{-1}{\omega }_4^{32}\sigma +h.o.t.,\\ N_1\left(s\right)=\sigma {\left({\omega }_3^{12}\right)}^{\frac{{\rho }_3^2}{{\lambda }_3^1}}{s}^{\beta }+h.o.t.,\end{array}$

其中 $s=s_3^{\frac{{\lambda }_2^2-{\lambda }_2^1}{{\rho }_2^1}},\beta =\frac{{\rho }_3^2{\rho }_2^1-{\lambda }_2^1{\lambda }_3^1}{{\lambda }_2^2{\lambda }_3^1-{\lambda }_2^1{\lambda }_3^1}$。显然 $\beta >1$。

我们在这里限制 ${\omega }_3^{12}>0$， $\omega {\omega }_4^{12}{{\rm M}}_3^3\mu <0$， $\omega {\omega }_4^{32}>0$，接下来对(4.8)式的分析与前面(1)中对式(4.5)的

分析方法相似，在这里我们将省略不再赘述，通过分析我们有：

情况1：对于 ${\aleph }_2<0$，系统(2.1)在 ${\Gamma }_3\cup {\Gamma }_4$ 小邻域内不存在周期轨与异宿环 ${\Gamma }_3^{\mu }\cup {\Gamma }_4^{\mu }$ 共存；

情况2：对于 ${\aleph }_2=0$，系统(2.1)在 ${\Gamma }_3\cup {\Gamma }_4$ 小邻域内存在一个2重周期轨与异宿环 ${\Gamma }_3^{\mu }\cup {\Gamma }_4^{\mu }$ 共存；

情况3：对于 ${\aleph }_2>0$，系统(2.1)在 ${\Gamma }_3\cup {\Gamma }_4$ 小邻域内存在一个1-周期轨与异宿环 ${\Gamma }_3^{\mu }\cup {\Gamma }_4^{\mu }$ 共存。

这里

${\aleph }_2=-\sigma {\left({\omega }_3^{12}\right)}^{\frac{{\rho }_3^2}{{\lambda }_3^1}}\left(1-\beta \right){\left(-{\beta }^{-1}{\sigma }^{-1}{\left({\omega }_3^{12}\right)}^{-\frac{{\rho }_3^2}{{\lambda }_3^1}}{\left(\omega \right)}^{-1}{\omega }_4^{12}{{\rm M}}_3^3\mu \right)}^{\frac{\beta }{\beta -1}}-\sigma {\left(\omega \right)}^{-1}{\omega }_4^{32}+h.o.t.$

综上，若 ${\aleph }_1=0,{\aleph }_2=0$，系统(2.1)在Γ的小邻域内存在两个2重周期轨与异维环 ${\Gamma }^{\mu }$ 共存(见图5)；若 ${\aleph }_1>0,{\aleph }_2>0$，系统(2.1)在Γ的小邻域内存在两个1-周期轨与异维环 ${\Gamma }^{\mu }$ 共存(见图6)。

注1 在定理4.3的条件下，还存在以下结论

1) 若 ${\aleph }_1=0,{\aleph }_2>0$ 或 ${\aleph }_1>0,{\aleph }_2=0$，系统(2.1)在Γ的小邻域内存在一个2重周期轨和一个1-周期轨与异宿环 ${\Gamma }^{\mu }$ 共存(见图7，图8)。

2) 若 ${\aleph }_1<0$，或 ${\aleph }_2<0$，系统(2.1)在Γ的小邻域内不存在周期轨与异宿环 ${\Gamma }^{\mu }$ 共存。

3) 系统(2.1)在Γ的小邻域内不存在同宿轨与异宿环 ${\Gamma }^{\mu }$ 共存。

Figure 7. ${\aleph }_1=0,{\aleph }_2>0$

图7. ${\aleph }_1=0,{\aleph }_2>0$

Figure 8. ${\aleph }_1>0,{\aleph }_2=0$

图8. ${\aleph }_1>0,{\aleph }_2=0$

5. 总结

异维环分支因为在实际问题中较为普遍存在，且可以产生复杂动力学行为，由于其高余维性以及余维分布的不对称性，研究难度非常大，目前所得结果比较少。本文在利用文 [9] 的方法基础上，讨论了具有轨道翻转的三点异维环“∞”型奇异轨分支，得到了连接 $p_1$， $p_2$ 和 $p_3$ 的“ $\infty$ ”型双异维环 ${\Gamma }^{\mu }$ 、同宿于 $p_2$ 的“∞”型双同宿环的存在性，以及双异维环 ${\Gamma }^{\mu }$ 与2重周期轨、1-周期轨的共存性与同宿轨的不共存性，并给出了相应分支曲面，从理论上完善了三点异维环的分支结果。但在讨论过程中，还有一些问题亟待解决，如系统具有共振特征值，轨道翻转，轨道倾斜以及几种情况交叉发生，可以今后进一步研究。

参考文献

NOTES

^*通讯作者。