Julia集为Cantor集的一族有理函数

A Class of Rational Functions with Cantor Julia Sets

摘要: 参数空间的研究是复解析动力系统研究的一个重要部分，著名的Mandelbrot集是含有单参数的多项式p(z)=z²+c(c为复常数)的参数空间，它是一个复杂的分形图。人们猜测，对同样含有单参数的函数族，应该也有像M集一样复杂的参数空间。为此，我们研究了含有单参数的二次有理函数族R_λ(z)=λz/(1−z)²(λ为复常数)。运用复解析动力系统中临界点与Fatou分支的关系，我们得到当参数λ∈(−1,0)∪(0,1)时，其Julia集为广义cantor集。此时由于该函数族的所有临界点都在Fatou集的一个吸性分支里面，所以该函数族中的函数全为双曲有理函数。

Abstract: Parameter space is an important part of complex analytic dynamics. Mandelbrot set, which is famous in the world, is the parameter space of p(z)=z²+c (c is a complex constant). And p(z) has one parameter. Many people conjecture that functions with one parameter also have the intricate parameter space as Mandelbrot set. Similarly, we study a class of rational functions with one parameter. They are R_λ(z)=λz/(1−z)² (λ is a complex constant). By using the relation between critical points and the component of Fatou set, we have found that they have cantor Julia sets when λ∈(−1,0)∪(0,1). Moreover, they are all hyperbolic rational functions since all critical points of them stay in an attract component of Fatou set.

1. 引言及主要结果

在复解析动力系统的研究中，参数空间的研究是一个极其重要的方面。对二次多项式族 $P_c\left(z\right)=z^2+c$ (c为复常数)，我们考虑集合

$M=\left\{c\in ℂ|J\left(P_c\right)是连通的\right\}$。

此时，集合M即为著名的Mandelbrot集 [1] [2] [3]。M集有许多问题吸引着众多的数学家去进行研究，至今仍有很多问题是没有解决的，例如 $\partial M$ 的局部连通性以及 $H=\mathrm{int}\left(M\right)$，其中 $H=\left\{c\right|p_c$ 具有吸性或超吸性周期轨道 $\}$ 等 [2]。

人们猜测，对含有单参数的函数族，应该也有像M集一样复杂的参数空间。对超越整函数族 $f\left(z\right)={\text{e}}^{\lambda z}$， $\lambda \in ℂ$，当参数 $0<\lambda <1/\text{e}$ 时，f的Julia集 $J\left(f\right)\ne ℂ$， $J\left(f\right)$ 含有cantor束；当 $\lambda >1/\text{e}$ 时， $J\left(f\right)=ℂ$。而对整个参数平面结构的研究，仍很不完整 [1]。

我们研究的是含有单参数的有理函数族 $R_{\lambda }\left(z\right)=\lambda z/{\left(1-z\right)}^2$ ( $\lambda$ 为复常数)，发现当参数沿实轴并且在 $\left(-1,1\right)$ 之间取值时，其Julia集 $J\left(R_{\lambda }\right)$ 为cantor集，此时函数全为双曲有理函数。为此，我们有如下的结论：

定理 若 $T:=\left\{R_{\lambda }\left(z\right)=\lambda z/{\left(1-z\right)}^2,\lambda \in \left(-1,0\right)\cup \left(0,1\right)\right\}$，则对任意的 $R_{\lambda }\left(z\right)\in T$， $J\left(R_{\lambda }\right)$ 为cantor集，且 $R_{\lambda }\left(z\right)$ 为双曲有理函数。

2. 预备知识和引理

为了证明定理，本节对有理函数动力系统的一些概念和结果进行回顾。

设 $R:\widehat{ℂ}\to \widehat{ℂ}$ 是有理函数，则R可表示为 $R\left(z\right)=P\left(z\right)/Q\left(z\right)$，这里P和Q是两个互质的多项式，记 $\mathrm{deg}\left(P\right)$ 为多项式P的次数，定义

$\mathrm{deg}\left(R\right)=\max \left\{\mathrm{deg}\left(P\right),\mathrm{deg}\left(Q\right)\right\}$，

称为有理函数R的度，它等于方程 $R\left(z\right)=a\in \widehat{ℂ}$ 的根的个数(重根记重数)。记 $R^n=\underset{n个}{\underset{︸}{R\circ R\circ \cdots \circ R}}$，如果序

列 $\left\{R^n\right\}$ 在 $z_0\in \widehat{ℂ}$ 是正规的，则称 $z_0$ 是R的正规点，R的所有正规点集称为R的Fatou集，记为 $F\left(R\right)$。 $F\left(R\right)$ 关于 $\widehat{ℂ}$ 的余集称为R的Julia集，记为 $J\left(R\right)$。 $F\left(R\right)$ 是开集，也称为稳定点集， $J\left(R\right)$ 是闭集，也称为不稳定点集。 $F\left(R\right)$ 的连通分支称为Fatou分支或稳定域。

定义2.1 [3] 若g是集合X上的一个自映射， $E$ 为X的一个子集，则

1) 称E为向前不变的，如果 $g\left(E\right)=E$ ；

2) 称E为向后不变的，如果 $g^{-1}\left(E\right)=E$ ；

3) 称E为完全不变的，如果 $g\left(E\right)=E=g^{-1}\left(E\right)$。

引理2.1 [3] [4] $J\left(R\right)$ 和 $F\left(R\right)$ 都是完全不变的，即 $R\left(F\left(R\right)\right)=F\left(R\right)=R^{-1}\left(F\left(R\right)\right)$， $R\left(J\left(R\right)\right)=J\left(R\right)=R^{-1}\left(J\left(R\right)\right)$。

定义2.2 设R为有理函数， $\mathrm{deg}\left(R\right)\ge 2,z_0\in \widehat{ℂ}$，称序列 $\left\{z_0,z_1=R\left(z_0\right),\cdots ,z_n=R^n\left(z_0\right),\cdots \right\}$ 为R在点 $z_0$ 的轨道(或称为正向轨道)，记为 $O_R\left(z_0\right)$ 或 $O\left(z_0\right)$，称点集 $\left\{z_0,R^{-1}\left(z_0\right),\cdots ,R^{-n}\left(z_0\right),\cdots \right\}$ 为R在点 $z_0$ 的逆轨道(或称为逆向轨道)，记为 $O_R^{-}\left(z_0\right)$ 或 $O^{-}\left(z_0\right)$。

一类重要的轨道是周期轨道，其定义如下。

定义2.3 称 $z_0\in \widehat{ℂ}$ 为R的周期点，如果存在正整数p使得 $R^p\left(z_0\right)=z_0$，满足该式的最小的p称为 $z_0$ 的周期，这时， $z_0$ 的轨道是一条有限轨道： $O\left(z_0\right)=\left\{z_0,z_1=R\left(z_0\right),\cdots ,z_{p-1}=R^{p-1}\left(z_0\right)\right\}$，称其为周期轨道或循环，p为其周期。若 $p=1$，即 $R\left(z_0\right)=z_0$，我们称 $z_0$ 为 $R\left(z\right)$ 的不动点。

显然，周期轨道内每一点都是周期点，都具有相同的周期p。

定义2.4 设 $z_0\in \widehat{ℂ}$ 为R的周期点，周期为p，则称 $\lambda ={\left(R^p\right)}^{\prime }\left(z_0\right)$ 为 $z_0$ 的乘子，若 $z_0$ 的轨道为 $O\left(z_0\right)=\left\{z_0,z_1,\cdots ,z_{p-1}\right\}$，则 $\lambda ={\displaystyle \underset{j=0}{\overset{p-1}{\prod }}{R}^{\prime }\left(z_j\right)}$。因此，周期轨道内每一点都有相同的乘子，故 $\lambda$ 也称为周期

轨道 $O\left(z_0\right)$ 的乘子。若 $z=\infty$ 或 $R\left(z\right)=\infty$，则在 $\infty$ 的邻域内取局部坐标 $1/z$，这时，求导运算在 $\infty$ 的邻域内也有定义。

依据乘子 $\lambda$，我们对周期点有如下分类。

定义2.5 设 $z_0$ 是R的周期点，周期为p，乘子为 $\lambda ={\left(R^p\right)}^{\prime }\left(z_0\right)$，那么

1) 如果 $0<\left|\lambda \right|<1$，则称 $z_0$ 为吸引周期点；

2) 如果 $\lambda =0$，则称 $z_0$ 为超吸引周期点；

3) 如果 $\left|\lambda \right|=1$，则称 $z_0$ 为中性周期点，此时， $\lambda ={\text{e}}^{2\pi i\theta }$， $\theta \in ℝ$。进一步，如果 $\theta$ 是有理数，则称 $z_0$ 为有理中性周期点；如果 $\theta$ 是无理数，则称 $z_0$ 为无理中性周期点。

上述分类对周期轨道也适合，对应地称为吸引周期轨道、超吸引周期轨道等。不动点是周期为1的周期点，关于不动点的个数，有如下结论。

引理2.2 [2] [3] [4] 若R是度 $d\ge 1$ 的有理函数，则R在 $\widehat{ℂ}$ 中有 $d+1$ 个不动点。

在动力系统的研究中，我们不仅要准确掌握不动点，还需要明确临界点以及它的轨道。

定义2.6 如果 $R\left(z\right)$ 在z的任何邻域内都不是单叶的，则称点z为 $R\left(z\right)$ 的临界点，也即 $R^{\prime }\left(z\right)$ 的零点及其 $R\left(z\right)$ 的重级极点(如果有重级极点)称为 $R\left(z\right)$ 的临界点。R在临界点的值称为临界值，R的临界点的集合通常记为 $C_R$， $C_R^{+}$ 指的是临界点的向前轨道。

引理2.3 [2] [3] [4] 度为d的有理函数R，在 $\widehat{ℂ}$ 中有 $2d-2$ 个临界点。

关于临界点和周期轨道，有很多重要的结论，这里，我们回顾一下临界点和吸引周期轨道的关系。

引理2.4 [2] 设 $O\left(z_0\right)=\left\{z_0,z_1,\cdots ,z_{p-1}\right\}$ 是R的吸引周期轨道，则其直接吸引域中至少包含R的一个临界点c，且 $O\left(c\right)\cap O\left(z_0\right)=\varnothing$。

一个拓扑空间(或子集)称为完全不连通的，如果它的每个连通分支由单个点组成。Cantor集就是完全不连通的，其定义如下。

定义2.7 $\widehat{ℂ}$ 中的子集E称为是cantor集，如果E是一个非空闭的完全集且E是完全不连通的。

这里的cantor集是广义cantor集，其原型是康托的“middle-third”集，若Julia集为cantor集，则此时的Julia集像一片片叶子的碎片，它不再是连续的，而由许许多多的离散点组成。

关于Julia集何时为cantor集，我们有下面的结论。

引理2.5 [3] 设R是度 $\mathrm{deg}\left(R\right)\ge 2$ 的有理函数， $z_0$ 为R的吸引或超吸引不动点，如果R的所有临界点均在 $z_0$ 的直接吸性域中，则 $J\left(R\right)$ 为cantor集。

接下来，我们需要回顾动力学性质相对简单的双曲有理函数。

定义2.8 一个有理函数 $R:\widehat{ℂ}\mapsto \widehat{ℂ}$， $\mathrm{deg}\left(R\right)\ge 2$，称为是双曲的，如果R在Julia集 $J\left(R\right)$ 上是扩张的。

引理2.6 [2] 设R是度 $\mathrm{deg}\left(R\right)\ge 2$ 的有理函数，那么下列条件等价：

1) R是双曲的，即在 $J\left(R\right)$ 上是扩张的；

2) $\overline{O_R\left(c\right)\cap J\left(R\right)}=\varnothing$ ；

3) 每个临界点的正向轨道收敛于某个吸引(或超吸引)周期轨道。

3. 定理的证明

证明：对任意的 $R_{\lambda }\in T$，由于 $\mathrm{deg}\left(R_{\lambda }\right)=2$，由引理2.2和引理2.3知函数 $R_{\lambda }$ 在 $\widehat{ℂ}$ 中有3个不动点和2个临界点，其2个临界点分别为−1和1，0为其中一个不动点，由于 $\left|R^{\prime }\left(0\right)\right|=\left|\lambda \right|$，且 $\lambda \in \left(-1,0\right)\cup \left(0,1\right)$，所以0为 $R_{\lambda }$ 的吸性不动点，记 $F\left(R_{\lambda }\right)$ 包含0的分支为 $D_0$，则 $D_0$ 是吸性分支且 $R_{\lambda }\left(D_0\right)\subset D_0$。由于 $D_0$ 是 $F\left(R_{\lambda }\right)$ 吸性分支，由引理2.4， $D_0$ 含有 $R_{\lambda }$ 的一个临界点，因为 $\mathrm{deg}\left(R_{\lambda }\right)=2$，所以 $D_0$ 是 $R_{\lambda }$ 的完全不变的分支。由于 $R_{\lambda }^2\left(1\right)=0$，所以临界点 $1\in D_0$。接下来分两种情形来讨论另一临界点−1的轨迹。

1) 当参数 $\lambda \in \left(0,1\right)$ 时，取 $x\in \left(-\infty ,0\right)$，则 $R_{\lambda }\left(x\right)=\lambda x/{\left(1-x\right)}^2$ 且 $R_{\lambda }\left(x\right)<0$。此时， $R_{\lambda }$ 在 $\widehat{ℂ}$ 中有3个

不动点分别为 $0,1-\sqrt{\lambda }$ 和 $1+\sqrt{\lambda }$。由于 $\left|\frac{x}{R_{\lambda }\left(x\right)}\right|=\left|x\cdot \frac{{\left(1-x\right)}^2}{\lambda x}\right|=\left|\frac{{\left(1-x\right)}^2}{\lambda }\right|>\left|{\left(1-x\right)}^2\right|>1$，所以当 $x\in \left(-\infty ,0\right)$

时，有 $x<R_{\lambda }\left(x\right)<0$，由于 $R_{\lambda }$ 在 $\left(-\infty ,0\right)$ 上没有不动点，所以 $R_{\lambda }^n\left(x\right)\to 0\left(n\to \infty \right)$，特别地有 $R_{\lambda }^n\left(-1\right)\to 0\left(n\to \infty \right)$，从而 $-1\in D_0$。

2) 当参数 $\lambda \in \left(-1,0\right)$ 时，取 $x\in \left(-\infty ,0\right)$，则 $R_{\lambda }^2\left(x\right)={\lambda }^{2}x{\left(1-x\right)}^2/{\left(\lambda x-{\left(1-x\right)}^2\right)}^2$ 且 $R_{\lambda }^2\left(x\right)<0$，此时， $\mathrm{deg}\left(R_{\lambda }^2\right)=4$，由引理2.2知 $R_{\lambda }$ 在 $\widehat{ℂ}$ 中有5个不动点分别为 $0,1-\sqrt{\left|\lambda \right|}i$， $1+\sqrt{\left|\lambda \right|}i$， $\left(\lambda +1\right)+\sqrt{\left|{\lambda }^2+\lambda \right|}i$ 和 $\left(\lambda +1\right)-\sqrt{\left|{\lambda }^2+\lambda \right|}i$。由于

$\left|\frac{x}{R_{\lambda }^2\left(x\right)}\right|=\left|x\cdot \frac{{\left(\lambda x-{\left(1-x\right)}^2\right)}^2}{{\lambda }^{2}x{\left(1-x\right)}^2}\right|=\left|\frac{{\left(\lambda x-{\left(1-x\right)}^2\right)}^2}{{\lambda }^2{\left(1-x\right)}^2}\right|>\left|\frac{{\left({\left(1-x\right)}^2-\lambda x\right)}^2}{{\left(1-x\right)}^2}\right|>{\left|\frac{{\left(1-x\right)}^2+x}{1-x}\right|}^2=\left|\frac{1-x+x^2}{1-x}\right|=\left|1+\frac{x^2}{1-x}\right|>1$

所以 $x<R_{\lambda }^2\left(x\right)<0$，由于 $R_{\lambda }$ 在 $\left(-\infty ,0\right)$ 上没有不动点，所以 $R_{\lambda }^n\left(x\right)\to 0\left(n\to \infty \right)$，同情形(1)我们也有 $-1\in D_0$。由于对任意的 $R_{\lambda }\in T$，其所有的临界点都在吸引分支 $D_0$ 中，从而由引理2.5知 $J\left(R_{\lambda }\right)$ 为cantor集。此时，由于 $\overline{O_{R_{\lambda }}\left(c\right)\cap J\left(R_{\lambda }\right)}=\varnothing$，由引理2.6得函数族中的函数均为双曲有理函数。定理证毕。

如果有理函数R是双曲的，那么在R附近的有理函数都是双曲的 [3]。在定理中，我们发现当参数沿实轴在 $\left(-1,0\right)$ 和 $\left(0,1\right)$ 取值时，函数 $R_{\lambda }$ 都是双曲的，所以在实轴附近一个不规整的区域内，函数都是双曲有理函数，这样的区域能否拓展？具体形状如何？这将是我们后续研究的问题，进一步，我们可以考虑函数的J-稳定性以及Julia集的hausdorff维数。

基金项目

云南开放大学云南国防工业职业技术学院科学研究基金项目，项目编号：21YNOU13。