一类非凸多面体集合上的切锥表达式研究

Study on the Expression of Tangent Cone on a Class of Nonconvex Polyhedron Sets

摘要: 切锥是变分分析中的一个重要概念，它的应用十分广泛。本文首先通过正则法锥、法锥、切锥和极锥的概念和性质，建立了一类非凸多面体集合的切锥表达式。然后通过切锥与内切锥的关系，证明了这类非凸多面体集合的切锥和内切锥的等价性。最后将这个结果应用到集值映射的广义可微性中，展现了这个等价性的重要意义。

Abstract: Tangent cone is an important concept in variational analysis, which is widely used. In this paper, firstly, through the concepts and properties of regular normal cone, normal cone, tangent cone and polar cone, the tangent cone expression of a class of nonconvex polyhedron sets is established. Then, through the relationship between tangent cone and innertangent cone, the equivalence of tangent cone and innertangent cone of this kind of nonconvex polyhedron sets is proved. Finally, this result is applied to the generalized differentiability of set-valued mapping, which shows the significance of this equivalence.

1. 引言

切锥是变分分析 [1] 中的一个重要概念，在刻画优化问题的最优性条件和集值映射的广义可微性方面起着重要的作用。众多学者对不同集合上的切锥表达式进行了研究，王韵和金畅 [2] 研究了一个拟可微函数和两个拟可微函数确定的约束集合的切锥和法锥之后，给出一般拟可微约束集合的切锥法锥表达式，并利用切锥和法锥建立了拟可微优化问题的一阶最优性条件。薛小维 [3] 通过切锥引入了一类切导数并利用这个导数对广义扰动映射进行了讨论。本文则对一类非凸多面体集合上的切锥表达式展开研究，而这类集合的切锥表达式在研究集值映射的图导数方面具有重要的意义。

2. 预备知识

此部分的预备知识来自于 [1]、 [3] 和 [4]。

2.1. 切锥与内切锥

设X是一个有限维的Hilbert空间， $S\subseteq X,$ $x\in S,$ S在x上的切锥定义为

$T_s\left(x\right)=\underset{t\downarrow 0}{\lim \sup }\frac{S-x}{t}.$ (1)

S在x上的内切锥定义为

$T_s^i\left(x\right)=\underset{t\downarrow 0}{\lim \inf }\frac{S-x}{t},$ (2)

其中limsup和liminf为集合的外极限和内极限。注意，如果 $x\notin S,$ S在x上的切锥与内切锥定义为空集。因为X是一个有限维空间，我们就可以用距离函数来描绘：

$T_s\left(x\right)=\left\{h\in X|\exists t_n\downarrow 0,dis\left(x+t_{n}h,S\right)=o\left(t_n\right)\right\},$

$T_s^i\left(x\right)=\left\{h\in X|dis\left(x+th,S\right)=o\left(t\right),t\ge 0\right\}.$

同理，可以用序列来描绘：

$T_s\left(x\right)=\left\{h|\exists t_k\searrow 0,\exists h^k\to h满足x+t_k{h}^k\in S,\forall k\right\},$ (3)

$T_s^i\left(x\right)=\left\{h|\forall t_k\searrow 0,\exists N\in N_{\infty },\exists h^k\stackrel{N}{\to }h满足x+t_k{h}^k\in S,\forall k\in N\right\}.$ (4)

命题 2.1若S为凸闭集，则 $\forall x\in S,$ $T_s\left(x\right)=T_s^i\left(x\right).$

证明：引入雷达锥：

$R_S\left(x\right)=\left\{h\in X|\exists t^{*}>0,\forall t\in \left[0,t^{*}\right],x+th\in S\right\},$

当S为凸闭集， $R_S\left(x\right)=\underset{t\downarrow 0}{U}\left\{t^{-1}\left(S-x\right)\right\}$ 显然成立。由S的凸性，可推得 $t^{-1}\left(S-x\right)$ 是t的递减函数(在集合包含意义下)。因此， $t\downarrow 0$ 时， $t^{-1}\left(S-x\right)$ 的上极限与下极限相等，是 $R_S\left(x\right)$ 的拓扑包。即此时：

$T_S\left(x\right)=T_S^i\left(x\right)=cl\left(R_S\left(x\right)\right).$

特别地，当集合在一点处为局部凸时结论依然成立。

2.2. 正则法锥与法锥

设X是一个有限维的Hilbert空间， $S\subseteq X,$ $x\in S.$ 如果

$\langle v,x^{\prime }-x\rangle \le o\left(\Vert x^{\prime }-x\Vert \right),x^{\prime }\in S.$

则称 $v\in X$ 为S在x处的正则法向量，所有正则法向量组成的集合称为S在x上的正则法锥，记为 ${\hat{N}}_s\left(x\right),$ 即

${\hat{N}}_s\left(x\right)=\left\{v\in X|\langle v,x^{\prime }-x\rangle \le o\left(\Vert x^{\prime }-x\Vert \right),x^{\prime }\in S\right\}.$

如果存在序列 $S\ni x_k\to x,$ 存在 $v_k\in {\hat{N}}_s\left(x^k\right),$ 满足 $v^k\to v.$ 则称向量 $v\in X$ 为S在x处的法向量。所有法向量组成的集合称为法锥，记为 $N_s\left(x\right),$ 即

$N_s\left(x\right)=\left\{v\in X|\exists S\ni x_k,\exists v_k\in {\hat{N}}_s\left(x^k\right)满足v^k\to v\right\}.$

设K是X中的一个闭凸锥，如果对任意的 $w\in K,$ 存在 $x\in X$ 满足 $\langle x,w\rangle \le 0,$ 将所有满足 $\langle x,w\rangle \le 0$ 的向量组成的集合称为极锥，记为 $K^{-},$ 即

$K^{-}=\left\{x\in X|\langle x,w\rangle \le 0,\forall w\in K\right\}.$

下面给出正则法锥与法锥的关系：

定理2.2 设X是有限维的Hilbert空间， $S\subseteq X,$ $\bar{x}\in S,$ 则 $N_s\left(\bar{x}\right)$ 与 ${\hat{N}}_s\left(\bar{x}\right)$ 均是闭锥，且切锥的极锥是正则法锥，即

${\hat{N}}_s\left(\bar{x}\right)=\left\{v\in X|\langle v,w\rangle \le 0,\forall w\in T_s\left(\bar{x}\right)\right\}.$ (5)

而且，

$N_s\left(\bar{x}\right)=\underset{S\ni x\to \bar{x}}{\lim \sup }{\hat{N}}_s\left(x\right).$ (6)

特别地，当S在 $\bar{x}$ 处是局部凸时，

$N_s\left(\bar{x}\right)=\left\{x\in X|\langle x,x^{\prime }-\bar{x}\rangle \le 0,\forall x^{\prime }\in S\right\}.$ (7)

集值映射 $N_S$ 的图定义为

$gph{N}_S=\left\{\left(x,v\right)|v\in N_S\left(x\right)\right\}.$

3. 主要结果

集合 $gph{N}_{gph{N}_{R_{+}}}$ 是一类特殊的非凸多面体，本节我们主要研究这个集合的切锥表达式，并证明相关集合的切锥和内切锥的等价性。

定理3.1对于 $\left(x,y,\xi ,\eta \right)\in gph{N}_{gph{N}_{R_{+}}},$ 证明

$T_{gph{N}_{gph{N}_{R_{+}}}}\left(x,y,\xi ,\eta \right)=\{\begin{array}{l}\left\{0\right\}\times R\times R\times \left\{0\right\},当\left(x,y,\xi ,\eta \right)\in \left\{0\right\}\times R_{--}\times R\times \left\{0\right\}时,\\ R\times \left\{0\right\}\times \left\{0\right\}\times R,当\left(x,y,\xi ,\eta \right)\in R_{++}\times \left\{0\right\}\times \left\{0\right\}\times R时,\\ \left\{0,0\right\}\times R\times \left\{0\right\},当\left(x,y,\xi ,\eta \right)\in \left\{0,0\right\}\times R_{++}\times \left\{0\right\}时,\\ \left\{0,0\right\}\times R\times \left\{0\right\},当\left(x,y,\xi ,\eta \right)\in \left\{0,0\right\}\times R_{--}\times \left\{0\right\}时,\\ \left\{0,0\right\}\times \left\{0\right\}\times R,当\left(x,y,\xi ,\eta \right)\in \left\{0,0\right\}\times \left\{0\right\}\times R_{--}时,\\ \left\{0,0\right\}\times \left\{0\right\}\times R,当\left(x,y,\xi ,\eta \right)\in \left\{0,0\right\}\times \left\{0\right\}\times R_{++}时,\\ \left\{0,0\right\}\times R\times R,当\left(x,y,\xi ,\eta \right)\in \left\{0,0\right\}\times R_{--}\times R_{++}时,\\ \left\{0,0\right\}\times \left[\left(R\times \left\{0\right\}\right)\cup \left(\left\{0\right\}\times R\right)\cup \left(R_{-}\times R_{+}\right)\right],当\left(x,y,\xi ,\eta \right)=\left(0,0,0,0\right)时。\end{array}$

证明：第一步：计算 $gph{N}_{R_{+}}.$

由于 $gph{N}_{R_{+}}=\left\{\left(x,y\right)|y\in N_{R_{+}}\left(x\right)\right\},$ 所以对 $x\in R_{+}$ 分情况考虑：

当 $x>0$ 时，如图1所示，对 $\forall x^{\prime }\in R_{+},$ 若 $x^{\prime }$ 在x右侧，则 $x^{\prime }-x$ 的方向为正方向；若 $x^{\prime }$ 在x左侧，则 $x^{\prime }-x$ 的方向为负方向，故由(7)得， $y=0;$

Figure 1. Diagram of directions for different positions

图1. 不同位置所对应的方向图

当 $x=0$ 时， $x^{\prime }-x$ 的方向为正方向，由(7)得， $y\in R_{-}.$

故

$\left(x,y\right)\in gph{N}_{R_{+}}\iff y=\{\begin{array}{l}0,x>0,\\ R_{-},x=0.\end{array}$

第二步：计算 $N_{gph{N}_{R_{+}}}\left(x,y\right).$

由于 $gph{N}_{gph{N}_{R_{+}}}=\left\{\left(x,y,\xi ,\eta \right)|\left(\xi ,\eta \right)\in N_{gph{N}_{R_{+}}}\left(x,y\right)\right\},$ 所以对 $\left(\xi ,\eta \right)\in gph{N}_{R_{+}}\left(x,y\right)$ 分情况考虑。

当 $y=0,x>0$ 时，此时是局部凸的，由(7)得 $\left(\xi ,\eta \right)\in \left\{0\right\}\times R;$

当 $y<0,x=0$ 时，此时是局部凸的，由(7)得 $\left(\xi ,\eta \right)\in R\times \left\{0\right\};$

当 $y=0,x=0$ 时，此时在 $\left(0,0\right)$ 不是局部凸的，由于切锥的极锥是正则法锥，正则法锥的外极限为法锥。同时 $\left(x,y\right)\to \left(0,0\right)$ 有三种方式：

当 $\left(x,y\right)$ 从x轴正半轴趋近 $\left(0,0\right)$ 时，由(7)得 $\left(\xi ,\eta \right)\in \left\{0\right\}\times R;$

当 $\left(x,y\right)$ 从y轴负半轴趋近 $\left(0,0\right)$ 时，由(7)得 $\left(\xi ,\eta \right)\in R\times \left\{0\right\};$

当 $\left(x,y\right)=\left(0,0\right)$ 时，先计算切锥，由(3)得 $T_{gph{N}_{R_{+}}}\left(0,0\right)=gph{N}_{R_{+}};$ 再计算正则法锥，由(5)得 ${\hat{N}}_{gph{N}_{R_{+}}}\left(0,0\right)=R_{-}\times R_{+}$ ；最后，由(6)得 $N_{gph{N}_{R_{+}}}\left(0,0\right)=R_{-}\times R_{+},$ 故 $\left(\xi ,\eta \right)\in R_{-}\times R_{+}$。故当 $\left(x,y\right)=\left(0,0\right)$ 时， $\left(\xi ,\eta \right)\in \left(R\times \left\{0\right\}\right)\cup \left(\left\{0\right\}\times R\right)\cup \left(R_{-}\times R_{+}\right)$，如图2所示。

综上所述，

$\left(\xi ,\eta \right)\in N_{gph{N}_{R_{+}}}\left(x,y\right)\iff \left(\xi ,\eta \right)\in \{\begin{array}{l}\left\{0\right\}\times R,当\left(x,y\right)\in R_{++}\times \left\{0\right\}时,\\ R\times \left\{0\right\},当\left(x,y\right)\in \left\{0\right\}\times R_{--}时,\\ \left(R\times \left\{0\right\}\right)\cup \left(\left\{0\right\}\times R\right)\cup \left(R_{-}\times R_{+}\right),当\left(x,y\right)=\left(0,0\right)时。\end{array}$

Figure 2. Diagram of the Tangent Cone at the origin

图2. 原点处的切锥的图

第三步：考虑 $T_{gph{N}_{gph{N}_{R_{+}}}}\left(x,y,\xi ,\eta \right).$

由于 $gph{N}_{gph{N}_{R_{+}}}$ 是四维的，为了方便问题的解决，故将 $R^4$ 拆分成 $R^2\times R^2.$

从上述对 $N_{gph{N}_{R_{+}}}\left(x,y\right)$ 的讨论可知，可对 $T_{gph{N}_{gph{N}_{R_{+}}}}\left(x,y,\xi ,\eta \right)$ 进行如下讨论。

① 当 $\left(x,y,\xi ,\eta \right)\in \left\{0\right\}\times R_{--}\times R\times \left\{0\right\}$ 时，

当 $\left(x,y\right)\in \left\{0\right\}\times R_{--}$ 时，由(6)式可知， $\left\{0\right\}\times R_{--}$ 的切锥为 $\left\{0\right\}\times R;$

当 $\left(\xi ,\eta \right)\in R\times \left\{0\right\}$ 时，由(6)式得， $R\times \left\{0\right\}$ 的切锥为 $R\times \left\{0\right\};$

又由于 $R^4=R^2\times R^2,$ 故 $T_{gph{N}_{gph{N}_{R_{+}}}}\left(x,y,\xi ,\eta \right)=\left\{0\right\}\times R\times R\times \left\{0\right\}.$

② 当 $\left(x,y,\xi ,\eta \right)\in R_{++}\times \left\{0\right\}\times \left\{0\right\}\times R$ 时，

当 $\left(x,y\right)\in R_{++}\times \left\{0\right\}$ 时，由(3)式可知， $R_{++}\times \left\{0\right\}$ 的切锥为 $R\times \left\{0\right\};$

当 $\left(\xi ,\eta \right)\in \left\{0\right\}\times R$ 时，由(3)式得， $R\times \left\{0\right\}$ 的切锥为 $\left\{0\right\}\times R;$

又由于 $R^4=R^2\times R^2,$ 故 $T_{gph{N}_{gph{N}_{R_{+}}}}\left(x,y,\xi ,\eta \right)=R\times \left\{0\right\}\times \left\{0\right\}\times R.$

③ 当 $\left(x,y,\xi ,\eta \right)\in \left\{0\right\}\times \left\{0\right\}\times \left[\left(R\times \left\{0\right\}\right)\cup \left(\left\{0\right\}\times R\right)\cup \left(R_{-}\times R_{+}\right)\right]$ 时，

由于 $N_{gph{N}_{R_{+}}}\left(x,y\right)$ 在 $\left(0,0\right)$ 不是局部凸的，故又将其分为如下六种情况：

情况一： $\left(x,y,\xi ,\eta \right)\in \left\{0,0\right\}\times R_{++}\times \left\{0\right\};$

情况二： $\left(x,y,\xi ,\eta \right)\in \left\{0,0\right\}\times R_{--}\times \left\{0\right\};$

情况三： $\left(x,y,\xi ,\eta \right)\in \left\{0,0\right\}\times \left\{0\right\}\times R_{--};$

情况四： $\left(x,y,\xi ,\eta \right)\in \left\{0,0\right\}\times \left\{0\right\}\times R_{++};$

情况五： $\left(x,y,\xi ,\eta \right)\in \left\{0,0\right\}\times R_{++}\times R_{--};$

情况六： $\left(x,y,\xi ,\eta \right)\in \left\{0,0,0,0\right\}.$

对于情况一 情况五，可类似① ②进行讨论，即

当 $\left(x,y,\xi ,\eta \right)\in \left\{0,0\right\}\times R_{++}\times \left\{0\right\}$ 时， $T_{gph{N}_{gph{N}_{R_{+}}}}\left(x,y,\xi ,\eta \right)=\left\{0,0\right\}\times R\times \left\{0\right\}.$

当 $\left(x,y,\xi ,\eta \right)\in \left\{0,0\right\}\times R_{--}\times \left\{0\right\}$ 时， $T_{gph{N}_{gph{N}_{R_{+}}}}\left(x,y,\xi ,\eta \right)=\left\{0,0\right\}\times R\times \left\{0\right\}.$

当 $\left(x,y,\xi ,\eta \right)\in \left\{0,0\right\}\times \left\{0\right\}\times R_{--}$ 时， $T_{gph{N}_{gph{N}_{R_{+}}}}\left(x,y,\xi ,\eta \right)=\left\{0,0\right\}\times \left\{0\right\}\times R.$

当 $\left(x,y,\xi ,\eta \right)\in \left\{0,0\right\}\times \left\{0\right\}\times R_{++}$ 时， $T_{gph{N}_{gph{N}_{R_{+}}}}\left(x,y,\xi ,\eta \right)=\left\{0,0\right\}\times \left\{0\right\}\times R.$

当 $\left(x,y,\xi ,\eta \right)\in \left\{0,0\right\}\times R_{--}\times R_{++}$ 时， $T_{gph{N}_{gph{N}_{R_{+}}}}\left(x,y,\xi ,\eta \right)=\left\{0,0\right\}\times R\times R.$

对于情况六， $\left(\xi ,\eta \right)\in N_{gph{N}_{R_{+}}}\left(0,0\right),$ 其图像如图2所示，由(3)可得， $\left(\xi ,\eta \right)=\left(0,0\right)$ 处的切锥为 $N_{gph{N}_{R_{+}}}\left(0,0\right)$，又由于 $R^4=R^2\times R^2$，故

$T_{gph{N}_{gph{N}_{R_{+}}}}\left(x,y,\xi ,\eta \right)=\left\{0,0\right\}\times \left[\left(R\times \left\{0\right\}\right)\cup \left(\left\{0\right\}\times R\right)\cup \left(R_{-}\times R_{+}\right)\right]\text{.}$

综上所述，证明完成。

定理3.2证明 $gph{N}_{gph{N}_{R_{+}^m}}$ 的切锥和内切锥相等，即 $T_{gph{N}_{gph{N}_{R_{+}^m}}}\left(x,y,\xi ,\eta \right)=T_{gph{N}_{gph{N}_{R_{+}^m}}}^i\left(x,y,\xi ,\eta \right).$

证明：由于 $N_{R_{+}^m}\left(x\right)={\displaystyle {\prod }_{i=1}^m{N}_{R_{+}}\left(x_i\right)},$ 故只需把定理3.1的结果推广到 $gph{N}_{gph{N}_{R_{+}^m}},$ 即一维推广到m维，然后再研究内切锥。

考虑 $T_{gph{N}_{gph{N}_{R_{+}^m}}}^i\left(x,y,\xi ,\eta \right).$

对于定理3.1中证明的第三步的①、②、③中的情况一到情况五，由于 $\left\{0\right\}\times R_{--}\times R\times \left\{0\right\}$ 和 $R_{++}\times \left\{0\right\}\times \left\{0\right\}\times R$ 在 $\left(x,y,\xi ,\eta \right)$ 处是局部凸的，所以由命题2.1知

$T_{gph{N}_{gph{N}_{R_{+}}}}\left(x,y,\xi ,\eta \right)=T_{gph{N}_{gph{N}_{R_{+}}}}^i\left(x,y,\xi ,\eta \right).$

对于定理3.1中证明的第三步的③中情况六，当 $\left(x,y,\xi ,\eta \right)=\left(0,0,0,0\right)$ 时，由 $R^4=R^2\times R^2,$ 当 $\left(x,y\right)=\left(0,0\right)$ 时， $\left(\xi ,\eta \right)\in N_{gph{N}_{R_{+}}}\left(0,0\right),$ 考虑 $\left(\xi ,\eta \right)=\left(0,0\right)$ 时的情况。

我们只需证明 $\underset{t\downarrow 0}{\lim \sup }\frac{N_{gph{N}_{R_{+}}}\left(0,0\right)-\left(0,0\right)}{t}=\underset{t\downarrow 0}{\lim \inf }\frac{N_{gph{N}_{R_{+}}}\left(0,0\right)-\left(0,0\right)}{t}.$

由 $N_{gph{N}_{R_{+}}}\left(0,0\right)$ 的图像可知， $\underset{t\downarrow 0}{\lim }\frac{N_{gph{N}_{R_{+}}}\left(0,0\right)-\left(0,0\right)}{t}=N_{gph{N}_{R_{+}}}\left(0,0\right)$，如图3所示。故

$\underset{t\downarrow 0}{\lim \sup }\frac{N_{gph{N}_{R_{+}}}\left(0,0\right)-\left(0,0\right)}{t}=\underset{t\downarrow 0}{\lim \inf }\frac{N_{gph{N}_{R_{+}}}\left(0,0\right)-\left(0,0\right)}{t}$

且等于 $N_{gph{N}_{R_{+}}}\left(0,0\right)$，则 $T_{gph{N}_{gph{N}_{R_{+}}}}\left(0,0,0,0\right)=T_{gph{N}_{gph{N}_{R_{+}}}}^i\left(0,0,0,0\right).$

Figure 3. Diagram of the vector where the limit exists

图3. 极限存在的向量图

综上所述， $T_{gph{N}_{gph{N}_{R_{+}^m}}}\left(x,y,\xi ,\eta \right)=T_{gph{N}_{gph{N}_{R_{+}^m}}}^i\left(x,y,\xi ,\eta \right),$ 得证。

4. 应用

接下来我们把第三节的结论应用到集值映射的广义可微性中。

如 [5] 中所示，考虑集值映射 $F:R^n\Rightarrow R^m,$ 对于 $\left(\bar{x},\bar{y}\right)\in gphF,$ 如果

$\underset{t\downarrow 0}{\lim \sup }\frac{gphF-\left(\bar{x},\bar{y}\right)}{t}=\underset{t\downarrow 0}{\lim \inf }\frac{gphF-\left(\bar{x},\bar{y}\right)}{t}.$

则称F在 $\left(\bar{x},\bar{y}\right)$ 处Proto可微的。Proto可微性在研究集值映射解的扰动有解性方面起着重要的作用，但对于集值映射 $N_{gph{N}_{R_{+}^m}},$ 我们以前并不知道它的Proto可微性。我们由第3节的内容直接得到如下推论。

推论 4.1集值映射 $N_{gph{N}_{R_{+}^m}}$ 是Proto 可微的。

5. 结论

我们基于一些锥的概念，推导出了基于非负卦限锥的法锥映射的非凸多面体集合的切锥的表达式，并推导出了内切锥和切锥的等价性。最后将结论应用到集值映射的Proto可微中。