UA MATH567 高维统计IV Lipschitz组合4 对称群上的均匀分布

用$S_n$表示一个对称群，为简化起见，我们假设$S_n$包含 { 1 , 2 , ⋯   , n } \{1,2,\cdots,n\} { 1,2,⋯,n}上的所有置换，则$S_n$有$n!$个元素。我们可以在$S_n$上引入度量使之成为度量空间：$\forall \sigma ,\tau \in S_n$，引入normalized Hamming distance
$$d(\sigma ,\tau )=\frac{1}{n}\sum _{i=1}^n{1}_{\sigma (i)\ne \tau (i)}$$

以$S_5$为例，假设
$$\sigma =\left(\begin{array}{ccccc}1& 2& 3& 4& 5\\ 2& 3& 4& 5& 1\end{array}\right),\tau =\left(\begin{array}{ccccc}1& 2& 3& 4& 5\\ 3& 5& 4& 2& 1\end{array}\right)$$

这种记号表示置换$\sigma$把上一行的指标置换为下一行的对应指标，于是
$$\begin{gathered} \sigma (1)=2\ne 3=\tau (1) \\ \sigma (2)=3\ne 5=\tau (2) \\ \sigma (4)=5\ne 2=\tau (4) \end{gathered}$$

所以
$$d(\sigma ,\tau )=3/5$$

接下来，我们可以在度量空间$(S_n,d)$上定义Borel代数，用$\mathcal{B}(S_n)$来表示，这样我们就有了一个可测空间$(S_n,\mathcal{B}(S_n))$，在这个可测空间上，我们用古典概型的思路定义均匀概率测度：
$$P(A)=\frac{|A|}{n!},\forall A\in \mathcal{B}(S_n)$$

综上，我们在$n$阶对称群上定义了概率空间：$(S_n,\mathcal{B}(S_n),P)$。

---

假设$X$是对称群上的均匀分布，记为$X\sim Unif(S_n)$，则我们有如下结论：

对称群上的均匀分布的Lipschitz函数是亚高斯的
$f:S_n\to \mathbb{R}$是均匀分布，则$\exists C>0$
$${\Vert f(X)-Ef(X)\Vert }_{{\psi }_2}\le \frac{C{\Vert f\Vert }_{Lip}}{\sqrt{n}}$$

评注
在尝试证明这个结论之前，我们先按照惯例推一下对称群上的Isoperimetric不等式，$\forall A\in \mathcal{B}(S_n)$，定义
A t = { x ∈ S n : ∃ y ∈ A , d ( x , y ) ≤ t } A_t = \{x \in S_n:\exists y \in A,d(x,y) \le t\} At​={ x∈Sn​:∃y∈A,d(x,y)≤t}

如果$0\le t<1/n$，则$A_t=A$，如果$1/n\le t<2/n$，则$A_t$包含所有与$A$中的置换不超过一位不相同的所有置换；如果$k/n\le t<(k+1)/n$，则$A_t$包含所有与$A$中的置换不超过$k$(注意到$k=[nt]$)位不相同的所有置换。现在假设$P(A)>1/2$，则
P ( A t ) = P ( { x ∈ S n : ∃ y ∈ A , d ( x , y ) ≤ t } ) P(A_t) = P(\{x \in S_n:\exists y \in A,d(x,y) \le t\}) P(At​)=P({ x∈Sn​:∃y∈A,d(x,y)≤t})

用$X$表示置换$x,y$的差别，相同位记为$0$，不相同记为$0$，则$X$的取值在Hamming cube { 0 , 1 } n \{0,1\}^n { 0,1}n上，$d(x,y)\le t$说明
$$\sum _{i=1}^n{X}_i\le [nt]$$

因此，如果 X ∼ U n i f ( { − 1 , 1 } n ) X \sim Unif(\{-1,1\}^n) X∼Unif({ −1,1}n)
P ( { x ∈ S n : ∃ y ∈ A , d ( x , y ) ≤ t } ) ≥ P ( ∑ i = 1 n ( X i + 1 ) / 2 ≤ [ n t ] ) P(\{x \in S_n:\exists y \in A,d(x,y) \le t\})\ge P(\sum_{i=1}^n (X_i+1)/2 \le [nt]) P({ x∈Sn​:∃y∈A,d(x,y)≤t})≥P(i=1∑n​(Xi​+1)/2≤[nt])

U n i f ( { − 1 , 1 } n ) Unif(\{-1,1\}^n) Unif({ −1,1}n)是一个亚高斯随机向量，根据推广Hoeffding不等式，$\exists C>0$

$$P(\sum _{i=1}^n{X}_i/2\le a)\ge 1-2\exp \left(-C{a}^2/n\right)$$

所以$\exists C>0$
$$P(\sum _{i=1}^n(X_i+1)/2\le [nt])\ge 1-2\exp (-Cn{t}^2)$$

这样我们就得到了对称群上的Isoperimetric不等式。

证明
假设${\Vert f\Vert }_{Lip}=1$，不然我们总是可以分析$f/{\Vert f\Vert }_{Lip}$，

第一步：说明$f(X)-M$是亚高斯的，其中$M$是$f(X)$的中位数，也就是
$$P(f(X)\ge M)\ge 1/2,P(f(X)\le M)\ge 1/2$$

定义
A = { x ∈ S n : f ( x ) ≤ M } A = \{x \in S_n:f(x) \le M\} A={ x∈Sn​:f(x)≤M}

则
$$\sigma (A)=P(X\in A)=P(f(X)\le M)\ge 1/2$$

根据对称群上的Isoperimetric不等式，
$$P(A_t)\ge 1-2e^{-Cn{t}^2},\exists C>0$$

因为$x\in A_t$说明$\exists y\in A$, $d(x,y)\le t$，根据Lipschitz函数的定义：
$$f(x)-f(y)\le {\Vert f\Vert }_{Lip}d(x,y)\le t$$

$y\in A$说明$f(y)\le M$，所以
$$f(x)\le f(y)+t\le M+t$$

因此

$$P(f(X)-M\le t)\ge P(X\in A_t)=P(A_t)\ge 1-2e^{-Cn{t}^2}$$

类似地，对于$f(X)-M\ge -t$，我们有
$$P(f(X)-M\ge -t)\ge 1-2e^{-Cn{t}^2}$$

所以
$$P(|f(X)-M|\ge t)\le 4e^{-Cn{t}^2}$$

第二步：使用centering技巧，假设$X$是亚高斯随机变量，则$X-EX$也是亚高斯随机变量，并且存在常数$C$使得
$${\Vert X-EX\Vert }_{{\psi }_2}\le C{\Vert X\Vert }_{{\psi }_2}$$

因为$f(X)-M$是亚高斯的，于是$f(X)-M-E[f(X)-M]=f(X)-Ef(X)$也是亚高斯的，证毕。