有限随机变量的概率不等式

马尔可夫不等式

若 $X\ge0$，$t>0$，则

逐结果有 $X\ge t\,\mathbf1_{\{X\ge t\}}$，取期望即得。也可将期望求和只保留 $X\ge t$ 的项。等号要求所有正概率结果中，$X$ 只取 $0$ 或 $t$。

非负条件不能省：均值可能被负值抵消。若右侧大于 $1$，应与 $1$ 取较小者作为概率上界。

切比雪夫不等式

设 $E(X)=\mu,\operatorname{Var}(X)=\sigma^2$，对任意 $t>0$，将上一结论用于非负的 $(X-\mu)^2$，得

等号当且仅当所有正概率结果上 $|X-\mu|$ 只取 $0$ 或 $t$，即 $X$ 只取 $\mu-t,\mu,\mu+t$；由于均值为 $\mu$，两端取值的概率还必须相等。

相应地，$P(|X-\mu|<t)\ge1-\sigma^2/t^2$。注意一边的“至少”对应补事件中的严格小于。

例如均值为 $50$、方差为 $9$，则 $P(|X-50|\ge6)\le1/4$。这给一个保证成立的界，不说明实际概率恰为 $1/4$。

期望形式的柯西与Jensen

在共同的有限样本空间中，结果概率为 $p_i$，随机变量取值为 $x_i,y_i$。对 $\sqrt{p_i}x_i,\sqrt{p_i}y_i$ 应用柯西得

等号条件是这两组向量线性相关，包括一组全零。没有独立性要求。令两变量减去各自均值，可得协方差绝对值不超过两标准差之积。

若 $f$ 在包含 $X$ 全部取值的区间上凸，以概率为权重应用有限Jensen，得 $f(E(X))\le E(f(X))$。严格凸时，等号要求 $X$ 在所有正概率结果上为同一常数。