942 字
5 分钟
期望值以及常见分布的期望

离散随机变量的期望#

离散随机变量的期望就是其所有可能取值的加权平均值,权重是各取值的概率。设随机变量 XX 取值为 x1,x2,…,xnx_1, x_2, \ldots, x_n,对应的概率为 p1,p2,…,pnp_1, p_2, \ldots, p_n,则期望值 E(X)E(X) 定义为:

E(X)=∑i=1+∞xipiE(X) = \sum_{i=1}^{+\infty} x_i p_i

这个形式和级数很像,当级数收敛时期望才有意义

0-1 分布的期望#

分布列:

XX10
P(X)P(X)pp1−p1-p

期望:

E(X)=1⋅p+0⋅(1−p)=p\boxed{\mathbb{E}(X) = 1 \cdot p + 0 \cdot (1-p) = p}

二项分布的期望#

X∼B(n,p)X\sim B(n,p)

分布列:

P(x=k)=Cnkpk(1−p)n−kk=0,1,2,…,nP(x=k)=C_n^k p^k (1-p)^{n-k} \quad k=0,1,2,\ldots,n

期望:

E(X)=np\boxed{\mathbb{E}(X) = np}
NOTE

[证明]

E(X)=∑k=0nkCnkpk(1−p)n−k=∑k=0nk⋅n!k!(n−k)!pk(1−p)n−k=∑k=1nn(n−1)!(k−1)!(n−k)!pk(1−p)n−k=np∑k=1n(n−1)!(k−1)!(n−k)!pk−1(1−p)(n−1)−(k−1)=np∑j=0n−1Cn−1jpj(1−p)(n−1)−j=np(p+(1−p))n−1=np\begin{aligned} \mathbb{E}(X) &= \sum_{k=0}^{n} k C_n^k p^k (1-p)^{n-k} \\ &= \sum_{k=0}^{n}k\cdot\frac{n!}{k!(n-k)!} p^k (1-p)^{n-k}\\ &= \sum_{k=1}^{n} \frac{n(n-1)!}{(k-1)!(n-k)!} p^k (1-p)^{n-k} \\ &= np \sum_{k=1}^{n} \frac{(n-1)!}{(k-1)!(n-k)!} p^{k-1} (1-p)^{(n-1)-(k-1)} \\ &= np \sum_{j=0}^{n-1} C_{n-1}^j p^j (1-p)^{(n-1)-j} \\ &= np (p + (1-p))^{n-1} = np \end{aligned}

泊松分布的期望#

X∼P(λ)X\sim P(\lambda)

分布列:

P(X=k)=λkk!e−λk=0,1,2,…P(X=k)=\frac{\lambda^k}{k!}e^{-\lambda} \quad k=0,1,2,\ldots

期望:

E(X)=λ\boxed{\mathbb{E}(X) = \lambda}
助记

泊松分布和二项分布存在近似,近似条件是 n→∞n \to \infty,p→0p \to 0,且 np=λnp = \lambda 为常数。

NOTE

[证明]

E(X)=∑k=1∞k⋅λkk!e−λ=∑k=1∞λk(k−1)!e−λ=λe−λ∑k=1∞λk−1(k−1)!=λe−λ∑j=0∞λjj!级数这一块=λe−λeλ=λ\begin{aligned} \mathbb{E}(X) &= \sum_{k=1}^{\infty} k \cdot \frac{\lambda^k}{k!} e^{-\lambda} \\ &= \sum_{k=1}^{\infty} \frac{\lambda^k}{(k-1)!} e^{-\lambda} \\ &= \lambda e^{-\lambda} \sum_{k=1}^{\infty} \frac{\lambda^{k-1}}{(k-1)!} \\ &= \lambda e^{-\lambda} \sum_{j=0}^{\infty} \frac{\lambda^j}{j!}\quad\text{级数这一块} \\ &= \lambda e^{-\lambda} e^{\lambda} = \lambda \end{aligned}

超几何分布的期望#

X∼H(N,M,n)X\sim H(N,M,n)

分布列:

P(X=k)=CMkCN−Mn−kCNnmax⁡(0,n−(N−M))≤k≤min⁡(n,M)P(X=k)=\frac{C_M^k C_{N-M}^{n-k}}{C_N^n} \quad \max(0,n-(N-M)) \leq k \leq \min(n,M)

期望:

E(X)=n⋅MN\mathbb{E}(X) = n\cdot\frac{M}{N}
TIP

就是实验次数乘以成功概率,很像二项分布的期望

NOTE

[证明]

设随机变量 XX 表示抽到的好球数,定义指示变量:

Ik={1,第 k 次抽到好球0,第 k 次抽到坏球I_k = \begin{cases} 1, & \text{第 } k \text{ 次抽到好球} \\ 0, & \text{第 } k \text{ 次抽到坏球} \end{cases}

则有:

X=I1+I2+⋯+InX = I_1 + I_2 + \cdots + I_n

根据期望的线性性质,有:

E(X)=E(I1)+E(I2)+⋯+E(In)\mathbb{E}(X) = \mathbb{E}(I_1) + \mathbb{E}(I_2) + \cdots + \mathbb{E}(I_n)

由于每次抽到好球的概率为 MN\frac{M}{N},因此:

E(Ik)=1⋅MN+0⋅(1−MN)=MN\mathbb{E}(I_k) = 1 \cdot \frac{M}{N} + 0 \cdot \left(1 - \frac{M}{N}\right) = \frac{M}{N}

所以:

E(X)=n⋅MN\mathbb{E}(X) = n \cdot \frac{M}{N}

连续随机变量的期望#

对于连续型随机变量 XX,其概率密度函数为 f(x)f(x),则期望值 E(X)E(X) 定义为:

E(X)=∫−∞∞xf(x) dxE(X) = \int_{-\infty}^{\infty} x f(x) \, dx

如果该反常积分收敛,则期望存在且有意义。

均匀分布的期望#

X∼U(a,b)X\sim U(a,b)

概率密度函数:

f(x)={1b−a,a≤x≤b0,otherwisef(x) = \begin{cases} \dfrac{1}{b-a}, & a \leq x \leq b \\ 0, & \text{otherwise} \end{cases}

期望:

E(X)=a+b2\boxed{\mathbb{E}(X) = \frac{a+b}{2}}
NOTE

[证明]

E(X)=∫abx⋅1b−a dx=1b−a[x22]∣ab=1b−a(b2−a22)=b+a2\begin{aligned} \mathbb{E}(X) &= \int_{a}^{b} x \cdot \frac{1}{b-a} \, dx \\ &= \frac{1}{b-a} \left[ \frac{x^2}{2} \right]\Big|_{a}^{b} \\ &= \frac{1}{b-a} \left( \frac{b^2 - a^2}{2} \right) \\ &= \frac{b+a}{2} \end{aligned}

指数分布的期望#

X∼Exp(λ)X\sim \mathrm{Exp}(\lambda)

概率密度函数:

f(x)={λe−λx,x≥00,x<0f(x) = \begin{cases} \lambda e^{-\lambda x}, & x \geq 0 \\ 0, & x < 0 \end{cases}

期望:

E(X)=1λ\boxed{\mathbb{E}(X) = \frac{1}{\lambda}}
NOTE

[证明]

E(X)=∫0∞xλe−λx dx=[−xe−λx]∣0∞+∫0∞e−λx dx分部积分=0+[−1λe−λx]0∞=1λ\begin{aligned} \mathbb{E}(X) &= \int_{0}^{\infty} x \lambda e^{-\lambda x} \, dx \\ &= \left[ -x e^{-\lambda x} \right]\Big|_{0}^{\infty} + \int_{0}^{\infty} e^{-\lambda x} \, dx \quad \text{分部积分} \\[5pt] &= 0 + \left[ -\frac{1}{\lambda} e^{-\lambda x} \right]_{0}^{\infty} \\ &= \frac{1}{\lambda} \end{aligned}

正态分布的期望#

X∼N(μ,σ2)X\sim N(\mu, \sigma^2)

概率密度函数:

f(x)=1σ2πexp⁡{−(x−μ)22σ2},x∈Rf(x) = \dfrac{1}{\sigma \sqrt{2\pi}} \exp\left\{-\dfrac{(x-\mu)^2}{2\sigma^2}\right\}, \quad x \in \mathbb{R}

期望:

E(X)=μ\boxed{\mathbb{E}(X) = \mu}
NOTE

[证明]

E(X)=∫−∞∞x⋅1σ2πexp⁡{−(x−μ)22σ2} dx=∫−∞∞(y+μ)⋅1σ2πexp⁡{−y22σ2} dy(y=x−μ)=μ∫−∞∞1σ2πexp⁡{−y22σ2} dy+∫−∞∞y⋅1σ2πexp⁡{−y22σ2} dy=μ⋅1+0(第二项为奇函数积分)=μ\begin{aligned} \mathbb{E}(X) &= \int_{-\infty}^{\infty} x \cdot \dfrac{1}{\sigma \sqrt{2\pi}} \exp\left\{-\dfrac{(x-\mu)^2}{2\sigma^2}\right\} \, dx \\ &= \int_{-\infty}^{\infty} (y + \mu) \cdot \dfrac{1}{\sigma \sqrt{2\pi}} \exp\left\{-\dfrac{y^2}{2\sigma^2}\right\} \, dy \quad (y = x - \mu) \\[5pt] &= \mu \int_{-\infty}^{\infty} \dfrac{1}{\sigma \sqrt{2\pi}} \exp\left\{-\dfrac{y^2}{2\sigma^2}\right\} \, dy + \int_{-\infty}^{\infty} y \cdot \dfrac{1}{\sigma \sqrt{2\pi}} \exp\left\{-\dfrac{y^2}{2\sigma^2}\right\} \, dy \\ &= \mu \cdot 1 + 0 \quad \text{(第二项为奇函数积分)} \\ &= \mu \end{aligned}

柯西分布的期望#

:::warning 柯西分布没有定义期望值,因为其积分发散。 :::

X∼Cauchy(x0,γ)X\sim \mathrm{Cauchy}(x_0, \gamma)

概率密度函数:

f(x)=1πγ[1+(x−x0γ)2],x∈Rf(x) = \frac{1}{\pi \gamma \left[1 + \left(\frac{x - x_0}{\gamma}\right)^2\right]}, \quad x \in \mathbb{R}

期望:

E(X) 不存在\mathbb{E}(X) \text{ 不存在}
NOTE

[说明]
柯西分布的尾部较重,导致期望积分发散,因此没有定义期望值。

随机变量函数的期望#

设 Y=g(X)Y = g(X),则 YY 的期望为:

  • 对于离散随机变量 XX:
E(Y)=∑xg(x)P(X=x)\mathbb{E}(Y) = \sum_{x} g(x) P(X=x)
  • 对于连续随机变量 XX:
E(Y)=∫−∞∞g(x)f(x) dx\mathbb{E}(Y) = \int_{-\infty}^{\infty} g(x) f(x) \, dx

其中 P(X=x)P(X=x) 是 XX 的分布列,f(x)f(x) 是 XX 的概率密度函数。

TIP

就是把 xx 换成 g(x)g(x),其他不变

期望的性质#

  1. 线性性质: E[aX+b]=aE[X]+b  ⟺  {E[X1+X2+⋯+Xn]=E[X1]+E[X2]+⋯+E[Xn]若Xi相互独立:E[X1X2⋯Xn]=E[X1]E[X2]⋯E[Xn]\mathbb{E}[aX + b] = a\mathbb{E}[X] + b\\ \iff \begin{cases} \mathbb{E}[X_1+X_2+\cdots+X_n] = \mathbb{E}[X_1] + \mathbb{E}[X_2] + \cdots + \mathbb{E}[X_n]\\[10pt] \text{若}X_i\text{相互独立:}\mathbb{E}[X_1X_2\cdots X_n] = \mathbb{E}[X_1]\mathbb{E}[X_2]\cdots \mathbb{E}[X_n] \end{cases}
期望值以及常见分布的期望
https://biscuit0613.github.io/posts/math/pt_expectation/
作者
Biscuit
发布于
2025-10-23
许可协议
CC BY-NC-SA 4.0
CSAPP_机器级编程
atan 与 atan2 的比较