チェビシェフの不等式

数学

チェビシェフの不等式が成り立つことを証明していく.
チェビシェフの不等式は下記のようである。

チェビシェフの不等式(定理)
\( X \)を確率変数とし, その平均値を\( \mu \), 分散を\( {\sigma}^2 \) とする. 任意の \( \alpha < 0 \) に対して,
$$ P(|X- \mu | \geq \alpha ) \leq \frac{{\sigma}^2}{{\alpha}^2} $$ が成り立つ.

チェビシェフの不等式を証明するには,マルコフの不等式を利用する.
よって,まずはマルコフの不等式を証明する.

マルコフの不等式(定理)
\( X\)を非負確率変数, すなわち\( P(X \geq 0) = 1 \)とする. このとき, 任意の \( \alpha > 0 \)に対して,
$$ P(X \geq \alpha ) \leq \frac{1}{\alpha}E[X]$$が成り立つ.

\( X \)が連続の場合の証明

\begin{align*}
E[X] & = \int_{-\infty}^{\infty} x f(x) dx\\
& = \int_{0}^{\infty} x f(x) dx \\
& = \int_{0}^{\alpha } x f(x) dx +  \int_{\alpha}^{\infty} x f(x) dx \\
& \geq \int_{0}^{\alpha } x f(x) dx +  \int_{\alpha}^{\infty} \alpha f(x) dx \\
& = \int_{0}^{\alpha } x f(x) dx +  \alpha \int_{\alpha}^{\infty} f(x) dx \\
& = \int_{0}^{\alpha } x f(x) dx +  \alpha P(X \geq \alpha) \\
& \geq \alpha P(X \geq \alpha) \\
\end{align*}
よって,\( E[X] \geq \alpha P(X \geq \alpha ) \)が成り立つ. これを変形すると,
\begin{align*}
E[X] & \geq \alpha P(X \geq \alpha ) \\
\frac{1}{\alpha}E[X] & \geq  P(X \geq \alpha ) \\
P(X \geq \alpha ) & \leq \frac{1}{\alpha}E[X] \\
\end{align*}
よって,\( X \)が連続の場合にマルコフの不等式が成り立つことが証明された。
次に,\( X \)が連続の場合にマルコフの不等式が成り立つことが証明する。
\( X \)が離散の場合の証明
\begin{align*} E[X] & = \sum_{k=0}^{\infty} k P(X=k) \\
& = \sum_{k=0}^{\alpha} k P(X=k) + \sum_{k= \alpha}^{\infty} k P(X=k)\\
& \geq \sum_{k=0}^{\alpha} k P(X=k) + \sum_{k= \alpha}^{\infty} \alpha P(X=k)\\
& = \sum_{k=0}^{\alpha} k P(X=k) + \alpha \sum_{k= \alpha}^{\infty} P(X=k)\\
& = \sum_{k=0}^{\alpha} k P(X=k) + \alpha  P(X \geq \alpha )\\
& = \alpha  P(X \geq \alpha )\\
\end{align*}
よって,\( E[X] \geq \alpha P(X \geq \alpha ) \)が成り立つ. 連続の場合と同様に変形すると,
\begin{align*} E[X] & \geq \alpha P(X \geq \alpha ) \\
\frac{1}{\alpha}E[X] & \geq  P(X \geq \alpha ) \\
P(X \geq \alpha ) & \leq \frac{1}{\alpha}E[X] \\
\end{align*}
よって,\( X \)が離散の場合にマルコフの不等式が成り立つことが証明された。

再掲
チェビシェフの不等式(定理)
\( X \)を確率変数とし, その平均値を\( \mu \), 分散を\( {\sigma}^2 \) とする. 任意の \( \alpha < 0 \) に対して,
$$ P(|X- \mu | \geq \alpha ) \leq \frac{{\sigma}^2}{{\alpha}^2} $$ が成り立つ.

(証明)
\( (X- \mu )^2 \)は非負の確率変数であるから, マルコフの不等式によって, 任意の \( \alpha \)に対して, $$ P \left( (X – \mu)^2 \geq {\alpha}^2 \right) \leq \frac{1}{{\alpha}^2} E \left[ (X – \mu)^2 \right]$$ が成り立つ. 上記の不等式の変形を行うと,
\begin{align*} P \left( (X – \mu)^2 \geq {\alpha}^2 \right) \leq \frac{1}{{\alpha}^2} V[X] \\
P \left( (X – \mu)^2 \geq {\alpha}^2 \right) \leq \frac{{\sigma}^2}{{\alpha}^2} \\
P \left( |X – \mu| \geq \alpha \right) \leq \frac{{\sigma}^2}{{\alpha}^2} \\
\end{align*}
よって,チェビシェフの不等式が成り立つことが証明された。

コメント

  1. もた より:

    こんにちは、最近統計検定合格を目指し勉強している者です。
    失礼ですが、You Tubeにコメントをしたいのですが、できない状況になっております。
    少しお聞きしたいことなどがありますので、ご確認して頂けないでしょうか。

    • kazukimath より:

      コメントありがとうございます。
      Youtubeでの設定がうまくできていなかったようです。
      設定を変更したので、現在Youtubeの動画にコメントができる状況になっているかと思います。

      Youtubeの方でも疑問点等コメントいただければ、嬉しいです。
      よろしくおねがいします。