共分散・共分散行列

共分散(covariance)とは、2次元データ $(X_i,Y_i)~(i=1,2,3,\cdots,n)$ の間の関連性を調べるものです。データ $X_i$ と $Y_i$ の間で、片方が大きくなった時、もう片方も大きくなる場合に共分散の値は大きくなります。また、片方が大きくなった時、もう片方は小さくなる時は、共分散の値は大きなマイナスの値をとります。また、相関係数を求めるときに、その前段階として計算される量でもあります。

通常、データ列に対して共分散という時には、母集団に対する母集団共分散と、標本に対する標本共分散の２通りあります。このページでも母集団共分散と標本共分散の両方を解説したいと思います。

２次元データの共分散

$n$ 個の2次元データ $(X_i,Y_i)~(i=1,2,3,\cdots,n)$ に対して、母集団共分散 $Cov(X,Y)$ は、以下で定義されます。

$\displaystyle Cov(X,Y)=\frac{1}{n}\sum_{i=1}^n(X_i-\bar{X})(Y_i-\bar{Y})$

ここで、 $\bar{X}$ と $\bar{Y}$ は、それぞれデータ列 $X_i~(i=1,2,3,\cdots,n)$ と $Y_i~(i=1,2,3,\cdots,n)$ の平均です。
また、 $n$ 個の2次元データ $(X_i,Y_i)~(i=1,2,3,\cdots,n)$ に対して、標本共分散 $Cov(X,Y)$ は、以下で定義されます。

$\displaystyle Cov(X,Y)=\frac{1}{n-1}\sum_{i=1}^n(X_i-\bar{X})(Y_i-\bar{Y})$

標本共分散のほうの右辺で、 $n$ でなくて $n-1$ で割っているが不思議に思われる読者の方もいると思います。これは、母集団ではなくて、標本の方の共分散や分散を求める時は自由度の関係から、 $n-1$ の方が精度が良くなる知られています。

母集団共分散と標本共分散の使い分けは微妙な場合もありますが、基本的に母集団にたいして共分散を計算する場合は母集団共分散、母集団から取り出した標本にたいして共分散を計算する場合は標本共分散をつかいます。

また、共分散の定義で、自分自身との共分散 $C(X,X)$ は、データ列 $X_i~(i=1,2,3,\cdots,n)$ の分散 $V[X]$ と同じになります。たとえば、母集団共分散の場合は

$\displaystyle Cov(X,X)=\frac{1}{n}\sum_{i=1}^n(X_i-\bar{X})^2 = V[X]$

（例）次の五人の身長と体重の母集団共分散を求めてみましょう。

	身長( $X_i$ )	体重( $Y_i$ )	$X_i-\bar{X}$	$Y_i-\bar{Y}$
Aさん	174cm	65kg	2cm	3kg
Bさん	163cm	54kg	-9cm	-8kg
Cさん	182cm	70kg	10cm	8kg
Dさん	169cm	58kg	-3cm	-4kg
Eさん	172cm	63kg	0cm	1kg

まず、身長の平均 $\bar{X}$ と体重の平均 $\bar{Y}$ を求めると172cmと62kgになります。そして、五人の身長と身長平均の差 $X_i-\bar{X}$ を求めます。また、同様に五人の体重と体重の平均の差 $Y_i-\bar{Y}$ を求めます。これらの値は上の表の右側２列に記入しました。これから共分散を求めると次のようになります。

$\displaystyle Cov(X,Y)=\frac{1}{5}(2\times3+(-9)\times(-8)+10\times8+(-3)\times(-4)+0\times(-8))=34$

よって、上記の身長と体重のデータの共分散（標本共分散）は42.5になります。

多次元の共分散行列

また、n個のm次元のデータがあった時、 $(X_i^1,X_i^2,\cdots,X_i^m)~(i=1,2,3,\cdots,n)$ , m個の変数のそれぞれのペアについて共分散（標本共分散）を計算すると、それは $m \times m$ 行列になります。これを共分散行列（covariance matrix）といい $\Sigma_{pq}$ と表します。共分散行列のp行q列の成分は以下で与えらます。

$\displaystyle \Sigma_{pq}=Cov(X^p,Y^q)=\frac{1}{n-1}\sum_{i=1}^n(X_i^p-\bar{X^p})(X_i^q-\bar{X^q})$

この共分散行列 $\Sigma_{pq}$ の対角成分 $\Sigma_{pp}$ は、それぞれの変数の $X_i^p~(i=1,2,3,\cdots,n)$ の分散 $V[X^p]$ となります。

実際には、この共分散や共分散行列をそれぞれのデータ列の標準偏差で割った、相関係数や、相関行列を用いられることが多いです。

目次に戻る

２次元データの共分散

多次元の共分散行列

●関連ページ

言語

お勧め

リンク

カテゴリー

メタ情報