分散共分散行列について

takkii
Music and Technology
2 min readJul 25, 2017

まず共分散について。

あるたくさんのxについて、それぞれ特徴量aとbがあった際に、共分散は

1/n * Σ_i (a -μ_a)(b-μ_b)

で計算できる。

そして、分散共分散行列は、あるたくさんのxのd個の特徴量について、全ての組み合わせで共分散を求め、それをd×dの行列に収めたもの。

この分散共分散行列を固有分解することで、d個の固有対(固有値と固有ベクトル)が得られる。

このうち、固有値は固有ベクトルの大きさを表すため、固有値が大きいものから順に選んでいくと、少ない固有ベクトル(主成分)で説明力を持つことができる。

PCA(主成分分析)についてはこちら。

参考にしたのは下記の本。

--

--

takkii
Music and Technology

Competitive Programming, MachineLearning, Manga, Music, BoardGame.