分散共分散行列について
Published in
2 min readJul 25, 2017
まず共分散について。
あるたくさんのxについて、それぞれ特徴量aとbがあった際に、共分散は
1/n * Σ_i (a -μ_a)(b-μ_b)
で計算できる。
そして、分散共分散行列は、あるたくさんのxのd個の特徴量について、全ての組み合わせで共分散を求め、それをd×dの行列に収めたもの。
この分散共分散行列を固有分解することで、d個の固有対(固有値と固有ベクトル)が得られる。
このうち、固有値は固有ベクトルの大きさを表すため、固有値が大きいものから順に選んでいくと、少ない固有ベクトル(主成分)で説明力を持つことができる。
PCA(主成分分析)についてはこちら。
参考にしたのは下記の本。