- Python机器学习算法与应用
- 邓立国
- 242字
- 2020-11-23 14:57:14
2.4.4 证明主成分的方差是依次递减
设相关系数矩阵R的p个特征根为λ1≥λ2≥…≥λp,相应的特征向量为,得
(2.57)
相对于的方差为:
Var(F1)=a1XX'a'1=a1Ra'1=λ1
(2.58)
同样有Var(Fi)=λ1,即主成分的方差依次递减,并且协方差为:
(2.59)
综上所述,根据证明可知,主成分分析中的主成分协方差是对角矩阵,其对角线上的元素恰好是原始数据相关矩阵的特征值,而主成分系数矩阵A的元素则是原始数据相关矩阵特征值相应的特征向量。矩阵A是一个正交矩阵。
于是,变量(x1,x2…xp)经过变换后得到新的综合变量为
(2.60)
新的随机变量彼此不相关,且方差依次递减。