协方差矩阵

两个随机变量的协方差矩阵为对称阵，对角线为随机变量的方差。如果两个随机变量不相关，则该矩阵为对角矩阵。对高维空间的多次测量结果可以表示为一个矩阵，矩阵的列表示不同维度，可以看做一个个随机变量，行表示测量次数。如各列之间相互独立，其协方差矩阵为一对称矩阵，矩阵的对角线为随机变量的方差。一个典型应用就是主成分分析（PCA），就是依据测试数据，建立协方差矩阵，找方差最大的维度。方差大代表信息量大，通过选取方差大的维度降维，在AI方法中可以通过PCA来选取分类特征，用PCA的结果作为特征训练模型。