典型相关分析的实例

CanonicalCorrelationAnalysis典型相关分析典型相关分析的实例一、引言

典型相关分析的实例

1.两个随机变量Y与X简单相关系数2.一个随机变量Y与一组随机变量X1,X2,…,Xp多重相关(复相关系数)3.一组随机变量Y1，Y2，…，Yq与另一组随机变量X1，X2，…，Xp典型(则)相关系数（一）何时采用典型相关分析典型相关是简单相关、多重相关的推广；或者说简单相关系数、复相关系数是典型相关系数的特例。典型相关分析的实例

典型相关是研究两组变量之间相关性的一种统计分析方法。也是一种降维技术。由Hotelling(1935,1936)最早提出，CooleyandLohnes(1971)、Kshirsagar(1972)和Mardia,Kent,andBibby(1979)推动了它的应用。

典型相关分析的实例实例（X与Y地位相同）

X1,X2,…,XpY1,Y2,…,Yq1临床症状所患疾病2原材料质量相应产品质量3居民营养健康状况4生长发育（肺活量）身体素质（跳高）5人体形态人体功能典型相关分析的实例

1985年中国28省市城市男生(19～22岁)的调查数据。记形态指标身高(cm)、坐高、体重(kg)、胸围、肩宽、盆骨宽分别为X1，X2，…，X6；机能指标脉搏(次/分)、收缩压(mmHg)、舒张压(变音)、 舒张压(消音)、肺活量(ml)分别为Y1，Y2，…，Y5。现欲研究这两组变量之间的相关性。

典型相关分析的实例

典型相关分析的实例简单相关系数矩阵

典型相关分析的实例简单相关系数公式符号Corr（X）＝R11Corr（Y）＝R22Corr（Y，X）＝R21Corr（X，Y）＝R12典型相关分析的实例简单相关系数

描述两组变量的相关关系的缺点

只是孤立考虑单个X与单个Y间的相关，没有考虑X、Y变量组内部各变量间的相关。两组间有许多简单相关系数（实例为30个），使问题显得复杂，难以从整体描述。典型相关分析的实例（二）典型相关分析的思想采用主成分思想寻找第i对典型(相关)变量（Ui，Vi）：典型相关系数典型变量系数或典型权重

典型相关分析的实例

X*1，X*2，…，X*p和Y*1，Y*2，…，Y*q分别为X1，X2，…，Xp和Y1，Y2，…，Yq的正态离差标准化值。记第一对典型相关变量间的典型相关系数为：＝Corr（U1，V1）（使U1与V1

间最大相关）

第二对典型相关变量间的典型相关系数为：＝Corr（U2，V2）（与U1、V1

无关；使U2与V2

间最大相关）.....……

第五对典型相关变量间的典型相关系数为：＝Corr（U5，V5）（与U1、V1

、…、U4、V4无关；U5与V5

间最大相关）有：

典型相关分析的实例典型相关变量的性质典型相关分析的实例12η2η1典型变量典型相关系数1与2是三个X变项的线性组合。η1与η2代表两个Y变项的线性组合。典型加权系数（三）典型相关分析示意图典型相关分析的实例二、典型相关系数及其检验

典型相关分析的实例（一）求解典型相关系数的步骤求X，Y变量组的相关阵

R=

；求矩阵

A、B

可以证明A、B有相同的非零特征根；典型相关分析的实例3.求A或B的λi（相关系数的平方）与，

i＝1,…,m，即；4.求A、B关于λi的特征根向量即变量加权系数。典型相关分析的实例（二）典型相关系数计算实例求X，Y变量组的相关阵

R=典型相关分析的实例Corr（X）＝R11Corr（Y）＝R22Corr（Y，X）＝R21Corr（X，Y）＝R12典型相关分析的实例2.求矩阵A、B典型相关分析的实例A矩阵(p×p)0.52980.45860.30530.3986-0.2919-0.1778-0.0912-0.0701-0.1669-0.1939-0.0007-0.01680.22740.27390.54890.08400.52380.44680.09660.03760.05100.3877-0.2523-0.1759-0.0915-0.0979-0.0669-0.03770.0061-0.08060.09490.14210.1757-0.02100.21710.3142典型相关分析的实例B矩阵(q×q)0.2611-0.0560-0.0337-0.0551-0.0312-0.00530.55720.10090.0034-0.0543-0.0632-0.08430.08590.00130.1743-0.1175-0.00070.11830.25500.1490-0.10520.13900.35310.29120.5573典型相关分析的实例3.求矩阵A、B的λ（相关系数的平方）A、B有相同的非零特征值典型相关分析的实例B矩阵求λ

（典型相关系数的平方）0.2611-

λ-0.0560-0.0337-0.0551-0.0312-0.00530.5572-λ

0.10090.0034-0.0543-0.0632-0.08430.0859-λ

0.00130.1743-0.1175-0.00070.11830.2550-λ

0.1490-0.10520.13900.35310.29120.5573-λ

典型相关分析的实例5个λ与典型相关系数λ1＝0.7643λ2＝0.5436λ3＝0.2611λ4＝0.1256λ5＝0.0220

典型相关分析的实例4.求A、B关于λi的变量系数

（求解第1典型变量系数）

典型相关分析的实例求解第2典型变量系数

典型相关分析的实例…求解第5典型变量系数

典型相关分析的实例5组（标准化）典型变量系数(X)U1U2U3U4U5X10.5852-1.14430.78230.0352-0.8298X2-0.21750.01890.60320.12891.5590X30.52881.6213-0.7370-0.4066-1.1704X40.1890-0.9874-0.77530.12290.6988X5-0.1193-0.0626-0.2509-0.58601.0488X60.19480.81080.14670.9523-0.5140典型相关分析的实例5组（标准化）典型变量系数(X)典型相关分析的实例由标准化典型变量系数获得原变量X对应的粗典型变量系数粗典型变量系数可由标准典型变量系数与相应的标准差之比获得。典型相关分析的实例5组（标准化）典型变量加权系数(Y)V1V2V3V4V5Y1-0.0838-0.13251.08070.3750-0.0376Y2-0.08781.26880.07010.2476-0.3342Y30.2147-0.33010.2218-1.08631.4100Y40.2920-0.2392-0.57651.3368-0.2942Y50.7607-0.29950.6532-0.0017-0.6905典型相关分析的实例（三）典型相关系数的特点

两变量组的变量单位改变，典型相关系数不变，但典型变量加权系数改变。（无论原变量标准化否，获得的典型相关系数不变）第一对典则相关系数较两组变量间任一个简单相关系数的绝对值都大，即

ρ1≥max(|Corr(Xi,Yj)|)或ρ1≥max(|Corr(X,Yj)|)≥max(|Corr(Xi,Y)|)典型相关分析的实例（四）校正典型相关系数

（AdjustedCanonicalCorrelation）

为了使结果更加明了，增加大值或小值，减少中间大小的值，将典型变量系数旋转，可得到校正的典型相关系数。缺点：1.可能影响max（U1,V1）；2.影响（U1,V1）与其他典型变量间的独立性。典型相关分析的实例（五）典型相关系数的假设检验

全部总体典型相关系数均为0部分总体典型相关系数为0典型相关分析的实例1.全部总体典型相关系数为0典型相关分析的实例F近似检验（计算公式）典型相关分析的实例F近似检验（SAS结果）

TestofH0:ThecanonicalcorrelationsinthecurrentrowandallthatfollowarezeroLikelihoodApproximateRatioFValueNumDFDenDFPr>F10.067984662.2430700.003020.288405091.382060.6490.168630.631953010.801250.5610.650440.855215980.546400.772950.978034790.242210.7920典型相关分析的实例多变量统计量与F近似检验

MultivariateStatisticsandFApproximationsStatisticValueFValueNumDFDenDFPr>FWilks'Lambda0.067982.2430700.0030Pillai'sTrace1.716511.83301050.0133Hotelling-LawleyTrace4.952772.623035.3960.0032Roy'sGreatestRoot3.2422111.35621<.0001NOTE:FStatisticforRoy'sGreatestRootisanupperboun.典型相关分析的实例多变量统计量的计算公式典型相关分析的实例2.部分总体典型相关系数为0

仅对较小的典型相关作检验典型相关分析的实例卡方近似检验典型相关分析的实例部分总体F近似检验（计算公式）典型相关分析的实例三、典型结构分析典型相关分析的实例与原变量间的相关程度和典型变量加权系数有关。典型变量与原变量的亲疏关系

原变量与自已的典型变量

原变量与对方的典型变量之间的相关系数。典型相关分析的实例原变量在典型变量上的负荷(即原变量与典型变量间的相关系数)U1U2U3U4U5V1V2V3V4V5身高X10.9050-0.08060.3777-0.14870.08870.7912-0.05940.1930-0.05270.0132坐高X20.86160.01120.4152-0.03600.24120.75320.00830.2121-0.01280.0357体重X30.93610.1655-0.0471-0.2933-0.02470.81840.1220-0.0240-0.1039-0.0037胸围X40.6958-0.3189-0.53820.31910.13540.6083-0.2351-0.27500.11310.0201肩宽X50.13560.5329-0.0321-0.23760.73890.11850.3929-0.0164-0.08420.1095骨盆宽X60.24330.4412-0.04050.74780.39080.21270.3253-0.02070.26500.0579脉搏Y1-0.3610-0.06250.37570.16050.0410-0.4130-0.08480.73530.45300.2764收缩压Y20.39630.62320.04950.05080.03320.45330.84520.09680.14330.2240舒张压(音变)Y30.58010.15680.03780.02870.10500.66360.21270.07400.08100.7087舒张压(消音)Y40.50030.0296-0.08370.23390.06770.57230.0401-0.16380.66000.4565肺活量Y50.79940.00940.0685-0.0743-0.04730.91440.01280.1341-0.2098-0.3190典型相关分析的实例负荷矩阵的表达左上角的矩阵

X1=0.9050U1-0.0806U2+0.3777U3-0.1487U4+0.0887U5

X2=0.8616U1+0.0112U2+0.4152U3-0.0360U4+0.2412U5……X6右下角的矩阵

Y1=-0.4130V1-0.0848V2+0.7353V3+0.4530V4+0.2764V5

Y2=0.4533V1+0.8452V2+0.0968V3+0.1433V4+0.2240V5…..Y5典型相关分析的实例各典型变量的意义解释UVCorr(U,V)1身高、坐高、体重、胸围舒张压、肺活量0.87422肩宽收缩压0.73733胸围(-)脉搏0.51054骨盆宽舒张压(消音)0.35425肩宽舒张压(音变)0.1510典型相关分析的实例

等于该变量与自己这方典型变量的相关系数与典则相关系数的乘积

原变量与对方典型变量的相关典型相关分析的实例原变量与对方典型变量的相关

右上角和左下角反映了原变量和对方的典型变量间关系，为利用对方的典型变量来预测原变量(回归)提供依据。典型相关分析的实例四、典型变量的冗余分析

（CanonicalRedundancyAnalysis）典型相关分析的实例

该方法由StewartandLove1968;CooleyandLohnes1971;vandenWollenberg1977)发展。以原变量与典型变量间相关为基础。通过计算X、Y变量组由自己的典型变量解释与由对方的典型变量解释的方差百分比与累计百分比，反映由典型变量预测原变量的程度。典型相关分析的实例典型变量编号X1，X2，X3，X4，X5，X6被U1，U2，…，U5解释典