正交多项式回归设计

第八章

正交多项式回归

８.１正交多项式回归

正交多项式回归设计是将正交试验法与多项式回归分析结合起来,使之兼有两者的优点,是一种很好的试验设计方法。在第七章中已说明求多项式回归都可以化成多元线性回归问题计算,但我们知道当变量数目(因素)比较大时,多元线性回归的计算是很繁杂的。我们将介绍一种利用正交多项式来配回归的方法,这种方法计算比较简单,而且都是表格化的,但它仅适用于自变量(因素)取等间隔数值的情况。

设自变量(因素)X是可控制的,因素水平取值的间距并非都为ｈ＝１,但是,可有意识地安排它取某间隔的数值.任何一组等距点ｘ１＝ａ＋ｈ，ｘ２＝ａ＋２ｈ……ｘt＝ａ＋ｔｈ……ｘｎ＝ａ＋ｎｈ，都可以通过下式化为一组标准等距点(即ｈ＝１的一组点),1,2……ｔ……ｎ(即ｈ＝１的一组点)。式中ｈ——因素水平间的间距在数学分析中讲到,相当广泛一类曲线可以用多项式去逼近,把这个思想用到回归分析上,就产生了多项式回归。设对应于ｘｉ＝ｔ的实验结果为ｙｔ，〔ｔ＝１，２……ｎ〕。对这一组响应值(观测值)我们配一个ｋ次多项式。y=a0+a1x+a2ｘ２+….+akxk(8-2)(8-1)设Ψ１〔ｘ〕，Ψ２〔ｘ〕，…，Ψｋ〔ｘ〕分别是ｘ的一次,二次及ｋ次多项式,那么(８-２〕也可以用Ψｉ〔ｘ〕来表示。(8-3)将Ψｉ〔ｘ〕看作是新变量,那么(８-３〕式就是一个ｋ次线性回归方程,其回归系数ｂｉ由下面正规方程定:ｌ１１ｂ１＋ｌ１２ｂ２＋…＋ｌ１ｋｂｋ＝ｌ１ｙｌ２１ｂ１＋ｌ２２ｂ２＋…＋ｌ２ｋｂｋ＝ｌ２ｙ(8-4)……ｌｋ１ｂ１＋ｌｋ２ｂ２＋…＋ｌｋｋｂｋ＝ｌｋｙ又(8-5)其中:(8-6)i,j=1,2…ki=1,2…k(8-7)为了简化计算,我们选择这样的Ψｉ〔ｘ〕,使

i=1,2…ki≠j(8-8)于是Lij=

0i≠ji=j(8-9)(8-10)(8-11)

而正规方程〔８-４〕就简化为:(8-12)于是Ψｉ〔ｘ〕的回归系数ｂｉ立即可以求得(8-13)

而常数项ｂ０根据〔８-５〕和〔８-９〕式也有更简单的表达式: 〔８-８〕式的两条性质称为正交性,可以验证下面的一组多项式满足正交性:这一组多项式称为正交多项式。式中ｘ的取值ｘ１、ｘ２…ｘｔ…ｘｎ一组为标准等距点,多项式中ｎ为因素取值的个数(即水平数),假设不是可用(８-１)式化为标准等距点,由于Ψｉ〔ｘ〕，ｉ＝１，２…ｎ的值不一定都为整数,因此为方便起见,通常引进适当的系数λｉ，使(8-15)

在几个整数点上的值都为整数。对给定的ｎ(水平数),相应的λｉ及Φｉ〔ｘ〕在1,2,…,ｎ各整数点的数值及都已制成表(见附录中正交多项式表),实际计算可以充分利用这些表进行。

利用正交多项式回归的实际计算可按下面的步骤进行。

(1)根据ｎ(因素的水平数),查相应的正交多项式表,设需配一个ｋ次多项式(一般ｋ≤5即可).

因为ｎ个水平至多只能配ｎ－1阶的多项式,故对于ｎ≤5只列出ｎ－１阶正交多项式的数值,

例如ｎ＝４只列出了Φ１、Φ２、Φ３首先计算

(8-16)(8-17)从而〔8－18〕

i=1,2,….k(8-19)那么回归方程为(8-20)

(2)计算各个Φｉ的系数ｂｉ后,就可以按第七章讲的多元线性回归的程序作方差分析,ｙ的总平方和ｌｙｙ仍按通常的公式计算,即(8-21)而回归平方和

(8-22)在用交多项式配回归中,每次多项式Φｉ〔ｘ〕的系数ｂｉ及相应的只与ｙｔ及Φｉ〔ｘｔ〕有关,而不随其它各次多项式的增减而变化,在整个回归中多配一项Φｉ〔ｘ〕就使回归平方和增加一项ｂｉＢｉ,因此可以把(8-23)看作第ｉ次多项式Φｉ〔ｘ〕的效应,而回归平方和那么是各次效应的和。正交多项式配多项式方差分析表见(表８-１〕

表８-１正交多项式配多项式方差分析表

方差来源平方和自由度均方F

回归U剩余11n-k-11…总计lyyn-1表８-１正交多项式配多项式方差分析表

方差来源平方和自由度均方F

回归进行F检验,Ｆｉ的自由度为(1,ｎ－ｋ－１〕,对于那些不显著的高次项可以把它们从回归方程取消。而如果检验的结果都显著,同时所配多项式的精度不够满意的话那么可继续增添更高次的项。

例８-１为了考察维尼纶纤维在缩醛化工序中甲醛浓度ｘ与纤维醛化度ｙ的定量关系,对7种不同的甲醛浓度各进行了假设干次实验,测出各种浓度的平均缩醛化度如下:

甲醛浓度(ｇ／ｌ)１８２０２２２４２６２８３０

缩醛化度ｙ〔Ｔ〕２６.９２８.３２８.７２８.９２９.６３０.０３０.４

对上面的7组数据配一个直到4次多项式的回归方程。8.３正交多项式回归设计和回归方程的建立一、回归方程的建立如果我们用正交表安排试验,将因素水平的间距取为相等,那么可用正交多项式回归来处理正交试验的结果,定量地描述响应值与各因素之间的关系。

各因素的总效应函数可表示为各因素效应之和y=b0+P(A)+P(B)+P(C)+…(8-30)式中P〔Ａ〕、P〔Ｂ〕、P〔Ｃ〕…分别为因素A、B、C等效应函数。各个因素的效应函数可按正交多项式展开:(8-31)式中各项回归系数ｂｋ和常数项ｂ０可分别由〔８-３２〕式和(８-３３〕式计算。i=1,2…k(8-32)(8-33)式中ｙｔ＝ｙｔ１＋ｙｔ２＋…＋ｙｔｒ，ｔ＝１，２，…，ｎ。ｒ为同一因素水平下的重复试验次数。求得ｂｋ和ｂ０之后,即可建立回归方程.例８－２用石墨炉子吸收法测定粮食中微量镍时,枯燥温度Tｄ，枯燥时间ｔｄ,灰化温度Tａ,灰化时间ｔａ；原子化温度Ｔａｔ原子化时间ｔａｔ会对测定有影响。为了观察它对吸光度的影响,探求最正确测定条件,选用正交表L１６４４×２３〕来安排试验,为了进行正交多项式回归分析,各因素水平变化满足等距的要求,试验的具体安排与实验结果列于表８－５。８.3正交拉丁多元回归设计介绍用正交拉丁方安排试验,在作多元回归时,同样满足正交多项式回归的正交条件,即在正规方程中系数ｌｉｊ＝０,所以使回归分析较易进行,可以大大简化计算,所以正交拉丁方多元回归设计就是将正交拉丁方试验设计与多元回归分析结合起来的一种很好的试验方法。一、拉丁方与正交拉丁方例:某试验需考察A、B、C、D四个因素,各个因素均取三个水平,现需通过试验找出最正确条件。如果采用全面试验法,即每个因素的各个水平的所有组合都做试验,要做３４＝８１次,试验次数太多,能否做一局部试验,又能得出好的结果呢?先考虑A、B两个因素,全面试验,要作九次.如果同时还要考虑因素C,而试验次数又不增加,应该怎样安排呢?当三个因素时,要反映情况比较全面,必须任意两个因素间的不同水平各碰一次,可采用如下的安排(表8－10〕这9个试验是全面试验３３＝２７个试验的很好代表上面的试验设计可以简化为表８－１１上表的右下角为：我们可以看到,在每一行,每一列中,1、2、3正好各出现一次,具有这样的性质的方块叫拉丁方。这是由于排这种方块常用拉丁字母,所以产生了拉丁方的名称。假设还要考虑因素D,能否保持上述的要求,而试验次数不增加呢?这是可能的〔图8－12〕

D的三个水平组成的是另一个拉丁方,它和A、B之间的搭配是均匀的,D和C之间的搭配也是均匀的,D的每个水平和C的三个水平各碰一次,这样设计,9次试验就能很好地代表3４＝81次试验。

我们将C和D的两拉丁方迭在一起,见表(８－１３〕，发现1、2、3和(1)、(2)、(3)各碰一次既无重复,又无遗漏,具有这种性质的两个拉丁方叫正交拉丁方。例如下面表８－１４的三拉丁方就是两两正交的。

二、正交拉丁方试验与正交表设计试验

正交表是正交拉丁方的自然推广。用正交拉丁方安排试验,通常是排成表格的形式。如前面表８１２的设计,我们把它编上试验号码(见表８－１５),用①，②,③……表示,把它写成表格就成为一张L９〔３４〕正交表(见表８－１６)。这里需要说明一下正交表与正交拉丁方的关系及其相互比较,正交表并不都是从正交拉丁方转变来的,而是后者的自然推广。

在正交表或正交拉丁方中,任意两列之间都具有搭配均匀的性质(即都是具有正交性),这是它们的共同点。

不同点：

〔1〕拉丁方安排,要求行数与列数必须相等,组成正方形,即实验次数等于整数的平方(但并不是各个整数都有正交拉丁方,如６×６的正交拉丁方就不存在),而正交表并不一定。

〔2〕正交表除了能对因素的主效应进行考察外,有时还能方便地考察各因素之间的交互作用,并给出交互效应的大小估计,而正交拉丁通常只是用来考察因素的主效应。

三、正交拉丁方试验的分析前面讲到正交拉丁方是正交表试验的一种特殊情况,由3阶正交拉丁方可化成L９〔３４〕。同理四阶正交拉丁方可化成L１６〔４５〕，五阶正交拉丁方试验可化成L２５〔５６〕。所以正交拉丁方试验的分析就按正交表的分析,没有任何新东西。需要指出的是,正交拉丁方写起来占篇幅较小,在分析时有人不愿意化成正交表的形式,还用正交拉丁方的形式。四、正交拉丁方多元回归设计与正交多项式回归设计一样,正交拉丁方试验设计与多元回归(或正交多项式回归)分析结合起来。通过对试验结果的方差分析,估计诸因素影响的相对大小,又能定量地了解响应值与诸因素之间的关系,即确定响应值与诸因素之间的相对关系,它也是一种较好的试验设计方法。例８-４缩醛化工艺是维尼纶生产的最后一道化学工序,目的是提高维尼纶的耐热水性,醛化过程的好坏,用一个叫缩醛化度的指标来衡量,缩醛化度越高,纤维耐热水性越好,由于影响缩醛化度的因素很多,又加上一些偶然因素的干扰,要了解它们之间蕴含的内在规律就比较困难。由北京维尼纶厂与中科院数学研究所概率统计室统计组联合攻关,采用正交拉丁方多元回归设计方法进行试验,处理数据初步揭示了缩醛化工艺的内在规律,并指导生产、摸索降低原料消耗的途径提供了数据。

1．试验安排

选用７×７的正交拉丁方,共做了７×７＝４９次试验,其各因素水平安排如表８-１７中2．实验结果分析方差分析

表8－18正交拉丁方试验设计及试验结果表(2)多元回归分析我们希望求得这些因素与缩醛化度之间的定量关系(相关关系),所以通过多元回归分析来建立这种相关关系,通过初步分析,各个因素对缩醛化度的关系,有直线的趋势,所以我们考虑多元线性回归。EPS=0.6969R-Sq=97.9%

R-Sq(adj)=96.6%

AnalysisofVariance

Source

DF

SS

MS

F

P

Regression

10

366.460

36.646

75.44

0.000ResidualError

167.7720.486

Total

26374.232

运用minitab软件对正交实验27次实验结果进行多元回归。其拟合结果经过实验验证，PI误差控制在4.78％以下，EP误差控制在5.63％以下。运用该拟合方程可以对生产进行预报和控制。

数理统计－实验结论化学沉铜实验运用正交设计实验法并结合沉铜层的透光级别，找到沉铜溶液的最正确配比和工艺参数。因素

水平

XB350－A（ml·L-1）（A）

XB350－B（ml·L-1）（B）

t（min）（C）

T（℃）（D）1A1(70)

B1(70)

C1(20)

D1(20)

2A2(80)

B2(80)

C2(25)

D2(25)

3A3(90)

B3(90)

C3(30)

D3(30)

化学沉铜实验－实验结论 通过分析如上面所示的背光图，本着节约本钱的原那么及易于操作的原那么，得到的最正确组合为：A3B2C2D3BX350－A90ml·L-1；

温度T25℃；BX350－B80ml·L-1；

时间t30min

经在生产中应用，沉铜合格率普遍提高10％，由原来的88％提高到98％。

热应力力检验

热应力实验是用于测试板子承受焊接环境的实验，同时也主要为了检验金属化孔铜的粘附质量。将测试样本放入260摄氏度的焊锡池中按照实验要求浸泡10s、20s、30s；做金相切片。Samsung刚挠四层结合板的批量试制 SAMSUNG4层刚挠结合板是由两层硬板中间夹一层双面软板构成的典型的夹心式结构的刚挠板。成品图片全面实验