复杂驾驶条件下司机驾驶疲劳度检测的研究

1、复杂驾驶条件下司机驾驶疲劳复杂驾驶条件下司机驾驶疲劳度检测的研究度检测的研究本科毕设结题答辩本科毕设结题答辩电子与信息学院电子与信息学院郑伟龙郑伟龙0808级电联班级电联班指导教师：秦华标教授指导教师：秦华标教授蒸脸器哪个牌子好蒸脸器哪个牌子好 http:/ 课题研究背景与意义课题研究背景与意义1课题研究内容与系统框架课题研究内容与系统框架2复杂驾驶条件下人脸检测方法复杂驾驶条件下人脸检测方法3复杂驾驶条件下人眼检测和状态识别复杂驾驶条件下人眼检测和状态识别4基于眼部特征的驾驶员疲劳状态检测基于眼部特征的驾驶员疲劳状态检测 5课题总结与实验效果演示课题总结与实验效果演示课题研究背景与意义3n

2、在欧洲，在欧洲， 10-20的司机死亡和受伤是由于疲劳导的司机死亡和受伤是由于疲劳导致驾驶员警戒水平降低所引发。致驾驶员警戒水平降低所引发。n 在美国，每年有在美国，每年有10万起万起撞车事故是由于驾驶员困倦撞车事故是由于驾驶员困倦所造成的，所造成的，造成造成4万万的非致命性伤害和的非致命性伤害和1550死亡死亡n 在我国，在在我国，在2007年至年至2009年我国由疲劳驾驶导致的年我国由疲劳驾驶导致的死亡人数分别占机动车驾驶人交通肇事总死亡人数死亡人数分别占机动车驾驶人交通肇事总死亡人数的的11.35%、10.91%和和12.5%，平均每年约有，平均每年约有9000人人死于疲劳驾驶死于疲劳驾

3、驶。蒸脸器品牌排行榜蒸脸器品牌排行榜 http:/ 我们能否在交通事故发生之前检测到司机疲劳我们能否在交通事故发生之前检测到司机疲劳状态；状态；n 对于疲劳检测技术，什么技术和方法是最可靠对于疲劳检测技术，什么技术和方法是最可靠有效的；有效的；n 如何在不分散驾驶员注意力的情况下有效地检如何在不分散驾驶员注意力的情况下有效地检测驾驶员精神状态并作出判断。测驾驶员精神状态并作出判断。蒸脸器有用吗蒸脸器有用吗 http:/ http:/ （多光照）（多光照）复杂驾驶条件下人脸检测方法9人脸检测中光照问题方法初探人脸检测中光照问题方法初探n 主动近红外图像传感器主动近红外图像传感器获取红外图像获取红

4、外图像n 基于基于光照估计光照估计的近红外的近红外图像增强图像增强算法算法复杂驾驶条件下人脸检测方法10（1）单尺度）单尺度Retinex算法（算法（SSR）Retinex是是一个合成词，是由一个合成词，是由Retina（视网膜）和（视网膜）和Cortex（大脑皮层）组合而成的。（大脑皮层）组合而成的。Retinex理论解释理论解释了了相同的物体在不同的光线底下颜色恒定性相同的物体在不同的光线底下颜色恒定性(Color Constancy)机理机理),(),(),(yxLyxRyxS亮度图像亮度图像反射图像反射图像图 2- 单尺度Retinex的实验效果图复杂驾驶条件下人脸检测方法11（2）多

5、尺度）多尺度Retinex算法（算法（MSR）多尺度多尺度Retinex实质是将多个单尺度实质是将多个单尺度Retinex的结的结果进行加权求和果进行加权求和图图 2- 10 多尺度多尺度Retinex的实验效果图的实验效果图金稻蒸脸器金稻蒸脸器 http:/ 2- 单尺度自商图像效果图复杂驾驶条件下人脸检测方法13（4）多尺度自商图像（）多尺度自商图像（MSQ）多尺度自商图像实质是将多个单尺度自商图像的多尺度自商图像实质是将多个单尺度自商图像的结果进行加权求和。结果进行加权求和。图图 2- 12 多尺度自商图像效果图多尺度自商图像效果图复杂驾驶条件下人脸检测方法14（5）离散余弦变换（）离散

6、余弦变换（DCT）将图像进行将图像进行离散余弦变换离散余弦变换后，低频部分对应图像后，低频部分对应图像的亮度分量，反应的是光线变化部分。因此将的亮度分量，反应的是光线变化部分。因此将DCT低低频分量置零频分量置零就可以得到光照鲁棒的反射图像，达到减就可以得到光照鲁棒的反射图像，达到减小光照的影响。小光照的影响。图图 2- 13 离散余弦变换效果图离散余弦变换效果图复杂驾驶条件下人脸检测方法15（6）小波变换（）小波变换（WA）对输入图像进行对输入图像进行离散小波变换离散小波变换，然后处理得到的，然后处理得到的子带图像。它对子带图像。它对小波系数矩阵进行加权小波系数矩阵进行加权，对变换的，对变换

7、的相相似系数进行直方图均衡化似系数进行直方图均衡化，再利用，再利用反小波变换反小波变换将独立将独立的子带图像重建后得到归一化的图像。的子带图像重建后得到归一化的图像。图图 2- 14 小波变换效果图小波变换效果图复杂驾驶条件下人脸检测方法16（7）非局部均值法（）非局部均值法（NLM）这种方法基于一种想法，就是每个小的图像窗口这种方法基于一种想法，就是每个小的图像窗口都能找到与之相似的其他图像窗口，利用这些窗口就都能找到与之相似的其他图像窗口，利用这些窗口就可以进行去噪处理。可以进行去噪处理。)(),(),()(xIxndnxIxzxI表示加权函数，计算原始图像的空间位置表示加权函数，计算原始

8、图像的空间位置z,x像素像素局部相似性局部相似性),(xz图图 2- 15 非局部均值法（非局部均值法（NLM）效果图）效果图复杂驾驶条件下人脸检测方法17（8）直方图均衡（）直方图均衡（HE）图图 2- 16 直方图均衡化（直方图均衡化（HE）效果）效果复杂驾驶条件下人脸检测方法18 测试测试图图（原图、（原图、SSR、MSR、SSQ、MSQ、DCT、WA、NLM、HE）复杂驾驶条件下人脸检测方法19基于基于Adaboost的人脸检测的人脸检测Adaboost是一种迭代算法，其核心思想是针是一种迭代算法，其核心思想是针对同一个训练集训练不同的分类器对同一个训练集训练不同的分类器(弱分类器弱分

9、类器)，然，然后把这些弱分类器集合起来，构成一个更强的最后把这些弱分类器集合起来，构成一个更强的最终分类器终分类器(强分类器强分类器)。优点：优点：1)构建简单子分类器，利用构建简单子分类器，利用Adaboost算法将这些分类器进行级联，构造强分类器；算法将这些分类器进行级联，构造强分类器；2) Adaboost算法即使训练次数很多，也不会出现过算法即使训练次数很多，也不会出现过拟合的问题拟合的问题；3）随着训练迭代次数增加，分类器随着训练迭代次数增加，分类器识别错误率会逐渐下降识别错误率会逐渐下降。复杂驾驶条件下人脸检测方法20基于基于Adaboost的人脸检测的人脸检测n 训练过程训练过程

10、使用使用类类Haar矩形特征矩形特征作为输入，利用作为输入，利用积分图积分图像像加速矩形图像值的计算，训练各个加速矩形图像值的计算，训练各个弱分类器弱分类器，最后将弱分类器节点组成筛选式级联方式。最后将弱分类器节点组成筛选式级联方式。n 检测过程检测过程通过加载分类器，根据训练所得到的分类器特通过加载分类器，根据训练所得到的分类器特征对输入图像进行检测征对输入图像进行检测图图 2- 28 Adaboost人脸检测实验测试图人脸检测实验测试图人眼检测和状态识别研究21人眼检测定位方法研究人眼检测定位方法研究n 眼睛定位是较难的研究课题，因为人的眼睛的面眼睛定位是较难的研究课题，因为人的眼睛的面积

11、比例比较小，另外由于人脸区域眉毛、眼镜等积比例比较小，另外由于人脸区域眉毛、眼镜等干扰也会造成眼睛定位算法的错误识别。干扰也会造成眼睛定位算法的错误识别。n 人眼检测定位方法：人眼检测定位方法：n 基于基于Adaboost的眼睛检测定位方法的眼睛检测定位方法n 基于人脸三庭五眼比例特征人眼检测定位方法基于人脸三庭五眼比例特征人眼检测定位方法人眼检测和状态识别研究22基于基于Adaboost的眼睛检测定位方法的眼睛检测定位方法图图 3- 2 基于基于Adaboost的眼睛检测定位方法效果图的眼睛检测定位方法效果图人眼检测和状态识别研究23基于三庭五眼比例特征人眼检测方法基于三庭五眼比例特征人眼检

12、测方法人眼检测和状态识别研究24人眼状态识别方法研究人眼状态识别方法研究本课题对以下几种眼睛状态识别方法进行研究和比较本课题对以下几种眼睛状态识别方法进行研究和比较n 基于基于眼睑曲率眼睑曲率的眼睛状态识别的眼睛状态识别n 基于基于分段眼睑曲率分段眼睑曲率的眼睛状态识别的眼睛状态识别n 基于基于椭圆拟合椭圆拟合的人眼状态识别的人眼状态识别n 基于基于水平投影及比例特征水平投影及比例特征的人眼状态识别的人眼状态识别n 判断判断黑色像素比例黑色像素比例进行人眼状态识别进行人眼状态识别人眼检测和状态识别研究25基于眼睑曲率的眼睛状态识别基于眼睑曲率的眼睛状态识别人眼睁开时，上眼睑向上弯曲，曲率为正；

13、而人眼睁开时，上眼睑向上弯曲，曲率为正；而在闭合时，上眼睑基本呈扁平状，曲率基本为零在闭合时，上眼睑基本呈扁平状，曲率基本为零。因此可以通过提取人眼的上眼睑，通过计算上。因此可以通过提取人眼的上眼睑，通过计算上眼睑的曲率来判断当前人眼状态。眼睑的曲率来判断当前人眼状态。人眼检测和状态识别研究26基于眼睑曲率的眼睛状态识别基于眼睑曲率的眼睛状态识别上眼睑曲率提取过程：上眼睑曲率提取过程：（1）边缘检测）边缘检测较好保持边缘连续性的较好保持边缘连续性的Canny算子算子（2）上眼睑轮廓提取）上眼睑轮廓提取上眼睑基本上位于边缘图像的最上部，按列扫上眼睑基本上位于边缘图像的最上部，按列扫描图像取出每列

14、的最上面的点，即为上眼睑。描图像取出每列的最上面的点，即为上眼睑。（3）中点和边界点提取）中点和边界点提取提取上眼睑的边界点以及中点。提取上眼睑的边界点以及中点。（4）计算曲率）计算曲率（5）阈值判断）阈值判断ACBDK 人眼检测和状态识别研究27基于眼睑曲率的眼睛状态识别基于眼睑曲率的眼睛状态识别曲率曲率阈值阈值睁眼样本（睁眼样本（124）闭眼样本（闭眼样本（130）正确正确数数错误数错误数 正确率正确率（%）正确正确数数错误数错误数 正确率正确率（%）0.1141131191.11052580.70.1151121290.31072382.30.1161121290.31092183.80

15、.1171011381.51102084.60.1181091587.911218050.110.1150.120.150.60.650.70.750.80.850.90.951曲率阈值识别正确率 睁眼识别正确率闭眼识别正确率人眼检测和状态识别研究28基于分段眼睑曲率的眼睛状态识别基于分段眼睑曲率的眼睛状态识别这种方法与上面方法类似。这种方法与上面方法类似。主要区别在于：主要区别在于：（1）眼睑曲线的拟合）眼睑曲线的拟合，眼睑，眼睑曲线原先利用提取的边缘曲线，而这里利用的是曲线原先利用提取的边缘曲线，而这里利用的是三阶多项式对眼睑曲线进行拟合。三阶多

16、项式对眼睑曲线进行拟合。（2）曲率的计）曲率的计算算，前面的方法考虑的是上眼睑的整体特性，只，前面的方法考虑的是上眼睑的整体特性，只计算一次曲率，而本方法是将眼睑曲线分成若干计算一次曲率，而本方法是将眼睑曲线分成若干段，再分别计算这几段的曲率，将这些曲率进行段，再分别计算这几段的曲率，将这些曲率进行求和后，作为判断眼睛状态参数。求和后，作为判断眼睛状态参数。眼睑轮廓曲线拟合上眼睑边界点提取人眼检测和状态识别研究29基于分段眼睑曲率的眼睛状态识别基于分段眼睑曲率的眼睛状态识别曲率曲率阈值阈值睁眼样本（睁眼样本（124）闭眼样本（闭眼样本（130）正确正确数数错误数错误数 正确率正确率（%）正确正

17、确数数错误数错误数 正确率正确率（%）0.121081687.1646649.20.131071786.3755557.70.141071786.3814962.30.151051984.7943672.30.16992579.8106241分段曲率求和阈值识别正确率 睁眼识别正确率闭眼识别正确率人眼检测和状态识别研究30基于椭圆拟合的人眼状态识别基于椭圆拟合的人眼状态识别人眼轮廓与椭圆非常近似，人眼在睁开状态下人眼轮廓与椭圆非常近似，人眼在睁开状态下的圆形度要高于闭

18、眼状态下的，通过对人眼进行的圆形度要高于闭眼状态下的，通过对人眼进行椭圆拟合，然后判断椭圆长半轴以及短半轴的比椭圆拟合，然后判断椭圆长半轴以及短半轴的比例关系可以作为人眼状态判断的参数。例关系可以作为人眼状态判断的参数。图 3- 上眼睑轮廓曲线拟合人眼检测和状态识别研究31基于椭圆拟合的人眼状态识别基于椭圆拟合的人眼状态识别b/a睁眼样本（睁眼样本（124）闭眼样本（闭眼样本（130）正确正确数数错误数错误数 正确率正确率（%）正确正确数数错误数错误数 正确率正确率（%）0.21117794.3755557.70.221121290.3874366.90.231051984.7923870.8

19、0.241022282.31003076.90.25992579.81042680.050.260.270.280.250.70.750.80.850.90.951长半轴与短半轴比值阈值识别正确率 睁眼识别正确率闭眼识别正确率人眼检测和状态识别研究32基于水平投影及比例特征的人眼状态识别基于水平投影及比例特征的人眼状态识别当人眼睁开时，水平投影直方图高度比较低，宽当人眼睁开时，水平投影直方图高度比较低，宽度比较长，而人眼闭合状态时，水平投影直方图度比较长，而人眼闭合状态时，水平投影直方图高度比较高，宽度比较短。高度比较高，宽度比较

20、短。人眼图像二值化效果051015202530354002468101214161820水 平 投 影010203040506005101520253035404550水 平 投 影左图是睁眼图像直方图投影，右图是闭眼图像直方图投影左图是睁眼图像直方图投影，右图是闭眼图像直方图投影人眼检测和状态识别研究33基于水平投影及比例特征的人眼状态识别基于水平投影及比例特征的人眼状态识别高度高度/宽度宽度睁眼样本（睁眼样本（124）闭眼样本（闭眼样本（130）正确正确数数错误数错误数 正确率正确率（%）正确正确数数错误数错误数 正确率正确率（%）4982679.01191191.551032183.41

21、091191.561061885.51161489.271081687.11042680.033.544.555.566.577.580.60.650.70.750.80.850.90.951 直方图投影高度与宽度比值阈值识别正确率睁眼识别正确率闭眼识别正确率人眼检测和状态识别研究34判断黑色像素比例进行人眼状态识别判断黑色像素比例进行人眼状态识别人眼图像二值化效果人眼图像二值化效果该方法判断的依据是当睁眼时，人眼区域的黑该方法判断的依据是当睁眼时，人眼区域的黑色像素比例会大于闭眼的情况。色像素比例会大于闭眼的情况。人眼检测和状态识别研究35人眼状态识别方法结果分析人眼状态识别方法结果分析人眼

22、状态识别方法人眼状态识别方法睁眼样本睁眼样本识别率识别率闭眼样本闭眼样本识别率识别率处理时间处理时间评价评价基于眼睑曲率的方法基于眼睑曲率的方法87.9%87.7%11ms好好基于分段眼睑曲率的方法基于分段眼睑曲率的方法79.8%81.5%12ms较好较好基于椭圆拟合的方法基于椭圆拟合的方法80%80%10ms较好较好基于水平投影及比例特征方基于水平投影及比例特征方法法85%91%14ms好好判断黑色像素比例的方法判断黑色像素比例的方法76.6%65.4%8ms较差较差基于眼部特征的疲劳状态检测36基于基于PERCLOS与眨眼频率的疲劳检测与眨眼频率的疲劳检测n PERCLOS准则准则n PERCLOS(Percentage of Eyelid Closure Over the Pupil Time)是指是指单位时间内眼睛闭合的时间的单位时间内眼睛闭合的时间的百分比百分比。通过大量实验数据表明，。通过大量实验数据表明，PERCLOS与疲与疲劳程度具有良好的相关性，劳程度具有良好的相关性，美国公路管理局推荐将美国公路管理局推荐将PERCLOS准则作为基于视觉的驾驶疲劳判断的最准则作为基于视觉的驾驶疲劳判断的最好方法。好方法。基于眼部特征的疲劳状态检测37基于基于PERCLOS与眨眼频率的疲劳检测与眨眼频率的疲劳