数学模型在步态识别系统中的应用.doc

数学模型在步态识别系统中的应用摘要：步态识别是生物特征识别技术中的一个新兴领域，它旨在根据个体的行走方式识别身份.步态识别主要是针对含有人的运动图像序列进行分析处理,利用适当的数学模型建立一个分类器，通过机器学习的方法，优化分类器中的各个参数，从而得到一个或多个最优超平面.模型的输入一般就是各种步态下的一些特征参数，输出就是该特征下所属的类别编号，本文主要介绍了在步态识别方面常用的数学模型.关键词：数学模型 步态识别 建模方法1. 绪论步态识别是近年来越来越多的研究者所关注的一种较新的生物认证技术，它旨在从相同的行走行为中寻找和提取个体之间的变化特征，以实现自动的身份识别.根据早期的医学研究人的步态有24个不同的分量，在考虑所有的步态运动分量的情况下步态是唯一的.精神物理学中的研究结果显示即使通过受损的步态信息人们也能够识别出身份，这表明在步态信号中存在身份信息.步态识别主要是针对含有人的运动图像序列进行分析处理,所涉及到的几项关键技术包括:视频处理、图像处理、模式识别.步态识别分析可以划分为特征抽取、特征处理和识别分类三个阶段. 图1 步态自动识别系统框图步态识别系统的一般框架如图1所示.监控摄像机首先捕捉监控领域来人的行走视频，然后送入计算机进行检测和跟踪，提取人的步态特征，最后结合已经存储的步态模式进行身份识别.若发现该人是罪犯或嫌疑人，系统将自动发出警告.步态识别除了用于身份验证以外，在别的领域也有重大的应用，如在机器人领域1.研究人们在不同路况下的行走步态，提取出主要的分类特征，将步态分类为在平地上、上楼梯、下坡等几种步态，以便为智能假肢行走哪种步态提供一个正确的决策.同时研究人类一些不对称的步态，并将不对称行走引入到双足机器人领域，为更拟人化地行走提供了一个新的研究方法.2. 步态识别的模型对于识别不同人所具有的步态以及相同的人在不同路况下所走的步态这一问题，可转化为一个二分类或多分类问题.利用适当的数学模型建立一个分类器，通过机器学习的方法，优化分类器中的各个参数，从而得到一个或多个最优超平面.模型的输入一般就是各种步态下的一些特征参数，输出就是该特征下所属的类别编号.数学模型是为了某种目的，用字母、数学及其它数学符号建立起来的等式或不等式以及图表、图象、框图等描述客观事物的特征及其内在联系的数学结构表达式2.步态识别主要有四个部分组成：信息获取、预处理、特征提取和选择、分类决策，其系统框图如图1所示，它的数学模型就是描述系统输入、输出变量以及内部各变量之间相互关系的数学表达式.目前，应用不同的数学分析方法可以将分类器的模型分为很多种.如模糊主成分分析、svm模型、k-近邻分类器模型、fpga算法模型、高斯混合模型、神经网络分类器模型及支持向量机分类器模型.本文对这几种识别方法模型以及利用到的数学知识进行介绍.2.1 基于模糊主成分分析模型的步态识别模糊主成分分析是一种有效的线性分析方法，提出针对步态能量图的模糊主成分分析的步态识别算法.通过对原始步态序列进行预处理得到步态能量图，利用模糊主成分分析提取出特征值和对应的特征向量，获得模糊主成分后将其映射到低维空间，并使用最近邻法进行分类3.在casia 数据库上对算法进行验证，该算法与同类算法相比具有更好的识别性能.它对极端值及缺失值非常敏感，而极端值与缺失数据会带来残缺或错误的分析结果.因此，将模糊统计学的知识应用到主成分分析中，使模糊集参与决策分析，从而有效地抑制噪声，突出主要信息，提高分析结果的准确性和可信度.模糊主成分分析是模糊c-均值聚类(fcm)算法和主成分分析相结合的一种新算法.由步态能量图获取的步态特征空间维数非常高，选取模糊主成分分析方法对步态能量图进行特征降维.给定为模式空间中n个模式观测样本集，为观测样本的特征矢量，对应特征空间中的一个点.为聚类中心，代表不同样本s聚类的特征描述.其中，n是从训练数据集中提取出的gei特征矢量数； p是gei 原始维数.对给定样本集x 进行聚类分析就是要产生x 的 s 划分.x 的模糊划分空间为： （1） 其中，代表特征点在子集中的隶属值；是用s个子集的特征函数值构成的矩阵.由于模糊划分可得到样本分属于各个类别的不确定性程度，建立对于类别的不确定性描述，因此能更客观地反映现实世界.2.2. 基于svm模型的步态识别根据人体外轮廓随行走过程动态变化的特点，基于核的主成分分析(kpca)和支持向量机(svm)的模型来实现步态识别.首先将轮廓图像的外轮廓沿上、下、左、右四个方向进行投影，每个方向的投影向量用一个1维信号表示，步态信息由四个1维信号组合而成.然后利用非线性机器学习方法kpca提取步态特征向量.最后对得到的特征量采用svm进行步态的分类与识别5.核方法是一系列先进非线性数据处理技术方法的总称，其共同特征是这些数据处理方法都应用了核映射.从操作过程上看，核方法首先采用非线性映射将原始数据空问映射到特征空问，进而在特征空问进行对应的线性操作，由于运用了非线性映射，从而大大增强了非线性数据处理能力.从本质上讲，核方法实现了数据空间、特征空间和类别空间之间的非线性变换.设和为数据空间中的样本点，数据空间到特征空间的映射函数为，核方法实现的基础是实现向量的内积变换： (1)(1)式的核函数必须满足mercer条件.mercer条件对于任意给定的对称函数，它是某个特征空间中的内积运算的充要条件是对于任意的不恒为的函数. (2)目前，常用的核函数主要有： 线性核函数 p阶多项式核函数 高斯径向基函数(rbf)核函数 多层感知器(mlp)核函数 kpca是一种非线性机器学习方法，其基本思想是通过非线性变换实现输入数据，映射到一个高维的特征空间，的转换，然后对映射后的数据进行线性pca，这种将核函数与一般的主成分分析(pca)有机融合而形成的基于核的主成分分析(kpca)，不仅具有优秀的主元提取性能，尤其适合于处理非线性问题，即它可以把在输入空间无法线性分类的数据变换到特征空问来实现线性分类，因而具有很强的非线性处理能力.设数据集,，基样本协方差矩阵为： (3)一般的主成分分析通过求该矩阵的特征向量和相应的特征值，并根据特征值的大小通过特征向量的线性组合提取数据中的主成分.基于核的主成分分析是一种非线性特征提取方法，它通过一个非线性映射将数据从输入空间映射到特征空间，然后在特征空间中进行通常的主成分分析，其中的内积运算采用一个核函数来代替.设非线性映射为.因此，由生成.假设映射已经中心化，即 (4)则特征空间中的协方差矩阵为 (5)因此，特征空间中的pca是求解方程 (6)中的特征值和特征向量.由于属于的生成空间，因此有： (7)并且存在参数口，使得可由线性表出，即 (8)合并(5)和(6)式，并定义一个矩阵，其中 (10)于是可得(6)的等价形式： (11)其中由于差一个常系数对求解特征向量没有影响，因此只要求出k的特征值和特征向量就可以求出(11)的解.设的特征值为，相应的特征向量为，并设为第一个不为零的特征值.由于中的特征向量需要规范化，即 (12)所以： (13)主成分提取的目的就是计算特征向量上的映射.设是一个待测试样本点，在中的映射为，则： (14)2.3. 基于-近邻分类器模型的步态识别“-近邻法”的出发点是估计样本分布的概率密度函数.这种方法要求函数连续、平滑，就使得在点的概率密度函数可以这样估计：考虑包围的一个非常小的领域r，它的体积为： (1)在以特征向量为中心的一个领域里，固定落入区域中样本个数为.在一个合适的距离尺度下，逐渐增大包围的区域体积，直到有个样本点落入这个区域中.这些就是周围离它最近的个样本.概率密度函数估计可表示如下： (2)如果周围的样本个数较少，则相应的区域就会变得很大，而区域的体积也会变得很大，因此得到的概率密度值会变得很小.如果周围的样本个数比较多，则区域的体积就会很小，因此得到的概率密度值会变得很大.基于-近邻法的匹配与识别方法就是取未知样本的个近邻，看这个近邻中多数属于哪一类，就把归为哪一类.即在n个已知样本中，找出的个近邻4.将未知特征向量与已经训练好的已知类别的特征向量相比较，当且仅当它的特征向量与第类特征向量的方差倒数加权欧氏距离wed最小时，输入被分为第类.加权欧氏距离wed的计算公式见式 (3)-近邻法是是一种非常简单有效的分类方法，广泛用于模式识别的各个领域.2.4 基于fpga模型的步态识别基于fpga实现的步态识别系统的设计方法.系统采用背景差分的方法提取运动目标，对其进行形态学预处理后使用pca的方法提取特征值，采用svm的方式进行分类识别10. 特征提取在模式识别中具有十分重要的作用，它对步态识别的识别率有着直接的影响，一个成功的特征提取算法能极大地提高系统的识别率.自动监控识别系统通常并发处理多路信号，实时识别视频中的行人.为了降低特征识别的计算量，同时保证较高识别率，采用主成分分析法（principal component analysis，pca）降低高维步态特征量的维数，主成分算法的主要步骤如下.求取协方差矩阵，首先对矩阵进行标准化的处理： (1)其中，为图像矩阵；组成新的矩阵后，计算新矩阵的协方差矩阵cov（）.协方差矩阵特征分割，计算协方差矩阵的p个特征值及相应的特征向量，使cov（） =其中：.排序、投影.将特征值按大小排列，取前d个较大的特征值，并取出对应的特征向量构成变换矩阵： (2)式中：.取其中每一列与原始矩阵相乘得到d个主成分.pca就是一种基于变量协方差矩阵对信息进行处理、压缩和抽提的有效方法.目的是压缩变量个数，用较少的变量去解释原始数据中的大部分变量，剔除冗余信息，即将许多相关性很高的变量转化成个数较少、能解释大部分原始数据方差且彼此相互独立的几个新变量，这些向量线性无关且相互正交.本文对组成一个步态周期为5幅图像的像素矩阵分别使用pca算法，求取其主成分值，得到相应的特征向量.5个主成分值已经是降低了维数的特征值，为了进一步减少计算量，将这5个特征向量按照步态周期的顺序组合成新的二维矩阵，然后对新的特征矩阵运用pca算法，求取新的主成分值，最终作为步态特征存储起来.svm的基本思想为：首先将输入向量非线性变换到一个高维空间，然后在变换后的空间中求取最优线性分类面.对训练样本xi，存在一个分类超平面： (3)其中：x是输入空间的向量；w为超平面的法向量；b为偏置项.输入样本分布在h两侧，每一侧有且只有一种类别的样本.离超平面最近的样本满足： (4)由此可知，svm方法是针对两类问题提出的，对于多类svm的分类方法有两种：一种是一对一的方式，任意两类间都构造一个svm分类器；另一种是一对多的方式.本文采用第二种，对每个待识别步态分别构建svm分类器，每个svm分类器分别对本类步态样本进行正样本训练，输出为+1，对其步态进行负样本训练，输出为-1.测试时，将测试序列输入系统，得到的步态特征值经过每个svm分类器，如果得到了输出结果为+1且唯一时即为同类步态.2.5. 基于高斯混合模型的步态识别高斯混合模型分类方法可以看成是贝叶斯最小错误率方法的一种推广，传统的贝叶斯最小错误率方法中涉及到的类条件概率密度主要是利用统计学的方法来进行极大似然估计得到，而高斯混合模型中的类条件概率密度函数直接利用若干个多元正态分布密度函数来进行拟合，各个正态分布的参数可以利用em算法进行优化 6 .下面简单地介绍下高斯混合模型及其em学习算法.设分别代表所要识别的c种步态. 为各种步态所对应的概率，为输入的特征向量，则利用贝叶斯公式有： (1) (2)当，则.对于用下列高斯混合模型得到，令 (3)其中为均值为、方差为的多元正态分布概率密度函数，为各成分所占的比例.n为混合模型成分总个数，n越大，精度越高，但算法消耗时间增长，实验时，n取值根据实际情况而定.高斯混合模型中主要参数是各个混合成分密度函数中的均值、方差以及各成分所占的比例，整个学习过程就是确定这些参数.目前普遍采用em算法.对混合模型各个成分中参数采用下列公式进行迭代学习： (4) (5) (6) (7)其中分别取，为样本数.n为混合模型中混合成分总个数.由于高斯混合模型参数学习较为简单，目前高斯混合模型被广泛地应用到分类问题上.2.6. 基于神经网络模型的步态识别人类的大脑具有很强的模式分类和学习的能力，这在长期困扰着研究者们.随着生物医学家们的研究人类对自己的大脑有了一些初步的认识.人类的大脑含有众多的生物神经元，各个神经元之间通过树突和轴突连接成一个强大的复杂信息处理网络.突触在传递信息中起主要作用.人类在长期的实践过程中，通过外界所获取的知识，不断地改变突触的联接强度，从而达到学习的目的.人工神经网络模型就是基于人类大脑的一些机理而搭建的一个数学模型，是对人类大脑系统的一阶特性描述.不仅可以用来做分类器使用，还可以用来做系统辨识.人工神经网络由基本的神经元组成.对一个神经元来说，输入信号可以是任意多个，主要取决于特征参数的维数，并且对应每个输入分量有个权值，这里的权值就是相当于联接强度.所有输入的加权和来决定神经元的激活状态.该网络分为输入层、隐藏层、输出层.图中的输入有n 个，输出有m个.具体的输入输出维数由实际问题而定.输入输出的维数一定，则输入输出层的神经元个数就决定下来了.但是隐藏层的神经元个数还是不能确定，这在实际问题中应根据网络学习的好坏来判断是增加还是减少隐藏层的神经元个数9.但是网络中的权值参数还没有确定.其中输入层到隐藏层的权值用矩阵w来表示，其中元素表示输入层的第i个神经元与隐藏层第j个神经元之间的权值，根据前面的假设w的维数为.隐藏层到输出层之间的权值用v矩阵表示，其中元素代表的意思同w，维数为. .vw图2 前馈神经网络模型应用该神经网络进行步态识别，其中代表利用各种传感器采集到的步态特征数据.的输出组合代表类别的编码，一般取当而y的分量均为0时的输出作为第类的理想输出.网络中权值的优化采用有教师的监督学习方法.实验之前需要给定一组已知输出的输入数据.利用这些数据来不断地调整网络的权值直至满足输出达到理想值.在训练的过程中，权值的不断改变就是该网络学习的过程，一旦这些权值确定下来，该网络便具有了一定的推广能力，当给定一个未知的输入时，网络会给出一个适当的输出.从而达到了分类不同类型的步态.网络学习的关键一步就是确定如何确定网络的权值.目前应用较多的就是bp算法.当采用bp算法时，网络中单个神经元的激活函数采用s形函数，因为该激活函数在任意点出均可导，为分析问题带来众多方便.下面对bp算法进行简单的介绍.bp算法对权值的修改主要的理论基础是梯度下降法.对输出层权值的修改与隐藏层权值的修改有不同的表达式.但是理论基础都是梯度下降法.首先给出输出层权值的修改表达式.设p为隐藏层的一个神经元，q为输出层的一个神经元，两者之间的权值为有以下修改表达式. (1)其中 (2)而 (3) (4)所以 (5)式中为学习率，一般取0与1之间的一个常数.为输出层q神经元的实际输出，为输出层q神经元的理想输出.输入层与隐藏层之间的权值改变由于隐藏层没有理想的输出值.所以上述用于修改隐藏层到输出层之间的权值方法不适用于修改这两层之间的权值.结合图3来给出修改权值的表达式.h为输入层的一个神经元，p为隐藏层的单个神经元且p神经元所对应的权值已在一次循环中修改完毕，也就是为已知.则修改权值的表达式如下： (6)式中仍为学习率，、分别为p、h神经元的实际输出.bp算法的收敛速度较慢，但由于该算法具有广泛的适用性和非常强的数学基础，所以一直是多层网络训练的首选算法.但是bp算法的一个致命弱点就是在高维曲面上优化权值很可能会陷入局部极小点.但是目前研究者们相继提出了一些改进算法，如模拟退火算法和bp弹性算法，较基本的bp算法容易逃离局部极小点.权值通过上述的bp算法确定以后，整个神经网络的训练过程就结束了，神经网络模型的分类器也就基本上建立起来了.当网络结构选择适当时，该分类器模型具有较好的推广能力，当给定一个未知输入，网络会给出一个合理的输出.但是当分类问题复杂时，网络的输入维数将会大大增加，整个网络的结构和参数都将变得更加复杂，且在学习的过程时收敛速度极慢，最终甚至会导致整个网络的崩溃，这就是所谓的“维数灾难”.另外神经网络是针对经验风险最小化的原则来实现参数的优化，所以是一种渐进的机器学习类型.存在对样本数据的过学习问题.这些因素从一定程度上都制约了神经网络模型分类器的应用.2.7 基于支持向量机算法模型的步态识别支持向量机是目前一类新型的统计学习算法，是基于统计学习理论、结构风险最小化原理的一种机器学习方法，首次提出了置信风险，并指出了期望风险与实际经验风险、置信风险的统计学关系，并提出了指示函数集的vc维概念.对小样本也有很强的学习能力和推广能力，因而，目前被广泛地应用到分类和回归问题的领域.此外，支持向量机引入核函数技术巧妙地将非线性分类问题转化到线性分类问题上.目前支持向量机的分类模型众多，每种模型都有各种的算法，但最后都归结为一个凸二次规划问题 7 .此外，支持向量机分类模型具有很强的几何意义，就是在两个凸集空间找一些最近点，利用这些点来构造一超平面.利用这一几何意义，可以建立支持向量机的一个几何模型.下面对几何模型作一些简要的介绍.设训练集，其中为n维的线性空间，.首先对正类和负类各构造一个软凸集. (1) (2)在这两个软凸集找最近的两个点或若干个点.则最优超平面就是以两点连线方向为法向量且过连线中点的超平面.则问题就是求下列的优化问题. (3) (4)若求出两类样本之间的最近点为和，则超平面由下式决定参数. (5) (6)针对支持向量机的几何模型，有其特定的几何求解算法.目前求解支持向量机软凸集最近点的算法主要有gilbert算法、sk算法、mdm算法.由于支持向量机的在分类问题上表现十分出色，目前大部分研究者都采用这一分类方法对步态进行分类.实验准确率能达到90%以上.3.展望基于数学模型的识别方法在步态识别中起到了很重要的地位，但其自身仍存在着诸多的缺点，比如神经网络模型结构复杂、参数非常多、训练时间较长.最大的缺点就是很容易陷入局部极小点并且该方法是基于大样本的学习的一种算法，对于小样本没有很强的数学理论基础.相对神经网络而言，支持向量机在一定程度上改进了不少.该方法首次将学习风险分为经验风险与结构风险两部分，在学习的过程中，同时控制二者的上界，从而使得在错分样本最少的条件下获得最大的推广能力.并且该方法引入了核函数技巧，巧妙地将非线性问题转化为线性可分问题，在一定程度上还不会引起“维数灾难”.步态识别是生物特征识别技术中的一个新兴领域，在最近的文献中已经有许多研究尝试并提出了许多步态识别的某种具体的方法.本文提出了步态识别的七类分类法，且初步分析了每类方法的适用范围和优缺点，给步态识别方法勾勒出一幅整体的图画，使读者较为全面了解步态识别技术现状.与别的广泛应用的诸如面像和指纹等生物特征技术相比，步态识别还处在婴儿期，未来的工作重点在于创建具有一定规模的评估数据库、提高系统的评估方法、按照科学的方法观察影响性能的关键因素、开发潜在的人体模型的静态参数特征以及关节角度的动态特征等.步态识别的难点和发展方向主要集中在以下几个方面：1速度对步态的影响：跑动和正常步态有很大的差异，怎样寻找它们之间的共同点是一个问题，目前这方面做的工作还很少.2经常携带物品：实际应用中，人经常会携带物品，所以要研究