基于上下文环境和句法分析的蛋白质关系抽取.doc

基于上下文环境和句法分析的蛋白质关系抽取摘要:针对蛋白质交互作用关系(ppi)抽取方法中特征利用的片面性问题，提出了一种从上下文环境和句法结构中抽取特征的方法。该方法抽取词法特征、位置特征、距离特征、依存句法特征和深层句法特征等丰富特征构成特征集，并且使用支持向量机（svm）分类器进行ppi抽取。方法在5个公开的ppi语料上进行了评估。实验结果表明，丰富特征有效地利用了更为全面的信息，避免丢失重要特征的危险，得到了较好的ppi抽取性能。即在aimed语料上的实验取得了59.2%的f值和85.6%的曲线下面积（auc）值。关键词:信息抽取；自然语言处理；蛋白质关系抽取；特征；支持向量机 tein interaction extraction based on contextual and syntactic featureswang jian*, ji ming.hui, lin hong.fei, yang zhi.haoschool of computer science and technology, dalian university of technology, dalian liaoning 116024, chinaabstract:considering one-sidedness of features used in many protein-protein interaction (ppi) extraction methods. a novel approach is proposed to extract rich features from context information and syntax structure for ppi extraction. various features, such as lexical, position, distance, dependency syntax and deep syntax features are extracts, and the support vector machine (svm) classifier is used for ppi extraction. experimental evaluation on multiple ppi corpora reveals that the rich features can utilize more comprehensive information to reduce the danger of missing some important features. this method achieves state-of-the-art performance with respect to comparable evaluations, with 59.2% f-score and 85.6% auc on the aimed corpus.considering the one.sidedness of features used in many tein interaction (ppi) extraction methods, a new approach was proposed to extract rich features from context information and syntax structure for ppi extraction. various features, such as lexicon, position, distance, dependency syntax and deep syntax features constitute feature set, and the support vector machine (svm) classifier was used for ppi extraction. the experimental evaluation on multiple ppi corpora reveals that the rich features can utilize more comprehensive information to reduce the risk of missing some important features. this method achieves state.of.the.art performance with respect to comparable evaluations, with 59.2% f.score and 85.6% area under curve (auc) on the aimed corpus.key words:information extraction; natural language processing; tein interaction (ppi) extraction; feature; support vector machine (svm)0 引言生物医学文献中的蛋白质交互作用关系（tein interaction, ppi）对于蛋白质知识网络的构建、药物的研制、疾病的诊断等具有重要意义。目前，生物医学专家建立了很多有统一格式的蛋白质关系数据库来存储这些重要信息，例如：mint1，bind2 和 dip3。然而，随着医学文献数量的急剧增加，很难依靠人工从海量文献中获取有价值的信息。因此，从生物文献中自动地抽取蛋白质关系成为一项重要的研究任务。从生物医学文献中自动抽取蛋白质关系的方法有多种，如基于词共现的方法、基于模板匹配的方法和基于机器学习的方法。基于词共现的方法简单统计两个蛋白质在句子中的共现次数，根据统计学原理判断它们是否存在关系4。基于模板匹配的方法把待判别数据与已有的模板进行匹配，从而达到蛋白质关系抽取的目的5。机器学习的方法近几年来兴起并且得到迅速发展，其中基于特征的方法在ppi抽取任务中得到了广泛的应用。文献6使用上下文特征进行蛋白质关系抽取，该方法没有使用任何句法信息，在biocreative语料上得到较高的召回率，但精确值相对较低。文献7评估多个不同的句法分析器对ppi抽取的贡献，结果表明词与词之间的句法关系，能够有效地提高ppi抽取的性能。但是这些方法通常只考虑了句子及其句法结构的部分信息，而忽略了其他方面的有用信息。机器学习领域的另一个热点话题是核函数的研究和使用。基于核函数的方法把句法结构作为处理对象，在依存图或句法树上定义不同的核函数进行蛋白质关系抽取，如图核、树核和路径核等8-11。基于核函数的方法能够得到较好的抽取性能，但是受制于计算复杂度，该方法通常不能直接应用到实际的ppi抽取系统中。针对以上问题，本文提出了一种基于上下文环境和句法分析的ppi抽取方法。该方法融合了更加全面重要的信息，不仅使用了词的上下文环境，并且考虑了蛋白质之间的句子距离和谓词参数结构中不同子结构对关系抽取的影响，同时避免了核函数的复杂计算。本文在5个公开的 ppi 语料上实验，详细分析不同特征对 ppi 抽取的影响，并且与其他方法的性能进行了比较。1 基于特征的ppi抽取方法基于特征的ppi抽取任务可以看作是一个分类问题。首先，提取语料句子中的蛋白质对，得到蛋白质关系实例；然后从语料中提取特征，并且把每个实例都映射到一个n维的特征向量；接着训练一个分类模型；最后使用分类模型判断未标注实例所属的类别，即判断蛋白质对之间是否存在关系。基于特征的ppi抽取系统框架如图1所示，系统的输入为原始的xml文本，输出为最终的分类结果。首先通过预处理模块得到关系实例；接着是句法分析模块；然后是从关系实例和句法结构中提取特征，构建特征向量；最后是支持向量机（support vector machine, svm）分类及预测模块。本文使用的语料已经识别出蛋白质实体名称，在实验中我们主要关注至少存在两个蛋白质名句子，判断该句子中的蛋白质之间是否存在交互作用关系。如果一个句子中存在m(m2)个蛋白质，那么这个句子中包含有c2m个不同的蛋白质对。本文对每个这样的蛋白质对拷贝一个句子的副本，作为该蛋白质对的一个实例。实验使用的数据集就是由这些实例组成，例如，句子“the binding of htafii28p0 and htafii30p1 requires distinct domains of htafii18p2.”，表示一个存在蛋白质关系的实例，其中“htafii30”和“htafii18”是需要判断关系的两个目标蛋白质。2 特征提取和特征向量表示基于特征的蛋白质关系抽取方法的核心工作是特征的选取。选取特征的好坏直接影响最终的分类精度。为了发掘更多有效的特征，使用更加全面的信息，本文从上下文环境和句子的句法结构中选取多种特征。在从上下文选择特征的过程中不仅考虑了词法特征，还考虑了词距离特征，同时将词法特征在句子中的位置信息也加入到特征向量中。此外，还有两类句法特征也加入到特征集中，分别是依存图上的句子距离特征和谓词参数路径特征。2.1 上下文特征1）词特征(bag of words)。本文对词特征的选取范围进行限制，即从左起第一个蛋白质的前n个词，两个蛋白质之间的所有词，第二个蛋白质的后n词为止。经过多次实验发现，当n=5时效果最佳，所以在本文中将n赋值为5，把上述范围中去掉停用词之后的词作为特征。3）位置特征(positions)。词特征和n元词特征相对于两个蛋白质的位置信息也能够对蛋白质之间是否存在关系起作用。因此，如果这两类特征出现在第一个蛋白质之前，用“p1_left_特征”表示；出现在两个蛋白质之间，用“p1_right_特征”，“p2_left_特征”表示；出现在第二个蛋白质之后用“p2_right_特征”表示。4）具体位置特征(specific positions)。本文把词特征和n元词特征相对于两个蛋白质的具体位置也作为特征。定义如下：sp = n1_p1_特征, n2_p2_特征 | n1 = i - i1, n2 = i - i2, ii1-5, i1-1i1+1, i2-1i2+1，i2+5，i1和i2分别是蛋白质1和蛋白质2在句子中的位置，i是当前特征在句子中的位置。5）词距离特征(word distance)。两个蛋白质之间的距离越长(距离用间隔词的个数衡量)，存在关系的可能性越小，因此，蛋白质之间的距离被加入到特征集中。2.2 句法特征句法结构能够描述句子的句法和语义信息，不同的句法结构反映了句子不同方面的有用信息。本文主要从依存图和谓词参数结构中提取句法特征。1）句子距离特征(sentence distance)。依存句法结构是句子语义关系的有效近似，并且能够清晰地表达句子的主谓结构。如果两个蛋白质名能在一个简单句中出现，那么它们之间就很有可能存在关系。因此，如果依存图中两个蛋白质之间的最短路径上只有一个谓语动词出现，表示这两个蛋白质之间存在关系，则该特征值设为1。本文使用gdep依存分析器12输出依存图结构，如图2所示。图中实线表示边在两个蛋白质之间的最短路径上，虚线表示边不在最短路径上。2）谓词参数路径(predicate argument path)。谓词参数结构以图的形式表示，与依存分析类似，它表示词与词之间深层句法和语义关系。谓词参数结构中两个蛋白质之间最短路径上的不同子结构表达了不同的句法语义信息。因此，在最短路径上选择两类walk特征，分别是v.walk和e.walk11，加入到特征集中。从v.walk中可以直接得到两个节点（词/词性）的句法和语义关系。在e.walk中描述了一个节点和两个与它直接相邻的关系，当这个节点是一个谓词的时候，e.walk比v.walk更能反映句子的谓词.参数的信息。并且v.walk和e.walk中存在连续和不连续的情况，连续的walk更能反映词之间的直接关系。因此，在设置特征值的时候，给连续的e.walk设为3，连续的v.walk设为2，其他不连续的walk设为1。本文使用enju分析器输出谓词参数结构，如图3所示。图中实线表示边在两个蛋白质之间的最短路径上，虚线表示边不在最短路径上。2.3 特征表示上述特征中除明确说明特征值外，其余特征值都使用布尔值，即出现为1，不出现为0。为了清楚地描述特征表示，表1详细地描述了一个蛋白质关系实例的特征表示，根据这个表可以很容易理解上述特征的含义。词是语言的基本组成单位，词特征能够重现文本的语言表达信息，许多分类及关系抽取系统把它作为基本特征，能够得到较高的召回率。n元词特征丰富了词特征的表达，与词特征共同表达原文的语言描述信息。加入n元词特征能够有效地提高系统的性能（表3的第2组实验所示）。位置特征（f4+f5）与词法特征（f1+f2）的组合，共同表达了词法特征在句子中线性顺序，明确了语言的组织形式，能够有效地改善蛋白质关系抽取的性能（表3的第4组实验所示）。依存分析能够表达长距离的依存关系，句子距离特征有助于判断两个蛋白质在句法结构上的距离。谓词参数路径特征表达词与词之间的深层关系，在谓词参数路径上选择walk特征，并且根据不同的子结构分配不同的权值，能够有效利用各类子结构的优势，有助于蛋白质关系抽取性能的提高。表3中的实验结果表明，上下文特征可以全面检索原文的语言表达信息，得到了最高的r值64.1%，但p值相对较低。句法特征能够更准确地表达句子的句法和语义信息，在保持r值下降不明显的前提下，对p值有显著性的提高。结合上下文特征和句法特征能够利用句子不同层次的信息，有效地改善了蛋白质关系抽取的性能。4.2.2 与其他方法的比较表4是本文方法与其他方法在aimed语料上的性能比较。文献13是基于规则的方法5，文献9和文献11分别是图核和路径加权子序列核的方法。从表4中可以看出，与前3种方法相比，本文方法在aimed语料上的r值、f值和auc值都有所提高，p值达到了57.6%，仅次于文献11。文献10使用了多核和多分析器融合的方法，获得了较高的性能。使用本文的方法，f值为59.2%，与文献10只相差了1.6%。由此可见，本方法可以达到与核方法类似的效果，同时也避免了核函数的复杂计算。为了测试本文方法在生物医学语料库上的泛化性能，在bioinfer、hprd50、iepa和lll 4个ppi语料库上用同样的方法进行了实验。表5显示了本文方法与其他方法在5个语料上的性能比较。在5个语料上本文方法的性能较前3种方法有明显的提高。在hprd50、iepa、lll 3个数据集上，本文方法得到的f值较文献10有较大幅度的提高；在aimed和bioinfer语料上的f值较低，原因主要是这两个语料存在着大量的复杂句，这对分析器来说是一个很大的挑战；另一方面，这两个语料的正负例比例非常不平衡（如表2所示），也是导致结果较低的一个原因。5 结语本文使用基于上下文信息和句法信息的丰富特征进行ppi抽取，着重分析各类不同特征对ppi抽取的影响。上下文特征能够有效地表达原文信息，得到较高的召回率；句法特征有助于更好地理解句子的句法和语义信息，有助于提高ppi抽取的精确度。本文以svm为分类器，在5个公开的ppi语料上实验。结果表明，我们所选取的丰富特征有效地融合了不同层次的特征，覆盖了更加全面的信息，在ppi抽取任务中取得了较好的性能。参考文献:1zanzoni a, montecchi.palazzi l, quondam m, et al.mint: a molecular interaction databasej. febs letters, 2002, 513(1):135-140.2bader g, betel d, hogue c. bindthe biomolecular interaction network databasej. nucleic acids research, 2003, 31(1):248-250.3xenarios i, rich d w, salwinski l, et al.dip: the database of interacting proteinsj. nucleic acids research, 2000, 28(1):289-291.4bunescu r, mooney r, ramani a. integrating co.occurrence statistics with information extraction for robust retrieval of protein interactions from medlinec/ bionlp06: proceedings of the workshop on linking natural language processing and biology: towards deeper biological literature analysis. stroudsburg: association for computational linguistics, 2006:49-56.5fundel k, kuffer r, zimmer r. relex.relation extraction using dependency parse treesj. bioinformatics, 2006, 23(3):365371.6nielsen l a. extracting tein interactions using simple contextual featuresc/ bionlp06: proceedings of the workshop on linking natural language processing and biology: towards deeper biological literature analysis. stroudsburg: association for computational linguistics, 2006:120-121.7miyao y, saetre r, sagae k, et al. task.oriented evaluation of syntactic parsers and their representationseb/ol.2011-05-01. /anthology.new/p/p08/p08-1006.pdf.8bunescu r c, mooney r j. a shortest path dependency kernel for relation extractionc/ hlt05: proceedings of the conference on human language technology and empirical methods in natural language processing. strouds