GENIA事件语料库包含复杂的宗教注释,嵌套和输入事件关系 51, 52]。珍妮亚语料库[ 53从Medline)由1000年的论文摘要。它包含9372句36114事件被识别。这个语料库提供的组织者BioNLP共享任务的参与者作为主要资源培训和评估和公开在线( http://www.nactem.ac.uk/aNT/genia.html)。

BioInfer(生物医学信息提取资源)( http://www.it.utu.fi/BioInfer)[ 54)是一种公共资源提供手动标注语料库和相关资源信息提取的生物医学领域。

语料库包含句子的抽象关系的生物医学研究的文章注释,命名实体和句法的依赖关系。语料库是带注释的蛋白质,RNA基因,发展的关系和作为一个资源信息提取系统及其组件如解析器和域分析。1100句的主体是由抽象的生物医学研究的文章。

基因调控事件语料库(GREC) ( http://www.nactem.ac.uk/GREC/)[ 55]由240 MEDLINE摘要,事件相关基因调控和表达已经被生物学家注释。这个主体的特殊性,不仅带注释的核心实体之间的关系,但也有其他重要的细节这些关系,例如,地点,时间,方式,和环境条件。

GeneReg语料库[ 56成对关系]由314 MEDLINE摘要包含1770表示基因表达调控生物事件模型 E。 杆菌。语料库标注兼容GENIA事件语料库在域和范围之外的词汇资源。

虽然不像事件全集,丰富的带注释的蛋白质交互全集可能考虑补充可用的训练数据。最相关的PPI的微光语料库[ 57]目的语料库[ 58),BioCreative PPI语料库[ 7]。

框架。为了获得从文本特征表示,有必要进行文本处理涉及一组常见的NLP任务,从句子分割和标记,词性标注,分块,和语言解析。各种文本处理框架支持这些任务的存在,其中以下脱颖而出:NLTK ( http://www.nltk.org/),Apache OpenNLP ( https://opennlp.apache.org/)和斯坦福CoreNLP ( http://nlp.stanford.edu/software/corenlp.shtml)(图 2)。

语法解析器。语法解析器树或图结构赋值给一个自由文本句子。这些结构在组织之间建立关系或依赖关系动词及其相关参数和有用的否定等许多应用程序检测和消歧。语法解析器可以分成三组:依赖解析器,相结构解析器,深度解析器( 61年]。依赖性解析器的目的是来计算句子的树形结构节点在哪里的话,和边表示词语之间的关系;短语结构语法分析器关注识别短语和它们的递归结构,和深度解析器表达更深层次的关系通过计算theory-specific语法/语义结构。的任务事件提取一些每个解析器的实现组织已经使用,如图 2。

的一个主要的要求一个好的事件提取系统是一个丰富的特性表示。大多数事件提取系统呈现出复杂的特征提取标记,句子,依赖解析树,和外部资源。表 1总结了这个处理的一般特征提取阶段,表明事件提取过程中使用它们。 (我)

口令功能捕捉特定知识对于每个令牌,如语法或语言特性,即词性(POS)和每个令牌的引理,基于拼写和特性(如存在大小写、标点符号、数字或特殊字符)( 42, 43, 62年- - - - - - 68年)和形态学信息,即前缀、后缀和字符字格( 42, 43, 64年, 67年, 69年- - - - - - 72年]。

有几种策略基于模式( 70年, 93年)和匹配规则。基于规则的方法通常遵循一些手动定义的语言模式,然后用额外的约束扩展基于单词形式和句法类别生成更好的匹配精度。这种方法的主要优势是,他们通常需要计算量小。基于规则的事件提取系统由手动定义的一组规则从训练数据或生成。例如,卡西利亚斯et al。 88年)提出一个策略基于Kybots(知识产生机器人),这是抽象模式检测实际概念实例和在文档的关系。这些模式定义在一个声明格式,它允许定义变量,关系和事件。Vlachos et al。 76年)提供一个特定领域的方法基于句法分析器的输出和标准语言处理(即阻止、词元化和词性(POS)标签,等),增强规则从开发获得的数据在一个无监督的方法,避免了需要使用显式带注释的训练数据。

在基于字典的方法中,一个字典包含触发单词与相应的类(事件类型)是用来确定和分配事件触发。兰德et al。 74年)提出了一个战略这种方法后,使用一组手动清洗词典和一个公式来计算每个特定事件触发字的重要性。这是必需的,因为同一个词可能与不同类型的事件( 66年]。例如,在09年BioNLP共享任务数据集( 51),令牌“过度”作为基因表达的事件触发约30%的事件,而其他70%的出现是积极或消极监管事件触发。

很多策略结合这两种方法。例如,勒明et al。 70年)提出一个策略基于规则和基于字典的方法的总和。首先,他们选择适当标记,POS标签和附近发生一种蛋白质提,然后从训练语料库中提取的启发式规则适用于识别候选触发器。最后,字典训练语料库的建立和包含触发词及其相应的类用于分类候选人触发器。模棱两可的触发类,类率最高的发生被选中。Kilicoglu和Bergler 93年)也提出了一个结合策略基于语言规则和syntax-driven方法的启发,使用字典基于触发器表达式从训练语料库收集。事件然后完全通过语法指定依赖试探法为基础,从触发dictionary-matching检测到的步骤。

基于模式的方法通常存在低召回率,自定义全面的模式需要大量的努力,因为最常见的模式是太死板捕捉语义/句法复述。

最近的和成功的方法来触发字检测是基于机器学习方法( 72年),大多数工作定义这个sequence-labeling问题。事件类型的定义,而另一方面,作为一个多级处理任务,候选人事件触发器分为预定义类型的生物医学事件之一。为了解决这些问题,提出了一些概率技术,使用,例如,隐马尔可夫模型(摘要),最大熵马尔可夫模型(MEMMs)条件随机域(crf) [ 94年, 95年),而支持向量机(svm)。

例如,周和他( 89年]提出治疗触发识别作为sequence-labeling问题和使用最大熵马尔可夫模型(MEMM)检测触发词。MEMM是基于概率的概念有限状态模型如嗯但由歧视模型假定未知值学习连接在一个马尔可夫链而不是被有条件地相互独立的。同样的,各种策略的基础上提出了条件随机域(crf) ( 42, 73年, 85年, 86年]。CRFs sequence-labeling问题已经成为一个受欢迎的方法,合理的主要是由这一事实CRFs避免偏见的标签问题出现在MEMMs [ 96年),但保留所有其他的优势。CRF与隐马尔可夫模型(摘要),是一个判别模型。所以CRFs用条件概率推理,这意味着他们最大化 p y ∣ x 直接, x 输入序列和吗 y 的顺序输出标签,与摘要,联合概率最大化 p ( x , y ) 。这种放松强烈独立假设需要学习的参数生成模型。

最近提议触发检测是基于支持向量机(svm)。支持向量机不遵循概率方法而是最大边缘分类器,试图找到最大的类之间的分离。这个分类器提出了非常好的结果,显示高于crf的泛化性能。然而,训练复杂的SVM模型可能需要过多的计算时间和内存开销。几个策略使用不同的支持向量机实现和内核。

一般的方法是分类初步候选人触发积极与否,基于一组精心挑选的特性和一个训练集带注释的事件。例如,Bjorne et al。 80年, 86年, 97年)提出了一个解决方案基于SVM-multiclass ( http://www.cs.cornell.edu/people/tj/svm_light/svm_multiclass.html)实现线性内核,探索优化的一个详尽的网格搜索 C 参数,最大化 F 分数在触发探测。以来在这项研究中只有线性内核使用训练集的规模和复杂性,由超过3万个实例和近30万功能,阻碍了应用程序的计算要求的替代品,即径向基函数内核。

除了纯粹的监督学习,这取决于带注释的数据的数量和质量,semisupervised方法也被提出。王等人。 65年)结合与大量的未标记数据带安全标签的数据时,使用基于语义丰富的表示特性(如走子序列特征和语法特征、等)和一个新的表示基于事件特征耦合泛化(EFCG)。EFCG策略产生更高级的特性是基于两种原始特征:class-distinguishing特性(CDFs)有能力区分不同类别和example-distinguishing特性(edf)擅长指明了具体的例子。EFCG生成一组新的特性通过结合这两种特性和考虑他们之间一定程度的关系。

不同的策略之后,马丁内斯et al .,谁提出了一个解决方案基于词义消歧(WSD)使用一个联合CRF-VSM(向量空间模型)分类器,输出的特点在哪里注册作为一个功能的CRF ( 73年]。这种方法分别显著提高每个方法的性能。

这些策略都是基于边的标识根据一组规则,可以手动定义从训练数据或生成。最基本的方法,我们发现MacKinlay提出的策略等。 85年),一组特定的手工编码的语法,支持命名实体注释等特定领域知识和词汇,为每种类型的事件定义。基本事件的一个简单的距离标准,安排最接近的蛋白质为主题的活动,而额外的标准需要更复杂的事件。例如,分配 主题参数绑定事件,最大距离触发事件(s),和可能的主题的最大数量是估计,和监管活动,除了最大距离,用于定义一些优先级规则 导致或 主题参数。

Kilicoglu和Bergler 93年]另一个基于规则的方法,识别事件的参与者和相应的角色(例如, 主题或 导致)主要是实现基于语法创建的事件触发表达式和事件参数之间的依赖关系的训练语料库。这种策略是基于斯坦福语法解析器( 98年),应用于自动提取事件触发器和相应的事件之间的依赖关系路径参数。这些路径是手动过滤,保留唯一正确和充分的。

勒明et al。 70年]遵循类似的策略,从训练数据生成模式列表使用依赖图的应用程序的语法解析器。

Bui et al。 99年]提出一个基于词典和最近的研究模式训练集的自动生成。在这工作,不到一分钟是必须的过程由约950人组成的训练集抽象在电脑上4 g内存,说明基于规则的系统的主要优势。不幸的是,尽管低计算需求,这种方法通常显示适度的性能而言,还记得,由于建模困难更复杂的关系和在定义规则概括的能力。

近年来,类似于触发检测,有明显倾向于使用机器学习方法方法的边缘检测任务。大多数作品都同意解决这个问题作为一个受监视的多类分类问题通过定义一个有限数量的边缘类。

我们可以看到在桌子上 3,大多数基于支持向量机的方法。古板的et al。 87年)提出了这样一个方法,将任务分成两个不同的分类问题:边缘检测两个触发器和边缘检测触发和蛋白质。为此一组带注释的实例是由一个训练集,如下:对于每一个事件中发现的训练集,注释列表构造边缘使用标签的组合相应的事件类和边缘类型(例如,绑定:主题)。使用这些注释中提取边缘,然后解决不平衡分类问题使用one-versus-rest线性支持向量机。Bjorne et al。 64年和王et al。 65年]遵循类似的方法,利用多类支持向量机两种边缘的注释:trigger-trigger和引发过敏反应的蛋白质。每个例子是归类为 主题, 原因,或 负表示两个节点之间的边的缺失。每条边预计独立,这样分类不受正面或负面影响其他边缘的分类。

辊和史蒂文森 68年评估一个类似的策略,使用一个多项式的内核。的分类关系是分三个阶段进行。第一个由基本事件的识别通过定义触发器和一个主题指的蛋白质;第二阶段旨在识别监管事件通过定义触发器和一个主题指从先前确定基本事件触发器;最后阶段试图确定附加参数。Hakala et al。 91年]提出一种reranking方法,使用第一个支持向量机分类器的预测评分和事件结构信息作为输入一个新的SVM模型专注于优化排名预测的边缘。这个新模型、多项式和径向基内核进行评估,显示系统的整体精度的改善。

周和他(用不同的策略 89年),他提出了一个方法基于一个隐藏的状态向量模型,称为HVS-BioEvent。虽然这种方法较低的性能基本事件,系统基于SVM分类器相比,它实现更好的性能在复杂事件由于层次结构隐藏状态。这个结构确实更适合复杂事件提取因为它可以自然模型嵌入结构上下文的句子。

兰德et al。 74年)提出了一个方法,使用二进制svm并行流程每个类型的事件。所有的预测都聚集在一个集成的图,运用启发式后处理技术来确保全球一致性。线性和径向基函数(RBF)内核进行评估通过5倍交叉验证进行参数优化。兰德等人做了一个有趣的探索对特征选择;他们应用完全自动化的特征选择技术旨在确定最相关的特征从一个大的一个子集组初始的特性。分析结果表明,多达50%的所有功能可以删除而不丧失超过百分之一 F 分数,同时创造更快的分类模型。

在文献中,我们可以发现许多研究把ML-based与基于规则的和基于字典的策略。这种组合往往是表现在两个方面:(1)在一个整体战略,独立执行每个方法和最终的输出是通过结合每个方法的结果,通过规则或通过使用一些分类或回归模型;和(2)堆放策略,一个方法的输出作为输入用于下面的一个执行过滤和精炼过程产生更准确的最终输出。

第一种方法的一个例子,范教授等。 One hundred.)提出了一个混合系统,结合基于规则和基于机器学习方法。在这种方法中,预测事件的最终名单是由事件的组合通过基于规则的方法提取基于句法和依赖图和提取通过SVM分类器。在第二种方法中,几项研究[ 68年, 80年, 97年)使用了一个基于规则的后处理步骤细化生成的初始结果图ML-based分类器通过消除重复的节点和分离他们的边缘有效组合基于句子的语法和参数类型的条件组合,考虑各种事件的特征和特性。

解决潜在的层叠的错误源自上述两阶段方法,一些作者提出的共同预测触发器、事件参与者和连接边缘。里德尔et al。 101年]和Poon Vanderwende [ 102年基于马尔可夫逻辑)提出了两种方法。马尔可夫逻辑是一个扩展的一阶逻辑概率权重是附加到每个条款( 103年]。而不是使用在事件实体关系结构,为在图表示 4,里德尔等人表示这些标签标记的句子之间的联系和应用链接标记序列预测。正如作者所言,这表示性质的简化了马尔可夫逻辑网络的设计(MLN)。Poon Vanderwendle,另一方面,使用马尔可夫逻辑模型依赖边缘获得斯坦福依赖解析器。结果MLN因此共同预测如果令牌是一个触发词,相应的事件类型,这令牌的依赖边缘连接(主题或事业)事件参数。这允许MLN使用一组简单的特性,导致计算效率的解决方案在不牺牲的预测性能。作者使用启发式修复两种典型解析错误,即命题短语连接和协调,表明这对最终结果有重要影响。

里德尔和McCallum 104年)提出另一种方法在三个子问题的分解:一个用于提取事件触发,即将离任的边缘,一个事件触发和传入的边缘,一个用于蛋白质绑定。三个子相结合的优化方法通过对偶分解( 105年),三种类型的约束执行实现联合预测模型。令牌代表之间的联系通过一组二进制变量在里德尔et al。 101年]。

McClosky et al。 98年)提出了一种不同的方法,事件结构转化为事件触发和事件参与者之间的依赖关系。各种依赖解析器训练利用这些依赖关系树的特征以及特征提取从原来的句子。在识别阶段,解析结果转换回事件结构和排名由最大熵reranker组件。

Vlachos和克雷文 106年应用基于搜索结构化预测框架(SEARN)提取问题的事件。这种方法分解事件提取为一组共同学习分类器分类任务,每个模型可以结合特性,代表着由其他的预测。此外,损失函数包含所有预测,这意味着模型共同学习和一个结构化的预测。对于这个特定的任务,模型训练分类每个令牌作为触发与否和分类每个可能的一对trigger-theme和trigger-cause一个句子中去。

共享任务定义的一个子集九生物分子事件从GENIA事件本体,分类在三种不同程度的复杂性:基本事件,绑定事件,和管理事件。完全解决基本事件是最简单的,因为这些只需要规范的一个主要论点。五个类型的事件进行分类: 基因表达, 转录, 蛋白质分解代谢, 磷酸化,和 本地化。 绑定事件,另一方面,需要至少两个参数的检测。最后, 监管事件,包括 负和 积极的监管,是最难完全指定,因为这些涉及另一个论点的定义,这可能是一个实体或另一个事件,要求递归结构的识别。

表 5总结了性能通过最具代表性的策略解决的核心事件提取子任务(任务1)。最好的成果在第一版BioNLP-ST是通过机器学习技术,制定引发的问题和边缘检测不同的多类分类问题,解决了使用线性支持向量机分类器( 86年]。使用相同的方法,古板的et al。 87年]报道的改进在这些结果通过添加一组触发器和蛋白质之间的最短路径的特性的边缘检测问题。从表中可以观察到,绑定事件获得了相当大的改进,增加了12个百分比在回忆和3点精度。

2011年BioNLP-ST,数据集被扩展到包括全文的文章,但抽象集合用于第一版是为了维护测量两个版本之间的进展。最好的结果在第二版,一个 F 57.46%的分数只考虑抽象时,获得了《浮士德》系统。这对应于一个大幅增加四个多百分点过去最好的系统,带来的改善识别简单的事件,但特别是从一个更好的识别复杂的监管活动,增加超过11个百分点的精度和召回的3点。

浮士德系统由一个堆叠的组合两个模型:斯坦福事件解析器( 98年)是用于构建依赖树被用作第二个额外的输入特性模型,马塞诸斯州大学的模型( 104年]。马塞诸斯州大学的模型的主要区别是,它执行联合预测的触发器,参数,和事件结构,因此克服层叠的错误发生在共同管道的方法,例如,一个触发器不正确预测在第一阶段( 111年]。在这个模型中,事件提取分为更小的简单的问题,解决了单独的子问题,每个子问题呈现一组添加到一个目标函数的惩罚。最后的解决方案是通过迭代优化的处罚,直到所有个体解决方案是一致的。单独使用时,马塞诸斯州大学的模型实现第二个表现最好的结果在这个版,是表现最佳的系统在考虑全文。第三版,BioNLP-ST集中在模拟一个更现实的场景。出于这个原因,一个新的数据集构建只使用最近的完整的文件,以便提取的信息代表着最新的知识领域。不幸的是,前两个版本中使用的抽象集合(BioNLP-ST 2009和BioNLP-ST 2011)被撤的官方评估和全文收集只用于2011年版对应数据集的一小部分用于这个版本,所以很难比较与先前的结果和衡量社会的进步。

在这个最新版共享任务的表现最佳的系统EVEX [ 91年和t恤 97年]。t恤,UTurku进化系统也主要是基于SVM分类器,介绍了自动注释计划学习系统,获取特定于任务的事件从训练数据规则和约束。反过来,EVEX是一个组合系统,需要输出预测的t恤并试图通过应用reranking减少假阳性事件分配一个数值分值和删除所有事件定义的阈值以下。对于这个reranking, 年代 V 米 r 一个 n k 是用一组特性基于信心分数(即。,maximum/minimum trigger confidence and maximum/minimum argument confidence, among others) and features describing the structure of the event (i.e., event type of the root trigger and paths in the event from root to arguments, among others). This reranking and filtering approach provided a small overall improvement, achieved through a better precision in the definition of regulation events, which constitute a substantial fraction of the annotated data [ 105年]。

BioSEM [ 99年基于模式),一个基于规则的系统自动源自注释事件也取得了很高的性能结果,只有边际差异上面描述的机器学习方法。BioSEM学习模式的事件触发器及其参数之间的关系在三个不同层次:定义块,短语和从句。值得注意的是,这个系统呈现明显比ML-based系统更精确,特别是考虑到简单和绑定事件改善超过七个百分点。在简单的情况下事件这是伴随着减少召回,绑定事件的这种基于规则的系统实现最好的结果的差异在百分之六以上 F 分数。这些结果表明,尽管毫升方法仍然产生最好的泛化,基于规则的系统可以用更好的精度和近似结果进一步表明,这两种方法的结合。

表 6显示BioNLP-ST Task 2的结果,由二次事件参数的识别。这些次要参数取决于类型的事件,包括 位置参数(例如, AtLoc或 ToLoc),定义一个事件的源或目标 网站参数(例如, 网站或 Csite)表明领域或地区更好的指定主题或事件的原因。这个子任务的设置版本之间的变化,不仅在术语使用的数据集,但也的网站预测作为次要参数。这意味着表中所示的结果不具有直接可比性,即最后一版网站的挑战不同的蛋白质修饰和调控事件也会考虑。然而,这些结果包括供参考。

考虑抽象的分析,表中显示了一个明显的改善结果通过第一和第二版本的执行系统。更有趣的是,有相当大的区别的成果全文和摘要的结果。这是一个迹象表明,正如所料,使用的语言来描述事件要复杂得多的主体文章,详细指定事件,比抽象。此外,事件与可接受的水平的预测精度,召回是低得多,特别是在全文。

表 7显示了任务3中表现最好的系统,相应的否定的识别和猜测。在第二版只有两支球队参加了这个任务,都呈现在2009年的最好成绩的一个重要改进(ConcordU09 [ 84年与UTurku []), 64年, 77年显示出更好的性能在提取否定事件,和ConcordU11 93年)表现出更好的性能在提取推测事件和更好的整体结果的全文。可以直接看到从较低的精度和召回率,这个任务更加困难比二次参数的提取。虽然数据集不同,防止直接比较,结果实现了全文的最后一版的任务类似于先前的结果。