潜在狄利克雷分配(LDA),目前使用最普遍的话题模型,被广泛应用于自然语言处理、图像分类、社会网络分析,等等 12, 13]。在LDA模型中,每个文档可以被看作是一个混合的各种话题,每个词的创造是由文档的主题之一。

图 1显示了LDA的图形化模型表示。(这里我们考虑平滑LDA。)方形的框架表示复制。有 D 文档在语料库, NgydF4y2Ba 话, K 的话题。在这个LDA模型,以下步骤生成一个文档。

画 θ 之前从狄利克雷: (1) θ ~ Dir ( α ) 。

为每一个词 w n ,选择一个主题 z n 从 多项 ( θ ) ,然后选择 w n 从 p ( w n ∣ z n , β ) ,这是一个多项式概率条件的话题 z n : (2) z n ~ 乘 ( θ ) w n ~ p ( w n ∣ z n , β ) 。

生成一个语料库的可能性 定义在以下方程: (3) p ( ∣ α , η ) = ∬ ∏ k = 1 K p ( β k ∣ η ) ∏ d = 1 D p ( θ d ∣ α ) × ( ∏ n = 1 NgydF4y2Ba ∑ z n p ( z n ∣ θ ) p ( w n ∣ z n , β ) ) d θ d β 。

在这个模型中, w n 完全可观测的。推理的隐藏变量通常采用吉布斯抽样( 14[]或变分算法 15]。由于LDA生成模型,有限的区别的能力在分类任务中,我们只使用它用于创建功能。

在LDA模型中,每个文档主题由后狄利克雷表示。这是一个用词频相比更低维表示。因此,在这种方法中,我们通过使用主题创建特征向量表示。

我们把蛋白质序列作为文本, K 即是单词。我们想用LDA模型捕捉潜在的主题信息。由于LDA模型不能直接使用蛋白质序列,我们首先需要将蛋白质序列转换为一种生物的语言,是他说的话 K 即。类似中国的句子,我们段氨基酸序列不重叠的 K 即单词之间没有空格。之后,LDA模型可以应用于序列。

所有的自然语言都有预定义的字典。然而,蛋白质序列都写在一个未知的语言对我们目前的状态,他的字不是划定。的任意组合字母任意长度可以是一个词。所以我们首先需要建立一个字典,这是市场细分的基础。因此,这种方法的整个过程包括三个步骤:(1)建立一个字典,也就是说,词集;(2)部分的蛋白质序列匹配的单词在字典里,也就是说, K 即;(3)运行LDA模型分段序列和创建特征向量。

我们已经尝试两个指标来确定单词在字典中包含。一个是词频,另一个是 t f - - - - - - 我 d f 价值。他们在以下定义。

在这种方法中,特征表示是完全不同于第一种方法。我们仍在使用 K - m的频率特性。而不是使用所有的 K 即在字典里,我们根据主题选择信息的信息。

功能还原过程也由三个步骤组成。前两个步骤是一样的 2.2,而第三步需要一定的策略选择。

实际上,词典建设可以被视为初始筛选词选择的过程。词典中的词的出现时间可以记录和组合特性集。在实验中,我们检查了这两种预测精度的使用频率和特性集 t f - - - - - - 我 d f 分别选词,发现频率比 t f - - - - - - 我 d f 在这项研究中(见表所示的结果 2)。因此我们进行第三步基于词典由词频的标准。

这里我们使用主题信息执行进一步的选择。我们检查的次数的话被分配到主题和设置一个阈值 米 。如果一个词不是至少分配给任何话题 米 时候,这个词就会被丢弃。通过这种方式,我们可以删除的话,要么是不寻常的单词或不特定的任何话题。

计算的时间主要花在序列分割和LDA模型。分割算法( 16)作为每个氨基酸。每一点,只保留最优分割的算法进行修剪,最少的部门到目前为止,和搜索词的匹配旁边的子序列点的单词在字典里。假设字典大小 年代 ,蛋白质序列的数量数据集 D ,平均序列长度 l ,文字的最大长度 米 匹配一个单词,要求字典的成本 O ( 日志 2 年代 ) 二分查找。因此,分割方法的计算复杂度 O ( D l 米 日志 2 年代 ) ( 米 = 3 在实验中)。至于LDA模型,假设有 K 话题,复杂性 O ( D K l ) 吉布斯抽样方法,它通过对参数估计和推断。和第二特征选择方法,选择单词的复杂性 O ( K 年代 ) 。

自 两已被用来作为生物模型研究T3SEs,最效应器,已确认。因此,我们收集的数据从这个物种。据我们所知,有一个283效应器,已确认,从 p .两pv。番茄菌株DC3000, p .两pv。两株B728a, p .两pv。phaseolicola菌株1448 a。然而,其中很大一部分是同源染色体,即序列相似度非常高。这是因为同源搜索发现小说效应器仍是主要手段。考虑到冗余的数据集将导致过高的分类器的准确性,我们消除了样品与序列相似度超过60%。通过删除冗余序列,我们得到一个积极的108个样本集。

的负面数据集提取的基因组 p .两pv。番茄菌株DC3000。我们排除了有关T3SS所有的蛋白质,以及假设的蛋白质。(注意,这仍可能包含一些未知的效应器。)然后我们选择随机从剩下的样本构成的负面,因为如果我们使用的所有数据集将太多的不平衡。表列出了数据集的数量 1。

分类器是使用最先进的监督学习机械、支持向量机,广泛用于生物信息学。我们的实现支持向量机采用LibSVM的2.8版( 17]。我们认为多项式、乙状结肠和RBF内核对RBF核函数的SVM和观察到的最好的分类精度。

我们用LDA模型在Matlab的话题建模工具箱1.4 [ 18]。在LDA,主题的数量对其性能有很大影响。搜索最优数量的主题是描述的部分 3.3。LDA模型中使用的其他参数设置如下: β = 0.01 , α = 50 / T ,在那里 T 是主题的数量,和迭代的数量是500。阈值 米 将40据统计的词出现。

多种措施被用来评估我们的方法的性能,包括敏感性,特异性,总精度( 助教 )。的敏感性和特异性可以定义真阳性的数量( TPs ),假阳性的数量( 帧/秒 ),假阴性的数量( fn )和真正的底片的数量( TNs )如下。我们定义 (7) 灵敏度 = TP TP + FN 特异性 = TN TN + 《外交政策》 。 这两个措施检查正确分类的能力积极的和消极的样本,分别。助教正确分类样本的比例相比的总大小的数据集,计算如下: (8) 助教 = TP + TN TP + 《外交政策》 + TN + FN 。

考虑到最大分泌或易位可能需要第一100个氨基酸( 19- - - - - - 21),在我们的实验中,前100个氨基酸。

主题的数量在LDA模型是一个关键参数,因为它直接影响模型的性能。困惑是经常用来评估LDA模型的性能。这措施的性能模型,它被定义为( 11]: (9) 困惑 ( D 测试 ) = 经验值 { - - - - - - ∑ d = 1 米 日志 p ( w d ) ∑ d = 1 米 NgydF4y2Ba d } 。

这种方法在测试数据的可能性减少单调;从而降低值表明更好的建模性能。

我们计算了数据集的价值困惑。图 2显示了隐藏主题的数量的困惑,从5到100。它可以观察到,困惑随越来越多的话题。主题从5到40的话题,困惑迅速下降。当话题的数量大于40岁的困惑几乎是常数。在我们的实验中,我们组的主题是50。

我们已经进行了一系列的实验来检查这两个特性降低方法的性能和比较其他四个方法。表 2列表的数量维度,总精度(TA),这六个方法的敏感性和特异性。缩写的方法和相应的描述如下: (1)

二聚体:使用所有的二聚体,没有功能降低;

从表 2,我们可以发现所有的六个方法获得总精度超过90%,这表明氨基酸模式是胜任不同的感受器和noneffectors。

在这项研究中,长 K 即没有分类的优势。二聚体方法具有更好的性能比像方法。尽管三聚物的方法获得的灵敏度为100%,其总比其他方法的准确性和特异性要低得多。这是因为其假阳性率很高。由于预测系统旨在提供一个可靠的预测效应候选人的结果,假阳性高速率是不允许的。

基本上,所有的新方法具有令人满意的性能。特征选择方法使用字典单词频率或选择 t f - - - - - - 我 d f 整体价值实现最好的特异性和更好的性能比原来的二聚物和三聚物的方法。它表明,词典建设和细分的策略是成功的蛋白质序列的分类。维度的数量220年这两个方法,包括20种氨基酸,50 150二聚体,三聚。频率比的测量 t f - - - - - - 我 d f 值,因为后者灵敏度较低。这可能因为 t f - - - - - - 我 d f 值更喜欢选择一些不寻常的话说,这并不有利于分类。

显然,该功能还原法我(星期五)最小数量的维度,但其精度相对较低。FRII 184维度,包括20个氨基酸,137二聚体,三聚。比二聚体三被丢弃,因为三聚的频率要低得多,只有少数人可以通过词选择的标准部分 2.3。实际上,更多的三不能提高我们之前提到过的准确性。

FRII达到好的结果,甚至比使用所有字典词。FRII的敏感性是2%高于频率的方法,和总准确性和特异性也相当或优于其他方法。这些结果表明,尽管主题空间分类是不够的,潜在的主题信息是有效的选择功能。