文摘

DNA和蛋白质之间的相互作用对生命体的发展是至关重要的。以前的许多研究在计算机识别dna结合蛋白质(论文)通常包括特征提取alignment-based(伪)position-specific得分矩阵(PSSM),导致有限的应用程序由于其耗时的一代。很少有研究关注的应用pretrained语言模型的规模演化的主要的识别。为此,我们提出全面深入比较研究alignment-based PSSM规模和pretrained进化建模(ESM)表示在类似领域的分类。比较是由从PSSM中提取信息和ESM表示使用四个统一平均操作和执行各种功能选择(FS)方法。实验结果表明pretrained ESM表示优于PSSM-derived特性在一个公平的比较视角。pretrained特性表现值得广泛应用在硅片的面积识别以及其他类似功能注释的问题。最后,它也证实,一个计划通过聚合各种训练FS模型可以显著提高论文的分类性能。

1。介绍

DNA结合蛋白(论文)可以绑定和与DNA分子在有机组织,涉及不同的细胞过程,如DNA复制、DNA修复、修改和转录调控。DNA和蛋白质之间的相互作用具有重要意义的基因研究和开发活体(1]。早期检测dna结合蛋白质实验主要采用滤波器结合化验(2),遗传分析(3与DNA微阵列[],染色质免疫沉淀反应4),和x射线(5]。这些方法可以提供详细的图片为准确识别类似绑定;然而,他们通常是昂贵和费时的。为了避免这个缺点,许多研究都集中在发展有效的机器学习方法识别dna结合蛋白质。

准确的识别主要使用机器学习方法是紧密耦合的精确的信息提取与蛋白质结构和序列,分别对应于基于结构的建模和基于预测。前者通过提取高分辨率的结构信息,如溶剂可及性、扭转角,地图和联系6- - - - - -8)可以输出预测比序列预测更高的性能,但它的主要缺点是局限于一个相对少量的可用的三维结构以及带注释的功能。相比之下,只提取序列的序列预测特性更适合大规模数据集建模。最近,Zhang et al。9)设计sequence-level特性组成的伪氨基酸组成(PseAAC),伪position-specific得分矩阵(PsePSSM) PSSM-transition概率组成(PSSM-TPC),等等。邹et al。10)利用多尺度连续和不连续的四种类型的特点,描述符(MCD) [11),规范化Moreau-Broto自相关(NMBAC) [12],PSSM-AB [13],PsePSSM [14]。胡锦涛et al。(15)提取特征通过计算AAC、PsePSSM PsePRSA, PsePPDBS。这项研究由Zhang et al。16)集中在四个不同的特点:减少序列和索引向量(RS), PseAACs, PSSM-auto交叉协方差变换(PSSM-ACCT)和PSSM-discrete小波变换(PSSM-DWT)。作为总结,信息提取序列预测主要包括理化性质等特性(类似17,18),(伪)AAC (19,20.),预测二级结构和溶剂可及性18,21],PSSM [21- - - - - -23),他们的各种变化,也包括大部分的特性采用我们的以前的工作24]。在这些特性中,PSSM,生成的序列alignment-based表示PSI-BLAST [22),是最具代表性的一个相对于其他类型的特性。预测方法是否基于结构或序列,PSSM已广泛采用分类类似任务由于其潜在的进化剖面具有优良的性能。除此之外,它还被广泛接受为结构生物信息学的主要序列表示在各领域,包括二级结构的预测(25),溶剂可访问性(26,27),接触地图(28,29日],无序地区[30.),dna结合蛋白(9,24),和功能网站(31日),这些只是其中一部分。

然而,PSI-BLAST项目的运行在一个长蛋白质序列越来越耗时由于越来越多的序列在NCBI NR数据库(nonredundant蛋白质序列数据库)。这可能大大限制了应用程序的预测由于雄心勃勃的类似信息提取过程如果PSSM特性考虑在内。近年来,随着无监督pretrained的流行语言建模领域的自然语言处理(NLP) [32)、蛋白质语言建模针对进化的规模也出现在计算生物学和生物信息学领域,如ProtTrans [33],MSA变压器[34],ESM-1b [35]。这些pretrained语言模型(plm)训练横跨数百万蛋白质序列进化的多样性学习一些生活语言的语法以及蛋白质的结构和功能34,35]。是确认结果pretrained表示编码信息的二级和三级结构,可以确定使用线性预测(35]。与传统alignment-based相比进化PSSM等比例模型,这部小说pretrained语言建模导致很大的进步在蛋白质结构预测和联系地图没有多重序列比对,从而绕过了昂贵的数据库搜索(33,34]。

研究人员已经很少注意到应用程序的plm主要的识别。这项工作的目的是提供全面比较分析alignment-based和pretrained序列表示。我们设计四种功能通过使用不同的平均操作PSSM和ESM-1b表示在一个统一的方案。接下来,表演的特性有关PSSM和ESM-1b表示首先验证在6个主要特性集没有特征选择(NFS),然后研究了利用各种特征选择方法的importance-based特性排名。由此产生的特征子集优化前进一步减少特征选择阶段执行wrapper-based特征选择使用递归特性消除(RFE)策略。最后,一个仅仅是通过构造的组合获得的所有优化分类模型在不同特征选择阶段。正如预期的那样,实验结果表明,该ESM-type特性通常比PSSM-type特性。此外,与线性支持向量机内核(LinSVM)和逻辑回归(LR)是两个importance-based特征排序方法中最好的方法。提出整体模型基于特征选择阶段的所有分类模型优化大大提高了预测性能的独立的测试集。

2。材料和方法

2.1。基准数据集

按照我们以前的工作(24),dna结合蛋白质(菲律宾)序列模型训练和特征选择提取的蛋白质数据库(PDB) [36通过搜索mmCIF关键字”DNA结合蛋白。“整个菲律宾集删除链的长度小于50和性格的“X”随后过滤与CD-HIT [37)以25%的序列的身份。进一步过滤使用CD-HIT 25%身份对独立集PDB186 [24]。这些措施导致的一组808个dna结合蛋白质序列与彼此分享25%的身份,独立设置PDB186的论文。另一方面,随机选择了808 non-DNA-binding蛋白质的序列存入PDB 2018年1月和过滤后用CD-HIT PDB186 25%身份独立集。最后,一个数据集,称为PDB1616,创建包括808论文和808 non-DBPs,这与彼此分享25%的身份和PDB186独立数据集。

这组新的PDB1616用于适合分类器和执行各种特征选择方法。然而,PDB186 93论文和93 non-DBPs组成的数据集,已广泛采用组作为一个独立的盲人测试的研究小组(1,38- - - - - -43),也用于这项工作来评估各种特征选择模型并比较性能与其他基线有关dna结合蛋白质的预测方法。PDB PDB1616 id和PDB186补充表中列出S1和表S2,分别。

2.2。特性表征

全面调查的特征表示dna结合蛋白质的鉴定,我们专注于两个代表无监督模式,即。基于多重序列比对,position-specific得分矩阵(MSA)和基于pretrained蛋白质序列表示的语言模型。

2.2.1。Position-Specific得分矩阵

一个position-specific得分矩阵(PSSM)是一个 矩阵, 在哪里代表残留的分数作为氨基酸突变类型 在一个进化过程是蛋白质的序列长度。在我们的实验中,使用乙状结肠函数归一化形式,也就是说, ,最终采用作为一种蛋白质的特性矩阵表示。生成的所有蛋白质的PSSMs执行PSI-BLAST程序(22]blast-2.10.1 +三个迭代和一个值为0.001与Swiss-Prot RefSeq (NCBI的参考序列数据库),2020年6月被释放。这些序列数据库Swiss-Prot RefSeq导致两个表示矩阵,分别PSSMS和PSSMR表示。

2.2.2。ESM-1b

最近,越来越多的兴趣发展self-supervised学习方法对蛋白质序列表示,称为蛋白质语言建模发展的规模,归功于伟大的成功领域的自然语言理解。当et al。35]提出进化规模建模(ESM)通过self-supervised学习培训深上下文语言模型的变压器(44)结构基于2.5亿年860亿个氨基酸在蛋白质序列生成的进化的多样性。代表pretrained蛋白质语言模型,提出由当ESM-1b et al。35包含生物属性信息的表示和残留作为端到端之间的相关性的预测模型,该模型可以实现地图没有包含传统的接触特性,比如PSSM [35]。ESM-1b优于所有测试单序列蛋白质语言模型,包括UniRep [45)、磁带(46],SeqVec [47),LSTM,变压器,在一系列结构预测任务。此外,一个专业ESM版本预测变量的影响,称为ESM-1v,使有效zero-shot预测功能的序列变化的影响。

与PSSM相比,我们提取residue-level序列表示ESM-1b模型生成的所有蛋白质序列在训练集和测试集视而不见。由此产生的序列表示,命名为ESM,是一个 矩阵如下: 一个行向量( )在ESM向量的矩阵是指上下文表示序列中的残留。

2.3。特征提取

蛋白质的上述表示矩阵,即。,PSSMS, PSSMR, and ESM, are all residue-level representations. However, it is required to further extract sequence-level feature representation in order to investigate the prediction problem of DNA-binding proteins. Given a residue-level representation 的形状 ,在哪里 和 PSSMS PSSMR和 和 ESM的矩阵也可以表示为 ,在哪里 是表示向量的吗残留在蛋白质序列。注意,PSSM-type之间有不同的尺寸( )和ESM-type ( )表示矩阵。比较PSSM-type和ESM-type特性在一个统一的框架中,我们只是简单地设计四类sequence-level特性表示使用平均操作,包括平均表示所有的残留物, - - - - - -分离残留,与特定的氨基酸残基类型和residue-residue相关性。

2.3.1。平均表示所有Residue-Level特征向量

平均sequence-level表示在所有residue-level特征向量定义如下: 命名为PSSMS_Avg, PSSMR_Avg, ESM_Avg什么时候分别是PSSMS PSSMR, ESM。这提取的结果sequence-level特性。

2.3.2。平均表示 - - - - - -分离残留

所有残留在序列可分为多个子集组成的残留与给定 - - - - - -分离序列的距离, 。的平均表现 - - - - - -分离残留的定义是这些子集的平均向量如下: 在哪里 是残留在计算开始, 表示向量子集的特征向量的个数 表示矩阵的 。这提取的结果sequence-level特性。

2.3.3。表示平均二十种氨基酸

同样,整个所有残留物可分为20个子集对应20标准氨基酸类型。一般表示在与特定的氨基酸残基类型被定义为这些子集的平均向量如下: 在哪里的氨基酸类型吗残留物,代表一个类型的20个标准氨基酸,和表示氨基酸的残基类型 。这提取的结果sequence-level特性。

2.3.4。平均表示Residue-Residue相关性

从PSSM在先前的研究特征提取,伪position-specific得分矩阵(PsePSSM) [48),旨在获取订单信息已经广泛应用于许多函数序列预测领域,如人类蛋白质亚细胞定位(49),预测药物相互作用[50),和膜蛋白类型的识别51),这些只是其中一部分。在PsePSSM计算之后,我们定义residue-residue相关性的平均操作如下: 在哪里代表了两个向量的点态乘法表示的序列距离手动设置来计算两个残基之间的相关性。从这个提取步骤,生成的特征的数量鉴于 。

如表所示1有完全特性集的特性通过整合四类,即:,580 features named as PSSMS_All and PSSMR_All, respectively, for PSSMS and PSSMR representations with 和37120年特性命名为ESM ESM_All表示 。

2.4。特征选择和分类器

在与数量有限的样本情况,但大量特性,分类器可能会面临大量的计算成本和可怜的分类性能。特征选择可以是一个可选择的解决方案来降低特征空间的维数删除冗余特性和提高分类性能。所有上面提到的特性集使用特征选择方法进行了进一步的研究,包括过滤、嵌入和包装方法。

2.4.1。基于过滤器特征选择方法

过滤方法措施之间的关系特征和分类标签。没有分类器算法利用基于过滤器功能,通常需要一个打分函数。我们选择特性方差(52)、卡方统计(Chi2) [53),和最大信息系数(MIC) (54在这个比较研究]代表基于过滤器的方法。

作为一个典型的和简单的过滤方法,可以测量功能重要性根据其特性差异,在低方差的特性意味着所有特征值的一个小差异。同时,可以利用Chi2检验变量之间的独立性。同样,麦克风,能够测量特性和标签之间的线性或非线性关系,具有更好的性能比互信息(MI)。

2.4.2。嵌入式特征选择方法

嵌入方法的目标是选择那些具有重要意义的属性预测合适的机器学习模型。然后排序的特性功能输出预测获得的重要性,从整个删除或无关紧要的,无法分辨特性特性集由于缺少足够的贡献预测。我们选择逻辑回归(LR),线性支持向量机(LinSVM)和随机森林(RF) (55作为代表预测生成功能重要性值。LR和LinSVM模型特征的重要性可以通过线性组合系数不同的特性。此外,随机森林计算impurity-based特性的重要性。

一个特征子集也可以通过拟合线性模型与一个额外的正则化项。代表正规化方案,套索算法(56)使用L1范数估计稀疏系数的特性,可有效减少的特性给出的解决方案是相关的。此外,另一个正则化方法使用L2范数和稳定的优势,被称为岭回归(56),通常选择所有功能。作为替代,ElasticNet结合这两个正则化方法使用L1和L2规范。这种组合允许学习稀疏模型维护几个非零权重如套索和山脊的正则化性质。

2.4.3。Wrapper-Based特征选择方法

wrapper-based特征选择的目标是寻找一个优化特征子集伴随着学习估计量的训练过程。代表搜索策略,消除递归特性(RFE)方法是选择一个子集被递归地修剪最重要的特性从当前特性集。这个过程是递归地反复修剪上设置所需的特性。在实践中,我们选择RFECV scikit-learn平台(57)执行RFE算法交叉验证的方式来找到最优的特性。

2.4.4。分类器

的性能特性表示实际上是加上一个估计量。作为比较研究特性表征问题的识别dna结合蛋白质,我们只是检查几个传统分类器的性能在scikit-learn平台发布(57),包括高斯朴素贝叶斯(GNB), - - - - - -最近的邻居(资讯)58),决策树(DT) [59),逻辑回归(LR)、支持向量机(SVM) [60),随机森林(RF) (55),梯度提高决策树(GBDT) [61年),和极端的梯度增加(XGB) [62年]。

支持向量机(SVM)是一种二进制分类模型,针对发现的最大分离超平面正负样本。它实现了非线性分类利用非线性内核而不是线性内核。GNB分类器计算给定实例的概率(例子)属于某个类的贝叶斯定理和“幼稚”独立假设的两个特性(58服从高斯分布。然而,输出通过搜索一个实例的预测 - - - - - -最近的邻居从训练集。作为一个广义线性回归分析模型,逻辑回归(LR)也计算的概率描述可能的结果,使用物流功能建模。决策树(DT)旨在创建一个模型通过学习简单的决策规则推断从数据功能。随机森林(RF)是一个整体的多个决策树由引导从训练集样本与替代。GBDT泛化的增加任意函数可微的损失。XGBoost (XGB),作为替代GBDT算法的实现,介绍了正规化和显示优越的性能在许多问题在各种数据挖掘的应用。

2.5。实验步骤和绩效评估

在这项研究中,我们设计一个统一的程序上面的基准数据集,针对比较PSSM和ESM特性识别的dna结合蛋白质。整个实验步骤的特征选择过程总结如下。

2.5.1。实验步骤

步骤1(数据准备)。任何序列PDB1616训练集和测试集PDB186首先表示为一个特征向量根据六个特性集,即。,PSSMR_Avg PSSMR_All PSSMS_All、PSSMS_Avg ESM_All, ESM_Avg。然后,所有的训练集的每个特性值转换使用极大极小正常化,导致功能范围从0到1。

步骤2(交叉验证)。我们执行了5倍交叉验证基于训练集的一些特征选择在哪里检查。当选择一个子集,对整个训练集训练一个分类器,然后应用于预测测试集。分类质量的培训或测试阶段是评估使用精度(ACC),马修的相关系数(MCC),灵敏度(SN)和特异性(SP)。

步骤3(特征选择程序)。调查整个设计的特性集后,我们检查两个阶段的特征选择方法。第一阶段是选择一些高级功能基于功能重要性排名由几个过滤器和嵌入方法。然后,我们进一步优化特征子集在第二阶段通过使用wrapper-based特征选择方法,称为递归特性消除与交叉验证(RFECV)。

2.5.2。绩效评估

基于真阳性的性能指标(TP),真阴性(TN),假阳性(FP),和假阴性(FN)是用来评估分类模型。以下四个指标,即。,accuracy (ACC), Matthew’s Correlation Coefficient (MCC), sensitivity (SN), and specificity (SP), are included in this study.

3所示。结果与讨论

3.1。没有特征选择的性能比较

表2显示了八个基本分类器的性能比较(GNB资讯,DT, LR,支持向量机,射频,GBDT,和XGB)使用六种功能集,包括PSSMR_Avg PSSMR_All, PSSMS_Avg, PSSMS_All ESM_Avg, ESM_All。结果训练集PDB1616生成基于5倍交叉验证(5简历)。然而,测试集上的预测结果PDB186报告通过应用安装在整个训练集的分类模型。此外,我们只是利用缺省参数基准分类器。如表所示2,它可以观察到,与高斯核支持向量机(SVM)通常达到最好的预测结果在六个特性集相比,与其他七个基准分类器。特别是,ACC SVM的测量一直是最高的交叉验证的结果对所有六个特性集。几乎与此同时,支持向量机对PDB186执行最好的测试除了PSSMS_All中排名第三。

此外,在方面的特性方面,ESM表示的性能比PSSMR和PSSMS而后者两个PSSM表示如预期接近小ACC的区别。例如,支持向量机的性能得分PSSMR_All和PSSMS_All通过ACCs的71.47%和72.77%,分别在ESM_All, ACC 5简历上下文中的值是78.9%。测试集上的预测,ESM表示还显示显著优越性能相比PSSM表示。结果,我们可以得出一般结论,ESM表示有识别能力更强的dna结合蛋白质比PSSM表示上下文中的训练集和测试集。

最后,我们还比较的差异平均表示residue-level特征向量和所有设计功能。虽然有一定的差距的数量特征这两个功能类别,我们发现的差距很小,控制在1%左右。这表明所有residue-level原始特征向量的平均表示从ESM或PSSM交叉验证与上下文中的所有设计功能。少量的特性用于平均表示可以帮助减少内存消耗和计算时间在训练阶段。这一发现也说明必要性对整个特征集进行特征选择,大量的特性,这是承诺降低计算成本,提高dna结合蛋白质的预测性能。

3.2。基于功能特征选择的重要性

由于与高斯核支持向量机的优越性已评估的训练数据集,我们选择与高斯核支持向量机作为基分类器训练分类模型和执行各种特征选择方法的比较实验。此外,由于小数量的特性,两个特性集(只有20特性),PSSMR_Avg PSSMS_Avg,不再被认为是有关特征选择在当下比较实验。

图1显示了基于功能特征选择结果的比较重要性排名由三个基于过滤器的方法(方差、卡方统计(Chi2)和最大信息系数(MIC))和三个嵌入式方法(逻辑回归(LR),线性SVM (LinSVM)和随机森林(RF))。为此,首先,所有功能在任何组PSSMR_All PSSMS_All, ESM_Avg, ESM_All按使用上述六个功能排名排序的方法。然后,特征子集组成从10%到80%的步长为10%排序特性集的调查和评估执行高斯核函数的支持向量机分类器的训练集,图1显示了块ACC值随着最高比例的特性的四个特性集,按上面的六个特征排名排序方法。

总的来说,增加的比例特性,结果所有特征选择方法逐步方法的性能通过基线的任务,即。高斯核函数的SVM使用完整的特性集没有特征选择(NFS)。它可以很容易地观察到嵌入式特征排序方法(LR、LinSVM和RF)执行比基于过滤器的方法(麦克风、方差和Chi2)。此外,LR和LinSVM排名方法是两个最好的特性,和LR执行相对比LinSVM在大多数情况下。最后,在特性集PSSMR_All, PSSMS_All, ESM_Avg, ACC值最高的LR和LinSVM都达到20%或30%的特性,但ACC ESM_All只是显示了一个下降趋势曲线ACC当最高的10%的功能选择。这意味着ACC得分时可能会提振特性的百分比将不到10%。为ESM_All实现更好的结果,我们进一步调查比例从1%到9%的步长1%,执行importance-based特征选择实验。ACC分数排名基于六个特征方法如图所示2。

结果,对于ESM_All使用不到10%的特性,LR和LinSVM仍然实现ACC分数最高的如图所示从1%的功能有增加的趋势,然后减少趋势4%或5%的功能。最后,在四种类型的特性集PSSMR_All PSSMS_All, ESM_Avg, ESM_All,达到最优结果在20%的情况下使用LinSVM特性,功能使用LR 30%, 20%使用LR特性,分别使用LR和4%的特性。此外,其余的特征选择方法麦克风,Chi2,和射频显示类似的性能,而方差选择的结果是,最糟糕的甚至把基线的任务。

总的来说,获得的结果利用特性集ESM_All和ESM_Avg显著优于PSSMR_All PSSMS_All。在我们看来,这主要是由于这一事实特征的数量远远超过前表示,后者表示。相当比较ESM-type PSSM-type特性,我们进一步选择相同数量的特性从上面的四个特性集来检查当前两个最优特性的性能排名LinSVM和LR的方法。

PSSMR_All以来的数量特征和PSSMS_All都是580年,我们调查一些情况下使用100,200300年、400年和500年公平比较高级特性实验四个特性集。如图3,我们可以观察到,大多数的结果ESM表示仍远比PSSM表示当相同数量的特性用于训练模型。关于特性集PSSMR_All PSSMS_All, LR和LinSVM显示类似的性能,而在ESM_Avg ESM_All, LR特征选择方法与LinSVM相比更优越和稳定。因此,它是相同的结论,ESM表示比PSSM表示性能优越,这再次证实了一个公平的比较使用相同数量的特性。

最后,我们使用不同的regularizers也表现三种嵌入式特征选择方法基于线性模型,即。拉索、拉索、LassoLars(模型拟合与最小角回归),和ElasticNet。这些FS方法可以直接导致特征子集根据稀疏系数的线性模型。如表所示3,选择特性的数字上面regularizers都减少了很多与特性的数量相比没有特征选择(NFS)。此外,它再次证实,ESM表现优于PSSM表示如果采用相同的FS。最大的特性集ESM_All,基于5简历分类性能达到最好的套索方法选择367特性。最有可能的是,这是由于大量的功能设计ESM_All特性集。然而,这是一个小比最优结果通过importance-based特性排名方法LR使用4%的特性。

3.3。结果与使用RFECV Wrapper-Based特征选择方法

进一步完善功能子集获得使用importance-based特性排名在前面的阶段,我们执行递归特性消除交叉验证(RFECV),属于wrapper-based特征选择方法。只有两个功能排名方法LinSVM和LR RFECV实验中包括关于他们的出色的表现和其他特性相比排名方法。结果如表所示4,“NFS”意味着没有特征选择,””和“”( )代表最优特征子集获得排名方法LinSVM和LR使用的特性%的特性在前一阶段,分别“LinSVM20_RFE”意味着获得的结果进行wrapper-based特征选择RFECV始于LinSVM20的特征子集。使用RFECV特征选择后,性能值如ACC, MCC, SP, SN训练集计算基于5倍交叉验证使用高斯核函数的支持向量机分类器。支持向量机模型建立在整个训练集PDB1616然后PDB186设置的独立应用于预测。它可以发现RFECV过程只是消除了一些功能比前一特征选择阶段。此外,RFECV LinSVM降低更大比例的功能比使用LR ESM_Avg的情况除外。一般来说,消除的特性RFECV不超过15%的初始功能。删除两种情况消除比率最高的14.37%的功能特征子集的LinSVM30 PSSMS_All和14.82%的功能从ESM_All LinSVM5的特征子集。

如表所示4,我们发现RFECV实验能保持前一个阶段的性能优越,尽管一些特性RFECV后消除。尤其是ESM_All而言,有一个改善ACC为5的简历和使用功能测试结果从LR4 LR4_RFE子集。然而,大多数ACC值在第二阶段通过执行RFECV减少一点或在前一个阶段保持一样。甚至在某些情况下,如ESM_All,通过改变特征子集LinSVM5 LinSVM5_RFE,改进是实现基于5简历,但测试性能PDB186却降低了。我们推测,可能有一定的过度拟合现象没有通过执行RFECV有益的泛化。

3.4。与现有的预测相比合奏

我们想强调,这项工作的目标是提供一个全面的对比的alignment-based和pretrained特性表示主要的识别。由于平均操作的简单性,我们相信可以提高分类性能设计为PSSM和ESM表示更微妙的特性。提高泛化性能,另一种是系综分类模型的建立基于不同FS的方法。我们只是提出一个模型,称为特征选取整体模型识别dna结合蛋白质(FSEiDBP),用一个柔软的投票策略。拟议中的FSEiDBP集成了34个分类模型,包括32个模型列在表中3和4,再加上两个分类模型构建完整的特性集PSSMR_Avg和PSSMS_Avg。柔软的投票策略由加权实现ACC分数获得5日简历到相应的输出概率的分类模型进行预测时。详细的输出概率测试样本属于某个类计算如下: 在哪里 和( )是属于类的样本的预测概率为预测在合奏。此外,表示的准确性5日预测评估的简历, 意味着non-DNA-binding蛋白质, 代表dna结合蛋白质。结果,分类性能最优结果的显著提高FS实验(通过LR4_RFE ESM_All)提出FSEiDBP。换句话说,如表所示4和5,改进是通过ACC值从80.65%到83.33%,MCC值从0.6308到0.6733。

表5也显示了性能比较独立的测试获得的提议FSEiDBP与现有13个预测因子包括DNA-Threader(类似63年],DNAbinder [23],DNA-Prot [64年],iDNA-Prot [65年],DNABIND [66年),Kmer1 + ACC (67年],iDNAPro-PseAAC [14,王的方法68年],DBPPred [24],DPP-PseAAC [20.],民进党[69年],iDBP-DEP [41],iDNAProt-ES [70年)没有pretrained特性表示。PSEiDBP表明plm的优越性能相比有更强的表达有关特征信息与传统特性表征。性能的提高也在一定程度上归因于合奏的多个模型建立在各种FS实验以及完整的特性集,没有特征选择。

4所示。结论

我们的工作提供了全面的见解之间的系统比较alignment-based pretrained蛋白质序列在进化规模特征表示主要的识别。比较分析是首先进行统一信息提取应用几个平均操作PSSM和ESM表示蛋白质的序列。这初级阶段的结果在几个特性集关于PSSM和ESM表示,由执行几个分类器相比,针对选择最好的机器学习方法。以下比较涉及各种特征选择实验用importance-based特性实现排名方法,进一步消除递归特性基于优化的特征子集前FS派生的阶段。

正如预期的那样,实验结果证实,pretrained ESM表示优于PSSM-derived特性在一个公平的比较角度使用相同的信息提取操作。由于其简单性,我们肯定相信可以通过设计的性能改善更加微妙的特征提取操作PSSM和ESM表示矩阵或集成其他类型的预测二级结构和溶剂可及性等特性。最后,pretrained功能演示建议在硅片的面积广泛应用于蛋白质功能注释。是时候放弃耗时alignment-based进化PSSM等资料,特别是在预测阶段。此外,我们的研究结果还包括建议分类器的选择和特征选择方法主要的识别。注意到该分类模型的论文不是最先进的。我们想强调的是,我们的注意力主要集中在比较alignment-based和pretrained特性表征。设计更加精致的特性或多个分类模型的构建一个不同的光特性集最有可能提高预测的性能。因此,改进预测类似的合奏版本,称为FSEiDBP,建立了集成34在FS模型训练实验+ NFS实验用软投票策略。

数据可用性

使用的数据来支持本研究的结果可在手稿和补充文件。

的利益冲突

作者宣称没有利益冲突。

作者的贡献

华盛顿特区和H.Z.构思。华盛顿特区和Z.C.进行了实验。华盛顿特区和H.Z.分析数据和结果。华盛顿特区,H.Z., B.X., and Y.W. drafted and revised the manuscript. All authors read and approved the manuscript.

确认

这项研究是由浙江省自然科学基金资助(批准号中国LY21F020011)和美国国家科学基金会(批准号61672459)。

补充材料

补充数据的文件列出了两个数据集PDB1616和PDB186 PDB id。(补充材料)

补充材料