一种解决监督数据分类问题的新方法

抽象的

监督数据分类是用于从数据中提取非琐碎信息的技术之一。分类是一种广泛应用于数据挖掘、工业、医学、科学和法律等各个领域的技术。本文研究了一种新的聚类分析方法来解决监督数据分类问题。该算法的数学公式是基于非光滑、非凸优化。本文提出了一种求解该优化问题的新算法。该算法采用无导数技术，鲁棒性好，效率高。为了提高分类性能和分类模型生成的效率，提出了一种基于凸规划技术的特征选择算法。提出的方法在真实数据集上进行了测试。数值实验结果表明了该算法的有效性。

1.介绍

监督数据分类是一种广泛应用于各个领域的技术，其中包括数据挖掘，其目的是在已知数据类别的情况下，对一些观测数据建立分类规则。由于商业数据库和科学数据库的爆炸式增长，从这些数据库中提取有效的分类规则是非常重要的。

在过去的30年里，为监督数据分类设计了各种算法，这些算法基于完全不同的方法，例如统计方法[1，神经网络[2，遗传算法[3.、图形模型[4]，以及自适应样条方法[5]．

基于归纳逻辑编程的算法[6]和混合系统[7也用于监督数据分类。Kotsiantis在2007年，Mangasarian和Musicant在2001年[8，9]对这些方法（包括它们的定义和比较）进行了很好的回顾。监督数据分类的最有前景的新方法之一是基于数学优化方法。存在不同的优化应用方法；例如，参见[10- - - - - -12]．其中一种方法是为给定的训练集寻找聚类。数据向量被分配到最近的聚类中，与包含该聚类的集合相对应[13]．

另一方面，对分类准确率影响最大的一个重要因素是特征选择。如果数据集包含多个特征，则空间维数大且不干净，降低分类准确率[14]．一种高效、鲁棒的特征选择方法可以消除噪声、不相关和冗余数据[15]．因此，在不丢失有用信息的情况下减小它，可以加快算法的速度，提高算法的精度。大多数特征选择是基于统计考虑，而特征通常是根据观测值和特征之间的相关性而被删除的(见[15，16])。在[17，18基于优化技术的方法已经发展起来。在此基础上，提出了一种基于凸规划技术的特征选择算法。

因此，设计了基于优化技术的分类和特征选择问题的新算法;对于执行这些方法，需要解决非核解和非凸起的不受约束优化的复杂问题，可以是本地或全局。尽管客观函数的非现状和非凸起，但全球方法比本地的更简单更简单，更适用。在本研究中，我们被调整并用作一种直接全球优化方法，即网格自适应直接搜索（MAD）[19]．MADS是无导数方法，因为这种方法不计算甚至不尝试求导数。网格自适应直接搜索方法只使用函数值，只需要目标的数值;不需要了解问题的内部结构[19]．

使用真实数据集的计算实验结果被提出，并与文献中最著名的解决方案进行了比较。

论文组织如下。本节讨论了分类的优化方法2．在部分3.，研究了一个特征选择问题的算法。在部分4提出了一种求解优化问题的算法。本节将讨论计算实验的结果及其分析5．最后一节6总结了纸。

2.一种求解分类问题的优化算法

考虑一组组成的点它包含班级,就是，非空的有限子集的维空间．假设集合由点。分类的目的是将一个新的观察结果分类为一个已知的类别，并且有许多现有的方法来解决这个问题（如引言中所述）.接下来，我们研究了一种基于优化方法的分类方法。数值实验证明，该方法优于现实世界数据库中的已知方法。为了解决这个问题，必须识别每类数据集的聚类，这必须与相应聚类的中心一起进行。将其观察值分配给新类中心之间距离最小的类。

这样，首先就可以解释有限集的聚类。聚类在维欧氏空间是基于一些相似(距离)度量，闵可夫斯基度量用于这个目标。聚类问题有多种解决方法。最流行的方法之一是基于中心的聚类模型[20.- - - - - -22]．

考虑集；假设这个集合只包含一个集群;因此，其中心可通过求解以下凸规划问题来计算: 假设是问题的解决方法(1）;为了找到第二个聚类的中心，找到以下优化问题的答案:

以同样的方式，假设已经计算过中心，然后是中心的集群被描述为解决以下问题:

然后提出了一种求解分类问题的算法。假设数据库包含2个类:和．让，,一个宽容。

算法1。提出了一种新的分类算法。
一步1(初始化)．假设集和包含一个唯一的集群;通过求解以下问题计算集群中心:
假设，这些问题的解决方案是否可行和分别是这些问题的值。让．
一步2(识别被当前集群“错误分类”的点集)．计算集
一步3.．如果，计算以下集合： 其他的
一步4．通过求解以下凸规划问题来提高集群的中心: 酸处理．
允许和成为问题的解决方案(8)和(9）， 分别。集和．
一步5（检查停止标准）．如果，计算这些函数: 如果，则算法结束。否则，转至步骤6。
一步6(确定下一簇的估计).解决以下优化问题： 酸处理．
一步7．允许和成为问题的解决方案(11)和(12）， 分别。集，,，执行步骤2。

3.特征选择算法

特征选择是关于对识别或预测问题有重要贡献的特征子集的识别。特征选择的主要目的是从初始特征集中寻找最优的特征子集，从而提高分类性能和生成分类模型的效率。在过去的几十年里，来自多学科领域的研究人员进行了广泛的研究，包括数据挖掘、模式识别、统计学和机器学习。在[23对大数据集的各种特征选择算法进行了比较。

考虑一个包含2个非空有限集的数据库．让,在那里表示有限集的基数．让做门槛，让有一些宽容。

算法2。特征选择。
一步1(初始化)．集．
一步2．通过假设集合找到簇的中心包含唯一的群集。通过解决以下凸编程问题来计算集群中心： 在这里被定义为．
一步3.．求集合中的点它更接近另一组（坏点）的集群中心。
让成为解决方案(13）.计算集 集．
如果，转步骤5;否则请转步骤4。
一步4．计算 然后是大多数信息属性的子集，算法终止。否则请转步骤5。
一步5．确定最接近的坐标，计算 并定义以下集合:
一步6．构造一组 如果,然后是大多数信息属性的子集。如果然后是大多数信息属性的子集。然后算法终止;否则设置，执行步骤2。

4.解决优化问题

在本节中，我们讨论了分类算法中所提到的解决问题的算法。由于这些函数的非光滑性和子梯度的估计困难，直接搜索优化方法似乎是解决它们的最佳选择。直接搜索方法的主要吸引力在于，与更熟悉的基于梯度的方法相比，直接搜索方法无需计算导数就能找到最优解[24]．

直接搜索算法可用于传统优化技术难以解决的问题，包括难以数学建模或定义不明确的问题。当目标函数是不连续的、随机的、高度非线性的或导数未定义的时候，也可以应用它们。

一般来说，直接搜索算法称为模式搜索算法，广义模式搜索(GPS)算法和MADS算法都是模式搜索算法，它们计算的是一个越来越接近最优点的点序列。在每一步，算法都要调查当前点(算法前一步计算的点)周围的一组点，称为网格。网格是通过将当前点添加到一个称为模式的向量集的标量倍数中来创建的。如果模式搜索算法在网格中发现一个使当前点的目标函数更好(减少)的点，则新点成为算法下一步的当前点。

4．1.尼法

MADS方法的设计只使用函数值，只需要目标的数值;不需要了解问题的内部结构。这些方法可以快速和容易地用于非线性、非凸、不可微、不连续或破坏问题[19]．MADS的收敛性分析保证了在一定假设下的一阶和二阶最优性的必要条件[19]．一般的优化问题可以是: 在哪里,．

MADS是一种迭代算法。每次迭代(由下标显示使用当前最佳可行解决方案启动，称为在职解决方案，以及每个迭代MADS算法的基本原理可以用两个步骤来说明。首先，只要是一个有限的过程，并且所有的试验点都在一个网格上，就可以在变量空间上执行一个可选的搜索步骤。如果没有找到更好的点或没有应用全局搜索，算法将进入强制性的局部搜索步骤(强制性的，因为它确保了收敛)。第二步是投票步骤;最多选择附近现任解决方案附近的试用网格（民意调查集）并评估。如果未找到更好的邻居，则会精制网格。如果改进的网格点发现，网格是保持不变还是变粗，然后呢是下一任的。每次迭代的勘探方向都是变化的，并且概率为1。这是模式搜索和MADS算法的主要区别。一般的约束可以用障碍方法来处理，它重新定义了目标，如下面的方程所示: 然后，将MADS应用于无约束势垒问题 可行域可以是非线性的、非凸的、不可微的或不相交的。除了初始点必须是可行的以外，对该领域没有任何假设。收敛结果依赖于局部光滑性(而不是的边界上明显不连续）.

算法3（MADS算法）。本文研究了一种通用灵活的MADS算法框架[19]。然后，此通用框架专用于特定的算法实现。该算法的主要步骤总结如下。
一步1(初始化)。用户定义起始点和初始网格大小。
算法为后续步骤初始化其他参数。
一步2（请求改进的网格点）．考虑以下步骤:(我)全局搜索(可选):的求值在网格定义的有限子集上;(2)本地投票(强制):定义投票集并评估除以集合中的点。
一步3(参数更新)．参数更新。
一步4(终止).如果达到某些停止标准，则停止；如果未达到，则返回步骤2。

5.数值实验结果

为了验证所提出的算法的有效性，在一台Intel Core 2 Duo CPU、1.95 GB RAM的PC上进行了一系列的数值实验，并使用真实数据集。

数值实验中使用了澳大利亚信用数据集、乳腺癌数据集、糖尿病数据集、心脏病数据集、肝病数据集、德国Numer数据集和蘑菇数据集。

这些数据集的描述可以在UCI机器学习知识库中找到[25]．

在表1，显示数据集的样本数量，表示数据集的类数，并且是特征的数量。

首先，将所有特征归一化。这是通过一个非奇异矩阵来完成的，这样所有特征的标准差值都是1。为了评估性能，使用了10倍交叉验证，从每个数据集中选择一个样本，然后分成10个大小相等的子集。然后，选择一个子集并指定为测试集，其余9个子集的并集作为训练集。经过算法的应用2通过计算信息属性子集和特征选择，利用测试子集对分类模型进行验证。这个过程是重复的，每个10个子集依次被选为测试集。因此，该方法运行了10次，并通过对所有10次测试运行的平均计算分类准确率。

请注意．在特征选择算法(算法2）（每类数据集的特征选择算法的每个迭代中添加的“坏点”的最大数量在执行该算法时具有重要作用，因此在数值实验中，每个类数据集的一个或两个百分之一的值,被认为是

相比,介绍在[18]数值实验表明,该算法可以显著减少的数量的属性,这3个属性被用于糖尿病数据集,乳腺癌数据集,数据集肝功能失调,信贷数据集,以及澳大利亚11心脏病中的属性数据集,在德国4属性数据集,以及蘑菇数据集中的6个属性，用于解决分类问题。而与本文方法所得结果及[18我们可以看到，对于澳大利亚信用数据集，特征的数量从6个减少到3个;乳腺癌数据集也是如此，而心脏病数据集的特征数量从3个增加到11个。

在数值实验中1采用10倍交叉验证对数据集进行分类，并将MADS算法应用于算法1；那么在这个研究中，它被称为MA，并被假定为．数值实验结果见表2- - - - - -8．在表中2- - - - - -8，表示训练数据和的错误率显示测试数据的错误率，即一种方法的良好标准。

参数误分类最小化(PMM)的数值结果[26，鲁棒线性规划(RLP) [27，混合误分类最小化(HMM) [28，支持向量机算法[29),-最近邻算法(NN），多层的感知（MLP），概率神经网络（PNN）和顺序最小优化算法（SMO）[30，31都是用来比较的。粒子群优化算法(PSO)得到的结果[32，33]，音乐启发的和声搜索算法（HS）[34]、萤火虫算法(FFA) [35]及其参考文献，怀卡托知识分析环境(WEKA)系统第3.4版[36，其中包含了大量这样的技术，这些技术被分为不同的组，被同等地用于比较。从每一个这样的团体中选出了一些代表。径向基函数人工神经网络(RBF) [37，在懒惰的人中间，KStar [38]，在基于规则的规则中，ripple down rule (Ridor) [39]，以及投票特征间隔（VFI）[40]．类似地，我们有MultiBoostAB [41在贝叶斯中，贝叶斯网[42]．用于任何技术的参数值都是在WEKA中设置为默认值的值。支持向量机算法得到的结果[10], IncNet [43，模糊方法[44], FLEXNFIS [45),模糊神经网络(46],规则4 [47]及C4.5 [48， Naïve Bayes [49，50]、BNND和BNNF方法源自[51]，ssvm [52], RSVM [53),支持向量机(54], LSSVM [55),博览会(56], DC-RBFNN [57]，提振[58,开膛手59,号60]和GPF [61被用于实验中。

采用Michie的23种分类算法进行数值实验得到的结果[62]，在本书第9章中提出，也被应用;这些是统计、神经网络和机器学习算法。另外，表中仅给出了这些算法得到的最佳结果2- - - - - -8．

澳大利亚信用数据库的结果如表所示2，表明本文方法的精度高于表中所指出的其他方法的精度。

第二个数据库，乳腺癌数据库的结果见表3.．结果表明，所提方法的精度高于其他方法，但KStar和HMM方法的精度与所提方法相当接近。

对于糖尿病数据库，数值实验结果如表所示4，这表明所提出的方法的精度高于本表中指出的其他方法的精度，但FNN方法的精度最好。

心脏数据库的结果如表所示5．从这些结果和之前的结果，可以得出结论，提出的方法的准确性是最好的，因此，最适合这个数据集。

肝脏数据库的结果如表所示6这表明所提出的方法的准确性优于表格中所指出的其他方法的准确性，除了准确性最佳的PMM方法。从这些结果和之前的结果，可以得出结论，提出的方法的准确性是最好的，因此，最适合这个数据集。

德国数据库的结果如表所示7，这证实了所提方法的误差小于表中指出的其他方法的误差，除了SMO、DC-RBFNN和GPF方法的误差小于MA方法。

最后一个数据库，蘑菇数据库的结果显示在表中8．结果表明，该方法的误差接近于0。这些都表明了该方法的优越性。

如表格所示2- - - - - -8在几乎所有的数据集中，MA模型获得了最好或接近最好的预测精度。

此外，为了评估MADS算法解决分类问题的性能中的重要因素，在本文前面提到的数据集上进行了不同的实验。这里仅给出了从不同实验中获得的主要结果；这样做是为了避免不必要的细节为了便于总结，在本研究中，网格因素已定义为:，为迭代失败时使用的网格收缩因子，迭代成功时扩展网格的网格扩展因子和,．还发现了减少的时候增加和最佳价值接近5。

由于在MADS算法中轮询集的方向是随机选择的，因此该算法的每一个性能都给出了新的结果，所以进行了10次MA方法，解的平均值如下表所示。同时还发现它们(解)的标准差接近于零。

在具有不同值的分类算法中提到的数据集上已经完成了各种实验(这样)找到最佳价值．因此，在周围观察到良好的价值．为了评价影响MADS算法解决分类问题性能的重要因素，对MADS算法的步长搜索(即步长搜索)进行了不同策略的相同实验搜索步骤为空，当在搜索步骤中，网格集选择了随机方向，当选择遗传算法进行步长搜索时采用Nelder-Mead算法进行步长搜索);结果几乎是一样的。

因此，结果显示在表中2- - - - - -8结果表明，与其他方法相比，AM方法对所有数据集的处理效果较好。数值实验结果表明，该算法对分类问题是有效的。

6.结论

本文提出了一种求解分类问题的新算法，该算法包含非光滑和非凸优化问题。该算法基于数据库中使用聚类中心的类，对每个类都解决了估计量较大的聚类分析问题。

MADS方法用于解决非光滑优化问题。新方法使用真实数据集进行了测试。这些计算实验结果表明了新算法的有效性。未来，数据集的大小将增加；显然，应用特征选择对于分类问题和其他问题是有用的在此基础上，结合其他类似粒子群算法的好方法，提出了该方法的新的全球化策略，以解决分类问题，并提出了今后的研究方向。

利益冲突

作者声明本文的发表不存在利益冲突。

致谢

作者要感谢马来西亚教育部通过马来西亚Teknologi大学(UTM)的研究大学基金资助了这个研究项目，该项目名为“高维大数据集的降维和数据聚类”(04H40)。同时，感谢UTM的研究管理中心(RMC)为完成这项工作提供了一个良好的研究环境。

参考

1. L. Breinman, R. A. Olshen, C. J. Stone，退化树的分类，沃兹沃思布鲁克斯，美国加利福尼亚州太平洋格罗夫，1984年。
2. G. P. Zhang，“用于分类的神经网络：调查”IEEE系统、人与控制论汇刊C部分:应用与评论，第30卷，第2期4，页451-462,2000。视图:出版商网站|谷歌学者
3. A. Freitas，“数据挖掘和知识发现的进化算法综述”，刊于进化计算的进展, 2002年施普林格。视图:谷歌学者
4. W.邦廷，《发现知识的图形模型》，刊于知识发现与数据挖掘研究进展，页59 - 82,1996。视图:谷歌学者
5. J. H. Friedman，“多元自适应回归样条”，统计年鉴第19卷第2期1，第1 - 141页，1991。视图:出版商网站|谷歌学者|Zentralblatt数学|数学网
6. “数据库中的归纳逻辑编程和知识发现”知识发现与数据挖掘研究进展，页117 - 152,1996。视图:谷歌学者
7. B. Boutsinas和M. N. Vrahatis，《人工非单调神经网络》，人工智能第132卷第1期1，页1 - 38,2001。视图:出版商网站|谷歌学者|Zentralblatt数学
8. S. B. Kotsiantis，“监督机器学习：分类技术审查，”Informatica第31卷第1期3，页249-268,2007。视图:谷歌学者|数学网
9. O. L. Mangasarian和D. R. Musicant，《拉格朗日支持向量机》，机器学习研究杂志，第1卷，第3期，第161-177页，2001年。视图:出版商网站|谷歌学者
10. P. S.Bradley和O. L. Gengasanian，“通过线性支持向量机的大规模数据歧视”，优化方法与软件，第13卷，第2期1，页1 - 10,2000。视图:出版商网站|谷歌学者|Zentralblatt数学
11. O. L. Mangasarian, E. W. Wild, G. M. Fung，《最近的基于知识的分类》，统计分析和数据挖掘， vol. 1, no. 14, pp. 215-222, 2009。视图:出版商网站|谷歌学者
12. O.L.Mangasarian和E.W.Wild，“基于非线性知识的分类，”神经网络上的IEEE交易第19卷第2期10，第1826-1832页，2008。视图:出版商网站|谷歌学者
13. A. M. Bagirov, A. M. Rubinov, J. Yearwood，“使用全局优化改进医学诊断和预后分类”，健康信息管理的主题第22卷第2期1，第65-74页，2001。视图:谷歌学者
14. “基于改进粒子群算法的特征选择方法研究”，清华大学学报(自然科学版)仿生工程学报，第8卷，第2期2，页191 - 200,2011。视图:出版商网站|谷歌学者
15. I. Iguyon和A. Elisseeff，“变量和特征选择的介绍”，机器学习研究杂志， 2003年第3卷，1157-1182页。视图:谷歌学者
16. P. S. Bradley和O. L. Mangasarian，“通过凹最小化和支持向量机进行特征选择”第15届机器学习国际会议的诉讼程序（ICML '98），摩根·考夫曼，美国加州旧金山，1998。视图:谷歌学者
17. A. M. Bagirov, B. Ferguson, S. Ivkovic, G. Saunders, J. Yearwood，“使用肿瘤基因表达签名的多类癌症诊断新算法”，生物信息学第19卷第2期14，pp。1800-1807,2003。视图:出版商网站|谷歌学者
18. A. M. Bagirov, A. M. Rubinov, and J. Yearwood，“基于优化技术的特征选择启发式算法”，刊于知识发现的启发式与优化R. A. Sarker, H. A. Abbas, C. Newton, Eds。，pp. 13–26, Idea Group Publishing, London, UK, 2002.视图:谷歌学者
19. C. Audet和J. E. Dennis Jr.，“约束优化的网格自适应直接搜索算法”，暹罗期刊优化，第十七卷，第二期1，页188-217,2007。视图:出版商网站|谷歌学者
20. A. M. Bagirov，“最小平方和聚类问题的改进全局k-均值算法”，模式识别号，第41卷。10, pp. 3192-3199, 2008。视图:出版商网站|谷歌学者|Zentralblatt数学
21. “蜜蜂交配优化算法在聚类中的应用”应用数学与计算，卷。190，没有。2，pp。1502-1513,2007。视图:出版商网站|谷歌学者|Zentralblatt数学
22. A. Likas，N.Vlassis和J. J.Berceek，“全局K-Means聚类算法”，模式识别，卷。36，不。2，pp。451-461,2003。视图:出版商网站|谷歌学者
23. M. Kudo和J. Sklansky，《为模式分类器选择特征的算法的比较》，模式识别第33卷第3期1，页25-41,2000。视图:出版商网站|谷歌学者
24. Z. Zhao, J. C. Meza, M. V. Hove，“使用模式搜索方法测定纳米材料的表面结构”，物理学杂志:凝聚态物质，第18卷，第8693-8706页，2006。视图:谷歌学者
25. C.L.Blake和C.J.Merz，“UCI机器学习数据库存储库”，1998年，http://archive.ics.uci.edu/ml/datasets.html．视图:谷歌学者
26. O. L. Mangasarian，《最小化错误分类》全局优化学报，第5卷，第5期。4，页309-323,1994。视图:出版商网站|谷歌学者|数学网
27. K. P. Bennett和O. L. Mangasarian，“两个线性不可分集的鲁棒线性规划判别”，优化方法与软件， vol. 1, no. 11，第23-34页，1992。视图:出版商网站|谷歌学者
28. C. Chen和O. L. Mangasarian，“混合错误分类最小化”，数学规划技术报告第号。95-05，威斯康星大学，1995。视图:谷歌学者
29. P. S. Bradley和O. L. Mangasarian，“通过凹最小化和支持向量机进行特征选择”第15届机器学习国际会议的诉讼程序（ICML '98）, 1998年。视图:谷歌学者
30. S. S. Keerthi, S. K. Shevade, C. Bhattacharyya，和K. R. K. Murthy，“普拉特的支持向量机分类器设计的SMO算法的改进”，神经计算，第13卷，第2期3，页637-649,2001。视图:出版商网站|谷歌学者|Zentralblatt数学
31. “使用序贯最小优化的支持向量机快速训练”核方法研究进展:支持向量学习，第185-208页，麻省理工学院出版社，美国马萨诸塞州剑桥，1999年。视图:谷歌学者
32. I. de Falco，A. della Cioppa和E. Tarantino，“面对粒子群优化的分类问题”，应用软计算杂志，第7卷，第5期3，页652-658,2007。视图:出版商网站|谷歌学者
33. H. A.菲尔皮和E.古德曼，《蜂群特征选择》第33届应用图像模式识别研讨会论文集，页112-118,IEEE，华盛顿特区，2005年10月。视图:出版商网站|谷歌学者
34. z . w . Geem基于音乐的和声搜索算法:理论与应用，施普林格，纽约，纽约，美国，第1版，2009。
35. H. Banati和M. Bajaj，“基于萤火虫的特征选择方法”，国际计算机科学问题杂志，第8卷，第2期4, pp. 473 - 480,2011。视图:谷歌学者
36. i。h。威腾和e。弗兰克，数据挖掘:用Java实现的实用机器学习工具和技术，摩根考夫曼，旧金山，Calif，美国，2000。
37. m·h·哈桑,人工神经网络基础，麻省理工学院出版社，1995年。
38. J. G. Cleary和L. E. Trigg，“K^＊:使用熵距离度量的基于实例的学习者第十二届国际机器学习会议论文集，pp.108-114，1995。视图:谷歌学者
39. P. Compton和R. Jansen，“上下文中的知识:专家系统维护的策略”，刊于第2届澳大利亚联合人工智能大会（AI '88）的诉讼程序，《计算机科学课堂讲稿》，澳大利亚阿德莱德，1988年11月。视图:谷歌学者
40. G. Demiröz和A. Güvenir，“通过投票特征间隔进行分类”机器学习:ecml - 97，第1224卷计算机科学卷讲稿，第85-92页，1997。视图:出版商网站|谷歌学者
41. R. Kohavi，“扩大朴素贝叶斯分类器的准确性:一种决策树的混合”第二次知识发现和数据挖掘会议的诉讼程序，AAAI出版社，1996年。视图:谷歌学者
42. f .詹森贝叶斯网络简介， UCL出版社/施普林格，柏林，德国，1996。
43. N. Jankowski和V. Kadirkamanathan，“分类的rbf类网络的统计控制”，刊于第七届人工神经网络国际会议论文集(ICANN’97)，瑞士洛桑，1997年。视图:谷歌学者
44. W.-H。陈家昌，“基于隶属度的分类:一种模糊方法”第1届IEEE数据挖掘国际会议论文集，第35-42页，2001年12月。视图:谷歌学者
45. L.Rutkowski和K.Cpalka，“柔性神经模糊系统，”神经网络上的IEEE交易第14卷第2期3，pp。554-574,2003。视图:出版商网站|谷歌学者
46. 李国强，“基于关联模糊神经网络和方bk -乘积的模式分类”计算机科学，第71-74页，施普林格，纽约，纽约，美国，2006。视图:谷歌学者
47. D. T. Pham, S. S. Dimov, Z. Salem，“归纳学习中选择例子的技巧”，刊于欧洲智能技术研讨会论文集(ESIT '00)，德国亚琛，2000年。视图:谷歌学者
48. W.P.Eklund和A.Hoang，“UCI数据库上公共领域监督机器学习准确性的比较研究”，年数据挖掘和知识发现:理论、工具和技术，吴淑珍，吴淑珍，吴淑珍学报学报，页39 - 50,1999。视图:谷歌学者
49. N. Friedman, D. Geiger, M. Goldszmidt，《贝叶斯网络分类器》，机器学习，第29卷，第2期2-3，页131-163,1997。视图:出版商网站|谷歌学者
50. H. J. George和P. Langley，“估计贝叶斯分类器中的连续分布”，在第11届人工智能中的不确定性会议记录，第338-345页，摩根考夫曼，圣马特奥，加州，美国，1995。视图:谷歌学者
51. n .张医学分析的机器学习技术[硕士论文]论文)，昆士兰大学信息技术与电气工程学院，澳大利亚昆士兰，2001。
52. Y.-J。Lee和O. L. Mangasarian，“SSVM:用于分类的平滑支持向量机”，计算优化及其应用，第20卷，第2期。1，页5-22,2001。视图:出版商网站|谷歌学者
53. Y. J. Lee和O. L. Magasanian，“RSVM：减少支持向量机，”第一届SIAM数据挖掘国际会议论文集2001年，美国伊利诺伊州芝加哥。视图:谷歌学者
54. T.van Gestel，J.A.K.Suykens，G.Lanckriet，A.Lambrechts，B.de Moor和J.Vandewalle，“最小二乘支持向量机分类器的贝叶斯框架，高斯过程和核fisher判别分析，”神经计算第14卷第2期5，第1115-1147页，2002。视图:出版商网站|谷歌学者
55. “一种新的医疗决策系统:具有模糊加权预处理的最小二乘支持向量机(LSSVM)，”具有应用的专家系统，第32卷，第2期2，页409-414,2007。视图:出版商网站|谷歌学者
56. Tian J.， M. Li, and F. Chen，“基于双种群的协同进化算法设计具有特征选择的RBFNN，”具有应用的专家系统，第37卷，第2期10, pp. 6904-6918, 2010。视图:出版商网站|谷歌学者
57. Y. Freund和R. E. Schapire，“新助推算法的实验”，在第13届国际机器学习会议论文集，页148-156，旧金山，加利福尼亚，美国，1996。视图:谷歌学者
58. E. Frank和I. H. Witten，“在没有全局优化的情况下生成精确的规则集”，刊于第15届国际机器学习会议论文集， J. W. Shavlik, Ed.， pp. 144-151，摩根考夫曼，旧金山，加利福尼亚州，1998。视图:谷歌学者
59. C. Jesus和L. M. Ramon，《无关的朴素贝叶斯分类器》，在第16届国际FLAIRS会议论文集，第341-345页，2003年。视图:谷歌学者
60. K. Polat, S. Şahan, H. Kodaz和S. Güneş，“使用人工免疫识别系统(AIRS)对乳腺癌和肝病进行分类，并通过模糊资源分配机制进行绩效评估，”具有应用的专家系统，第32卷，第2期1，页172-183,2007。视图:出版商网站|谷歌学者
61. N. García-Pedrajas和D. ortizi - boyer，“通过两种策略的结合提高多级模式识别”，模式分析与机器智能学报第28卷第2期6，页1001-1006,2006。视图:出版商网站|谷歌学者
62. D. Michie和D. J. Spiegelhalter，机器学习，神经和统计分类人工智能系列，Ellis Horwood，伦敦，英国，1994。

版权

版权所有©2014 Parvaneh Shabanzadeh和Rubiyah Yusof。这是一篇发布在知识共享署名许可协议，允许在任何媒介上不受限制地使用、传播和复制，但必须正确引用原作。