随机森林是集成学习的方法之一,在均匀基础学习者类别的建设性的分类器的类型。顾名思义,基础学习者都是决策树,因此他们有了一个更简单的结构比类似的方法 1]。随机森林结构有两个优点。第一类是从计算的观点来看,第二类是从统计学的观点。优势,可以考虑从计算的观点是:随机森林有能力处理回归和分类问题。这个分类器的训练和预测流程执行在高速度,因此随机森林被称为经典的快速分类。随机森林的另一个优点是它能够直接使用高维问题[ 2]。第二种观点的随机森林的优点是它的特点,即优先级的功能,不同的权重系数不同的归因类,和插图和无监督学习能力。

根据文献,随机森林方法是整体学习最实用的方法之一。权重合奏的基础学习者学习的一个主要挑战聚合的基本分类器以达到更强的分类器( 3]。重基础学习者的原因,或者换句话说,确定影响因子对于每一个基础的学习者,是提高数据挖掘算法的可伸缩性问题空间。这变得更加明显,当环境是动态的,和不同的或有时相互矛盾的行为是观察到的数据在不同的情况下。文本数据环境中有这样一个有趣的行为数据挖掘算法,它挑战。例如,将一个词在一个域可能创建一个积极的极性,但它也可能在另一个域上创建一个负极性。这种差异在极性创建没有任何改变单词的形式,没有任何变化的作用从语法的角度来看这个词。“小”这个词在电子领域和餐馆领域有如此行为。这种行为构成了重大挑战的观点挖掘算法( 4]。

克服这一挑战的解决方案在古典文学是基于lexical-based的使用方法。这种方法是基于框架如unigram,语法,以面向方面为基础的,和类似的方法,都是视。除了迫切需要预定义的数据,这些方法失去效率如果他们会见了一个未指明的词或意见矿业领域的隐喻。换句话说,他们不兼容问题空间。随机森林的工作方式与训练数据的顺序放置,特征向量注入每一个基础的学习者,它试图找到最佳特征子集,并增加其影响因素分类器,实现最高的性能在所有聚合基础学习者( 5]。然而,这种方法并不是有效的有关数据如文本,一个词可以在不同的领域有不同的极性,因为在分类算法,没有能力适应问题空间的条件。

在这篇文章中,我们打算让随机森林的强化学习,提高效率。在拟议的方法,学习自动机用于聚合和重基础的学习者。学习自动机的工作方式是从环境和接收反馈执行的操作基于反馈的类型。在学习自动机,反馈强化信号分为两类:奖励信号和点球信号。对于每一个强化学习自动机收到的信号,它更新的概率选择前一步骤中选择的行动。这一过程持续进行直到行动选择的概率收敛于一个行动;换句话说,运行在当前形势下的最佳选择。在拟议的方法,学习自动机行为是适当的,当一个人基础学习者选择导致的最大奖励,可以收到环境。在每个阶段的学习自动机执行以来,学习算法试图选择最好的选择,实现全球问题空间的最适条件保证。这是证明该方法的适应性。 In the proposed method, the subprocess of replacing features in the feature vector is removed, and all the features in the feature vector are used. As a practical application in the field of opinion mining, if the Bag of Word (BoW) method is used to create the feature vector, the advantage of considering all the features of the feature vector will also cover cases that occur rarely. In other words, in the proposed method, the aspect of independence from the domain in the processes such as opinion mining is considered.

我们的贡献是总结如下:

本文简要回顾随机森林的应用范围。

剩下的纸是组织如下。节 2介绍了相关工作。部分 3介绍了介绍学习自动机。该方法在部分说明 4。部分 5包括评估。讨论了部分 6,最后,节中描述的结论和未来的工作 7。

在本节中,理论和随机森林是检查的有关这一课题的文献。本节的目的是回顾介绍了创新在近年来随机森林。

随机森林是一个齐次乐团的合奏的方法学习学习小组。在随机森林,每一个决策树,或者换句话说,每个基本学习者,能够访问一个随机子集的特征向量( 6]。因此,特征向量的定义如下: (1) x = x 1 , x 2 , … , x p , ,在那里 p是可用的维度属性向量为基础的学习者。的主要目标是寻找预测功能 f( x),预测 Y参数。预测函数定义如下: (2) l Y , f x , 在哪里 l被称为损失函数,目的是减少损失的期望值。对于回归的应用程序和分类应用程序,平方误差损失和损失0 - 1是常见的选择,分别。这两个函数定义如下方程( 3)和( 4),分别。 (3) l Y , f x = Y − f x 2 , (4) l Y , f x = 我 Y ≠ f x = 0 , 如果 Y = f x , 1 , 否则。

创建一个乐团,一组基础学习者聚在一起。如果基础学习者定义如下: (5) h 1 x , h 2 x , … , h J x , 对于回归的应用程序,将基于方程(平均 6),对于分类应用程序,投票将基于方程( 7)。 (6) f x = 1 J ∑ j = 1 J h j x , (7) f x = 参数 马克斯 ∑ j = 1 J 我 y = h j x 。

随机森林分类应用程序所示算法的伪代码 1。

让 D= {( x₁, y₁),( x₂, y₂),…,( x _NgydF4y2Ba, y _NgydF4y2Ba)}表示训练数据 x _我= ( x _我,1, x _我,2、… x _我,p)^T

我们可以看到在算法 1随机森林,试图找到一个子集的功能使用各种替代的训练数据和功能最大化输出的效率和准确性。这组的功能是用来识别一个新实例。

以下是简要回顾随机森林的文学主题。应该注意,我们打算介绍课题的背景,这纸不是一个审查,提出审查是一个简短的回顾和没有提到的所有以前的作品无疑。然而,作者试图把最新、最权威的研究工作近年来出版。

学习自动机(LA)的学习算法,在不同的时间选择不同的动作后,确定反应的最佳实践方面收到从一个随机的环境。拉选择一个动作从向量的集合行为的概率,这行动是评估环境中。通过接收到的信号环境,洛杉矶更新概率向量,通过重复这个过程,逐渐确定最优行动。可以制定分类问题作为一个团队的共同运作优化一个目标函数 102年]。在图 1,学习自动机和环境之间的相互作用。

找到全局最优解空间中使用的另一个优点。洛杉矶可以正式代表的四倍 (8) l 一个 = α , β , P , T , 在这 (9) α = α 1 , α 2 , … , α r 是行动的集合(输出)的洛杉矶;换句话说,组输入的环境。 (10) β = β 1 , β 2 , … , β r , 是洛杉矶的组输入;换句话说,设置的输出环境。 (11) P = p 1 , p 2 , … , p r , 是洛杉矶的概率向量操作和 (12) P n + 1 = T P n , α n , β n , 学习算法。

在洛杉矶,在环境中可以定义三种不同的模型。P-Model,环境提出了0或1的值作为输出。Q-Model,环境的输出值是离散数字0和1之间。s模式,环境是连续的输出值在0和1之间。所选的行动拉更新信号来自环境和使用奖励和惩罚函数。的数量分配奖励和惩罚的LA行动可以被定义在四个方面:含碘,奖励和处罚的数量被认为是相同的;LR εP量的惩罚比奖励小几次;LRI的罚款金额是0;和唇,奖励金额是0 ( 103年]。

在每一个瞬间 n,操作概率向量π(n)更新线性学习算法给出了方程( 13)如果选择行动ai (k)奖励的环境,并更新根据方程( 14)如果选择行动惩罚 104年]。 (13) p 我 n + 1 = p 我 n + 一个 1 − p 我 n , p j n + 1 = 1 − 一个 p j n , ∀ j , j ≠ 我 , (14) p j n + 1 = 1 − b p 我 n , p j n + 1 = b r − 1 + 1 − b p j n , ∀ j ; j ≠ 我 , ,“ 一个“是奖励参数”, b“是惩罚参数,和“ r“是操作的数量。作者应用了该方法拉的,因为: (我)

洛杉矶在不确定的情况下提供了一个可接受的性能。

随机森林是集成学习的方法之一,同一类型(即所有构造函数分类器。决策树)。因此,随机森林是一个齐次整体学习法。在这篇文章中,我们打算用强化学习的想法增加随机森林的效率和适应能力添加到环境问题的数据挖掘算法。下面将描述该方法的细节。

方法提出了基于强化学习的想法,它采用学习自动机来实现这个想法。学习自动机是该方法的核心,并通过接收反馈从环境中对于每一个动作,它更新的概率选择行动。在该方法中,每个基地学习者,决策树,都视为学习自动机动作。

在拟议的方法,训练数据首先被随机分为N部分。在这个部门,N对应于树的数量我们想要在森林里。与随机森林,树木之间的预测模型是通过平均或投票,该方法,创建了预测模型使用学习自动机,形成的核心算法。该方法的框图如图 2。

该方法的预处理步骤是一个通用的步骤,并基于何种类型的数据处理面积处理,这个阶段确定的细节。在拟议的方法中,首先,类似于随机森林方法,训练数据随机分为基础学习者的数量和注入基础的学习者。这一步的区别和相似的步骤随机森林的所有特性的特征向量给出所有基础的学习者,和删除功能替代选项。

第一次运行后,预测模型创建基础学习者和放置在一个池中,实际上是一个交互式的环境,有学习自动机。从学习者获得的结果为每个新样本的形式给出学习自动机的强化信号,我们知道作为主要的环境的反馈。取决于收到强化信号奖励或惩罚,选择的机会每一个基础的学习者,——他们的行动学习自动机——更新。应该注意的是,最初的概率选择这些行动被认为是相等的。如果我们有 R基础学习者形成整体,他们每个人的初始选择的概率等于 (15) p D T r = 1 / R 。

很明显,所有行动的概率之和等于1。 (16) ∑ 我 = 1 R p D T = 1 。

初始概率选择的行为被认为是平等的,因为他们都是均匀的分离能力。

在拟议的方法,集成的基础学习者是由洛杉矶。因此,对于每个输入的测试集,定义了线性拉,每个LA对应选择的行动基础的学习者。跑步基础学习者和接收反馈的过程从环境中持续进行直到选择行为的概率收敛于一个基础的学习者,或重复学习自动机的数量超过预先确定的极限。一旦选择的概率收敛,然后基地学习的结果,选择的概率最高,坚定的合奏特定输入的结果。在这种情况下,担保的找到全局最优算法,因为所有的功能特征向量检查,罕见的模式也覆盖,和适应环境的能力问题空间和独立的域是稳定的。方法,随机选择的子集原因之间的相互依存关系树。所有的决策树的深度方法被认为是相等的。每个决策树在叶级别将训练数据不同。显示了该方法算法的伪代码 2。

输入D = {(x ₁ y ₁ ),(x ₂ y ₂ ),…(x _NgydF4y2Ba y _NgydF4y2Ba ),}与x表示训练数据_我x = (_我,1,x_我2x、…_我,p)

在学习自动机块图 2,有两个函数称为奖励函数和罚函数。激活这两个函数之一是基于强化信号来自环境的类型。接收到的信号从环境决定的结果基础学习者活动或前一步骤中选择的行动是否有用。如果结果是有用的,行动必须得到回报,或者换句话说,增加其选择的概率。选择行动的概率的增加是由参数决定的“a”、“b”称为奖励参数和惩罚参数,分别。

符合( 16),也就是说,所有操作的概率之和等于1,所有其他行为的概率减少根据参数”的大小。“如果选择行动的结果不是有用的,这一行动也必须受到处罚。换句话说,行动必须的概率降低。为此,选择行动的概率降低的大小参数“b”和作为一个奖励模式,和观察( 16),选择其他操作的概率增加的大小参数” b”。

在拟议的方法,学习自动机模型环境被认为是P-Model,那里的环境定义0和1值作为输出。零意味着奖励,意味着惩罚。如果正确的答案是来自所选基础学习者的洛杉矶,选择的行动会得到回报;否则,它将被处罚。

为了全面评价该方法的效率,在本节中,评价该方法的细节提出了分开使用的数据和实验结果。

在本节中,该方法的更多细节解释的原因以及需要解决这些细节。这些包括预处理步骤的细节,优化学习自动机参数,以及排名根据他们的表现这些参数的设置。

基础学习者聚合在整体学习应该以这样一种方式,以下几点。第一点:选择一个基础的学习者会导致最高的性能可实现的现状。第二点:如果情况变化的动力学问题,整体的结构将会改变以这样一种方式,它最大的兼容性与新环境的条件。因此,为了满足上面的点,实现一个能够适应动态环境的问题,在这篇文章中,新方法提出了基于强化学习的想法整合基础学习者在随机森林。在拟议的方法,学习自动机用于接收反馈的环境和执行操作。一般程序是接收反馈的环境,环境是一组基础的学习者,我们打算将比独立基础学习者实现更好的性能。学习自动机的行为包括选择一个基础学习者学习者的最佳基地。行动的选择是根据收到的反馈环境。这将导致数据的动态行为由使用强化学习的想法。另一方面,考虑到在每个阶段,学习自动机努力实现最高的可实现的回报,这是保证找到全球最佳状态空间的问题。 Adaptability is another advantage of the proposed method compared to similar methods in the subject literature.

因为在每一步学习自动机运行根据环境条件和接收反馈从环境中适应能力问题是满足。评估的结果执行不同的数据表明,该方法能够实现以上所有所需的项目。尽管事实上,与随机森林机制,所有功能都注入基础学习者在拟议的方法,该方法的效率在处理大容量数据并没有减少,结果比传统方法更有利。该方法是独立的数据类型和有能力处理任何其他类型的数据在任何领域。为了证实这一说法,为了评估方法,选择不同类型的数据。然而,没有任何限制的方法处理不同类型的数据。在本文中,一种新的聚合方法的基本学习者使用学习自动机,提出了随机森林。确定参数的最优值的奖励和处罚的形式自调优是一个未来的作品,作者打算做。