文摘

现在,有几个网站,让客户购买和购买产品的评论后,导致增量积累大量的评论用自然语言写的。此外,熟悉电子商务和社交媒体引发了网上购物者的复杂程度,这是常见的做法比较竞争品牌的产品在购买之前。盛行等因素的在线评论和提高最终用户的期望动机的意见挖掘系统的开发,可以自动分类和总结用户的评论。本文提出意见挖掘系统可用于二进制和细粒度的情感分类的用户评论。基于功能的情感分类是一个多步骤的过程,包括预处理可以去除噪声,提取的特征和相应的描述符,和标记他们的极性。拟议的技术扩展了基于特征分类方法将各种语言对冲的影响通过使用模糊函数来模拟修饰词的影响,集中器,扩张器。实证研究表明,该系统可以执行可靠的情绪分类各级粒度高平均精度为89%,二元分类为86%,细粒度的分类。

1。介绍

在现在的时代,它已经成为人们沟通的惯例或表达自己的意见和反馈影响他们的日常生活各个方面通过某种形式的社会媒体。高涨的在线活动,比如博客、社交网络、电子邮件、审查发布等等导致增量积累大量的用户生成内容。大多数的在线交互的形式自然语言文本。这反过来又导致增加研究内容组织的兴趣和知识工程任务,比如自动分类、总结,从基于网络的数据和观点挖掘。

由于其高商业重要性,挖掘和总结用户评论的广泛研究应用程序(1- - - - - -9]。所涉及的两个主要任务意见挖掘不管应用程序(1)识别opinion-bearing短语/句子从免费文本和(2)标签的情绪极性固执己见的短语。形容词或副词等描述符描述特性出现在意见主要表明极性的句子表达意见。然而,固执己见的强度和极性短语也受到语言篱笆等的存在修饰符(例如,“不”),集中器(例如,“很”、“非常”),和扩张器(例如,“非常”,“几乎”和“近”)。德开发了模糊语言变量的概念和语言树篱,修改其操作数的意义和强度(10,11]。最近的文件在这个领域还指出,这种观点挖掘的任务是敏感树篱和考虑到语言对冲效应可以提高情绪分类任务的效率8,12- - - - - -17]。

在本文中,我们提出了一种方法来执行细粒度的情感分类的在线产品评论,通过融合模糊语言树篱舆论的影响描述符。我们提出了新的模糊函数,模拟不同的语言对冲的影响和整合他们的情绪分类的任务。

我们的意见挖掘系统涉及各个阶段如(1)预处理阶段,(2)特性生成阶段,(3)模糊意见分类阶段基于模糊语言树篱。实证研究表明,我们的情绪可以成功申请采矿方法二进制以及细粒度的情感分类的用户评论。在二进制情绪分类评价分为两个输出类”积极的”和“负的。“在细粒度分类评审分为多个输出类为“非常积极,”“积极的,”“中性的,”“负的,”和“非常消极。“我们的意见挖掘系统还可以用于生成类似产品的比较总结(8]。此外提出了模糊函数模拟语言篱笆给更好的精度比其他当代方法对冲调整(13,14,16]。注意,尽管最近有几个用户评论论文分类,有相对较少的已明确提出方法集成语言对冲的影响(13,14,16,17]。

剩下的纸是组织如下。部分2调查有关矿业领域的工作意见,部分3描述了拟议的框架意见挖掘使用语言树篱,和部分4讨论了拟议的战略和获得的经验评估结果。最后,我们得出结论,指点未来在这一领域的研究工作。

2。相关工作

矿业意见用户评论是一个特殊的自然语言处理的应用,需要文本的自动分类和总结。

自动文本分类通常是通过使用一个prelabeled训练集和应用朴素贝叶斯等各种机器学习方法(18),支持向量机(19),人工神经网络(20.),或混合的方法(21,22),结合各种机器学习方法来提高分类的效率。自动文本摘要方法主要侧重于从文本中提取重要的句子,可以大致分为四类:(1)启发式方法方法依赖于启发式等线索的结合/键/标题/位置(23- - - - - -26),(2)基于语义的方法(如词汇链27和修辞解析28),(3)用户面向方法通常用于检索的搜索引擎和答疑应用程序基于指标如最大边际相关性(MMR) (29日,30.),和(4)cluster-oriented方法形成集群基于句子相似度计算的句子,然后提取中央每个集群包含的句子总结(31日]。

然而总结的任务或分类的情绪反映在用户的意见是完全不同于上面提到的文本挖掘方法。不是专注于生成采掘总结或整个基于topic-indicative单词的文档分类。相反,情绪矿业涉及语义特性生成等任务,确定意见词(通常是形容词或副词)并将它们与相应的特性,确定feature-opinion双极性的,最后聚合挖掘结果来检测总体情绪(1- - - - - -9,12,32- - - - - -34]。用户的意见通常非正式地在自然语言表达,经常包含在拼写和语法错误。因此,他们需要大量的预处理产生清洁文本(8,12]。此外,特征提取等用户评论需要语言相关的语义处理的词类(POS)标签1,5,8,12,33除了统计频率分析。POS标签通常是使用一种语言的解析器。例如,链接语法解析器(8,35)和斯坦福解析器(12,36)是众所周知的语言解析器。名词和名词短语标记由解析器成为初始候选特征。使用各种方法来提取特性集挖掘有用的意见。这些方法包括频繁项目集识别使用先验的算法(1,3,5,7,32,37),seed-set扩张使用一组初始种子的特性(12,33),或multiwords-based [8,38- - - - - -41频繁的特征提取。

特征描述符如形容词或副词主要是指示性短语极性的意见。在[42),作者提出了一种方法来确定方向形容词之间基于连接词的形容词。统计措施等词联想的点态互信息(PMI)和潜在语义协会(LSA)也被用来确定语义取向(34,43]。另一种方法是使用一个种子的意见单词列表与先前已知的方向(1,12和扩大它基于查找同义词和反义词的使用一些词汇资源如WordNet [44]。这种方法是基于这样的观察:同义词有着相似的方向和反义词有相反的方向。重要的是要注意,描述符的语义取向可以根据不同使用情况。所以,不够使用语料库统计每个描述符分配一个固定的极性。因此,最近的一些论文使用SentiWordNet工具(45)确定意见极性(2,8,16,33]。使用SentiWordNet的优势是,它列出了所有用法的描述符和分配相应的情绪取向三联体这表明他们积极性/客观/消极的分数。

除了观点描述符如形容词或副词,取向(即。,polarity) and strength of an opinion phrase are sensitive to the presence of linguistic hedges [10,14,46]。一些作者将语言树篱称为上下文价换档器和已经表明,它们可以影响一个语言短语的价(极性)(13,14]。而且它已经表明意见可以提高分类的准确性,增加简单的正面/负面词计算方法将此类对冲的影响(13,14]。在[16),作者使用了一个混合的得分技术基于PMI的线性组合,SentiWordNet,并手动分配分数获得最初的情绪一个固执己见的短语,然后调整对冲存在时使用模糊函数。在本文中,我们提出了替代模糊函数将语言对冲的效果。我们的方法达到当代方法相比精度高。

3所示。提出的意见挖掘系统

本节讨论我们提出的意见挖掘系统的设计基于模糊语言树篱。我们的意见挖掘系统自动从非结构化的用户评论中提取固执己见的短语和分类基于他们的情绪。此外虽然情绪分值分配给一个短语,它考虑了强度或极性差异固执己见的短语描述特性”f,“等”f是好的”(没有对冲),“f是极好”(集中/加强对冲),“f是相当好”(扩张/对冲递减),“f是不好”(修改/反相对冲)。

我们执行的意见挖掘数据集的在线用户评论的各种产品使用一个网络爬虫收集。如图1,我们的系统包括三个主要阶段。(1)预处理阶段,这些阶段(2)特性生成阶段,(3)模糊意见分类阶段。

3.1。预处理阶段

用户在线评论要求预处理去除噪声(8,12可以执行)采矿过程之前。这是因为这些评审通常简短非正式文本写的非专家,经常包含拼写错误,语法、使用nondictionary词汇缩写和首字母缩写等常见的术语,在标点符号的错误,不正确的大小写,等等。

因为我们需要执行的词类在下一阶段使用语言解析器我们执行清理任务,比如spell-error校正使用标准字处理器,句子边界检测(12),和重复的标点符号合并8]。语法正确的句子结尾预定义的标点符号如句号(.)、问号(?),或感叹号(!)。句子边界检测涉及到各种任务如识别结束句子的基础上正确的标点符号和解释清楚句号(。)从小数点和缩写的结局(例如,”教授。”、“经纪”)。我们每一个新句子的第一个字母大写。博客有时过度强调标点符号。在这种情况下,重复的象征是合并到单个事件(8]。例如,审查发布的博客可能阅读如下:

“显示有点参差不齐的! ! !”

预处理后,会读句子如下:

“显示有点参差不齐的!”

在上面的句子中,第一个字母大写和重复的感叹号(! ! !)合并,这样它只发生一次(“!”)。

因此,预处理步骤自动生成句子可以解析的语言解析器。此外,产品评论常常引用相关域不能缩写词和首字母缩略词标准语言词典中找到。这些不能被认为是拼写错误。所以,为了使我们的系统更加容错我们也生成一个特定领域资源,频繁发生的(缩写词和首字母缩略词47)增加标准词词典。如果nondictionary词经常出现在审查数据集,它是由人类专家检查和添加到域资源如果发现相关。例如,表1显示了部分缩写的列表,从我们的用户评论中提取数据集的“智能手机”的产品。

3.2。特性生成阶段

在这个阶段,我们生成的特性集清理审查意见挖掘的句子生成的预处理阶段。因为拼写和标点符号错误已被移除和句子边界已经明确指出,我们现在使用链接解析这些句子语法解析器(35]。解析器输出POS(词类)标记的输出。常出现名词(N)和名词短语(NP)被视为特性,而形容词或副词修饰符描述他们被视为意见词或描述符(8]。另外我们也考虑任何语言树篱前描述符。例如,考虑下面的评论句子了“智能手机”产品:

“通话质量非常好的和导航是舒适但身体有点脆弱。”

当这个评论句子语法解析器解析使用链接,我们得到一个输出

“调用。[n]质量。[n]。v][极好。和导航。[n]。[v]舒适。但身体。[n]。v)有些脆弱的[a]。”

在上面的句子中,[. ncn]表明名词,(。)表示形容词,(.v)指示动词。因此,“通话质量”可以被解释为一个名词特性描述的形容词描述符“好”。同样的,“导航”和“身体”特征描述符所描述的吗“舒适”和“脆弱,”分别。此外,描述符”好”之前是集中器对冲吗“非常”和描述符”脆弱的“是之前扩张器对冲”某种程度上,“虽然描述符“舒适”没有前对冲在这个复习句子。

开采的特性集列表在FOLH表(用语言对冲功能取向表)。表2显示了FOLH表条目的评论在最频繁从用户评论的功能“智能手机”产品。

FOLH表存储产品特性以及相对应的描述符和修改对冲功能挖掘训练集的评论。例如,考虑表中的第一个元素2。它表示语言变量“通话质量”是一个智能手机功能。这个特性可以承担模糊值像“好”,“优秀”,或“令人满意的”,有一个积极的极性,或者它可以承担模糊值“穷”和“坏”的负极性。此外,模糊值的强度可以增加了集中器的语言描述特性对冲,如“很”、“非常”或减少了扩张器语言篱笆“稍微”和“几乎没有。“情绪极性逆变器能够逆转的树篱”不”和“没有”。

经常发生语义词序列被视为多字特征(8,38- - - - - -41]。例如,在前面的例子中,“通话质量”是一个多字的特性。我们使用的多字分解策略的方法39),为特征提取,因为它需要修剪Apriori-based相比,提高了分类精度和seed-set摘要方法(8]。相应的描述符的方向和初始人气值确定使用SentiWordNet工具(2,8,33,45]。例如,SentiWordNet得分形容词”脆弱的”(用于描述身体在智能手机评论句子)是由三联体(P: 0, O: 0.375 N: 0.625)表明其积极、客观,负分数。因为负面情绪值最高的三联体,”脆弱的−1“被赋予一个极性的方向和初步表明消极情绪强度值“0.625”用于下一阶段。

FOLH表中,语义相似的功能是由人类专家联合在一起,以避免冗余和得到一个更准确的价值发生频率(8]。重要的是要注意,一些缩略词(例如,高清视频,液晶屏幕,等。)确定在预处理阶段实际上是多字的特性,因此添加到功能集。FOLH表用于下一阶段计算的总体情绪评分用户评论和分类。以来对冲是通用的术语,可以结合任何功能描述符,一个统一的树篱列表(即三种类别。、修饰符、集中器和扩张器)准备。

3.3。模糊意见分类阶段

在这个阶段我们执行细粒度分类用户的评论。的评论被归类为非常积极的,积极的,中性,负的,或非常消极。我们分类一个新的用户评论基于其模糊情绪得分的计算需要三个步骤:(1)提取特征,相关的描述符,和树篱审查基于FOLH表查找,(2)识别特征描述符的极性和初始值基于SentiWordNet分数,和(3)计算整体情绪评分使用模糊函数将语言对冲的效果。

前两个步骤执行部分的解释3.2。正如前面所讨论的,我们考虑一个特征描述符的SentiWordNet分数作为其初始模糊评分。如果描述符前对冲,其修改模糊评分计算使用

类似于枝的命题10),如果对冲是一个集中器,我们选择这给我们修改模糊集中器分数显示(2对冲是一个扩张器),而如果我们选择这给我们修改模糊扩张器分数显示(3):

让我们回顾一下智能手机评论句子“身体是脆弱的。”节中解释3.2描述符,最初的情绪得分“脆弱”获得使用SentiWordNet。如果这个描述符之前集中器语言对冲,例如,“非常脆弱,”然后修改模糊评分获得使用(2),。同样,如果这个描述符前面都有一个扩张器语言对冲,例如,“有些脆弱,”然后修改模糊评分获得使用(3),。因此,强度级别的描述符的基础上调整语言对冲,每当这样的树篱中复习一下句子。

图2描述了应用模糊语言对冲的影响如集线器和扩张器按(2)和(3),分别。

提出了模糊函数有几个理想的属性如下所列。

属性1。考虑如果,和。

属性2。考虑。

财产3。考虑。

让和表明最初的情绪特征描述符的值被修改使用提出了模糊语言对冲功能。从房地产1它变得明显,集中器和扩张器模糊函数是严格增加间隔。此外,所显示的属性2,扩张器函数减少输入情绪变量的值而集中器功能增加它的价值。财产3表明,即使应用模糊函数的输出值在规范化的范围。

让代表产品的完整的特性集。假设一个用户评论评论的一个子集的特性集,进一步让代表的子集由集中器之前或扩张器语言对冲,而代表的子集不是之前这些篱笆。因此,和。

现在,平均模糊情绪得分计算中所示

在(4),分子是来自第一项(1),占对冲的描述符已被修改(集中器或扩张器适用),而第二项的分子占其余的描述符。术语“”表明的极性th特征描述符,需要从FOLH表抬头。如果极性为正,那么它的价值,如果极性为负,其价值是−1。请注意,(1)- (3)只适用于集中器和扩张器树篱。如果有一个“变频器”对冲(例如,“不”)前一个特征描述符,它是占仅仅通过逆转极性指示器的价值””。因此一个逆变器对冲只改变情绪词的取向,而不会影响它的大小。

的价值”“计算使用(4)范围。我们进一步规范化这个值使用min-max正常化(48将它映射到范围。在应用min-max规范化”,“我们得到归一化模糊偏好价值””(),在

曾经的价值计算,认为类使用以下规则集可以确定:如果和,然后= "非常负面,"如果和,然后= "负面,"如果,然后=“中性”,如果和,然后= "积极"如果和,然后=“非常积极”。

情感分类的准确性交办的任务是通过对比验证类我们看来矿工与星级用户分配的审核。下一阶段讨论了实证评估我们的方法。

4所示。实证评估和结果

本节介绍了我们的意见挖掘策略的经验评估的结果。为了评估我们的方法中,我们使用一个数据集超过3000用户的产品评论爬从不同的网站。审查数据库包括用户评论(即四种类型的产品。、平板电脑、电子书阅读器,不同品牌的智能手机和笔记本电脑)。我们选择的网站,除了审查文本,用户也给他们一个等级(1 - 5星)审查。我们用30%的评论数据库作为训练集和70%的测试集,解释部分3.1和3.2,我们首先审查文本进行预处理,提取产品功能和使用的训练集生成FOLH表用户产品评论。然后我们在测试集上执行分类评论使用方程和规则集派生的部分3.3。user-assigned五星级评级作为基础来评估的准确性提出的意见挖掘系统分类完成后。重要的是要注意,与文本分类器基于朴素贝叶斯和支持向量机监督机器学习方法,基于功能特性的方法不需要标记训练集进行分类。

一旦建立了意见挖掘系统的可靠性,它可以用来自动从用户评论中提取固执己见的句子,执行细粒度的分类,并产生整体或特点比较产品的总结。例如,图3描述了整体细粒度的信心基于分类比较总结两个模型的智能手机。很明显从图3那“智能手机1”更受用户的欢迎,因为它相比具有更强的正面评价吗“智能手机2。”

图4描绘了两个智能手机产品的部分特点的比较,基于一些最经常评论的功能,分类粒度降低来提高可读性。在这个例子中,featurewise比较产品汇总生成的考虑积极的和是负的。

我们评估我们的意见挖掘系统的效率当用于二进制分类以及细粒度的情绪。评估我们的方法的有效性,将模糊语言对冲,我们比较它与其他两个方法:(1)价点调整方法(13,14)和(2)签证官和内涵的模糊调整方法16]。

价点调整的方法是一个简单的对冲是波兰尼提出的调整方法和Zaenen [13]。这种价调整的方法也被使用的肯尼迪和Inkpen评级影评(在他们的系统14]。根据价点调整方法,一切积极情绪方面给出的初始或基础值2 (13]。如果这学期之前集中器(增强)在同一个词的价值变成3,而如果是之前一个扩张器(减光器)其价值就变成了1。同样,所有负面情绪方面给出一个基本的价值−−2,调整值1和−3如果之前减光器或增强树篱,分别为(13,14]。

签证官和内涵提出了模糊调整功能(16)合并对冲的效果。他们认为是对冲的五类(增加、减少,反,反增加,转化减少),并为每个类别提出了模糊函数(16]。

基于功能的产品评论的分类方法是增强三个对冲调整方法及其分类精度比较,当应用于二进制的任务以及细粒度的情感分类的产品评论。三种方法的比较结果列在下表中3。

它可以观察到从表3所有三种方法给可接受的精度(超过82%)用于二进制分类的用户评论时情绪极性是归类为“积极的”或“消极的。“然而,我们建议的方法执行二进制分类准确率更高的平均(89%)比其他两种方法。

当用于细粒度的分类,所有三种方法在精度恶化。这是可以理解的因为情绪分类增加类别的数量往往会导致更多的错误数量相邻边界附近的类(例如,之间“非常消极的”和“负面”)。在这里,我们建议的方法被证明是更健壮的比其他两种方法。实证结果列在下表中3表明,方法1的准确性下降了大约11%,而第二种方法的准确性下降了大约6%的测试数据集时用于细粒度分类输出类的数目增加。相反,我们建议的方法显示只有3%精度的下降。我们的方法给出了高精度超过86%时用于细粒度的复习情绪分类和明显优于其他两种方法。因此,提出的意见挖掘系统成功地结合语言树篱和执行情绪分类的效果评价与可接受的精度。

目前我们已经考虑所有在线评论的同等效力在执行意见挖掘。然而,在未来我们希望构建一个增强的意见挖掘系统计算的重量意见通过建立其真实性。在一些博客,用户的初始或基地评审是常常被其他读者只需点击一个同意/竖起大拇指明示协议或象征不同意/拇指向下符号表达不同意见。有时经其他评论家的评论进一步评论,形成连锁的评论。上执行意见挖掘这样的连锁店可以建立真实性最初的审查。例如,一个虚假的评论写的一个竞争对手诋毁竞争对手的产品将获得几个“不同意“其他读者的评论。恶搞的评论也可以危及一个在线购物网站的推荐系统。在未来,我们希望提高我们的意见挖掘系统考虑此类二次评论完善基地的重量看来,这反过来又可以用来生成一个可靠的网上购物者的“推荐系统”。

5。结论

实证结果表明,文中提出的意见挖掘系统执行二进制和细粒度的情绪分类精度高的用户评论。拟议的功能模拟模糊语言树篱可以成功纳入情绪分类的任务。此外,我们的方法明显优于其他当代方法尤其是情绪分类的粒度的任务是增加。

在未来,我们希望建立一个先进的意见挖掘系统的能力评级基于采矿的用户评论意见的真实性线程的次要的评论家。

利益冲突

作者宣称没有利益冲突有关的出版。