知识图(公斤)作为一个受欢迎的语义网络得到了广泛的应用。它提供了一个有效的方法来描述语义实体和它们之间的关系通过扩展本体实体中的水平。本文主要关注公斤传统地质领域的应用,提出了一种新颖的方法来构造公斤。基于自然语言处理(NLP)和数据挖掘(DM)算法,我们分析这些关键技术设计一个公斤对地质资料,包括地质知识提取和语义关联。通过这个典型地质本体抽取大量的地质资料和开放的关联数据,语义实现互连,公斤地质资料的框架设计,应用系统的公斤向构造地质资料,并相应地完成地质信息的动态更新。具体地说,无人监督的智能学习方法使用相关公开数据纳入地质文件预处理,最终生成一个地质领域的词汇。此外,一些公斤系统中的应用情况,提供显示的有效性和效率提出了公斤智能学习方法。
地质数据的各种数据和信息积累的地质研究工作和实践活动。一般来说,地质资料的类型多种多样,包括地质资料、地质书籍、地质信息和期刊,物理标本,电子文件数据(
随着经济和社会领域的地质调查、地质数据共享服务已经成为一个重要的工具来衡量社会和企业管理的水平,这是重要的在确保地质工作的可持续发展。地质资料的特点包括增加体积,复杂类型,长的响应时间。针对地质应用程序问题、地质数据的智能分析和深度挖掘可以减少重复工作和地质调查的风险
近年来,知识服务基于知识图(公斤)技术和语义网的搜索技术已经成为信息服务的一个研究热点。在这种情况下,公斤应运而生(
在这篇文章中,公斤施工技术应用于地质实现地质数据的智能分析和深度挖掘。知识通过无监督学习方法开放数据源,我们不仅实现自学习过程一组文件,但也形成一个地质学术语表并完成建设公斤。通过研究这一主题,促进地质资料信息和社会服务具有重要价值的实现智能地质调查。
本文的贡献如下:
本文的其余部分组织如下。部分
近年来,随着需求的增加地质数据生产单位和社会大众,地质资料服务正面临“数字化”和“社会化的双重要求。“有必要提高地质资料服务的内容和方法,促进政府部门适应形势的发展,实现档案的转换结果服务产品(
要求维护地质资料的类型和数量的增长与长期积累的数据。它包括各种类型的电子文件数据,例如文件、地图、数据库(地图数据库、空间数据库和属性数据库)、图片、图表、视频、音频,这可能是结构化、半结构式,和非结构化。由于技术原因,这种存储方式使得数据查询、统计、更新,和其他操作的数据不仅效率低下,而且也不利于应用程序,如检查、查询、和采矿,导致低能力的数据服务。因此,它是重要的,探索如何应用大数据的概念和技术组织大规模的地质资料在地质领域的有效,实现相应的服务
一般来说,复杂地质非结构化数据的多样化的碎片是最显著的特征之一。主要有三个内容,反映到数据分析和挖掘处理,内容包括建立索引库,搜索和聚类推荐(
公斤也被称为科学知识图,知识域可视化和知识领域的地图。它是一系列的各种图形显示科学知识的发展进程与结构关系(
大多数作品关于公斤源自谷歌公斤。它本质上是一个语义网络。节点表示实体或概念和边缘表示实体之间的各种语义关系和概念。此外,公斤的动机是由一系列的实际应用,包括语义搜索、机器回答,信息检索,电子阅读,在线学习。现在,一些公司,比如百度,搜狗,发起了自己的公斤。
我们的研究人员已经开发出许多应用程序公斤左右,说明不同的观点在他们的过程。例如,在视觉中国科学文献的分析的过程中,它显示了时间序列分布、期刊分布、作者分布的科学文献在过去30年里(
除了上面的应用程序中,许多学者也开展了一些工作在公斤。钩表明公斤(即有四个目的。,d我scovery, understanding, communication, and education) and six aspects of application (i.e., microcosmic display of specific areas, macroscopic visualization of subject, assisting in the education course teaching, saving document knowledge in coordination, facilitating the use of digital library, and displaying knowledge dissemination) [
公斤应用近年来迅速增加,涵盖自然科学和社会科学的一些领域,并显示出其他学科渗透的倾向。画公斤和矿业公斤已经形成了一个高成熟的方法。然而,公斤的功能没有得到充分应用,和应用程序仍然需要进一步加强。到目前为止,只有很少有人注意到地质数据字段。因此,它是必要的和重要的考虑这些特定对象。
公斤的建设对地质资料包含两个逻辑组件:知识提取和知识管理。前者主要通过无监督学习相应的地质知识处理和包括5个步骤,分词的频率统计,网络爬虫,提取关键字提取和关系。后者基本上是由两部分组成:知识图的存储和检索。具体流程如图
知识的逻辑结构对地质资料图施工。
知识提取的一个关键步骤的建设知识图,以及地质处理的文档。知识知识提取在本文中,通过一个无监督学习方法基于开放源码,和地质领域词汇和知识图将通过自动学习形成的大量的地质资料。流动的知识提取如图
流动的知识提取。
知识提取有三个主要步骤,包括数据源分析、实体/概念提取,提取的关系。
尽管百科全书的内容与网页的形式存在,仍有大量的结构化信息。因为所有的百科全书有自己的分类系统,分类标签用于组织大量的条目。一般来说,每个条目类别标签,标签可以用于自己的类型。另外,大多数的条目有多个标签。例如,“史蒂夫·乔布斯”的分类标签可能是“20世纪的美国商人,”“美国亿万富翁”,“美国计算机行业的人,”和其他维基百科。
本文主要关注中国信息网络百科全书。维基百科被认为是互联网最大的和最受欢迎的参考书。然而,中国在维基百科的内容并不完美。一方面,条目的总数是不够的。在维基百科上,文章的内容也相对较短,其中部分是直接从其他语言翻译,这是缺乏确切地表达在中国。因此,我们使用Baike.com而不是维基百科作为网络爬虫的数据源。
实体/概念提取主要从这两个数据源。我们可以过滤掉实体或直接通过结合地质信息的概念与分类标签文本处理后的Baike.com。因此,实体/概念提取包括四个自下而上的步骤:分词,频率统计信息,网络爬虫,关键字提取。
HanLP技术可用于分词,停止词过滤,和频率统计信息。出于TextRank算法,本文中使用分词如下。首先,我们使用标准HanLP记号赋予器来处理文件,分为不同词性的单词。其次,自定义数据字典设计和扩展阻止列表。最后,我们过滤掉这个词与检索内容基本无关,只保留指定的词性TextRank算法的方法。与此同时,我们也过滤掉停止词,从而达到关键字提取的影响。
在网络爬虫方面,我们主要考虑爬在互联网百科全书条目的分类标签自动化工具硒,可以打开HtmlUnit浏览器,搜索条目,并通过编程访问类标签信息定制。具体来说,在线百科全书爬虫的方法如下。当我们想要得到的信息“<我nline-formula>
关键字提取,根据地质字典分类标签,我们可以完全确定分割结果中的词属于地质关键词。通过维基百科分类标签的统计特征,我们提取一些关键词,包括地理、采矿、海洋、摇滚、水文、环境、自然灾害、生物学、城市,空气、油、道路、植物、能源、冶金、和公民。我们把所有爬分类标签映射集合。通过调用containsKey地图的方法,我们可以确定收集到的对象是否包含关键词,如果答案是肯定的,这个对象被定义为一个地质实体。
关系提取的目的是提取nontaxonomic关系数据挖掘和关联规则分析的网络百科全书。两个地质术语之间的相关性是通过关联规则分析。和术语的类别关系是通过爬行网络百科全书。
关联规则的基本原理是,如果两个概念或实体经常出现在相同的单位(例如,文档、一个段落或句子),我们可以确保它们之间存在某种关系。我们不关心具体的两个概念之间的语义关系,但它们之间的相关程度。因此,判断两个概念之间的关联程度通过同现分析文档中是更重要的。与处理文档的数量的增加,将会有更高的相关程度如果这两个概念经常出现在一起。这种方法也是出于人类阅读和学习的过程。然而,这种方法只适合用于处理大量的文件;当文档的数量很小,这种方法将是低效的。
同时,爬行的互联网百科全书的目的是获取概念和实体之间的关系,利用开放数据源的在线百科全书。正如上面提到的,这里我们主要考虑范畴的关系。
使用上面的两个方法,我们关系提取的规则如下。相关程度而言,我们关系的程度<我nline-formula>
知识管理考虑如何展示了知识可视化的方式通过上面的步骤。主要技术方法是数据库存储和检索。
考虑到地质领域的实际需要,系统使用MySQL数据库作为后台数据库。MySQL数据库是一个最好的在web应用程序中,关系数据库管理系统具有体积小、存储和检索速度快,成本低。
在我们的系统中,实体和关系被处理地质文档存储在一个特殊的数据库。通过JDBC技术,后台数据库操作,如CRUD,是允许的。有五个表在我们的数据库中。表“文章”存储文档处理的信息,包括标识、名称、添加时间、本地存储路径的文件。表“单词”存储的信息过滤掉的话从分割的结果,包括标识、内容、频率,和单词的分类标签。表“re_words_words”商店两个地质条件之间的关联信息。
这些在我们的后台数据库表的属性表
后台数据库的属性表中。
| 表名 | 属性1 | 属性2 | 属性3 | 属性4 | 属性5 |
|---|---|---|---|---|---|
| “文章” | ID | 内容 | 日期 | 路径 | - - - - - - |
| “单词” | ID | 内容 | 频率 | 标签 | - - - - - - |
| “re_words_articles” | ID | ID1 | ID2下 | 频率 | - - - - - - |
| “re_words_words” | ID | ID1 | ID2下 | ID3 | 数 |
| “字典” | 的名字 | 标签 | - - - - - - | - - - - - - | - - - - - - |
检索后只能由用户将从文档中提取的知识存储在我们的数据库中。基于B / S模式工作,浏览器发出post请求用户输入搜索词后的后端服务器。与此同时,后端服务器响应请求,提交的话,需要渲染节点的数目(默认值设置为20)。检索词将检索的关键节点和在我们的数据库中。然后,它将结果返回给浏览器。返回的内容包括ID、内容和分类标签的节点和相关文档的ID。
公斤的后台管理系统旨在促进的过程文档和数据库对用户的操作,主要包括登录页面、地质资料处理页面,页面和专家干预。
两种登录模式可以选择当用户进入登录页面在浏览器中输入URL。用户可以进入地质文档处理页面如果以管理员身份登录。用户也可以输入专家干预如果登录的页面作为一个专家。浏览器提交表单,包括名称,密码和登录模式。随后,用户授权将检查服务器,用户可以输入相关的页面后验证。
在地质资料处理的页面,用户可以输入文档名称和存储路径。和背景模块得到用户提交的表单数据时,点击“提交”按钮。后台模块进入阶段的文档处理和结果存储在后台数据库如果所有这些输入数据是有效的。在页面上的专家干预,专家们有权添加和删除两个词之间的相关性。例如,当添加一个相关性,专家们在输入框中输入这两个词并点击按钮“提交。“浏览器提交这两个词后台模块,和后台模块法官它们之间是否有关联。如果协会不存在,后台模块添加一个相关性,定义为“expert-defined。”
公斤的原型系统向地质大数据设计和相应的使用B / S架构和实现HTTP协议,其中包括自然语言处理(NLP),数据挖掘,web应用程序开发和其他相关的技术。涉及的关键技术和解决方案在系统开发的过程描述如下。
HanLP Java工具包由一系列的模型和算法,其目标是促进NLP的应用程序在生产环境中。HanLP支持中文分词。它的功能包括<我nline-formula>
使用上面的组合图,我们可以计算出每个单词的重量节点。然后,TextRank算法的迭代公式如下:
用户定义的字典。
我们添加了大量的单词,可以帮助地质文件自定义的分词词典有效。这里,“CustomDictionary”包括21742年地质,31926年“OrganizationDictionary”包括机构名词,“ChinesePlaceDictionary”包括90558地名,“PeopleNameDictionary”包括50192个人的名字,和“ModernChineseDictionary”包括207964现代中国更多的单词。其中,“CustomDictionary”是一个字典定义为全球用户可以添加,删除和影响所有分词。
我们的分析的基础上,上面提到的,它是有效和高效的在线百科全书爬虫技术整合到地质资料的处理流程,这需要单词的分类标签通过分词在维基百科。履带的主流方法是使用URL地址实现网可以通过深度或广度优先搜索策略。这里的网站,我们需要爬是固定的(例如,
硒浏览器自动化测试主要用于web应用程序的自动化测试,同时支持所有基于web管理任务自动化。通过将Selenium IDE插件嵌入到浏览器,一个简单的浏览器操作的录制和回放功能可以实现。
应该注意的是,硒提供了一个高度快速和方便的方式来固定网络爬虫。在这里,我们使用硒控制HtmlUnit, Java有虚拟浏览器,自动爬虫的目的。具体过程主要包括打开HtmlUnit浏览器,阅读一个搜索词<我nline-formula>
实现细节的互联网百科全书履带如下:
打开HtmlUnit浏览器:<我talic> 静态最终WebDriver司机= new HtmlUnitDriver ()
打开界面的搜索词<我nline-formula>
定位标签元素:
Java Servlet是一种Java程序,扩展服务器的功能。尽管servlet可以应对任何类型的请求,他们通常实现应用程序驻留在web服务器。这些Web servlet Java与其他动态Web内容的技术,如PHP和ASP.NET。
Servlet通常用于处理和存储一个Java类在Java EE符合Java Servlet API,一个标准的Java类实现响应请求。servlet可以通过任何clientCserver协议进行通信,但是他们常常使用HTTP协议。所以,“Servlet”通常是用作“HTTP Servlet速记。“因此,软件开发人员应该使用一个Servlet将动态内容添加到web服务器通过使用Java平台。生成的HTML内容,但是这可能是其他数据,如XML。servlet可以维护状态会话变量在许多服务器事务通过使用HTTP cookie或url重写。
servlet可以从由JavaServer pages JSP编译器自动生成的。在架构上,JSP可以被视为一个Java servlet的高级抽象。它允许Java代码和某些预定义的行为与静态web标记内容交叉,如HTML,结果页面是在服务器上编译和执行交付文档。在运行时JSP转换为Servlet,每个JSP Servlet缓存直到修改原来的JSP和重用。
servlet可以完成以下任务:
web容器初始化Servlet实例;然后Servlet实例可以读取数据,提供了HTTP请求。
Servlet实例可以创建并返回一个页面动态响应给客户端。
Servlet实例可以访问服务器的资源,如文件和数据库。
Servlet实例可以准备JSP动态数据并创建一个响应与JSP页面。
在这篇文章中,servlet及其主要功能,我们设计在com。servlet包如表所示
servlet及其主要功能。
| Servlet名称 | 关键功能 |
|---|---|
| “Myservlet.java” | 用于检索公斤,它让用户提交的表单数据和检索它们。 |
| “Myservlet2.java” | 用于第二次检索。当点击一些词的页面,用户可以得到这个词的图。 |
| “LoginServlet.java” | 它是用于登录后台管理系统的函数公斤,它得到了用户提交的表单数据并输入响应页面。 |
| “AddServlet.java” | 使用它在页面添加一个关系专家干预。 |
| “DelServlet.java” | 使用时删除关系专家干预页面。 |
| “CoreServlet.java” | 它同时显示中间处理用于地质文件。 |
总之,我们的系统的软件平台和开发环境如下。操作系统Windows 7。编程语言是Java。编程环境是MyEclipse 10。Tomcat + Severlet + JSP Web开发环境。网络爬虫环境硒+ HtmlUnit。
处理一个单一的地质记录如图
处理地质文件。
文档处理使用类似的方法在
一些细分的结果在我们公斤系统如图
一些细分的结果由NLPIR系统北京理工学院(
一些细分的结果。
图的更新版本
一些NLPIR系统分割的结果。
图的更新版本
根据过程(
词频统计结果如图
词频统计的结果。
图的更新版本
图
关键词提取的结果。
结果分类标签爬的互联网百科全书(
网络百科全书爬虫的结果。
图的更新版本
具体检索过程的公斤如图
检索的具体过程。
处理一个地质文档后,检索的结果”<我talic>
变质岩(变质岩)”是在图
处理100年地质文档后,检索的结果”<我talic>
变质岩(变质岩)”是在图
实验结果处理后的地质记录。
实验结果处理后100年地质文档。
数据
从两个检索处理阶段的比较,我们可以看到的结果公斤日益完善,越来越多的文件处理。当处理文档的数量是1,检索结果与检索词几乎没有相关性。然而,当号码是100,我们可以得到实体有非常密切的关系”<我talic> 变质岩(变质岩)”,如“<我talic> 花岗岩(花岗岩)”、“<我talic> 岩浆(岩浆)”和“火山<我talic> 岩(火山岩)。”
此外,我们可以从上面的结果得到以下信息。
前20名地质术语与“<我talic> 变质岩(变质岩)”。
每一个地质术语的分类标签。
这两个单词出现的ID文件。
此外,一些复杂的短语和句子也可以正确处理。例如,当输入“<我talic>
侵入岩和<我talic>
沉积<我talic>
岩(侵入岩和沉积岩),“后台模块可以减少分割成两个字”<我talic>
侵入岩(侵入岩)”和“<我talic>
沉积<我talic>
岩(沉积岩),“检索,得到的术语关系程度与前20名的关键节点。结果如图
搜索几个关键地质词后的实验结果。
类似地,我们可以从上面的结果得到以下信息。
我们可以得到前20名地质术语与“<我talic> 侵入岩(侵入岩)”和“<我talic> 沉积<我talic> 岩(沉积岩)。”
我们可以得到每个地质术语的分类标签公斤。
我们可以得到这两个单词的文档ID出现。
检索两个字的时候,我们可以得到这两个单词的文档出现,达到挖掘隐含的相关文件。
此外,我们可以看到以下几点:
的“<我talic> 侵入岩(侵入岩),“存在”之间的连接线<我talic> 侵入岩(侵入岩)”和“<我talic> 花岗岩(花岗岩)”,这意味着它们之间存在着高度的相关性。然而,之间没有连接线”<我talic> 侵入岩(侵入岩)”和“<我talic> 泥岩(泥岩)”,这意味着它们之间存在一个低相关。
的“<我talic> 沉积<我talic> 岩(沉积岩),“存在”之间的连接线<我talic> 沉积<我talic> 岩(沉积岩)”和“<我talic> 泥岩(泥岩)。“然而,之间没有连接线”<我talic> 沉积<我talic> 岩(沉积岩)”和“<我talic> 花岗岩(花岗岩)。”
地质专业人员知道”<我talic> 泥岩(泥岩)”是一种“<我talic> 沉积<我talic> 岩(沉积岩)”和“<我talic> 花岗岩(花岗岩)”是一种“<我talic> 侵入岩(侵入岩)。“因此,”之间有高度的相关性<我talic> 侵入岩(侵入岩)”和“<我talic> 花岗岩(花岗岩)”以及“<我talic> 沉积<我talic> 岩(沉积岩)”和“<我talic> 泥岩(泥岩)。“所有的结果我们可以看到从100公斤是我们获得学习信息处理后的文档。通过这个例子,我们可以表明我们的公斤系统在大多数情况下可以提供有价值的和准确的信息。更多的文件过程中,我们可以得到更精确的相关性从公斤系统。
当处理地质文档,新的地质术语和分类标签来自网络爬虫。他们被添加在我们扩大地质领域词典。
在我们的实验中,原始地质领域的单词字典是11062。处理100个文档后,地质字典的单词数量是13227。一些地质领域词典的结果在图
地质领域词典。
本文提出了一种新颖的方法来构建公斤对地质资料。该方法使用非监督学习方法与相关公开数据处理地质文件和直接提取知识。因此通过这种方法,我们实现一个有效的自主学习过程文档,形成地质术语表,并完成建设公斤基于文档的技术处理和字典扩大。此外,我们设计一个应用系统的公斤基于B / S模式工作。最后,测试大量的地质资料,取得了一些令人满意的结果。在未来的工作中,针对地质数据的特点,公斤的知识提取方法进一步改进,以得到更准确的实体和关系。
作者宣称没有利益冲突有关的出版这篇文章。
这项工作是支持的部分为公益性行业科研专项资金项目从中国的国土资源部授予201511079和中国国家关键技术研发项目拨款2015 bak38b01。