温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

lucene的全文检索是什么

发布时间:2021-12-23 09:21:34 来源:亿速云 阅读:103 作者:iii 栏目:云计算

本篇内容介绍了“lucene的全文检索是什么”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!

定义:Lucene 是一个高效的,基于 Java 的全文检索库。所以在了解 Lucene 之前要费一番工夫了解一下全文检索。

那么什么叫做全文检索呢?这要从我们生活中的数据说起。我们生活中的数据总体分为两种:结构化数据 和 非结构化数据。

  • 结构化数据: 指具有固定格式或有限长度的数据,如数据库,元数据等。  

  • 非结构化数据:指不定长或无固定格式的数据,如邮件, word 文档等。

当然有的地方还会提到第三种,半结构化数据,如 XML,HTML 等,当根据需要可按结构化数据来处理,也可抽取出纯文本按非结构化数据来处理。非结构化数据又一种叫法叫全文数据。按照数据的分类,搜索也分为两种:

  • 对结构化数据的搜索:如对数据库的搜索,用 SQL 语句。再如对元数据的搜索,如利用
    windows 搜索对文件名,类型,修改时间进行搜索等。

  • 对非结构化数据的搜索:如利用 windows 的搜索也可以搜索文件内容,Linux 下的 grep
    命令,再如用 Google 和百度可以搜索大量内容数据。

是对非结构化数据也即对全文数据的搜索主要有两种方法:

  • 一种是 (Serial Scanning) 顺序扫描法:所谓顺序扫描,比如要找内容包含某一个字符串的文件,就是一个文档一个文档的看,对于每一个文档,从头看到尾,如果此文档包含此字符串,则此文档为我们要找的文件,接着看下一个文件,直到扫描完所有的文件。如利用 windows的搜索也可以搜索文件内容,只是相当的慢。如果你有一个 80G 硬盘,如果想在上面找到一个内容包含某字符串的文件,不花他几个小时,怕是做不到。Linux 下的 grep 命令也是这

  • 一种方式。大家可能觉得这种方法比较原始,但对于小数据量的文件,这种方法还是最直接,最方便的。但是对于大量的文件,这种方法就很慢了。有人可能会说,对非结构化数据顺序扫描很慢,对结构化数据的搜索却相对较快(由于结构化数据有一定的结构可以采取一定的搜索算法加快速度),那么把我们的非结构化数据想办法弄得有一定结构不就行了吗?这种想法很天然,却构成了全文检索的基本思路,也即将非结构化数据中的一部分信息提取出来,重新组织,使其变得一定结构,然后对此有一定结构的数据进行搜索,从而达到搜索相对较快的目的。这部分从非结构化数据中提取出的然后重新组织的信息,我们称之索引索引索引。这种说法比较抽象,举几个例子就很容易明白,比如字典,字典的拼音表和部首检字表就相当于字典的索引,对每一个字的解释是非结构化的,如果字典没有音节表和部首检字表,在茫茫辞海中找一个字只能顺序扫描。然而字的某些信息可以提取出来进行结构化处理,比如读音,就比较结构化,分声母和韵母,分别只有几种可以一一列举,于是将读音拿出来按一定的顺序排列,每一项读音都指向此字的详细解释的页数。我们搜索时按结构化的拼音搜到读音,然后按其指向的页数,便可找到我们的非结构化数据——也即对字的解释。这种先建立索引,再对索引进行搜索的过程就叫全文检索(Full-text Search)。下面这幅图来自《Lucene in action》,但却不仅仅描述了 Lucene 的检索过程,而是描述了全文检索的一般过程。

lucene的全文检索是什么

全文检索大体分两个过程,索引创建(Indexing)和搜索索引(Search)。
 索引创建:将现实世界中所有的结构化和非结构化数据提取信息,创建索引的过程。  
 搜索索引:就是得到用户的查询请求,搜索创建的索引,然后返回结果的过程。  
于是全文检索就存在三个重要问题:

  • 1.  索引里面究竟存些什么?(Index) 

  • 2.  如何创建索引?(Indexing) 

  • 3.  如何对索引进行搜索?(Search) 

“lucene的全文检索是什么”的内容就介绍到这里了,感谢大家的阅读。如果想了解更多行业相关的知识可以关注亿速云网站,小编将为大家输出更多高质量的实用文章!

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI