`
zhaolei415
  • 浏览: 166268 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

solr/lucene影响分数的因素

阅读更多
Lucene文档得分计算原理:
首先要理解下文档与词条的向量空间
我们先来说下文档(document)和其中包含的词条(term)之间的关系,对于每篇文档它是由词条组成的因此可以表示成一个向量D(term1,term2,......,termn)。我们假设有两篇文档同时出现了term1和term2,那么我们用一个二维坐标系来表示文档和词条之间的关系。如下:


在上图中文档1出现term1共3次term21次,文档2出现term1一次出现term2三次,所以可以用D1(3,1)和D2(1,3)对这两个文档来表示,按照上面的分析一个包含了N个term的索引库可以看成是N维向量空间,每一个文档均为其中的一个向量,每一个词条都是向量空间中的一个轴。这样我们就是知道如果两个文档之间的夹角越小他们之间的相似性越高,现在我们如果要对term2进行检索的话,首先把它表示为Q(0,1),我们计算得出它与文档2的夹角小于文档1的夹角,因此这次检索,文档2的分值要高。

影响Lucene的文档得分因素:
(1)tf(term Frequency)词条频率,它表示检索的词条在某个文档中总出现的次数。在lucene中他的值是真实频率的平方根值。
(2)idf(Inversed Document Frequency)反转文档频率
具体计算式:
(float)(Math.log(numDocs/(double)(docFreq+1))+1.0)

其中docFreq当前检索词条的文档总数,numDocs索引中的文档的总数
(3)boost
boost是建索引的时候对每一个Filed设置的一种激励因子,默认值为1.0
(4)lengthNorm
他和boost一样也是在建立索引的时候的长度因子。
一个Filed内的词条越多他的长度因子越小,该词条所在的文档的得分也就越低。

最后一个因素对应到solr是schem.xml中filed的 omitNorms属性,如果我们想要这个长度因素起作用需要设置 omitNorms="false"
我们设置
<field name="desc" type="text" indexed="true" stored="true" omitNorms="true"/>

返回结果如下:
<result name="response" numFound="5" start="0" maxScore="2.1541507">
<doc>
<float name="score">2.1541507</float>
<str name="desc">高级工程师</str>
<str name="id">001</str>
</doc>
<doc>
<float name="score">2.1541507</float>
<str name="desc">工程师</str>
<str name="id">002</str>
</doc>
<doc>
<float name="score">2.1541507</float>
<str name="copname">百度</str>
<str name="desc">初级工程师</str>
<str name="id">003</str>
<str name="jobname">销售经理</str>
</doc>
<doc>
<float name="score">2.1541507</float>
<str name="desc">十分牛逼的工程师</str>
<str name="id">004</str>
</doc>
<doc>
<float name="score">2.1541507</float>
<str name="desc">好工程师</str>
<str name="id">005</str>
</doc>
</result>

我们设置如下:
<field name="desc" type="text" indexed="true" stored="true" omitNorms="false"/>

返回结果如下:
<result name="response" numFound="5" start="0" maxScore="1.3463442">
<doc>
<float name="score">1.3463442</float>
<str name="desc">工程师</str>
<str name="id">002</str>
</doc>
<doc>
<float name="score">1.0770754</float>
<str name="copname">百度人才</str>
<str name="desc">高级工程师</str>
<str name="id">001</str>
<str name="jobname">java工程师</str>
</doc>
<doc>
<float name="score">1.0770754</float>
<str name="desc">初级工程师</str>
<str name="id">003</str>
</doc>
<doc>
<float name="score">1.0770754</float>
<str name="desc">好工程师</str>
<str name="id">005</str>
</doc>
<doc>
<float name="score">0.9424409</float>
<str name="desc">十分牛逼的工程师</str>
<str name="id">004</str>
</doc>
</result>










  • 大小: 10.4 KB
1
1
分享到:
评论

相关推荐

    solr/ext/ 里面的jar包

    For more information, see: http://wiki.apache.org/solr/SolrLogging 原因,可能是你的solr服务器版本问题, 1、下载最新的solr包,比如:solr-5.3.1.zip 2、解压后找到,ext文件夹,把这个文件夹下面的所有jar...

    lucene,solr的使用

    lucene,solr的使用lucene,solr的使用lucene,solr的使用lucene,solr的使用lucene,solr的使用lucene,solr的使用lucene,solr的使用lucene,solr的使用lucene,solr的使用lucene,solr的使用lucene,solr的使用

    apache lucene solr 官网历史版本 免费下载地址

    http://archive.apache.org/dist/lucene/java/ 这个是lucene的历史版本 http://archive.apache.org/dist/lucene/solr/ 这个是solr的历史版本

    配置好的solr启动环境

    完全配置好的solr容器,直接修改web.xml设置一下solr core路劲即可

    paoding-webx3-solr-lucene

    paoding-webx3-solr-lucene

    xmljava系统源码-IKAnalyzer2017_6_6_0:IK中文分词,兼容solr/lucene6.6.0,优化数字和英文搜索

    Solr作为搜索应用服务器,我们在使用过程中,不可避免的要使用中文搜索。 以下介绍solr的第三方分词器IKAnalyzer。 注:下面操作在Linux下执行,所添加的配置在windonws下依然有效。 运行环境 Solr:6.6.0 系统 : ...

    IKAnalyzer2012FF_u1.jar

    solr-4.10.3下载地址:http://archive.apache.org/dist/lucene/solr/4.10.3/ 具体操作如下: 引用 1.在/opt/cloudera/parcels/CDH/lib/solr/webapps/solr/WEB-INF创建classes目录 2.把IKAnalyzer.cfg.xml 和 ...

    solr_lucene3.5_lukeall-3.5.0.jar.zip

    solr_lucene3.5_lukeall-3.5.0.jar.zip

    solr -8.11.1.zip 文件

    solr -8.11.1.zip 文件

    solr_solr_lucene_

    Solr是一个高性能,采用Java开发,基于Lucene的全文搜索服务器。同时对其进行了扩展,提供了比Lucene更为丰富的查询语言,同时实现了可配置、可扩展并对查询性能进行了优化,并且提供了一个完善的功能管理界面,是一...

    Apache+Solr+Reference+Guide 2018.pdf

    Solr is free to download from http://lucene.apache.org/solr/. Designed to provide high-level documentation, this guide is intended to be more encyclopedic and less of a cookbook. It is structured to ...

    solr5.4.0完整包

    Solr 依存于Lucene,因为Solr底层的核心技术是使用Lucene 来实现的,Solr和Lucene的本质区别有以下三点:搜索服务器,企业级和管理。Lucene本质上是搜索库,不是独立的应用程序,而Solr是。Lucene专注于搜索底层的...

    Solr Elasticsearch lucene 搜索引擎

    Solr Elasticsearch lucene 搜索引擎

    solr企业级搜索引擎准备阶段

    Solr 运行在Java的Servlet容器上,诸如: Tomcat or Jetty。 Solr 是一个免费的开源搜索引擎免费软件。 Solr 是一个基于Lucence的开源项目,可以通过下面网址下载。...http://archive.apache.org/dist/lucene/solr/

    Apache Solr lucene 搜索模块设计实现

    Apache Solr lucene 搜索模块设计实现 Solr 模块 架构 lucene 搜索

    solr-5.2.1-src.tgz源码

    http://lucene.apache.org/solr/mirrors-solr-latest-redir.html 3. 用Ant把Solr源码转换为MyEclipse Web项目 进入Solr源码的根目录 在cmd中输入ant eclipse, 按回车后你将会看到如下画面, 如果你的c:\Users\...

    solr-5.2.1.part1.rar 编译第1部分,共2部分

    http://lucene.apache.org/solr/mirrors-solr-latest-redir.html 3. 用Ant把Solr源码转换为MyEclipse Web项目 进入Solr源码的根目录 在cmd中输入ant eclipse, 按回车后你将会看到如下画面, 如果你的c:\Users\...

    LoremIpsumSearch:包含与 lucene 和 solr 一起使用的搜索算法

    LoremIpsum搜索 包含与 lucene 和 solr 一起使用的搜索算法... export CLASSPATH="&lt;lucene&gt;/lucene/replicator/lib/*:&lt;nutch&gt;/build/*:&lt;nutch&gt;/build/lib/*:&lt;lucene&gt;/solr/dist/*:&lt;lucene&gt;/solr/ dist/solrj-lib/*:*:.

    Solr Enterprise Search Server

    它的官方网址在http://lucene.apache.org/solr/ 。solr需要运行在一个servlet 容器里,例如tomcat5.5。solr在lucene的上层提供了一个基于HTTP/XML的Web Services,我们的应用需要通过这个服务与solr进行交互。

Global site tag (gtag.js) - Google Analytics