什么是倒排索引

1,441 阅读2分钟

这是我参与8月更文挑战的第7天,活动详情查看:8月更文挑战

如果❤️我的文章有帮助,欢迎点赞、关注。这是对我继续技术创作最大的鼓励。更多往期文章在我的个人专栏

什么是倒排索引

我们举一个常见的例子:以一本书比喻成 Elasticsearch 搜索引擎, 比较大本的工具书, 如:新华字典;英汉词典;代码大全。首尾都有两部分:

  • 页码 找 内容
  • 关键词 找 页码

图书当中的目录页,页码到页码内容的单词关联 —— 就是正排索引 图书最后的关键字、内容索引页,页码内容 到 页码关联 —— 就是倒排索引

相信看到这里, 对 正排、倒排索引 就有一个大概的印象;那么下面

正排索引 与 倒排索引结构 的 转化, 则更加清晰明了加深理解

微信图片_20210807145554.jpg

倒排索引的核心组成

  • 倒排索引包含两个部分

    • 单词词典 (Term Dictionary),记录所有文档的单词,记录单词到倒排列表的关联关系
      • 单词词典一般比较大,可以通过B +树或哈希拉链法实现,以满足高性能的插入与査询
    • 倒排列表 (Posting List)-记录了单词对应的文档结合,由倒排索引项组成
      • 倒排索引项(Posting)
        • 文档ID
          • 词频TF-该单词在文档中出现的次数,用于相关性评分(score)
          • 位置(Position)-单词在文档中分词的位置。用于语句搜索(phrase query)
          • 偏移(Offset)-记录单词的开始结束位置,实现高亮显示
  • Elasticsearch 的 JSON 文档中每个字段都有自己的倒排索引

  • 可以指定对某些字段不做索引

    • 优点:节省存储空间
    • 缺点:字段无法别搜索

倒排索引演示

POST _analyze
{
  "analyzer": "standard",
  "text": "Mastering Elasticsearch"
}

# 输出:
{
  "tokens" : [
    {
      "token" : "mastering",
      "start_offset" : 0,
      "end_offset" : 9,
      "type" : "<ALPHANUM>",
      "position" : 0
    },
    {
      "token" : "elasticsearch",
      "start_offset" : 10,
      "end_offset" : 23,
      "type" : "<ALPHANUM>",
      "position" : 1
    }
  ]
}


====================================================

POST _analyze
{
  "analyzer": "standard",
  "text": "Elasticsearch Essentials"
}


# 输出:
{
  "tokens" : [
    {
      "token" : "elasticsearch",
      "start_offset" : 0,
      "end_offset" : 13,
      "type" : "<ALPHANUM>",
      "position" : 0
    },
    {
      "token" : "essentials",
      "start_offset" : 14,
      "end_offset" : 24,
      "type" : "<ALPHANUM>",
      "position" : 1
    }
  ]
}

相关阅读