DSL 查询语法

携手创作，共同成长！这是我参与「掘金日新计划 · 8 月更文挑战」的第1天，点击查看活动详情

1. `DSL Query`的分类

查询所有：查询出所有数据，一般测试使用。

例如：match_all
全文检索查询：利用分词器对用户输入的内容进行分词，然后去倒排索引库中匹配

例如：match_query、multi_match_query
精准查询：根据精确词条值查找数据，一般查找的是keyword、数值、日期、boolean等类型字段

例如：ids、range、term
地理查询：根据经纬度查询

例如：geo_distance、geo_bounding_box
复合查询：复合查询可以将上述各种查询条件组合起来，合并查询条件

例如：bool、function_score

2. 查询基本语法

GET /indexName/_search
{
  "query": {
    "查询类型": {
      "查询条件": "条件值"
    }
  }
}

**注意：**查询的语法基本一致，不需要做过多的修改

我们使用查询所有作为例子

# DSL 查询所有
GET /hotel/_search
{
  "query": {
    "match_all": {
      
    }
  }
}

这样即可查询所有信息了。

3. 全文检索查询

全文检索查询：利用分词器对用户输入的条件进行分词，然后去倒排索引库中匹配

例如：match_query、multi_match_query

3.1 `match_query`

基本语法

GET /索引库名/_search
{
  "query": {
    "match": {
      "索引名称": "搜索条件"
    }
  }
}

例子：

通过对搜索条件进行分词，在对应的索引名称中进行搜索，最后得出结果并且返回

这里我们使用了创建索引库的时候创建的 all索引，它包含了酒店的名称、酒店品牌、所在城市、酒店星级这四个索引的内容
```
# DSL 全文检索查询
GET /hotel/_search
{
  "query": {
    "match": {
      "all": "外滩的如家酒店"
    }
  }
}
```

3.2 `multi_match_query`

基本语法

GET /索引库名/_search
{
  "query": {
    "multi_match": {
      "query": "搜索条件",
      "fields": ["索引名称1", " 索引名称2", ...]
    }
  }
}

例子：

通过对搜索条件分词，在fields中对应的索引名称进行搜索，最后得出结果并且返回

GET /hotel/_search
{
  "query": {
    "multi_match": {
      "query": "外滩的如家酒店",
      "fields": ["brand","business","name","city"]
    }
  }
}

总结：

两个查询方式都会进行分词

match_query是根据一个索引进行查询

multi_match_query是根据多个索引进行查询，参与查询字段越多，查询性能越差

建议在创建索引库的时候使用copy_to，在搜索的时候使用match_query

全文检索查询常用于搜索栏

4. 精确查询

精准查询：根据精确词条值查找数据，一般查找的是keyword、数值、日期、boolean等类型字段，不会对搜索条件进行分词

例如：ids、range、term。
- term：根据词条精确值查询
- range：根据值的范围查询

4.1 `term`

因为精确查询的字段搜索是不分词的字段，因此查询的条件也必须是不分词的词条。查询时，用户输入的内容跟自动值完全匹配时才认为符合条件。如果用户输入的内容过多，反而搜索不到数据。

基本语法：

// term查询
GET /索引库名/_search
{
  "query": {
    "term": {
      "索引名称": {
        "value": "搜索条件"
      }
    }
  }
}

例子：

将搜索条件在对应的索引名称下搜索，将结果返回。如果用户输入的搜索条件在对应的搜索名称下不存在，将返回0条数据
```
GET /hotel/_search
{
  "query": {
    "term": {
      "city": {
        "value": "上海"
      }
    }
  }
}
```

4.2 `range`

范围查询，一般应用在对数值类型做范围过滤的时候。比如做价格范围过滤。需要注意索引名称的类型来调整条件的类型

基本语法

// range查询
GET /indexName/_search
{
  "query": {
    "range": {
      "索引名称": {
        "gte": 10, // 这里的gte代表大于等于，gt则代表大于
        "lte": 20 // lte代表小于等于，lt则代表小于
      }
    }
  }
}

例子

GET /hotel/_search
{
  "query": {
    "range": {
      "price": {
        "gte": 0,
        "lte": 336
      }
    }
  }
}

注意：

term是精确查询的字段搜索

range是范围查询

5. 地理查询

5.1 矩形范围查询

矩形范围查询，也就是geo_bounding_box查询，查询坐标落在某个矩形范围的所有文档：

DKV9HZbVS6

查询时，需要指定矩形的左上、右下两个点的坐标，然后画出一个矩形，落在该矩形内的都是符合条件的点。

基本语法：

// geo_bounding_box查询
GET /indexName/_search
{
  "query": {
    "geo_bounding_box": {
      "FIELD": {
        "top_left": { // 左上点
          "lat": 31.1,
          "lon": 121.5
        },
        "bottom_right": { // 右下点
          "lat": 30.9,
          "lon": 121.7
        }
      }
    }
  }
}

5.2 附近查询

附近查询，也叫做距离查询（geo_distance）：查询到指定中心点小于某个距离值的所有文档。

换句话来说，在地图上找一个点作为圆心，以指定距离为半径，画一个圆，落在圆内的坐标都算符合条件：

vZrdKAh19C

基本语法

// geo_distance 查询
GET /indexName/_search
{
  "query": {
    "geo_distance": {
      "distance": "15km", // 半径
      "FIELD": "31.21,121.5" // 圆心
    }
  }
}

例子

# geo_distance 查询
GET /hotel/_search
{
  "query": {
    "geo_distance": {
      "distance": "15km",
      "location":"31.251433, 121.47522"
    }
  }
}

**注意：**如果查询没有结果，检查创建索引库的时候location是否有创建索引

6. `DSL`复合查询

复合（compound）查询：复合查询可以将其它简单查询组合起来，实现更复杂的搜索逻辑。常见的有两种：

fuction score：算分函数查询，可以控制文档相关性算分，控制文档排名
bool query：布尔查询，利用逻辑关系组合多个其它的查询，实现复杂搜索

6.1 算分函数查询

我们可以通过特定的语句让你的搜索结果按照某种规则进行输出，下面就来展示一下

基本语法

例子

GET /hotel/_search
{
  "query": {
    "function_score": {
      "query": {
        "match": {
          "all": "外滩"
        }
      },
      "functions": [
        {
          "filter": {
            "term": {
              "brand": "如家"
            }
          },
          "weight": 10
        }
      ],
      "boost_mode": "sum"
    }
  }
}

**注意：**function score 查询中包含四部分内容：

原始查询条件：query部分，基于这个条件搜索文档，并且基于BM25算法给文档打分，原始算分（query score)

过滤条件：filter部分，符合该条件的文档才会重新算分

算分函数：符合filter条件的文档要根据这个函数做运算，得到的函数算分（function score），有四种函数

weight：函数结果是常量

field_value_factor：以文档中的某个字段值作为函数结果

random_score：以随机数作为函数结果

script_score：自定义算分函数算法

运算模式：算分函数的结果、原始查询的相关性算分，两者之间的运算方式，包括：

multiply：相乘

replace：用function score替换query score

其它，例如：sum、avg、max、min

function score的运行流程如下：

1）根据原始条件查询搜索文档，并且计算相关性算分，称为原始算分（query score）

2）根据过滤条件，过滤文档

3）符合过滤条件的文档，基于算分函数运算，得到函数算分（function score）

4）将原始算分（query score）和函数算分（function score）基于运算模式做运算，得到最终结果，作为相关性算分。

因此，其中的关键点是：

过滤条件：决定哪些文档的算分被修改

算分函数：决定函数算分的算法

运算模式：决定最终算分结果

6.2 布尔查询

布尔查询是一个或多个查询子句的组合。子查询的组合方式有

must：必须匹配每个子查询，类似 '与'
should：选择性匹配子查询，类似 '或'
must_not：必须不匹配，不参与算分，类似 '非'
filter：必须匹配，不参与算分

常见的使用场景：

类似于搜索栏加选项的组合查询

例子

GET /hotel/_search
{
  "query": {
    "bool": {
      "must": [
        {
          "match": {
            "name": "如家"
          }
        }
      ],
      "must_not": [
        {
          "range": {
            "price": {
              "gte": 400
            }
          }
        }
      ]
    }
  }
}

7. 排序

es默认是根据score进行排序，但是也支持自定义对搜索结果进行排序。详细的内容可以查看官方文档www.elastic.co/guide/en/el…**

7.1 普通字段排序

keyword、数值、日期类型排序的语法基本一致。

基本语法：

GET /indexName/_search
{
  "query": {
    "match_all": {}
  },
  "sort": [
    {
      "FIELD": "desc"  // 排序字段、排序方式ASC、DESC
    }
  ]
}

排序条件是一个数组，也就是可以写多个排序条件。按照声明的顺序，当第一个条件相等时，再按照第二个条件排序，以此类推

例子：

GET /hotel/_search
{
  "query": {
    "match_all": {}
  },
  "sort": [
    {
      "score": {
        "order": "desc"
      },
      "price": {
        "order": "asc"
      }
    }
  ]
}

这里排序条件首先按照分数进行降序排序，分数相同的情况下用价格升序排序

注意：ASC升序、DESC降序

7.2 地理坐标排序

地理坐标排序略有不同。

基本语法

GET /indexName/_search
{
  "query": {
    "match_all": {}
  },
  "sort": [
    {
      "_geo_distance" : {
          "FIELD" : "纬度，经度", // 文档中geo_point类型的字段名、目标坐标点
          "order" : "asc", // 排序方式
          "unit" : "km" // 排序的距离单位
      }
    }
  ]
}

这个查询的含义是：

指定一个坐标，作为目标点
计算每一个文档中，指定字段（必须是geo_point类型）的坐标到目标点的距离是多少
根据距离排序

例子：

GET /hotel/_search
{
  "query": {"match_all": {}},
  "sort": [
    {
      "_geo_distance": {
        "location": {
          "lat": 30, 维度
          "lon": 70  经度
        },
        "order": "asc",
        "unit": "km"
      }
    }
  ]
}

根据数据的经纬度和排序条件的经纬度得出两点之间的距离。根据距离升序排序。

注意：lat是维度，lon是经度。unit是计算距离的单位。

8. 分页

8.1 基本分页

elasticsearch 默认情况下只返回top10的数据。而如果要查询更多数据就需要修改分页参数了。elasticsearch中通过修改from、size参数来控制要返回的分页结果：

from：从第几个文档开始
size：总共查询几个文档

类似于mysql中的limit ?, ?

基本语法

GET /hotel/_search
{
  "query": {
    "match_all": {}
  },
  "from": 0, // 分页开始的位置，默认为0
  "size": 10, // 期望获取的文档总数
  "sort": [
    {"price": "asc"}
  ]
}

例子：

GET /hotel/_search
{
  "query": {
    "match": {
      "all": "上海"
    }
  },
  "from": 10,
  "size": 20,
  "sort": [
    {
      "_geo_distance": {
        "location": {
          "lat": 31,
          "lon": 121
        },
        "order": "asc",
        "unit": "km"
      }
    },
    {
      "price": "asc"
    }
  ]
}

通过对all字段的精准查询，根据地理坐标排序得到结果，使用分页获取排序第10到第30的所有内容

8.2 深度分页

使用基本分页会有什么问题？

面对少量的数据我们使用基本分页也是足够的。es在日常开发中会做集群，所以但来的数据是分布存储在多个不同的es分片中。当我想获取10条数据的时候，首先需要在各个分片得到前10条数据，然后协调点拿到这些数据再进行排序等处理，最后获取处理后的结果将前10条的数据返回。

我们可以发现这样的分页的效率会非常的低，特别是搜索页数过深或结果集from+size越大，对内存和CPU消耗也越高。es为了性能，会限制我们的分页长度，es现在最大可以搜索10000条数据。也就是说我们不能分页到10000条数据以上。但是这并不符合我们的预想。虽然我们仅仅只是数据from和size，而es服务需要执行from+size条数据处理返回。

所以es官方提供了解决方案www.elastic.co/guide/en/el… after和scroll`两种
- search after：分页时需要排序，原理是从上一次的排序值开始，查询下一页数据。官方推荐使用的方式。
- scroll：原理将排序后的文档id形成快照，保存在内存。官方已经不推荐使用。

【总结】分页查询的常见实现方案以及优缺点：

from + size：
- 优点：支持随机翻页
- 缺点：深度分页问题，默认查询上限（from + size）是10000
- 场景：百度、京东、谷歌、淘宝这样的随机翻页搜索
after search：
- 优点：没有查询上限（单次查询的size不超过10000）
- 缺点：只能向后逐页查询，不支持随机翻页
- 场景：没有随机翻页需求的搜索，例如手机向下滚动翻页
scroll：
- 优点：没有查询上限（单次查询的size不超过10000）
- 缺点：会有额外内存消耗，并且搜索结果是非实时的
- 场景：海量数据的获取和迁移。从ES7.1开始不推荐，建议用 after search方案。

9. 高亮

什么是高亮呢？

就是搜索结果中将关键字突出显示

基本语法

GET /hotel/_search
{
  "query": {
    "match": {
      "FIELD": "TEXT" // 查询条件，高亮一定要使用全文检索查询
    }
  },
  "highlight": {
    "fields": { // 指定要高亮的字段
      "FIELD": {
        "pre_tags": "<em>",  // 用来标记高亮字段的前置标签
        "post_tags": "</em>" // 用来标记高亮字段的后置标签
      }
    }
  }
}

注意：

高亮是对关键字高亮，因此搜索条件必须带有关键字，而不能是范围这样的查询。

默认情况下，高亮的字段，必须与搜索指定的字段一致，否则无法高亮

如果要对非搜索字段高亮，则需要添加一个属性：required_field_match=false

例子

GET /hotel/_search
{
  "query": {
    "match": {
      "all": "我住在上海的新园华美达广场附近"
    }
  },
  "highlight": {
    "fields": {
      "all":{
        "require_field_match": "false"
      }
    }
  }
}

SpringCloud：ES的DSL查询语法

DSL 查询语法

1. DSL Query的分类

2. 查询基本语法

3. 全文检索查询

3.1 match_query

3.2 multi_match_query

4. 精确查询

4.1 term

4.2 range

5. 地理查询

5.1 矩形范围查询

5.2 附近查询

6. DSL复合查询

6.1 算分函数查询

6.2 布尔查询

7. 排序

7.1 普通字段排序

7.2 地理坐标排序

8. 分页

8.1 基本分页

8.2 深度分页

9. 高亮

1. `DSL Query`的分类

3.1 `match_query`

3.2 `multi_match_query`

4.1 `term`

4.2 `range`

6. `DSL`复合查询