Intervals query 根据匹配项的顺序和接近度返回文档。Intervals 查询使用匹配规则,由一小组定义构成。 然后将这些规则应用于指定字段中的术语。
这些定义产生跨越文本正文中的术语的最小间隔序列。 这些间隔可以通过父源进一步组合和过滤。
上述描述有点费解。我们先用一个简单的例子来进行说明。
示例请求
以下 intervals 搜索返回在 my_text 字段中包含 my favorite food 的文档,并且没有任何间隙,紧接着是在 my_text 字段中包含 hot water 或者 cold porridge。
此搜索将匹配 my_text 字段值为 my favorite food is cold porridge,但是 它不匹配 my_text 的值是 it's cold my favorite food is porridge。
我们首先来写入如下的两个文档:
1. PUT intervals_index/_doc/1
2. {
3. "my_text": "my favorite food is cold porridge"
4. }
6. PUT intervals_index/_doc/2
7. {
8. "my_text": "it's cold my favorite food is porridge"
9. }
11. PUT intervals_index/_doc/3
12. {
13. "my_text": "he says my favorite food is banana, and he likes to drink hot water"
14. }
16. PUT intervals_index/_doc/4
17. {
18. "my_text": "my favorite fluid food is cold porridge"
19. }
21. PUT intervals_index/_doc/5
22. {
23. "my_text": "my favorite food is banana"
24. }
26. PUT intervals_index/_doc/6
27. {
28. "my_text": "my most favorite fluid food is cold porridge"
29. }
我做如下的查询:
1. GET intervals_index/_search
2. {
3. "query": {
4. "intervals" : {
5. "my_text" : {
6. "all_of" : {
7. "ordered" : true,
8. "intervals" : [
9. {
10. "match" : {
11. "query" : "my favorite food",
12. "max_gaps" : 0,
13. "ordered" : true
14. }
15. },
16. {
17. "any_of" : {
18. "intervals" : [
19. { "match" : { "query" : "hot water" } },
20. { "match" : { "query" : "cold porridge" } }
21. ]
22. }
23. }
24. ]
25. }
26. }
27. }
28. }
29. }
上面命令返回的结果为:
1. {
2. "took": 473,
3. "timed_out": false,
4. "_shards": {
5. "total": 1,
6. "successful": 1,
7. "skipped": 0,
8. "failed": 0
9. },
10. "hits": {
11. "total": {
12. "value": 2,
13. "relation": "eq"
14. },
15. "max_score": 0.3333333,
16. "hits": [
17. {
18. "_index": "intervals_index",
19. "_id": "1",
20. "_score": 0.3333333,
21. "_source": {
22. "my_text": "my favorite food is cold porridge"
23. }
24. },
25. {
26. "_index": "intervals_index",
27. "_id": "3",
28. "_score": 0.111111104,
29. "_source": {
30. "my_text": "he says my favorite food is banana, and he likes to drink hot water"
31. }
32. }
33. ]
34. }
35. }
从返回的结果中,我们可以看出来文档 1 及 3 匹配。其原因很简单。两个文档中都含有 my favorite food,并且在它的后面还接着 cold porridge 或者 hot water 尽管它们还是离它们有一定的距离。文档 4 没有匹配是因为在 my favorite food 中间多了一个 fluid 单词。我们在查询的要求中说明 max_gaps 为 0。如果我做如下的查询:
1. GET intervals_index/_search
2. {
3. "query": {
4. "intervals" : {
5. "my_text" : {
6. "all_of" : {
7. "ordered" : true,
8. "intervals" : [
9. {
10. "match" : {
11. "query" : "my favorite food",
12. "max_gaps" : 1,
13. "ordered" : true
14. }
15. },
16. {
17. "any_of" : {
18. "intervals" : [
19. { "match" : { "query" : "hot water" } },
20. { "match" : { "query" : "cold porridge" } }
21. ]
22. }
23. }
24. ]
25. }
26. }
27. }
28. }
29. }
在上面,我们设置 max_gaps 为 1,那么匹配的结果变为:
1. {
2. "took": 3,
3. "timed_out": false,
4. "_shards": {
5. "total": 1,
6. "successful": 1,
7. "skipped": 0,
8. "failed": 0
9. },
10. "hits": {
11. "total": {
12. "value": 3,
13. "relation": "eq"
14. },
15. "max_score": 0.3333333,
16. "hits": [
17. {
18. "_index": "intervals_index",
19. "_id": "1",
20. "_score": 0.3333333,
21. "_source": {
22. "my_text": "my favorite food is cold porridge"
23. }
24. },
25. {
26. "_index": "intervals_index",
27. "_id": "4",
28. "_score": 0.25,
29. "_source": {
30. "my_text": "my favorite fluid food is cold porridge"
31. }
32. },
33. {
34. "_index": "intervals_index",
35. "_id": "3",
36. "_score": 0.111111104,
37. "_source": {
38. "my_text": "he says my favorite food is banana, and he likes to drink hot water"
39. }
40. }
41. ]
42. }
43. }
很显然这次文档 4,也即 my favorite fluid food is cold porridge 也被搜索到。而文档 6,也即 my most favorite fluid food is cold porridge 没有被搜索到。
Intervals query 解决的问题
我们在一些论坛上经常看到一个非常常见的问题:“我如何创建一个匹配的查询,同时保留搜索词的顺序?”
他们中的许多人首先尝试使用 match_phrase,但有时他们也想使用 fuzzy 逻辑,而这不适用于 match_phrase。
在很多解决方案中我们可以发现使用 Span Queries 可以解决问题,但是很多问题可以通过使用 Intervals Query 来完美解决。
Intervals Query是一种基于顺序和匹配规则的查询类型。 这些规则是你要应用的查询条件。
今天我们可以使用以下规则:
- match:match 规则匹配分析的文本。
- prefix:prefix 规则匹配以指定字符集开头的术语
- wildcard:wildcard(通配符)规则使用通配符模式匹配术语。
- fuzzy:fuzzy 规则匹配与给定术语相似的术语,在 Fuzziness 定义的编辑距离内。
- all_of:all_of 规则返回跨越其他规则组合的匹配项。
- any_of:any_of 规则返回由其任何子规则生成的 intervals。
示例
我们先准备数据。我们想创建如下的一个 movies 的索引:
1. PUT movies
2. {
3. "settings": {
4. "analysis": {
5. "analyzer": {
6. "en_analyzer": {
7. "tokenizer": "standard",
8. "filter": [
9. "lowercase",
10. "stop"
11. ]
12. },
13. "shingle_analyzer": {
14. "type": "custom",
15. "tokenizer": "standard",
16. "filter": [
17. "lowercase",
18. "shingle_filter"
19. ]
20. }
21. },
22. "filter": {
23. "shingle_filter": {
24. "type": "shingle",
25. "min_shingle_size": 2,
26. "max_shingle_size": 3
27. }
28. }
29. }
30. },
31. "mappings": {
32. "properties": {
33. "title": {
34. "type": "text",
35. "analyzer": "en_analyzer",
36. "fields": {
37. "suggest": {
38. "type": "text",
39. "analyzer": "shingle_analyzer"
40. }
41. }
42. },
43. "actors": {
44. "type": "text",
45. "analyzer": "en_analyzer",
46. "fields": {
47. "keyword": {
48. "type": "keyword",
49. "ignore_above": 256
50. }
51. }
52. },
53. "description": {
54. "type": "text",
55. "analyzer": "en_analyzer",
56. "fields": {
57. "keyword": {
58. "type": "keyword",
59. "ignore_above": 256
60. }
61. }
62. },
63. "director": {
64. "type": "text",
65. "fields": {
66. "keyword": {
67. "type": "keyword",
68. "ignore_above": 256
69. }
70. }
71. },
72. "genre": {
73. "type": "text",
74. "fields": {
75. "keyword": {
76. "type": "keyword",
77. "ignore_above": 256
78. }
79. }
80. },
81. "metascore": {
82. "type": "long"
83. },
84. "rating": {
85. "type": "float"
86. },
87. "revenue": {
88. "type": "float"
89. },
90. "runtime": {
91. "type": "long"
92. },
93. "votes": {
94. "type": "long"
95. },
96. "year": {
97. "type": "long"
98. },
99. "title_suggest": {
100. "type": "completion",
101. "analyzer": "simple",
102. "preserve_separators": true,
103. "preserve_position_increments": true,
104. "max_input_length": 50
105. }
106. }
107. }
108. }
我们接下来使用 _bulk 命令来写入一些文档到这个索引中去。我们使用这个链接中的内容。我们使用如下的方法:
1. POST movies/_bulk
2. {"index": {}}
3. {"title": "Guardians of the Galaxy", "genre": "Action,Adventure,Sci-Fi", "director": "James Gunn", "actors": "Chris Pratt, Vin Diesel, Bradley Cooper, Zoe Saldana", "description": "A group of intergalactic criminals are forced to work together to stop a fanatical warrior from taking control of the universe.", "year": 2014, "runtime": 121, "rating": 8.1, "votes": 757074, "revenue": 333.13, "metascore": 76}
4. {"index": {}}
5. {"title": "Prometheus", "genre": "Adventure,Mystery,Sci-Fi", "director": "Ridley Scott", "actors": "Noomi Rapace, Logan Marshall-Green, Michael Fassbender, Charlize Theron", "description": "Following clues to the origin of mankind, a team finds a structure on a distant moon, but they soon realize they are not alone.", "year": 2012, "runtime": 124, "rating": 7, "votes": 485820, "revenue": 126.46, "metascore": 65}
7. ....
在上面,为了说明的方便,我省去了其它的文档。你需要把整个 movies.txt 的文件拷贝过来,并全部写入到 Elasticsearch 中。它共有1000 个文档。
我们想要检索符号如下条件的文件:
我们想要检索包含单词 mortal hero 的准确顺序 (ordered=true) 的文档,并且我们不打算在单词之间添加间隙 (max_gaps),因此内容必须与 mortal hero 完全匹配。
1. GET movies/_search
2. {
3. "query": {
4. "intervals": {
5. "description": {
6. "match": {
7. "query": "hero mortal",
8. "max_gaps": 0,
9. "ordered": true
10. }
11. }
12. }
13. }
14. }
此搜索的结果将为空,因为未找到符合这些条件的文档。
让我们将 ordered 更改为 false,因为我们不关心顺序。
1. GET movies/_search
2. {
3. "query": {
4. "intervals": {
5. "description": {
6. "match": {
7. "query": "hero mortal",
8. "max_gaps": 0,
9. "ordered": false
10. }
11. }
12. }
13. }
14. }
上面搜索的结果为:
现在我们可以看到文件已经找到了。 请注意,在文档中的 description 是 “Mortal hero”。因为我们想测试相同顺序的术语,所以我们搜索 “mortal hero”:
1. GET movies/_search
2. {
3. "query": {
4. "intervals": {
5. "description": {
6. "match": {
7. "query": "mortal hero",
8. "max_gaps": 0,
9. "ordered": true
10. }
11. }
12. }
13. }
14. }
这次,我们可以看到和上面命令运行一样的结果。有一个文档被匹配。
让我们在下一个示例中使用 any_of 规则。 我们想要带有 “mortal hero” 或 “mortal man” 的文件。
1. GET movies/_search
2. {
3. "query": {
4. "intervals": {
5. "description": {
6. "any_of": {
7. "intervals": [
8. {
9. "match": {
10. "query": "mortal hero",
11. "max_gaps": 0,
12. "ordered": true
13. }
14. },
15. {
16. "match": {
17. "query": "mortal man",
18. "max_gaps": 0,
19. "ordered": true
20. }
21. }
22. ]
23. }
24. }
25. }
26. }
27. }
上面命令返回结果:
请注意,我们成功了。 返回了两个匹配的文档。
我们也可以组合规则。 在示例中,让我们搜索 “the hunger games”,结果中至少有一个是 “part 1” 或 “part 2”。 请注意,这里我们使用角色 match 和 any_of。
1. GET movies/_search
2. {
3. "query": {
4. "intervals" : {
5. "title" : {
6. "all_of" : {
7. "intervals" : [
8. {
9. "match" : {
10. "query" : "the hunger games",
11. "ordered" : true
12. }
13. },
14. {
15. "any_of" : {
16. "intervals" : [
17. { "match" : { "query" : "part 1" } },
18. { "match" : { "query" : "part 2" } }
19. ]
20. }
21. }
22. ]
23. }
24. }
25. }
26. }
27. }
上面命令返回结果:
如上所示结果中只有两部电影。
间隔查询是一种按照搜索词顺序搜索文档的方法。阅读官方文档并了解如何通过它解决问题。