Elasticsearch-停止分析器不允许数字

时间:2018-11-03 09:03:22

标签: elasticsearch stop-words elasticsearch-analyzers

我正在尝试使用Elasticsearch 6.3.0构建搜索实用程序,在该实用程序中可以在数据库中搜索任何术语。我已经应用了Stop Analyzer来排除某些通用词。但是,在使用了该分析器系统之后,也不再给我提供数字术语。

就像我搜索news24一样,它会删除24,并且仅在所有记录中搜索“ news”一词。不确定为什么。

下面是我正在使用的查询

{
   "from": 0,
   "size": 10,
   "explain": false,
   "stored_fields": [
      "_source"
   ],
   "query": {
      "function_score": {
         "query": {
            "multi_match": {
               "query": "news24",
               "analyzer": "stop",
               "fields": [
                  "title",
                  "keywords",
                  "url"
               ]
            }
         },
         "functions": [
            {
               "script_score": {
                  "script": "( (doc['isSponsered'].value == 'y') ? 100 : 0 )"
               }
            },
            {
               "script_score": {
                  "script": "doc['linksCount'].value"
               }
            }
         ],
         "score_mode": "sum",
         "boost_mode": "sum"
      }
   },
   "script_fields": {
      "custom_score": {
         "script": {
            "lang": "painless",
            "source": "params._source.linksArray"
         }
      }
   },
   "highlight": {
      "pre_tags": [
         ""
      ],
      "post_tags": [
         "<\/span>"
      ],
      "fields": {
         "title": {
            "type": "plain"
         },
         "keywords": {
            "type": "plain"
         },
         "description": {
            "type": "plain"
         },
         "url": {
            "type": "plain"
         }
      }
   }
}

1 个答案:

答案 0 :(得分:2)

这是因为stop analyzer只是Simple Analyzer的扩展,它利用了Lowercase Tokenizer,如果遇到不是letter的字符,它将简单地将术语分解成令牌(当然,所有条款都用小写)。

因此,基本上来说,如果您有类似news24的功能,请在遇到news时将其分解为2

这是stop analyzer的默认行为。如果您打算使用停用词并且仍然希望将数字保留在图片中,则需要创建一个自定义分析器,如下所示:

映射:

POST sometestindex
{  
   "settings":{  
      "analysis":{  
         "analyzer":{  
            "my_english_analyzer":{  
               "type":"standard",
               "stopwords":"_english_"
            }
         }
      }
   }
}

它的作用是利用Standard Analyzer,内部使用Standard Tokenizer,并且忽略停用词。

要测试的分析查询

POST sometestindex/_analyze
{
  "analyzer": "my_english_analyzer",
  "text":     "the name of the channel is news24"
}

查询结果

{
  "tokens": [
    {
      "token": "name",
      "start_offset": 4,
      "end_offset": 8,
      "type": "<ALPHANUM>",
      "position": 1
    },
    {
      "token": "channel",
      "start_offset": 16,
      "end_offset": 23,
      "type": "<ALPHANUM>",
      "position": 4
    },
    {
      "token": "news24",
      "start_offset": 27,
      "end_offset": 33,
      "type": "<ALPHANUM>",
      "position": 6
    }
  ]
}

您可以在上述令牌中看到news24被保留为令牌。

希望有帮助!