一尘不染

Elasticsearch:有没有一种方法可以将对象字段的所有(可能是动态的)子字段声明为字符串?

elasticsearch

我有一个doc_type,其映射类似于此非常简化的映射:

{
   "test":{
      "properties":{
         "name":{
            "type":"string"
         },
         "long_searchable_text":{
            "type":"string"
         },
         "clearances":{
            "type":"object"
         }
      }
   }
}

该字段clearances应该是一个对象,带有一系列用于过滤目的的字母数字标识符。典型的文档将具有以下格式:

{
    "name": "Lord Macbeth",
    "long_searchable_text": "Life's but a walking shadow, a poor player, that..."
    "clearances": {
        "glamis": "aa2862jsgd",
        "cawdor": "3463463551"
    }
}

问题是,有时在索引编制过程中,对象字段中新字段的第一个索引内容clearances将完全是数字形式,如上例所示。这导致Elasticsearch将该字段的类型推断为long。但这是偶然的。该字段在另一个文档中可能是字母数字。当后面一个包含此字段中字母数字值的文档到达时,我得到一个解析异常:

{"error":"MapperParsingException[failed to parse [clearances.cawdor]]; nested: NumberFormatException[For input string: \"af654hgss1\"]; ","status":400}%

我试图通过定义如下的动态模板来解决此问题:

{
   "test":{
      "properties":{
         "name":{
            "type":"string"
         },
         "long_searchable_text":{
            "type":"string"
         },
         "clearances":{
            "type":"object"
         }
      }
   },
   "dynamic_templates":[
      {
         "source_template":{
            "match":"clearances.*",
            "mapping":{
               "type":"string",
               "index":"not_analyzed"
            }
         }
      }
   ]
}

但是不断发生的是,如果第一个索引文档的clearance.some_subfield值可以解析为整数,则将其推断为整数,并且该子字段上所有具有字母数字值的所有后续文档都将无法索引。

我可以列出映射中的所有当前子字段,但是它们很多,并且我希望它们的数量在将来会增长(触发映射的更新以及需要完全重新索引…)。

有没有什么方法可以使这项工作在每次添加新的子字段时都无需依靠这种完全重新索引?


阅读 325

收藏
2020-06-22

共1个答案

一尘不染

您快到了。

首先,动态映射的路径必须位于clearances.*,并且必须是a path_match而不是plain match

这是一个可运行的示例:https :
//www.found.no/play/gist/df030f005da71827ca96

export ELASTICSEARCH_ENDPOINT="http://localhost:9200"

# Create indexes

curl -XPUT "$ELASTICSEARCH_ENDPOINT/play" -d '{
    "settings": {},
    "mappings": {
        "test": {
            "dynamic_templates": [
                {
                    "clearances_as_string": {
                        "path_match": "clearances.*",
                        "mapping": {
                            "type": "string",
                            "index": "not_analyzed"
                        }
                    }
                }
            ]
        }
    }
}'


# Index documents
curl -XPOST "$ELASTICSEARCH_ENDPOINT/_bulk?refresh=true" -d '
{"index":{"_index":"play","_type":"test"}}
{"clearances":{"glamis":1234,"cawdor":5678}}
{"index":{"_index":"play","_type":"test"}}
{"clearances":{"glamis":"aa2862jsgd","cawdor":"some string"}}
'

# Do searches

curl -XPOST "$ELASTICSEARCH_ENDPOINT/_search?pretty" -d '
{
    "facets": {
        "cawdor": {
            "terms": {
                "field": "clearances.cawdor"
            }
        }
    }
}
'
2020-06-22