【问题标题】:indexing custom Django model fields in wagtail在 wagtail 中索引自定义 Django 模型字段
【发布时间】:2018-04-02 05:03:40
【问题描述】:

我们使用Django MarkupField 来存储 Markdown 文本,它工作得很好。

但是,当我们尝试在 Wagtail 中为这些字段编制索引时,我们会从 Elasticsearch 中收到序列化错误,如下所示:

File "/usr/local/lib/python3.5/dist-packages/wagtail/wagtailsearch/management/commands/update_index.py", line 120, in handle
  self.update_backend(backend_name, schema_only=options.get('schema_only', False))
File "/usr/local/lib/python3.5/dist-packages/wagtail/wagtailsearch/management/commands/update_index.py", line 87, in update_backend
  index.add_items(model, chunk)
File "/usr/local/lib/python3.5/dist-packages/wagtail/wagtailsearch/backends/elasticsearch.py", line 579, in add_items
  bulk(self.es, actions)
File "/usr/local/lib/python3.5/dist-packages/elasticsearch/helpers/__init__.py", line 195, in bulk
  for ok, item in streaming_bulk(client, actions, **kwargs):
File "/usr/local/lib/python3.5/dist-packages/elasticsearch/helpers/__init__.py", line 162, in streaming_bulk
  for bulk_actions in _chunk_actions(actions, chunk_size, max_chunk_bytes, client.transport.serializer):
File "/usr/local/lib/python3.5/dist-packages/elasticsearch/helpers/__init__.py", line 61, in _chunk_actions
  data = serializer.dumps(data)
File "/usr/local/lib/python3.5/dist-packages/elasticsearch/serializer.py", line 50, in dumps
  raise SerializationError(data, e)
elasticsearch.exceptions.SerializationError: ({'_partials': [<markupfield.fields.Markup object at 0x7faa6e238e80>, <markupfield.fields.Markup object at 0x7faa6dbc4da0>], 'pk': '1', 'research_interests': <markupfield.fields.Markup object at 0x7faa6e238e80>, 'bio': <markupfield.fields.Markup object at 0x7faa6dbc4da0>}, TypeError("Unable to serialize <markupfield.fields.Markup object at 0x7faa6e238e80> (type: <class 'markupfield.fields.Markup'>)",))

一种解决方法是索引返回 field.raw 的可调用对象,但随后我们必须为模型中的每个 Markdown 字段属性编写一个这样的可调用对象。我认为我们可以通过使用get_searchable_content(value) 方法扩展字段属性(即替换MarkupField 的django-markupfield Markup 类)来解决这个问题,但序列化错误仍然存​​在。

有没有人有任何关于在 Wagtail + elasticsearch 中索引自定义 Django 字段的提示?

【问题讨论】:

    标签: django elasticsearch wagtail elasticsearch-py


    【解决方案1】:

    我将get_searchable_content 放在了错误的位置,我认为Markup 类中需要它,但它需要放在Django 模型Field 类本身上。 Wagtail 然后将提取适当的值以在 elasticsearch(或任何其他搜索后端)中进行索引。

    最直接的解决方案是使用自定义 Field 类扩展 MarkupField,并添加一个将其实现委托给 MarkupField.get_prep_valueget_searchable_content(self, value)

    【讨论】:

      【解决方案2】:

      有几种方法可以做到这一点。最好的办法是在elasticsearch-dsl 中创建您自己的字段,例如参见 (0),并将其用于(反)序列化。另一种选择是创建自己的JSONSerializer (1) 子类,并将其作为serializer=MyJSONSerializer() 传入Elasticsearch 构造函数,它可以处理markupfield.fields.Markup 对象。

      0 - https://github.com/elastic/elasticsearch-dsl-py/blob/master/test_elasticsearch_dsl/test_document.py#L49-L58 1 - https://github.com/elastic/elasticsearch-py/blob/master/elasticsearch/serializer.py#L24

      【讨论】:

        猜你喜欢
        • 2018-01-01
        • 1970-01-01
        • 1970-01-01
        • 2012-12-11
        • 2015-04-16
        • 2022-01-24
        • 1970-01-01
        • 2021-04-15
        • 1970-01-01
        相关资源
        最近更新 更多