翼度科技»论坛 编程开发 python 查看内容

Django笔记四十一之Django中使用es

9

主题

9

帖子

27

积分

新手上路

Rank: 1

积分
27
本文首发于公众号:Hunter后端
原文链接:Django笔记四十一之Django中使用es
前面在 Python 连接 es 的操作中,有过介绍如何使用 Python 代码连接 es 以及对 es 数据进行增删改查。
这一篇笔记介绍一下如何为 es 的 索引 index 定义一个 model,像 Django 里的 model 一样使用 es。
因为本篇笔记要介绍的内容是直接嵌入在 Django 系统使用,所以本篇笔记直接归属于 Django 笔记系列。
本篇笔记目录如下:

  • es_model 示例及配置介绍
  • 数据的增删改查
  • 字段列表操作
  • 嵌套类型操作
  • 类函数
  • 排序、取字段等操作
1、es_model 示例及配置介绍

es 连接配置

首先我们要定义一下 es 的连接配置,这个在之前 Python 连接 es 的操作中有过介绍。
因为我们的 es 放在 Django 系统里,所以在系统启动的时候就要加载,因此我们一般将其配置在 settings.py 中,示例如下:
  1. # hunter/settings.py
  2. from elasticsearch_dsl import connections
  3. connections.configure(
  4.     default={"hosts": "localhost:9200"},
  5. )
复制代码
模型示例

我们在 blog application 下建立一个 es_models.py 文件用于存储我们的 es 索引模型:
  1. # blog/es_models.py
  2. from elasticsearch_dsl import Document, InnerDoc, Keyword, Text, Date, Integer, Float, Boolean
  3. class BlogEs(Document):
  4.     name = Keyword()
  5.     tag_line = Text(fields={"keyword": Keyword()}, analyzer="ik_max_word")
  6.     char_count = Integer()
  7.     is_published = Boolean()
  8.     pub_datetime = Date()
  9.     blog_id = Integer()
  10.     id = Integer()
  11.     class Index:
  12.         name = "blog"
  13.         using = "private"
复制代码
文件顶部引入的 Keyword,Text,Integer 等都是我们之前在介绍 es 的时候在 Python 里对应的数据类型。
Document

我们在建立每一个索引模型的时候都要继承 Document,然后再定义相应的字段。
在 BlogEs 中,我们这里将大部分常用的字段都定义上了,包括 Keyword,Text,Integer, Date等。
其中,对于 tag_line 字段,这里将其定义为 Text,那么所存储的文本内容会被分词之后存储,而我们同时定义它的子类型为 Keyword,则说明同时会将其文本作为一个整体存储,字段可以通过 tag_line__keyword 的方式搜索。
分词模式

我们还为 tag_line 增加了一个 analyzer 参数,它的值是我们前面在 es 笔记中安装的中文分词插件的一种分词模式,表示的是可以对存储的文本进行重复分词。
这里对中文分词模式做一下简单的介绍,我们安装的分词插件有两种模式,一种 ik_smart,一种是 ik_max_word:
ik_smart

这种模式的分词是将文本只拆分一次,假设要分词的文本是 "一个苹果",那么分词的结果就是,"一个" 和 "苹果"。
ik_max_word

ik_max_word 的作用是将文本按照语义进行可能的重复分词,比如文本是 "一个苹果",那么分词的结果就是 "一个","一","个","苹果"。
Index

我们在每个 es 模型下都要定义一个 Index,其中的属性这里介绍两个,一个是 name,一个是 using。
name 表示的是索引名称
using 表示的是使用的 es 链接,es 的链接定义我们前面在 settings.py 里有定义,可以指定 using 的名称,这里不对 using 赋值的话默认取值为 default
keyword 和 text

什么时候用到 Keyword,什么时候用 Text 呢,这里再赘述一下
选取哪种类型主要取决于我们字段的业务属性
一些需要用于整体搜索的字段可以使用 Keyword 类型,姓名,邮箱、标签等
大段文字的、不会被整体搜索的、需要搜索某些关键词的字段可以用 Text 字段,比如博客标题,正文内容等
模型初始化

在首次使用每个 es 模型前,我们都需要对模型进行初始化的操作,其含义就是将索引各字段对应的 mapping 写入 es 中,这里我们通过 python3 manage.py shell 来完成这个操作:
  1. from blog.es_models import BlogEs
  2. BlogEs.init()
复制代码
初始化之后,我们可以在 kibana 里看到对应的 es 索引。
接下来我们尝试对模型的数据进行增删改查等操作。
2、数据的增删改查

1.创建数据

单条创建数据

创建数据的方式很简单,我们引入该 BlogEs,对其实例化后,对字段进行挨个赋值,然后进行 save() 操作即可完成对一条数据的创建。
示例如下:
  1. from blog.es_models import BlogEs
  2. blog_es = BlogEs(
  3.     name="如何学好Django",
  4.     tag_line="这是一条tag_line",
  5. )
  6. blog_es.char_count = 98
  7. blog_es.is_published = True
  8. blog_es.pub_datetime = "2023-02-11 12:56:46"
  9. blog_es.blog_id = 25
  10. blog_es.meta.id = 25
  11. blog_es.id = 78
  12. blog_es.save()
复制代码
这里我们指定了 meta.id,指定的是这条数据的 _id 字段,后面我们通过 get() 方法获取数据的时候,所使用到的就是这个字段。
如果不指定 meta.id,那么 es 会自动为我们给该字段赋值,上面我们创建了数据之后,在 kibana 中查询结果如下:
  1.       {
  2.         "_index" : "blog",
  3.         "_type" : "_doc",
  4.         "_id" : "25",
  5.         "_score" : 1.0,
  6.         "_source" : {
  7.           "name" : "如何学好Django",
  8.           "tag_line" : "这是一条tag_line",
  9.           "char_count" : 98,
  10.           "is_published" : true,
  11.           "pub_datetime" : "2023-02-11T12:56:46",
  12.           "blog_id" : 25,
  13.           "id" : 78
  14.         }
  15.       }
复制代码
至此,我们单条数据即创建完毕。
批量创建数据

那么如何批量创建数据呢,貌似这里的官方文档并没有直接提供批量创建的方法,但是不要紧,我们可以使用 Python 连接 es 的笔记四的批量创建数据的方式。
2.查询数据

查询数据可以分为两种,一种是按照 _id 参数进行查询,比如 get() 和 mget(),一种是根据其他字段进行查询。
get()

我们可以使用 get() 方法获取单条数据,这个就和 Django 的 model 的 get() 方式一样。
但是 get() 方法只能使用 id 参数进行查询,不接受其他字段,比如我们 BlogEs 里定义的 name,char_count 这些字段在这个方法里都不支持
而且,这里的 id,指的是我们上面展示的这条数据的 _id 字段,并非_source 里面我们可以自定义的 id 字段。
比如我们上面在 _source 里手动定义了 id 字段的值为 78,我们去获取数据 id=78:
  1. BlogEs.get(id=78)
复制代码
上面这条会报错,而我们去获取写入的 id=25:
  1. BlogEs.get(id=25)
复制代码
则可以返回数据,因为这里的 id 参数指定的是 meta.id
在这里如果我们获取不存在的 _id 字段,则会报错,为了防止这种情况,我们可以在 get() 方法里加上 ignore=404 来忽略这种报错,如果不存在对应条件的数据,则返回 None:
  1. BlogEs.get(id=22, ignore=404)
复制代码
因为不存在 _id=22 的数据,所以返回的数据就是 None
mget()

如果我们已知多条 _id 的值,我们通过 mget() 方法来一次性获取多条数据,传入的值是一个列表
  1. id_list = [25, 78]
  2. BlogEs.mget(id_list)
  3. # [BlogEs(index='blog', id='25'), None]
复制代码
如果在这个列表里有不存在于 es 的数据,那么对应返回的数据则是 None
query()

通过 es_model 使用 query 的方式和使用 Python 直接进行 es 的方式差不多,都是使用 query() 方法,示例如下:
  1. from elasticsearch_dsl import Q as ES_Q
  2. from blog.es_models import BlogEs
  3. s = BlogEs.search()
  4. query = s.query(ES_Q({"term": {"name": "如何学好Django"}}))
  5. result = query.execute()
  6. print(result)
  7. # <Response: [BlogEs(index='blog', id='25')]>
复制代码
或者使用 doc_type() 方法:
  1. from elasticsearch_dsl import Search
  2. s = Search()
  3. s = s.doc_type(BlogEs)
  4. query = s.query(ES_Q({"term": {"blog_id": 25}}))
  5. result = query.execute()
  6. print(result)
复制代码
3.修改数据

我们修改的 es 数据来源可以是 get() 或者 query() 的方式
  1. blog = BlogEs.get(id=25)
  2. blog.name = "get修改"
  3. blog.save()
  4. s = BlogEs.search()
  5. query = s.query(ES_Q({"term": {"blog_id": 25}}))
  6. result = query.execute()
  7. blog = result[0]
  8. blog.name = "query修改"
  9. blog.save()
复制代码
使用 es_model 对数据进行修改有一个很方便的地方就是可以直接对数据进行 save 操作,相比 Python 连接 es 的方式而言。
4.删除数据

对于单条数据,我们可以直接使用 delete() 方法:
  1. blog = BlogEs.get(id=25)
  2. blog.delete()
复制代码
也可以使用 query().delete() 的方式:
  1. s = BlogEs.search()
  2. query = s.query(ES_Q({"term": {"blog_id": 25}}))
  3. query.delete()
复制代码
3、字段列表操作

在 Python 里,常用字段有 Keyword,Text,Date,Integer,Boolean,Float 等,和 es 中字段相同,但是如果我们想存储一个相同元素类型的列表字段如何操作呢?
比如我们想存储一个列表字段,里面的元素都是 Integer,假设 BlogEs 里存储一个 id_list,里面都是整数,应该如何定义和操作呢?
答案是直接操作。
因为 es 里并没有列表这个类型的字段,所以我们如果要为一个字段赋值为列表,可以直接定义元素类型为目标类型,比如整型,字符串等,但是列表元素必须一致,然后操作的时候按照列表类型来操作即可。
以下是 BlogEs 的定义,省去了其他字段:
  1. class BlogEs(Document):
  2.     id_list = Integer()
  3.     class Index:
  4.         name = "blog"
复制代码
1.创建列表字段

创建时定义 id_list:
  1. blog_es = BlogEs()
  2. blog_es.meta.id = 10
  3. blog_es.id_list = [1, 2, 3]
  4. blog_es.save()
复制代码
2.修改列表字段

修改 id_list,修改时可以直接重定义,也可以 append 添加,只要我们在定义字段时用的列表,那么在修改时可以直接对其进行列表操作:
  1. blog_es = BlogEs.get(id=10)
  2. blog_es.id_list = [1,4, 5]  # 直接重新定义
  3. blog_es.id_list.append(8)  # 原数组添加元素
  4. blog_es.id_list.append(9)
  5. blog_es.save()
复制代码
3.查询列表字段

查询 id_list 中元素
现在我们创建两条数据,之后的查询都基于这两条数据
  1. blog_es = BlogEs()
  2. blog_es.meta.id = 50
  3. blog_es.id_list = [1, 2, 3]
  4. blog_es.save()
  5. blog_es_2 = BlogEs()
  6. blog_es_2.meta.id = 50
  7. blog_es_2.id_list = [1, 4, 5, 8, 9]
  8. blog_es_2.save()
复制代码
如果我们想查询 id_list 中包含了 1 的数据,可以如下操作:
  1. s = BlogEs.search()
  2. condition = ES_Q({"term": {"id_list": 1}})
  3. query = s.query(condition)
  4. result = query.execute()
复制代码
如果想查询 id_list 中包含了 1 或者 8 的数据,任意包含其中一个元素即可,那么可以如下操作:
  1. s = BlogEs.search()
  2. condition = ES_Q({"terms": {"id_list": [1, 8]}})
  3. query = s.query(condition)
  4. result = query.execute()
复制代码
如果想查询包含了 1 且 包含了 8 的数据,可以如下操作:
  1. s = BlogEs.search()
  2. condition = ES_Q({"term": {"id_list": 1}}) & ES_Q({"term": {"id_list": 8}})
  3. query = s.query(condition)
  4. result = query.execute()
复制代码
4、嵌套类型操作

嵌套的类型是 Nested,前面我们介绍的数据存储方式都是简单的 key-value 的形式,嵌套的话,可以理解成是一个字段作为 key,它的 value 则又是一个 key-value。
以下是一个示例:
  1. # blog/es_models.py
  2. from elasticsearch_dsl import Document, InnerDoc, Keyword, Text, Date, Boolean, Nested
  3. class Comment(InnerDoc):
  4.     author = Text()
  5.     content = Text()
  6. class Post(Document):
  7.     title = Text()
  8.     created_at = Date()
  9.     published = Boolean()
  10.     comments = Nested(Comment)
  11.     class Index:
  12.         name = "post"
复制代码
在这里,我们用 Nested() 作为嵌套字段的类型,其中,我们通过定义 Comment 作为嵌套的对象
注意:嵌套的 Comment 继承自 InnerDoc,且不需要进行 init() 操作。
1. 嵌套数据的创建

接下来我们创建几条数据,嵌套的字段 comments 为列表类型,保存多个 Comment 数据
先初始化 Post:
  1. from blog.es_models import Post
  2. Post.init()
复制代码
创建两条数据:
  1. from blog.es_models import Post, Comment
  2. comment_list = [
  3.     Comment(author="张三", content="这是评论1"),
  4.     Comment(author="李四", content="这是评论2"),
  5. ]
  6. post = Post(
  7.     title="post_title",
  8.     published=1,
  9.     comments=comment_list
  10. )
  11. post.save()
  12. comment_list_2 = [
  13.     Comment(author="张三", content="这是评论3"),
  14.     Comment(author="王五", content="这是评论4"),
  15. ]
  16. post_2 = Post(
  17.     title="post_title_2",
  18.     published=1,
  19.     comments=comment_list_2
  20. )
  21. post_2.save()
复制代码
2. 嵌套数据的查询

嵌套数据的查询也是使用 elasticsearch_dsl.Q,但是使用方式略有不同,他需要使用到 path 参数,然后指出我们查询的字段路径
比如我们想查询 comment 下 author 字段值为 author_1 的数据,查询示例如下:
  1. from elasticsearch_dsl import Q as ES_Q
  2. s = Post.search()
  3. condition = ES_Q("nested", path="comments", query=ES_Q("term", comments__author="张三"))
  4. query = s.query(condition)
  5. result = query.execute()
复制代码
3. 嵌套数据的修改和删除

删除和修改和之前的操作一样,对于 comments 字段的内容进行修改后 save() 操作即可
这里我们演示示例如下:
  1. # 获取某个 meta.id 的数据
  2. # 然后打印出 comments 字段值
  3. # 之后进行修改,保存操作
  4. post = Post.get(id="yebzsYYSls5E4GzFd_WA")
  5. print(post.comments)
  6. post.comments = [Comment(author="孙悟空", content="孙悟空的评论")]
  7. post.save()
  8. # 获取某个 meta.id 的数据
  9. # 打印当前值
  10. # 然后置空做删除处理
  11. post = Post.get(id="yebzsYYSls5E4GzFd_WA")
  12. print(post.comments)
  13. post.comments = []
  14. post.save()
  15. # 查看置空 comments 字段后的数据情况
  16. post = Post.get(id="yebzsYYSls5E4GzFd_WA")
  17. print(post.comments)
复制代码
5、类函数

每个 es_model 和 Django 里的 model 一样,可以自定义函数来操作,比如我们想创建一条 Title 数据,参数直接传入,可以如下操作
先定义我们的 model 然后重新进行 init() 操作:
  1. from elasticsearch_dsl import Document, Text, Date, Boolean
  2. from django.utils import timezone
  3. class Title(Document):
  4.     title = Text()
  5.     created_at = Date()
  6.     published = Boolean()
  7.     class Index:
  8.         name = "title"
  9.     def create(self, title="", created_at=timezone.now(), published=True):
  10.         self.title = title
  11.         self.created_at = created_at
  12.         self.published = published
  13.         self.save()
复制代码
创建数据:
  1. from blog.es_models import Title
  2. Title.init()
  3. Title().create(title="this is a title")
复制代码
6、排序、取字段等操作

使用 es_model 对 es 进行排序、计数、指定字段返回和直接使用 Python 的方式无异,下面介绍一下示例。
1. 排序 sort()

如果我们想对 char_count 字段进行排列操作,可以直接使用 sort()
这里我们复用前面的 search() 操作:
  1. s = BlogEs.search()
  2. condition = ES_Q()
  3. query = s.query(condition)
复制代码
按照 char_count 倒序:
  1. query = query.sort("-char_count")
复制代码
按照 char_count 正序:
  1. query = query.sort("char_count")
复制代码
多字段排序,按照 char_count 和 name 字段排序:
  1. query = query.sort("-char_count", "name")
复制代码
2.指定字段返回 source()

这里我们指定 char_count 和 name 字段返回:
  1. query = query.source("char_count", "name")
复制代码
3.extra()

排序和指定字段返回我们也可以将参数传入 extra(),然后进行操作,比如按照 char_count 字段正序排列,name 字段倒序,以及只返回 char_count 和 name 字段
  1. query = query.extra(
  2.     sort=[
  3.         {"char_count": {"order": "asc"}},
  4.         {"name": {"order": "desc"}}
  5.     ],
  6.     _source=["char_count", "name"]
  7. )
复制代码
4.分页操作

也可以在 extra() 中通过 from 和 size 实现分页操作:
  1. query = query.extra(
  2.     **{
  3.         "from": 2,
  4.         "size": 3
  5.     }
  6. )
复制代码
原文链接:[前面在 Python 连接 es 的操作中,有过介绍如何使用 Python 代码连接 es 以及对 es 数据进行增删改查。
这一篇笔记介绍一下如何为 es 的 索引 index 定义一个 model,像 Django 里的 model 一样使用 es。
因为本篇笔记要介绍的内容是直接嵌入在 Django 系统使用,所以本篇笔记直接归属于 Django 笔记系列。
本篇笔记目录如下:

  • es_model 示例及配置介绍
  • 数据的增删改查
  • 字段列表操作
  • 嵌套类型操作
  • 类函数
  • 排序、取字段等操作
1、es_model 示例及配置介绍

es 连接配置

首先我们要定义一下 es 的连接配置,这个在之前 Python 连接 es 的操作中有过介绍。
因为我们的 es 放在 Django 系统里,所以在系统启动的时候就要加载,因此我们一般将其配置在 settings.py 中,示例如下:
  1. # hunter/settings.py
  2. from elasticsearch_dsl import connections
  3. connections.configure(
  4.     default={"hosts": "localhost:9200"},
  5. )
复制代码
模型示例

我们在 blog application 下建立一个 es_models.py 文件用于存储我们的 es 索引模型:
  1. # blog/es_models.py
  2. from elasticsearch_dsl import Document, InnerDoc, Keyword, Text, Date, Integer, Float, Boolean
  3. class BlogEs(Document):
  4.     name = Keyword()
  5.     tag_line = Text(fields={"keyword": Keyword()}, analyzer="ik_max_word")
  6.     char_count = Integer()
  7.     is_published = Boolean()
  8.     pub_datetime = Date()
  9.     blog_id = Integer()
  10.     id = Integer()
  11.     class Index:
  12.         name = "blog"
  13.         using = "private"
复制代码
文件顶部引入的 Keyword,Text,Integer 等都是我们之前在介绍 es 的时候在 Python 里对应的数据类型。
Document

我们在建立每一个索引模型的时候都要继承 Document,然后再定义相应的字段。
在 BlogEs 中,我们这里将大部分常用的字段都定义上了,包括 Keyword,Text,Integer, Date等。
其中,对于 tag_line 字段,这里将其定义为 Text,那么所存储的文本内容会被分词之后存储,而我们同时定义它的子类型为 Keyword,则说明同时会将其文本作为一个整体存储,字段可以通过 tag_line__keyword 的方式搜索。
分词模式

我们还为 tag_line 增加了一个 analyzer 参数,它的值是我们前面在 es 笔记中安装的中文分词插件的一种分词模式,表示的是可以对存储的文本进行重复分词。
这里对中文分词模式做一下简单的介绍,我们安装的分词插件有两种模式,一种 ik_smart,一种是 ik_max_word:
ik_smart

这种模式的分词是将文本只拆分一次,假设要分词的文本是 "一个苹果",那么分词的结果就是,"一个" 和 "苹果"。
ik_max_word

ik_max_word 的作用是将文本按照语义进行可能的重复分词,比如文本是 "一个苹果",那么分词的结果就是 "一个","一","个","苹果"。
Index

我们在每个 es 模型下都要定义一个 Index,其中的属性这里介绍两个,一个是 name,一个是 using。
name 表示的是索引名称
using 表示的是使用的 es 链接,es 的链接定义我们前面在 settings.py 里有定义,可以指定 using 的名称,这里不对 using 赋值的话默认取值为 default
keyword 和 text

什么时候用到 Keyword,什么时候用 Text 呢,这里再赘述一下
选取哪种类型主要取决于我们字段的业务属性
一些需要用于整体搜索的字段可以使用 Keyword 类型,姓名,邮箱、标签等
大段文字的、不会被整体搜索的、需要搜索某些关键词的字段可以用 Text 字段,比如博客标题,正文内容等
模型初始化

在首次使用每个 es 模型前,我们都需要对模型进行初始化的操作,其含义就是将索引各字段对应的 mapping 写入 es 中,这里我们通过 python3 manage.py shell 来完成这个操作:
  1. from blog.es_models import BlogEs
  2. BlogEs.init()
复制代码
初始化之后,我们可以在 kibana 里看到对应的 es 索引。
接下来我们尝试对模型的数据进行增删改查等操作。
2、数据的增删改查

1.创建数据

单条创建数据

创建数据的方式很简单,我们引入该 BlogEs,对其实例化后,对字段进行挨个赋值,然后进行 save() 操作即可完成对一条数据的创建。
示例如下:
  1. from blog.es_models import BlogEs
  2. blog_es = BlogEs(
  3.     name="如何学好Django",
  4.     tag_line="这是一条tag_line",
  5. )
  6. blog_es.char_count = 98
  7. blog_es.is_published = True
  8. blog_es.pub_datetime = "2023-02-11 12:56:46"
  9. blog_es.blog_id = 25
  10. blog_es.meta.id = 25
  11. blog_es.id = 78
  12. blog_es.save()
复制代码
这里我们指定了 meta.id,指定的是这条数据的 _id 字段,后面我们通过 get() 方法获取数据的时候,所使用到的就是这个字段。
如果不指定 meta.id,那么 es 会自动为我们给该字段赋值,上面我们创建了数据之后,在 kibana 中查询结果如下:
  1.       {
  2.         "_index" : "blog",
  3.         "_type" : "_doc",
  4.         "_id" : "25",
  5.         "_score" : 1.0,
  6.         "_source" : {
  7.           "name" : "如何学好Django",
  8.           "tag_line" : "这是一条tag_line",
  9.           "char_count" : 98,
  10.           "is_published" : true,
  11.           "pub_datetime" : "2023-02-11T12:56:46",
  12.           "blog_id" : 25,
  13.           "id" : 78
  14.         }
  15.       }
复制代码
至此,我们单条数据即创建完毕。
批量创建数据

那么如何批量创建数据呢,貌似这里的官方文档并没有直接提供批量创建的方法,但是不要紧,我们可以使用 Python 连接 es 的笔记四的批量创建数据的方式。
2.查询数据

查询数据可以分为两种,一种是按照 _id 参数进行查询,比如 get() 和 mget(),一种是根据其他字段进行查询。
get()

我们可以使用 get() 方法获取单条数据,这个就和 Django 的 model 的 get() 方式一样。
但是 get() 方法只能使用 id 参数进行查询,不接受其他字段,比如我们 BlogEs 里定义的 name,char_count 这些字段在这个方法里都不支持
而且,这里的 id,指的是我们上面展示的这条数据的 _id 字段,并非_source 里面我们可以自定义的 id 字段。
比如我们上面在 _source 里手动定义了 id 字段的值为 78,我们去获取数据 id=78:
  1. BlogEs.get(id=78)
复制代码
上面这条会报错,而我们去获取写入的 id=25:
  1. BlogEs.get(id=25)
复制代码
则可以返回数据,因为这里的 id 参数指定的是 meta.id
在这里如果我们获取不存在的 _id 字段,则会报错,为了防止这种情况,我们可以在 get() 方法里加上 ignore=404 来忽略这种报错,如果不存在对应条件的数据,则返回 None:
  1. BlogEs.get(id=22, ignore=404)
复制代码
因为不存在 _id=22 的数据,所以返回的数据就是 None
mget()

如果我们已知多条 _id 的值,我们通过 mget() 方法来一次性获取多条数据,传入的值是一个列表
  1. id_list = [25, 78]
  2. BlogEs.mget(id_list)
  3. # [BlogEs(index='blog', id='25'), None]
复制代码
如果在这个列表里有不存在于 es 的数据,那么对应返回的数据则是 None
query()

通过 es_model 使用 query 的方式和使用 Python 直接进行 es 的方式差不多,都是使用 query() 方法,示例如下:
  1. from elasticsearch_dsl import Q as ES_Q
  2. from blog.es_models import BlogEs
  3. s = BlogEs.search()
  4. query = s.query(ES_Q({"term": {"name": "如何学好Django"}}))
  5. result = query.execute()
  6. print(result)
  7. # <Response: [BlogEs(index='blog', id='25')]>
复制代码
或者使用 doc_type() 方法:
  1. from elasticsearch_dsl import Search
  2. s = Search()
  3. s = s.doc_type(BlogEs)
  4. query = s.query(ES_Q({"term": {"blog_id": 25}}))
  5. result = query.execute()
  6. print(result)
复制代码
3.修改数据

我们修改的 es 数据来源可以是 get() 或者 query() 的方式
  1. blog = BlogEs.get(id=25)
  2. blog.name = "get修改"
  3. blog.save()
  4. s = BlogEs.search()
  5. query = s.query(ES_Q({"term": {"blog_id": 25}}))
  6. result = query.execute()
  7. blog = result[0]
  8. blog.name = "query修改"
  9. blog.save()
复制代码
使用 es_model 对数据进行修改有一个很方便的地方就是可以直接对数据进行 save 操作,相比 Python 连接 es 的方式而言。
4.删除数据

对于单条数据,我们可以直接使用 delete() 方法:
  1. blog = BlogEs.get(id=25)
  2. blog.delete()
复制代码
也可以使用 query().delete() 的方式:
  1. s = BlogEs.search()
  2. query = s.query(ES_Q({"term": {"blog_id": 25}}))
  3. query.delete()
复制代码
3、字段列表操作

在 Python 里,常用字段有 Keyword,Text,Date,Integer,Boolean,Float 等,和 es 中字段相同,但是如果我们想存储一个相同元素类型的列表字段如何操作呢?
比如我们想存储一个列表字段,里面的元素都是 Integer,假设 BlogEs 里存储一个 id_list,里面都是整数,应该如何定义和操作呢?
答案是直接操作。
因为 es 里并没有列表这个类型的字段,所以我们如果要为一个字段赋值为列表,可以直接定义元素类型为目标类型,比如整型,字符串等,但是列表元素必须一致,然后操作的时候按照列表类型来操作即可。
以下是 BlogEs 的定义,省去了其他字段:
  1. class BlogEs(Document):
  2.     id_list = Integer()
  3.     class Index:
  4.         name = "blog"
复制代码
1.创建列表字段

创建时定义 id_list:
  1. blog_es = BlogEs()
  2. blog_es.meta.id = 10
  3. blog_es.id_list = [1, 2, 3]
  4. blog_es.save()
复制代码
2.修改列表字段

修改 id_list,修改时可以直接重定义,也可以 append 添加,只要我们在定义字段时用的列表,那么在修改时可以直接对其进行列表操作:
  1. blog_es = BlogEs.get(id=10)
  2. blog_es.id_list = [1,4, 5]  # 直接重新定义
  3. blog_es.id_list.append(8)  # 原数组添加元素
  4. blog_es.id_list.append(9)
  5. blog_es.save()
复制代码
3.查询列表字段

查询 id_list 中元素
现在我们创建两条数据,之后的查询都基于这两条数据
  1. blog_es = BlogEs()
  2. blog_es.meta.id = 50
  3. blog_es.id_list = [1, 2, 3]
  4. blog_es.save()
  5. blog_es_2 = BlogEs()
  6. blog_es_2.meta.id = 50
  7. blog_es_2.id_list = [1, 4, 5, 8, 9]
  8. blog_es_2.save()
复制代码
如果我们想查询 id_list 中包含了 1 的数据,可以如下操作:
  1. s = BlogEs.search()
  2. condition = ES_Q({"term": {"id_list": 1}})
  3. query = s.query(condition)
  4. result = query.execute()
复制代码
如果想查询 id_list 中包含了 1 或者 8 的数据,任意包含其中一个元素即可,那么可以如下操作:
  1. s = BlogEs.search()
  2. condition = ES_Q({"terms": {"id_list": [1, 8]}})
  3. query = s.query(condition)
  4. result = query.execute()
复制代码
如果想查询包含了 1 且 包含了 8 的数据,可以如下操作:
  1. s = BlogEs.search()
  2. condition = ES_Q({"term": {"id_list": 1}}) & ES_Q({"term": {"id_list": 8}})
  3. query = s.query(condition)
  4. result = query.execute()
复制代码
4、嵌套类型操作

嵌套的类型是 Nested,前面我们介绍的数据存储方式都是简单的 key-value 的形式,嵌套的话,可以理解成是一个字段作为 key,它的 value 则又是一个 key-value。
以下是一个示例:
  1. # blog/es_models.py
  2. from elasticsearch_dsl import Document, InnerDoc, Keyword, Text, Date, Boolean, Nested
  3. class Comment(InnerDoc):
  4.     author = Text()
  5.     content = Text()
  6. class Post(Document):
  7.     title = Text()
  8.     created_at = Date()
  9.     published = Boolean()
  10.     comments = Nested(Comment)
  11.     class Index:
  12.         name = "post"
复制代码
在这里,我们用 Nested() 作为嵌套字段的类型,其中,我们通过定义 Comment 作为嵌套的对象
注意:嵌套的 Comment 继承自 InnerDoc,且不需要进行 init() 操作。
1. 嵌套数据的创建

接下来我们创建几条数据,嵌套的字段 comments 为列表类型,保存多个 Comment 数据
先初始化 Post:
  1. from blog.es_models import Post
  2. Post.init()
复制代码
创建两条数据:
  1. from blog.es_models import Post, Comment
  2. comment_list = [
  3.     Comment(author="张三", content="这是评论1"),
  4.     Comment(author="李四", content="这是评论2"),
  5. ]
  6. post = Post(
  7.     title="post_title",
  8.     published=1,
  9.     comments=comment_list
  10. )
  11. post.save()
  12. comment_list_2 = [
  13.     Comment(author="张三", content="这是评论3"),
  14.     Comment(author="王五", content="这是评论4"),
  15. ]
  16. post_2 = Post(
  17.     title="post_title_2",
  18.     published=1,
  19.     comments=comment_list_2
  20. )
  21. post_2.save()
复制代码
2. 嵌套数据的查询

嵌套数据的查询也是使用 elasticsearch_dsl.Q,但是使用方式略有不同,他需要使用到 path 参数,然后指出我们查询的字段路径
比如我们想查询 comment 下 author 字段值为 author_1 的数据,查询示例如下:
  1. from elasticsearch_dsl import Q as ES_Q
  2. s = Post.search()
  3. condition = ES_Q("nested", path="comments", query=ES_Q("term", comments__author="张三"))
  4. query = s.query(condition)
  5. result = query.execute()
复制代码
3. 嵌套数据的修改和删除

删除和修改和之前的操作一样,对于 comments 字段的内容进行修改后 save() 操作即可
这里我们演示示例如下:
  1. # 获取某个 meta.id 的数据
  2. # 然后打印出 comments 字段值
  3. # 之后进行修改,保存操作
  4. post = Post.get(id="yebzsYYSls5E4GzFd_WA")
  5. print(post.comments)
  6. post.comments = [Comment(author="孙悟空", content="孙悟空的评论")]
  7. post.save()
  8. # 获取某个 meta.id 的数据
  9. # 打印当前值
  10. # 然后置空做删除处理
  11. post = Post.get(id="yebzsYYSls5E4GzFd_WA")
  12. print(post.comments)
  13. post.comments = []
  14. post.save()
  15. # 查看置空 comments 字段后的数据情况
  16. post = Post.get(id="yebzsYYSls5E4GzFd_WA")
  17. print(post.comments)
复制代码
5、类函数

每个 es_model 和 Django 里的 model 一样,可以自定义函数来操作,比如我们想创建一条 Title 数据,参数直接传入,可以如下操作
先定义我们的 model 然后重新进行 init() 操作:
  1. from elasticsearch_dsl import Document, Text, Date, Boolean
  2. from django.utils import timezone
  3. class Title(Document):
  4.     title = Text()
  5.     created_at = Date()
  6.     published = Boolean()
  7.     class Index:
  8.         name = "title"
  9.     def create(self, title="", created_at=timezone.now(), published=True):
  10.         self.title = title
  11.         self.created_at = created_at
  12.         self.published = published
  13.         self.save()
复制代码
创建数据:
  1. from blog.es_models import Title
  2. Title.init()
  3. Title().create(title="this is a title")
复制代码
6、排序、取字段等操作

使用 es_model 对 es 进行排序、计数、指定字段返回和直接使用 Python 的方式无异,下面介绍一下示例。
1. 排序 sort()

如果我们想对 char_count 字段进行排列操作,可以直接使用 sort()
这里我们复用前面的 search() 操作:
  1. s = BlogEs.search()
  2. condition = ES_Q()
  3. query = s.query(condition)
复制代码
按照 char_count 倒序:
  1. query = query.sort("-char_count")
复制代码
按照 char_count 正序:
  1. query = query.sort("char_count")
复制代码
多字段排序,按照 char_count 和 name 字段排序:
  1. query = query.sort("-char_count", "name")
复制代码
2.指定字段返回 source()

这里我们指定 char_count 和 name 字段返回:
  1. query = query.source("char_count", "name")
复制代码
3.extra()

排序和指定字段返回我们也可以将参数传入 extra(),然后进行操作,比如按照 char_count 字段正序排列,name 字段倒序,以及只返回 char_count 和 name 字段
  1. query = query.extra(
  2.     sort=[
  3.         {"char_count": {"order": "asc"}},
  4.         {"name": {"order": "desc"}}
  5.     ],
  6.     _source=["char_count", "name"]
  7. )
复制代码
4.分页操作

也可以在 extra() 中通过 from 和 size 实现分页操作:
  1. query = query.extra(
  2.     **{
  3.         "from": 2,
  4.         "size": 3
  5.     }
  6. )
复制代码
如果想获取更多相关文章,可扫码关注阅读:


来源:https://www.cnblogs.com/hunterxiong/p/17841558.html
免责声明:由于采集信息均来自互联网,如果侵犯了您的权益,请联系我们【E-Mail:cb@itdo.tech】 我们会及时删除侵权内容,谢谢合作!

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x

举报 回复 使用道具