在之前我们详细面熟了es的查询用法,但是es还拥有强大的聚合查询功能,可以得到类似分组,直方图,折线图等数据组合。类似SQL的SUM、AVG、COUNT、GROUP BY Elasticsearch-02-es的restapi使用
ES聚合查询类似SQL的GROUP by,一般统计分析主要分为两个步骤:
对查询的数据首先进行一轮分组,可以设置分组条件,例如:新生入学,把所有的学生按专业分班,这个分班的过程就是对学生进行了分组。
组内聚合,就是对组内的数据进行统计,例如:计算总数、求平均值等等,接上面的例子,学生都按专业分班了,那么就可以统计每个班的学生总数, 这个统计每个班学生总数的计算,就是组内聚合计算。
es中满足特定条件的文档的集合,叫做桶。 桶的就是一组数据的集合,对数据分组后,得到一组组的数据,就是一个个的桶。
提示:桶等同于组,分桶和分组是一个意思,ES使用桶代表一组相同特征的数据。
ES中桶聚合,指的就是先对数据进行分组,ES支持多种分组条件,例如:支持类似SQL的group by根据字段分组,当然ES比SQL更强大,支持更多的分组条件,以满足各种统计需求
指标指的是对文档进行统计计算方式,又叫指标聚合。 桶内聚合,说的就是先对数据进行分组(分桶),然后对每一个桶内的数据进行指标聚合。
说白了就是,前面将数据经过一轮桶聚合,把数据分成一个个的桶之后,我们根据上面计算指标对桶内的数据进行统计。比如计算每个桶内,最大值,最小值,平均值等
常用的指标有:SUM、COUNT、MAX等统计函数。
Elasticsearch桶聚合,目的就是数据分组,先将数据按指定的条件分成多个组,然后对每一个组进行统计。 组的概念跟桶是等同的,在ES中统一使用桶(bucket)这个术语。
ES桶聚合的作用跟SQL的group by的作用是一样的,区别是ES支持更加强大的数据分组能力,SQL只能根据字段的唯一值进行分组,分组的数量跟字段的唯一值的数量相等,例如: group by 店铺id, 去掉重复的店铺ID后,有多少个店铺就有多少个分组。
ES常用的桶聚合如下:
terms聚合的作用跟SQL中group by作用一样,都是根据字段唯一值对数据进行分组(分桶),字段值相等的文档都分到同一个桶内。
GET person_info/_search "size": 0, //这是为了不返回数据,只返回聚合结果 "aggs": { "buket_name": { // 聚合查询名字,随便取一个 "terms": { //聚合类型为: terms "field": "source.keyword" //根据source值来分组 "took" : 82, "timed_out" : false, "_shards" : { "total" : 3, "successful" : 3, "skipped" : 0, "failed" : 0 "hits" : { "total" : { "value" : 6854, "relation" : "eq" "max_score" : null, "hits" : [ ] "aggregations" : { "buket_name" : { "doc_count_error_upper_bound" : 10, "sum_other_doc_count" : 1261, "buckets" : [ "key" : "填表", "doc_count" : 5340 "key" : "普查", "doc_count" : 56 "key" : "网上下载", "doc_count" : 39 Histogram聚合 - 根据数值间隔分组,可做直方图 histogram(直方图)聚合,主要根据数值间隔分组,使用histogram聚合分桶统计结果,通常用在绘制条形图报表。 GET person_info/_search "size": 0, //这是为了不返回数据,只返回聚合结果 "aggs": { "buket_name": { // 聚合查询名字,随便取一个 "histogram": { // 聚合类型为:histogram "field": "age", //对age字段进行分类 "interval": 5 //数字间隔为5 "took" : 4, "timed_out" : false, "_shards" : { "total" : 3, "successful" : 3, "skipped" : 0, "failed" : 0 "hits" : { "total" : { "value" : 6854, "relation" : "eq" "max_score" : null, "hits" : [ ] "aggregations" : { "buket_name" : { "buckets" : [ "key" : 10, "doc_count" : 814 "key" : 15.0, "doc_count" : 1612 "key" : 20.0, "doc_count" : 1290 "key" : 25.0, "doc_count" : 3138 Date histogram聚合 - 根据时间间隔分组,可做时间折线图 类似histogram聚合,区别是Date histogram可以很好的处理时间类型字段,主要用于根据时间、日期分桶的场景。 GET person_info/_search "size": 0, "aggs": { "buket_name": { //这是为了不返回数据,只返回聚合结果 "date_histogram": { // 聚合类型为: date_histogram "field": "data", // 根据date字段分组 "calendar_interval": "month", // 分组间隔,详解在下边 "format" : "yyyy-MM-dd", // 设置返回结果中桶key的时间格式 "time_zone": "+08:00", //**设置时区,如果存入的时候没设置就不用填** "min_doc_count": 0, // 没有数据的月份返回0 "extended_bounds": { //强制返回的日期区间,既需要填充0的范围 "min": "2000-01-01", "max": "2003-01-01" "took" : 17, "timed_out" : false, "_shards" : { "total" : 3, "successful" : 3, "skipped" : 0, "failed" : 0 "hits" : { "total" : { "value" : 6854, "relation" : "eq" "max_score" : null, "hits" : [ ] "aggregations" : { "buket_name" : { "buckets" : [ "key_as_string" : "2002-01-01", "key" : 1009843200000, "doc_count" : 5 参数说明1:“time_zone”: “+08:00” 日期(date)类型的字段在 es中是以 long类型的值保存的。es中默认 默认的时区是 0时区。如果我们有一个东八区的时间,那么在es中是如何存储的呢?如果我们此时存在 如下 东八区时间 2022-11-29 12:12:12,那么在 es 会存储为 2022-11-29 12:12:12 +0000 对应的时间戳,为什么会加上+0000,因为我们自己的时间字符串中没有时区,就会加上默认的0时区。也可用 时差(offset)来表示,使用 offset 参数按指定的正(+)或负(-)偏移量持续时间来更改每个桶的起始值,例如1h表示一个小时,1d表示一天。例如,当使用day作为时间间隔时,每个桶的时间区间从午夜到午夜。 将参数 offset 设置为 +6h 会将每个桶的时间区间更改为从早上6点到早上6点: 参数说明2:fixed_interval 和calendar_interval 区别 原本的interval 字段在7.2中被弃用日历感知间隔是用参数 calendar_interval 配置的。 日历间隔只能以单位的“单数”数量指定(1d、1M等)。 不支持像 2d这样的倍数,否则会引发异常。 minute (1m) hour(1h) day(1d) week(1w) month(1m) quarter( 季度1q) year(1y) 固定间隔是用参数 fixed_interval 配置的。 与日历感知间隔不同,固定间隔是固定数量的国际单位制(SI)单位,无论它们在日历上的位置如何,都不会偏离。 一秒钟总是由1000毫秒组成。 这允许以支持单位的任何倍数值指定固定间隔。 然而,这意味着固定的间隔不能表达其他单位,如“月(month)”,因为一个月的持续时间不是一个固定的量。 试图指定月或季度(quarter)等日历间隔将引发异常。 固定间隔支持的单位有: 毫秒 (ms) 秒 (s):定义为每个1000毫秒 分钟 (m):所有分钟都从00秒开始。 定义为每个60秒(60,000毫秒) 小时 (h):所有小时都从00分00秒开始。 定义为每60分钟(3,600,000毫秒) 天 (d):所有天都在尽可能早的时间开始,通常是00:00:00(午夜)。 定义为24小时(86,400,000毫秒) Range聚合 - 按数值范围分组,自定义分组 GET /xxx/_search "query": { "range": { "alarmNum": { "gte": 20, "lte": 50 "size": 0, "aggs": { "warncont": { "range": { "field": "alarmNum", "ranges": [ "to": 24 #< "from": 24, #>= and < "to": 32 "from": 32 #>= Elasticsearch 指标聚合(metrics)-函数 ES指标聚合,就是类似SQL的统计函数,指标聚合可以单独使用,也可以跟桶聚合一起使用。 常用的统计函数如下: Value Count - 类似sql的count函数,统计总数Cardinality - 类似SQL的count(DISTINCT 字段), 统计不重复的数据总数Avg - 求平均值Sum - 求和Max - 求最大值Min - 求最小值 Value Count - 类似sql的count函数,统计总数 GET /sales/_search?size=0 "aggs": { "types_count": { // 聚合查询的名字,随便取个名字 "value_count": { // 聚合类型为:value_count "field": "type" // 计算type这个字段值的总数 等价SQL: select count(type) from sales Cardinality - 类似SQL的count(DISTINCT 字段), 统计不重复的数据总数 POST /sales/_search?size=0 "aggs" : { "type_count" : { // 聚合查询的名字,随便取一个 "cardinality" : { // 聚合查询类型为:cardinality "field" : "type" // 根据type这个字段统计文档总数 等价SQL: select count(DISTINCT type) from sales Avg - 求平均值 Sum - 求和 Max - 求最大值 Min - 求最小值 POST /exams/_search?size=0 "aggs": { "avg_grade": { // 聚合查询名字,随便取一个名字 "avg": { // 聚合查询类型为: avg "field": "grade" // 统计grade字段值的平均值 综合使用-多层嵌套 GET /project_zcy/_search "size": 0, "query": { "term": { "project_status.keyword": { "value": "执行中" "aggs": { "institue_bulk": { "terms": { "field": "institute_code.keyword", #分组code "order": { "_count": "asc" "aggs": { "depart_bulk": { "terms": { "field": "institute_name.keyword" #再次分组获取名称 "aggs": { #指标sum "warm_sum": { "sum": { "field": "alarmNum" "index_count": { #指标count "value_count": { "field": "institute_code.keyword" ES聚合排序 排序是对桶里面数据排序 默认情况,ES会根据doc_count文档总数,降序排序。 ES桶聚合支持两种方式排序: 内置排序按度量指标排序 1:内置排序 内置排序参数: _count - 按文档数排序。对 terms 、 histogram 、 date_histogram 有效_term - 按词项的字符串值的字母顺序排序。只在 terms 内使用_key - 按每个桶的键值数值排序, 仅对 histogram 和 date_histogram 有效 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字,随便取一个 "terms" : { // 聚合类型为: terms "field" : "color", "order": { // 设置排序参数 "_count" : "asc" // 根据_count排序,asc升序,desc降序 2:按度量排序 通常情况下,我们根据桶聚合分桶后,都会对桶内进行多个维度的指标聚合,所以我们也可以根据桶内指标聚合的结果进行排序。 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字 "terms" : { // 聚合类型: terms,先分桶 "field" : "color", // 分桶字段为color "order": { // 设置排序参数 "avg_price" : "asc" // 根据avg_price指标聚合结果,升序排序。 "aggs": { // 嵌套聚合查询,设置桶内聚合指标 "avg_price": { // 聚合查询名字,前面排序引用的就是这个名字 "avg": {"field": "price"} // 计算price字段平均值 限制返回桶的数量 -size GET /_search "aggs" : { "products" : { // 聚合查询名字 "terms" : { // 聚合类型为: terms "field" : "product", // 根据product字段分桶 "size" : 5 // 限制最多返回5个桶 说到聚合查询,马上会想到 SQL 中的 group by,ES中也有类似的功能,名叫 Aggregation。默认,ES的聚合以分组内数量倒序排序。我们基于上面最后的统计结果,自定义聚合结果排序默认排序方式按数量升序之前说过,默认分组,提供了两个字段的返回;key 和 doc_count,如果要自定义这两个基本字段排序方式,需要在前面加上 下划线 _当然还可以按照其他聚合函数的结果排序。 管道聚合查询是一种在聚合查询结果上进行进一步计算和分析的方式。它可以用于计算新的指标、进行比较、排序和筛选等操作。管道聚合查询通常作为其他聚合查询的后续处理步骤。 size=0 { “aggs”: { “”: { “histogram”: { “field”: “price”, #字段名称 “interval”: 1000, #区间间隔 “keyed”: true, #返回数据的结构化类型 “min_doc_count”: , #返回桶的最小文档数阈值,即文档数小于num的桶不会被输出 “missing”: 1999 #空值的替换值,即如果文档对应字段的值为空,则默认输出1999(参数值) } } } } missing:对空值赋默认值(设置成500,上图中表示,将price缺失的数据的price设置成500)min_doc_count:设置成1,表示输出结果doc_value大于等于1的数据(过滤0)因为聚合查询使用的是doc_values的正排索引,tags.keyword有正排索引。2)对分桶后的tags取平均price(在哪个的基础上进行操作,就放在同一级)1)查询price>4000的平均price和所有商品的平均price。doc_vaules是基于磁盘的,filed_data是基于内存的。 Elasticsearch 聚合使用 通常在业务开发中我们需要统计报表对一些数据进行统计,在关系型数据库中我们通常使用sql 如max min sum count group by 等配合使用进行数据统计,也可能在业务代码中进行一些数据计算,那么在es中是如何使用的呢? 同样es中也提供了类似sql中的统计方法 聚合使用 聚合分析是es中比较重要的功能特性,完成对一个查询数据集中数据的聚合计算,如:需要找出某个字段的最大值,最小值,平均值,计算综合,平均值等。同样的es作为搜索引擎兼数据库,也提供了强 假如我们有一个需要选择的对象,它有两个参数来唯一确定这个对象:vport和vip(一个vip可以对应多个vport), 除此之外,还有feature_type类型,set_info集群信息,cdate日期,feature_data特征值(数字) 我们的目标是选择出一段时间内,某个类型,某个set_info下的每个vip和vport标识对象的平均特征值。所以我们需要: 1.用query来筛选指定的某...
GET person_info/_search "size": 0, //这是为了不返回数据,只返回聚合结果 "aggs": { "buket_name": { // 聚合查询名字,随便取一个 "terms": { //聚合类型为: terms "field": "source.keyword" //根据source值来分组 "took" : 82, "timed_out" : false, "_shards" : { "total" : 3, "successful" : 3, "skipped" : 0, "failed" : 0 "hits" : { "total" : { "value" : 6854, "relation" : "eq" "max_score" : null, "hits" : [ ] "aggregations" : { "buket_name" : { "doc_count_error_upper_bound" : 10, "sum_other_doc_count" : 1261, "buckets" : [ "key" : "填表", "doc_count" : 5340 "key" : "普查", "doc_count" : 56 "key" : "网上下载", "doc_count" : 39
Histogram聚合 - 根据数值间隔分组,可做直方图 histogram(直方图)聚合,主要根据数值间隔分组,使用histogram聚合分桶统计结果,通常用在绘制条形图报表。 GET person_info/_search "size": 0, //这是为了不返回数据,只返回聚合结果 "aggs": { "buket_name": { // 聚合查询名字,随便取一个 "histogram": { // 聚合类型为:histogram "field": "age", //对age字段进行分类 "interval": 5 //数字间隔为5 "took" : 4, "timed_out" : false, "_shards" : { "total" : 3, "successful" : 3, "skipped" : 0, "failed" : 0 "hits" : { "total" : { "value" : 6854, "relation" : "eq" "max_score" : null, "hits" : [ ] "aggregations" : { "buket_name" : { "buckets" : [ "key" : 10, "doc_count" : 814 "key" : 15.0, "doc_count" : 1612 "key" : 20.0, "doc_count" : 1290 "key" : 25.0, "doc_count" : 3138 Date histogram聚合 - 根据时间间隔分组,可做时间折线图 类似histogram聚合,区别是Date histogram可以很好的处理时间类型字段,主要用于根据时间、日期分桶的场景。 GET person_info/_search "size": 0, "aggs": { "buket_name": { //这是为了不返回数据,只返回聚合结果 "date_histogram": { // 聚合类型为: date_histogram "field": "data", // 根据date字段分组 "calendar_interval": "month", // 分组间隔,详解在下边 "format" : "yyyy-MM-dd", // 设置返回结果中桶key的时间格式 "time_zone": "+08:00", //**设置时区,如果存入的时候没设置就不用填** "min_doc_count": 0, // 没有数据的月份返回0 "extended_bounds": { //强制返回的日期区间,既需要填充0的范围 "min": "2000-01-01", "max": "2003-01-01" "took" : 17, "timed_out" : false, "_shards" : { "total" : 3, "successful" : 3, "skipped" : 0, "failed" : 0 "hits" : { "total" : { "value" : 6854, "relation" : "eq" "max_score" : null, "hits" : [ ] "aggregations" : { "buket_name" : { "buckets" : [ "key_as_string" : "2002-01-01", "key" : 1009843200000, "doc_count" : 5 参数说明1:“time_zone”: “+08:00” 日期(date)类型的字段在 es中是以 long类型的值保存的。es中默认 默认的时区是 0时区。如果我们有一个东八区的时间,那么在es中是如何存储的呢?如果我们此时存在 如下 东八区时间 2022-11-29 12:12:12,那么在 es 会存储为 2022-11-29 12:12:12 +0000 对应的时间戳,为什么会加上+0000,因为我们自己的时间字符串中没有时区,就会加上默认的0时区。也可用 时差(offset)来表示,使用 offset 参数按指定的正(+)或负(-)偏移量持续时间来更改每个桶的起始值,例如1h表示一个小时,1d表示一天。例如,当使用day作为时间间隔时,每个桶的时间区间从午夜到午夜。 将参数 offset 设置为 +6h 会将每个桶的时间区间更改为从早上6点到早上6点: 参数说明2:fixed_interval 和calendar_interval 区别 原本的interval 字段在7.2中被弃用日历感知间隔是用参数 calendar_interval 配置的。 日历间隔只能以单位的“单数”数量指定(1d、1M等)。 不支持像 2d这样的倍数,否则会引发异常。 minute (1m) hour(1h) day(1d) week(1w) month(1m) quarter( 季度1q) year(1y) 固定间隔是用参数 fixed_interval 配置的。 与日历感知间隔不同,固定间隔是固定数量的国际单位制(SI)单位,无论它们在日历上的位置如何,都不会偏离。 一秒钟总是由1000毫秒组成。 这允许以支持单位的任何倍数值指定固定间隔。 然而,这意味着固定的间隔不能表达其他单位,如“月(month)”,因为一个月的持续时间不是一个固定的量。 试图指定月或季度(quarter)等日历间隔将引发异常。 固定间隔支持的单位有: 毫秒 (ms) 秒 (s):定义为每个1000毫秒 分钟 (m):所有分钟都从00秒开始。 定义为每个60秒(60,000毫秒) 小时 (h):所有小时都从00分00秒开始。 定义为每60分钟(3,600,000毫秒) 天 (d):所有天都在尽可能早的时间开始,通常是00:00:00(午夜)。 定义为24小时(86,400,000毫秒) Range聚合 - 按数值范围分组,自定义分组 GET /xxx/_search "query": { "range": { "alarmNum": { "gte": 20, "lte": 50 "size": 0, "aggs": { "warncont": { "range": { "field": "alarmNum", "ranges": [ "to": 24 #< "from": 24, #>= and < "to": 32 "from": 32 #>= Elasticsearch 指标聚合(metrics)-函数 ES指标聚合,就是类似SQL的统计函数,指标聚合可以单独使用,也可以跟桶聚合一起使用。 常用的统计函数如下: Value Count - 类似sql的count函数,统计总数Cardinality - 类似SQL的count(DISTINCT 字段), 统计不重复的数据总数Avg - 求平均值Sum - 求和Max - 求最大值Min - 求最小值 Value Count - 类似sql的count函数,统计总数 GET /sales/_search?size=0 "aggs": { "types_count": { // 聚合查询的名字,随便取个名字 "value_count": { // 聚合类型为:value_count "field": "type" // 计算type这个字段值的总数 等价SQL: select count(type) from sales Cardinality - 类似SQL的count(DISTINCT 字段), 统计不重复的数据总数 POST /sales/_search?size=0 "aggs" : { "type_count" : { // 聚合查询的名字,随便取一个 "cardinality" : { // 聚合查询类型为:cardinality "field" : "type" // 根据type这个字段统计文档总数 等价SQL: select count(DISTINCT type) from sales Avg - 求平均值 Sum - 求和 Max - 求最大值 Min - 求最小值 POST /exams/_search?size=0 "aggs": { "avg_grade": { // 聚合查询名字,随便取一个名字 "avg": { // 聚合查询类型为: avg "field": "grade" // 统计grade字段值的平均值 综合使用-多层嵌套 GET /project_zcy/_search "size": 0, "query": { "term": { "project_status.keyword": { "value": "执行中" "aggs": { "institue_bulk": { "terms": { "field": "institute_code.keyword", #分组code "order": { "_count": "asc" "aggs": { "depart_bulk": { "terms": { "field": "institute_name.keyword" #再次分组获取名称 "aggs": { #指标sum "warm_sum": { "sum": { "field": "alarmNum" "index_count": { #指标count "value_count": { "field": "institute_code.keyword" ES聚合排序 排序是对桶里面数据排序 默认情况,ES会根据doc_count文档总数,降序排序。 ES桶聚合支持两种方式排序: 内置排序按度量指标排序 1:内置排序 内置排序参数: _count - 按文档数排序。对 terms 、 histogram 、 date_histogram 有效_term - 按词项的字符串值的字母顺序排序。只在 terms 内使用_key - 按每个桶的键值数值排序, 仅对 histogram 和 date_histogram 有效 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字,随便取一个 "terms" : { // 聚合类型为: terms "field" : "color", "order": { // 设置排序参数 "_count" : "asc" // 根据_count排序,asc升序,desc降序 2:按度量排序 通常情况下,我们根据桶聚合分桶后,都会对桶内进行多个维度的指标聚合,所以我们也可以根据桶内指标聚合的结果进行排序。 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字 "terms" : { // 聚合类型: terms,先分桶 "field" : "color", // 分桶字段为color "order": { // 设置排序参数 "avg_price" : "asc" // 根据avg_price指标聚合结果,升序排序。 "aggs": { // 嵌套聚合查询,设置桶内聚合指标 "avg_price": { // 聚合查询名字,前面排序引用的就是这个名字 "avg": {"field": "price"} // 计算price字段平均值 限制返回桶的数量 -size GET /_search "aggs" : { "products" : { // 聚合查询名字 "terms" : { // 聚合类型为: terms "field" : "product", // 根据product字段分桶 "size" : 5 // 限制最多返回5个桶 说到聚合查询,马上会想到 SQL 中的 group by,ES中也有类似的功能,名叫 Aggregation。默认,ES的聚合以分组内数量倒序排序。我们基于上面最后的统计结果,自定义聚合结果排序默认排序方式按数量升序之前说过,默认分组,提供了两个字段的返回;key 和 doc_count,如果要自定义这两个基本字段排序方式,需要在前面加上 下划线 _当然还可以按照其他聚合函数的结果排序。 管道聚合查询是一种在聚合查询结果上进行进一步计算和分析的方式。它可以用于计算新的指标、进行比较、排序和筛选等操作。管道聚合查询通常作为其他聚合查询的后续处理步骤。 size=0 { “aggs”: { “”: { “histogram”: { “field”: “price”, #字段名称 “interval”: 1000, #区间间隔 “keyed”: true, #返回数据的结构化类型 “min_doc_count”: , #返回桶的最小文档数阈值,即文档数小于num的桶不会被输出 “missing”: 1999 #空值的替换值,即如果文档对应字段的值为空,则默认输出1999(参数值) } } } } missing:对空值赋默认值(设置成500,上图中表示,将price缺失的数据的price设置成500)min_doc_count:设置成1,表示输出结果doc_value大于等于1的数据(过滤0)因为聚合查询使用的是doc_values的正排索引,tags.keyword有正排索引。2)对分桶后的tags取平均price(在哪个的基础上进行操作,就放在同一级)1)查询price>4000的平均price和所有商品的平均price。doc_vaules是基于磁盘的,filed_data是基于内存的。 Elasticsearch 聚合使用 通常在业务开发中我们需要统计报表对一些数据进行统计,在关系型数据库中我们通常使用sql 如max min sum count group by 等配合使用进行数据统计,也可能在业务代码中进行一些数据计算,那么在es中是如何使用的呢? 同样es中也提供了类似sql中的统计方法 聚合使用 聚合分析是es中比较重要的功能特性,完成对一个查询数据集中数据的聚合计算,如:需要找出某个字段的最大值,最小值,平均值,计算综合,平均值等。同样的es作为搜索引擎兼数据库,也提供了强 假如我们有一个需要选择的对象,它有两个参数来唯一确定这个对象:vport和vip(一个vip可以对应多个vport), 除此之外,还有feature_type类型,set_info集群信息,cdate日期,feature_data特征值(数字) 我们的目标是选择出一段时间内,某个类型,某个set_info下的每个vip和vport标识对象的平均特征值。所以我们需要: 1.用query来筛选指定的某...
histogram(直方图)聚合,主要根据数值间隔分组,使用histogram聚合分桶统计结果,通常用在绘制条形图报表。
GET person_info/_search "size": 0, //这是为了不返回数据,只返回聚合结果 "aggs": { "buket_name": { // 聚合查询名字,随便取一个 "histogram": { // 聚合类型为:histogram "field": "age", //对age字段进行分类 "interval": 5 //数字间隔为5 "took" : 4, "timed_out" : false, "_shards" : { "total" : 3, "successful" : 3, "skipped" : 0, "failed" : 0 "hits" : { "total" : { "value" : 6854, "relation" : "eq" "max_score" : null, "hits" : [ ] "aggregations" : { "buket_name" : { "buckets" : [ "key" : 10, "doc_count" : 814 "key" : 15.0, "doc_count" : 1612 "key" : 20.0, "doc_count" : 1290 "key" : 25.0, "doc_count" : 3138 Date histogram聚合 - 根据时间间隔分组,可做时间折线图 类似histogram聚合,区别是Date histogram可以很好的处理时间类型字段,主要用于根据时间、日期分桶的场景。 GET person_info/_search "size": 0, "aggs": { "buket_name": { //这是为了不返回数据,只返回聚合结果 "date_histogram": { // 聚合类型为: date_histogram "field": "data", // 根据date字段分组 "calendar_interval": "month", // 分组间隔,详解在下边 "format" : "yyyy-MM-dd", // 设置返回结果中桶key的时间格式 "time_zone": "+08:00", //**设置时区,如果存入的时候没设置就不用填** "min_doc_count": 0, // 没有数据的月份返回0 "extended_bounds": { //强制返回的日期区间,既需要填充0的范围 "min": "2000-01-01", "max": "2003-01-01" "took" : 17, "timed_out" : false, "_shards" : { "total" : 3, "successful" : 3, "skipped" : 0, "failed" : 0 "hits" : { "total" : { "value" : 6854, "relation" : "eq" "max_score" : null, "hits" : [ ] "aggregations" : { "buket_name" : { "buckets" : [ "key_as_string" : "2002-01-01", "key" : 1009843200000, "doc_count" : 5 参数说明1:“time_zone”: “+08:00” 日期(date)类型的字段在 es中是以 long类型的值保存的。es中默认 默认的时区是 0时区。如果我们有一个东八区的时间,那么在es中是如何存储的呢?如果我们此时存在 如下 东八区时间 2022-11-29 12:12:12,那么在 es 会存储为 2022-11-29 12:12:12 +0000 对应的时间戳,为什么会加上+0000,因为我们自己的时间字符串中没有时区,就会加上默认的0时区。也可用 时差(offset)来表示,使用 offset 参数按指定的正(+)或负(-)偏移量持续时间来更改每个桶的起始值,例如1h表示一个小时,1d表示一天。例如,当使用day作为时间间隔时,每个桶的时间区间从午夜到午夜。 将参数 offset 设置为 +6h 会将每个桶的时间区间更改为从早上6点到早上6点: 参数说明2:fixed_interval 和calendar_interval 区别 原本的interval 字段在7.2中被弃用日历感知间隔是用参数 calendar_interval 配置的。 日历间隔只能以单位的“单数”数量指定(1d、1M等)。 不支持像 2d这样的倍数,否则会引发异常。 minute (1m) hour(1h) day(1d) week(1w) month(1m) quarter( 季度1q) year(1y) 固定间隔是用参数 fixed_interval 配置的。 与日历感知间隔不同,固定间隔是固定数量的国际单位制(SI)单位,无论它们在日历上的位置如何,都不会偏离。 一秒钟总是由1000毫秒组成。 这允许以支持单位的任何倍数值指定固定间隔。 然而,这意味着固定的间隔不能表达其他单位,如“月(month)”,因为一个月的持续时间不是一个固定的量。 试图指定月或季度(quarter)等日历间隔将引发异常。 固定间隔支持的单位有: 毫秒 (ms) 秒 (s):定义为每个1000毫秒 分钟 (m):所有分钟都从00秒开始。 定义为每个60秒(60,000毫秒) 小时 (h):所有小时都从00分00秒开始。 定义为每60分钟(3,600,000毫秒) 天 (d):所有天都在尽可能早的时间开始,通常是00:00:00(午夜)。 定义为24小时(86,400,000毫秒) Range聚合 - 按数值范围分组,自定义分组 GET /xxx/_search "query": { "range": { "alarmNum": { "gte": 20, "lte": 50 "size": 0, "aggs": { "warncont": { "range": { "field": "alarmNum", "ranges": [ "to": 24 #< "from": 24, #>= and < "to": 32 "from": 32 #>= Elasticsearch 指标聚合(metrics)-函数 ES指标聚合,就是类似SQL的统计函数,指标聚合可以单独使用,也可以跟桶聚合一起使用。 常用的统计函数如下: Value Count - 类似sql的count函数,统计总数Cardinality - 类似SQL的count(DISTINCT 字段), 统计不重复的数据总数Avg - 求平均值Sum - 求和Max - 求最大值Min - 求最小值 Value Count - 类似sql的count函数,统计总数 GET /sales/_search?size=0 "aggs": { "types_count": { // 聚合查询的名字,随便取个名字 "value_count": { // 聚合类型为:value_count "field": "type" // 计算type这个字段值的总数 等价SQL: select count(type) from sales Cardinality - 类似SQL的count(DISTINCT 字段), 统计不重复的数据总数 POST /sales/_search?size=0 "aggs" : { "type_count" : { // 聚合查询的名字,随便取一个 "cardinality" : { // 聚合查询类型为:cardinality "field" : "type" // 根据type这个字段统计文档总数 等价SQL: select count(DISTINCT type) from sales Avg - 求平均值 Sum - 求和 Max - 求最大值 Min - 求最小值 POST /exams/_search?size=0 "aggs": { "avg_grade": { // 聚合查询名字,随便取一个名字 "avg": { // 聚合查询类型为: avg "field": "grade" // 统计grade字段值的平均值 综合使用-多层嵌套 GET /project_zcy/_search "size": 0, "query": { "term": { "project_status.keyword": { "value": "执行中" "aggs": { "institue_bulk": { "terms": { "field": "institute_code.keyword", #分组code "order": { "_count": "asc" "aggs": { "depart_bulk": { "terms": { "field": "institute_name.keyword" #再次分组获取名称 "aggs": { #指标sum "warm_sum": { "sum": { "field": "alarmNum" "index_count": { #指标count "value_count": { "field": "institute_code.keyword" ES聚合排序 排序是对桶里面数据排序 默认情况,ES会根据doc_count文档总数,降序排序。 ES桶聚合支持两种方式排序: 内置排序按度量指标排序 1:内置排序 内置排序参数: _count - 按文档数排序。对 terms 、 histogram 、 date_histogram 有效_term - 按词项的字符串值的字母顺序排序。只在 terms 内使用_key - 按每个桶的键值数值排序, 仅对 histogram 和 date_histogram 有效 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字,随便取一个 "terms" : { // 聚合类型为: terms "field" : "color", "order": { // 设置排序参数 "_count" : "asc" // 根据_count排序,asc升序,desc降序 2:按度量排序 通常情况下,我们根据桶聚合分桶后,都会对桶内进行多个维度的指标聚合,所以我们也可以根据桶内指标聚合的结果进行排序。 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字 "terms" : { // 聚合类型: terms,先分桶 "field" : "color", // 分桶字段为color "order": { // 设置排序参数 "avg_price" : "asc" // 根据avg_price指标聚合结果,升序排序。 "aggs": { // 嵌套聚合查询,设置桶内聚合指标 "avg_price": { // 聚合查询名字,前面排序引用的就是这个名字 "avg": {"field": "price"} // 计算price字段平均值 限制返回桶的数量 -size GET /_search "aggs" : { "products" : { // 聚合查询名字 "terms" : { // 聚合类型为: terms "field" : "product", // 根据product字段分桶 "size" : 5 // 限制最多返回5个桶 说到聚合查询,马上会想到 SQL 中的 group by,ES中也有类似的功能,名叫 Aggregation。默认,ES的聚合以分组内数量倒序排序。我们基于上面最后的统计结果,自定义聚合结果排序默认排序方式按数量升序之前说过,默认分组,提供了两个字段的返回;key 和 doc_count,如果要自定义这两个基本字段排序方式,需要在前面加上 下划线 _当然还可以按照其他聚合函数的结果排序。 管道聚合查询是一种在聚合查询结果上进行进一步计算和分析的方式。它可以用于计算新的指标、进行比较、排序和筛选等操作。管道聚合查询通常作为其他聚合查询的后续处理步骤。 size=0 { “aggs”: { “”: { “histogram”: { “field”: “price”, #字段名称 “interval”: 1000, #区间间隔 “keyed”: true, #返回数据的结构化类型 “min_doc_count”: , #返回桶的最小文档数阈值,即文档数小于num的桶不会被输出 “missing”: 1999 #空值的替换值,即如果文档对应字段的值为空,则默认输出1999(参数值) } } } } missing:对空值赋默认值(设置成500,上图中表示,将price缺失的数据的price设置成500)min_doc_count:设置成1,表示输出结果doc_value大于等于1的数据(过滤0)因为聚合查询使用的是doc_values的正排索引,tags.keyword有正排索引。2)对分桶后的tags取平均price(在哪个的基础上进行操作,就放在同一级)1)查询price>4000的平均price和所有商品的平均price。doc_vaules是基于磁盘的,filed_data是基于内存的。 Elasticsearch 聚合使用 通常在业务开发中我们需要统计报表对一些数据进行统计,在关系型数据库中我们通常使用sql 如max min sum count group by 等配合使用进行数据统计,也可能在业务代码中进行一些数据计算,那么在es中是如何使用的呢? 同样es中也提供了类似sql中的统计方法 聚合使用 聚合分析是es中比较重要的功能特性,完成对一个查询数据集中数据的聚合计算,如:需要找出某个字段的最大值,最小值,平均值,计算综合,平均值等。同样的es作为搜索引擎兼数据库,也提供了强 假如我们有一个需要选择的对象,它有两个参数来唯一确定这个对象:vport和vip(一个vip可以对应多个vport), 除此之外,还有feature_type类型,set_info集群信息,cdate日期,feature_data特征值(数字) 我们的目标是选择出一段时间内,某个类型,某个set_info下的每个vip和vport标识对象的平均特征值。所以我们需要: 1.用query来筛选指定的某...
GET person_info/_search "size": 0, //这是为了不返回数据,只返回聚合结果 "aggs": { "buket_name": { // 聚合查询名字,随便取一个 "histogram": { // 聚合类型为:histogram "field": "age", //对age字段进行分类 "interval": 5 //数字间隔为5 "took" : 4, "timed_out" : false, "_shards" : { "total" : 3, "successful" : 3, "skipped" : 0, "failed" : 0 "hits" : { "total" : { "value" : 6854, "relation" : "eq" "max_score" : null, "hits" : [ ] "aggregations" : { "buket_name" : { "buckets" : [ "key" : 10, "doc_count" : 814 "key" : 15.0, "doc_count" : 1612 "key" : 20.0, "doc_count" : 1290 "key" : 25.0, "doc_count" : 3138
Date histogram聚合 - 根据时间间隔分组,可做时间折线图 类似histogram聚合,区别是Date histogram可以很好的处理时间类型字段,主要用于根据时间、日期分桶的场景。 GET person_info/_search "size": 0, "aggs": { "buket_name": { //这是为了不返回数据,只返回聚合结果 "date_histogram": { // 聚合类型为: date_histogram "field": "data", // 根据date字段分组 "calendar_interval": "month", // 分组间隔,详解在下边 "format" : "yyyy-MM-dd", // 设置返回结果中桶key的时间格式 "time_zone": "+08:00", //**设置时区,如果存入的时候没设置就不用填** "min_doc_count": 0, // 没有数据的月份返回0 "extended_bounds": { //强制返回的日期区间,既需要填充0的范围 "min": "2000-01-01", "max": "2003-01-01" "took" : 17, "timed_out" : false, "_shards" : { "total" : 3, "successful" : 3, "skipped" : 0, "failed" : 0 "hits" : { "total" : { "value" : 6854, "relation" : "eq" "max_score" : null, "hits" : [ ] "aggregations" : { "buket_name" : { "buckets" : [ "key_as_string" : "2002-01-01", "key" : 1009843200000, "doc_count" : 5 参数说明1:“time_zone”: “+08:00” 日期(date)类型的字段在 es中是以 long类型的值保存的。es中默认 默认的时区是 0时区。如果我们有一个东八区的时间,那么在es中是如何存储的呢?如果我们此时存在 如下 东八区时间 2022-11-29 12:12:12,那么在 es 会存储为 2022-11-29 12:12:12 +0000 对应的时间戳,为什么会加上+0000,因为我们自己的时间字符串中没有时区,就会加上默认的0时区。也可用 时差(offset)来表示,使用 offset 参数按指定的正(+)或负(-)偏移量持续时间来更改每个桶的起始值,例如1h表示一个小时,1d表示一天。例如,当使用day作为时间间隔时,每个桶的时间区间从午夜到午夜。 将参数 offset 设置为 +6h 会将每个桶的时间区间更改为从早上6点到早上6点: 参数说明2:fixed_interval 和calendar_interval 区别 原本的interval 字段在7.2中被弃用日历感知间隔是用参数 calendar_interval 配置的。 日历间隔只能以单位的“单数”数量指定(1d、1M等)。 不支持像 2d这样的倍数,否则会引发异常。 minute (1m) hour(1h) day(1d) week(1w) month(1m) quarter( 季度1q) year(1y) 固定间隔是用参数 fixed_interval 配置的。 与日历感知间隔不同,固定间隔是固定数量的国际单位制(SI)单位,无论它们在日历上的位置如何,都不会偏离。 一秒钟总是由1000毫秒组成。 这允许以支持单位的任何倍数值指定固定间隔。 然而,这意味着固定的间隔不能表达其他单位,如“月(month)”,因为一个月的持续时间不是一个固定的量。 试图指定月或季度(quarter)等日历间隔将引发异常。 固定间隔支持的单位有: 毫秒 (ms) 秒 (s):定义为每个1000毫秒 分钟 (m):所有分钟都从00秒开始。 定义为每个60秒(60,000毫秒) 小时 (h):所有小时都从00分00秒开始。 定义为每60分钟(3,600,000毫秒) 天 (d):所有天都在尽可能早的时间开始,通常是00:00:00(午夜)。 定义为24小时(86,400,000毫秒) Range聚合 - 按数值范围分组,自定义分组 GET /xxx/_search "query": { "range": { "alarmNum": { "gte": 20, "lte": 50 "size": 0, "aggs": { "warncont": { "range": { "field": "alarmNum", "ranges": [ "to": 24 #< "from": 24, #>= and < "to": 32 "from": 32 #>= Elasticsearch 指标聚合(metrics)-函数 ES指标聚合,就是类似SQL的统计函数,指标聚合可以单独使用,也可以跟桶聚合一起使用。 常用的统计函数如下: Value Count - 类似sql的count函数,统计总数Cardinality - 类似SQL的count(DISTINCT 字段), 统计不重复的数据总数Avg - 求平均值Sum - 求和Max - 求最大值Min - 求最小值 Value Count - 类似sql的count函数,统计总数 GET /sales/_search?size=0 "aggs": { "types_count": { // 聚合查询的名字,随便取个名字 "value_count": { // 聚合类型为:value_count "field": "type" // 计算type这个字段值的总数 等价SQL: select count(type) from sales Cardinality - 类似SQL的count(DISTINCT 字段), 统计不重复的数据总数 POST /sales/_search?size=0 "aggs" : { "type_count" : { // 聚合查询的名字,随便取一个 "cardinality" : { // 聚合查询类型为:cardinality "field" : "type" // 根据type这个字段统计文档总数 等价SQL: select count(DISTINCT type) from sales Avg - 求平均值 Sum - 求和 Max - 求最大值 Min - 求最小值 POST /exams/_search?size=0 "aggs": { "avg_grade": { // 聚合查询名字,随便取一个名字 "avg": { // 聚合查询类型为: avg "field": "grade" // 统计grade字段值的平均值 综合使用-多层嵌套 GET /project_zcy/_search "size": 0, "query": { "term": { "project_status.keyword": { "value": "执行中" "aggs": { "institue_bulk": { "terms": { "field": "institute_code.keyword", #分组code "order": { "_count": "asc" "aggs": { "depart_bulk": { "terms": { "field": "institute_name.keyword" #再次分组获取名称 "aggs": { #指标sum "warm_sum": { "sum": { "field": "alarmNum" "index_count": { #指标count "value_count": { "field": "institute_code.keyword" ES聚合排序 排序是对桶里面数据排序 默认情况,ES会根据doc_count文档总数,降序排序。 ES桶聚合支持两种方式排序: 内置排序按度量指标排序 1:内置排序 内置排序参数: _count - 按文档数排序。对 terms 、 histogram 、 date_histogram 有效_term - 按词项的字符串值的字母顺序排序。只在 terms 内使用_key - 按每个桶的键值数值排序, 仅对 histogram 和 date_histogram 有效 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字,随便取一个 "terms" : { // 聚合类型为: terms "field" : "color", "order": { // 设置排序参数 "_count" : "asc" // 根据_count排序,asc升序,desc降序 2:按度量排序 通常情况下,我们根据桶聚合分桶后,都会对桶内进行多个维度的指标聚合,所以我们也可以根据桶内指标聚合的结果进行排序。 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字 "terms" : { // 聚合类型: terms,先分桶 "field" : "color", // 分桶字段为color "order": { // 设置排序参数 "avg_price" : "asc" // 根据avg_price指标聚合结果,升序排序。 "aggs": { // 嵌套聚合查询,设置桶内聚合指标 "avg_price": { // 聚合查询名字,前面排序引用的就是这个名字 "avg": {"field": "price"} // 计算price字段平均值 限制返回桶的数量 -size GET /_search "aggs" : { "products" : { // 聚合查询名字 "terms" : { // 聚合类型为: terms "field" : "product", // 根据product字段分桶 "size" : 5 // 限制最多返回5个桶 说到聚合查询,马上会想到 SQL 中的 group by,ES中也有类似的功能,名叫 Aggregation。默认,ES的聚合以分组内数量倒序排序。我们基于上面最后的统计结果,自定义聚合结果排序默认排序方式按数量升序之前说过,默认分组,提供了两个字段的返回;key 和 doc_count,如果要自定义这两个基本字段排序方式,需要在前面加上 下划线 _当然还可以按照其他聚合函数的结果排序。 管道聚合查询是一种在聚合查询结果上进行进一步计算和分析的方式。它可以用于计算新的指标、进行比较、排序和筛选等操作。管道聚合查询通常作为其他聚合查询的后续处理步骤。 size=0 { “aggs”: { “”: { “histogram”: { “field”: “price”, #字段名称 “interval”: 1000, #区间间隔 “keyed”: true, #返回数据的结构化类型 “min_doc_count”: , #返回桶的最小文档数阈值,即文档数小于num的桶不会被输出 “missing”: 1999 #空值的替换值,即如果文档对应字段的值为空,则默认输出1999(参数值) } } } } missing:对空值赋默认值(设置成500,上图中表示,将price缺失的数据的price设置成500)min_doc_count:设置成1,表示输出结果doc_value大于等于1的数据(过滤0)因为聚合查询使用的是doc_values的正排索引,tags.keyword有正排索引。2)对分桶后的tags取平均price(在哪个的基础上进行操作,就放在同一级)1)查询price>4000的平均price和所有商品的平均price。doc_vaules是基于磁盘的,filed_data是基于内存的。 Elasticsearch 聚合使用 通常在业务开发中我们需要统计报表对一些数据进行统计,在关系型数据库中我们通常使用sql 如max min sum count group by 等配合使用进行数据统计,也可能在业务代码中进行一些数据计算,那么在es中是如何使用的呢? 同样es中也提供了类似sql中的统计方法 聚合使用 聚合分析是es中比较重要的功能特性,完成对一个查询数据集中数据的聚合计算,如:需要找出某个字段的最大值,最小值,平均值,计算综合,平均值等。同样的es作为搜索引擎兼数据库,也提供了强 假如我们有一个需要选择的对象,它有两个参数来唯一确定这个对象:vport和vip(一个vip可以对应多个vport), 除此之外,还有feature_type类型,set_info集群信息,cdate日期,feature_data特征值(数字) 我们的目标是选择出一段时间内,某个类型,某个set_info下的每个vip和vport标识对象的平均特征值。所以我们需要: 1.用query来筛选指定的某...
类似histogram聚合,区别是Date histogram可以很好的处理时间类型字段,主要用于根据时间、日期分桶的场景。
minute (1m) hour(1h) day(1d) week(1w) month(1m) quarter( 季度1q) year(1y)
与日历感知间隔不同,固定间隔是固定数量的国际单位制(SI)单位,无论它们在日历上的位置如何,都不会偏离。 一秒钟总是由1000毫秒组成。 这允许以支持单位的任何倍数值指定固定间隔。 然而,这意味着固定的间隔不能表达其他单位,如“月(month)”,因为一个月的持续时间不是一个固定的量。 试图指定月或季度(quarter)等日历间隔将引发异常。
固定间隔支持的单位有: 毫秒 (ms) 秒 (s):定义为每个1000毫秒 分钟 (m):所有分钟都从00秒开始。 定义为每个60秒(60,000毫秒) 小时 (h):所有小时都从00分00秒开始。 定义为每60分钟(3,600,000毫秒) 天 (d):所有天都在尽可能早的时间开始,通常是00:00:00(午夜)。 定义为24小时(86,400,000毫秒)
GET /xxx/_search "query": { "range": { "alarmNum": { "gte": 20, "lte": 50 "size": 0, "aggs": { "warncont": { "range": { "field": "alarmNum", "ranges": [ "to": 24 #< "from": 24, #>= and < "to": 32 "from": 32 #>= Elasticsearch 指标聚合(metrics)-函数 ES指标聚合,就是类似SQL的统计函数,指标聚合可以单独使用,也可以跟桶聚合一起使用。 常用的统计函数如下: Value Count - 类似sql的count函数,统计总数Cardinality - 类似SQL的count(DISTINCT 字段), 统计不重复的数据总数Avg - 求平均值Sum - 求和Max - 求最大值Min - 求最小值 Value Count - 类似sql的count函数,统计总数 GET /sales/_search?size=0 "aggs": { "types_count": { // 聚合查询的名字,随便取个名字 "value_count": { // 聚合类型为:value_count "field": "type" // 计算type这个字段值的总数 等价SQL: select count(type) from sales Cardinality - 类似SQL的count(DISTINCT 字段), 统计不重复的数据总数 POST /sales/_search?size=0 "aggs" : { "type_count" : { // 聚合查询的名字,随便取一个 "cardinality" : { // 聚合查询类型为:cardinality "field" : "type" // 根据type这个字段统计文档总数 等价SQL: select count(DISTINCT type) from sales Avg - 求平均值 Sum - 求和 Max - 求最大值 Min - 求最小值 POST /exams/_search?size=0 "aggs": { "avg_grade": { // 聚合查询名字,随便取一个名字 "avg": { // 聚合查询类型为: avg "field": "grade" // 统计grade字段值的平均值 综合使用-多层嵌套 GET /project_zcy/_search "size": 0, "query": { "term": { "project_status.keyword": { "value": "执行中" "aggs": { "institue_bulk": { "terms": { "field": "institute_code.keyword", #分组code "order": { "_count": "asc" "aggs": { "depart_bulk": { "terms": { "field": "institute_name.keyword" #再次分组获取名称 "aggs": { #指标sum "warm_sum": { "sum": { "field": "alarmNum" "index_count": { #指标count "value_count": { "field": "institute_code.keyword" ES聚合排序 排序是对桶里面数据排序 默认情况,ES会根据doc_count文档总数,降序排序。 ES桶聚合支持两种方式排序: 内置排序按度量指标排序 1:内置排序 内置排序参数: _count - 按文档数排序。对 terms 、 histogram 、 date_histogram 有效_term - 按词项的字符串值的字母顺序排序。只在 terms 内使用_key - 按每个桶的键值数值排序, 仅对 histogram 和 date_histogram 有效 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字,随便取一个 "terms" : { // 聚合类型为: terms "field" : "color", "order": { // 设置排序参数 "_count" : "asc" // 根据_count排序,asc升序,desc降序 2:按度量排序 通常情况下,我们根据桶聚合分桶后,都会对桶内进行多个维度的指标聚合,所以我们也可以根据桶内指标聚合的结果进行排序。 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字 "terms" : { // 聚合类型: terms,先分桶 "field" : "color", // 分桶字段为color "order": { // 设置排序参数 "avg_price" : "asc" // 根据avg_price指标聚合结果,升序排序。 "aggs": { // 嵌套聚合查询,设置桶内聚合指标 "avg_price": { // 聚合查询名字,前面排序引用的就是这个名字 "avg": {"field": "price"} // 计算price字段平均值 限制返回桶的数量 -size GET /_search "aggs" : { "products" : { // 聚合查询名字 "terms" : { // 聚合类型为: terms "field" : "product", // 根据product字段分桶 "size" : 5 // 限制最多返回5个桶 说到聚合查询,马上会想到 SQL 中的 group by,ES中也有类似的功能,名叫 Aggregation。默认,ES的聚合以分组内数量倒序排序。我们基于上面最后的统计结果,自定义聚合结果排序默认排序方式按数量升序之前说过,默认分组,提供了两个字段的返回;key 和 doc_count,如果要自定义这两个基本字段排序方式,需要在前面加上 下划线 _当然还可以按照其他聚合函数的结果排序。 管道聚合查询是一种在聚合查询结果上进行进一步计算和分析的方式。它可以用于计算新的指标、进行比较、排序和筛选等操作。管道聚合查询通常作为其他聚合查询的后续处理步骤。 size=0 { “aggs”: { “”: { “histogram”: { “field”: “price”, #字段名称 “interval”: 1000, #区间间隔 “keyed”: true, #返回数据的结构化类型 “min_doc_count”: , #返回桶的最小文档数阈值,即文档数小于num的桶不会被输出 “missing”: 1999 #空值的替换值,即如果文档对应字段的值为空,则默认输出1999(参数值) } } } } missing:对空值赋默认值(设置成500,上图中表示,将price缺失的数据的price设置成500)min_doc_count:设置成1,表示输出结果doc_value大于等于1的数据(过滤0)因为聚合查询使用的是doc_values的正排索引,tags.keyword有正排索引。2)对分桶后的tags取平均price(在哪个的基础上进行操作,就放在同一级)1)查询price>4000的平均price和所有商品的平均price。doc_vaules是基于磁盘的,filed_data是基于内存的。 Elasticsearch 聚合使用 通常在业务开发中我们需要统计报表对一些数据进行统计,在关系型数据库中我们通常使用sql 如max min sum count group by 等配合使用进行数据统计,也可能在业务代码中进行一些数据计算,那么在es中是如何使用的呢? 同样es中也提供了类似sql中的统计方法 聚合使用 聚合分析是es中比较重要的功能特性,完成对一个查询数据集中数据的聚合计算,如:需要找出某个字段的最大值,最小值,平均值,计算综合,平均值等。同样的es作为搜索引擎兼数据库,也提供了强 假如我们有一个需要选择的对象,它有两个参数来唯一确定这个对象:vport和vip(一个vip可以对应多个vport), 除此之外,还有feature_type类型,set_info集群信息,cdate日期,feature_data特征值(数字) 我们的目标是选择出一段时间内,某个类型,某个set_info下的每个vip和vport标识对象的平均特征值。所以我们需要: 1.用query来筛选指定的某...
GET /xxx/_search "query": { "range": { "alarmNum": { "gte": 20, "lte": 50 "size": 0, "aggs": { "warncont": { "range": { "field": "alarmNum", "ranges": [ "to": 24 #< "from": 24, #>= and < "to": 32 "from": 32 #>=
Elasticsearch 指标聚合(metrics)-函数 ES指标聚合,就是类似SQL的统计函数,指标聚合可以单独使用,也可以跟桶聚合一起使用。 常用的统计函数如下: Value Count - 类似sql的count函数,统计总数Cardinality - 类似SQL的count(DISTINCT 字段), 统计不重复的数据总数Avg - 求平均值Sum - 求和Max - 求最大值Min - 求最小值 Value Count - 类似sql的count函数,统计总数 GET /sales/_search?size=0 "aggs": { "types_count": { // 聚合查询的名字,随便取个名字 "value_count": { // 聚合类型为:value_count "field": "type" // 计算type这个字段值的总数 等价SQL: select count(type) from sales Cardinality - 类似SQL的count(DISTINCT 字段), 统计不重复的数据总数 POST /sales/_search?size=0 "aggs" : { "type_count" : { // 聚合查询的名字,随便取一个 "cardinality" : { // 聚合查询类型为:cardinality "field" : "type" // 根据type这个字段统计文档总数 等价SQL: select count(DISTINCT type) from sales Avg - 求平均值 Sum - 求和 Max - 求最大值 Min - 求最小值 POST /exams/_search?size=0 "aggs": { "avg_grade": { // 聚合查询名字,随便取一个名字 "avg": { // 聚合查询类型为: avg "field": "grade" // 统计grade字段值的平均值 综合使用-多层嵌套 GET /project_zcy/_search "size": 0, "query": { "term": { "project_status.keyword": { "value": "执行中" "aggs": { "institue_bulk": { "terms": { "field": "institute_code.keyword", #分组code "order": { "_count": "asc" "aggs": { "depart_bulk": { "terms": { "field": "institute_name.keyword" #再次分组获取名称 "aggs": { #指标sum "warm_sum": { "sum": { "field": "alarmNum" "index_count": { #指标count "value_count": { "field": "institute_code.keyword" ES聚合排序 排序是对桶里面数据排序 默认情况,ES会根据doc_count文档总数,降序排序。 ES桶聚合支持两种方式排序: 内置排序按度量指标排序 1:内置排序 内置排序参数: _count - 按文档数排序。对 terms 、 histogram 、 date_histogram 有效_term - 按词项的字符串值的字母顺序排序。只在 terms 内使用_key - 按每个桶的键值数值排序, 仅对 histogram 和 date_histogram 有效 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字,随便取一个 "terms" : { // 聚合类型为: terms "field" : "color", "order": { // 设置排序参数 "_count" : "asc" // 根据_count排序,asc升序,desc降序 2:按度量排序 通常情况下,我们根据桶聚合分桶后,都会对桶内进行多个维度的指标聚合,所以我们也可以根据桶内指标聚合的结果进行排序。 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字 "terms" : { // 聚合类型: terms,先分桶 "field" : "color", // 分桶字段为color "order": { // 设置排序参数 "avg_price" : "asc" // 根据avg_price指标聚合结果,升序排序。 "aggs": { // 嵌套聚合查询,设置桶内聚合指标 "avg_price": { // 聚合查询名字,前面排序引用的就是这个名字 "avg": {"field": "price"} // 计算price字段平均值 限制返回桶的数量 -size GET /_search "aggs" : { "products" : { // 聚合查询名字 "terms" : { // 聚合类型为: terms "field" : "product", // 根据product字段分桶 "size" : 5 // 限制最多返回5个桶 说到聚合查询,马上会想到 SQL 中的 group by,ES中也有类似的功能,名叫 Aggregation。默认,ES的聚合以分组内数量倒序排序。我们基于上面最后的统计结果,自定义聚合结果排序默认排序方式按数量升序之前说过,默认分组,提供了两个字段的返回;key 和 doc_count,如果要自定义这两个基本字段排序方式,需要在前面加上 下划线 _当然还可以按照其他聚合函数的结果排序。 管道聚合查询是一种在聚合查询结果上进行进一步计算和分析的方式。它可以用于计算新的指标、进行比较、排序和筛选等操作。管道聚合查询通常作为其他聚合查询的后续处理步骤。 size=0 { “aggs”: { “”: { “histogram”: { “field”: “price”, #字段名称 “interval”: 1000, #区间间隔 “keyed”: true, #返回数据的结构化类型 “min_doc_count”: , #返回桶的最小文档数阈值,即文档数小于num的桶不会被输出 “missing”: 1999 #空值的替换值,即如果文档对应字段的值为空,则默认输出1999(参数值) } } } } missing:对空值赋默认值(设置成500,上图中表示,将price缺失的数据的price设置成500)min_doc_count:设置成1,表示输出结果doc_value大于等于1的数据(过滤0)因为聚合查询使用的是doc_values的正排索引,tags.keyword有正排索引。2)对分桶后的tags取平均price(在哪个的基础上进行操作,就放在同一级)1)查询price>4000的平均price和所有商品的平均price。doc_vaules是基于磁盘的,filed_data是基于内存的。 Elasticsearch 聚合使用 通常在业务开发中我们需要统计报表对一些数据进行统计,在关系型数据库中我们通常使用sql 如max min sum count group by 等配合使用进行数据统计,也可能在业务代码中进行一些数据计算,那么在es中是如何使用的呢? 同样es中也提供了类似sql中的统计方法 聚合使用 聚合分析是es中比较重要的功能特性,完成对一个查询数据集中数据的聚合计算,如:需要找出某个字段的最大值,最小值,平均值,计算综合,平均值等。同样的es作为搜索引擎兼数据库,也提供了强 假如我们有一个需要选择的对象,它有两个参数来唯一确定这个对象:vport和vip(一个vip可以对应多个vport), 除此之外,还有feature_type类型,set_info集群信息,cdate日期,feature_data特征值(数字) 我们的目标是选择出一段时间内,某个类型,某个set_info下的每个vip和vport标识对象的平均特征值。所以我们需要: 1.用query来筛选指定的某...
ES指标聚合,就是类似SQL的统计函数,指标聚合可以单独使用,也可以跟桶聚合一起使用。
常用的统计函数如下:
GET /sales/_search?size=0 "aggs": { "types_count": { // 聚合查询的名字,随便取个名字 "value_count": { // 聚合类型为:value_count "field": "type" // 计算type这个字段值的总数 等价SQL: select count(type) from sales Cardinality - 类似SQL的count(DISTINCT 字段), 统计不重复的数据总数 POST /sales/_search?size=0 "aggs" : { "type_count" : { // 聚合查询的名字,随便取一个 "cardinality" : { // 聚合查询类型为:cardinality "field" : "type" // 根据type这个字段统计文档总数 等价SQL: select count(DISTINCT type) from sales Avg - 求平均值 Sum - 求和 Max - 求最大值 Min - 求最小值 POST /exams/_search?size=0 "aggs": { "avg_grade": { // 聚合查询名字,随便取一个名字 "avg": { // 聚合查询类型为: avg "field": "grade" // 统计grade字段值的平均值 综合使用-多层嵌套 GET /project_zcy/_search "size": 0, "query": { "term": { "project_status.keyword": { "value": "执行中" "aggs": { "institue_bulk": { "terms": { "field": "institute_code.keyword", #分组code "order": { "_count": "asc" "aggs": { "depart_bulk": { "terms": { "field": "institute_name.keyword" #再次分组获取名称 "aggs": { #指标sum "warm_sum": { "sum": { "field": "alarmNum" "index_count": { #指标count "value_count": { "field": "institute_code.keyword" ES聚合排序 排序是对桶里面数据排序 默认情况,ES会根据doc_count文档总数,降序排序。 ES桶聚合支持两种方式排序: 内置排序按度量指标排序 1:内置排序 内置排序参数: _count - 按文档数排序。对 terms 、 histogram 、 date_histogram 有效_term - 按词项的字符串值的字母顺序排序。只在 terms 内使用_key - 按每个桶的键值数值排序, 仅对 histogram 和 date_histogram 有效 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字,随便取一个 "terms" : { // 聚合类型为: terms "field" : "color", "order": { // 设置排序参数 "_count" : "asc" // 根据_count排序,asc升序,desc降序 2:按度量排序 通常情况下,我们根据桶聚合分桶后,都会对桶内进行多个维度的指标聚合,所以我们也可以根据桶内指标聚合的结果进行排序。 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字 "terms" : { // 聚合类型: terms,先分桶 "field" : "color", // 分桶字段为color "order": { // 设置排序参数 "avg_price" : "asc" // 根据avg_price指标聚合结果,升序排序。 "aggs": { // 嵌套聚合查询,设置桶内聚合指标 "avg_price": { // 聚合查询名字,前面排序引用的就是这个名字 "avg": {"field": "price"} // 计算price字段平均值 限制返回桶的数量 -size GET /_search "aggs" : { "products" : { // 聚合查询名字 "terms" : { // 聚合类型为: terms "field" : "product", // 根据product字段分桶 "size" : 5 // 限制最多返回5个桶 说到聚合查询,马上会想到 SQL 中的 group by,ES中也有类似的功能,名叫 Aggregation。默认,ES的聚合以分组内数量倒序排序。我们基于上面最后的统计结果,自定义聚合结果排序默认排序方式按数量升序之前说过,默认分组,提供了两个字段的返回;key 和 doc_count,如果要自定义这两个基本字段排序方式,需要在前面加上 下划线 _当然还可以按照其他聚合函数的结果排序。 管道聚合查询是一种在聚合查询结果上进行进一步计算和分析的方式。它可以用于计算新的指标、进行比较、排序和筛选等操作。管道聚合查询通常作为其他聚合查询的后续处理步骤。 size=0 { “aggs”: { “”: { “histogram”: { “field”: “price”, #字段名称 “interval”: 1000, #区间间隔 “keyed”: true, #返回数据的结构化类型 “min_doc_count”: , #返回桶的最小文档数阈值,即文档数小于num的桶不会被输出 “missing”: 1999 #空值的替换值,即如果文档对应字段的值为空,则默认输出1999(参数值) } } } } missing:对空值赋默认值(设置成500,上图中表示,将price缺失的数据的price设置成500)min_doc_count:设置成1,表示输出结果doc_value大于等于1的数据(过滤0)因为聚合查询使用的是doc_values的正排索引,tags.keyword有正排索引。2)对分桶后的tags取平均price(在哪个的基础上进行操作,就放在同一级)1)查询price>4000的平均price和所有商品的平均price。doc_vaules是基于磁盘的,filed_data是基于内存的。 Elasticsearch 聚合使用 通常在业务开发中我们需要统计报表对一些数据进行统计,在关系型数据库中我们通常使用sql 如max min sum count group by 等配合使用进行数据统计,也可能在业务代码中进行一些数据计算,那么在es中是如何使用的呢? 同样es中也提供了类似sql中的统计方法 聚合使用 聚合分析是es中比较重要的功能特性,完成对一个查询数据集中数据的聚合计算,如:需要找出某个字段的最大值,最小值,平均值,计算综合,平均值等。同样的es作为搜索引擎兼数据库,也提供了强 假如我们有一个需要选择的对象,它有两个参数来唯一确定这个对象:vport和vip(一个vip可以对应多个vport), 除此之外,还有feature_type类型,set_info集群信息,cdate日期,feature_data特征值(数字) 我们的目标是选择出一段时间内,某个类型,某个set_info下的每个vip和vport标识对象的平均特征值。所以我们需要: 1.用query来筛选指定的某...
GET /sales/_search?size=0 "aggs": { "types_count": { // 聚合查询的名字,随便取个名字 "value_count": { // 聚合类型为:value_count "field": "type" // 计算type这个字段值的总数 等价SQL: select count(type) from sales
Cardinality - 类似SQL的count(DISTINCT 字段), 统计不重复的数据总数 POST /sales/_search?size=0 "aggs" : { "type_count" : { // 聚合查询的名字,随便取一个 "cardinality" : { // 聚合查询类型为:cardinality "field" : "type" // 根据type这个字段统计文档总数 等价SQL: select count(DISTINCT type) from sales Avg - 求平均值 Sum - 求和 Max - 求最大值 Min - 求最小值 POST /exams/_search?size=0 "aggs": { "avg_grade": { // 聚合查询名字,随便取一个名字 "avg": { // 聚合查询类型为: avg "field": "grade" // 统计grade字段值的平均值 综合使用-多层嵌套 GET /project_zcy/_search "size": 0, "query": { "term": { "project_status.keyword": { "value": "执行中" "aggs": { "institue_bulk": { "terms": { "field": "institute_code.keyword", #分组code "order": { "_count": "asc" "aggs": { "depart_bulk": { "terms": { "field": "institute_name.keyword" #再次分组获取名称 "aggs": { #指标sum "warm_sum": { "sum": { "field": "alarmNum" "index_count": { #指标count "value_count": { "field": "institute_code.keyword" ES聚合排序 排序是对桶里面数据排序 默认情况,ES会根据doc_count文档总数,降序排序。 ES桶聚合支持两种方式排序: 内置排序按度量指标排序 1:内置排序 内置排序参数: _count - 按文档数排序。对 terms 、 histogram 、 date_histogram 有效_term - 按词项的字符串值的字母顺序排序。只在 terms 内使用_key - 按每个桶的键值数值排序, 仅对 histogram 和 date_histogram 有效 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字,随便取一个 "terms" : { // 聚合类型为: terms "field" : "color", "order": { // 设置排序参数 "_count" : "asc" // 根据_count排序,asc升序,desc降序 2:按度量排序 通常情况下,我们根据桶聚合分桶后,都会对桶内进行多个维度的指标聚合,所以我们也可以根据桶内指标聚合的结果进行排序。 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字 "terms" : { // 聚合类型: terms,先分桶 "field" : "color", // 分桶字段为color "order": { // 设置排序参数 "avg_price" : "asc" // 根据avg_price指标聚合结果,升序排序。 "aggs": { // 嵌套聚合查询,设置桶内聚合指标 "avg_price": { // 聚合查询名字,前面排序引用的就是这个名字 "avg": {"field": "price"} // 计算price字段平均值 限制返回桶的数量 -size GET /_search "aggs" : { "products" : { // 聚合查询名字 "terms" : { // 聚合类型为: terms "field" : "product", // 根据product字段分桶 "size" : 5 // 限制最多返回5个桶 说到聚合查询,马上会想到 SQL 中的 group by,ES中也有类似的功能,名叫 Aggregation。默认,ES的聚合以分组内数量倒序排序。我们基于上面最后的统计结果,自定义聚合结果排序默认排序方式按数量升序之前说过,默认分组,提供了两个字段的返回;key 和 doc_count,如果要自定义这两个基本字段排序方式,需要在前面加上 下划线 _当然还可以按照其他聚合函数的结果排序。 管道聚合查询是一种在聚合查询结果上进行进一步计算和分析的方式。它可以用于计算新的指标、进行比较、排序和筛选等操作。管道聚合查询通常作为其他聚合查询的后续处理步骤。 size=0 { “aggs”: { “”: { “histogram”: { “field”: “price”, #字段名称 “interval”: 1000, #区间间隔 “keyed”: true, #返回数据的结构化类型 “min_doc_count”: , #返回桶的最小文档数阈值,即文档数小于num的桶不会被输出 “missing”: 1999 #空值的替换值,即如果文档对应字段的值为空,则默认输出1999(参数值) } } } } missing:对空值赋默认值(设置成500,上图中表示,将price缺失的数据的price设置成500)min_doc_count:设置成1,表示输出结果doc_value大于等于1的数据(过滤0)因为聚合查询使用的是doc_values的正排索引,tags.keyword有正排索引。2)对分桶后的tags取平均price(在哪个的基础上进行操作,就放在同一级)1)查询price>4000的平均price和所有商品的平均price。doc_vaules是基于磁盘的,filed_data是基于内存的。 Elasticsearch 聚合使用 通常在业务开发中我们需要统计报表对一些数据进行统计,在关系型数据库中我们通常使用sql 如max min sum count group by 等配合使用进行数据统计,也可能在业务代码中进行一些数据计算,那么在es中是如何使用的呢? 同样es中也提供了类似sql中的统计方法 聚合使用 聚合分析是es中比较重要的功能特性,完成对一个查询数据集中数据的聚合计算,如:需要找出某个字段的最大值,最小值,平均值,计算综合,平均值等。同样的es作为搜索引擎兼数据库,也提供了强 假如我们有一个需要选择的对象,它有两个参数来唯一确定这个对象:vport和vip(一个vip可以对应多个vport), 除此之外,还有feature_type类型,set_info集群信息,cdate日期,feature_data特征值(数字) 我们的目标是选择出一段时间内,某个类型,某个set_info下的每个vip和vport标识对象的平均特征值。所以我们需要: 1.用query来筛选指定的某...
POST /sales/_search?size=0 "aggs" : { "type_count" : { // 聚合查询的名字,随便取一个 "cardinality" : { // 聚合查询类型为:cardinality "field" : "type" // 根据type这个字段统计文档总数 等价SQL: select count(DISTINCT type) from sales Avg - 求平均值 Sum - 求和 Max - 求最大值 Min - 求最小值 POST /exams/_search?size=0 "aggs": { "avg_grade": { // 聚合查询名字,随便取一个名字 "avg": { // 聚合查询类型为: avg "field": "grade" // 统计grade字段值的平均值 综合使用-多层嵌套 GET /project_zcy/_search "size": 0, "query": { "term": { "project_status.keyword": { "value": "执行中" "aggs": { "institue_bulk": { "terms": { "field": "institute_code.keyword", #分组code "order": { "_count": "asc" "aggs": { "depart_bulk": { "terms": { "field": "institute_name.keyword" #再次分组获取名称 "aggs": { #指标sum "warm_sum": { "sum": { "field": "alarmNum" "index_count": { #指标count "value_count": { "field": "institute_code.keyword" ES聚合排序 排序是对桶里面数据排序 默认情况,ES会根据doc_count文档总数,降序排序。 ES桶聚合支持两种方式排序: 内置排序按度量指标排序 1:内置排序 内置排序参数: _count - 按文档数排序。对 terms 、 histogram 、 date_histogram 有效_term - 按词项的字符串值的字母顺序排序。只在 terms 内使用_key - 按每个桶的键值数值排序, 仅对 histogram 和 date_histogram 有效 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字,随便取一个 "terms" : { // 聚合类型为: terms "field" : "color", "order": { // 设置排序参数 "_count" : "asc" // 根据_count排序,asc升序,desc降序 2:按度量排序 通常情况下,我们根据桶聚合分桶后,都会对桶内进行多个维度的指标聚合,所以我们也可以根据桶内指标聚合的结果进行排序。 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字 "terms" : { // 聚合类型: terms,先分桶 "field" : "color", // 分桶字段为color "order": { // 设置排序参数 "avg_price" : "asc" // 根据avg_price指标聚合结果,升序排序。 "aggs": { // 嵌套聚合查询,设置桶内聚合指标 "avg_price": { // 聚合查询名字,前面排序引用的就是这个名字 "avg": {"field": "price"} // 计算price字段平均值 限制返回桶的数量 -size GET /_search "aggs" : { "products" : { // 聚合查询名字 "terms" : { // 聚合类型为: terms "field" : "product", // 根据product字段分桶 "size" : 5 // 限制最多返回5个桶 说到聚合查询,马上会想到 SQL 中的 group by,ES中也有类似的功能,名叫 Aggregation。默认,ES的聚合以分组内数量倒序排序。我们基于上面最后的统计结果,自定义聚合结果排序默认排序方式按数量升序之前说过,默认分组,提供了两个字段的返回;key 和 doc_count,如果要自定义这两个基本字段排序方式,需要在前面加上 下划线 _当然还可以按照其他聚合函数的结果排序。 管道聚合查询是一种在聚合查询结果上进行进一步计算和分析的方式。它可以用于计算新的指标、进行比较、排序和筛选等操作。管道聚合查询通常作为其他聚合查询的后续处理步骤。 size=0 { “aggs”: { “”: { “histogram”: { “field”: “price”, #字段名称 “interval”: 1000, #区间间隔 “keyed”: true, #返回数据的结构化类型 “min_doc_count”: , #返回桶的最小文档数阈值,即文档数小于num的桶不会被输出 “missing”: 1999 #空值的替换值,即如果文档对应字段的值为空,则默认输出1999(参数值) } } } } missing:对空值赋默认值(设置成500,上图中表示,将price缺失的数据的price设置成500)min_doc_count:设置成1,表示输出结果doc_value大于等于1的数据(过滤0)因为聚合查询使用的是doc_values的正排索引,tags.keyword有正排索引。2)对分桶后的tags取平均price(在哪个的基础上进行操作,就放在同一级)1)查询price>4000的平均price和所有商品的平均price。doc_vaules是基于磁盘的,filed_data是基于内存的。 Elasticsearch 聚合使用 通常在业务开发中我们需要统计报表对一些数据进行统计,在关系型数据库中我们通常使用sql 如max min sum count group by 等配合使用进行数据统计,也可能在业务代码中进行一些数据计算,那么在es中是如何使用的呢? 同样es中也提供了类似sql中的统计方法 聚合使用 聚合分析是es中比较重要的功能特性,完成对一个查询数据集中数据的聚合计算,如:需要找出某个字段的最大值,最小值,平均值,计算综合,平均值等。同样的es作为搜索引擎兼数据库,也提供了强 假如我们有一个需要选择的对象,它有两个参数来唯一确定这个对象:vport和vip(一个vip可以对应多个vport), 除此之外,还有feature_type类型,set_info集群信息,cdate日期,feature_data特征值(数字) 我们的目标是选择出一段时间内,某个类型,某个set_info下的每个vip和vport标识对象的平均特征值。所以我们需要: 1.用query来筛选指定的某...
POST /sales/_search?size=0 "aggs" : { "type_count" : { // 聚合查询的名字,随便取一个 "cardinality" : { // 聚合查询类型为:cardinality "field" : "type" // 根据type这个字段统计文档总数 等价SQL: select count(DISTINCT type) from sales
Avg - 求平均值 Sum - 求和 Max - 求最大值 Min - 求最小值 POST /exams/_search?size=0 "aggs": { "avg_grade": { // 聚合查询名字,随便取一个名字 "avg": { // 聚合查询类型为: avg "field": "grade" // 统计grade字段值的平均值 综合使用-多层嵌套 GET /project_zcy/_search "size": 0, "query": { "term": { "project_status.keyword": { "value": "执行中" "aggs": { "institue_bulk": { "terms": { "field": "institute_code.keyword", #分组code "order": { "_count": "asc" "aggs": { "depart_bulk": { "terms": { "field": "institute_name.keyword" #再次分组获取名称 "aggs": { #指标sum "warm_sum": { "sum": { "field": "alarmNum" "index_count": { #指标count "value_count": { "field": "institute_code.keyword" ES聚合排序 排序是对桶里面数据排序 默认情况,ES会根据doc_count文档总数,降序排序。 ES桶聚合支持两种方式排序: 内置排序按度量指标排序 1:内置排序 内置排序参数: _count - 按文档数排序。对 terms 、 histogram 、 date_histogram 有效_term - 按词项的字符串值的字母顺序排序。只在 terms 内使用_key - 按每个桶的键值数值排序, 仅对 histogram 和 date_histogram 有效 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字,随便取一个 "terms" : { // 聚合类型为: terms "field" : "color", "order": { // 设置排序参数 "_count" : "asc" // 根据_count排序,asc升序,desc降序 2:按度量排序 通常情况下,我们根据桶聚合分桶后,都会对桶内进行多个维度的指标聚合,所以我们也可以根据桶内指标聚合的结果进行排序。 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字 "terms" : { // 聚合类型: terms,先分桶 "field" : "color", // 分桶字段为color "order": { // 设置排序参数 "avg_price" : "asc" // 根据avg_price指标聚合结果,升序排序。 "aggs": { // 嵌套聚合查询,设置桶内聚合指标 "avg_price": { // 聚合查询名字,前面排序引用的就是这个名字 "avg": {"field": "price"} // 计算price字段平均值 限制返回桶的数量 -size GET /_search "aggs" : { "products" : { // 聚合查询名字 "terms" : { // 聚合类型为: terms "field" : "product", // 根据product字段分桶 "size" : 5 // 限制最多返回5个桶 说到聚合查询,马上会想到 SQL 中的 group by,ES中也有类似的功能,名叫 Aggregation。默认,ES的聚合以分组内数量倒序排序。我们基于上面最后的统计结果,自定义聚合结果排序默认排序方式按数量升序之前说过,默认分组,提供了两个字段的返回;key 和 doc_count,如果要自定义这两个基本字段排序方式,需要在前面加上 下划线 _当然还可以按照其他聚合函数的结果排序。 管道聚合查询是一种在聚合查询结果上进行进一步计算和分析的方式。它可以用于计算新的指标、进行比较、排序和筛选等操作。管道聚合查询通常作为其他聚合查询的后续处理步骤。 size=0 { “aggs”: { “”: { “histogram”: { “field”: “price”, #字段名称 “interval”: 1000, #区间间隔 “keyed”: true, #返回数据的结构化类型 “min_doc_count”: , #返回桶的最小文档数阈值,即文档数小于num的桶不会被输出 “missing”: 1999 #空值的替换值,即如果文档对应字段的值为空,则默认输出1999(参数值) } } } } missing:对空值赋默认值(设置成500,上图中表示,将price缺失的数据的price设置成500)min_doc_count:设置成1,表示输出结果doc_value大于等于1的数据(过滤0)因为聚合查询使用的是doc_values的正排索引,tags.keyword有正排索引。2)对分桶后的tags取平均price(在哪个的基础上进行操作,就放在同一级)1)查询price>4000的平均price和所有商品的平均price。doc_vaules是基于磁盘的,filed_data是基于内存的。 Elasticsearch 聚合使用 通常在业务开发中我们需要统计报表对一些数据进行统计,在关系型数据库中我们通常使用sql 如max min sum count group by 等配合使用进行数据统计,也可能在业务代码中进行一些数据计算,那么在es中是如何使用的呢? 同样es中也提供了类似sql中的统计方法 聚合使用 聚合分析是es中比较重要的功能特性,完成对一个查询数据集中数据的聚合计算,如:需要找出某个字段的最大值,最小值,平均值,计算综合,平均值等。同样的es作为搜索引擎兼数据库,也提供了强 假如我们有一个需要选择的对象,它有两个参数来唯一确定这个对象:vport和vip(一个vip可以对应多个vport), 除此之外,还有feature_type类型,set_info集群信息,cdate日期,feature_data特征值(数字) 我们的目标是选择出一段时间内,某个类型,某个set_info下的每个vip和vport标识对象的平均特征值。所以我们需要: 1.用query来筛选指定的某...
POST /exams/_search?size=0 "aggs": { "avg_grade": { // 聚合查询名字,随便取一个名字 "avg": { // 聚合查询类型为: avg "field": "grade" // 统计grade字段值的平均值 综合使用-多层嵌套 GET /project_zcy/_search "size": 0, "query": { "term": { "project_status.keyword": { "value": "执行中" "aggs": { "institue_bulk": { "terms": { "field": "institute_code.keyword", #分组code "order": { "_count": "asc" "aggs": { "depart_bulk": { "terms": { "field": "institute_name.keyword" #再次分组获取名称 "aggs": { #指标sum "warm_sum": { "sum": { "field": "alarmNum" "index_count": { #指标count "value_count": { "field": "institute_code.keyword" ES聚合排序 排序是对桶里面数据排序 默认情况,ES会根据doc_count文档总数,降序排序。 ES桶聚合支持两种方式排序: 内置排序按度量指标排序 1:内置排序 内置排序参数: _count - 按文档数排序。对 terms 、 histogram 、 date_histogram 有效_term - 按词项的字符串值的字母顺序排序。只在 terms 内使用_key - 按每个桶的键值数值排序, 仅对 histogram 和 date_histogram 有效 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字,随便取一个 "terms" : { // 聚合类型为: terms "field" : "color", "order": { // 设置排序参数 "_count" : "asc" // 根据_count排序,asc升序,desc降序 2:按度量排序 通常情况下,我们根据桶聚合分桶后,都会对桶内进行多个维度的指标聚合,所以我们也可以根据桶内指标聚合的结果进行排序。 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字 "terms" : { // 聚合类型: terms,先分桶 "field" : "color", // 分桶字段为color "order": { // 设置排序参数 "avg_price" : "asc" // 根据avg_price指标聚合结果,升序排序。 "aggs": { // 嵌套聚合查询,设置桶内聚合指标 "avg_price": { // 聚合查询名字,前面排序引用的就是这个名字 "avg": {"field": "price"} // 计算price字段平均值 限制返回桶的数量 -size GET /_search "aggs" : { "products" : { // 聚合查询名字 "terms" : { // 聚合类型为: terms "field" : "product", // 根据product字段分桶 "size" : 5 // 限制最多返回5个桶 说到聚合查询,马上会想到 SQL 中的 group by,ES中也有类似的功能,名叫 Aggregation。默认,ES的聚合以分组内数量倒序排序。我们基于上面最后的统计结果,自定义聚合结果排序默认排序方式按数量升序之前说过,默认分组,提供了两个字段的返回;key 和 doc_count,如果要自定义这两个基本字段排序方式,需要在前面加上 下划线 _当然还可以按照其他聚合函数的结果排序。 管道聚合查询是一种在聚合查询结果上进行进一步计算和分析的方式。它可以用于计算新的指标、进行比较、排序和筛选等操作。管道聚合查询通常作为其他聚合查询的后续处理步骤。 size=0 { “aggs”: { “”: { “histogram”: { “field”: “price”, #字段名称 “interval”: 1000, #区间间隔 “keyed”: true, #返回数据的结构化类型 “min_doc_count”: , #返回桶的最小文档数阈值,即文档数小于num的桶不会被输出 “missing”: 1999 #空值的替换值,即如果文档对应字段的值为空,则默认输出1999(参数值) } } } } missing:对空值赋默认值(设置成500,上图中表示,将price缺失的数据的price设置成500)min_doc_count:设置成1,表示输出结果doc_value大于等于1的数据(过滤0)因为聚合查询使用的是doc_values的正排索引,tags.keyword有正排索引。2)对分桶后的tags取平均price(在哪个的基础上进行操作,就放在同一级)1)查询price>4000的平均price和所有商品的平均price。doc_vaules是基于磁盘的,filed_data是基于内存的。 Elasticsearch 聚合使用 通常在业务开发中我们需要统计报表对一些数据进行统计,在关系型数据库中我们通常使用sql 如max min sum count group by 等配合使用进行数据统计,也可能在业务代码中进行一些数据计算,那么在es中是如何使用的呢? 同样es中也提供了类似sql中的统计方法 聚合使用 聚合分析是es中比较重要的功能特性,完成对一个查询数据集中数据的聚合计算,如:需要找出某个字段的最大值,最小值,平均值,计算综合,平均值等。同样的es作为搜索引擎兼数据库,也提供了强 假如我们有一个需要选择的对象,它有两个参数来唯一确定这个对象:vport和vip(一个vip可以对应多个vport), 除此之外,还有feature_type类型,set_info集群信息,cdate日期,feature_data特征值(数字) 我们的目标是选择出一段时间内,某个类型,某个set_info下的每个vip和vport标识对象的平均特征值。所以我们需要: 1.用query来筛选指定的某...
POST /exams/_search?size=0 "aggs": { "avg_grade": { // 聚合查询名字,随便取一个名字 "avg": { // 聚合查询类型为: avg "field": "grade" // 统计grade字段值的平均值
综合使用-多层嵌套 GET /project_zcy/_search "size": 0, "query": { "term": { "project_status.keyword": { "value": "执行中" "aggs": { "institue_bulk": { "terms": { "field": "institute_code.keyword", #分组code "order": { "_count": "asc" "aggs": { "depart_bulk": { "terms": { "field": "institute_name.keyword" #再次分组获取名称 "aggs": { #指标sum "warm_sum": { "sum": { "field": "alarmNum" "index_count": { #指标count "value_count": { "field": "institute_code.keyword" ES聚合排序 排序是对桶里面数据排序 默认情况,ES会根据doc_count文档总数,降序排序。 ES桶聚合支持两种方式排序: 内置排序按度量指标排序 1:内置排序 内置排序参数: _count - 按文档数排序。对 terms 、 histogram 、 date_histogram 有效_term - 按词项的字符串值的字母顺序排序。只在 terms 内使用_key - 按每个桶的键值数值排序, 仅对 histogram 和 date_histogram 有效 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字,随便取一个 "terms" : { // 聚合类型为: terms "field" : "color", "order": { // 设置排序参数 "_count" : "asc" // 根据_count排序,asc升序,desc降序 2:按度量排序 通常情况下,我们根据桶聚合分桶后,都会对桶内进行多个维度的指标聚合,所以我们也可以根据桶内指标聚合的结果进行排序。 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字 "terms" : { // 聚合类型: terms,先分桶 "field" : "color", // 分桶字段为color "order": { // 设置排序参数 "avg_price" : "asc" // 根据avg_price指标聚合结果,升序排序。 "aggs": { // 嵌套聚合查询,设置桶内聚合指标 "avg_price": { // 聚合查询名字,前面排序引用的就是这个名字 "avg": {"field": "price"} // 计算price字段平均值 限制返回桶的数量 -size GET /_search "aggs" : { "products" : { // 聚合查询名字 "terms" : { // 聚合类型为: terms "field" : "product", // 根据product字段分桶 "size" : 5 // 限制最多返回5个桶 说到聚合查询,马上会想到 SQL 中的 group by,ES中也有类似的功能,名叫 Aggregation。默认,ES的聚合以分组内数量倒序排序。我们基于上面最后的统计结果,自定义聚合结果排序默认排序方式按数量升序之前说过,默认分组,提供了两个字段的返回;key 和 doc_count,如果要自定义这两个基本字段排序方式,需要在前面加上 下划线 _当然还可以按照其他聚合函数的结果排序。 管道聚合查询是一种在聚合查询结果上进行进一步计算和分析的方式。它可以用于计算新的指标、进行比较、排序和筛选等操作。管道聚合查询通常作为其他聚合查询的后续处理步骤。 size=0 { “aggs”: { “”: { “histogram”: { “field”: “price”, #字段名称 “interval”: 1000, #区间间隔 “keyed”: true, #返回数据的结构化类型 “min_doc_count”: , #返回桶的最小文档数阈值,即文档数小于num的桶不会被输出 “missing”: 1999 #空值的替换值,即如果文档对应字段的值为空,则默认输出1999(参数值) } } } } missing:对空值赋默认值(设置成500,上图中表示,将price缺失的数据的price设置成500)min_doc_count:设置成1,表示输出结果doc_value大于等于1的数据(过滤0)因为聚合查询使用的是doc_values的正排索引,tags.keyword有正排索引。2)对分桶后的tags取平均price(在哪个的基础上进行操作,就放在同一级)1)查询price>4000的平均price和所有商品的平均price。doc_vaules是基于磁盘的,filed_data是基于内存的。 Elasticsearch 聚合使用 通常在业务开发中我们需要统计报表对一些数据进行统计,在关系型数据库中我们通常使用sql 如max min sum count group by 等配合使用进行数据统计,也可能在业务代码中进行一些数据计算,那么在es中是如何使用的呢? 同样es中也提供了类似sql中的统计方法 聚合使用 聚合分析是es中比较重要的功能特性,完成对一个查询数据集中数据的聚合计算,如:需要找出某个字段的最大值,最小值,平均值,计算综合,平均值等。同样的es作为搜索引擎兼数据库,也提供了强 假如我们有一个需要选择的对象,它有两个参数来唯一确定这个对象:vport和vip(一个vip可以对应多个vport), 除此之外,还有feature_type类型,set_info集群信息,cdate日期,feature_data特征值(数字) 我们的目标是选择出一段时间内,某个类型,某个set_info下的每个vip和vport标识对象的平均特征值。所以我们需要: 1.用query来筛选指定的某...
GET /project_zcy/_search "size": 0, "query": { "term": { "project_status.keyword": { "value": "执行中" "aggs": { "institue_bulk": { "terms": { "field": "institute_code.keyword", #分组code "order": { "_count": "asc" "aggs": { "depart_bulk": { "terms": { "field": "institute_name.keyword" #再次分组获取名称 "aggs": { #指标sum "warm_sum": { "sum": { "field": "alarmNum" "index_count": { #指标count "value_count": { "field": "institute_code.keyword" ES聚合排序 排序是对桶里面数据排序 默认情况,ES会根据doc_count文档总数,降序排序。 ES桶聚合支持两种方式排序: 内置排序按度量指标排序 1:内置排序 内置排序参数: _count - 按文档数排序。对 terms 、 histogram 、 date_histogram 有效_term - 按词项的字符串值的字母顺序排序。只在 terms 内使用_key - 按每个桶的键值数值排序, 仅对 histogram 和 date_histogram 有效 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字,随便取一个 "terms" : { // 聚合类型为: terms "field" : "color", "order": { // 设置排序参数 "_count" : "asc" // 根据_count排序,asc升序,desc降序 2:按度量排序 通常情况下,我们根据桶聚合分桶后,都会对桶内进行多个维度的指标聚合,所以我们也可以根据桶内指标聚合的结果进行排序。 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字 "terms" : { // 聚合类型: terms,先分桶 "field" : "color", // 分桶字段为color "order": { // 设置排序参数 "avg_price" : "asc" // 根据avg_price指标聚合结果,升序排序。 "aggs": { // 嵌套聚合查询,设置桶内聚合指标 "avg_price": { // 聚合查询名字,前面排序引用的就是这个名字 "avg": {"field": "price"} // 计算price字段平均值 限制返回桶的数量 -size GET /_search "aggs" : { "products" : { // 聚合查询名字 "terms" : { // 聚合类型为: terms "field" : "product", // 根据product字段分桶 "size" : 5 // 限制最多返回5个桶 说到聚合查询,马上会想到 SQL 中的 group by,ES中也有类似的功能,名叫 Aggregation。默认,ES的聚合以分组内数量倒序排序。我们基于上面最后的统计结果,自定义聚合结果排序默认排序方式按数量升序之前说过,默认分组,提供了两个字段的返回;key 和 doc_count,如果要自定义这两个基本字段排序方式,需要在前面加上 下划线 _当然还可以按照其他聚合函数的结果排序。 管道聚合查询是一种在聚合查询结果上进行进一步计算和分析的方式。它可以用于计算新的指标、进行比较、排序和筛选等操作。管道聚合查询通常作为其他聚合查询的后续处理步骤。 size=0 { “aggs”: { “”: { “histogram”: { “field”: “price”, #字段名称 “interval”: 1000, #区间间隔 “keyed”: true, #返回数据的结构化类型 “min_doc_count”: , #返回桶的最小文档数阈值,即文档数小于num的桶不会被输出 “missing”: 1999 #空值的替换值,即如果文档对应字段的值为空,则默认输出1999(参数值) } } } } missing:对空值赋默认值(设置成500,上图中表示,将price缺失的数据的price设置成500)min_doc_count:设置成1,表示输出结果doc_value大于等于1的数据(过滤0)因为聚合查询使用的是doc_values的正排索引,tags.keyword有正排索引。2)对分桶后的tags取平均price(在哪个的基础上进行操作,就放在同一级)1)查询price>4000的平均price和所有商品的平均price。doc_vaules是基于磁盘的,filed_data是基于内存的。 Elasticsearch 聚合使用 通常在业务开发中我们需要统计报表对一些数据进行统计,在关系型数据库中我们通常使用sql 如max min sum count group by 等配合使用进行数据统计,也可能在业务代码中进行一些数据计算,那么在es中是如何使用的呢? 同样es中也提供了类似sql中的统计方法 聚合使用 聚合分析是es中比较重要的功能特性,完成对一个查询数据集中数据的聚合计算,如:需要找出某个字段的最大值,最小值,平均值,计算综合,平均值等。同样的es作为搜索引擎兼数据库,也提供了强 假如我们有一个需要选择的对象,它有两个参数来唯一确定这个对象:vport和vip(一个vip可以对应多个vport), 除此之外,还有feature_type类型,set_info集群信息,cdate日期,feature_data特征值(数字) 我们的目标是选择出一段时间内,某个类型,某个set_info下的每个vip和vport标识对象的平均特征值。所以我们需要: 1.用query来筛选指定的某...
GET /project_zcy/_search "size": 0, "query": { "term": { "project_status.keyword": { "value": "执行中" "aggs": { "institue_bulk": { "terms": { "field": "institute_code.keyword", #分组code "order": { "_count": "asc" "aggs": { "depart_bulk": { "terms": { "field": "institute_name.keyword" #再次分组获取名称 "aggs": { #指标sum "warm_sum": { "sum": { "field": "alarmNum" "index_count": { #指标count "value_count": { "field": "institute_code.keyword"
ES聚合排序 排序是对桶里面数据排序 默认情况,ES会根据doc_count文档总数,降序排序。 ES桶聚合支持两种方式排序: 内置排序按度量指标排序 1:内置排序 内置排序参数: _count - 按文档数排序。对 terms 、 histogram 、 date_histogram 有效_term - 按词项的字符串值的字母顺序排序。只在 terms 内使用_key - 按每个桶的键值数值排序, 仅对 histogram 和 date_histogram 有效 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字,随便取一个 "terms" : { // 聚合类型为: terms "field" : "color", "order": { // 设置排序参数 "_count" : "asc" // 根据_count排序,asc升序,desc降序 2:按度量排序 通常情况下,我们根据桶聚合分桶后,都会对桶内进行多个维度的指标聚合,所以我们也可以根据桶内指标聚合的结果进行排序。 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字 "terms" : { // 聚合类型: terms,先分桶 "field" : "color", // 分桶字段为color "order": { // 设置排序参数 "avg_price" : "asc" // 根据avg_price指标聚合结果,升序排序。 "aggs": { // 嵌套聚合查询,设置桶内聚合指标 "avg_price": { // 聚合查询名字,前面排序引用的就是这个名字 "avg": {"field": "price"} // 计算price字段平均值 限制返回桶的数量 -size GET /_search "aggs" : { "products" : { // 聚合查询名字 "terms" : { // 聚合类型为: terms "field" : "product", // 根据product字段分桶 "size" : 5 // 限制最多返回5个桶 说到聚合查询,马上会想到 SQL 中的 group by,ES中也有类似的功能,名叫 Aggregation。默认,ES的聚合以分组内数量倒序排序。我们基于上面最后的统计结果,自定义聚合结果排序默认排序方式按数量升序之前说过,默认分组,提供了两个字段的返回;key 和 doc_count,如果要自定义这两个基本字段排序方式,需要在前面加上 下划线 _当然还可以按照其他聚合函数的结果排序。 管道聚合查询是一种在聚合查询结果上进行进一步计算和分析的方式。它可以用于计算新的指标、进行比较、排序和筛选等操作。管道聚合查询通常作为其他聚合查询的后续处理步骤。 size=0 { “aggs”: { “”: { “histogram”: { “field”: “price”, #字段名称 “interval”: 1000, #区间间隔 “keyed”: true, #返回数据的结构化类型 “min_doc_count”: , #返回桶的最小文档数阈值,即文档数小于num的桶不会被输出 “missing”: 1999 #空值的替换值,即如果文档对应字段的值为空,则默认输出1999(参数值) } } } } missing:对空值赋默认值(设置成500,上图中表示,将price缺失的数据的price设置成500)min_doc_count:设置成1,表示输出结果doc_value大于等于1的数据(过滤0)因为聚合查询使用的是doc_values的正排索引,tags.keyword有正排索引。2)对分桶后的tags取平均price(在哪个的基础上进行操作,就放在同一级)1)查询price>4000的平均price和所有商品的平均price。doc_vaules是基于磁盘的,filed_data是基于内存的。 Elasticsearch 聚合使用 通常在业务开发中我们需要统计报表对一些数据进行统计,在关系型数据库中我们通常使用sql 如max min sum count group by 等配合使用进行数据统计,也可能在业务代码中进行一些数据计算,那么在es中是如何使用的呢? 同样es中也提供了类似sql中的统计方法 聚合使用 聚合分析是es中比较重要的功能特性,完成对一个查询数据集中数据的聚合计算,如:需要找出某个字段的最大值,最小值,平均值,计算综合,平均值等。同样的es作为搜索引擎兼数据库,也提供了强 假如我们有一个需要选择的对象,它有两个参数来唯一确定这个对象:vport和vip(一个vip可以对应多个vport), 除此之外,还有feature_type类型,set_info集群信息,cdate日期,feature_data特征值(数字) 我们的目标是选择出一段时间内,某个类型,某个set_info下的每个vip和vport标识对象的平均特征值。所以我们需要: 1.用query来筛选指定的某...
排序是对桶里面数据排序
默认情况,ES会根据doc_count文档总数,降序排序。
ES桶聚合支持两种方式排序:
内置排序参数:
GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字,随便取一个 "terms" : { // 聚合类型为: terms "field" : "color", "order": { // 设置排序参数 "_count" : "asc" // 根据_count排序,asc升序,desc降序 2:按度量排序 通常情况下,我们根据桶聚合分桶后,都会对桶内进行多个维度的指标聚合,所以我们也可以根据桶内指标聚合的结果进行排序。 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字 "terms" : { // 聚合类型: terms,先分桶 "field" : "color", // 分桶字段为color "order": { // 设置排序参数 "avg_price" : "asc" // 根据avg_price指标聚合结果,升序排序。 "aggs": { // 嵌套聚合查询,设置桶内聚合指标 "avg_price": { // 聚合查询名字,前面排序引用的就是这个名字 "avg": {"field": "price"} // 计算price字段平均值 限制返回桶的数量 -size GET /_search "aggs" : { "products" : { // 聚合查询名字 "terms" : { // 聚合类型为: terms "field" : "product", // 根据product字段分桶 "size" : 5 // 限制最多返回5个桶 说到聚合查询,马上会想到 SQL 中的 group by,ES中也有类似的功能,名叫 Aggregation。默认,ES的聚合以分组内数量倒序排序。我们基于上面最后的统计结果,自定义聚合结果排序默认排序方式按数量升序之前说过,默认分组,提供了两个字段的返回;key 和 doc_count,如果要自定义这两个基本字段排序方式,需要在前面加上 下划线 _当然还可以按照其他聚合函数的结果排序。 管道聚合查询是一种在聚合查询结果上进行进一步计算和分析的方式。它可以用于计算新的指标、进行比较、排序和筛选等操作。管道聚合查询通常作为其他聚合查询的后续处理步骤。 size=0 { “aggs”: { “”: { “histogram”: { “field”: “price”, #字段名称 “interval”: 1000, #区间间隔 “keyed”: true, #返回数据的结构化类型 “min_doc_count”: , #返回桶的最小文档数阈值,即文档数小于num的桶不会被输出 “missing”: 1999 #空值的替换值,即如果文档对应字段的值为空,则默认输出1999(参数值) } } } } missing:对空值赋默认值(设置成500,上图中表示,将price缺失的数据的price设置成500)min_doc_count:设置成1,表示输出结果doc_value大于等于1的数据(过滤0)因为聚合查询使用的是doc_values的正排索引,tags.keyword有正排索引。2)对分桶后的tags取平均price(在哪个的基础上进行操作,就放在同一级)1)查询price>4000的平均price和所有商品的平均price。doc_vaules是基于磁盘的,filed_data是基于内存的。 Elasticsearch 聚合使用 通常在业务开发中我们需要统计报表对一些数据进行统计,在关系型数据库中我们通常使用sql 如max min sum count group by 等配合使用进行数据统计,也可能在业务代码中进行一些数据计算,那么在es中是如何使用的呢? 同样es中也提供了类似sql中的统计方法 聚合使用 聚合分析是es中比较重要的功能特性,完成对一个查询数据集中数据的聚合计算,如:需要找出某个字段的最大值,最小值,平均值,计算综合,平均值等。同样的es作为搜索引擎兼数据库,也提供了强 假如我们有一个需要选择的对象,它有两个参数来唯一确定这个对象:vport和vip(一个vip可以对应多个vport), 除此之外,还有feature_type类型,set_info集群信息,cdate日期,feature_data特征值(数字) 我们的目标是选择出一段时间内,某个类型,某个set_info下的每个vip和vport标识对象的平均特征值。所以我们需要: 1.用query来筛选指定的某...
GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字,随便取一个 "terms" : { // 聚合类型为: terms "field" : "color", "order": { // 设置排序参数 "_count" : "asc" // 根据_count排序,asc升序,desc降序
2:按度量排序 通常情况下,我们根据桶聚合分桶后,都会对桶内进行多个维度的指标聚合,所以我们也可以根据桶内指标聚合的结果进行排序。 GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字 "terms" : { // 聚合类型: terms,先分桶 "field" : "color", // 分桶字段为color "order": { // 设置排序参数 "avg_price" : "asc" // 根据avg_price指标聚合结果,升序排序。 "aggs": { // 嵌套聚合查询,设置桶内聚合指标 "avg_price": { // 聚合查询名字,前面排序引用的就是这个名字 "avg": {"field": "price"} // 计算price字段平均值 限制返回桶的数量 -size GET /_search "aggs" : { "products" : { // 聚合查询名字 "terms" : { // 聚合类型为: terms "field" : "product", // 根据product字段分桶 "size" : 5 // 限制最多返回5个桶 说到聚合查询,马上会想到 SQL 中的 group by,ES中也有类似的功能,名叫 Aggregation。默认,ES的聚合以分组内数量倒序排序。我们基于上面最后的统计结果,自定义聚合结果排序默认排序方式按数量升序之前说过,默认分组,提供了两个字段的返回;key 和 doc_count,如果要自定义这两个基本字段排序方式,需要在前面加上 下划线 _当然还可以按照其他聚合函数的结果排序。 管道聚合查询是一种在聚合查询结果上进行进一步计算和分析的方式。它可以用于计算新的指标、进行比较、排序和筛选等操作。管道聚合查询通常作为其他聚合查询的后续处理步骤。 size=0 { “aggs”: { “”: { “histogram”: { “field”: “price”, #字段名称 “interval”: 1000, #区间间隔 “keyed”: true, #返回数据的结构化类型 “min_doc_count”: , #返回桶的最小文档数阈值,即文档数小于num的桶不会被输出 “missing”: 1999 #空值的替换值,即如果文档对应字段的值为空,则默认输出1999(参数值) } } } } missing:对空值赋默认值(设置成500,上图中表示,将price缺失的数据的price设置成500)min_doc_count:设置成1,表示输出结果doc_value大于等于1的数据(过滤0)因为聚合查询使用的是doc_values的正排索引,tags.keyword有正排索引。2)对分桶后的tags取平均price(在哪个的基础上进行操作,就放在同一级)1)查询price>4000的平均price和所有商品的平均price。doc_vaules是基于磁盘的,filed_data是基于内存的。 Elasticsearch 聚合使用 通常在业务开发中我们需要统计报表对一些数据进行统计,在关系型数据库中我们通常使用sql 如max min sum count group by 等配合使用进行数据统计,也可能在业务代码中进行一些数据计算,那么在es中是如何使用的呢? 同样es中也提供了类似sql中的统计方法 聚合使用 聚合分析是es中比较重要的功能特性,完成对一个查询数据集中数据的聚合计算,如:需要找出某个字段的最大值,最小值,平均值,计算综合,平均值等。同样的es作为搜索引擎兼数据库,也提供了强 假如我们有一个需要选择的对象,它有两个参数来唯一确定这个对象:vport和vip(一个vip可以对应多个vport), 除此之外,还有feature_type类型,set_info集群信息,cdate日期,feature_data特征值(数字) 我们的目标是选择出一段时间内,某个类型,某个set_info下的每个vip和vport标识对象的平均特征值。所以我们需要: 1.用query来筛选指定的某...
通常情况下,我们根据桶聚合分桶后,都会对桶内进行多个维度的指标聚合,所以我们也可以根据桶内指标聚合的结果进行排序。
GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字 "terms" : { // 聚合类型: terms,先分桶 "field" : "color", // 分桶字段为color "order": { // 设置排序参数 "avg_price" : "asc" // 根据avg_price指标聚合结果,升序排序。 "aggs": { // 嵌套聚合查询,设置桶内聚合指标 "avg_price": { // 聚合查询名字,前面排序引用的就是这个名字 "avg": {"field": "price"} // 计算price字段平均值 限制返回桶的数量 -size GET /_search "aggs" : { "products" : { // 聚合查询名字 "terms" : { // 聚合类型为: terms "field" : "product", // 根据product字段分桶 "size" : 5 // 限制最多返回5个桶 说到聚合查询,马上会想到 SQL 中的 group by,ES中也有类似的功能,名叫 Aggregation。默认,ES的聚合以分组内数量倒序排序。我们基于上面最后的统计结果,自定义聚合结果排序默认排序方式按数量升序之前说过,默认分组,提供了两个字段的返回;key 和 doc_count,如果要自定义这两个基本字段排序方式,需要在前面加上 下划线 _当然还可以按照其他聚合函数的结果排序。 管道聚合查询是一种在聚合查询结果上进行进一步计算和分析的方式。它可以用于计算新的指标、进行比较、排序和筛选等操作。管道聚合查询通常作为其他聚合查询的后续处理步骤。 size=0 { “aggs”: { “”: { “histogram”: { “field”: “price”, #字段名称 “interval”: 1000, #区间间隔 “keyed”: true, #返回数据的结构化类型 “min_doc_count”: , #返回桶的最小文档数阈值,即文档数小于num的桶不会被输出 “missing”: 1999 #空值的替换值,即如果文档对应字段的值为空,则默认输出1999(参数值) } } } } missing:对空值赋默认值(设置成500,上图中表示,将price缺失的数据的price设置成500)min_doc_count:设置成1,表示输出结果doc_value大于等于1的数据(过滤0)因为聚合查询使用的是doc_values的正排索引,tags.keyword有正排索引。2)对分桶后的tags取平均price(在哪个的基础上进行操作,就放在同一级)1)查询price>4000的平均price和所有商品的平均price。doc_vaules是基于磁盘的,filed_data是基于内存的。 Elasticsearch 聚合使用 通常在业务开发中我们需要统计报表对一些数据进行统计,在关系型数据库中我们通常使用sql 如max min sum count group by 等配合使用进行数据统计,也可能在业务代码中进行一些数据计算,那么在es中是如何使用的呢? 同样es中也提供了类似sql中的统计方法 聚合使用 聚合分析是es中比较重要的功能特性,完成对一个查询数据集中数据的聚合计算,如:需要找出某个字段的最大值,最小值,平均值,计算综合,平均值等。同样的es作为搜索引擎兼数据库,也提供了强 假如我们有一个需要选择的对象,它有两个参数来唯一确定这个对象:vport和vip(一个vip可以对应多个vport), 除此之外,还有feature_type类型,set_info集群信息,cdate日期,feature_data特征值(数字) 我们的目标是选择出一段时间内,某个类型,某个set_info下的每个vip和vport标识对象的平均特征值。所以我们需要: 1.用query来筛选指定的某...
GET /cars/_search "size" : 0, "aggs" : { "colors" : { // 聚合查询名字 "terms" : { // 聚合类型: terms,先分桶 "field" : "color", // 分桶字段为color "order": { // 设置排序参数 "avg_price" : "asc" // 根据avg_price指标聚合结果,升序排序。 "aggs": { // 嵌套聚合查询,设置桶内聚合指标 "avg_price": { // 聚合查询名字,前面排序引用的就是这个名字 "avg": {"field": "price"} // 计算price字段平均值
限制返回桶的数量 -size GET /_search "aggs" : { "products" : { // 聚合查询名字 "terms" : { // 聚合类型为: terms "field" : "product", // 根据product字段分桶 "size" : 5 // 限制最多返回5个桶 说到聚合查询,马上会想到 SQL 中的 group by,ES中也有类似的功能,名叫 Aggregation。默认,ES的聚合以分组内数量倒序排序。我们基于上面最后的统计结果,自定义聚合结果排序默认排序方式按数量升序之前说过,默认分组,提供了两个字段的返回;key 和 doc_count,如果要自定义这两个基本字段排序方式,需要在前面加上 下划线 _当然还可以按照其他聚合函数的结果排序。 管道聚合查询是一种在聚合查询结果上进行进一步计算和分析的方式。它可以用于计算新的指标、进行比较、排序和筛选等操作。管道聚合查询通常作为其他聚合查询的后续处理步骤。 size=0 { “aggs”: { “”: { “histogram”: { “field”: “price”, #字段名称 “interval”: 1000, #区间间隔 “keyed”: true, #返回数据的结构化类型 “min_doc_count”: , #返回桶的最小文档数阈值,即文档数小于num的桶不会被输出 “missing”: 1999 #空值的替换值,即如果文档对应字段的值为空,则默认输出1999(参数值) } } } } missing:对空值赋默认值(设置成500,上图中表示,将price缺失的数据的price设置成500)min_doc_count:设置成1,表示输出结果doc_value大于等于1的数据(过滤0)因为聚合查询使用的是doc_values的正排索引,tags.keyword有正排索引。2)对分桶后的tags取平均price(在哪个的基础上进行操作,就放在同一级)1)查询price>4000的平均price和所有商品的平均price。doc_vaules是基于磁盘的,filed_data是基于内存的。 Elasticsearch 聚合使用 通常在业务开发中我们需要统计报表对一些数据进行统计,在关系型数据库中我们通常使用sql 如max min sum count group by 等配合使用进行数据统计,也可能在业务代码中进行一些数据计算,那么在es中是如何使用的呢? 同样es中也提供了类似sql中的统计方法 聚合使用 聚合分析是es中比较重要的功能特性,完成对一个查询数据集中数据的聚合计算,如:需要找出某个字段的最大值,最小值,平均值,计算综合,平均值等。同样的es作为搜索引擎兼数据库,也提供了强 假如我们有一个需要选择的对象,它有两个参数来唯一确定这个对象:vport和vip(一个vip可以对应多个vport), 除此之外,还有feature_type类型,set_info集群信息,cdate日期,feature_data特征值(数字) 我们的目标是选择出一段时间内,某个类型,某个set_info下的每个vip和vport标识对象的平均特征值。所以我们需要: 1.用query来筛选指定的某...
GET /_search "aggs" : { "products" : { // 聚合查询名字 "terms" : { // 聚合类型为: terms "field" : "product", // 根据product字段分桶 "size" : 5 // 限制最多返回5个桶 说到聚合查询,马上会想到 SQL 中的 group by,ES中也有类似的功能,名叫 Aggregation。默认,ES的聚合以分组内数量倒序排序。我们基于上面最后的统计结果,自定义聚合结果排序默认排序方式按数量升序之前说过,默认分组,提供了两个字段的返回;key 和 doc_count,如果要自定义这两个基本字段排序方式,需要在前面加上 下划线 _当然还可以按照其他聚合函数的结果排序。 管道聚合查询是一种在聚合查询结果上进行进一步计算和分析的方式。它可以用于计算新的指标、进行比较、排序和筛选等操作。管道聚合查询通常作为其他聚合查询的后续处理步骤。 size=0 { “aggs”: { “”: { “histogram”: { “field”: “price”, #字段名称 “interval”: 1000, #区间间隔 “keyed”: true, #返回数据的结构化类型 “min_doc_count”: , #返回桶的最小文档数阈值,即文档数小于num的桶不会被输出 “missing”: 1999 #空值的替换值,即如果文档对应字段的值为空,则默认输出1999(参数值) } } } } missing:对空值赋默认值(设置成500,上图中表示,将price缺失的数据的price设置成500)min_doc_count:设置成1,表示输出结果doc_value大于等于1的数据(过滤0)因为聚合查询使用的是doc_values的正排索引,tags.keyword有正排索引。2)对分桶后的tags取平均price(在哪个的基础上进行操作,就放在同一级)1)查询price>4000的平均price和所有商品的平均price。doc_vaules是基于磁盘的,filed_data是基于内存的。 Elasticsearch 聚合使用 通常在业务开发中我们需要统计报表对一些数据进行统计,在关系型数据库中我们通常使用sql 如max min sum count group by 等配合使用进行数据统计,也可能在业务代码中进行一些数据计算,那么在es中是如何使用的呢? 同样es中也提供了类似sql中的统计方法 聚合使用 聚合分析是es中比较重要的功能特性,完成对一个查询数据集中数据的聚合计算,如:需要找出某个字段的最大值,最小值,平均值,计算综合,平均值等。同样的es作为搜索引擎兼数据库,也提供了强 假如我们有一个需要选择的对象,它有两个参数来唯一确定这个对象:vport和vip(一个vip可以对应多个vport), 除此之外,还有feature_type类型,set_info集群信息,cdate日期,feature_data特征值(数字) 我们的目标是选择出一段时间内,某个类型,某个set_info下的每个vip和vport标识对象的平均特征值。所以我们需要: 1.用query来筛选指定的某...