Elasticsearch调优——segment memory

声明：本文转载自https://my.oschina.net/fufangchun/blog/1541156，转载目的在于传递更多信息，仅供学习交流之用。如有侵权行为，请联系我，我会及时删除。

1、索引之segment memory：

 

       一个segment是一个完备的lucene倒排索引，而倒排索引是通过词典(Term Dictionary)到文档列表(Postings List)的映射关系，快速做查询的。所以每个segment都有会一些索引数据驻留在heap里。

       因此segment越多，瓜分掉的heap也越多，并且这部分heap是无法被GC掉的！

       怎么知道segment memory占用情况呢? CAT API可以给出答案。

       1）、查看一个索引所有segment的memory占用情况：

 

curl -s -uelastic:changeme 'http://192.168.58.158:9200/_cat/segments?v'

index                             shard prirep ip         segment   generation   docs.count     docs.deleted     size       size.memory      committed searchable version compound

www-nginx-tp-2017-08-20        0     p      192.168.58.158 _s9v         36643      58203            0                56.8mb      127077         true      true       6.5.1   false

 

 

       2）、查看一个node上所有segment占用的memory总和：

curl -s -uelastic:changeme 'http://192.168.58.158:9200/_cat/nodes?v&h=segments.count,segments.memory,segments.index_writer_memory,segments.version_map_memory,segments.fixed_bitset_memory'

segments.count segments.memory segments.index_writer_memory segments.version_map_memory segments.fixed_bitset_memory

          9488           1.1gb                       75.8mb                       1.3mb                       29.1kb

 

    减少data node上的segment memory占用，有三种方法：

    ①、删除不用的索引。

    ②、关闭索引（文件仍然存在于磁盘，只是释放掉内存）。需要的时候可重新打开。

    ③、定期对不再更新的索引做force merge（之前版本是optimze）

       【关闭索引减少的segment memory占用，会比force merge要多很多】

    【本文的索引是按天区分的，所以之前的索引文件，就不会再有更新了】

 

①、force merge【完全合并索引】：

       此项操作，时间长短和服务器负载，根据索引大小决定，建议凌晨操作前一天的索引

 

curl -s -XPOST -uelastic:changeme 'http://192.168.58.158:9200/api-nginx-tp-*/_forcemerge?max_num_segments=1'

       实例：

#索引合并前

[root@elk ~]$curl -s -uelastic:changeme 'http://192.168.58.158:9200/_cat/indices?v'|grep api-nginx-tp-2017-09-04

green  open   api-nginx-tp-2017-09-04        6r1H7VDQR6K0A5HkP-dyrg   5   0   46840141            0     24.5gb         24.5gb

#一共是133行

[root@elk ]$curl -s -uelastic:changeme 'http://192.168.58.158:9200/_cat/segments?v'|grep api-nginx-tp-2017-09-04

api-nginx-tp-2017-09-04        0     p      192.168.58.158 _dtw         17924     622749            0  301.4mb      537606 true      true       6.5.1   false

api-nginx-tp-2017-09-04        0     p      192.168.58.158 _jv5         25745    1322064            0  630.2mb     1046505 true      true       6.5.1   false

api-nginx-tp-2017-09-04        0     p      192.168.58.158 _vc1         40609     432480            0  212.6mb      394258 true      true       6.5.1   false

.................................

api-nginx-tp-2017-09-04        4     p      192.168.58.158 _2m0k       121844       1437            0  946.5kb       14959 true      true       6.5.1   true

 

#合并索引

[root@elk-aliyun-10.47.58.158 ~]$curl -s -XPOST -uelastic:changeme 'http://192.168.58.158:9200/api-nginx-tp-2017-09-04/_forcemerge?max_num_segments=1'

{"_shards":{"total":5,"successful":5,"failed":0}}

 

#合并索引后

[root@elk ~]$curl -s -uelastic:changeme 'http://192.168.58.158:9200/_cat/indices?v'|grep api-nginx-tp-2017-09-04

green  open   api-nginx-tp-2017-09-04        6r1H7VDQR6K0A5HkP-dyrg   5   0   46840141            0     21.3gb         21.3gb

 

[root@elk ~]$curl -s -uelastic:changeme 'http://192.168.58.158:9200/_cat/segments?v'|grep api-nginx-tp-2017-09-04

api-nginx-tp-2017-09-04        0     p      192.168.58.158 _2qpk       127928    9366137            0    4.2gb     6526325 true      true       6.5.1   false

api-nginx-tp-2017-09-04        1     p      192.168.58.158 _2rti       129366    9366212            0    4.2gb     6522427 true      true       6.5.1   false

api-nginx-tp-2017-09-04        2     p      192.168.58.158 _2tam       131278    9371827            0    4.2gb     6538908 true      true       6.5.1   false

api-nginx-tp-2017-09-04        3     p      192.168.58.158 _2kc3       119667    9369922            0    4.2gb     6528417 true      true       6.5.1   false

api-nginx-tp-2017-09-04        4     p      192.168.58.158 _2m0l       121845    9366043            0    4.2gb     6519260 true      true       6.5.1   false

 

总结：

1、合并前：indices是24.5gb，segments有133个

2、合并后：indices是21.3gb，segments有实际的logstash客户端个数

 

segments合并之前的size.memory是38372792，合并之后是32635337，少了5.5M左右

 

②、close index：

 

       针对不使用的index，建议close，减少内存占用。因为只要索引处于open状态，索引库中的segement就会占用内存，close之后就只会占用磁盘空间了。

 

curl -s -XPOST -uelastic:changeme 'http://192.168.58.158:9200/api-nginx-tp-2017-08-28/_close'

curl -s -XPOST -uelastic:changeme 'http://192.168.58.158:9200/*-2017-08-28/_close'

 

③、调优思路及脚本：

 

#对于按天存储的nginx日志【视情况而定】：

       1）、索引合并的，第二天凌晨合并前一天的

       2）、索引关闭的，可以关闭7天前的

    脚本可以看到优化前和优化后， segment memory 的变化，包括索引的合并和关闭

#!/bin/bash

#Author：

#            perofu

#Email：

#            perofu.com@gmail.com

 

log_file=/tmp/elasticsearch_optimize_index.log

day=`date "+%Y-%m-%d"`

day_1=`date -d "1  days ago"  "+%Y-%m-%d"`

day_7=`date -d "7  days ago"  "+%Y-%m-%d"`

ip="192.168.58.158"

index_name="bb-nginx-tp

aa-nginx-tp"

 

#number_of_replicas setting 0

curl -XPUT -uelastic:changeme "http://${ip}:9200/*-${day}/_settings" -d '

{

    "number_of_replicas": 0

}'

# clear cache

curl -s -uelastic:changeme -XPOST 'http://${ip}:9200/_cache/clear'

echo "${day}" >> ${log_file}

 

curl -s -uelastic:changeme 'http://${ip}:9200/_cat/nodes?v&h=segments.count,segments.memory,segments.index_writer_memory,segments.version_map_memory,segments.fixed_bitset_memory' &>> ${log_file}

#optimize segment

 

echo "${index_name}" | while read line

do

        echo "" >> ${log_file}

        curl -s -uelastic:changeme 'http://${ip}:9200/_cat/indices?v' | grep "${line}-${day_1}" &>> ${log_file}

    curl -s -uelastic:changeme 'http://${ip}:9200/_cat/segments?v'|grep "${line}-${day_1}" | awk 'BEGIN{summ=0}{summ=summ+$10}END{print summ}' &>> ${log_file}

 

        curl -s -XPOST -uelastic:changeme "http://${ip}:9200/${line}-${day_1}/_forcemerge?max_num_segments=1" &>> ${log_file}

        sleep 10

        curl -s -uelastic:changeme 'http://${ip}:9200/_cat/indices?v' | grep "${line}-${day_1}" &>> ${log_file}

        curl -s -uelastic:changeme 'http://${ip}:9200/_cat/segments?v'|grep "${line}-${day_1}" | awk 'BEGIN{summ=0}{summ=summ+$10}END{print summ}' &>> ${log_file}

        echo "" >> ${log_file}

done

 

curl -s -uelastic:changeme 'http://${ip}:9200/_cat/nodes?v&h=segments.count,segments.memory,segments.index_writer_memory,segments.version_map_memory,segments.fixed_bitset_memory' &>> ${log_file}

 

#close index 7 day ago

echo "${index_name}" | while read line

do

        echo "" >> ${log_file}

        curl -s -XPOST -uelastic:changeme "http://${ip}:9200/${line}-${day_7}/_close" &>> ${log_file}

        sleep 2

done

 

curl -s -uelastic:changeme 'http://${ip}:9200/_cat/nodes?v&h=segments.count,segments.memory,segments.index_writer_memory,segments.version_map_memory,segments.fixed_bitset_memory' &>> ${log_file}

 

4、调优效果：

 

①、索引调优效果：

    环境说明【单机】：

        ==== 服务器信息 ====  

  CPU 信息： 8  Intel(R) Xeon(R) CPU E5-2680 v3 @ 2.50GHz  

  CPU 核数： 8 

  内存信息： 16G  

  硬盘信息： 1116 G  

  发行版信息： 6.5    

  系统架构： x86_64

  系统运行级别： 3 

#优化前和优化后数据量的对比：

#优化前

2017-09-05【60G】

392.7mb

681.6kb

11.6gb

21.6gb

317.8mb

9.8mb

681.4mb

27.7gb

 

#优化后

2017-09-06【60G】

11.2gb

9.2mb

294.8mb

26.5gb

20.6gb

620.9mb

661.4kb

376.7mb

 

2017-09-07【60G】

10.5gb

289.5mb

412.3mb

8.7mb

20gb

25.6gb

598.7mb

830.9kb

 

    一段时间总PV：

    一段时间的服务器负载：

    优化前后负载对比：

 

        如果你也使用了，可以把优化前后对比，在下方回复下，谢谢。

 

本文发表于2017年09月21日 16:37
(c)注：本文转载自https://my.oschina.net/fufangchun/blog/1541156，转载目的在于传递更多信息，并不代表本网赞同其观点和对其真实性负责。如有侵权行为，请联系我们，我们会及时删除.

阅读 2958 讨论 0 喜欢 0

抢先体验

扫码体验
趣味小程序
文字表情生成器
闪念胶囊

万稳万当，不如一默。任何一句话，你不说出来便是那句话的主人，你说了出来，便是那句话的奴隶。

18:22 04月20日  查看详情

你要过得好哇，这样我才能恨你啊，你要是过得不好，我都不知道该恨你还是拥抱你啊。

17:21 2021年04月19日  查看详情

直抵黄龙府，与诸君痛饮尔。

18:17 2021年03月28日  查看详情

那时陪伴我的人啊，你们如今在何方。

16:28 2021年03月19日  查看详情

不出意外的话，我们再也不会见了，祝你前程似锦。

18:05 2021年03月17日  查看详情
快捷链接
网站地图
提交友链
Contact
Y2lvbkBjaGluYWNpb24uY24=
Copyright © 2016 - 2021 Cion.
All Rights Reserved.
京ICP备2021004668号-1