当前位置: 首页>行业 >

Elasticsearch 日志能否把全部请求打印出来?-全球观速讯

来源: | 时间: 2023-01-01 23:30:40 |

1、实战问题

请问一下球主,es怎么配置可以把请求日志都打印出来。就是不管是调用借口,还是kibana查询数据,es能打印dsl的请求日志吗??求指导。怎么配置?

——问题来源:https://t.zsxq.com/09vv8rqZj


(资料图片仅供参考)

2、Elasticsearch 日志必知必会2.1 Elasticsearch 日志用途集群状态监测和故障诊断。2.2 Elasticsearch 日志缺省路径$ES_HOME/logs。如果命令行启动 ES,则日志输出信息也是命令行。2.3 Elasticsearch 日志基于组件Log4j 2https://logging.apache.org/log4j/2.x/2.4 Elasticsearch 日志配置文件log4j2.properties 。和 elasticsearch.yml 文件路径相同。2.5 Elasticsearch 日志配置内容命名规范日志随日期滚动策略(日志大小等条件设置)等。2.6 Elasticsearch 日志级别

由低到高分别为:TRACE -> DEBUG -> INFO -> WARN -> ERROR -> FATAL,如下图所示。

图片来自:spring 官网

这些大家并不陌生,日志级别越低(前提系统设置的话),打印输出的越多;日志级别越高,比如:FATAL,只是特定致命场景才会打印输出,一般遇不到。

2.7 Elasticsearch 默认日志类型调整方式

前提:支持动态更新。

方式一:支持动态更新,无需重启。

PUT/_cluster/settings{"persistent":{"logger.org.elasticsearch.discovery":"DEBUG"}}

方式二:elasticsearch.yml 配置(静态配置方式,重启后生效)。

logger.org.elasticsearch.discovery:DEBUG

方式三:log4j2.properties 配置(静态配置方式,重启后生效)

logger.discovery.name=org.elasticsearch.discoverylogger.discovery.level=debug

3、日志调到最低级别,看能否输出检索DSL?

问题来了?改成最低TRACE级别,日志能输出咱们的日期请求吗?试试看。

那怎么办?如何输出请求日志?此路已然不同,我们只能另寻他路。除了基础日志,我们还有slowlog日志。

4、Elasticsearch slowlog日志必知必会4.1 Elasticsearc slowlog 用途

见名释义,本质是:慢日志,又可以分为:慢检索日志和慢写入日志。

slowlog 用于显示:query 阶段 和 fetch 阶段的日志。

Elasticsearch 查询请求如下图所示。

图片来自 Elastic 官方博客

query阶段的核心步骤:

客户端发送请求到协调节点;协调阶段转发请求到索引的每个主或副本分片;分片本地查询完成后,将结果添加到本地的优先队列;每个分片将本地结果返回给协调节点,协调节点合并完成后,形成全局排序列表。

fetch阶段的核心步骤:

协调节点接收到客户端请求后,将 GET 请求(来自query 阶段形成的全局排序列表结果数据)-转发给相关节点。接收到请求后的节点向协调节点返回结果数据。待全部结果数据都返回后,协调节点将结果返回给客户端。4.2 Elasticsearc slowlog 设置内容含义

如下所示,拿 query 阶段举例(以实测为准):

query 请求耗时超过 500ms,打印 trace 日志。query 请求耗时超过 2s,打印 debug 日志。query 请求耗时超过 5s,打印 info 日志。query 请求耗时超过 10s,打印 warn 日志。

index.search.slowlog.threshold.query.warn:10sindex.search.slowlog.threshold.query.info:5sindex.search.slowlog.threshold.query.debug:2sindex.search.slowlog.threshold.query.trace:500ms

fetch 阶段设置如下,原理同上。

index.search.slowlog.threshold.fetch.warn:1sindex.search.slowlog.threshold.fetch.info:800msindex.search.slowlog.threshold.fetch.debug:500msindex.search.slowlog.threshold.fetch.trace:200ms

index 写入日志设置如下,原理同上。

index.indexing.slowlog.threshold.index.warn:10sindex.indexing.slowlog.threshold.index.info:5sindex.indexing.slowlog.threshold.index.debug:2sindex.indexing.slowlog.threshold.index.trace:500msindex.indexing.slowlog.source:1000

4.3 slowlog 中 source:1000 含义是?

"index.indexing.slowlog.source":"1000"

如下这个问题至少被问到三次,问题大致如下:

slowlog 日志显示不全、被截取了怎么办?

默认:记录slowlog中_source的前1000个字符。设置为 true 含义:记录整个源请求。设置为 false 或 0 含义:不记录源请求。特别说明:原始_source被重新格式化,以确保它适合于单个日志行。4.3 Elasticsearch slowlog 如何设置?

直接更新 setting 就可以,动态参数,支持动态更新。

PUT/my-index-000001/_settings{"index.search.slowlog.threshold.query.warn":"10s","index.search.slowlog.threshold.query.info":"5s","index.search.slowlog.threshold.query.debug":"2s","index.search.slowlog.threshold.query.trace":"500ms","index.search.slowlog.threshold.fetch.warn":"1s","index.search.slowlog.threshold.fetch.info":"800ms","index.search.slowlog.threshold.fetch.debug":"500ms","index.search.slowlog.threshold.fetch.trace":"200ms"}

4.3 基于slowlog 打印请求日志

slowlog 既然可以基于阈值打印输出请求日志,阈值势必可以设置很低,最低设置为0,必然能打印出全部日志了。

试试看?

如下是基于 packets-2022-12-14 进行的 index、fetch、query 的 debug 设置。

PUTpackets-2022-12-14/_settings{"index.indexing.slowlog.threshold.index.debug":"0s","index.search.slowlog.threshold.fetch.debug":"0s","index.search.slowlog.threshold.query.debug":"0s"}

设置完成后,在 kibana 控制台随意加个 query 请求。

日志存储在:elasticsearch_index_search_slowlog.json 文件下,如下图所示。

如下图标红所示,任意的请求 DSL 被打印出来。

开篇问题得以求解完成!

5、小结

Elasticearch 日志协助排查集群故障,慢日志协助排查写入、查询层面的慢写入、慢查询问题。集群规模大,可以独立采集到 Kibana 可视化展示,更为方便和快捷!

你有没有使用 Elasticsearch 日志?欢迎留言讨论。如何使用的?

参考

[1]https://www.elastic.co/guide/en/elasticsearch/reference/current/logging.html

[2]https://www.elastic.co/guide/en/elasticsearch/reference/current/index-modules-slowlog.html

推荐阅读

全网首发!从 0 到 1 Elasticsearch 8.X 通关视频

重磅 | 死磕 Elasticsearch 8.X 方法论认知清单(2022年国庆更新版)

如何系统的学习 Elasticsearch ?

更短时间更快习得更多干货!

和全球1800+Elastic 爱好者一起精进!

比同事抢先一步学习进阶干货!

关键词: 如下图所示 打印输出

 

热文推荐

Elasticsearch 日志能否把全部请求打印出来?-全球观速讯

1、实战问题请问一下球主,es怎么配置可以把请求日志都打印出来。就是不管是调用借口,还是kibana查询数据,es能打印dsl的请求日志吗??求指

2023-01-01

工伤事故指哪些

在我国劳动者工伤事故按照损伤程度划分为轻伤事故、重伤事故和死亡事故三种;根据损伤原因划分为起重伤害、触电、淹溺、灼烫、火灾、高处坠落

2023-01-01

2022这些瞬间,看了一遍又一遍!

2022这些瞬间,看了一遍又一遍!

2022-12-31

中国人寿财险长沙中心支公司:服务保障不停步 用心筑起抗疫最强防线

国家疫情防控再优化“新十条”措施出台,牵动着每一个国人的心。在抗击疫情这场没有硝烟的战争中,中国人寿财险长沙中心支公司高

2022-12-30

环球视讯!京东上怎么购买复方甘草合剂?

京东上怎么购买复方甘草合剂?(1)打开京东APP,在搜索框里搜索“复方甘草合剂”;可以看到较多的是甘草片,具有止咳作用。但是口服溶液较少

2022-12-30

环球速看:洗脸巾13岁能用吗?

能用。这种一次性的洗脸巾是由棉原料制作而成,有吸水不掉絮、释水性强、柔韧度强、弹性好等特点。例句:一、我军枕戈待旦等待冲锋号响。二、为

2022-12-30

瑞晨环保(301273)12月29日主力资金净卖出93.47万元

截至2022年12月29日收盘,瑞晨环保(301273)报收于39 85元,下跌2 61%,换手率5 14%,成交量8734 84手,成交额3527 55万元。

2022-12-30

阳了?没阳?|天天观察

随着疫情政策的放开,公司的同事、身边的朋友陆续中招,公司里上班戴口罩的越来越多,上班的人却每天都在减少。我一直的心态都是,反正迟早都

2022-12-30

焦点热议:厦门平价菜超市在哪里?

厦门启动2023年第一期政府差价补贴销售平价农副产品通知原文经研究,定于2023年1月1日起,启动平价商店蔬菜、猪肉差价补贴销售农副产品机制。

2022-12-29

抗疫的“大账” 看得清说得明

(央视财经《央视财经评论》)三年来,我国高效统筹疫情防控和经济社会发展,有效应对了全球五轮疫情冲击,最大限度减少了疫情对经济社会发展

2022-12-29

东莞大参林药店能买到血氧仪吗?

东莞大参林药店可以买血氧仪吗?截至12月29日10:00,根据大参林线上商城搜索结果,大参林药店暂无血氧仪。大家也可电话咨询线下附近门店是否到

2022-12-29

宏碁新款游戏本曝光 搭载RTX 4080显卡|环球今亮点

目前,宏碁新款游戏本现已出现在Geekbench上,采用英特尔i9-13900HX处理器和RTX4080显卡组合的配置。可以看到,i9-13900HX与i9-13900K处理器的

2022-12-29

星空华文(6698.HK)首日上市高开近23%

格隆汇12月29日丨《中国好声音》《这!就是街舞》的IP运营商星空华文今日首日在港挂牌上市,高开22 83%报32 55港元,市值129 59亿港元。星空华文是

2022-12-29

焦点播报:欠你的句子精选100句

欠你的句子精选101句1 人工智能与自然愚蠢无法相比。2 原来,在梦里那么着急要买的车票,是开往梦醒的。3 要成为一个优秀的人,就要用一颗开放

2022-12-28

焦点日报:超越ConvNeXt!Transformer 风格的卷积网络视觉基线模型Conv2Former

↑点击蓝字关注极市平台作者丨科技猛兽编辑丨极市平台极市导读本文提出一种卷积调制模块,利用卷积来建立关系,这比注意力机制在处理高分辨率

2022-12-28

国脉科技12月28日盘中跌幅达5%-天天热消息

以下是国脉科技在北京时间12月28日13:46分盘口异动快照:12月28日,国脉科技盘中跌幅达5%,截至13点46分,报6 92元,成交3 26亿元,换手率4 59

2022-12-28

2023春节过后霉运不再有 被好运环绕的3星座

生活当中总是会充满了各种各样的惊喜,有些人很可能在短时间内,就能够拥有大额的财富,改变自己的生活,而有些人不管付出多少的辛苦,也无法

2022-12-28

12月27日基金净值:招商医药健康产业股票最新净值2.254,涨0.31%

12月27日,招商医药健康产业股票最新单位净值为2 254元,累计净值为2 254元,较前一交易日上涨0 31%。历史数据显示该基金近1个月下跌6 4%,近3

2022-12-28

仟源医药:公司复方甘草片发生的不良反应较少 世界热消息

每经AI快讯,有投资者在投资者互动平台提问:能否提供十年来(2012年-2022年间)复方甘草片发生不良药物反应病例的数据?仟源医药(300254 SZ)12

2022-12-27

长鸿高科董秘回复:截至2021年底,国内已投产的PBAT产能大约在52.1万吨/年 今日热搜

长鸿高科(605008)12月27日在投资者关系平台上答复了投资者关心的问题。投资者:BDO、PBAT等可降解塑料上游原料市场,目前国内市场竞争格局?长

2022-12-27

资讯

北京推出14条秋游文化线路

金秋时节,北京市文化和旅游局以赏银杏品文化为主题,推出14条“叶落的季节——漫步北京赏银杏品文化主题线路”,邀市民和游客以步行、骑行

2021-10-27     
基因编辑发力 培育高质量人源化供体猪

此次人体试验,仅仅验证了基因编辑猪克服异种器官移植的超急性排斥反应,还需解决延迟性排斥反应、消耗性血栓等问题。但通过这次试验,能更

2021-10-27     
中国经济高质量发展步伐稳健 长期向好基本面未变

在全球疫情走势和经济走势趋于复杂的背景下,中国经济巨轮将驶向何方,举世关注。2020年10月26日至29日,党的十九届五中全会在京举行,明确

2021-10-27     
南美解放者杯决赛允许近4.5万观众入场

南美洲足联主席多明格斯25日与今年解放者杯决赛对阵的两支俱乐部负责人会晤,宣布决赛现场观众人数增加到球场容量的75%,即近4 5万人。今年

2021-10-27     
22年从警生涯 面对荣誉他说不要给我报功

9月24日,时任安徽省安庆市公安局迎江分局刑警大队大要案中队中队长周磊因在工作中激烈搏斗引发心源性猝死,倒在了工作岗位上,经医院抢救

2021-10-27     
走近冬奥|五棵松体育中心场馆“黑科技”全面上岗 助力冬

“相约北京”冰球国内测试活动将于2021年11月7日至10日在五棵松体育中心场馆举行,在疫情防控方面,场馆引入了诸多“黑科技”,为防疫安全

2021-10-27