本节重点介绍 :
- 需求分析
- 流程说明
- log2metrics架构设计
架构图
需求分析
算qps
- 比如统计 nginx日志中code=200的qps
- 对应就是 每隔10秒grep一下日志文件 ，用增量/时间差 算出qps
日志关键字告警
错误类型的关键字举例
- 如应用连接mysql报错
dial mysql host error
- 如redis同步失败报错
cannot sync data
- 如进程被oom kill了
Out of Memory (OOM) killer
流程说明
配置采集任务
- 采集任务的名称
- 指定暴露的metrics名称 如 ngx_access_cnt
- 指定日志路径
- 提供日志匹配正则 ，如过滤包含 containerd的日志
".*containerd.*"
level: ".*level=(.*?) .*"
计算方法说明
- cnt 对符合规则的日志进行计数 ，就是日志的总数counter
- max 对符合规则的日志抓取出的数字算最大值 ，如code=404 和code=500 max结果就是 500
- min 对符合规则的日志抓取出的数字算最小值
- sum 对符合规则的日志抓取出的数字算和
- avg 对符合规则的日志抓取出的数字算平均值
启动日志采集任务
- 启动tailer读取相关日志
- 将结果通过队列发送给分析组件
启动分析组件
- 接收tailer发过来的日志
- 使用正则进行分析
- 转换为统计的数据结构
- 发送给数据处理组件
启动数据处理组件
- 定时分析数据，转化为prometheus metrics
架构图
本节重点总结 :
- 需求分析
- 流程说明
- log2metrics架构设计