日志采集：
| 流程 | 要做的事情 |
|---|---|
| 日志规范 | 固定字段定义 日志格式 |
| 日志采集 | 落盘规则 滚动策略 采集方法 |
| 日志传输 | 消息队列 消费方式 Topic规范 保存时间 |
| 日志切分 | 采样 过滤 自定格式 |
| 日志检索 | 索引分割 分片设置 检索优化 权限设置 保存时间 |
| 日志流监控 | 采集异常 传输异常 检索异常 不合规范 监控报警 |
建设中：
进程管控：
1.supervisor
2.cesi
ES监控：
1.es_exporter
2.netdata（影响主机）
3.Kopf
4.bigdesk
5.elasticsearch-sql
6.Slow log监控
7.B站，基于elastalert二次开发
8.XPack
功能模块：
1.数据获取
2.异常统计
3.问题上报
问题类型问题记录：
1.业务问题
2.数据问题
3.状态码设置不合理
4.性能问题
5.超时问题
6.缓存问题
7.依赖评估问题
8.兼容性问题
9.权限问题
10.数据库问题
1.点击Alerts and Actions
es-xueqiu-logging.kbn.inter.snowballfinance.com/app/managem…
2.创建Alert
3.设置Alert
建议DSL（懒省事或者不会的话，直接粘贴）
{`` ``"query"``: {`` ``"bool"``: {`` ``"must"``: [`` ``{`` ``"term"``: {`` ``"environment"``: {`` ``"value"``: ``"production"`` ``}`` ``}`` ``},`` ``{`` ``"match"``: {`` ``"message"``: ``"Exception"`` ``}`` ``}`` ``]`` ``}`` ``},`` ``"sort"``: [`` ``{`` ``"@timestamp"``: {`` ``"order"``: ``"desc"`` ``}`` ``}`` ``]``} |
|---|
4.设置报警方式
建议消息模板（懒省事或者不会的话，直接粘贴）
Elasticsearch query alert ``'{{alertName}}' is active: kibana: http:``//es-xueqiu-logging.kbn.inter.snowballfinance.com/app/discover``- Value: {{context.value}}``- Conditions Met: {{context.conditions}} over {{params.timeWindowSize}}{{params.timeWindowUnit}}``- Timestamp: {{context.date}}``- hits:``{{#context.hits}}``------------------------------------------------------------------------------``- project: {{_source.project}}``- host: {{_source.host}}``- logLevel: {{_source.logLevel}}``- message: {{_source.message}}``{{/context.hits}} |
|---|
