2015中华数据库与运维大会.pdf

2015中华数据库与运维大会 2015.06.06 ZHDBA.COM 中华数据库行业协会 抽丝剥茧玩日志 ELKstack应用 自我介绍 •  先后给 CloudEx, C, RenRen, Sina 重启 服务器； •  精通 echo/say/puts/console.log( “Hello World ”); •  写过 《网站运维技术与实践》； •  翻过 《Puppet 实战手册》； •  微博账号：@ARGV，求关注。 内容概要 •  日志的用途 •  日志分析的难点 •  ELKstack简介 •  ELKstack示例 •  新浪的ELK集群 •  性能优化 日志用途 •  找问题 •  data-driven develop/test/operate •  安全审计 •  Laws of Marcus J. Ranum •  监控 •  Monitoring is the aggregation of health and performance data, events, and relationships delivered via an interface that provides an holistic view of a systems state to better understand and address failure scenarios. @etsy 日志分析的难点 •  timestamp + data = log •  好，昨晚23:12到23:29那会儿日志有啥异常？ 日志分析的难点 •  grep/awk只能单机跑 日志分析的难点 •  格式复杂不方便可视化效果 So... •  我们需要一个实时大数据搜索 平台 •  不过，splunk好贵好贵... •  只能自己拼开源玩具了~ Hello World # bin/logstash -e ‘input{stdin{}} output{stdout{codec=rubydebug}} ’ Hello World { message = Hello World, @version = 1, @timestamp = 2014-08-07T10:30:59.937Z, host = raochenlindeMacBook- Air.local, } How Powerful •  $ ./bin/logstash -e ‘input{generator{count=100 000000000} output{stdout{codec= dots}}}’ | pv -abt /dev/null •  15.1MiB 0:02:21 [ 112kiB/s] php记录的日志 logstash相关配置 Kibana3最终效果 以及Kibana4效果 好吧，k4还没优化到配色方面 PHP的slowlog 经过multiline处理后 发现单机异常后的诊断 Nginx的errorlog 经过logstash的过滤，去掉具体的large body 字节数 时间段变化导致的各维度差异 app crash堆栈 这个c