分布式系统中的日志对齐工具
复杂的系统中有不同角色的节点机器,每个节点上各个组件都有各自的日志文件,本地和远端的不同节点之间又有着千丝万缕的协作关系,所以在分析某个bug时要把大量的日志根据bug出现的时间对应起来,是个麻烦的事情。
- 单独写了一个抓取脚本,把匹配的文件包复制到本地upload目录。
- 把各个节点的log bundle解压缩,集合起来并按原结构存储。
- 给一个时间片段,匹配并集合该时间段内的所有log。
- 生成一个html页面便于查看结果。
- 不同日志的时间格式可能不同
- 不同机器的时区设置可能不同
- Web爬虫引擎,支持从一个Web URL往里迭代搜索,把匹配的数据放到input。