ELK+Redis日志流程展示

業務流程架構圖：

一個基于logstash,redis,elasticSearch,kibana的一套數據收集分析的系統

架構圖描述：

    日志收集系統：（數據來源）生產者產生的日志記錄行為，通過被logstash收集、轉發，然后傳送給redis做序列話，最后通過ELK處理分析展示。

 elasticSearch會對數據做存儲，索引（基于Lunce），再kibana中建立對elasticSearch的鏈接，實時的抓取索索引后的數據，這樣數據就可以實時的進行展示，通過一些數據組裝，查詢條件，得到我們想要的結果（可以通過各種方式例如圖表，表格，折線圖等顯示）

效果圖：

####

一、ELK搭建

http://dbspace.blog.51cto.com/6873717/1879106

二、Redis部署

 注意redis必須是3.0版本以上，不然會有各種問題，之前遇到坑

三、根據架構編寫logstash的日志收集配置

[root@mycat conf]# cat /usr/local/logstash/conf/logstash_client.conf 

input{

    file{

        type => "log_count"

        path => "/var/log/messages"

}

}

output{

    redis{

        host => "192.168.1.114"

        port => 6379

        data_type => "list"

        key => "key_count"

        db => 0

}

}

四、編寫logstash的配置從redis讀取數據轉發到ELK

[root@mycat conf]# cat /usr/local/logstash/conf/logstash_server.conf 

input{

    redis{

host => "192.168.1.114"

port => 6379

type => "redis-input"

data_type => "list"

key => "key_count"

db => 0

}

}

output{

    elasticsearch{

hosts =>"192.168.1.114:9200"

codec =>"json"

}

}

###紅色部分要相同

啟動2個服務

 /usr/local/logstash/bin/logstash -f /usr/local/logstash/conf/logstash_server.conf &

 /usr/local/logstash/bin/logstash -f /usr/local/logstash/conf/logstash_client.conf &

五、餅圖分析