[發(fā)明專利]一種基于Kafka和Zabbix的日志分析監(jiān)控系統(tǒng)在審
| 申請(qǐng)?zhí)枺?/td> | 201710175307.9 | 申請(qǐng)日: | 2017-03-22 |
| 公開(kāi)(公告)號(hào): | CN106936640A | 公開(kāi)(公告)日: | 2017-07-07 |
| 發(fā)明(設(shè)計(jì))人: | 馮方方 | 申請(qǐng)(專利權(quán))人: | 環(huán)球智達(dá)科技(北京)有限公司 |
| 主分類號(hào): | H04L12/24 | 分類號(hào): | H04L12/24;H04L12/26 |
| 代理公司: | 北京華仲龍騰專利代理事務(wù)所(普通合伙)11548 | 代理人: | 李靜 |
| 地址: | 100000 北京市石景*** | 國(guó)省代碼: | 北京;11 |
| 權(quán)利要求書(shū): | 查看更多 | 說(shuō)明書(shū): | 查看更多 |
| 摘要: | |||
| 搜索關(guān)鍵詞: | 一種 基于 kafka zabbix 日志 分析 監(jiān)控 系統(tǒng) | ||
技術(shù)領(lǐng)域
本發(fā)明涉及一種網(wǎng)站監(jiān)控系統(tǒng),具體是一種基于Kafka和Zabbix的日志分析監(jiān)控系統(tǒng)。
背景技術(shù)
對(duì)網(wǎng)站流量的監(jiān)控,目前主要有如下幾種方式:一是采用嵌入云平臺(tái)的統(tǒng)計(jì)JS腳本的方式,采用這類方法的如百度、谷歌等,二是通過(guò)一些日志分析工具進(jìn)行流量監(jiān)控,采用這類的方法主要有GoAccess、LogStat等,三是自主開(kāi)發(fā)的訪問(wèn)統(tǒng)計(jì)監(jiān)控系統(tǒng)。上述幾種方案都有自己明顯的不足。嵌入云平臺(tái)的統(tǒng)計(jì)JS方式,不僅需要對(duì)網(wǎng)站前端代碼進(jìn)行修改,增加前端的處理邏輯;而且有些接口類的訪問(wèn)無(wú)法直接嵌入JS,使得此方案在使用范圍上具有一定的局限性。第二種采用日志分析工具進(jìn)行流量監(jiān)控,無(wú)法進(jìn)行實(shí)時(shí)地?cái)?shù)據(jù)統(tǒng)計(jì)和監(jiān)控,也不便于對(duì)多臺(tái)服務(wù)器訪問(wèn)日志進(jìn)行監(jiān)控與統(tǒng)計(jì)。而自主開(kāi)發(fā)的訪問(wèn)統(tǒng)計(jì)監(jiān)控系統(tǒng),開(kāi)發(fā)工作量比較大,實(shí)施成本比較高,時(shí)間進(jìn)度上也有一定的限制。
發(fā)明內(nèi)容
本發(fā)明的目的在于提供一種基于Kafka和Zabbix的日志分析監(jiān)控系統(tǒng),以解決上述背景技術(shù)中提出的問(wèn)題。
為實(shí)現(xiàn)上述目的,本發(fā)明提供如下技術(shù)方案:
一種基于Kafka和Zabbix的日志分析監(jiān)控系統(tǒng),包括Kafka模塊、Shell腳本模塊和Zabbix模塊,所述Kafka模塊一端連接至WEB服務(wù)器,Kafka模塊用于采集WEB服務(wù)器的訪問(wèn)日志;所述Kafka模塊另一端連接至Shell腳本模塊,Shell腳本模塊連接至Zabbix模塊,Shell腳本模塊用于對(duì)網(wǎng)站訪問(wèn)流量進(jìn)行分析與計(jì)算,將Shell腳本模塊進(jìn)行網(wǎng)站訪問(wèn)流量的分析與計(jì)算的結(jié)果匯總到Zabbix模塊中;Zabbix模塊包括圖形展現(xiàn)界面模塊,所述Zabbix模塊用于對(duì)網(wǎng)站進(jìn)行實(shí)時(shí)的PV和UV的監(jiān)控和告警。
與現(xiàn)有技術(shù)相比,本發(fā)明的有益效果是:
本發(fā)明通過(guò)Kafka進(jìn)行WEB訪問(wèn)日志的采集,通過(guò)Shell腳本進(jìn)行網(wǎng)站訪問(wèn)流量的分析與計(jì)算,并將結(jié)果匯總到Zabbix中;利用Zabbix的圖形展現(xiàn)界面進(jìn)行監(jiān)控可視化展示,實(shí)現(xiàn)了對(duì)網(wǎng)站實(shí)時(shí)PV和UV的監(jiān)控和告警,降低了網(wǎng)站訪問(wèn)統(tǒng)計(jì)和監(jiān)控的成本。
附圖說(shuō)明
圖1為基于Kafka和Zabbix的日志分析監(jiān)控系統(tǒng)的結(jié)構(gòu)示意圖。
具體實(shí)施方式
下面結(jié)合具體實(shí)施方式對(duì)本發(fā)明的技術(shù)方案作進(jìn)一步詳細(xì)地說(shuō)明。
請(qǐng)參閱圖1,一種基于Kafka和Zabbix的日志分析監(jiān)控系統(tǒng),包括Kafka模塊、Shell腳本模塊和Zabbix模塊,所述Kafka模塊一端連接至WEB服務(wù)器,Kafka模塊用于采集WEB服務(wù)器的訪問(wèn)日志;所述Kafka模塊另一端連接至Shell腳本模塊,Shell腳本模塊連接至Zabbix模塊,Shell腳本模塊用于對(duì)網(wǎng)站訪問(wèn)流量進(jìn)行分析與計(jì)算,將Shell腳本模塊進(jìn)行網(wǎng)站訪問(wèn)流量的分析與計(jì)算的結(jié)果匯總到Zabbix模塊中;Zabbix模塊包括圖形展現(xiàn)界面模塊,所述Zabbix模塊用于對(duì)網(wǎng)站進(jìn)行實(shí)時(shí)的PV和UV的監(jiān)控和告警。
本發(fā)明的工作原理是:
本系統(tǒng)通過(guò)Kafka模塊進(jìn)行WEB訪問(wèn)日志的采集,通過(guò)Shell腳本模塊進(jìn)行網(wǎng)站訪問(wèn)流量的分析與計(jì)算,并將結(jié)果匯總到Zabbix模塊中;利用Zabbix模塊中的圖形展現(xiàn)界面模塊進(jìn)行監(jiān)控可視化展示,并實(shí)現(xiàn)對(duì)網(wǎng)站實(shí)時(shí)PV和UV的監(jiān)控和告警。
上面對(duì)本發(fā)明的較佳實(shí)施方式作了詳細(xì)說(shuō)明,但是本發(fā)明并不限于上述實(shí)施方式,在本領(lǐng)域的普通技術(shù)人員所具備的知識(shí)范圍內(nèi),還可以在不脫離本發(fā)明宗旨的前提下作出各種變化。
該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息,商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于環(huán)球智達(dá)科技(北京)有限公司,未經(jīng)環(huán)球智達(dá)科技(北京)有限公司許可,擅自商用是侵權(quán)行為。如果您想購(gòu)買此專利、獲得商業(yè)授權(quán)和技術(shù)合作,請(qǐng)聯(lián)系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/201710175307.9/2.html,轉(zhuǎn)載請(qǐng)聲明來(lái)源鉆瓜專利網(wǎng)。
- 上一篇:防水插
- 下一篇:表項(xiàng)管理方法和系統(tǒng)
- Kafka集群的數(shù)據(jù)傳送方法和裝置
- KAFKA消息隊(duì)列數(shù)監(jiān)控方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)
- KAFKA主題監(jiān)控方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)
- 基于容器的集群遷移方法及裝置
- kafka消息的測(cè)試方法、裝置、計(jì)算機(jī)設(shè)備及存儲(chǔ)介質(zhì)
- 基于kafka集群的數(shù)據(jù)寫(xiě)入方法、裝置、電子設(shè)備、存儲(chǔ)介質(zhì)
- 一種可視化部署并管理kafka集群的方法
- kafka消息存儲(chǔ)系統(tǒng)、方法、裝置及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)
- 一種基于kafka-connect的數(shù)據(jù)傳遞方法
- 一種將Kafka長(zhǎng)連接消費(fèi)轉(zhuǎn)換成服務(wù)的方法
- Docker容器內(nèi)應(yīng)用程序的監(jiān)控方法和發(fā)布平臺(tái)
- 一種基于Zabbix和Docker的監(jiān)控系統(tǒng)和方法
- 一種基于Kafka和Zabbix的日志分析監(jiān)控系統(tǒng)
- 一種動(dòng)態(tài)分發(fā)Zabbix監(jiān)控?cái)?shù)據(jù)的系統(tǒng)及其管理方法
- 通過(guò)zabbix監(jiān)控大量TCP服務(wù)端口的方法
- 一種支持橫向擴(kuò)展的Zabbix集群架構(gòu)系統(tǒng)及應(yīng)用方法
- 混合云監(jiān)控系統(tǒng)及使用其的監(jiān)控方法
- 一種基于Zabbix監(jiān)控觸發(fā)通知的方法
- 基于分布式關(guān)系型數(shù)據(jù)庫(kù)的Zabbix監(jiān)控系統(tǒng)
- 一種實(shí)現(xiàn)對(duì)服務(wù)器監(jiān)控的方法
- 一種基于精簡(jiǎn)策略的集群系統(tǒng)的日志管理優(yōu)化方法
- 日志分離方法及裝置
- 日志服務(wù)器處理日志的方法和裝置
- 一種基于負(fù)載均衡的文件系統(tǒng)日志模型
- 日志生成方法、應(yīng)用服務(wù)器、日志服務(wù)器及日志生成系統(tǒng)
- 一種多線程日志輸出的方法及裝置
- 一種日志分析方法、系統(tǒng)、設(shè)備及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)
- 日志解析方法、裝置、設(shè)備及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)
- 日志處理方法及設(shè)備
- 一種日志檢測(cè)方法、裝置、終端及服務(wù)器





