您现在的位置是:Instagram刷粉絲, Ins買粉絲自助下單平台, Ins買贊網站可微信支付寶付款 >
05 Kafka發布訂閱示例(大數據Kafka是什么呢?)
Instagram刷粉絲, Ins買粉絲自助下單平台, Ins買贊網站可微信支付寶付款2024-06-14 03:42:01【】5人已围观
简介據這個關鍵字進行消息投遞。vhost:虛擬主機,一個broker里可以開設多個vhost,用作不同用戶的權限分離。procer:消息生產者,就是投遞消息的程序。買粉絲nsumer:消息消費者,就是接受
vhost:虛擬主機,一個broker里可以開設多個vhost,用作不同用戶的權限分離。
procer:消息生產者,就是投遞消息的程序。
買粉絲nsumer:消息消費者,就是接受消息的程序。
channel:消息通道,在客戶端的每個連接里,可建立多個channel,每個channel代表一個會話任務。
消息隊列的使用過程,如下:
(1)客戶端連接到消息隊列服務器,打開一個channel。
(2)客戶端聲明一個exchange,并設置相關屬性。
(3)客戶端聲明一個queue,并設置相關屬性。
(4)客戶端使用routing key,在exchange和queue之間建立好綁定關系。
(5)客戶端投遞消息到exchange。
exchange接收到消息后,就根據消息的key和已經設置的binding,進行消息路由,將消息投遞到一個或多個隊列里。
5.3 ZeroMQ
號稱史上最快的消息隊列,它實際類似于Socket的一系列接口,他跟Socket的區別是:普通的socket是端到端的(1:1的關系),而ZMQ卻是可以N:M 的關系,人們對BSD套接字的了解較多的是點對點的連接,點對點連接需要顯式地建立連接、銷毀連接、選擇協議(TCP/UDP)和處理錯誤等,而ZMQ屏蔽了這些細節,讓你的網絡編程更為簡單。ZMQ用于node與node間的通信,node可以是主機或者是進程。
引用官方的說法: “ZMQ(以下ZeroMQ簡稱ZMQ)是一個簡單好用的傳輸層,像框架一樣的一個socket library,他使得Socket編程更加簡單、簡潔和性能更高。是一個消息處理隊列庫,可在多個線程、內核和主機盒之間彈性伸縮。ZMQ的明確目標是“成為標準網絡協議棧的一部分,之后進入Linux內核”。現在還未看到它們的成功。但是,它無疑是極具前景的、并且是人們更加需要的“傳統”BSD套接字之上的一 層封裝。ZMQ讓編寫高性能網絡應用程序極為簡單和有趣。”
特點是:
高性能,非持久化;
跨平臺:支持Linux、Windows、OS X等。
多語言支持; C、C++、Java、.NET、Python等30多種開發語言。
可單獨部署或集成到應用中使用;
可作為Socket通信庫使用。
與RabbitMQ相比,ZMQ并不像是一個傳統意義上的消息隊列服務器,事實上,它也根本不是一個服務器,更像一個底層的網絡通訊庫,在Socket API之上做了一層封裝,將網絡通訊、進程通訊和線程通訊抽象為統一的API接口。支持“Request-Reply “,”Publisher-Subscriber“,”Parallel Pipeline”三種基本模型和擴展模型。
ZeroMQ高性能設計要點:
1、無鎖的隊列模型
對于跨線程間的交互(用戶端和session)之間的數據交換通道pipe,采用無鎖的隊列算法CAS;在pipe兩端注冊有異步事件,在讀或者寫消息到pipe的時,會自動觸發讀寫事件。
2、批量處理的算法
對于傳統的消息處理,每個消息在發送和接收的時候,都需要系統的調用,這樣對于大量的消息,系統的開銷比較大,zeroMQ對于批量的消息,進行了適應性的優化,可以批量的接收和發送消息。
3、多核下的線程綁定,無須CPU切換
區別于傳統的多線程并發模式,信號量或者臨界區, zeroMQ充分利用多核的優勢,每個核綁定運行一個工作者線程,避免多線程之間的CPU切換開銷。
5.4 Kafka
Kafka是一種高吞吐量的分布式發布訂閱消息系統,它可以處理消費者規模的網站中的所有動作流數據。 這種動作(網頁瀏覽,搜索和其他用戶的行動)是在現代網絡上的許多社會功能的一個關鍵因素。 這些數據通常是由于吞吐量的要求而通過處理日志和日志聚合來解決。 對于像Hadoop的一樣的日志數據和離線分析系統,但又要求實時處理的限制,這是一個可行的解決方案。Kafka的目的是通過Hadoop的并行加載機制來統一線上和離線的消息處理,也是為了通過集群機來提供實時的消費。
Kafka是一種高吞吐量的分布式發布訂閱消息系統,有如下特性:
通過O(1)的磁盤數據結構提供消息的持久化,這種結構對于即使數以TB的消息存儲也能夠保持長時間的穩定性能。(文件追加的方式寫入數據,過期的數據定期刪除)
高吞吐量:即使是非常普通的硬件Kafka也可以支持每秒數百萬的消息。
支持通過Kafka服務器和消費機集群來分區消息。
支持Hadoop并行數據加載。
Kafka相關概念
Broker
Kafka集群包含一個或多個服務器,這種服務器被稱為broker[5]
Topic
每條發布到Kafka集群的消息都有一個類別,這個類別被稱為Topic。(物理上不同Topic的消息分開存儲,邏輯上一個Topic的消息雖然保存于一個或多個broker上但用戶只需指定消息的Topic即可生產或消費數據而不必關心數據存于何處)
Partition
Parition是物理上的概念,每個Topic包含一個或多個Partition.
Procer
負責發布消息到Kafka broker
Consumer
消息消費者,向Kafka broker讀取消息的客戶端。
Consumer Group
每個Consumer屬于一個特定的Consumer Group(可為每個Consumer指定group name,若不指定group name則屬于默認的group)。
一般應用在大數據日志處理或對實時性(少量延遲),可靠性(少量丟數據)要求稍低的場景使用。
很赞哦!(28894)
相关文章
- 05 re買粉絲rd 買粉絲 on pc for youtube(幫忙翻譯一段IPHONE廣告)
- 01 買粉絲運營報告800字(買粉絲買粉絲如何運營?)
- 05 music 買粉絲 on youtube pc(今日新聞淺談:Youtube Music 也加入串流音樂服務大混戰)
- 05 music 買粉絲 download youtube(Marie.Digby.-.[Unfold].專輯 給個地址,最好無損,其次ogg,最次MP3 320k)
- 05 mac download youtube mp3(macbook怎么刪除chrome的youtube)
- 01 買粉絲過期了怎么重新認證(買粉絲公眾平臺認證過期怎么辦)
- 05 make your own youtube channel art(怎樣紙】檔納硤錒ow to Keep Healthy英語作文)
- 01 買粉絲運營中的推文制作步驟(買粉絲買粉絲怎么推文)
- 05 smart tv on youtube(社交網絡的缺陷——Social Networking Sites Are Harmful to Our Society)
- 05 python 買粉絲買粉絲文章(如何利用python自動發布買粉絲買粉絲文章?)
热门文章
站长推荐
05 software to download youtube mp3(p2p是什么?如何使用?)
01 買粉絲遷移個人到個人可以嗎(買粉絲個人號可以遷移到個人號上嗎?)
05 mary mary 買粉絲s youtube(noun phrase and relative claus)
05 music.youtube.買粉絲 買粉絲(尋咖啡王子一號店里的插曲 懸賞20分)
01 買粉絲轉發其他買粉絲文章步驟(買粉絲買粉絲怎么轉載另一個買粉絲的文章)
05 ins風高級感名字意大利文(有高級感的英文名,ins風高級感英文店名有哪些?)
05 mp3 player youtube downloader mp3(C#的側邊欄技術。答好了加分。)
05 js發布訂閱模式(前端經典面試題(包含JS、CSS、React、瀏覽器等))