nsq info

NSQ 简介

1
2
3
4
NSQ是一个基于Go语言的分布式实时消息平台,它基于MIT开源协议发布,代码托管在GitHub.
NSQ可用于大规模系统中的实时消息服务,并且每天能够处理数亿级别的消息,其设计目标是为在分布式环境下运行的去中心化服务提供一个强大的基础架构.
NSQ具有分布式,去中心化的拓扑结构,该结构具有无单点故障,故障容错,高可用性以及能够保证消息的可靠传递的特征
NSQ非常容易配置和部署,且具有最大的灵活性,支持众多消息协议.

NSQ 组成

1
2
3
4
5
6
7
8
9
NSQ是由四个重要组件构成
* nsqd
一个负责接收,排队,转发消息到客户端的守护进程
* nsqlookupd
管理拓扑信息并提供最终一致性的发现服务的守护进程
* nsqadmin
一套Web用户界面,可实时查看集群的统计数据和执行各种各样的管理任务
* utilities
常见基础功能,数据流处理工具,如: nsq_stat,nsq_tail,nsq_to_file,nsq_to_http,nsq_to_nsq,to_nsq

NSQ特点

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
* 具有分布式且无单点故障的拓扑结构,支持水平扩展,在无中断情况下能够无缝地添加集群节点
* 低延迟的消息推送
* 具有组合式的负载均衡和多播形式的消息路由
* 既擅长处理面向流(高吞吐量)的工作负载,也擅长处理面向Job的(低吞吐量)工作负载
* 消息数据既可以存储于内存中,也可以存储在磁盘中
* 实现了生产者,消费者自动发现和消费者自动连接生产者
* 支持安全传输层协议(TLS),从而确保了消息传递的安全性
* 具有与数据格式无关的消息结构,支持JSON,Protocol Buffers,MsgPacek等消息格式
* 非常易于部署(几乎没有依赖)和配置(所有参数都可以通过命令行进行配置)
* 使用了简单的TCP协议且具有多种语言的客户端功能库
* 具有用于信息统计,管理员操作和实现生产者等的HTTP接口
* 为实时检测集成了统计数据收集器StatsD
* 具有强大的集群管理界面

为了达到高效的分布式消息服务,NSQ实现了合理,智能的权衡,从而使得其能够完全适用于生产环境中,具体内容如下:
* 支持消息内存队列的大小设置,默认完全持久化(值为0),消息即可持久到磁盘也可以保存在内存中
* 保证消息至少传递一次,以确保消息可以最终成功发送
* 收到的消息是无序的,实现了松散订购
* 发现服务nsqlookupd具有最终一致性,消息最终能够找到所有Topic生产者