基于Tornado的Websocket集群

背景

我们部署单点websocket服务时很简单就可以实现，但是现实中的业务往往对性能要求非常高， 因此单点服务并不能满足我们的需求，所以我们需要横向的扩展服务，来满足性能要求。

举个简单的例子，我们建立一个简单的聊天室，人数少的时候可以正常提供服务，但当聊天的人数超过单台服务器所能服务的数量时，服务器就不能提供相应的服务。我们可以通过提高服务器的配置来继续满足，但是提升配置后依然会达到上限。所以我们需要提供分布式的websocket服务，不再集中在一台服务器上，我们可以通过横向扩展，在多台服务器上部署相同的服务，来满足我们的扩展需求。

设计

原理

Websocket服务中正常启动后，每个用户连接后会一直存在，因此连接要保存在内存中，并在服务中管理起来，根据不同的需要，服务确定是否要通知集群中其他连接信息

基本的原理

1. websocket服务中，单独启用一个线程来订阅MQ，线程中收到订阅，根据业务需求来确定通知所有连接与否。

2. 单独提供一个RabbitMQ服务

   • 接收websocket的发送业务处理集群的消息
   • 接收业务处理集群发送websocket的消息，这里采用的是广播，不再对业务中进行判断是否发送，由websocket服务判断是要发送给哪个连接

3. 业务服务集群，监听mq提供的业务处理消息，然后再将结果发送到websocket订阅的消息队列中。

架构图

代码

关注vx：战渣渣
回复关键字：ws集群