手记

基于Tornado的Websocket集群

背景

我们部署单点websocket服务时很简单就可以实现,但是现实中的业务往往对性能要求非常高, 因此单点服务并不能满足我们的需求,所以我们需要横向的扩展服务,来满足性能要求。

举个简单的例子,我们建立一个简单的聊天室,人数少的时候可以正常提供服务,但当聊天的人数超过单台服务器所能服务的数量时,服务器就不能提供相应的服务。我们可以通过提高服务器的配置来继续满足,但是提升配置后依然会达到上限。所以我们需要提供分布式的websocket服务,不再集中在一台服务器上,我们可以通过横向扩展,在多台服务器上部署相同的服务,来满足我们的扩展需求。

设计

原理

Websocket服务中正常启动后,每个用户连接后会一直存在,因此连接要保存在内存中,并在服务中管理起来,根据不同的需要,服务确定是否要通知集群中其他连接信息

基本的原理

  1. websocket服务中,单独启用一个线程来订阅MQ,线程中收到订阅,根据业务需求来确定通知所有连接与否。

  2. 单独提供一个RabbitMQ服务

    • 接收websocket的发送业务处理集群的消息
    • 接收业务处理集群发送websocket的消息,这里采用的是广播,不再对业务中进行判断是否发送,由websocket服务判断是要发送给哪个连接
  3. 业务服务集群,监听mq提供的业务处理消息,然后再将结果发送到websocket订阅的消息队列中。

架构图

代码

关注vx:战渣渣
回复关键字:ws集群

0人推荐
随时随地看视频
慕课网APP