百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

websocket连接太多导致服务器卡顿怎么办?一招轻松实现横向扩展

ccwgpt 2024-10-27 08:49 34 浏览 0 评论

前言

项目中有即时聊天的需求,经过调研我们采用了socket.io自己实现了一个聊天服务器。

开始的一段时间由于用户不是很多,消息的发送接收都还算流畅,最近随着在线用户数量飙升,每过一段时间就会发生发送消息卡顿和接收消息延时的问题,最后只能通过重启socket服务来暂时解决问题。

那有没有办法从根本上解决这个问题呢?

目录

  1. 什么是socket.io
  2. socket.io实现一个简易的即时聊天应用
  3. socket.io支持分布式部署吗?
  4. 总结

什么是socket.io?

在介绍什么是socket.io之前,不得不先提一下WebSocket

我们都知道HTTP协议是一种单向的网络通信协议,服务端只能被动响应来自客户端的请求,却不能主动向客户端推送数据。

WebSocket技术没有出现之前,如果要开发一个需要实时获取服务端数据的Web应用,常见有以下两种方式:ajax轮询Long Polling。

  • ajax轮询的原理其实很简单,就是让客户端每隔一小段时间就主动向服务端发送一次请求,如果有新数据客户端就把它显示出来。
  • 可以看出不管有没有新数据,ajax轮询都会定时向服务端发起请求,这会导致服务端不必要的性能消耗,Long Polling就是对ajax轮询的一种改进。客户端向服务端发送请求,服务端不会立即就响应客户端而是会先保持住此次连接,直到有新的数据时才会返回,客户端接收到数据之后再立即发送一个新的请求给服务端,并不断得重复这一过程。

可以看出这两种方式都需要不断的建立连接,但是建立连接是一个比较消耗性能的操作,这个时候如果有一个新的通信协议可以支持客户端和服务端双向通信就好了,所以WebSocket应运而生。

WebSocket是HTML5新增的一种通信协议。WebSocket协议是一种支持双向通信的协议,它和HTTP协议一样通过TCP来进行数据传输,但是WebSocket又不同于HTTP:

  • WebSocket是一种支持双向通信的协议,双方在建立连接后都能主动向对方发送或接收数据。
  • 客户端和服务端要想进行WebSocket通信必须先握手交换信息,成功之后才能进行通信。

说了这么多,那么WebSocket跟socket.io又是什么关系呢?

一直以来我都以为socket.io只是WebSocket协议的一种实现而已,深入之后才发现这种观点不完全正确。

socket.io是一个基于Node.js技术和WebSocket协议开发的实时的,可双向通信的和基于事件的的开源通信框架

WebSocke是HTML5新推出的协议,主流浏览器对它的支持还不是很完善,所以socket.io不仅仅实现了WebSocket协议,除此之外它还支持一些其他的通信方式,比如前面我们提到的ajax轮询和Long Polling等,可以根据浏览器的支持程度切换不同的通信方式。

用socket.io实现一个简易的即时聊天应用

接下来我们就是使用socket.io来实现一个简易的即时聊天的web应用。

先来看一下效果:

下面简单介绍一下实现方式,主要分为客户端和服务端两个部分。

服务端核心代码:

服务端主要定义了3个监听事件,分别用来监听客户端的加入群聊、发送消息和离开群聊事件,服务端在监听到事件后会再通过broadcast.emit方法将消息向全体用户广播。

客户端核心代码:

主要流程:

  1. 向socket服务端请求连接;
  2. 自己向服务端发送加入群聊请求;
  3. 监听服务端广播的其他用户加入群聊消息;
  4. 监听服务端广播的用户聊天信息;
  5. 监听服务端广播的用户离开群聊消息;

socket.io支持分布式部署吗?

socket服务端维护连接是一个十分消耗性能的操作,那么大量的连接必然会给服务器带来非常大的性能压力,当单台socket服务器支撑不了时该怎么办呢?

解决方案其实也很简单:分而治之,我们可以将多个socket服务端组成负载均衡集群,再将连接平均分配到每个服务端。

有人也许会提出疑问:多个socket服务端之间怎么通信?比如用户1连接到了socket服务端1,用户2连接到了socket服务端2,那么用户1发的消息怎么广播到socket服务端2呢?

这里就需要提一下Redis了,对你没看错,就是那个用作缓存的Redis。

其实Redis除了当作缓存使用之外,它还有一个非常厉害的功能:发布/订阅

Redis的发布订阅机制包括三个部分:发布者、订阅者和频道。 发布者将消息发送到某个频道,那么Redis服务器就会主动将消息推送到订阅了这个频道的所有订阅者。

socket.io正式利用Redis的发布订阅机制来支持分布式部署的:

当客户端1通过emit触发了一个事件到socket服务端1,socket服务端1将这个消息发送到Redis的某个频道,订阅了这个频道的socket服务端2就会收到这个消息,socket服务端2再向连接它的用户广播就行了。

代码增加reidssocket.io-redis模块:

总结

socket.io是一个基于Node.js技术和WebSocket协议开发的实时的,可双向通信的和基于事件的的开源通信框架。除此之外它还兼容ajax轮询和Long Polling等前后端通信方式,我们可以根据浏览器的支持程度进行自由切换。

socket.io非常适合客户端和服务端需要进行实时通信的场景,它利用Redis的发布订阅机制可以实现分布式部署,这让socket服务端横向扩展变得很加容易。

“分享知识,收获快乐”

我是一名程序员,喜欢我的文章欢迎 关注 及 转发,我会经常与大家分享一些工作当中的编程技巧与经验。

相关推荐

RACI矩阵:项目管理中的角色与责任分配利器

作者:赵小燕RACI矩阵RACI矩阵是项目管理中的一种重要工具,旨在明确团队在各个任务中的角色和职责。通过将每个角色划分为负责人、最终责任人、咨询人和知情人四种类型,RACI矩阵确保每个人都清楚自己...

在弱矩阵组织中,如何做好项目管理工作?「慕哲制图」

慕哲出品必属精品系列在弱矩阵组织中,如何做好项目管理工作?【慕哲制图】-------------------------------慕哲制图系列0:一图掌握项目、项目集、项目组合、P2、商业分析和NP...

Scrum模式:每日站会(Daily Scrum)

定义每日站会(DailyScrum)是一个Scrum团队在进行Sprint期间的日常会议。这个会议的主要目的是为了应对Sprint计划中的不断变化,确保团队能够有效应对挑战并达成Sprint目标。为...

大家都在谈论的敏捷开发&Scrum,到底是什么?

敏捷开发作为一种开发模式,近年来深受研发团队欢迎,与瀑布式开发相比,敏捷开发更轻量,灵活性更高,在当下多变环境下,越来越多团队选择敏捷开发。什么是敏捷?敏捷是一种在不确定和变化的环境中,通过创造和响应...

敏捷与Scrum是什么?(scrum敏捷开发是什么)

敏捷是一种思维模式和哲学,它描述了敏捷宣言中的一系列原则。另一方面,Scrum是一个框架,规定了实现这种思维方式的角色,事件,工件和规则/指南。换句话说,敏捷是思维方式,Scrum是规定实施敏捷哲学的...

敏捷项目管理与敏捷:Scrum流程图一览

敏捷开发中的Scrum流程通常可以用一个简单的流程图来表示,以便更清晰地展示Scrum框架的各个阶段和活动。以下是一个常见的Scrum流程图示例:这个流程图涵盖了Scrum框架的主要阶段和活动,其中包...

一张图掌握项目生命周期模型及Scrum框架

Mockito 的最佳实践(mock方法)

记得以前面试的时候,面试官问我,平常开发过程中自己会不会测试?我回答当然会呀,自己写的代码怎么不测呢。现在想想我好像误会他的意思了,他应该是想问我关于单元测试,集成测试以及背后相关的知识,然而当时说到...

EffectiveJava-5-枚举和注解(java枚举的作用与好处)

用enum代替int常量1.int枚举:引入枚举前,一般是声明一组具名的int常量,每个常量代表一个类型成员,这种方法叫做int枚举模式。int枚举模式是类型不安全的,例如下面两组常量:性别和动物种...

Maven 干货 全篇共:28232 字。预计阅读时间:110 分钟。建议收藏!

Maven简介Maven这个词可以翻译为“知识的积累”,也可以翻译为“专家”或“内行”。Maven是一个跨平台的项目管理工具。主要服务于基于Java平台的项目构建、依赖管理和项目信息管理。仔...

Java单元测试框架PowerMock学习(java单元测试是什么意思)

前言高德的技术大佬在谈论方法论时说到:“复杂的问题要简单化,简单的问题要深入化。”这句话让我感触颇深,这何尝不是一套编写代码的方法——把一个复杂逻辑拆分为许多简单逻辑,然后把每一个简单逻辑进行深入实现...

Spring框架基础知识-第六节内容(Spring高级话题)

Spring高级话题SpringAware基本概念Spring的依赖注入的最大亮点是你所有的Bean对Spring容器的存在是没有意识的。但是在实际的项目中,你的Bean必须要意识到Spring容器...

Java单元测试浅析(JUnit+Mockito)

作者:京东物流秦彪1.什么是单元测试(1)单元测试环节:测试过程按照阶段划分分为:单元测试、集成测试、系统测试、验收测试等。相关含义如下:1)单元测试:针对计算机程序模块进行输出正确性检验工作...

揭秘Java代码背后的质检双侠:JUnit与Mockito!

你有没有发现,现在我们用的手机App、逛的网站,甚至各种智能设备,功能越来越复杂,但用起来却越来越顺畅,很少遇到那种崩溃、卡顿的闹心事儿?这背后可不是程序员一拍脑袋写完代码就完事儿了!他们需要一套严谨...

单元测试框架哪家强?Junit来帮忙!

大家好,在前面的文章中,给大家介绍了以注解和XML的方式分别实现IOC和依赖注入。并且我们定义了一个测试类,通过测试类来获取到了容器中的Bean,具体的测试类定义如下:@Testpublicvoid...

取消回复欢迎 发表评论: