百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

高并发系统怎么选日志框架?(高并发系统设计全彩版手册)

ccwgpt 2024-10-01 08:13 29 浏览 0 评论

经常遇到小伙伴在完成接口开发后通过Jmeter进行性能压测,压测发现TPS上不去,少则几十多则一两百,这在高并发系统中远远不够的。很大一部分原因是使用了不合适的log日志组件,一般开发人员很难想到到这点。下面就带你选择合适的日志组件让你的接口性能提升几倍甚至几十倍。

首先看看我们日常使用的日志组件。

log4j、logback、log4j2日志对比:

1.log4j: 这是Java中最早的日志框架之一,提供了可靠、快速且灵活的日志记录功能。它广泛用于许多不同的Java应用程序中。

2.logback: logback是log4j的一个改进版,由相同的原创者设计。它被设计为更加灵活且具有更好性能,特别是在日志轮换和条件日志处理方面。logback直接实现了SLF4J API,这意味着你可以很容易地将log4j或其他日志系统替换为logback。logback的默认配置要比log4j快几倍,而且logback的配置文件可以在出错时不需要完全解析,可以提高应用程序的健壮性。

3.log4j2: 这是log4j的升级版,完全重写了代码以提供更高的性能和更多的功能。它支持异步日志记录和更复杂的配置,同时也保持向后兼容性。log4j2 也使用了SLF4J API,提供了更多的灵活性和更好的资源管理。

log4j和logback是同步框架,如果选择这个两个组件作为项目的日志组件,通过jmeter进行高并发压测时可以通过jvm的jstack命令观察应用程序的线程栈,会发现有大量的IO写日志线程阻塞,例子如下:


日志的IO线程阻塞,这就导致很多的请求不能及时处理,极大降低了接口的TPS,这也就是压测时导致TPS上不去的根本原因。

怎样解决日志IO阻塞问题,同步改异步使用log4j2,log4j2的异步日志是通过队列来处理,log4j2支持以下四队列

1.DisruptorBlockingQueue 基于disruptor实现的高性能队列。

2.JCToolsBlockingQueue基于JCTools 实现的无锁队列。

3.LinkedTransferQueue是Java原生的LinkedTransferQueue 实现。

4.ArrayBlockingQueue是Java 原生的 ArrayBlockingQueue 实现。

在项目实践,disruptor队列性能是远超另外三种队列,disruptor是高性能环形队列,每秒能处理500-600万订单。这里着重介绍log4j2+disruptor的使用方案。

springboot集成log4j2+disruptor解决方案

1.引入pom

    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-log4j2</artifactId>
    </dependency>
    <!-- disruptor -->
    <dependency>
        <groupId>com.lmax</groupId>
        <artifactId>disruptor</artifactId>
    </dependency>

2.排除logback

    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-web</artifactId>
        <exclusions>
            <!-- 排除掉logging,不使用logback-->
            <exclusion>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-starter-logging</artifactId>
            </exclusion>
        </exclusions>
    </dependency>
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-data-redis</artifactId>
        <exclusions>
            <!-- 排除掉logging,不使用logback -->
            <exclusion>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-starter-logging</artifactId>
            </exclusion>
        </exclusions>
    </dependency>
    
    有其他组件使用了logback也要一并排除

3.开启全局异步

@SpringBootApplication
public class BootLaunchApplication {
   public static void main(String[] args) {
      //下面语句使得Log4j2日志输出使用异步处理
      System.setProperty("Log4jContextSelector","org.apache.logging.log4j.core.async.AsyncLoggerContextSelector");
      SpringApplication.run(BootLaunchApplication.class, args);
   }
}

如果不使用全局异步,可以开启局部异步,需要在log4j2.xml中配置

<Loggers>
    <AsyncRoot level="INFO">
        <appender-ref ref="Console"/>
        <appender-ref ref="errorAppender"/>
        <appender-ref ref="applicationAppender"/>
    </AsyncRoot>

    <AsyncLogger name="org.apache" level="INFO" additivity="false">
        <AppenderRef ref="apacheAppender"/>
    </AsyncLogger>
</Loggers>

4.配置log4j2.xml其他参数

做完以上操作后,在进行压测会发现TPS增加几倍甚至几十倍。

相关推荐

Java七大热门技术框架源码解析(25章) 完结

获课》aixuetang.xyz/5699/Hibernate与MyBatis源码级PK:ORM框架的两种哲学在Java持久层框架领域,Hibernate与MyBatis代表了两种截然不同的设计哲学。...

【25章】Java七大热门技术框架源码解析

获课》aixuetang.xyz/5699/Java高级面试:七大框架源码精讲与实战解析在当今Java技术生态中,对主流框架源码的深入理解已成为高级开发者面试的核心竞争力。掌握Spring、MyBat...

饿了么董事长吴泽明兼任CEO,韩鎏分管即时物流中心

饿了么调整组织架构。2月11日,饿了么董事长吴泽明(花名:范禹)通过公司全员信宣布饿了么最新组织调整:即日起,吴泽明将兼任饿了么CEO,韩鎏(花名:昊宸)专注分管即时物流中心,继续向吴泽明汇报。吴泽明...

饿了么100%迁至阿里云,快速扩容可支持1亿人同时点单

来源:环球网6月17日,记者获悉,饿了么已完成100%上云,所有业务系统、数据库设施等均已迁移至阿里云。高峰期,饿了么可在阿里云上快速扩容,可以支持1亿人同时在线点单,这意味着饿了么的服务能力再次全面...

饿了么组织架构调整:董事长吴泽明兼任CEO 韩鎏专注即时物流中心管理

近日,饿了么董事长吴泽明(花名:范禹)通过公司全员信宣布饿了么最新组织调整:即日起,吴泽明将兼任饿了么CEO,韩鎏(花名:昊宸)专注分管即时物流中心,继续向吴泽明汇报。吴泽明在内部信中表示,考虑即时物...

饿了么组织架构调整:董事长吴泽明兼任CEO

Tech星球2月11日消息,据新浪科技报道,今日饿了么董事长吴泽明(花名:范禹)通过公司全员信宣布饿了么最新组织调整:即日起,吴泽明将兼任饿了么CEO,韩鎏(花名:昊宸)专注分管即时物流中心,继续向吴...

饿了么又调整了组织架构,董事长吴泽明兼任CEO

2月11日,饿了么董事长,花名为范禹的吴泽明,通过公司全员信宣布最新组织调整:从即日起,吴泽明将兼任饿了么CEO。公司原CEO,花名为昊宸的韩鎏今后专注分管即时物流中心,继续向吴泽明汇报。在内部信中,...

SpringBoot项目快速开发框架JeecgBoot——Web处理!

Web处理JeecgBoot框架主要用于Web开发领域。下面介绍JeecgBoot在Web开发中的常用功能,如控制器、登录、系统菜单、权限模块的角色管理和用户管理。首先启动后台项目,将其导入IDE...

腾讯即将开源Kuikly:基于Kotlin的纯原生跨端解决方案

IT之家3月4日消息,腾讯日前在端服务网站发布预告,即将开源Kuikly跨端开发框架。预告海报介绍称,Kuikly是基于KotlinKMM技术、客户端开发友好的全新跨端解决方案,可...

Python构建MCP服务器完整教程:5步打造专属AI工具调用系统

模型控制协议(ModelControlProtocol,MCP)是一种专为实现AI代理与工具解耦而设计的通信协议,为AI驱动应用程序的开发提供了高度的灵活性和模块化架构。通过MCP服务器,AI代...

Python3使用diagrams生成架构图(python模块制作)

目录技术背景diagrams的安装基础逻辑关系图组件簇的定义总结概要参考链接技术背景对于一个架构师或者任何一个软件工程师而言,绘制架构图都是一个比较值得学习的技能。这就像我们学习的时候整理的一些Xmi...

Python 失宠!Hugging Face 用 Rust 新写了一个 ML框架,现已低调开源

大数据文摘受权转载自AI前线整理|褚杏娟近期,HuggingFace低调开源了一个重磅ML框架:Candle。Candle一改机器学习惯用Python的做法,而是Rust编写,重...

Python Web 框架(Python Web 框架)

Tornado、Flask、Django三个PythonWeb框架的主要区别和适用场景:特点/框架TornadoFlaskDjango类型异步非阻塞Web服务器和框架轻量级微框架全功能...

构建并发布你的自定义 Python 包(python如何创建自定义模块)

Python让你可以重用代码,并将代码分享给他人以节省时间和精力。所以,当你编写了一些方便的脚本,希望你的同事或其他人也能使用时,接下来该怎么做呢?这篇文章就来解决打包和分发的问题。我们将专注于将你...

Python 应用开发框架 BeeWare 简明实用教程

1.BeeWare简介BeeWare是一个Python框架,用于开发跨平台原生应用。它支持Android、iOS、Windows、macOS和Linux,并提供原生用户体验。2.安装B...

取消回复欢迎 发表评论: