最值得学习的开源RPC框架——SRPC
ccwgpt 2024-10-13 01:31 53 浏览 0 评论
什么是RPC?
Remote Procedure Call,远程过程调用。
什么是“远程”,为什么“远”?
先来看下什么是“近”,即“本地函数调用”。
当我们写下:
int result = Add(1, 2);
这行代码的时候,到底发生了什么?
(1)传递两个入参;
(2)调用了本地代码段中的函数,执行运算逻辑;
(3)返回一个出参;
这三个动作,都发生在同一个进程空间里,这是本地函数调用。
那有没有办法,调用一个跨进程的函数呢?
典型的,这个进程部署在另一台服务器上。
最容易想到的,两个进程约定一个协议格式,使用Socket通信,来传输:
(1)入参;
(2)调用哪个函数;
(3)出参;
如果能够实现,那这就是“远程”过程调用。
为什么需要RPC框架呢?
如果没有统一的RPC框架,各个团队的服务提供方就需要各自实现一套序列化、反序列化、网络框架、连接池、收发线程、超时处理、状态机等“业务之外”的重复技术劳动,造成整体的低效。
RPC框架的职责,就是要屏蔽各种复杂性:
(1)调用方client感觉就像调用本地函数一样,来调用服务;
(2)提供方server感觉就像实现一个本地函数一样,来实现服务;
有哪些常见的,出圈的RPC框架呢?
(1)gRPC,Google出品,支持多语言;
(2)Thrift,Facebook出品,支持多语言;
(3)Dubbo,阿里开源的,支持Java;
(4)bRPC,百度开源的,支持C++,Java;
(5)tRPC,腾讯RPC框架,支持多语言;
(6)...
今天和大家分享的srpc,作者是搜狗的媛架构师liyingxin,基于WF,代码量1W左右:
(1)非常适合用来学习RPC的架构设计;
(2)又是一个工业级的产品,QPS可以到50W,应该是行业能目前性能最好的RPC框架了吧,有不少超高并发的线上应用都使用它。
什么是srpc?
基于WF的轻量级,超高性能,工业级RPC框架,兼容多协议,例如百度bRPC,腾讯tRPC,Google的gRPC,以及FB的thrift协议。
srpc有些什么特点?
(1)支持多种IDL格式,包括Protobuf,Thrift等,对于这类项目,可以一键迁移;
(2)支持多种序列化方式,包括Protobuf,Thrift,json等;
(3)支持多压缩方法,对应用透明,包括gzip,zlib,lz4,snappy等;
(4)支持多协议,对应用透明,包括http,https,ssl,tcp等;
(5)高性能;
不同客户端线程压力下的性能表现非常稳定,QPS在50W左右,优于同等压测配置的bRPC与thrift。
(6)轻量级,低门槛,1W行左右代码,只需引入一个静态库;
如何快速上手,体验这个帅气的RPC框架呢?
简单来说,只需要三个步骤。
第一步:定义IDL描述文件。
syntax = "proto3";// proto2 or proto3
message EchoRequest {
string message = 1;
string name = 2;
};
message EchoResponse {
string message = 1;
};
service Example {
rpc Echo(EchoRequest) returns (EchoResponse);
};
第二步:生成代码,并实现ServiceIMPL,server端就搞定了。
class ExampleServiceImpl : public Example::Service
{
public:
void Echo(EchoRequest *request,
EchoResponse *response,
RPCContext *ctx) override
{
response->set_message("Hi, " + request->name());
}
};
make一把,一气呵成。
第三步:自己定义一个请求客户端,向服务端发送echo请求。
int main()
{
Example::SRPCClient client("127.0.0.1", 1412);
EchoRequest req;
req.set_message("Hello, srpc!");
req.set_name("zhangsan");
client.Echo(&req,
[](EchoResponse *response, RPCContext *ctx){});
return 0;
}
srpc的架构设计思路是怎样的?
作为一个RPC框架,srpc的架构是异常清晰的,用户需要关注这3个层次:
(1)IDL接口描述文件层;
(2)RPC序列化协议层;
(3)网络通讯层;
同时,每一层次又提供了多种选择,用户可以任意的组合:
如上图所示:
(1)IDL层,用户可以选择Protobuf或者Thrift;
(2)协议层,可以选择Thrift,bRPC,tRPC等;
(3)通信层,可以选择tcp或者http;
在此分层架构之下,RPC的客户端要做什么工作,RPC的服务端要做什么工作,srpc框架又做了什么工作呢?
首先必须在IDL中要定义好:
(1)逻辑请求包request;
(2)逻辑响应包response;
(3)服务接口函数method;
RPC-client的工作就异常简单了:
(1)调用method;
(2)绑定回调函数,处理回调;
对应上图中顶部方框的绿色部分。
RPC-server的工作也非常简单,像实现一个本地函数一样,提供远程的服务:
(1)实现method;
(2)接受request,逻辑处理,返回response;
对应上图中底部方框的黄色部分。
srpc框架完成了绝大部分的工作:
(1)对request序列化,压缩,处理生成二进制报文;
(2)连接池,超时,任务队列,异步等处理;
(3)对request二进制报文处理,解压缩,反序列化;
...
对应上图中中间的方框的红色部分,以及大部分流程。
在这个过程中,srpc采用插件化设计,各种复杂性细节,对接口调用方与服务提供方,都是透明的,并且具备良好的扩展性。
如上图所示,用户只需要关注IDL,即逻辑请求,响应,接口的调用与实现。框架层面,将各种能力以插件的方式集成进来,向用户提供不同能力的组合选择。
另外,定义好IDL之后,服务端的代码可以利用框架提供的工具自动生成代码,业务服务提供方,只需要专注于业务接口的实现即可。本文部分摘自“架构师之路”。
相关推荐
- 十分钟让你学会LNMP架构负载均衡(impala负载均衡)
-
业务架构、应用架构、数据架构和技术架构一、几个基本概念1、pv值pv值(pageviews):页面的浏览量概念:一个网站的所有页面,在一天内,被浏览的总次数。(大型网站通常是上千万的级别)2、u...
- AGV仓储机器人调度系统架构(agv物流机器人)
-
系统架构层次划分采用分层模块化设计,分为以下五层:1.1用户接口层功能:提供人机交互界面(Web/桌面端),支持任务下发、实时监控、数据可视化和报警管理。模块:任务管理面板:接收订单(如拣货、...
- 远程热部署在美团的落地实践(远程热点是什么意思)
-
Sonic是美团内部研发设计的一款用于热部署的IDEA插件,本文其实现原理及落地的一些技术细节。在阅读本文之前,建议大家先熟悉一下Spring源码、SpringMVC源码、SpringBoot...
- springboot搭建xxl-job(分布式任务调度系统)
-
一、部署xxl-job服务端下载xxl-job源码:https://gitee.com/xuxueli0323/xxl-job二、导入项目、创建xxl_job数据库、修改配置文件为自己的数据库三、启动...
- 大模型:使用vLLM和Ray分布式部署推理应用
-
一、vLLM:面向大模型的高效推理框架1.核心特点专为推理优化:专注于大模型(如GPT-3、LLaMA)的高吞吐量、低延迟推理。关键技术:PagedAttention:类似操作系统内存分页管理,将K...
- 国产开源之光【分布式工作流调度系统】:DolphinScheduler
-
DolphinScheduler是一个开源的分布式工作流调度系统,旨在帮助用户以可靠、高效和可扩展的方式管理和调度大规模的数据处理工作流。它支持以图形化方式定义和管理工作流,提供了丰富的调度功能和监控...
- 简单可靠高效的分布式任务队列系统
-
#记录我的2024#大家好,又见面了,我是GitHub精选君!背景介绍在系统访问量逐渐增大,高并发、分布式系统成为了企业技术架构升级的必由之路。在这样的背景下,异步任务队列扮演着至关重要的角色,...
- 虚拟服务器之间如何分布式运行?(虚拟服务器部署)
-
在云计算和虚拟化技术快速发展的今天,传统“单机单任务”的服务器架构早已难以满足现代业务对高并发、高可用、弹性伸缩和容错容灾的严苛要求。分布式系统应运而生,并成为支撑各类互联网平台、企业信息系统和A...
- 一文掌握 XXL-Job 的 6 大核心组件
-
XXL-Job是一个分布式任务调度平台,其核心组件主要包括以下部分,各组件相互协作实现高效的任务调度与管理:1.调度注册中心(RegistryCenter)作用:负责管理调度器(Schedule...
- 京东大佬问我,SpringBoot中如何做延迟队列?单机与分布式如何做?
-
京东大佬问我,SpringBoot中如何做延迟队列?单机如何做?分布式如何做呢?并给出案例与代码分析。嗯,用户问的是在SpringBoot中如何实现延迟队列,单机和分布式环境下分别怎么做。这个问题其实...
- 企业级项目组件选型(一)分布式任务调度平台
-
官网地址:https://www.xuxueli.com/xxl-job/能力介绍架构图安全性为提升系统安全性,调度中心和执行器进行安全性校验,双方AccessToken匹配才允许通讯;调度中心和执...
- python多进程的分布式任务调度应用场景及示例
-
多进程的分布式任务调度可以应用于以下场景:分布式爬虫:importmultiprocessingimportrequestsdefcrawl(url):response=re...
- SpringBoot整合ElasticJob实现分布式任务调度
-
介绍ElasticJob是面向互联网生态和海量任务的分布式调度解决方案,由两个相互独立的子项目ElasticJob-Lite和ElasticJob-Cloud组成。它通过弹性调度、资源管控、...
- 分布式可视化 DAG 任务调度系统 Taier 的整体流程分析
-
Taier作为袋鼠云的开源项目之一,是一个分布式可视化的DAG任务调度系统。旨在降低ETL开发成本,提高大数据平台稳定性,让大数据开发人员可以在Taier直接进行业务逻辑的开发,而不用关...
- SpringBoot任务调度:@Scheduled与TaskExecutor全面解析
-
一、任务调度基础概念1.1什么是任务调度任务调度是指按照预定的时间计划或特定条件自动执行任务的过程。在现代应用开发中,任务调度扮演着至关重要的角色,它使得开发者能够自动化处理周期性任务、定时任务和异...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- MVC框架 (46)
- spring框架 (46)
- 框架图 (58)
- flask框架 (53)
- quartz框架 (51)
- abp框架 (47)
- jpa框架 (47)
- laravel框架 (46)
- springmvc框架 (49)
- 分布式事务框架 (65)
- scrapy框架 (56)
- shiro框架 (61)
- 定时任务框架 (56)
- java日志框架 (61)
- JAVA集合框架 (47)
- grpc框架 (55)
- ppt框架 (48)
- 内联框架 (52)
- winform框架 (46)
- gui框架 (44)
- cad怎么画框架 (58)
- ps怎么画框架 (47)
- ssm框架实现登录注册 (49)
- oracle字符串长度 (48)
- oracle提交事务 (47)