百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

腾讯开源框架TarsCpp-rpc设计分析-client(一)

ccwgpt 2025-07-24 17:00 4 浏览 0 评论

前言

Tars是腾讯开源的微服务平台,包含了一个高性能的rpc框架和服务治理平台,TarsCpp是其C++版本。对于以C++为主要开发语言,同时还想深入了解rpc和微服务框架具体实现的同学来说,Tars是一个极佳的选择。

想像一下,如果你自己来设计一个rpc-client,都应该考虑哪些因素?

  • 一个高效、可靠的调度器(epoll模型)
  • 如何设计同步调用、异步调用
  • 使用适当的协议来发送请求、解析结果
  • 提供不同的选择服务节点的策略,包括但不限于轮询、hash、权重等
  • 管理服务节点状态,包括不限于节点是否已经连接,是否正在连接中,连接是否超时,是否需要重连,连接超时时间设置,连接重连时间设置等
  • 如何可靠的接收请求、发送结果,请求量怎么控制,接收到1.5个请求怎么办,请求发送完迟迟没收到结果怎么办

这些问题都可以从tars-rpc-client中寻找到实现答案

1 rpc-client概要设计

学习源码的一个重要目的是学习“别人家”模块或项目的设计思路,设计思路的珍贵之处在于其超脱了项目甚至语言的层次,可以迁移到其他地方。

tar-rpc-client主要由4个组件构成:ServantProxy,ObjectProxy,CommunicatorEpoll,AsyncProcThread,其中:

  • ServantProxy:直接与使用者交互,提供简便易用接口
  • ObjectProxy:封装网络层收发细节
  • CommunicatorEpoll:提供收发调度功能
  • AsyncProcThread:提供异步调用功能

四个组件的关系见图1。


  • 在主线程里,ServantProxy是工头,它承接客户需求并加以整理,然后按照一定顺序分给众小弟们(一个小弟是一个ObjectProxy)
  • 小弟ObjectProxy在调度线程中依赖CommunicatorEpoll中的epoll模型高效有序的干活
  • 如果是同步调用,ServantProxy会在主线程中等待,直到ObjectProxy在调度线程中完成请求发送和结果接收
  • 如果是异步调用,主线程不会阻塞,主线程中注册的回调函数在回调线程AsyncProcThread中被执行
  • 一个小弟ObjectProxy对应一个CommunicatorEpoll,一个ServantProxy可以对应多个ObjectProxy
  • 一个CommunicatorEpoll可以对应多个AsyncProcThread
  • 2 CommunicatorEpoll概要设计

    CommunicatorEpoll在rpc-client设计中处于核心地位,它确认了client信息流的调度方式。

    CommunicatorEpoll是一个封装后的epoll模型,CommunicatorEpoll设计巧妙之处在于将客户调用函数的动作也作为了epoll的触发条件。下面以图2说明CommunicatorEpoll的设计架构


    CommunicatorEpoll将epoll_wait中得到的消息分为两类,一类是处理ObjectProxy消息,另外一类是处理EPOLLIN、EPOLLOUT、EPOLLERR消息。

    最核心的系统调用函数也列在了图2上,包括紫色的epoll_wait和epoll_ctl、绿色的connect、send和readv。

    图2中展示了一个最简单的函数调用流程,下面的序号对应了图2中箭头里的序号

    1. 当用户调用ServantProxy::Hello方法时候,ServantProxy将这个方法包含的内容组成一个msg
    2. 通过ObjectProxy将msg注册到CommunicatorEpoll中。
    3. epoll_wait获取了通知,处理msg
    4. 链接server端,成功后获取connent fd
    5. 将connect fd注册到CommunicatorEpoll中
    6. 发送请求
    7. 接收结果

    2.1 同步call

    rpc_client一般有两种基本的调用方式,sync_call和async_call,即同步call和异步call。先看下同步call的实现机制。

    同步call实现机理较简单,只需要主线程、调度线程配合就能实现。见图3.


  • 主线程调用函数后阻塞等待调度线程的信号通知,
  • 调度线程收到结果后,主备发送信号通知
  • 发送信号通知
  • 主线程接收到信号后,本次调用结束
  • 2.2 异步call

    异步call需要主线程、调度线程、回调线程三个组件,见图4


  • 主线程调用完方法后直接结束
  • 调度线程接收到结果后,放入回调线程的队列\_msgQueue中
  • 回调线程循环等待\_msgQueue中的msg,当有msg进入时,会使用pop\_front取出
  • 调用回调函数处理msg
  • 未完-待续

    相关推荐

    腾讯开源框架TarsCpp-rpc设计分析-server(二)

    2Tars协议2.1是什么借用官方说法:TARS编码协议是一种数据编解码规则,它将整形、枚举值、字符串、序列、字典、自定义结构体等数据类型按照一定的规则编码到二进制数据流中。对端接收到二进制数据流...

    微服务调用为什么用RPC框架,http不更简单吗?

    简单点,HTTP是协议,RPC是概念!实现RPC可以基于HTTP协议(Feign),TCP协议(Netty),RMI协议(Soap),WebService(XML—RPC)框架。传输过程中,也因为序列...

    go-zero:开箱即用的微服务框架(gin框架微服务)

    go-zero是一个集成了各种工程实践的Web和rpc框架,它的弹性设计保障了大并发服务端的稳定性,并且已经经过了充分的实战检验。go-zero在设计时遵循了“工具大于约定和文档”的理...

    SOFARPC :高性能、高扩展性、生产级的 Java RPC 框架

    #暑期创作大赛#SOFARPC是一个高性能、高扩展性、生产级的JavaRPC框架。在蚂蚁金服,SOFARPC已经使用了十多年,已经发展了五代。SOFARPC致力于简化应用程序之间的RPC...

    自研分布式高性能RPC框架及服务注册中心ApiRegistry实践笔记

    痛点1.bsf底层依赖springcloud,影响bsf更新springboot新版本和整体最新技术版本升级。2.eureka已经闭源,且框架设计较重,同时引入eureka会自行引入较多sprin...

    Rust语言从入门到精通系列 - Tonic RPC框架入门实战

    Rust语言是一种系统级语言,被誉为“没有丧失性能的安全语言”。Rust语言的优势在于其内存安全机制,在编译时就能保证程序的内存安全。Tonic模块是Rust语言的一个RPC(RemoteProce...

    腾讯开源框架TarsCpp-rpc设计分析-client(一)

    前言Tars是腾讯开源的微服务平台,包含了一个高性能的rpc框架和服务治理平台,TarsCpp是其C++版本。对于以C++为主要开发语言,同时还想深入了解rpc和微服务框架具体实现的同学来说,Tars...

    设计了一款TPS百万级别的分布式、高性能、可扩展的RPC框架

    为啥要开发RPC框架事情是这样的,在开发这个RPC框架之前,我花费了不少时间算是对Dubbo框架彻底研究透彻了。冰河在撸透了Dubbo2.x和Dubbo3.x的源码之后,本来想给大家写一个Dubbo源...

    rpc框架使用教程,超级稳定好用,大厂都在使用

    rpc是什么远程调用协议如何使用导入依赖<dependency><groupId>org.apache.dubbo</groupId><art...

    Layui 框架实战:动态加载 Select 与二级联动全解析

    在现代Web开发中,下拉选择框(Select)是用户输入数据时不可或缺的组件。很多时候,我们需要的选项并非静态写死在HTML中,而是需要根据业务逻辑从后端动态获取。更有甚者,我们可能需要实现“...

    15个能为你节省数百小时的前端设计神器,从UI库到文档生成

    无论你是刚开始开发之旅的新手,还是疲于应付生产期限的资深程序员,有一个真理始终不变:正确的工具能彻底改变你的工作流程。多年来,我测试了数百个开发工具——有些实用,大多数平庸。但有一批免费网站经受住了时...

    Layui与WinForm通用权限管理系统全解析

    嘿,小伙伴们,今天咱们来聊聊Layui和WinForm这两个框架在通用权限管理系统中的应用。别担心,我会尽量用简单易懂的语言来讲解,保证让大家都能跟上节奏!首先说说Layui。Layui是一个前端UI...

    纯Python构建精美UI!MonsterUI让前端开发效率飙升

    “无需CSS知识,告别类名记忆,11行代码实现专业级卡片组件”在传统Web开发中,构建美观界面需要同时掌握HTML、CSS、JavaScript三剑客,开发者不得不在多种语言间频繁切换。即使使用Boo...

    WebTUI:将终端用户界面(TUI)之美带到浏览器的CSS库

    在当今Web技术飞速发展的时代,界面设计愈发复杂多样。然而,随着现代化工具的广泛使用,一些开发者开始回归极简风格,追求一种简洁而富有韵味的设计。WebTUI正是这样一款CSS库,它将经典的终...

    人教版二年级下册生字描红汇总(拼音+笔顺+描红),可打印!

    可定制内容,评论区留言。本次整理的为人教版二年级下册所有生字,共计300个;写字是小学阶段一项重要的基本功训练,把汉字写得正确、工整、美观,可以提高运用汉字这一交际工具的准确性和效率。对小学生进行写字...

    取消回复欢迎 发表评论: