【龙田百科】浅析gRPC技术,远程过程调用的优质选择
ccwgpt 2024-10-13 01:31 39 浏览 0 评论
随着网络复杂化,服务之间远程调用的普遍使用,对远程调用工具的需求也越来越迫切,gRPC协议应运而生。
Google远程过程调用(Google Remote Procedure Call,gRPC)是基于HTTP 2.0传输层协议承载的高性能开源RPC软件框架,为管理和配置网络设备提供了一种API接口设计的方法。gRPC提供了多种编程语言,如C、Java、golong、python等。
gRPC可以作为数据传输协议与Telemetry技术配合使用,可实时、高速、精确的监控网络设备的运行状态。此外,网络设备提供了一种基于gRPC方式来管理设备的方法,包括配置、查询和能力获取三种方法。这些方法是通过设备和采集器对接,实现采集设备数据的功能。
gRPC VS REST
REST(Representational State Transfer)表征状态转移,是一种软件架构风格,用于指导WEB架构的设计和开发。REST同样为管理和配置网络设备提供了一种API接口设计的方法。gRPC与REST两者的主要差异如下:
- REST遵循基于HTTP 1.1的请求-响应通信模型,而gRPC遵循基于HTTP 2.0的客户端-响应通信模型。HTTP 2.0相对于HTTP 1.1,在速度上有着绝对的优势。虽然REST也可以基于HTTP 2.0进行数据传输,但是为了兼容HTTP 1.1方式,导致其没有充分利用HTTP 2.0的优势。
- 几乎所有的浏览器都支持REST,而支持gRPC的浏览器非常有限。这是REST相对于gRPC的主要优势。
- REST使用JSON或XML编码格式承载数据,而gRPC默认使用ProtoBuf(Protocol Buffers)编码格式承载数据。ProtoBuf是二进制的,是以二进制数据进行传输,而JSON或XML编码格式以文本形式传输,所以在传输速率上gRPC更具有优势。
- REST不提供内置代码生成功能,需要使用Swagger等工具生成API请求代码。而gRPC具有protoc编译器,具有代码生成功能,而且protoc编译器与多种编程语言兼容。
gRPC的工作原理
1.gRPC协议架构
gRPC是一种用于实现RPC API的技术。由于gRPC是开源框架,通信双方都基于该框架进行二次开发,从而使得通信双方聚焦在业务,无需关注由gRPC软件框架实现的底层通信。如下图,DATA部分即为业务层面内容,DATA下面所有的信息由gRPC进行封装。
2.gRPC支持的操作
设备在网络架构里支持Dial-in和Dial-out两种对接模式。
Dial-in模式:设备作为gRPC服务器,采集器作为gRPC客户端。由采集器主动向设备发起gRPC连接并获取需要采集的数据信息或下发配置。Dial-in模式适用于小规模网络和采集器需要向设备下发配置的场景。
Dial-in模式支持以下操作:
- Subscribe操作:高速采集设备的接口流量统计、CPU和内存等数据信息。当前仅支持基于Telemetry技术的Subscribe操作。
- Get操作:获取设备运行状态和运行配置。当前仅支持基于gNMI(gRPC Network Management Interface)规范的Get操作。
- Capabilities操作:获取设备能力数据。当前仅支持基于gNMI规范的Capabilities操作。
- Set操作:向设备下发配置。当前仅支持基于gNMI规范的Set操作。
Dial-out模式:设备作为gRPC客户端,采集器作为gRPC服务器。设备主动和采集器建立gRPC连接,将设备上配置的订阅数据推送给采集器。Dial-out模式适用于网络设备较多的情况下,由设备主动向采集器提供设备数据信息。Dial-out模式只支持基于Telemetry技术的Subscribe操作。
3.gRPC交互过程
如下图,gRPC采用客户端和服务器模型,以网络设备为gRPC客户端,采集器为gRPC服务器为例,说明gRPC的交互过程:
- 设备在开启gRPC功能后作为gRPC客户端,采集器作为gRPC服务器。
- 设备会根据应用服务(如订阅的事件)构建对应数据的格式(GPB/JSON),通过ProtoBuf(Protocol Buffers)编写Proto文件。然后,设备与采集器建立gRPC通道,通过gRPC协议向采集器发送请求消息。
- 采集器收到请求消息后,会通过ProtoBuf解译Proto文件,还原出事先定义好的数据结构,进行业务处理。
- 采集器处理完数据后,需要使用ProtoBuf重新编译应答数据,通过gRPC协议向设备发送应答消息。
- 设备收到应答消息后,结束本次的gRPC交互。
简单地说,设备主动和采集器建立gRPC连接,将设备上配置的订阅数据推送给采集器。在整个gRPC交互的过程中,设备和采集器都需要使用ProtoBuf来定义Proto文件。
4.gRPC的应用
gRPC支持通过Telemetry技术实现订阅功能(Subscribe操作)。Telemetry是一项远程的从物理设备或虚拟设备上高速采集数据的技术。设备通过推模式(Push Mode)周期性地主动向采集器上送设备的接口流量统计、CPU和内存数据等信息。
如下图所示,网络设备和网络管理系统建立gRPC连接后,网络管理系统可以订阅设备上指定模块的数据信息。Telemetry有动态订阅和静态订阅两种方式,动态订阅基于Dial-in模式建立,静态订阅基于Dial-out模式建立。
Telemetry的实现流程:
1.用户定义Telemetry静态订阅或Telemetry动态订阅。
- Telemetry静态订阅:在huawei-grpc-dialout.proto文件中定义。
- Telemetry动态订阅:在huawei-grpc-dialin.proto文件中定义。
2.用户将采集到的信息通过GPB或JSON格式进行编码,在huawei-telemetry.proto文件里定义采样路径、采样时间戳等重要信息。
- GPB编码时,huawei-telemetry.proto文件中的encoding字段为Encoding_GPB(值为0),data_gpb字段承载GPB编码格式的采样数据,data_str字段为空。
- JSON编码时,huawei-telemetry.proto文件中的encoding字段为Encoding_JSON(值为1),data_str字段承载JSON编码格式的采样数据,data_gpb字段为空。
3.设备传输数据到采集器,解码数据并分析结果。
- huawei-telemetry.proto文件中data_gpb字段内容需要相应的业务proto文件进行解码,由huawei-telemetry.proto文件中的sensor_path字段标识对应哪个具体的业务proto文件,例如,当sensor_path取值为huawei-ifm:ifm/interfaces/interface时,其数据结构定义在huawei-ifm.proto文件中。
- 当采用纯JSON编码格式时(编码层和数据模型层均为JSON编码格式),用户只需要对huawei-grpc-dialout.proto文件或huawei-grpc-dialin.proto文件进行解码。当采用混合JSON编码格式时(编码层为GPB编码格式,数据模型层为JSON编码格式),用户只需要对huawei-grpc-dialout.proto文件或huawei-grpc-dialin.proto文件和huawei-telemetry.proto文件进行解码,不需要相应的业务proto文件。
什么是gRPC ProtoBuf
gRPC ProtoBuf是gRPC协议的接口描述语言,是一种与语言无关、平台无关、扩展性好的用于通信协议、数据存储的序列化结构数据格式。gRPC ProtoBuf编码格式也称为GPB(Google Protocol Buffers)编码格式。GPB提供了一种灵活、高效、自动序列化结构数据的机制。GPB与XML、JSON编码类似,也是一种编码方式,但不同的是,它是一种二进制编码,性能好,效率高。
目前,GPB包括v2和v3两个版本,设备当前支持的GPB版本是v3。
GPB在gRPC的框架中主要有三个作用:
- 定义数据结构
- 定义服务接口
- 通过序列化和反序列化提升传输效率
什么是Proto文件
gRPC协议用GPB编码格式承载数据,GPB编码格式的文件名后缀为.proto,即为Proto文件。
GPB通过“.proto”文件描述编码使用的字典,即数据结构描述。采集器可以利用Protoc等工具软件根据“.proto”文件自动生成代码(例如java代码),然后用户基于自动生成的代码进行二次开发对获取到的数据进行解析,从而实现与设备的数据对接。
Proto文件包含公共Proto文件和业务数据Proto文件。
公共Proto文件
Telemetry提供3个公共的proto文件,支持数据上送和订阅功能:
- huawei-grpc-dialout.proto文件:定义了设备作为gRPC客户端对外推送数据。
- huawei-grpc-dialin.proto文件:定义了设备作为gRPC服务端对外推送数据。
- huawei-telemetry.proto文件:定义了Telemetry采样数据上送时的数据头,包括采样路径,采样时间戳等重要信息。
业务数据Proto文件
设备提供多个业务数据Proto文件,用于定义具体业务数据的GPB编码,采集器侧需要根据实际要监控的业务选择对应的proto文件。
一个简单的Proto文件示例
Telemetry静态订阅功能:设备作为gRPC客户端,采集器作为gRPC服务端,由设备主动发起到采集器的连接,进行数据采集上送。
相关推荐
- 十分钟让你学会LNMP架构负载均衡(impala负载均衡)
-
业务架构、应用架构、数据架构和技术架构一、几个基本概念1、pv值pv值(pageviews):页面的浏览量概念:一个网站的所有页面,在一天内,被浏览的总次数。(大型网站通常是上千万的级别)2、u...
- AGV仓储机器人调度系统架构(agv物流机器人)
-
系统架构层次划分采用分层模块化设计,分为以下五层:1.1用户接口层功能:提供人机交互界面(Web/桌面端),支持任务下发、实时监控、数据可视化和报警管理。模块:任务管理面板:接收订单(如拣货、...
- 远程热部署在美团的落地实践(远程热点是什么意思)
-
Sonic是美团内部研发设计的一款用于热部署的IDEA插件,本文其实现原理及落地的一些技术细节。在阅读本文之前,建议大家先熟悉一下Spring源码、SpringMVC源码、SpringBoot...
- springboot搭建xxl-job(分布式任务调度系统)
-
一、部署xxl-job服务端下载xxl-job源码:https://gitee.com/xuxueli0323/xxl-job二、导入项目、创建xxl_job数据库、修改配置文件为自己的数据库三、启动...
- 大模型:使用vLLM和Ray分布式部署推理应用
-
一、vLLM:面向大模型的高效推理框架1.核心特点专为推理优化:专注于大模型(如GPT-3、LLaMA)的高吞吐量、低延迟推理。关键技术:PagedAttention:类似操作系统内存分页管理,将K...
- 国产开源之光【分布式工作流调度系统】:DolphinScheduler
-
DolphinScheduler是一个开源的分布式工作流调度系统,旨在帮助用户以可靠、高效和可扩展的方式管理和调度大规模的数据处理工作流。它支持以图形化方式定义和管理工作流,提供了丰富的调度功能和监控...
- 简单可靠高效的分布式任务队列系统
-
#记录我的2024#大家好,又见面了,我是GitHub精选君!背景介绍在系统访问量逐渐增大,高并发、分布式系统成为了企业技术架构升级的必由之路。在这样的背景下,异步任务队列扮演着至关重要的角色,...
- 虚拟服务器之间如何分布式运行?(虚拟服务器部署)
-
在云计算和虚拟化技术快速发展的今天,传统“单机单任务”的服务器架构早已难以满足现代业务对高并发、高可用、弹性伸缩和容错容灾的严苛要求。分布式系统应运而生,并成为支撑各类互联网平台、企业信息系统和A...
- 一文掌握 XXL-Job 的 6 大核心组件
-
XXL-Job是一个分布式任务调度平台,其核心组件主要包括以下部分,各组件相互协作实现高效的任务调度与管理:1.调度注册中心(RegistryCenter)作用:负责管理调度器(Schedule...
- 京东大佬问我,SpringBoot中如何做延迟队列?单机与分布式如何做?
-
京东大佬问我,SpringBoot中如何做延迟队列?单机如何做?分布式如何做呢?并给出案例与代码分析。嗯,用户问的是在SpringBoot中如何实现延迟队列,单机和分布式环境下分别怎么做。这个问题其实...
- 企业级项目组件选型(一)分布式任务调度平台
-
官网地址:https://www.xuxueli.com/xxl-job/能力介绍架构图安全性为提升系统安全性,调度中心和执行器进行安全性校验,双方AccessToken匹配才允许通讯;调度中心和执...
- python多进程的分布式任务调度应用场景及示例
-
多进程的分布式任务调度可以应用于以下场景:分布式爬虫:importmultiprocessingimportrequestsdefcrawl(url):response=re...
- SpringBoot整合ElasticJob实现分布式任务调度
-
介绍ElasticJob是面向互联网生态和海量任务的分布式调度解决方案,由两个相互独立的子项目ElasticJob-Lite和ElasticJob-Cloud组成。它通过弹性调度、资源管控、...
- 分布式可视化 DAG 任务调度系统 Taier 的整体流程分析
-
Taier作为袋鼠云的开源项目之一,是一个分布式可视化的DAG任务调度系统。旨在降低ETL开发成本,提高大数据平台稳定性,让大数据开发人员可以在Taier直接进行业务逻辑的开发,而不用关...
- SpringBoot任务调度:@Scheduled与TaskExecutor全面解析
-
一、任务调度基础概念1.1什么是任务调度任务调度是指按照预定的时间计划或特定条件自动执行任务的过程。在现代应用开发中,任务调度扮演着至关重要的角色,它使得开发者能够自动化处理周期性任务、定时任务和异...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- MVC框架 (46)
- spring框架 (46)
- 框架图 (58)
- flask框架 (53)
- quartz框架 (51)
- abp框架 (47)
- jpa框架 (47)
- laravel框架 (46)
- springmvc框架 (49)
- 分布式事务框架 (65)
- scrapy框架 (56)
- shiro框架 (61)
- 定时任务框架 (56)
- java日志框架 (61)
- JAVA集合框架 (47)
- grpc框架 (55)
- ppt框架 (48)
- 内联框架 (52)
- winform框架 (46)
- gui框架 (44)
- cad怎么画框架 (58)
- ps怎么画框架 (47)
- ssm框架实现登录注册 (49)
- oracle字符串长度 (48)
- oracle提交事务 (47)