You are viewing a plain text version of this content. The canonical link for it is here.
Posted to commits@dubbo.apache.org by li...@apache.org on 2022/06/09 03:37:30 UTC
[dubbo-awesome] branch master updated: update proposal, service discovery
This is an automated email from the ASF dual-hosted git repository.
liujun pushed a commit to branch master
in repository https://gitbox.apache.org/repos/asf/dubbo-awesome.git
The following commit(s) were added to refs/heads/master by this push:
new 344a70f update proposal, service discovery
344a70f is described below
commit 344a70fd381a30c6f6fd54a8845c37e0830885d0
Author: chickenlj <ke...@gmail.com>
AuthorDate: Thu Jun 9 11:37:04 2022 +0800
update proposal, service discovery
---
images/discovery/app-data1.png | Bin 0 -> 204913 bytes
images/discovery/app-data2.png | Bin 0 -> 130271 bytes
images/discovery/app-metadataservice.png | Bin 0 -> 231738 bytes
images/discovery/app-principle.png | Bin 0 -> 126727 bytes
images/discovery/app-workflow.png | Bin 0 -> 204353 bytes
images/discovery/arc.png | Bin 0 -> 222550 bytes
images/discovery/interface-data1.png | Bin 0 -> 172324 bytes
images/discovery/interface-data2.png | Bin 0 -> 149858 bytes
images/discovery/interface-defect.png | Bin 0 -> 160076 bytes
.../D1-application-level-service-discovery.md | 80 +++++++++++++++++++++
10 files changed, 80 insertions(+)
diff --git a/images/discovery/app-data1.png b/images/discovery/app-data1.png
new file mode 100644
index 0000000..24b6939
Binary files /dev/null and b/images/discovery/app-data1.png differ
diff --git a/images/discovery/app-data2.png b/images/discovery/app-data2.png
new file mode 100644
index 0000000..692ff64
Binary files /dev/null and b/images/discovery/app-data2.png differ
diff --git a/images/discovery/app-metadataservice.png b/images/discovery/app-metadataservice.png
new file mode 100644
index 0000000..6c64f3e
Binary files /dev/null and b/images/discovery/app-metadataservice.png differ
diff --git a/images/discovery/app-principle.png b/images/discovery/app-principle.png
new file mode 100644
index 0000000..17280c6
Binary files /dev/null and b/images/discovery/app-principle.png differ
diff --git a/images/discovery/app-workflow.png b/images/discovery/app-workflow.png
new file mode 100644
index 0000000..293b426
Binary files /dev/null and b/images/discovery/app-workflow.png differ
diff --git a/images/discovery/arc.png b/images/discovery/arc.png
new file mode 100644
index 0000000..c7869f3
Binary files /dev/null and b/images/discovery/arc.png differ
diff --git a/images/discovery/interface-data1.png b/images/discovery/interface-data1.png
new file mode 100644
index 0000000..c322c52
Binary files /dev/null and b/images/discovery/interface-data1.png differ
diff --git a/images/discovery/interface-data2.png b/images/discovery/interface-data2.png
new file mode 100644
index 0000000..68d30e8
Binary files /dev/null and b/images/discovery/interface-data2.png differ
diff --git a/images/discovery/interface-defect.png b/images/discovery/interface-defect.png
new file mode 100644
index 0000000..9600a6b
Binary files /dev/null and b/images/discovery/interface-defect.png differ
diff --git a/proposals/D1-application-level-service-discovery.md b/proposals/D1-application-level-service-discovery.md
index e69de29..d2d0911 100644
--- a/proposals/D1-application-level-service-discovery.md
+++ b/proposals/D1-application-level-service-discovery.md
@@ -0,0 +1,80 @@
+# D1 - Service Discovery
+* Authors: Jun Liu
+
+## Objective
+* 显著降低服务发现过程的资源消耗，包括提升注册中心容量上限、降低消费端地址解析资源占用等，使得 Dubbo3 框架能够支持更大规模集群的服务治理，实现无限水平扩容。
+* 适配底层基础设施服务发现模型，如 Kubernetes、Service Mesh 等。
+
+## Background
+
+
+我们从 Dubbo 最经典的工作原理图说起，Dubbo 从设计之初就内置了服务地址发现的能力，Provider 注册地址到注册中心，Consumer 通过订阅实时获取注册中心的地址更新，在收到地址列表后，consumer 基于特定的负载均衡策略发起对 provider 的 RPC 调用。
+
+在这个过程中：
+* 每个 Provider 通过特定的 key 向注册中心注册本机可访问地址；
+* 注册中心通过这个 key 对 provider 实例地址进行聚合；
+* Consumer 通过同样的 key 从注册中心订阅，以便及时收到聚合后的地址列表；
+
+
+
+这里，我们对接口级地址发现的内部数据结构进行详细分析。
+
+首先，看右下角 provider 实例内部的数据与行为。Provider 部署的应用中通常会有多个 Service，也就是 Dubbo2 中的服务，每个 service 都可能会有其独有的配置，我们所讲的 service 服务发布的过程，其实就是基于这个服务配置生成地址 URL 的过程，生成的地址数据如图所示；同样的，其他服务也都会生成地址。
+
+然后，看一下注册中心的地址数据存储结构，注册中心以 service 服务名为数据划分依据，将一个服务下的所有地址数据都作为子节点进行聚合，子节点的内容就是实际可访问的ip地址，也就是我们 Dubbo 中 URL，格式就是刚才 provider 实例生成的。
+
+
+
+这里把 URL 地址数据划分成了几份：
+* 首先是实例可访问地址，主要信息包含 ip port，是消费端将基于这条数据生成 tcp 网络链接，作为后续 RPC 数据的传输载体
+* 其次是 RPC 元数据，元数据用于定义和描述一次 RPC 请求，一方面表明这条地址数据是与某条具体的 RPC 服务有关的，它的版本号、分组以及方法相关信息，另一方面表明
+* 下一部分是 RPC 配置数据，部分配置用于控制 RPC 调用的行为，还有一部分配置用于同步 Provider 进程实例的状态，典型的如超时时间、数据编码的序列化方式等。
+* 最后一部分是自定义的元数据，这部分内容区别于以上框架预定义的各项配置，给了用户更大的灵活性，用户可任意扩展并添加自定义元数据，以进一步丰富实例状态。
+
+结合以上两页对于 Dubbo2 接口级地址模型的分析，以及最开始的 Dubbo 基本原理图，我们可以得出这么几条结论：
+* 第一，地址发现聚合的 key 就是 RPC 粒度的服务
+* 第二，注册中心同步的数据不止包含地址，还包含了各种元数据以及配置
+* 得益于 1 与 2，Dubbo 实现了支持应用、RPC 服务、方法粒度的服务治理能力
+
+这就是一直以来 Dubbo2 在易用性、服务治理功能性、可扩展性上强于很多服务框架的真正原因。
+
+
+
+一个事物总是有其两面性，Dubbo2 地址模型带来易用性和强大功能的同时，也给整个架构的水平可扩展性带来了一些限制。这个问题在普通规模的微服务集群下是完全感知不到的，而随着集群规模的增长，当整个集群内应用、机器达到一定数量时，整个集群内的各个组件才开始遇到规模瓶颈。在总结包括阿里巴巴、工商银行等多个典型的用户在生产环境特点后，我们总结出以下两点突出问题（如图中红色所示）：
+* 首先，注册中心集群容量达到上限阈值。由于所有的 URL 地址数据都被发送到注册中心，注册中心的存储容量达到上限，推送效率也随之下降。
+* 而在消费端这一侧，Dubbo2 框架常驻内存已超 40%，每次地址推送带来的 cpu 等资源消耗率也非常高，影响正常的业务调用。
+
+为什么会出现这个问题？我们以一个具体 provider 示例进行展开，来尝试说明为何应用在接口级地址模型下容易遇到容量问题。
+青蓝色部分，假设这里有一个普通的 Dubbo Provider 应用，该应用内部定义有 10 个 RPC Service，应用被部署在 100 个机器实例上。这个应用在集群中产生的数据量将会是 “Service 数 * 机器实例数”，也就是 10 * 100 = 1000 条。数据被从两个维度放大：
+* 从地址角度。100 条唯一的实例地址，被放大 10 倍
+* 从服务角度。10 条唯一的服务元数据，被放大 100 倍
+
+## Proposal
+
+[app-principle](../images/discovery/app-principle.png)
+
+面对这个问题，在 Dubbo3 架构下，我们不得不重新思考两个问题：
+* 如何在保留易用性、功能性的同时，重新组织 URL 地址数据，避免冗余数据的出现，让 Dubbo3 能支撑更大规模集群水平扩容？
+* 如何在地址发现层面与其他的微服务体系如 Kubernetes、Spring Cloud 打通？
+
+[app-data1](../images/discovery/app-data1.png)
+
+Dubbo3 的应用级服务发现方案设计本质上就是围绕以上两个问题展开。其基本思路是：地址发现链路上的聚合元素也就是我们之前提到的 Key 由服务调整为应用，这也是其名称叫做应用级服务发现的由来；另外，通过注册中心同步的数据内容上做了大幅精简，只保留最核心的 ip、port 地址数据。
+
+[app-data2](../images/discovery/app-data2.png)
+
+这是升级之后应用级地址发现的内部数据结构进行详细分析。
+对比之前接口级的地址发现模型，我们主要关注橙色部分的变化。首先，在 provider 实例这一侧，相比于之前每个 RPC Service 注册一条地址数据，一个 provider 实例只会注册一条地址到注册中心；而在注册中心这一侧，地址以应用名为粒度做聚合，应用名节点下是精简过后的 provider 实例地址；
+
+[app-metadataservice](../images/discovery/app-metadataservice.png)
+
+应用级服务发现的上述调整，同时实现了地址单条数据大小和总数量的下降，但同时也带来了新的挑战：我们之前 Dubbo2 强调的易用性和功能性的基础损失了，因为元数据的传输被精简掉了，如何精细的控制单个服务的行为变得无法实现。
+
+针对这个问题，Dubbo3 的解法是引入一个内置的 MetadataService 元数据服务，由中心化推送转为 Consumer 到 Provider 的点对点拉取，在这个模式下，元数据传输的数据量将不在是一个问题，因此可以在元数据中扩展出更多的参数、暴露更多的治理数据。
+
+[app-metadataservice](../images/discovery/app-workflow.png)
+
+这里我们个重点看消费端 Consumer 的地址订阅行为，消费端从分两步读取地址数据，首先是从注册中心收到精简后的地址，随后通过调用 MetadataService 元数据服务，读取对端的元数据信息。在收到这两部分数据之后，消费端会完成地址数据的聚合，最终在运行态还原出类似 Dubbo2 的 URL 地址格式。因此从最终结果而言，应用级地址模型同时兼顾了地址传输层面的性能与运行层面的功能性。
+
+以上就是的应用级服务发现背景、工作原理部分的所有内容，接下来我们看一下饿了么升级到 Dubbo3 尤其是应用级服务发现的过程。
+