You are viewing a plain text version of this content. The canonical link for it is here.
Posted to commits@servicecomb.apache.org by GitBox <gi...@apache.org> on 2018/07/16 08:09:51 UTC
[GitHub] liubao68 closed pull request #17: 增加负载均衡功能描述
liubao68 closed pull request #17: 增加负载均衡功能描述
URL: https://github.com/apache/incubator-servicecomb-docs/pull/17
This is a PR merged from a forked repository.
As GitHub hides the original diff on merge, it is displayed below for
the sake of provenance:
As this is a foreign pull request (from a fork), the diff is supplied
below (as it won't show otherwise due to GitHub magic):
diff --git a/java-chassis-reference/zh_CN/SUMMARY.md b/java-chassis-reference/zh_CN/SUMMARY.md
index cd080e4..4a68ad6 100644
--- a/java-chassis-reference/zh_CN/SUMMARY.md
+++ b/java-chassis-reference/zh_CN/SUMMARY.md
@@ -76,5 +76,7 @@
* [Web开发方式开发步骤](using-java-chassis-in-spring-boot/web-application.md)
* [JAVA应用方式和Web开发方式的区别](using-java-chassis-in-spring-boot/diff-between-java-web.md)
* [Spring MVC模式的差异](using-java-chassis-in-spring-boot/diff-spring-mvc.md)
+* [处理链参考](references-handlers/intruduction.md)
+ * [负载均衡](references-handlers/loadbalance.md)
* [常见问题](question-and-answer/question_answer.md)
* [微服务接口兼容常见问题](question-and-answer/interface-compatibility.md)
diff --git a/java-chassis-reference/zh_CN/assets/loadbalance-001.png b/java-chassis-reference/zh_CN/assets/loadbalance-001.png
new file mode 100644
index 0000000..6852bf7
Binary files /dev/null and b/java-chassis-reference/zh_CN/assets/loadbalance-001.png differ
diff --git a/java-chassis-reference/zh_CN/build-provider/definition/isolate-relationship.md b/java-chassis-reference/zh_CN/build-provider/definition/isolate-relationship.md
index 5777c38..375bfca 100644
--- a/java-chassis-reference/zh_CN/build-provider/definition/isolate-relationship.md
+++ b/java-chassis-reference/zh_CN/build-provider/definition/isolate-relationship.md
@@ -8,7 +8,7 @@

-在微服务系统结构中,顶层是“项目”,在项目下分为多个租户,租户中包含多个应用,而每个应用由包含多个环境,即测试和生产环境可以分开。在某个特定应用的特定环境中,包含多个微服务,而一个微服务又可以同时存在多个版本。以上,是所有静态元数据的范畴,某个特定服务的特定版本则包含多个在运行时注册上来的微服务实例,因为服务实例的信息在运行时随着系统的伸缩、故障等原因是动态变化的,所以服务实例的路由信息又为动态数据。通过分层管理微服务的这些数据,也就自然而然的实现了实例之间的逻辑隔离。
+在微服务系统结构中,顶层是“项目”,在项目下分为多个租户,租户中包含多个应用,而每个应用又包含多个环境,即测试和生产环境可以分开。在某个特定应用的特定环境中,包含多个微服务,而一个微服务又可以同时存在多个版本。以上,是所有静态元数据的范畴,某个特定服务的特定版本则包含多个在运行时注册上来的微服务实例,因为服务实例的信息在运行时随着系统的伸缩、故障等原因是动态变化的,所以服务实例的路由信息又为动态数据。通过分层管理微服务的这些数据,也就自然而然的实现了实例之间的逻辑隔离。
# 隔离层次说明
@@ -28,11 +28,10 @@ ServiceComb支持自定义分层配置,满足用户的实例分层管理需求
```
servicecomb:
- loadbalance:
- serverListFilters: zoneaware
- serverListFilter:
- zoneaware:
- className: org.apache.servicecomb.loadbalance.filter.ZoneAwareServerListFilterExt
+ datacenter:
+ name: mydatacenter
+ region: my-Region
+ availableZone: my-Zone
```
这样配置后,客户端在路由的时候,会优先将请求转发到zone/region都相同的实例,然后是region相同,但zone不相同的实例,都不相同的时候,则按照路由规则选择一个。亲和性不是逻辑隔离,只要实例之间网络是联通的,那么都有可能访问到;如果网络不通,则会访问失败。
diff --git a/java-chassis-reference/zh_CN/question-and-answer/interface-compatibility.md b/java-chassis-reference/zh_CN/question-and-answer/interface-compatibility.md
index 8beaf54..2ef0fed 100644
--- a/java-chassis-reference/zh_CN/question-and-answer/interface-compatibility.md
+++ b/java-chassis-reference/zh_CN/question-and-answer/interface-compatibility.md
@@ -9,6 +9,9 @@
3. 作为Consumer,使用Provider的新接口时候,指定Provider的最小版本号。比如:servicecomb.references.\[serviceName\].version-rule=2.1.3+,其中serviceName为Provider的微服务名称。
4. 在服务中心,定期清理不再使用的老版本的微服务信息。
+ServiceComb还有如下一些注意事项:
+1. 修改微服务信息,必须升级版本号,因为服务注册的时候,不会覆盖已经注册的微服务信息。
+
# 接口兼容常见问题及其解决办法
开发阶段,由于存在频繁的接口修改,也不会清理服务中心的数据,容易出现调试的时候接口调用失败的情况。建议开发者可以安装下载一个[服务中心的frontend](http://apache.org/dyn/closer.cgi/incubator/servicecomb/incubator-servicecomb-service-center/1.0.0-m1/), 可以随时清理服务中心数据。
@@ -34,7 +37,3 @@
可能是Provider增加了接口,但是没有更新版本号。需要删除微服务数据或者更新版本号后重新启动Provider,并重启Consumer。
-
-*
-
-
diff --git a/java-chassis-reference/zh_CN/references-handlers/intruduction.md b/java-chassis-reference/zh_CN/references-handlers/intruduction.md
new file mode 100644
index 0000000..3d99502
--- /dev/null
+++ b/java-chassis-reference/zh_CN/references-handlers/intruduction.md
@@ -0,0 +1,8 @@
+处理链(Handlers)是ServiceComb的核心组成部分,它们构成服务运行管控的基础。ServiceComb通过处理链来处理负载均衡、熔断容错、流量控制等。
+
+## 开发处理链
+开发者自定义处理链包含如下几个步骤。由于ServiceComb的核心组成就是处理链,开发者可以参考handlers目录的实现详细了解处理链。下面简单总结下几个关键步骤:
+
+* 实现Handler接口
+* 增加*.handler.xml文件,给Handler取一个名字
+* 在microservice.yaml中启用新增加的处理链
diff --git a/java-chassis-reference/zh_CN/references-handlers/loadbalance.md b/java-chassis-reference/zh_CN/references-handlers/loadbalance.md
new file mode 100644
index 0000000..98d676d
--- /dev/null
+++ b/java-chassis-reference/zh_CN/references-handlers/loadbalance.md
@@ -0,0 +1,140 @@
+# 负载均衡
+
+## 场景描述
+
+ServiceComb提供了非常强大的负载均衡能力。它的核心包括两部分,第一部分是DiscoveryTree,通过将微服务实例根据接口兼容性、数据中心、实例状态等分组,DiscoveryFilter是其主要组成部分;第二部分是基于Ribbon的负载均衡方案,支持随机、顺序、基于响应时间的权值等多种负载均衡路由策略IRule,以及可以支持Invocation状态的ServerListFilterExt。
+
+DiscoveryTree的逻辑比较复杂,可以通过下面的处理流程了解其处理过程。
+
+
+负载均衡适用于Consumer处理链,名称为loadbalance,示例如下:
+```
+servicecomb:
+ handler:
+ chain:
+ Consumer:
+ default: loadbalance
+```
+
+## 按照数据中心信息进行路由转发
+服务提供者和消费者都可以通过在microservice.yaml中声明自己的服务中心信息:
+```yaml
+servicecomb:
+ datacenter:
+ name: mydatacenter
+ region: my-Region
+ availableZone: my-Zone
+```
+
+消费者通过比较自己的数据中心信息和提供者的信息,优先将请求转发到region和availableZone都相同的实例;如果不存在,则转发到region相同的实例;如果仍然不存在,则转发到其他实例。
+
+这里的region和availableZone是一般性的概念,用户可以自行确定其业务含义以便应用于资源隔离的场景中。可以参见[微服务实例之间的逻辑隔离关系](/build-provider/definition/isolate-relationship.md),了解更多其他实例发现相关的隔离机制。
+
+该规则默认启用,如果不需要使用,可以通过servicecomb.loadbalance.filter.zoneaware.enabled进行关闭。数据中心信息隔离功能在ZoneAwareDiscoveryFilter实现。
+
+## 根据实例属性进行路由转发
+微服务可以指定实例的属性。实例属性可以在microservice.yaml中指定,也可以通过服务中心的API进行修改。
+```
+instance_description:
+ properties:
+ tag: mytag
+```
+
+消费者可以指定消费具备某些属性的实例,不访问其他实例
+```
+servicecomb:
+ loadbalance:
+ myservice:
+ transactionControl:
+ options:
+ tag: mytag
+```
+上面的配置表示只访问myservice所有实例中tag属性为mytag的实例。
+
+该规则需要给每个服务单独配置,为配置表示不启用该规则,不支持对于所有服务的全局配置。
+
+该规则默认启用,如果不需要使用,可以通过servicecomb.loadbalance.filter.instanceProperty.enabled进行关闭。根据实例属性进行路由转发功能在InstancePropertyDiscoveryFilter实现。
+
+## 实例隔离功能
+开发者可以配置实例隔离的参数,以暂时屏蔽对于错误实例的访问,提升系统可靠性和性能。下面是其配置项和缺省值
+```
+servicecomb:
+ loadbalance:
+ isolation:
+ enabled: true
+ errorThresholdPercentage: 20
+ enableRequestThreshold: 5
+ singleTestTime: 60000
+ continuousFailureThreshold: 2
+```
+
+隔离的统计周期是1分钟。按照上面的配置,在1分钟内,如果请求总数大于5,并且[1]错误率大于20%或者[2]连续错误超过2次,那么就会将实例隔离。实例隔离的时间是60秒,60秒后会尝试启用实例(还需要根据负载均衡策略确定是否选中)。
+
+开发者可以针对不同的微服务配置不一样的隔离策略。只需要给配置项增加服务名,例如:
+```
+servicecomb:
+ loadbalance:
+ myservice:
+ isolation:
+ enabled: true
+ errorThresholdPercentage: 20
+ enableRequestThreshold: 5
+ singleTestTime: 10000
+ continuousFailureThreshold: 2
+```
+
+该规则默认启用,如果不需要使用,可以通过servicecomb.loadbalance.filter.isolation.enabled进行关闭。数据中心信息隔离功能在IsolationDiscoveryFilter实现。
+
+## 配置路由规则
+开发者可以通过配置项指定负载均衡策略。
+```
+servicecomb:
+ loadbalance:
+ strategy:
+ name: RoundRobin # Support RoundRobin,Random,WeightedResponse,SessionStickiness
+```
+
+开发者可以针对不同的微服务配置不一样的策略,只需要给配置项增加服务名,例如:
+```
+servicecomb:
+ loadbalance:
+ myservice:
+ strategy:
+ name: RoundRobin # Support RoundRobin,Random,WeightedResponse,SessionStickiness
+```
+
+每种策略还有一些专属配置项,也支持针对不同微服务进行配置。
+
+* SessionStickiness
+
+```
+servicecomb:
+ loadbalance:
+ SessionStickinessRule:
+ sessionTimeoutInSeconds: 30 # 客户端闲置时间,超过限制后选择后面的服务器
+ successiveFailedTimes: 5 # 客户端失败次数,超过后会切换服务器
+```
+
+## 设置重试策略
+负载均衡模块还支持配置失败重试的策略。
+```
+servicecomb:
+ loadbalance:
+ retryEnabled: false
+ retryOnNext: 0
+ retryOnSame: 0
+```
+缺省情况未启用重试。同时也支持对不同的服务设置特殊的策略:
+```
+servicecomb:
+ loadbalance:
+ myservice:
+ retryEnabled: true
+ retryOnNext: 1
+ retryOnSame: 0
+```
+
+retryOnNext表示失败以后,根据负载均衡策略,重新选择一个实例重试(可能选择到同一个实例)。 retryOnSame表示仍然使用上次失败的实例进行重试。
+
+## 自定义
+负载均衡模块提供的功能已经非常强大,能够通过配置支持大部分应用场景。同时它也提供了强大的扩展能力,包括DiscoveryFilter、ServerListFilterExt、ExtensionsFactory(扩展IRule,RetryHandler等)。loadbalance模块本身包含了每一个扩展的实现,这里不再详细描述如何扩展。开发者可以自行下载ServiceComb源码进行参考。
----------------------------------------------------------------
This is an automated message from the Apache Git Service.
To respond to the message, please log on GitHub and use the
URL above to go to the specific comment.
For queries about this service, please contact Infrastructure at:
users@infra.apache.org
With regards,
Apache Git Services