You are viewing a plain text version of this content. The canonical link for it is here.
Posted to user-zh@flink.apache.org by Jun Zou <ni...@gmail.com> on 2021/06/04 08:01:49 UTC

flink 1.11 application模式 使用 k8s时如何指定拉起的taskmanager数目

Hi,all:
  我使用flink 1.11.2 的application模式在k8s上提交作业,作业申请的tm数目和期望的不一致。

作业调用DataStream接口注册kafka source和HDFS
sink,中间操作使用sql,sql逻辑是map-only,kafka的分区数目为4
首先,我在yarn上提交同样类型的作业,指定如下参数:

> taskmanager.numberOfTaskSlots:1
>
 parallelism.default:4

产生了4个taskmanager

而在k8s上配置了如下参数:

> taskmanager.numberOfTaskSlots:1
>
parallelism.default:4

kubernetes.taskmanager.cpu:1

却只申请了一个taskmanager。

另外,我使用TopSpeedWindowing这个example,在k8s上提交jar作业能拉起正确的taskmanager数目