You are viewing a plain text version of this content. The canonical link for it is here.
Posted to user-zh@flink.apache.org by kingdomad <ki...@163.com> on 2020/11/11 09:14:41 UTC
1.11版本的yarn-session如何指定taskmanager数量
我发现1.11版本的yarn-session.sh废弃了-n参数，那如何指定taskmanager数量？
--
kingdomad
Re: Re:1.11版本的yarn-session如何指定taskmanager数量
Posted by Xintong Song <to...@gmail.com>.
Flink on Yarn 废除了 `-n` 参数后，不再支持指定固定数量的 TM。Flink 会根据作业的并行度，按需向 Yarn
申请资源。所以你说的没错，session 模式下提交新的 job 时 flink 会向 yarn 申请更多的资源。
如果想要限制 session 使用的总资源、可以接受资源不足时后提交的 job 可能无法运行需要等待的话，可以配置
`slotmanager.number-of-slots.max`（默认是 Integer.MAX_VALUE）来限制总的 slot 数量。
如果不想 job 运行结束后 tm 很快被释放、下次提交作业又需要等待 tm 启动时间的话，可以配置
`resourcemanager.taskmanager-timeout`（默认 30s）调大 tm 因空闲而被释放的时间。
Thank you~
Xintong Song
On Wed, Nov 11, 2020 at 11:18 PM kingdomad <ki...@163.com> wrote:
> flink on yarn使用第一种方式yarn session，先创建一个yarn session，然后再提交job到这个session中。
> 您的意思是这个session所申请的资源会根据我后续提交的job的并发度去动态地无限地扩展？
> 如果我提交了一个并发度为10的job a到这个session，那这个session申请10个slot对应的资源，
> 我再提交一个并发度为10的job b到这个session，这个session再申请10个slot对应的资源？
> job需要多少并发度，session通通都向yarn去申请吗？
>
>
>
>
>
>
>
>
>
>
>
>
>
>
>
> --
>
> kingdomad
>
>
>
>
>
>
>
> 在 2020-11-11 17:17:16，"hailongwang" <18...@163.com> 写道：
> >根据你 Job 的并发和指定的 TM 的规格来计算出 TM 的数量。
> >
> >
> >在 2020-11-11 16:14:41，"kingdomad" <ki...@163.com> 写道：
> >>我发现1.11版本的yarn-session.sh <http://1.xn--11yarn-session-w353ad99itbp.sh>
> 废弃了-n参数，那如何指定taskmanager数量？
> >>
> >>
> >>
> >>
> >>
> >>
> >>
> >>
> >>
> >>
> >>
> >>
> >>
> >>--
> >>
> >>kingdomad
> >>
>
Re:Re:1.11版本的yarn-session如何指定taskmanager数量
Posted by kingdomad <ki...@163.com>.
flink on yarn使用第一种方式yarn session，先创建一个yarn session，然后再提交job到这个session中。
您的意思是这个session所申请的资源会根据我后续提交的job的并发度去动态地无限地扩展？
如果我提交了一个并发度为10的job a到这个session，那这个session申请10个slot对应的资源，
我再提交一个并发度为10的job b到这个session，这个session再申请10个slot对应的资源？
job需要多少并发度，session通通都向yarn去申请吗？
--
kingdomad
在 2020-11-11 17:17:16，"hailongwang" <18...@163.com> 写道：
>根据你 Job 的并发和指定的 TM 的规格来计算出 TM 的数量。
>
>
>在 2020-11-11 16:14:41，"kingdomad" <ki...@163.com> 写道：
>>我发现1.11版本的yarn-session.sh废弃了-n参数，那如何指定taskmanager数量？
>>
>>
>>
>>
>>
>>
>>
>>
>>
>>
>>
>>
>>
>>--
>>
>>kingdomad
>>
Re:1.11版本的yarn-session如何指定taskmanager数量
Posted by hailongwang <18...@163.com>.
根据你 Job 的并发和指定的 TM 的规格来计算出 TM 的数量。
在 2020-11-11 16:14:41，"kingdomad" <ki...@163.com> 写道：
>我发现1.11版本的yarn-session.sh废弃了-n参数，那如何指定taskmanager数量？
>
>
>
>
>
>
>
>
>
>
>
>
>
>--
>
>kingdomad
>
Re:1.11版本的yarn-session如何指定taskmanager数量
Posted by jiangjiguang719 <ji...@163.com>.
根据 -p 最大并行度 和-ys 每个TM的slot个数来计算
在 2020-11-11 17:14:41，"kingdomad" <ki...@163.com> 写道：
>我发现1.11版本的yarn-session.sh废弃了-n参数，那如何指定taskmanager数量？
>
>
>
>
>
>
>
>
>
>
>
>
>
>--
>
>kingdomad
>