You are viewing a plain text version of this content. The canonical link for it is here.
Posted to user-zh@flink.apache.org by milan183sansiro <mi...@126.com> on 2020/07/06 11:55:13 UTC

Flink从SavePoint启动任务，修改的代码不生效

各位好：
        背景：Flink版本1.6.4，数据源为Kafka的主题A，B，消费者组相同
        操作步骤：1.使用SavePoint取消任务。
        2.修改代码将B去掉，只消费A主题。
        3.从SavePoint启动任务，发现消费者组在B主题下的偏移量也回到了任务停止时的偏移量，之后偏移量马上变成了最新并继续消费。
        想知道为什么修改代码不生效。

回复： Flink从SavePoint启动任务，修改的代码不生效

Posted by milan183sansiro <mi...@126.com>.
好的，感谢。


在2020年7月7日 10:28，Paul Lam<pa...@gmail.com> 写道：
估计你是用同一个 Kafka Source 消费 A B 两个 Topic? 如果是，看起来像是 Kafka Connector 早期的一个问题。

作业停止的时候，Topic B 的 partition offset 被存储到 Savepoint 中，然后在恢复的时候，尽管代码中 Topic B 已经被移除，但它的 partition offset 还是被恢复了。

这个问题在后来的版本，估计是 1.8 或 1.9，被修复了。

Best,
Paul Lam

2020年7月6日 20:55，milan183sansiro <mi...@126.com> 写道：

你好：
1.没有给算子手动设置id
2.设置savepoint恢复的路径是正确的


在2020年7月6日 20:32，wujunxi<46...@qq.com> 写道：
你好，确认以下两个点
1.是否给每个算子设置了id
2.设置savepoint恢复的路径是否正确



------------------&nbsp;原始邮件&nbsp;------------------
发件人:&nbsp;"milan183sansiro"<milan183sansiro@126.com&gt;;
发送时间:&nbsp;2020年7月6日(星期一) 晚上7:55
收件人:&nbsp;"user-zh"<user-zh@flink.apache.org&gt;;

主题:&nbsp;Flink从SavePoint启动任务，修改的代码不生效



各位好：
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 背景：Flink版本1.6.4，数据源为Kafka的主题A，B，消费者组相同
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 操作步骤：1.使用SavePoint取消任务。
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 2.修改代码将B去掉，只消费A主题。
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 3.从SavePoint启动任务，发现消费者组在B主题下的偏移量也回到了任务停止时的偏移量，之后偏移量马上变成了最新并继续消费。
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 想知道为什么修改代码不生效。

Re: Flink从SavePoint启动任务，修改的代码不生效

Posted by Paul Lam <pa...@gmail.com>.
估计你是用同一个 Kafka Source 消费 A B 两个 Topic? 如果是，看起来像是 Kafka Connector 早期的一个问题。

作业停止的时候，Topic B 的 partition offset 被存储到 Savepoint 中，然后在恢复的时候，尽管代码中 Topic B 已经被移除，但它的 partition offset 还是被恢复了。

这个问题在后来的版本，估计是 1.8 或 1.9，被修复了。

Best,
Paul Lam

> 2020年7月6日 20:55，milan183sansiro <mi...@126.com> 写道：
> 
> 你好：
>    1.没有给算子手动设置id
>    2.设置savepoint恢复的路径是正确的
> 
> 
> 在2020年7月6日 20:32，wujunxi<46...@qq.com> 写道：
> 你好，确认以下两个点
> 1.是否给每个算子设置了id
> 2.设置savepoint恢复的路径是否正确
> 
> 
> 
> ------------------&nbsp;原始邮件&nbsp;------------------
> 发件人:&nbsp;"milan183sansiro"<milan183sansiro@126.com&gt;;
> 发送时间:&nbsp;2020年7月6日(星期一) 晚上7:55
> 收件人:&nbsp;"user-zh"<user-zh@flink.apache.org&gt;;
> 
> 主题:&nbsp;Flink从SavePoint启动任务，修改的代码不生效
> 
> 
> 
> 各位好：
> &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 背景：Flink版本1.6.4，数据源为Kafka的主题A，B，消费者组相同
> &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 操作步骤：1.使用SavePoint取消任务。
> &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 2.修改代码将B去掉，只消费A主题。
> &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 3.从SavePoint启动任务，发现消费者组在B主题下的偏移量也回到了任务停止时的偏移量，之后偏移量马上变成了最新并继续消费。
> &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 想知道为什么修改代码不生效。

回复：Flink从SavePoint启动任务，修改的代码不生效

Posted by milan183sansiro <mi...@126.com>.
你好：
    1.没有给算子手动设置id
    2.设置savepoint恢复的路径是正确的


在2020年7月6日 20:32，wujunxi<46...@qq.com> 写道：
你好，确认以下两个点
1.是否给每个算子设置了id
2.设置savepoint恢复的路径是否正确



------------------&nbsp;原始邮件&nbsp;------------------
发件人:&nbsp;"milan183sansiro"<milan183sansiro@126.com&gt;;
发送时间:&nbsp;2020年7月6日(星期一) 晚上7:55
收件人:&nbsp;"user-zh"<user-zh@flink.apache.org&gt;;

主题:&nbsp;Flink从SavePoint启动任务，修改的代码不生效



各位好：
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 背景：Flink版本1.6.4，数据源为Kafka的主题A，B，消费者组相同
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 操作步骤：1.使用SavePoint取消任务。
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 2.修改代码将B去掉，只消费A主题。
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 3.从SavePoint启动任务，发现消费者组在B主题下的偏移量也回到了任务停止时的偏移量，之后偏移量马上变成了最新并继续消费。
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 想知道为什么修改代码不生效。

回复：Flink从SavePoint启动任务，修改的代码不生效

Posted by wujunxi <46...@qq.com>.
你好，确认以下两个点
1.是否给每个算子设置了id
2.设置savepoint恢复的路径是否正确



------------------&nbsp;原始邮件&nbsp;------------------
发件人:&nbsp;"milan183sansiro"<milan183sansiro@126.com&gt;;
发送时间:&nbsp;2020年7月6日(星期一) 晚上7:55
收件人:&nbsp;"user-zh"<user-zh@flink.apache.org&gt;;

主题:&nbsp;Flink从SavePoint启动任务，修改的代码不生效



各位好：
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 背景：Flink版本1.6.4，数据源为Kafka的主题A，B，消费者组相同
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 操作步骤：1.使用SavePoint取消任务。
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 2.修改代码将B去掉，只消费A主题。
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 3.从SavePoint启动任务，发现消费者组在B主题下的偏移量也回到了任务停止时的偏移量，之后偏移量马上变成了最新并继续消费。
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 想知道为什么修改代码不生效。