You are viewing a plain text version of this content. The canonical link for it is here.
Posted to user-zh@flink.apache.org by wujunxi <46...@qq.com> on 2020/07/06 12:32:38 UTC
回复:Flink从SavePoint启动任务,修改的代码不生效
你好,确认以下两个点
1.是否给每个算子设置了id
2.设置savepoint恢复的路径是否正确
------------------ 原始邮件 ------------------
发件人: "milan183sansiro"<milan183sansiro@126.com>;
发送时间: 2020年7月6日(星期一) 晚上7:55
收件人: "user-zh"<user-zh@flink.apache.org>;
主题: Flink从SavePoint启动任务,修改的代码不生效
各位好:
背景:Flink版本1.6.4,数据源为Kafka的主题A,B,消费者组相同
操作步骤:1.使用SavePoint取消任务。
2.修改代码将B去掉,只消费A主题。
3.从SavePoint启动任务,发现消费者组在B主题下的偏移量也回到了任务停止时的偏移量,之后偏移量马上变成了最新并继续消费。
想知道为什么修改代码不生效。
回复: Flink从SavePoint启动任务,修改的代码不生效
Posted by milan183sansiro <mi...@126.com>.
好的,感谢。
在2020年7月7日 10:28,Paul Lam<pa...@gmail.com> 写道:
估计你是用同一个 Kafka Source 消费 A B 两个 Topic? 如果是,看起来像是 Kafka Connector 早期的一个问题。
作业停止的时候,Topic B 的 partition offset 被存储到 Savepoint 中,然后在恢复的时候,尽管代码中 Topic B 已经被移除,但它的 partition offset 还是被恢复了。
这个问题在后来的版本,估计是 1.8 或 1.9,被修复了。
Best,
Paul Lam
2020年7月6日 20:55,milan183sansiro <mi...@126.com> 写道:
你好:
1.没有给算子手动设置id
2.设置savepoint恢复的路径是正确的
在2020年7月6日 20:32,wujunxi<46...@qq.com> 写道:
你好,确认以下两个点
1.是否给每个算子设置了id
2.设置savepoint恢复的路径是否正确
------------------ 原始邮件 ------------------
发件人: "milan183sansiro"<milan183sansiro@126.com>;
发送时间: 2020年7月6日(星期一) 晚上7:55
收件人: "user-zh"<user-zh@flink.apache.org>;
主题: Flink从SavePoint启动任务,修改的代码不生效
各位好:
背景:Flink版本1.6.4,数据源为Kafka的主题A,B,消费者组相同
操作步骤:1.使用SavePoint取消任务。
2.修改代码将B去掉,只消费A主题。
3.从SavePoint启动任务,发现消费者组在B主题下的偏移量也回到了任务停止时的偏移量,之后偏移量马上变成了最新并继续消费。
想知道为什么修改代码不生效。
Re: Flink从SavePoint启动任务,修改的代码不生效
Posted by Paul Lam <pa...@gmail.com>.
估计你是用同一个 Kafka Source 消费 A B 两个 Topic? 如果是,看起来像是 Kafka Connector 早期的一个问题。
作业停止的时候,Topic B 的 partition offset 被存储到 Savepoint 中,然后在恢复的时候,尽管代码中 Topic B 已经被移除,但它的 partition offset 还是被恢复了。
这个问题在后来的版本,估计是 1.8 或 1.9,被修复了。
Best,
Paul Lam
> 2020年7月6日 20:55,milan183sansiro <mi...@126.com> 写道:
>
> 你好:
> 1.没有给算子手动设置id
> 2.设置savepoint恢复的路径是正确的
>
>
> 在2020年7月6日 20:32,wujunxi<46...@qq.com> 写道:
> 你好,确认以下两个点
> 1.是否给每个算子设置了id
> 2.设置savepoint恢复的路径是否正确
>
>
>
> ------------------ 原始邮件 ------------------
> 发件人: "milan183sansiro"<milan183sansiro@126.com>;
> 发送时间: 2020年7月6日(星期一) 晚上7:55
> 收件人: "user-zh"<user-zh@flink.apache.org>;
>
> 主题: Flink从SavePoint启动任务,修改的代码不生效
>
>
>
> 各位好:
> 背景:Flink版本1.6.4,数据源为Kafka的主题A,B,消费者组相同
> 操作步骤:1.使用SavePoint取消任务。
> 2.修改代码将B去掉,只消费A主题。
> 3.从SavePoint启动任务,发现消费者组在B主题下的偏移量也回到了任务停止时的偏移量,之后偏移量马上变成了最新并继续消费。
> 想知道为什么修改代码不生效。
回复:Flink从SavePoint启动任务,修改的代码不生效
Posted by milan183sansiro <mi...@126.com>.
你好:
1.没有给算子手动设置id
2.设置savepoint恢复的路径是正确的
在2020年7月6日 20:32,wujunxi<46...@qq.com> 写道:
你好,确认以下两个点
1.是否给每个算子设置了id
2.设置savepoint恢复的路径是否正确
------------------ 原始邮件 ------------------
发件人: "milan183sansiro"<milan183sansiro@126.com>;
发送时间: 2020年7月6日(星期一) 晚上7:55
收件人: "user-zh"<user-zh@flink.apache.org>;
主题: Flink从SavePoint启动任务,修改的代码不生效
各位好:
背景:Flink版本1.6.4,数据源为Kafka的主题A,B,消费者组相同
操作步骤:1.使用SavePoint取消任务。
2.修改代码将B去掉,只消费A主题。
3.从SavePoint启动任务,发现消费者组在B主题下的偏移量也回到了任务停止时的偏移量,之后偏移量马上变成了最新并继续消费。
想知道为什么修改代码不生效。