You are viewing a plain text version of this content. The canonical link for it is here.
Posted to user-zh@flink.apache.org by lishiyuan0506 <li...@163.com> on 2022/07/14 01:41:11 UTC
Retrying connect to server: 0.0.0.0/0.0.0.0:8030
打扰大家一下，请问一下各位在yarn提交flink的时候，有没有遇到过Retrying connect to server: 0.0.0.0/0.0.0.0:8030这个异常
hadoop的classpath没问题，Spark和MR在Yarn上跑也没问题，就flink有这样的问题
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
Posted by lishiyuan0506 <li...@163.com>.
您好，这个图片好像发不出去，我添加到附件里
---- Replied Message ----
| From | lishiyuan0506<li...@163.com> |
| Date | 07/14/2022 17:21 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
您好，感谢回复，这是rm相关配置，rm设的是ha
非常感谢您的回复
---- Replied Message ----
| From | JasonLee<17...@163.com> |
| Date | 07/14/2022 17:17 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
Hi
仔细看了一下日志，感觉还是 yarn 的配置问题，可以看下 yarn.resourcemanager.scheduler.address 配置的什么吗？在 client 端连接 RM 的时候打印的日志是 2022-07-14 15:10:48,109 INFO org.apache.hadoop.yarn.client.RMProxy [] - Connecting to ResourceManager at /0.0.0.0:8030 这里的地址是不对的，正常应该是 yarn.resourcemanager.scheduler.address:8030 但是日志里面是 0.0.0.0:8030。
Best
JasonLee
---- Replied Message ----
| From | lishiyuan0506<li...@163.com> |
| Date | 07/14/2022 16:52 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hi
是的，这个是运行参数
/opt/flink-1.13.3/bin/flink run \
-t yarn-per-job \
-Dyarn.application.name=test_wordcount \
-Dparallelism.default=1 \
-Dtaskmanager.numberOfTaskSlots=1 \
-Djobmanager.memory.process.size=1024mb \
-Dtaskmanager.memory.process.size=2048mb \
/opt/flink-1.13.3/examples/streaming/WordCount.jar
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | JasonLee<17...@163.com> |
| Date | 07/14/2022 16:47 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
Hi
这个是直接运行的 examples 里面的 demo 程序吗？
Best
JasonLee
---- Replied Message ----
| From | lishiyuan0506<li...@163.com> |
| Date | 07/14/2022 16:25 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
感谢感谢，可以看的，我添加到附件给您发过去
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | JasonLee<17...@163.com> |
| Date | 07/14/2022 16:15 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
Hi
可以用 yarn logs -applicationId xxx 看下日志吗？
Best
JasonLee
---- Replied Message ----
| From | lishiyuan0506<li...@163.com> |
| Date | 07/14/2022 15:43 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hello，根据您的思路，我查看了所有的yarn-site.xml，没有发现配置出错的地方，Spark和MR的运行都正常，感觉不是yarn的问题
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | Biao Geng<bi...@gmail.com> |
| Date | 07/14/2022 15:37 |
| To | <us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hi
根据你发的描述，是Flink的job manager在非RM所在机器上启动时，由于尝试连接0.0.0.0:8030
端口去向YARN申请资源时连接不通，导致失败。你可以检查下集群内worker节点的hadoop配置，看看yarn.resourcemanager.hostname等配置是否设置正确。
Best，
Biao Geng
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 15:17写道：
您好，我之前做了一些尝试：
1. 测试Spark、MR任务正常
2. 将生产环境的Flink和官网干净的Flink安装后测试example，出现同样的问题
3.
尝试在`/opt/flink-1.13.3/bin/config.sh`中配置`DEFAULT_YARN_CONF_DIR="/opt/hadoop-3.1.4/etc/hadoop/"`，测试example出现同样的问题，说明Flink已经成功加载了`yarn-site.xml`
4.尝试在`/opt/flink-1.13.3/bin/config.sh`中配置`export
HADOOP_CONF_DIR=/opt/hadoop-3.1.4/etc/hadoop`，`export
HADOOP_CLASSPATH=`hadoop classpath`测试example出现同样的问题
目前无论是yarn还是flink都找不出来出现了什么问题，手足无措了
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | Biao Geng<bi...@gmail.com> |
| Date | 07/14/2022 14:31 |
| To | <us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hi,
你提到跑wordcount.jar时，当作业被调度到RM所在的机器上可以正常运行，调度到非RM所在的机器上就失败。flink环境干净的话，那大概率还是hadoop的环境设置有问题。
有几个可以检查的地方：
1. 运行flink run之前或者在flink的bin/config.sh里是否有正确设置hadoop环境变量，例如 export
HADOOP_CLASSPATH=`hadoop classpath`
2.
集群内机器(比如非RM所在机器)的HADOOP_CONF_DIR是否设置正确，其指向的目录里的yarn-site.xml的yarn.resourcemanager.hostname等配置是否设置正确
Best,
Biao Geng
Biao Geng <bi...@gmail.com> 于2022年7月14日周四 11:32写道：
hi,
你有试过提交flink
example(比如wordcount作业)吗？如果报了一样的错误的话，可以检查一下你的flink/lib目录下是否有放多余的YARN配置(比如运行grep
-irn "0.0.0.0" $FLINK_HOME)；如果example可以成功提交，可以看看是不是你的作业jar里打进了错误的YARN配置。
Best,
Biao Geng
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 11:06写道：
您好，环境变量里面有，而且flink的conf.sh也设置了
lishiyuan0506
lishiyuan0506@163.com
<
https://maas.mail.163.com/dashi-web-extend/html/proSignature.html?ftlId=1&name=lishiyuan0506&uid=lishiyuan0506%40163.com&iconUrl=https%3A%2F%2Fmail-online.nosdn.127.net%2Fqiyelogo%2FdefaultAvatar.png&items=%5B%22lishiyuan0506%40163.com%22%5D
---- Replied Message ----
From Yang Wang<da...@gmail.com> <da...@gmail.com>
Date 07/14/2022 11:00
To user-zh<us...@flink.apache.org> <us...@flink.apache.org>
Subject Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
确认一下你是否正确设置了HADOOP_CONF_DIR环境变量
Best,
Yang
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 09:41写道：
打扰大家一下，请问一下各位在yarn提交flink的时候，有没有遇到过Retrying connect to server:
0.0.0.0/0.0.0.0:8030这个异常
hadoop的classpath没问题，Spark和MR在Yarn上跑也没问题，就flink有这样的问题
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
Posted by lishiyuan0506 <li...@163.com>.
您好，感谢回复，这是rm相关配置，rm设的是ha
非常感谢您的回复
---- Replied Message ----
| From | JasonLee<17...@163.com> |
| Date | 07/14/2022 17:17 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
Hi
仔细看了一下日志，感觉还是 yarn 的配置问题，可以看下 yarn.resourcemanager.scheduler.address 配置的什么吗？在 client 端连接 RM 的时候打印的日志是 2022-07-14 15:10:48,109 INFO org.apache.hadoop.yarn.client.RMProxy [] - Connecting to ResourceManager at /0.0.0.0:8030 这里的地址是不对的，正常应该是 yarn.resourcemanager.scheduler.address:8030 但是日志里面是 0.0.0.0:8030。
Best
JasonLee
---- Replied Message ----
| From | lishiyuan0506<li...@163.com> |
| Date | 07/14/2022 16:52 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hi
是的，这个是运行参数
/opt/flink-1.13.3/bin/flink run \
-t yarn-per-job \
-Dyarn.application.name=test_wordcount \
-Dparallelism.default=1 \
-Dtaskmanager.numberOfTaskSlots=1 \
-Djobmanager.memory.process.size=1024mb \
-Dtaskmanager.memory.process.size=2048mb \
/opt/flink-1.13.3/examples/streaming/WordCount.jar
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | JasonLee<17...@163.com> |
| Date | 07/14/2022 16:47 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
Hi
这个是直接运行的 examples 里面的 demo 程序吗？
Best
JasonLee
---- Replied Message ----
| From | lishiyuan0506<li...@163.com> |
| Date | 07/14/2022 16:25 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
感谢感谢，可以看的，我添加到附件给您发过去
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | JasonLee<17...@163.com> |
| Date | 07/14/2022 16:15 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
Hi
可以用 yarn logs -applicationId xxx 看下日志吗？
Best
JasonLee
---- Replied Message ----
| From | lishiyuan0506<li...@163.com> |
| Date | 07/14/2022 15:43 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hello，根据您的思路，我查看了所有的yarn-site.xml，没有发现配置出错的地方，Spark和MR的运行都正常，感觉不是yarn的问题
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | Biao Geng<bi...@gmail.com> |
| Date | 07/14/2022 15:37 |
| To | <us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hi
根据你发的描述，是Flink的job manager在非RM所在机器上启动时，由于尝试连接0.0.0.0:8030
端口去向YARN申请资源时连接不通，导致失败。你可以检查下集群内worker节点的hadoop配置，看看yarn.resourcemanager.hostname等配置是否设置正确。
Best，
Biao Geng
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 15:17写道：
您好，我之前做了一些尝试：
1. 测试Spark、MR任务正常
2. 将生产环境的Flink和官网干净的Flink安装后测试example，出现同样的问题
3.
尝试在`/opt/flink-1.13.3/bin/config.sh`中配置`DEFAULT_YARN_CONF_DIR="/opt/hadoop-3.1.4/etc/hadoop/"`，测试example出现同样的问题，说明Flink已经成功加载了`yarn-site.xml`
4.尝试在`/opt/flink-1.13.3/bin/config.sh`中配置`export
HADOOP_CONF_DIR=/opt/hadoop-3.1.4/etc/hadoop`，`export
HADOOP_CLASSPATH=`hadoop classpath`测试example出现同样的问题
目前无论是yarn还是flink都找不出来出现了什么问题，手足无措了
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | Biao Geng<bi...@gmail.com> |
| Date | 07/14/2022 14:31 |
| To | <us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hi,
你提到跑wordcount.jar时，当作业被调度到RM所在的机器上可以正常运行，调度到非RM所在的机器上就失败。flink环境干净的话，那大概率还是hadoop的环境设置有问题。
有几个可以检查的地方：
1. 运行flink run之前或者在flink的bin/config.sh里是否有正确设置hadoop环境变量，例如 export
HADOOP_CLASSPATH=`hadoop classpath`
2.
集群内机器(比如非RM所在机器)的HADOOP_CONF_DIR是否设置正确，其指向的目录里的yarn-site.xml的yarn.resourcemanager.hostname等配置是否设置正确
Best,
Biao Geng
Biao Geng <bi...@gmail.com> 于2022年7月14日周四 11:32写道：
hi,
你有试过提交flink
example(比如wordcount作业)吗？如果报了一样的错误的话，可以检查一下你的flink/lib目录下是否有放多余的YARN配置(比如运行grep
-irn "0.0.0.0" $FLINK_HOME)；如果example可以成功提交，可以看看是不是你的作业jar里打进了错误的YARN配置。
Best,
Biao Geng
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 11:06写道：
您好，环境变量里面有，而且flink的conf.sh也设置了
lishiyuan0506
lishiyuan0506@163.com
<
https://maas.mail.163.com/dashi-web-extend/html/proSignature.html?ftlId=1&name=lishiyuan0506&uid=lishiyuan0506%40163.com&iconUrl=https%3A%2F%2Fmail-online.nosdn.127.net%2Fqiyelogo%2FdefaultAvatar.png&items=%5B%22lishiyuan0506%40163.com%22%5D
---- Replied Message ----
From Yang Wang<da...@gmail.com> <da...@gmail.com>
Date 07/14/2022 11:00
To user-zh<us...@flink.apache.org> <us...@flink.apache.org>
Subject Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
确认一下你是否正确设置了HADOOP_CONF_DIR环境变量
Best,
Yang
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 09:41写道：
打扰大家一下，请问一下各位在yarn提交flink的时候，有没有遇到过Retrying connect to server:
0.0.0.0/0.0.0.0:8030这个异常
hadoop的classpath没问题，Spark和MR在Yarn上跑也没问题，就flink有这样的问题
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
Posted by JasonLee <17...@163.com>.
Hi
仔细看了一下日志，感觉还是 yarn 的配置问题，可以看下 yarn.resourcemanager.scheduler.address 配置的什么吗？在 client 端连接 RM 的时候打印的日志是 2022-07-14 15:10:48,109 INFO org.apache.hadoop.yarn.client.RMProxy [] - Connecting to ResourceManager at /0.0.0.0:8030 这里的地址是不对的，正常应该是 yarn.resourcemanager.scheduler.address:8030 但是日志里面是 0.0.0.0:8030。
Best
JasonLee
---- Replied Message ----
| From | lishiyuan0506<li...@163.com> |
| Date | 07/14/2022 16:52 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hi
是的，这个是运行参数
/opt/flink-1.13.3/bin/flink run \
-t yarn-per-job \
-Dyarn.application.name=test_wordcount \
-Dparallelism.default=1 \
-Dtaskmanager.numberOfTaskSlots=1 \
-Djobmanager.memory.process.size=1024mb \
-Dtaskmanager.memory.process.size=2048mb \
/opt/flink-1.13.3/examples/streaming/WordCount.jar
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | JasonLee<17...@163.com> |
| Date | 07/14/2022 16:47 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
Hi
这个是直接运行的 examples 里面的 demo 程序吗？
Best
JasonLee
---- Replied Message ----
| From | lishiyuan0506<li...@163.com> |
| Date | 07/14/2022 16:25 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
感谢感谢，可以看的，我添加到附件给您发过去
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | JasonLee<17...@163.com> |
| Date | 07/14/2022 16:15 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
Hi
可以用 yarn logs -applicationId xxx 看下日志吗？
Best
JasonLee
---- Replied Message ----
| From | lishiyuan0506<li...@163.com> |
| Date | 07/14/2022 15:43 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hello，根据您的思路，我查看了所有的yarn-site.xml，没有发现配置出错的地方，Spark和MR的运行都正常，感觉不是yarn的问题
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | Biao Geng<bi...@gmail.com> |
| Date | 07/14/2022 15:37 |
| To | <us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hi
根据你发的描述，是Flink的job manager在非RM所在机器上启动时，由于尝试连接0.0.0.0:8030
端口去向YARN申请资源时连接不通，导致失败。你可以检查下集群内worker节点的hadoop配置，看看yarn.resourcemanager.hostname等配置是否设置正确。
Best，
Biao Geng
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 15:17写道：
您好，我之前做了一些尝试：
1. 测试Spark、MR任务正常
2. 将生产环境的Flink和官网干净的Flink安装后测试example，出现同样的问题
3.
尝试在`/opt/flink-1.13.3/bin/config.sh`中配置`DEFAULT_YARN_CONF_DIR="/opt/hadoop-3.1.4/etc/hadoop/"`，测试example出现同样的问题，说明Flink已经成功加载了`yarn-site.xml`
4.尝试在`/opt/flink-1.13.3/bin/config.sh`中配置`export
HADOOP_CONF_DIR=/opt/hadoop-3.1.4/etc/hadoop`，`export
HADOOP_CLASSPATH=`hadoop classpath`测试example出现同样的问题
目前无论是yarn还是flink都找不出来出现了什么问题，手足无措了
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | Biao Geng<bi...@gmail.com> |
| Date | 07/14/2022 14:31 |
| To | <us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hi,
你提到跑wordcount.jar时，当作业被调度到RM所在的机器上可以正常运行，调度到非RM所在的机器上就失败。flink环境干净的话，那大概率还是hadoop的环境设置有问题。
有几个可以检查的地方：
1. 运行flink run之前或者在flink的bin/config.sh里是否有正确设置hadoop环境变量，例如 export
HADOOP_CLASSPATH=`hadoop classpath`
2.
集群内机器(比如非RM所在机器)的HADOOP_CONF_DIR是否设置正确，其指向的目录里的yarn-site.xml的yarn.resourcemanager.hostname等配置是否设置正确
Best,
Biao Geng
Biao Geng <bi...@gmail.com> 于2022年7月14日周四 11:32写道：
hi,
你有试过提交flink
example(比如wordcount作业)吗？如果报了一样的错误的话，可以检查一下你的flink/lib目录下是否有放多余的YARN配置(比如运行grep
-irn "0.0.0.0" $FLINK_HOME)；如果example可以成功提交，可以看看是不是你的作业jar里打进了错误的YARN配置。
Best,
Biao Geng
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 11:06写道：
您好，环境变量里面有，而且flink的conf.sh也设置了
lishiyuan0506
lishiyuan0506@163.com
<
https://maas.mail.163.com/dashi-web-extend/html/proSignature.html?ftlId=1&name=lishiyuan0506&uid=lishiyuan0506%40163.com&iconUrl=https%3A%2F%2Fmail-online.nosdn.127.net%2Fqiyelogo%2FdefaultAvatar.png&items=%5B%22lishiyuan0506%40163.com%22%5D
---- Replied Message ----
From Yang Wang<da...@gmail.com> <da...@gmail.com>
Date 07/14/2022 11:00
To user-zh<us...@flink.apache.org> <us...@flink.apache.org>
Subject Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
确认一下你是否正确设置了HADOOP_CONF_DIR环境变量
Best,
Yang
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 09:41写道：
打扰大家一下，请问一下各位在yarn提交flink的时候，有没有遇到过Retrying connect to server:
0.0.0.0/0.0.0.0:8030这个异常
hadoop的classpath没问题，Spark和MR在Yarn上跑也没问题，就flink有这样的问题
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
Posted by lishiyuan0506 <li...@163.com>.
hi
是的，这个是运行参数
/opt/flink-1.13.3/bin/flink run \
-t yarn-per-job \
-Dyarn.application.name=test_wordcount \
-Dparallelism.default=1 \
-Dtaskmanager.numberOfTaskSlots=1 \
-Djobmanager.memory.process.size=1024mb \
-Dtaskmanager.memory.process.size=2048mb \
/opt/flink-1.13.3/examples/streaming/WordCount.jar
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | JasonLee<17...@163.com> |
| Date | 07/14/2022 16:47 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
Hi
这个是直接运行的 examples 里面的 demo 程序吗？
Best
JasonLee
---- Replied Message ----
| From | lishiyuan0506<li...@163.com> |
| Date | 07/14/2022 16:25 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
感谢感谢，可以看的，我添加到附件给您发过去
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | JasonLee<17...@163.com> |
| Date | 07/14/2022 16:15 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
Hi
可以用 yarn logs -applicationId xxx 看下日志吗？
Best
JasonLee
---- Replied Message ----
| From | lishiyuan0506<li...@163.com> |
| Date | 07/14/2022 15:43 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hello，根据您的思路，我查看了所有的yarn-site.xml，没有发现配置出错的地方，Spark和MR的运行都正常，感觉不是yarn的问题
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | Biao Geng<bi...@gmail.com> |
| Date | 07/14/2022 15:37 |
| To | <us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hi
根据你发的描述，是Flink的job manager在非RM所在机器上启动时，由于尝试连接0.0.0.0:8030
端口去向YARN申请资源时连接不通，导致失败。你可以检查下集群内worker节点的hadoop配置，看看yarn.resourcemanager.hostname等配置是否设置正确。
Best，
Biao Geng
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 15:17写道：
您好，我之前做了一些尝试：
1. 测试Spark、MR任务正常
2. 将生产环境的Flink和官网干净的Flink安装后测试example，出现同样的问题
3.
尝试在`/opt/flink-1.13.3/bin/config.sh`中配置`DEFAULT_YARN_CONF_DIR="/opt/hadoop-3.1.4/etc/hadoop/"`，测试example出现同样的问题，说明Flink已经成功加载了`yarn-site.xml`
4.尝试在`/opt/flink-1.13.3/bin/config.sh`中配置`export
HADOOP_CONF_DIR=/opt/hadoop-3.1.4/etc/hadoop`，`export
HADOOP_CLASSPATH=`hadoop classpath`测试example出现同样的问题
目前无论是yarn还是flink都找不出来出现了什么问题，手足无措了
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | Biao Geng<bi...@gmail.com> |
| Date | 07/14/2022 14:31 |
| To | <us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hi,
你提到跑wordcount.jar时，当作业被调度到RM所在的机器上可以正常运行，调度到非RM所在的机器上就失败。flink环境干净的话，那大概率还是hadoop的环境设置有问题。
有几个可以检查的地方：
1. 运行flink run之前或者在flink的bin/config.sh里是否有正确设置hadoop环境变量，例如 export
HADOOP_CLASSPATH=`hadoop classpath`
2.
集群内机器(比如非RM所在机器)的HADOOP_CONF_DIR是否设置正确，其指向的目录里的yarn-site.xml的yarn.resourcemanager.hostname等配置是否设置正确
Best,
Biao Geng
Biao Geng <bi...@gmail.com> 于2022年7月14日周四 11:32写道：
hi,
你有试过提交flink
example(比如wordcount作业)吗？如果报了一样的错误的话，可以检查一下你的flink/lib目录下是否有放多余的YARN配置(比如运行grep
-irn "0.0.0.0" $FLINK_HOME)；如果example可以成功提交，可以看看是不是你的作业jar里打进了错误的YARN配置。
Best,
Biao Geng
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 11:06写道：
您好，环境变量里面有，而且flink的conf.sh也设置了
lishiyuan0506
lishiyuan0506@163.com
<
https://maas.mail.163.com/dashi-web-extend/html/proSignature.html?ftlId=1&name=lishiyuan0506&uid=lishiyuan0506%40163.com&iconUrl=https%3A%2F%2Fmail-online.nosdn.127.net%2Fqiyelogo%2FdefaultAvatar.png&items=%5B%22lishiyuan0506%40163.com%22%5D
---- Replied Message ----
From Yang Wang<da...@gmail.com> <da...@gmail.com>
Date 07/14/2022 11:00
To user-zh<us...@flink.apache.org> <us...@flink.apache.org>
Subject Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
确认一下你是否正确设置了HADOOP_CONF_DIR环境变量
Best,
Yang
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 09:41写道：
打扰大家一下，请问一下各位在yarn提交flink的时候，有没有遇到过Retrying connect to server:
0.0.0.0/0.0.0.0:8030这个异常
hadoop的classpath没问题，Spark和MR在Yarn上跑也没问题，就flink有这样的问题
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
Posted by JasonLee <17...@163.com>.
Hi
这个是直接运行的 examples 里面的 demo 程序吗？
Best
JasonLee
---- Replied Message ----
| From | lishiyuan0506<li...@163.com> |
| Date | 07/14/2022 16:25 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
感谢感谢，可以看的，我添加到附件给您发过去
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | JasonLee<17...@163.com> |
| Date | 07/14/2022 16:15 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
Hi
可以用 yarn logs -applicationId xxx 看下日志吗？
Best
JasonLee
---- Replied Message ----
| From | lishiyuan0506<li...@163.com> |
| Date | 07/14/2022 15:43 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hello，根据您的思路，我查看了所有的yarn-site.xml，没有发现配置出错的地方，Spark和MR的运行都正常，感觉不是yarn的问题
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | Biao Geng<bi...@gmail.com> |
| Date | 07/14/2022 15:37 |
| To | <us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hi
根据你发的描述，是Flink的job manager在非RM所在机器上启动时，由于尝试连接0.0.0.0:8030
端口去向YARN申请资源时连接不通，导致失败。你可以检查下集群内worker节点的hadoop配置，看看yarn.resourcemanager.hostname等配置是否设置正确。
Best，
Biao Geng
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 15:17写道：
您好，我之前做了一些尝试：
1. 测试Spark、MR任务正常
2. 将生产环境的Flink和官网干净的Flink安装后测试example，出现同样的问题
3.
尝试在`/opt/flink-1.13.3/bin/config.sh`中配置`DEFAULT_YARN_CONF_DIR="/opt/hadoop-3.1.4/etc/hadoop/"`，测试example出现同样的问题，说明Flink已经成功加载了`yarn-site.xml`
4.尝试在`/opt/flink-1.13.3/bin/config.sh`中配置`export
HADOOP_CONF_DIR=/opt/hadoop-3.1.4/etc/hadoop`，`export
HADOOP_CLASSPATH=`hadoop classpath`测试example出现同样的问题
目前无论是yarn还是flink都找不出来出现了什么问题，手足无措了
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | Biao Geng<bi...@gmail.com> |
| Date | 07/14/2022 14:31 |
| To | <us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hi,
你提到跑wordcount.jar时，当作业被调度到RM所在的机器上可以正常运行，调度到非RM所在的机器上就失败。flink环境干净的话，那大概率还是hadoop的环境设置有问题。
有几个可以检查的地方：
1. 运行flink run之前或者在flink的bin/config.sh里是否有正确设置hadoop环境变量，例如 export
HADOOP_CLASSPATH=`hadoop classpath`
2.
集群内机器(比如非RM所在机器)的HADOOP_CONF_DIR是否设置正确，其指向的目录里的yarn-site.xml的yarn.resourcemanager.hostname等配置是否设置正确
Best,
Biao Geng
Biao Geng <bi...@gmail.com> 于2022年7月14日周四 11:32写道：
hi,
你有试过提交flink
example(比如wordcount作业)吗？如果报了一样的错误的话，可以检查一下你的flink/lib目录下是否有放多余的YARN配置(比如运行grep
-irn "0.0.0.0" $FLINK_HOME)；如果example可以成功提交，可以看看是不是你的作业jar里打进了错误的YARN配置。
Best,
Biao Geng
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 11:06写道：
您好，环境变量里面有，而且flink的conf.sh也设置了
lishiyuan0506
lishiyuan0506@163.com
<
https://maas.mail.163.com/dashi-web-extend/html/proSignature.html?ftlId=1&name=lishiyuan0506&uid=lishiyuan0506%40163.com&iconUrl=https%3A%2F%2Fmail-online.nosdn.127.net%2Fqiyelogo%2FdefaultAvatar.png&items=%5B%22lishiyuan0506%40163.com%22%5D
---- Replied Message ----
From Yang Wang<da...@gmail.com> <da...@gmail.com>
Date 07/14/2022 11:00
To user-zh<us...@flink.apache.org> <us...@flink.apache.org>
Subject Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
确认一下你是否正确设置了HADOOP_CONF_DIR环境变量
Best,
Yang
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 09:41写道：
打扰大家一下，请问一下各位在yarn提交flink的时候，有没有遇到过Retrying connect to server:
0.0.0.0/0.0.0.0:8030这个异常
hadoop的classpath没问题，Spark和MR在Yarn上跑也没问题，就flink有这样的问题
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
Posted by lishiyuan0506 <li...@163.com>.
感谢感谢，可以看的，我添加到附件给您发过去
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | JasonLee<17...@163.com> |
| Date | 07/14/2022 16:15 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
Hi
可以用 yarn logs -applicationId xxx 看下日志吗？
Best
JasonLee
---- Replied Message ----
| From | lishiyuan0506<li...@163.com> |
| Date | 07/14/2022 15:43 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hello，根据您的思路，我查看了所有的yarn-site.xml，没有发现配置出错的地方，Spark和MR的运行都正常，感觉不是yarn的问题
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | Biao Geng<bi...@gmail.com> |
| Date | 07/14/2022 15:37 |
| To | <us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hi
根据你发的描述，是Flink的job manager在非RM所在机器上启动时，由于尝试连接0.0.0.0:8030
端口去向YARN申请资源时连接不通，导致失败。你可以检查下集群内worker节点的hadoop配置，看看yarn.resourcemanager.hostname等配置是否设置正确。
Best，
Biao Geng
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 15:17写道：
您好，我之前做了一些尝试：
1. 测试Spark、MR任务正常
2. 将生产环境的Flink和官网干净的Flink安装后测试example，出现同样的问题
3.
尝试在`/opt/flink-1.13.3/bin/config.sh`中配置`DEFAULT_YARN_CONF_DIR="/opt/hadoop-3.1.4/etc/hadoop/"`，测试example出现同样的问题，说明Flink已经成功加载了`yarn-site.xml`
4.尝试在`/opt/flink-1.13.3/bin/config.sh`中配置`export
HADOOP_CONF_DIR=/opt/hadoop-3.1.4/etc/hadoop`，`export
HADOOP_CLASSPATH=`hadoop classpath`测试example出现同样的问题
目前无论是yarn还是flink都找不出来出现了什么问题，手足无措了
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | Biao Geng<bi...@gmail.com> |
| Date | 07/14/2022 14:31 |
| To | <us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hi,
你提到跑wordcount.jar时，当作业被调度到RM所在的机器上可以正常运行，调度到非RM所在的机器上就失败。flink环境干净的话，那大概率还是hadoop的环境设置有问题。
有几个可以检查的地方：
1. 运行flink run之前或者在flink的bin/config.sh里是否有正确设置hadoop环境变量，例如 export
HADOOP_CLASSPATH=`hadoop classpath`
2.
集群内机器(比如非RM所在机器)的HADOOP_CONF_DIR是否设置正确，其指向的目录里的yarn-site.xml的yarn.resourcemanager.hostname等配置是否设置正确
Best,
Biao Geng
Biao Geng <bi...@gmail.com> 于2022年7月14日周四 11:32写道：
hi,
你有试过提交flink
example(比如wordcount作业)吗？如果报了一样的错误的话，可以检查一下你的flink/lib目录下是否有放多余的YARN配置(比如运行grep
-irn "0.0.0.0" $FLINK_HOME)；如果example可以成功提交，可以看看是不是你的作业jar里打进了错误的YARN配置。
Best,
Biao Geng
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 11:06写道：
您好，环境变量里面有，而且flink的conf.sh也设置了
lishiyuan0506
lishiyuan0506@163.com
<
https://maas.mail.163.com/dashi-web-extend/html/proSignature.html?ftlId=1&name=lishiyuan0506&uid=lishiyuan0506%40163.com&iconUrl=https%3A%2F%2Fmail-online.nosdn.127.net%2Fqiyelogo%2FdefaultAvatar.png&items=%5B%22lishiyuan0506%40163.com%22%5D
---- Replied Message ----
From Yang Wang<da...@gmail.com> <da...@gmail.com>
Date 07/14/2022 11:00
To user-zh<us...@flink.apache.org> <us...@flink.apache.org>
Subject Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
确认一下你是否正确设置了HADOOP_CONF_DIR环境变量
Best,
Yang
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 09:41写道：
打扰大家一下，请问一下各位在yarn提交flink的时候，有没有遇到过Retrying connect to server:
0.0.0.0/0.0.0.0:8030这个异常
hadoop的classpath没问题，Spark和MR在Yarn上跑也没问题，就flink有这样的问题
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
Posted by JasonLee <17...@163.com>.
Hi
可以用 yarn logs -applicationId xxx 看下日志吗？
Best
JasonLee
---- Replied Message ----
| From | lishiyuan0506<li...@163.com> |
| Date | 07/14/2022 15:43 |
| To | user-zh@flink.apache.org<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hello，根据您的思路，我查看了所有的yarn-site.xml，没有发现配置出错的地方，Spark和MR的运行都正常，感觉不是yarn的问题
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | Biao Geng<bi...@gmail.com> |
| Date | 07/14/2022 15:37 |
| To | <us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hi
根据你发的描述，是Flink的job manager在非RM所在机器上启动时，由于尝试连接0.0.0.0:8030
端口去向YARN申请资源时连接不通，导致失败。你可以检查下集群内worker节点的hadoop配置，看看yarn.resourcemanager.hostname等配置是否设置正确。
Best，
Biao Geng
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 15:17写道：
您好，我之前做了一些尝试：
1. 测试Spark、MR任务正常
2. 将生产环境的Flink和官网干净的Flink安装后测试example，出现同样的问题
3.
尝试在`/opt/flink-1.13.3/bin/config.sh`中配置`DEFAULT_YARN_CONF_DIR="/opt/hadoop-3.1.4/etc/hadoop/"`，测试example出现同样的问题，说明Flink已经成功加载了`yarn-site.xml`
4.尝试在`/opt/flink-1.13.3/bin/config.sh`中配置`export
HADOOP_CONF_DIR=/opt/hadoop-3.1.4/etc/hadoop`，`export
HADOOP_CLASSPATH=`hadoop classpath`测试example出现同样的问题
目前无论是yarn还是flink都找不出来出现了什么问题，手足无措了
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | Biao Geng<bi...@gmail.com> |
| Date | 07/14/2022 14:31 |
| To | <us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hi,
你提到跑wordcount.jar时，当作业被调度到RM所在的机器上可以正常运行，调度到非RM所在的机器上就失败。flink环境干净的话，那大概率还是hadoop的环境设置有问题。
有几个可以检查的地方：
1. 运行flink run之前或者在flink的bin/config.sh里是否有正确设置hadoop环境变量，例如 export
HADOOP_CLASSPATH=`hadoop classpath`
2.
集群内机器(比如非RM所在机器)的HADOOP_CONF_DIR是否设置正确，其指向的目录里的yarn-site.xml的yarn.resourcemanager.hostname等配置是否设置正确
Best,
Biao Geng
Biao Geng <bi...@gmail.com> 于2022年7月14日周四 11:32写道：
hi,
你有试过提交flink
example(比如wordcount作业)吗？如果报了一样的错误的话，可以检查一下你的flink/lib目录下是否有放多余的YARN配置(比如运行grep
-irn "0.0.0.0" $FLINK_HOME)；如果example可以成功提交，可以看看是不是你的作业jar里打进了错误的YARN配置。
Best,
Biao Geng
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 11:06写道：
您好，环境变量里面有，而且flink的conf.sh也设置了
lishiyuan0506
lishiyuan0506@163.com
<
https://maas.mail.163.com/dashi-web-extend/html/proSignature.html?ftlId=1&name=lishiyuan0506&uid=lishiyuan0506%40163.com&iconUrl=https%3A%2F%2Fmail-online.nosdn.127.net%2Fqiyelogo%2FdefaultAvatar.png&items=%5B%22lishiyuan0506%40163.com%22%5D
---- Replied Message ----
From Yang Wang<da...@gmail.com> <da...@gmail.com>
Date 07/14/2022 11:00
To user-zh<us...@flink.apache.org> <us...@flink.apache.org>
Subject Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
确认一下你是否正确设置了HADOOP_CONF_DIR环境变量
Best,
Yang
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 09:41写道：
打扰大家一下，请问一下各位在yarn提交flink的时候，有没有遇到过Retrying connect to server:
0.0.0.0/0.0.0.0:8030这个异常
hadoop的classpath没问题，Spark和MR在Yarn上跑也没问题，就flink有这样的问题
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
Posted by lishiyuan0506 <li...@163.com>.
hello，根据您的思路，我查看了所有的yarn-site.xml，没有发现配置出错的地方，Spark和MR的运行都正常，感觉不是yarn的问题
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | Biao Geng<bi...@gmail.com> |
| Date | 07/14/2022 15:37 |
| To | <us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hi
根据你发的描述，是Flink的job manager在非RM所在机器上启动时，由于尝试连接0.0.0.0:8030
端口去向YARN申请资源时连接不通，导致失败。你可以检查下集群内worker节点的hadoop配置，看看yarn.resourcemanager.hostname等配置是否设置正确。
Best，
Biao Geng
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 15:17写道：
您好，我之前做了一些尝试：
1. 测试Spark、MR任务正常
2. 将生产环境的Flink和官网干净的Flink安装后测试example，出现同样的问题
3.
尝试在`/opt/flink-1.13.3/bin/config.sh`中配置`DEFAULT_YARN_CONF_DIR="/opt/hadoop-3.1.4/etc/hadoop/"`，测试example出现同样的问题，说明Flink已经成功加载了`yarn-site.xml`
4.尝试在`/opt/flink-1.13.3/bin/config.sh`中配置`export
HADOOP_CONF_DIR=/opt/hadoop-3.1.4/etc/hadoop`，`export
HADOOP_CLASSPATH=`hadoop classpath`测试example出现同样的问题
目前无论是yarn还是flink都找不出来出现了什么问题，手足无措了
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | Biao Geng<bi...@gmail.com> |
| Date | 07/14/2022 14:31 |
| To | <us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hi,
你提到跑wordcount.jar时，当作业被调度到RM所在的机器上可以正常运行，调度到非RM所在的机器上就失败。flink环境干净的话，那大概率还是hadoop的环境设置有问题。
有几个可以检查的地方：
1. 运行flink run之前或者在flink的bin/config.sh里是否有正确设置hadoop环境变量，例如 export
HADOOP_CLASSPATH=`hadoop classpath`
2.
集群内机器(比如非RM所在机器)的HADOOP_CONF_DIR是否设置正确，其指向的目录里的yarn-site.xml的yarn.resourcemanager.hostname等配置是否设置正确
Best,
Biao Geng
Biao Geng <bi...@gmail.com> 于2022年7月14日周四 11:32写道：
hi,
你有试过提交flink
example(比如wordcount作业)吗？如果报了一样的错误的话，可以检查一下你的flink/lib目录下是否有放多余的YARN配置(比如运行grep
-irn "0.0.0.0" $FLINK_HOME)；如果example可以成功提交，可以看看是不是你的作业jar里打进了错误的YARN配置。
Best,
Biao Geng
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 11:06写道：
您好，环境变量里面有，而且flink的conf.sh也设置了
lishiyuan0506
lishiyuan0506@163.com
<
https://maas.mail.163.com/dashi-web-extend/html/proSignature.html?ftlId=1&name=lishiyuan0506&uid=lishiyuan0506%40163.com&iconUrl=https%3A%2F%2Fmail-online.nosdn.127.net%2Fqiyelogo%2FdefaultAvatar.png&items=%5B%22lishiyuan0506%40163.com%22%5D
---- Replied Message ----
From Yang Wang<da...@gmail.com> <da...@gmail.com>
Date 07/14/2022 11:00
To user-zh<us...@flink.apache.org> <us...@flink.apache.org>
Subject Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
确认一下你是否正确设置了HADOOP_CONF_DIR环境变量
Best,
Yang
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 09:41写道：
打扰大家一下，请问一下各位在yarn提交flink的时候，有没有遇到过Retrying connect to server:
0.0.0.0/0.0.0.0:8030这个异常
hadoop的classpath没问题，Spark和MR在Yarn上跑也没问题，就flink有这样的问题
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
Posted by Biao Geng <bi...@gmail.com>.
hi
根据你发的描述，是Flink的job manager在非RM所在机器上启动时，由于尝试连接0.0.0.0:8030
端口去向YARN申请资源时连接不通，导致失败。你可以检查下集群内worker节点的hadoop配置，看看yarn.resourcemanager.hostname等配置是否设置正确。
Best，
Biao Geng
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 15:17写道：
> 您好，我之前做了一些尝试：
> 1. 测试Spark、MR任务正常
> 2. 将生产环境的Flink和官网干净的Flink安装后测试example，出现同样的问题
> 3.
> 尝试在`/opt/flink-1.13.3/bin/config.sh`中配置`DEFAULT_YARN_CONF_DIR="/opt/hadoop-3.1.4/etc/hadoop/"`，测试example出现同样的问题，说明Flink已经成功加载了`yarn-site.xml`
> 4.尝试在`/opt/flink-1.13.3/bin/config.sh`中配置`export
> HADOOP_CONF_DIR=/opt/hadoop-3.1.4/etc/hadoop`，`export
> HADOOP_CLASSPATH=`hadoop classpath`测试example出现同样的问题
>
>
> 目前无论是yarn还是flink都找不出来出现了什么问题，手足无措了
> | |
> lishiyuan0506
> |
> |
> lishiyuan0506@163.com
> |
>
>
> ---- Replied Message ----
> | From | Biao Geng<bi...@gmail.com> |
> | Date | 07/14/2022 14:31 |
> | To | <us...@flink.apache.org> |
> | Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
> hi,
>
> 你提到跑wordcount.jar时，当作业被调度到RM所在的机器上可以正常运行，调度到非RM所在的机器上就失败。flink环境干净的话，那大概率还是hadoop的环境设置有问题。
> 有几个可以检查的地方：
> 1. 运行flink run之前或者在flink的bin/config.sh里是否有正确设置hadoop环境变量，例如 export
> HADOOP_CLASSPATH=`hadoop classpath`
> 2.
>
> 集群内机器(比如非RM所在机器)的HADOOP_CONF_DIR是否设置正确，其指向的目录里的yarn-site.xml的yarn.resourcemanager.hostname等配置是否设置正确
>
> Best,
> Biao Geng
>
> Biao Geng <bi...@gmail.com> 于2022年7月14日周四 11:32写道：
>
> hi,
> 你有试过提交flink
>
> example(比如wordcount作业)吗？如果报了一样的错误的话，可以检查一下你的flink/lib目录下是否有放多余的YARN配置(比如运行grep
> -irn "0.0.0.0" $FLINK_HOME)；如果example可以成功提交，可以看看是不是你的作业jar里打进了错误的YARN配置。
>
> Best,
> Biao Geng
>
> lishiyuan0506 <li...@163.com> 于2022年7月14日周四 11:06写道：
>
> 您好，环境变量里面有，而且flink的conf.sh也设置了
>
>
> lishiyuan0506
> lishiyuan0506@163.com
>
> <
> https://maas.mail.163.com/dashi-web-extend/html/proSignature.html?ftlId=1&name=lishiyuan0506&uid=lishiyuan0506%40163.com&iconUrl=https%3A%2F%2Fmail-online.nosdn.127.net%2Fqiyelogo%2FdefaultAvatar.png&items=%5B%22lishiyuan0506%40163.com%22%5D
> >
>
> ---- Replied Message ----
> From Yang Wang<da...@gmail.com> <da...@gmail.com>
> Date 07/14/2022 11:00
> To user-zh<us...@flink.apache.org> <us...@flink.apache.org>
> Subject Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
> 确认一下你是否正确设置了HADOOP_CONF_DIR环境变量
>
> Best,
> Yang
>
> lishiyuan0506 <li...@163.com> 于2022年7月14日周四 09:41写道：
>
> 打扰大家一下，请问一下各位在yarn提交flink的时候，有没有遇到过Retrying connect to server:
> 0.0.0.0/0.0.0.0:8030这个异常
>
>
> hadoop的classpath没问题，Spark和MR在Yarn上跑也没问题，就flink有这样的问题
>
>
> | |
> lishiyuan0506
> |
> |
> lishiyuan0506@163.com
> |
>
>
>
>
Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
Posted by lishiyuan0506 <li...@163.com>.
您好，我之前做了一些尝试：
1. 测试Spark、MR任务正常
2. 将生产环境的Flink和官网干净的Flink安装后测试example，出现同样的问题
3. 尝试在`/opt/flink-1.13.3/bin/config.sh`中配置`DEFAULT_YARN_CONF_DIR="/opt/hadoop-3.1.4/etc/hadoop/"`，测试example出现同样的问题，说明Flink已经成功加载了`yarn-site.xml`
4.尝试在`/opt/flink-1.13.3/bin/config.sh`中配置`export HADOOP_CONF_DIR=/opt/hadoop-3.1.4/etc/hadoop`，`export HADOOP_CLASSPATH=`hadoop classpath`测试example出现同样的问题
目前无论是yarn还是flink都找不出来出现了什么问题，手足无措了
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | Biao Geng<bi...@gmail.com> |
| Date | 07/14/2022 14:31 |
| To | <us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hi,
你提到跑wordcount.jar时，当作业被调度到RM所在的机器上可以正常运行，调度到非RM所在的机器上就失败。flink环境干净的话，那大概率还是hadoop的环境设置有问题。
有几个可以检查的地方：
1. 运行flink run之前或者在flink的bin/config.sh里是否有正确设置hadoop环境变量，例如 export
HADOOP_CLASSPATH=`hadoop classpath`
2.
集群内机器(比如非RM所在机器)的HADOOP_CONF_DIR是否设置正确，其指向的目录里的yarn-site.xml的yarn.resourcemanager.hostname等配置是否设置正确
Best,
Biao Geng
Biao Geng <bi...@gmail.com> 于2022年7月14日周四 11:32写道：
hi,
你有试过提交flink
example(比如wordcount作业)吗？如果报了一样的错误的话，可以检查一下你的flink/lib目录下是否有放多余的YARN配置(比如运行grep
-irn "0.0.0.0" $FLINK_HOME)；如果example可以成功提交，可以看看是不是你的作业jar里打进了错误的YARN配置。
Best,
Biao Geng
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 11:06写道：
您好，环境变量里面有，而且flink的conf.sh也设置了
lishiyuan0506
lishiyuan0506@163.com
<https://maas.mail.163.com/dashi-web-extend/html/proSignature.html?ftlId=1&name=lishiyuan0506&uid=lishiyuan0506%40163.com&iconUrl=https%3A%2F%2Fmail-online.nosdn.127.net%2Fqiyelogo%2FdefaultAvatar.png&items=%5B%22lishiyuan0506%40163.com%22%5D>
---- Replied Message ----
From Yang Wang<da...@gmail.com> <da...@gmail.com>
Date 07/14/2022 11:00
To user-zh<us...@flink.apache.org> <us...@flink.apache.org>
Subject Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
确认一下你是否正确设置了HADOOP_CONF_DIR环境变量
Best,
Yang
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 09:41写道：
打扰大家一下，请问一下各位在yarn提交flink的时候，有没有遇到过Retrying connect to server:
0.0.0.0/0.0.0.0:8030这个异常
hadoop的classpath没问题，Spark和MR在Yarn上跑也没问题，就flink有这样的问题
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
Posted by Biao Geng <bi...@gmail.com>.
hi,
你提到跑wordcount.jar时，当作业被调度到RM所在的机器上可以正常运行，调度到非RM所在的机器上就失败。flink环境干净的话，那大概率还是hadoop的环境设置有问题。
有几个可以检查的地方：
1. 运行flink run之前或者在flink的bin/config.sh里是否有正确设置hadoop环境变量，例如 export
HADOOP_CLASSPATH=`hadoop classpath`
2.
集群内机器(比如非RM所在机器)的HADOOP_CONF_DIR是否设置正确，其指向的目录里的yarn-site.xml的yarn.resourcemanager.hostname等配置是否设置正确
Best,
Biao Geng
Biao Geng <bi...@gmail.com> 于2022年7月14日周四 11:32写道：
> hi,
> 你有试过提交flink
> example(比如wordcount作业)吗？如果报了一样的错误的话，可以检查一下你的flink/lib目录下是否有放多余的YARN配置(比如运行grep
> -irn "0.0.0.0" $FLINK_HOME)；如果example可以成功提交，可以看看是不是你的作业jar里打进了错误的YARN配置。
>
> Best,
> Biao Geng
>
> lishiyuan0506 <li...@163.com> 于2022年7月14日周四 11:06写道：
>
>> 您好，环境变量里面有，而且flink的conf.sh也设置了
>>
>>
>> lishiyuan0506
>> lishiyuan0506@163.com
>>
>> <https://maas.mail.163.com/dashi-web-extend/html/proSignature.html?ftlId=1&name=lishiyuan0506&uid=lishiyuan0506%40163.com&iconUrl=https%3A%2F%2Fmail-online.nosdn.127.net%2Fqiyelogo%2FdefaultAvatar.png&items=%5B%22lishiyuan0506%40163.com%22%5D>
>>
>> ---- Replied Message ----
>> From Yang Wang<da...@gmail.com> <da...@gmail.com>
>> Date 07/14/2022 11:00
>> To user-zh<us...@flink.apache.org> <us...@flink.apache.org>
>> Subject Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
>> 确认一下你是否正确设置了HADOOP_CONF_DIR环境变量
>>
>> Best,
>> Yang
>>
>> lishiyuan0506 <li...@163.com> 于2022年7月14日周四 09:41写道：
>>
>> 打扰大家一下，请问一下各位在yarn提交flink的时候，有没有遇到过Retrying connect to server:
>> 0.0.0.0/0.0.0.0:8030这个异常
>>
>>
>> hadoop的classpath没问题，Spark和MR在Yarn上跑也没问题，就flink有这样的问题
>>
>>
>> | |
>> lishiyuan0506
>> |
>> |
>> lishiyuan0506@163.com
>> |
>>
>>
>>
Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
Posted by lishiyuan0506 <li...@163.com>.
您好，运行example仍然是这个问题，检查了lib没有多余的yarn配置，从官网下了一个干净的flink运行example还是出现这个问题。
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | Biao Geng<bi...@gmail.com> |
| Date | 07/14/2022 11:32 |
| To | <us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
hi,
你有试过提交flink
example(比如wordcount作业)吗？如果报了一样的错误的话，可以检查一下你的flink/lib目录下是否有放多余的YARN配置(比如运行grep
-irn "0.0.0.0" $FLINK_HOME)；如果example可以成功提交，可以看看是不是你的作业jar里打进了错误的YARN配置。
Best,
Biao Geng
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 11:06写道：
您好，环境变量里面有，而且flink的conf.sh也设置了
lishiyuan0506
lishiyuan0506@163.com
<https://maas.mail.163.com/dashi-web-extend/html/proSignature.html?ftlId=1&name=lishiyuan0506&uid=lishiyuan0506%40163.com&iconUrl=https%3A%2F%2Fmail-online.nosdn.127.net%2Fqiyelogo%2FdefaultAvatar.png&items=%5B%22lishiyuan0506%40163.com%22%5D>
---- Replied Message ----
From Yang Wang<da...@gmail.com> <da...@gmail.com>
Date 07/14/2022 11:00
To user-zh<us...@flink.apache.org> <us...@flink.apache.org>
Subject Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
确认一下你是否正确设置了HADOOP_CONF_DIR环境变量
Best,
Yang
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 09:41写道：
打扰大家一下，请问一下各位在yarn提交flink的时候，有没有遇到过Retrying connect to server:
0.0.0.0/0.0.0.0:8030这个异常
hadoop的classpath没问题，Spark和MR在Yarn上跑也没问题，就flink有这样的问题
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
Posted by Biao Geng <bi...@gmail.com>.
hi,
你有试过提交flink
example(比如wordcount作业)吗？如果报了一样的错误的话，可以检查一下你的flink/lib目录下是否有放多余的YARN配置(比如运行grep
-irn "0.0.0.0" $FLINK_HOME)；如果example可以成功提交，可以看看是不是你的作业jar里打进了错误的YARN配置。
Best,
Biao Geng
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 11:06写道：
> 您好，环境变量里面有，而且flink的conf.sh也设置了
>
>
> lishiyuan0506
> lishiyuan0506@163.com
>
> <https://maas.mail.163.com/dashi-web-extend/html/proSignature.html?ftlId=1&name=lishiyuan0506&uid=lishiyuan0506%40163.com&iconUrl=https%3A%2F%2Fmail-online.nosdn.127.net%2Fqiyelogo%2FdefaultAvatar.png&items=%5B%22lishiyuan0506%40163.com%22%5D>
>
> ---- Replied Message ----
> From Yang Wang<da...@gmail.com> <da...@gmail.com>
> Date 07/14/2022 11:00
> To user-zh<us...@flink.apache.org> <us...@flink.apache.org>
> Subject Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
> 确认一下你是否正确设置了HADOOP_CONF_DIR环境变量
>
> Best,
> Yang
>
> lishiyuan0506 <li...@163.com> 于2022年7月14日周四 09:41写道：
>
> 打扰大家一下，请问一下各位在yarn提交flink的时候，有没有遇到过Retrying connect to server:
> 0.0.0.0/0.0.0.0:8030这个异常
>
>
> hadoop的classpath没问题，Spark和MR在Yarn上跑也没问题，就flink有这样的问题
>
>
> | |
> lishiyuan0506
> |
> |
> lishiyuan0506@163.com
> |
>
>
>
Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
Posted by lishiyuan0506 <li...@163.com>.
您好，环境变量里面有，而且flink的conf.sh也设置了
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
---- Replied Message ----
| From | Yang Wang<da...@gmail.com> |
| Date | 07/14/2022 11:00 |
| To | user-zh<us...@flink.apache.org> |
| Subject | Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030 |
确认一下你是否正确设置了HADOOP_CONF_DIR环境变量
Best,
Yang
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 09:41写道：
打扰大家一下，请问一下各位在yarn提交flink的时候，有没有遇到过Retrying connect to server:
0.0.0.0/0.0.0.0:8030这个异常
hadoop的classpath没问题，Spark和MR在Yarn上跑也没问题，就flink有这样的问题
| |
lishiyuan0506
|
|
lishiyuan0506@163.com
|
Re: Retrying connect to server: 0.0.0.0/0.0.0.0:8030
Posted by Yang Wang <da...@gmail.com>.
确认一下你是否正确设置了HADOOP_CONF_DIR环境变量
Best,
Yang
lishiyuan0506 <li...@163.com> 于2022年7月14日周四 09:41写道：
> 打扰大家一下，请问一下各位在yarn提交flink的时候，有没有遇到过Retrying connect to server:
> 0.0.0.0/0.0.0.0:8030这个异常
>
>
> hadoop的classpath没问题，Spark和MR在Yarn上跑也没问题，就flink有这样的问题
>
>
> | |
> lishiyuan0506
> |
> |
> lishiyuan0506@163.com
> |
>
>