You are viewing a plain text version of this content. The canonical link for it is here.
Posted to user-zh@flink.apache.org by 了不起的盖茨比 <57...@qq.com> on 2020/05/29 07:35:36 UTC
回复: flink 访问hadoop集群问题
thanks very much !!!
就是resource目录 没有hdfs-site.xml
------------------ 原始邮件 ------------------
发件人: "wangweiguang@stevegame.cn"<wangweiguang@stevegame.cn>;
发送时间: 2020年5月29日(星期五) 下午3:19
收件人: "user-zh"<user-zh@flink.apache.org>;
主题: 回复: flink 访问hadoop集群问题
对于cdh集群的hdfs,默认端口是8020,这里你用 hdfs://TestHACluster/user/flink/test 或者 hdfs://TestHACluster:8020/user/flink/test,其实效果是一样的,
你这里应该是flink无法解析TestHACluster这个Namespace,hdfs做了HA的情况,应该是需要添加hive-site.xml,hdfs-site.xml,我也去测试下!
发件人: 了不起的盖茨比
发送时间: 2020-05-29 15:06
收件人: user-zh
主题: flink 访问hadoop集群问题
请教大家一个问题 ,
hadoop服务TestHACluster,可是我用api访问时候,填写了path hdfs://TestHACluster/user/flink/test&nbsp;&nbsp;
就会去访问TestHACluster:8020, 但是我是没有那个端口的,针对这种情况怎么处理下。
因为这个问题,我后面去操作hive时候也是会提示问题,无法连接TestHACluster:8020
StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();
DataStream<String&gt; input = env.fromCollection(Arrays.asList("1","2"));
StreamingFileSink<String&gt; sink = StreamingFileSink.forRowFormat(
new Path("hdfs://TestHACluster/user/flink/test"),
new SimpleStringEncoder<String&gt;(Encoder.UTF_8))
.withBucketAssigner(new DateTimeBucketAssigner<&gt;())
.build();
input.addSink(sink);
env.execute();