You are viewing a plain text version of this content. The canonical link for it is here.
Posted to user-zh@flink.apache.org by "蒋佳成(Jiacheng Jiang)" <92...@qq.com> on 2020/08/14 01:24:54 UTC
回复:关于flink升级
1.10有了新的内存模型,没弄清楚这些内存配置前,可能跑不起job!建议先弄清楚,在测试环境上先搞搞------------------ 原始邮件 ------------------
发件人: "引领"<yrx73513@163.com>
发送时间: 2020年8月14日(星期五) 上午9:15
收件人: "user-zh@flink.apache.org"<user-zh@flink.apache.org>;
主题: 关于flink升级
回复: 关于flink升级
Posted by 引领 <yr...@163.com>.
谢谢各位大佬。我测测整体环境吧!!!
| |
引领
|
|
yrx73513@163.com
|
签名由网易邮箱大师定制
在2020年08月14日 10:51,caozhen<ca...@163.com> 写道:
我升级1.7到1.11过程遇到主要下面的问题,可以参考下
1、编译mainjar阶段:flink api的变化,例如env创建有变化,某些类的包名有变化
2、编译mainjar阶段:flink、flinksql环境相关的依赖改为provided,不打进fat包,否则引发NoClassDefFoundError问题
3、测试运行阶段:资源设置:TM、JM 有重大变化
4、测试运行阶段:解决flink和hadoop的依赖问题(1.11开始不再提供hadoop-shade依赖)
---------------------------
Zhao,Yi(SEC) wrote
经历了1.7到1.8,1.8到1.9,1.9到1.10;前2还好,最后一个有些坑,jdk8版本不要太旧,某个版本和1.10配合会有bug。
在 2020/8/14 上午9:25,“蒋佳成(Jiacheng Jiang)”<
920334586@
写入:
1.10有了新的内存模型,没弄清楚这些内存配置前,可能跑不起job!建议先弄清楚,在测试环境上先搞搞------------------ 原始邮件 ------------------
发件人: "引领"<
yrx73513@
>
发送时间: 2020年8月14日(星期五) 上午9:15
收件人: "
user-zh@.apache
"<
user-zh@.apache
>;
主题: 关于flink升级
--
Sent from: http://apache-flink.147419.n8.nabble.com/
Re: 回复:关于flink升级
Posted by caozhen <ca...@163.com>.
我升级1.7到1.11过程遇到主要下面的问题,可以参考下
1、编译mainjar阶段:flink api的变化,例如env创建有变化,某些类的包名有变化
2、编译mainjar阶段:flink、flinksql环境相关的依赖改为provided,不打进fat包,否则引发NoClassDefFoundError问题
3、测试运行阶段:资源设置:TM、JM 有重大变化
4、测试运行阶段:解决flink和hadoop的依赖问题(1.11开始不再提供hadoop-shade依赖)
---------------------------
Zhao,Yi(SEC) wrote
> 经历了1.7到1.8,1.8到1.9,1.9到1.10;前2还好,最后一个有些坑,jdk8版本不要太旧,某个版本和1.10配合会有bug。
>
> 在 2020/8/14 上午9:25,“蒋佳成(Jiacheng Jiang)”<
> 920334586@
>> 写入:
>
>
> 1.10有了新的内存模型,没弄清楚这些内存配置前,可能跑不起job!建议先弄清楚,在测试环境上先搞搞------------------ 原始邮件 ------------------
> 发件人: "引领"<
> yrx73513@
> >
> 发送时间: 2020年8月14日(星期五) 上午9:15
> 收件人: "
> user-zh@.apache
> "<
> user-zh@.apache
> >;
> 主题: 关于flink升级
--
Sent from: http://apache-flink.147419.n8.nabble.com/
Re: 回复:关于flink升级
Posted by "Zhao,Yi(SEC)" <zh...@baidu.com>.
经历了1.7到1.8,1.8到1.9,1.9到1.10;前2还好,最后一个有些坑,jdk8版本不要太旧,某个版本和1.10配合会有bug。
在 2020/8/14 上午9:25,“蒋佳成(Jiacheng Jiang)”<92...@qq.com> 写入:
1.10有了新的内存模型,没弄清楚这些内存配置前,可能跑不起job!建议先弄清楚,在测试环境上先搞搞------------------ 原始邮件 ------------------
发件人: "引领"<yrx73513@163.com>
发送时间: 2020年8月14日(星期五) 上午9:15
收件人: "user-zh@flink.apache.org"<user-zh@flink.apache.org>;
主题: 关于flink升级