You are viewing a plain text version of this content. The canonical link for it is here.
Posted to user-zh@flink.apache.org by lec ssmi <sh...@gmail.com> on 2020/04/27 09:37:52 UTC
晚于watermark的数据何时被抛弃
Hi:
如果有晚于watermark的数据，只有涉及到时间的算子，比如时间窗口，才会自动地过滤掉这些数据吗？或者说其他算子，比如map，join
也会自动过滤掉而不处理？
感觉类似于ProcessFunction，提供了一个获取currentWatermark的方法，是否不处理，都取决于自己的代码逻辑。
Re: 晚于watermark的数据何时被抛弃
Posted by Benchao Li <li...@gmail.com>.
嗯，如果是普通的group by，的确是做不到的。
lec ssmi <sh...@gmail.com> 于2020年4月27日周一 下午5:59写道：
> 谢谢回答。
> 但这样存在一个问题，加入我不使用window，用普通的group by hour
> 来实现聚合,hour为string类型。我也需要丢弃掉晚于watermark的数据，
> sql中，在 TableAggregateFunction 里面是无法操作的。
> DataStream 有ProcessFunction，当然是可以实现的。
>
> Benchao Li <li...@gmail.com> 于2020年4月27日周一 下午5:47写道：
>
> > Hi，
> >
> > 你的理解是对的，只有涉及到时间的一些算子才会有可能丢弃迟到的数据，比如典型的就是Window和CEP。
> > 像普通的算子Map、Filter这种，不涉及到时间的概念，不会丢弃数据的。
> >
> > lec ssmi <sh...@gmail.com> 于2020年4月27日周一 下午5:38写道：
> >
> > > Hi:
> > > 如果有晚于watermark的数据，只有涉及到时间的算子，比如时间窗口，才会自动地过滤掉这些数据吗？或者说其他算子，比如map，join
> > > 也会自动过滤掉而不处理？
> > > 感觉类似于ProcessFunction，提供了一个获取currentWatermark的方法，是否不处理，都取决于自己的代码逻辑。
> > >
> >
> >
> > --
> >
> > Benchao Li
> > School of Electronics Engineering and Computer Science, Peking University
> > Tel:+86-15650713730
> > Email: libenchao@gmail.com; libenchao@pku.edu.cn
> >
>
--
Benchao Li
School of Electronics Engineering and Computer Science, Peking University
Tel:+86-15650713730
Email: libenchao@gmail.com; libenchao@pku.edu.cn
Re: 晚于watermark的数据何时被抛弃
Posted by lec ssmi <sh...@gmail.com>.
谢谢回答。
但这样存在一个问题，加入我不使用window，用普通的group by hour
来实现聚合,hour为string类型。我也需要丢弃掉晚于watermark的数据，
sql中，在 TableAggregateFunction 里面是无法操作的。
DataStream 有ProcessFunction，当然是可以实现的。
Benchao Li <li...@gmail.com> 于2020年4月27日周一 下午5:47写道：
> Hi，
>
> 你的理解是对的，只有涉及到时间的一些算子才会有可能丢弃迟到的数据，比如典型的就是Window和CEP。
> 像普通的算子Map、Filter这种，不涉及到时间的概念，不会丢弃数据的。
>
> lec ssmi <sh...@gmail.com> 于2020年4月27日周一 下午5:38写道：
>
> > Hi:
> > 如果有晚于watermark的数据，只有涉及到时间的算子，比如时间窗口，才会自动地过滤掉这些数据吗？或者说其他算子，比如map，join
> > 也会自动过滤掉而不处理？
> > 感觉类似于ProcessFunction，提供了一个获取currentWatermark的方法，是否不处理，都取决于自己的代码逻辑。
> >
>
>
> --
>
> Benchao Li
> School of Electronics Engineering and Computer Science, Peking University
> Tel:+86-15650713730
> Email: libenchao@gmail.com; libenchao@pku.edu.cn
>
Re: 晚于watermark的数据何时被抛弃
Posted by Benchao Li <li...@gmail.com>.
Hi，
你的理解是对的，只有涉及到时间的一些算子才会有可能丢弃迟到的数据，比如典型的就是Window和CEP。
像普通的算子Map、Filter这种，不涉及到时间的概念，不会丢弃数据的。
lec ssmi <sh...@gmail.com> 于2020年4月27日周一 下午5:38写道：
> Hi:
> 如果有晚于watermark的数据，只有涉及到时间的算子，比如时间窗口，才会自动地过滤掉这些数据吗？或者说其他算子，比如map，join
> 也会自动过滤掉而不处理？
> 感觉类似于ProcessFunction，提供了一个获取currentWatermark的方法，是否不处理，都取决于自己的代码逻辑。
>
--
Benchao Li
School of Electronics Engineering and Computer Science, Peking University
Tel:+86-15650713730
Email: libenchao@gmail.com; libenchao@pku.edu.cn