关于使用RocksDBStateBackend TTL 配置的问题

[yanggang_it_job <ya...@163.com>]

Hi:
   我们现在启用state.backend.rocksdb.ttl.compaction.filter.enabled进行rocksdb的有效期设置，但效果并不是那么理想。
   同时我也有以下问题想不明白：
   1、如果rocksdb在compact的时候有些state并没有被compact到，是否就意味着就算这些state已经过期也不会被删除？
   2、目前flink的ttl策略只有OnCreateAndWrite和OnReadAndWrite两种策略，是否有那种不需要刷新，到了TTL时间就自动清除。
         否则就会出现state一直在刷新导致永远无法删除，最终导致磁盘打满


   目前我能想到的方案是，另外写一个定时任务根据配置去清除过期state。
   请问大家还有其他更好的方案吗？

Re: 关于使用RocksDBStateBackend TTL 配置的问题

[Congxian Qiu <qc...@gmail.com>]

Hi
1 不参加 compaction 的不会被删除
2 TTL state 暂时无法做到一到时间就清除（我理解你这里担心不删除会有磁盘打满的风险），实际上现在会周期性的清理 state
的。另外如果你真的希望严格控制 state 的过期时间，或者你可以尝试下 ProcessFunction[1] 自己使用 Timer 相关的来控制
State 的生命周期

[1]
https://ci.apache.org/projects/flink/flink-docs-release-1.10/dev/stream/operators/process_function.html
Best,
Congxian


yanggang_it_job <ya...@163.com> 于2020年4月3日周五 上午11:14写道：

> Hi:
>
>  我们现在启用state.backend.rocksdb.ttl.compaction.filter.enabled进行rocksdb的有效期设置，但效果并不是那么理想。
>    同时我也有以下问题想不明白：
>    1、如果rocksdb在compact的时候有些state并没有被compact到，是否就意味着就算这些state已经过期也不会被删除？
>
>  2、目前flink的ttl策略只有OnCreateAndWrite和OnReadAndWrite两种策略，是否有那种不需要刷新，到了TTL时间就自动清除。
>          否则就会出现state一直在刷新导致永远无法删除，最终导致磁盘打满
>
>
>    目前我能想到的方案是，另外写一个定时任务根据配置去清除过期state。
>    请问大家还有其他更好的方案吗？