You are viewing a plain text version of this content. The canonical link for it is here.
Posted to user-zh@flink.apache.org by 夏帅 <jk...@dingtalk.com.INVALID> on 2020/07/14 03:00:18 UTC

回复:Re: flink 同时sink hbase和hive,hbase少记录

你好,
本质还是StreamingFileSink,所以目前只能append


------------------------------------------------------------------
发件人:Zhou Zach <wa...@163.com>
发送时间:2020年7月14日(星期二) 10:56
收件人:user-zh <us...@flink.apache.org>
主 题:Re:Re: flink 同时sink hbase和hive,hbase少记录




Hi Leonard,
原来是有重复key,hbase做了upsert,请问Hive Streaming Writing是不是目前只支持append模式,不支持upsert模式














在 2020-07-14 09:56:00,"Leonard Xu" <xb...@gmail.com> 写道:
>Hi,
>
>> 在 2020年7月14日,09:52,Zhou Zach <wa...@163.com> 写道:
>> 
>>>>       |   CONCAT(SUBSTRING(MD5(CAST(uid AS VARCHAR)), 0, 6), cast(CEILING(UNIX_TIMESTAMP(created_time)/60) as string), sex) as uid,
>
>看下这个抽取出来的rowkey是否有重复的呢?
>
>祝好,
>Leonard Xu

Re:回复:Re: flink 同时sink hbase和hive,hbase少记录

Posted by Zhou Zach <wa...@163.com>.
Hi,
感谢社区热心答疑!

















在 2020-07-14 11:00:18,"夏帅" <jk...@dingtalk.com.INVALID> 写道:
>你好,
>本质还是StreamingFileSink,所以目前只能append
>
>
>------------------------------------------------------------------
>发件人:Zhou Zach <wa...@163.com>
>发送时间:2020年7月14日(星期二) 10:56
>收件人:user-zh <us...@flink.apache.org>
>主 题:Re:Re: flink 同时sink hbase和hive,hbase少记录
>
>
>
>
>Hi Leonard,
>原来是有重复key,hbase做了upsert,请问Hive Streaming Writing是不是目前只支持append模式,不支持upsert模式
>
>
>
>
>
>
>
>
>
>
>
>
>
>
>在 2020-07-14 09:56:00,"Leonard Xu" <xb...@gmail.com> 写道:
>>Hi,
>>
>>> 在 2020年7月14日,09:52,Zhou Zach <wa...@163.com> 写道:
>>> 
>>>>>       |   CONCAT(SUBSTRING(MD5(CAST(uid AS VARCHAR)), 0, 6), cast(CEILING(UNIX_TIMESTAMP(created_time)/60) as string), sex) as uid,
>>
>>看下这个抽取出来的rowkey是否有重复的呢?
>>
>>祝好,
>>Leonard Xu