You are viewing a plain text version of this content. The canonical link for it is here.
Posted to user-zh@flink.apache.org by "ha.fengqi@aisino.com" <ha...@aisino.com> on 2024/03/28 06:18:18 UTC

1.19自定义数据源

原来是继承SourceFunction实现一些简单的自动生成数据的方法,在1.19中已经标识为过期,好像是使用Source接口,这个和原来的SourceFunction完全不同,应该怎么样生成测试使用的自定义数据源呢?

Re: Re: 1.19自定义数据源

Posted by Shawn Huang <hx...@gmail.com>.
你好,关于如何实现source接口可以参考以下资料:

[1] FLIP-27: Refactor Source Interface - Apache Flink - Apache Software
Foundation
<https://cwiki.apache.org/confluence/display/FLINK/FLIP-27%3A+Refactor+Source+Interface>
[2] 如何高效接入 Flink:Connecter / Catalog API 核心设计与社区进展 (qq.com)
<https://mp.weixin.qq.com/s/CAxAgVDzHZ6vZ3BSvi9mlA>


Best,
Shawn Huang


liuchao <li...@foxmail.com> 于2024年3月28日周四 15:39写道:

> 找一个实现source接口的算子,参考一下
>
>
> 刘超
> liuchao1019@foxmail.com
>
>
>
> &nbsp;
>
>
>
>
> ------------------&nbsp;原始邮件&nbsp;------------------
> 发件人:
>                                                   "user-zh"
>                                                                     <
> ha.fengqi@aisino.com&gt;;
> 发送时间:&nbsp;2024年3月28日(星期四) 下午3:34
> 收件人:&nbsp;"user-zh"<user-zh@flink.apache.org&gt;;
>
> 主题:&nbsp;Re: Re: 1.19自定义数据源
>
>
>
> 我想问的就是如果需要实现Source接口,应该怎么写,有没有具体的例子实现一个按照一定速度生成自定义的类?
> &nbsp;
> 发件人: gongzhongqiang
> 发送时间: 2024-03-28 15:05
> 收件人: user-zh
> 主题: Re: 1.19自定义数据源
> 你好:
> &nbsp;
> 当前 flink 1.19 版本只是标识为过时,在未来版本会移除 SourceFunction。所以对于你的应用而言为了支持长期 flink
> 版本考虑,可以将这些SourceFunction用Source重新实现。
> &nbsp;
> ha.fengqi@aisino.com <ha.fengqi@aisino.com&gt; 于2024年3月28日周四 14:18写道:
> &nbsp;
> &gt;
> &gt;
> 原来是继承SourceFunction实现一些简单的自动生成数据的方法,在1.19中已经标识为过期,好像是使用Source接口,这个和原来的SourceFunction完全不同,应该怎么样生成测试使用的自定义数据源呢?
> &gt;

回复: Re: 1.19自定义数据源

Posted by liuchao <li...@foxmail.com>.
找一个实现source接口的算子,参考一下


刘超
liuchao1019@foxmail.com



&nbsp;




------------------&nbsp;原始邮件&nbsp;------------------
发件人:                                                                                                                        "user-zh"                                                                                    <ha.fengqi@aisino.com&gt;;
发送时间:&nbsp;2024年3月28日(星期四) 下午3:34
收件人:&nbsp;"user-zh"<user-zh@flink.apache.org&gt;;

主题:&nbsp;Re: Re: 1.19自定义数据源



我想问的就是如果需要实现Source接口,应该怎么写,有没有具体的例子实现一个按照一定速度生成自定义的类?
&nbsp;
发件人: gongzhongqiang
发送时间: 2024-03-28 15:05
收件人: user-zh
主题: Re: 1.19自定义数据源
你好:
&nbsp;
当前 flink 1.19 版本只是标识为过时,在未来版本会移除 SourceFunction。所以对于你的应用而言为了支持长期 flink
版本考虑,可以将这些SourceFunction用Source重新实现。
&nbsp;
ha.fengqi@aisino.com <ha.fengqi@aisino.com&gt; 于2024年3月28日周四 14:18写道:
&nbsp;
&gt;
&gt; 原来是继承SourceFunction实现一些简单的自动生成数据的方法,在1.19中已经标识为过期,好像是使用Source接口,这个和原来的SourceFunction完全不同,应该怎么样生成测试使用的自定义数据源呢?
&gt;

Re: Re:Re: Re: 1.19自定义数据源

Posted by Zhanghao Chen <zh...@outlook.com>.
请发送任意内容的邮件到 user-zh-unsubscribe@flink.apache.org 地址来取消订阅。你可以参考[1] 来管理你的邮件订阅。

[1]
https://flink.apache.org/zh/community/#%e9%82%ae%e4%bb%b6%e5%88%97%e8%a1%a8

Best,
Zhanghao Chen
________________________________
From: 熊柱 <18...@163.com>
Sent: Monday, April 1, 2024 11:14
To: user-zh@flink.apache.org <us...@flink.apache.org>
Subject: Re:Re: Re: 1.19自定义数据源

退订

















在 2024-03-28 19:56:06,"Zhanghao Chen" <zh...@outlook.com> 写道:
>如果是用的 DataStream API 的话,也可以看下新增的 DataGen Connector [1] 是否能直接满足你的测试数据生成需求。
>
>
>[1] https://nightlies.apache.org/flink/flink-docs-release-1.19/docs/connectors/datastream/datagen/
>
>Best,
>Zhanghao Chen
>________________________________
>From: ha.fengqi@aisino.com <ha...@aisino.com>
>Sent: Thursday, March 28, 2024 15:34
>To: user-zh <us...@flink.apache.org>
>Subject: Re: Re: 1.19自定义数据源
>
>我想问的就是如果需要实现Source接口,应该怎么写,有没有具体的例子实现一个按照一定速度生成自定义的类?
>
>发件人: gongzhongqiang
>发送时间: 2024-03-28 15:05
>收件人: user-zh
>主题: Re: 1.19自定义数据源
>你好:
>
>当前 flink 1.19 版本只是标识为过时,在未来版本会移除 SourceFunction。所以对于你的应用而言为了支持长期 flink
>版本考虑,可以将这些SourceFunction用Source重新实现。
>
>ha.fengqi@aisino.com <ha...@aisino.com> 于2024年3月28日周四 14:18写道:
>
>>
>> 原来是继承SourceFunction实现一些简单的自动生成数据的方法,在1.19中已经标识为过期,好像是使用Source接口,这个和原来的SourceFunction完全不同,应该怎么样生成测试使用的自定义数据源呢?
>>

Re:Re: Re: 1.19自定义数据源

Posted by 熊柱 <18...@163.com>.
退订

















在 2024-03-28 19:56:06,"Zhanghao Chen" <zh...@outlook.com> 写道:
>如果是用的 DataStream API 的话,也可以看下新增的 DataGen Connector [1] 是否能直接满足你的测试数据生成需求。
>
>
>[1] https://nightlies.apache.org/flink/flink-docs-release-1.19/docs/connectors/datastream/datagen/
>
>Best,
>Zhanghao Chen
>________________________________
>From: ha.fengqi@aisino.com <ha...@aisino.com>
>Sent: Thursday, March 28, 2024 15:34
>To: user-zh <us...@flink.apache.org>
>Subject: Re: Re: 1.19自定义数据源
>
>我想问的就是如果需要实现Source接口,应该怎么写,有没有具体的例子实现一个按照一定速度生成自定义的类?
>
>发件人: gongzhongqiang
>发送时间: 2024-03-28 15:05
>收件人: user-zh
>主题: Re: 1.19自定义数据源
>你好:
>
>当前 flink 1.19 版本只是标识为过时,在未来版本会移除 SourceFunction。所以对于你的应用而言为了支持长期 flink
>版本考虑,可以将这些SourceFunction用Source重新实现。
>
>ha.fengqi@aisino.com <ha...@aisino.com> 于2024年3月28日周四 14:18写道:
>
>>
>> 原来是继承SourceFunction实现一些简单的自动生成数据的方法,在1.19中已经标识为过期,好像是使用Source接口,这个和原来的SourceFunction完全不同,应该怎么样生成测试使用的自定义数据源呢?
>>

Re: Re: 1.19自定义数据源

Posted by Zhanghao Chen <zh...@outlook.com>.
如果是用的 DataStream API 的话,也可以看下新增的 DataGen Connector [1] 是否能直接满足你的测试数据生成需求。


[1] https://nightlies.apache.org/flink/flink-docs-release-1.19/docs/connectors/datastream/datagen/

Best,
Zhanghao Chen
________________________________
From: ha.fengqi@aisino.com <ha...@aisino.com>
Sent: Thursday, March 28, 2024 15:34
To: user-zh <us...@flink.apache.org>
Subject: Re: Re: 1.19自定义数据源

我想问的就是如果需要实现Source接口,应该怎么写,有没有具体的例子实现一个按照一定速度生成自定义的类?

发件人: gongzhongqiang
发送时间: 2024-03-28 15:05
收件人: user-zh
主题: Re: 1.19自定义数据源
你好:

当前 flink 1.19 版本只是标识为过时,在未来版本会移除 SourceFunction。所以对于你的应用而言为了支持长期 flink
版本考虑,可以将这些SourceFunction用Source重新实现。

ha.fengqi@aisino.com <ha...@aisino.com> 于2024年3月28日周四 14:18写道:

>
> 原来是继承SourceFunction实现一些简单的自动生成数据的方法,在1.19中已经标识为过期,好像是使用Source接口,这个和原来的SourceFunction完全不同,应该怎么样生成测试使用的自定义数据源呢?
>

Re: Re: 1.19自定义数据源

Posted by "ha.fengqi@aisino.com" <ha...@aisino.com>.
我想问的就是如果需要实现Source接口,应该怎么写,有没有具体的例子实现一个按照一定速度生成自定义的类?
 
发件人: gongzhongqiang
发送时间: 2024-03-28 15:05
收件人: user-zh
主题: Re: 1.19自定义数据源
你好:
 
当前 flink 1.19 版本只是标识为过时,在未来版本会移除 SourceFunction。所以对于你的应用而言为了支持长期 flink
版本考虑,可以将这些SourceFunction用Source重新实现。
 
ha.fengqi@aisino.com <ha...@aisino.com> 于2024年3月28日周四 14:18写道:
 
>
> 原来是继承SourceFunction实现一些简单的自动生成数据的方法,在1.19中已经标识为过期,好像是使用Source接口,这个和原来的SourceFunction完全不同,应该怎么样生成测试使用的自定义数据源呢?
>

Re: 1.19自定义数据源

Posted by gongzhongqiang <go...@apache.org>.
你好:

当前 flink 1.19 版本只是标识为过时,在未来版本会移除 SourceFunction。所以对于你的应用而言为了支持长期 flink
版本考虑,可以将这些SourceFunction用Source重新实现。

ha.fengqi@aisino.com <ha...@aisino.com> 于2024年3月28日周四 14:18写道:

>
> 原来是继承SourceFunction实现一些简单的自动生成数据的方法,在1.19中已经标识为过期,好像是使用Source接口,这个和原来的SourceFunction完全不同,应该怎么样生成测试使用的自定义数据源呢?
>