You are viewing a plain text version of this content. The canonical link for it is here.
Posted to dev@dolphinscheduler.apache.org by "Gan.Bo Rui" <ga...@igwfmc.com> on 2022/10/21 02:59:04 UTC
答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
我用的mysql,是数据库的问题,task_instance的表数据量超过200w了,3.0版本在这部分有优化吗?
-----邮件原件-----
发件人: 西去的铃铛 <97...@qq.com.INVALID>
发送时间: 2022年10月21日 10:57
收件人: dev <de...@dolphinscheduler.apache.org>
主题: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
因为我用的3.0版本,所以不太清楚1.3.3的原理
这个页面加载慢应该是读库比较慢吧,你们用的pg还是mysql?
------------------ 原始邮件 ------------------
发件人: "dev" <ganbr@igwfmc.com>;
发送时间: 2022年10月21日(星期五) 上午10:53
收件人: "dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org>;
主题: dolphinscheduler工作流实例和任务实例页面加载缓慢问题
Hello,我使用ds1.3.3的版本,工作流实例和任务实例页面加载非常的缓慢,经常要5s+甚至10+以上,请问下有什么可以优化的办法吗?
Process_instance表数据量大概在100w
Task_instance表数据量大概在250w
Process_definition表数据大概在2000条
[cid:image002.png@01D8E539.E2410C40]
甘博瑞 Gan.Bo Rui
数据开发工程师,信息技术部
景顺长城基金管理有限公司
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
回复:答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
Posted by 西去的铃铛 <97...@qq.com.INVALID>.
另外你可以先自己在测试环境步一下3.1.0或者3.0.1的版本,对比下。回头可以迁移到新版本。
------------------ 原始邮件 ------------------
发件人: "西去的铃铛" <971651796@qq.com>;
发送时间: 2022年10月21日(星期五) 中午11:38
收件人: "dev"<dev@dolphinscheduler.apache.org>;
主题: 回复:答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
任务实例历史的其实没啥用可以删掉,索引的话你把表结构发我下,我帮你看,这个很简单的。
------------------ 原始邮件 ------------------
发件人: "dev" <ganbr@igwfmc.com>;
发送时间: 2022年10月21日(星期五) 中午11:08
收件人: "dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org>;
主题: 答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
昨天尝试了集中索引的建立方式都没有加快速度,大佬帮忙看看需要怎么建立索引,sql如下:
select instance.*,process.name as process_instance_name
from t_ds_task_instance instance
join t_ds_process_definition define ON instance.process_definition_id = define.id
join t_ds_process_instance process on process.id=instance.process_instance_id
where define.project_id = #{projectId}
order by instance.start_time desc
目前我们200w的任务实例中,工作流定义的个数是1392个
-----邮件原件-----
发件人: 西去的铃铛 <971651796@qq.com.INVALID>
发送时间: 2022年10月21日 11:04
收件人: dev <dev@dolphinscheduler.apache.org>
主题: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
才200多万,看来问题不大,直接建一下索引,数据库加载慢的问题就解决了,话说你们现在200w任务实例,大概有多少个工作流?
------------------&nbsp;原始邮件&nbsp;------------------
发件人: "dev" <ganbr@igwfmc.com&gt;;
发送时间:&nbsp;2022年10月21日(星期五) 上午10:59
收件人:&nbsp;"dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org&gt;;
主题:&nbsp;答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
我用的mysql,是数据库的问题,task_instance的表数据量超过200w了,3.0版本在这部分有优化吗?
-----邮件原件-----
发件人: 西去的铃铛 <971651796@qq.com.INVALID&gt;
发送时间: 2022年10月21日 10:57
收件人: dev <dev@dolphinscheduler.apache.org&gt;
主题: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
因为我用的3.0版本,所以不太清楚1.3.3的原理
这个页面加载慢应该是读库比较慢吧,你们用的pg还是mysql?
------------------&amp;nbsp;原始邮件&amp;nbsp;------------------
发件人:&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; "dev"&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <ganbr@igwfmc.com&amp;gt;;
发送时间:&amp;nbsp;2022年10月21日(星期五) 上午10:53
收件人:&amp;nbsp;"dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org&amp;gt;;
主题:&amp;nbsp;dolphinscheduler工作流实例和任务实例页面加载缓慢问题
Hello,我使用ds1.3.3的版本,工作流实例和任务实例页面加载非常的缓慢,经常要5s+甚至10+以上,请问下有什么可以优化的办法吗?
Process_instance表数据量大概在100w
Task_instance表数据量大概在250w
Process_definition表数据大概在2000条
[cid:image002.png@01D8E539.E2410C40]
甘博瑞 Gan.Bo Rui
数据开发工程师,信息技术部
景顺长城基金管理有限公司
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
答复: 回复:答复: 回复:答复: 回复:答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
Posted by "Gan.Bo Rui" <ga...@igwfmc.com>.
-----邮件原件-----
发件人: 西去的铃铛 <97...@qq.com.INVALID>
发送时间: 2022年10月21日 14:00
收件人: dev <de...@dolphinscheduler.apache.org>
主题: 回复:答复: 回复:答复: 回复:答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
截图看不到
------------------ 原始邮件 ------------------
发件人: "dev" <ganbr@igwfmc.com>;
发送时间: 2022年10月21日(星期五) 中午1:27
收件人: "dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org>;
主题: 答复: 回复:答复: 回复:答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
Project_id应该可以用 KEY `process_definition_index` (`project_id`,`id`) USING BTREE 这个索引。
我尝试了使用id进行排序,速度和start_time加索引几乎一致,大概都是5s+
Explain的内容如下:
大佬看看还有什么可以优化的地方吗?
-----邮件原件-----
发件人: 西去的铃铛 <971651796@qq.com.INVALID>
发送时间: 2022年10月21日 13:05
收件人: dev@dolphinscheduler.apache.org
主题: 回复:答复: 回复:答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
我看了下表结构,表关联基本上都能用上索引,但是where条件没有。
建议:
1、t_ds_process_definition这张表给&nbsp;project_id 加个索引
2、sql语句能否给按照t_ds_task_instance表的id进行排序,这样基本上就可以秒级查询了。如果必须要按照start_time排序,那就给start_time加个索引(不建议)。
另外历史任务实例直接删掉就行了,保持在10w以内也可以做到1s内查询
------------------&nbsp;原始邮件&nbsp;------------------
发件人: "dev" <ganbr@igwfmc.com&gt;;
发送时间:&nbsp;2022年10月21日(星期五) 中午12:10
收件人:&nbsp;"dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org&gt;;
主题:&nbsp;答复: 回复:答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
多谢大佬,见表语句放在附件里面了,辛苦大佬帮忙看看了
-----邮件原件-----
发件人: 西去的铃铛 <971651796@qq.com.INVALID&gt;
发送时间: 2022年10月21日 11:39
收件人: dev <dev@dolphinscheduler.apache.org&gt;
主题: 回复:答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
任务实例历史的其实没啥用可以删掉,索引的话你把表结构发我下,我帮你看,这个很简单的。
------------------&amp;nbsp;原始邮件&amp;nbsp;------------------
发件人:&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; "dev"&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <ganbr@igwfmc.com&amp;gt;;
发送时间:&amp;nbsp;2022年10月21日(星期五) 中午11:08
收件人:&amp;nbsp;"dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org&amp;gt;;
主题:&amp;nbsp;答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
昨天尝试了集中索引的建立方式都没有加快速度,大佬帮忙看看需要怎么建立索引,sql如下:
select instance.*,process.name as process_instance_name &amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp; from t_ds_task_instance instance &amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp; join t_ds_process_definition define ON instance.process_definition_id = define.id &amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp; join&amp;nbsp; t_ds_process_instance process on process.id=instance.process_instance_id
&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp; where define.project_id = #{projectId} &amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp; order by instance.start_time desc
目前我们200w的任务实例中,工作流定义的个数是1392个
-----邮件原件-----
发件人: 西去的铃铛 <971651796@qq.com.INVALID&amp;gt;
发送时间: 2022年10月21日 11:04
收件人: dev <dev@dolphinscheduler.apache.org&amp;gt;
主题: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
才200多万,看来问题不大,直接建一下索引,数据库加载慢的问题就解决了,话说你们现在200w任务实例,大概有多少个工作流?
------------------&amp;amp;nbsp;原始邮件&amp;amp;nbsp;------------------
发件人:&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp; "dev"&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp; <ganbr@igwfmc.com&amp;amp;gt;;
发送时间:&amp;amp;nbsp;2022年10月21日(星期五) 上午10:59
收件人:&amp;amp;nbsp;"dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org&amp;amp;gt;;
主题:&amp;amp;nbsp;答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
我用的mysql,是数据库的问题,task_instance的表数据量超过200w了,3.0版本在这部分有优化吗?
-----邮件原件-----
发件人: 西去的铃铛 <971651796@qq.com.INVALID&amp;amp;gt;
发送时间: 2022年10月21日 10:57
收件人: dev <dev@dolphinscheduler.apache.org&amp;amp;gt;
主题: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
因为我用的3.0版本,所以不太清楚1.3.3的原理
这个页面加载慢应该是读库比较慢吧,你们用的pg还是mysql?
------------------&amp;amp;amp;nbsp;原始邮件&amp;amp;amp;nbsp;------------------
发件人:&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp; "dev"&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp; <ganbr@igwfmc.com&amp;amp;amp;gt;;
发送时间:&amp;amp;amp;nbsp;2022年10月21日(星期五) 上午10:53
收件人:&amp;amp;amp;nbsp;"dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org&amp;amp;amp;gt;;
主题:&amp;amp;amp;nbsp;dolphinscheduler工作流实例和任务实例页面加载缓慢问题
Hello,我使用ds1.3.3的版本,工作流实例和任务实例页面加载非常的缓慢,经常要5s+甚至10+以上,请问下有什么可以优化的办法吗?
Process_instance表数据量大概在100w
Task_instance表数据量大概在250w
Process_definition表数据大概在2000条
[cid:image002.png@01D8E539.E2410C40]
甘博瑞 Gan.Bo Rui
数据开发工程师,信息技术部
景顺长城基金管理有限公司
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
回复:答复: 回复:答复: 回复:答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
Posted by 西去的铃铛 <97...@qq.com.INVALID>.
截图看不到
------------------ 原始邮件 ------------------
发件人: "dev" <ganbr@igwfmc.com>;
发送时间: 2022年10月21日(星期五) 中午1:27
收件人: "dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org>;
主题: 答复: 回复:答复: 回复:答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
Project_id应该可以用 KEY `process_definition_index` (`project_id`,`id`) USING BTREE 这个索引。
我尝试了使用id进行排序,速度和start_time加索引几乎一致,大概都是5s+
Explain的内容如下:
大佬看看还有什么可以优化的地方吗?
-----邮件原件-----
发件人: 西去的铃铛 <971651796@qq.com.INVALID>
发送时间: 2022年10月21日 13:05
收件人: dev@dolphinscheduler.apache.org
主题: 回复:答复: 回复:答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
我看了下表结构,表关联基本上都能用上索引,但是where条件没有。
建议:
1、t_ds_process_definition这张表给&nbsp;project_id 加个索引
2、sql语句能否给按照t_ds_task_instance表的id进行排序,这样基本上就可以秒级查询了。如果必须要按照start_time排序,那就给start_time加个索引(不建议)。
另外历史任务实例直接删掉就行了,保持在10w以内也可以做到1s内查询
------------------&nbsp;原始邮件&nbsp;------------------
发件人: "dev" <ganbr@igwfmc.com&gt;;
发送时间:&nbsp;2022年10月21日(星期五) 中午12:10
收件人:&nbsp;"dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org&gt;;
主题:&nbsp;答复: 回复:答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
多谢大佬,见表语句放在附件里面了,辛苦大佬帮忙看看了
-----邮件原件-----
发件人: 西去的铃铛 <971651796@qq.com.INVALID&gt;
发送时间: 2022年10月21日 11:39
收件人: dev <dev@dolphinscheduler.apache.org&gt;
主题: 回复:答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
任务实例历史的其实没啥用可以删掉,索引的话你把表结构发我下,我帮你看,这个很简单的。
------------------&amp;nbsp;原始邮件&amp;nbsp;------------------
发件人:&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; "dev"&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <ganbr@igwfmc.com&amp;gt;;
发送时间:&amp;nbsp;2022年10月21日(星期五) 中午11:08
收件人:&amp;nbsp;"dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org&amp;gt;;
主题:&amp;nbsp;答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
昨天尝试了集中索引的建立方式都没有加快速度,大佬帮忙看看需要怎么建立索引,sql如下:
select instance.*,process.name as process_instance_name &amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp; from t_ds_task_instance instance &amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp; join t_ds_process_definition define ON instance.process_definition_id = define.id &amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp; join&amp;nbsp; t_ds_process_instance process on process.id=instance.process_instance_id
&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp; where define.project_id = #{projectId} &amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp; order by instance.start_time desc
目前我们200w的任务实例中,工作流定义的个数是1392个
-----邮件原件-----
发件人: 西去的铃铛 <971651796@qq.com.INVALID&amp;gt;
发送时间: 2022年10月21日 11:04
收件人: dev <dev@dolphinscheduler.apache.org&amp;gt;
主题: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
才200多万,看来问题不大,直接建一下索引,数据库加载慢的问题就解决了,话说你们现在200w任务实例,大概有多少个工作流?
------------------&amp;amp;nbsp;原始邮件&amp;amp;nbsp;------------------
发件人:&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp; "dev"&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp; <ganbr@igwfmc.com&amp;amp;gt;;
发送时间:&amp;amp;nbsp;2022年10月21日(星期五) 上午10:59
收件人:&amp;amp;nbsp;"dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org&amp;amp;gt;;
主题:&amp;amp;nbsp;答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
我用的mysql,是数据库的问题,task_instance的表数据量超过200w了,3.0版本在这部分有优化吗?
-----邮件原件-----
发件人: 西去的铃铛 <971651796@qq.com.INVALID&amp;amp;gt;
发送时间: 2022年10月21日 10:57
收件人: dev <dev@dolphinscheduler.apache.org&amp;amp;gt;
主题: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
因为我用的3.0版本,所以不太清楚1.3.3的原理
这个页面加载慢应该是读库比较慢吧,你们用的pg还是mysql?
------------------&amp;amp;amp;nbsp;原始邮件&amp;amp;amp;nbsp;------------------
发件人:&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp; "dev"&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp; <ganbr@igwfmc.com&amp;amp;amp;gt;;
发送时间:&amp;amp;amp;nbsp;2022年10月21日(星期五) 上午10:53
收件人:&amp;amp;amp;nbsp;"dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org&amp;amp;amp;gt;;
主题:&amp;amp;amp;nbsp;dolphinscheduler工作流实例和任务实例页面加载缓慢问题
Hello,我使用ds1.3.3的版本,工作流实例和任务实例页面加载非常的缓慢,经常要5s+甚至10+以上,请问下有什么可以优化的办法吗?
Process_instance表数据量大概在100w
Task_instance表数据量大概在250w
Process_definition表数据大概在2000条
[cid:image002.png@01D8E539.E2410C40]
甘博瑞 Gan.Bo Rui
数据开发工程师,信息技术部
景顺长城基金管理有限公司
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
答复: 回复:答复: 回复:答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
Posted by "Gan.Bo Rui" <ga...@igwfmc.com>.
Project_id应该可以用 KEY `process_definition_index` (`project_id`,`id`) USING BTREE 这个索引。
我尝试了使用id进行排序,速度和start_time加索引几乎一致,大概都是5s+
Explain的内容如下:
[cid:image001.png@01D8E550.D67C3BC0]
大佬看看还有什么可以优化的地方吗?
-----邮件原件-----
发件人: 西去的铃铛 <97...@qq.com.INVALID>
发送时间: 2022年10月21日 13:05
收件人: dev@dolphinscheduler.apache.org
主题: 回复:答复: 回复:答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
我看了下表结构,表关联基本上都能用上索引,但是where条件没有。
建议:
1、t_ds_process_definition这张表给 project_id 加个索引
2、sql语句能否给按照t_ds_task_instance表的id进行排序,这样基本上就可以秒级查询了。如果必须要按照start_time排序,那就给start_time加个索引(不建议)。
另外历史任务实例直接删掉就行了,保持在10w以内也可以做到1s内查询
------------------ 原始邮件 ------------------
发件人: "dev" <ganbr@igwfmc.com>;
发送时间: 2022年10月21日(星期五) 中午12:10
收件人: "dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org>;
主题: 答复: 回复:答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
多谢大佬,见表语句放在附件里面了,辛苦大佬帮忙看看了
-----邮件原件-----
发件人: 西去的铃铛 <971651796@qq.com.INVALID>
发送时间: 2022年10月21日 11:39
收件人: dev <dev@dolphinscheduler.apache.org>
主题: 回复:答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
任务实例历史的其实没啥用可以删掉,索引的话你把表结构发我下,我帮你看,这个很简单的。
------------------&nbsp;原始邮件&nbsp;------------------
发件人: "dev" <ganbr@igwfmc.com&gt;;
发送时间:&nbsp;2022年10月21日(星期五) 中午11:08
收件人:&nbsp;"dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org&gt;;
主题:&nbsp;答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
昨天尝试了集中索引的建立方式都没有加快速度,大佬帮忙看看需要怎么建立索引,sql如下:
select instance.*,process.name as process_instance_name &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; from t_ds_task_instance instance &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; join t_ds_process_definition define ON instance.process_definition_id = define.id &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; join&nbsp; t_ds_process_instance process on process.id=instance.process_instance_id
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; where define.project_id = #{projectId} &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; order by instance.start_time desc
目前我们200w的任务实例中,工作流定义的个数是1392个
-----邮件原件-----
发件人: 西去的铃铛 <971651796@qq.com.INVALID&gt;
发送时间: 2022年10月21日 11:04
收件人: dev <dev@dolphinscheduler.apache.org&gt;
主题: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
才200多万,看来问题不大,直接建一下索引,数据库加载慢的问题就解决了,话说你们现在200w任务实例,大概有多少个工作流?
------------------&amp;nbsp;原始邮件&amp;nbsp;------------------
发件人:&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; "dev"&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <ganbr@igwfmc.com&amp;gt;;
发送时间:&amp;nbsp;2022年10月21日(星期五) 上午10:59
收件人:&amp;nbsp;"dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org&amp;gt;;
主题:&amp;nbsp;答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
我用的mysql,是数据库的问题,task_instance的表数据量超过200w了,3.0版本在这部分有优化吗?
-----邮件原件-----
发件人: 西去的铃铛 <971651796@qq.com.INVALID&amp;gt;
发送时间: 2022年10月21日 10:57
收件人: dev <dev@dolphinscheduler.apache.org&amp;gt;
主题: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
因为我用的3.0版本,所以不太清楚1.3.3的原理
这个页面加载慢应该是读库比较慢吧,你们用的pg还是mysql?
------------------&amp;amp;nbsp;原始邮件&amp;amp;nbsp;------------------
发件人:&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp; "dev"&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp; <ganbr@igwfmc.com&amp;amp;gt;;
发送时间:&amp;amp;nbsp;2022年10月21日(星期五) 上午10:53
收件人:&amp;amp;nbsp;"dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org&amp;amp;gt;;
主题:&amp;amp;nbsp;dolphinscheduler工作流实例和任务实例页面加载缓慢问题
Hello,我使用ds1.3.3的版本,工作流实例和任务实例页面加载非常的缓慢,经常要5s+甚至10+以上,请问下有什么可以优化的办法吗?
Process_instance表数据量大概在100w
Task_instance表数据量大概在250w
Process_definition表数据大概在2000条
[cid:image002.png@01D8E539.E2410C40]
甘博瑞 Gan.Bo Rui
数据开发工程师,信息技术部
景顺长城基金管理有限公司
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
回复:答复: 回复:答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
Posted by 西去的铃铛 <97...@qq.com.INVALID>.
我看了下表结构,表关联基本上都能用上索引,但是where条件没有。
建议:
1、t_ds_process_definition这张表给 project_id 加个索引
2、sql语句能否给按照t_ds_task_instance表的id进行排序,这样基本上就可以秒级查询了。如果必须要按照start_time排序,那就给start_time加个索引(不建议)。
另外历史任务实例直接删掉就行了,保持在10w以内也可以做到1s内查询
------------------ 原始邮件 ------------------
发件人: "dev" <ganbr@igwfmc.com>;
发送时间: 2022年10月21日(星期五) 中午12:10
收件人: "dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org>;
主题: 答复: 回复:答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
多谢大佬,见表语句放在附件里面了,辛苦大佬帮忙看看了
-----邮件原件-----
发件人: 西去的铃铛 <971651796@qq.com.INVALID>
发送时间: 2022年10月21日 11:39
收件人: dev <dev@dolphinscheduler.apache.org>
主题: 回复:答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
任务实例历史的其实没啥用可以删掉,索引的话你把表结构发我下,我帮你看,这个很简单的。
------------------&nbsp;原始邮件&nbsp;------------------
发件人: "dev" <ganbr@igwfmc.com&gt;;
发送时间:&nbsp;2022年10月21日(星期五) 中午11:08
收件人:&nbsp;"dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org&gt;;
主题:&nbsp;答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
昨天尝试了集中索引的建立方式都没有加快速度,大佬帮忙看看需要怎么建立索引,sql如下:
select instance.*,process.name as process_instance_name &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; from t_ds_task_instance instance &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; join t_ds_process_definition define ON instance.process_definition_id = define.id &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; join&nbsp; t_ds_process_instance process on process.id=instance.process_instance_id
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; where define.project_id = #{projectId} &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; order by instance.start_time desc
目前我们200w的任务实例中,工作流定义的个数是1392个
-----邮件原件-----
发件人: 西去的铃铛 <971651796@qq.com.INVALID&gt;
发送时间: 2022年10月21日 11:04
收件人: dev <dev@dolphinscheduler.apache.org&gt;
主题: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
才200多万,看来问题不大,直接建一下索引,数据库加载慢的问题就解决了,话说你们现在200w任务实例,大概有多少个工作流?
------------------&amp;nbsp;原始邮件&amp;nbsp;------------------
发件人:&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; "dev"&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <ganbr@igwfmc.com&amp;gt;;
发送时间:&amp;nbsp;2022年10月21日(星期五) 上午10:59
收件人:&amp;nbsp;"dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org&amp;gt;;
主题:&amp;nbsp;答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
我用的mysql,是数据库的问题,task_instance的表数据量超过200w了,3.0版本在这部分有优化吗?
-----邮件原件-----
发件人: 西去的铃铛 <971651796@qq.com.INVALID&amp;gt;
发送时间: 2022年10月21日 10:57
收件人: dev <dev@dolphinscheduler.apache.org&amp;gt;
主题: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
因为我用的3.0版本,所以不太清楚1.3.3的原理
这个页面加载慢应该是读库比较慢吧,你们用的pg还是mysql?
------------------&amp;amp;nbsp;原始邮件&amp;amp;nbsp;------------------
发件人:&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp; "dev"&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp;&amp;nbsp; <ganbr@igwfmc.com&amp;amp;gt;;
发送时间:&amp;amp;nbsp;2022年10月21日(星期五) 上午10:53
收件人:&amp;amp;nbsp;"dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org&amp;amp;gt;;
主题:&amp;amp;nbsp;dolphinscheduler工作流实例和任务实例页面加载缓慢问题
Hello,我使用ds1.3.3的版本,工作流实例和任务实例页面加载非常的缓慢,经常要5s+甚至10+以上,请问下有什么可以优化的办法吗?
Process_instance表数据量大概在100w
Task_instance表数据量大概在250w
Process_definition表数据大概在2000条
[cid:image002.png@01D8E539.E2410C40]
甘博瑞 Gan.Bo Rui
数据开发工程师,信息技术部
景顺长城基金管理有限公司
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
答复: 回复:答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
Posted by "Gan.Bo Rui" <ga...@igwfmc.com>.
多谢大佬,见表语句放在附件里面了,辛苦大佬帮忙看看了
-----邮件原件-----
发件人: 西去的铃铛 <97...@qq.com.INVALID>
发送时间: 2022年10月21日 11:39
收件人: dev <de...@dolphinscheduler.apache.org>
主题: 回复:答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
任务实例历史的其实没啥用可以删掉,索引的话你把表结构发我下,我帮你看,这个很简单的。
------------------ 原始邮件 ------------------
发件人: "dev" <ganbr@igwfmc.com>;
发送时间: 2022年10月21日(星期五) 中午11:08
收件人: "dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org>;
主题: 答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
昨天尝试了集中索引的建立方式都没有加快速度,大佬帮忙看看需要怎么建立索引,sql如下:
select instance.*,process.name as process_instance_name from t_ds_task_instance instance join t_ds_process_definition define ON instance.process_definition_id = define.id join t_ds_process_instance process on process.id=instance.process_instance_id
where define.project_id = #{projectId} order by instance.start_time desc
目前我们200w的任务实例中,工作流定义的个数是1392个
-----邮件原件-----
发件人: 西去的铃铛 <971651796@qq.com.INVALID>
发送时间: 2022年10月21日 11:04
收件人: dev <dev@dolphinscheduler.apache.org>
主题: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
才200多万,看来问题不大,直接建一下索引,数据库加载慢的问题就解决了,话说你们现在200w任务实例,大概有多少个工作流?
------------------&nbsp;原始邮件&nbsp;------------------
发件人: "dev" <ganbr@igwfmc.com&gt;;
发送时间:&nbsp;2022年10月21日(星期五) 上午10:59
收件人:&nbsp;"dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org&gt;;
主题:&nbsp;答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
我用的mysql,是数据库的问题,task_instance的表数据量超过200w了,3.0版本在这部分有优化吗?
-----邮件原件-----
发件人: 西去的铃铛 <971651796@qq.com.INVALID&gt;
发送时间: 2022年10月21日 10:57
收件人: dev <dev@dolphinscheduler.apache.org&gt;
主题: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
因为我用的3.0版本,所以不太清楚1.3.3的原理
这个页面加载慢应该是读库比较慢吧,你们用的pg还是mysql?
------------------&amp;nbsp;原始邮件&amp;nbsp;------------------
发件人:&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; "dev"&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <ganbr@igwfmc.com&amp;gt;;
发送时间:&amp;nbsp;2022年10月21日(星期五) 上午10:53
收件人:&amp;nbsp;"dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org&amp;gt;;
主题:&amp;nbsp;dolphinscheduler工作流实例和任务实例页面加载缓慢问题
Hello,我使用ds1.3.3的版本,工作流实例和任务实例页面加载非常的缓慢,经常要5s+甚至10+以上,请问下有什么可以优化的办法吗?
Process_instance表数据量大概在100w
Task_instance表数据量大概在250w
Process_definition表数据大概在2000条
[cid:image002.png@01D8E539.E2410C40]
甘博瑞 Gan.Bo Rui
数据开发工程师,信息技术部
景顺长城基金管理有限公司
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
回复:答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
Posted by 西去的铃铛 <97...@qq.com.INVALID>.
任务实例历史的其实没啥用可以删掉,索引的话你把表结构发我下,我帮你看,这个很简单的。
------------------ 原始邮件 ------------------
发件人: "dev" <ganbr@igwfmc.com>;
发送时间: 2022年10月21日(星期五) 中午11:08
收件人: "dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org>;
主题: 答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
昨天尝试了集中索引的建立方式都没有加快速度,大佬帮忙看看需要怎么建立索引,sql如下:
select instance.*,process.name as process_instance_name
from t_ds_task_instance instance
join t_ds_process_definition define ON instance.process_definition_id = define.id
join t_ds_process_instance process on process.id=instance.process_instance_id
where define.project_id = #{projectId}
order by instance.start_time desc
目前我们200w的任务实例中,工作流定义的个数是1392个
-----邮件原件-----
发件人: 西去的铃铛 <971651796@qq.com.INVALID>
发送时间: 2022年10月21日 11:04
收件人: dev <dev@dolphinscheduler.apache.org>
主题: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
才200多万,看来问题不大,直接建一下索引,数据库加载慢的问题就解决了,话说你们现在200w任务实例,大概有多少个工作流?
------------------&nbsp;原始邮件&nbsp;------------------
发件人: "dev" <ganbr@igwfmc.com&gt;;
发送时间:&nbsp;2022年10月21日(星期五) 上午10:59
收件人:&nbsp;"dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org&gt;;
主题:&nbsp;答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
我用的mysql,是数据库的问题,task_instance的表数据量超过200w了,3.0版本在这部分有优化吗?
-----邮件原件-----
发件人: 西去的铃铛 <971651796@qq.com.INVALID&gt;
发送时间: 2022年10月21日 10:57
收件人: dev <dev@dolphinscheduler.apache.org&gt;
主题: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
因为我用的3.0版本,所以不太清楚1.3.3的原理
这个页面加载慢应该是读库比较慢吧,你们用的pg还是mysql?
------------------&amp;nbsp;原始邮件&amp;nbsp;------------------
发件人:&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; "dev"&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <ganbr@igwfmc.com&amp;gt;;
发送时间:&amp;nbsp;2022年10月21日(星期五) 上午10:53
收件人:&amp;nbsp;"dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org&amp;gt;;
主题:&amp;nbsp;dolphinscheduler工作流实例和任务实例页面加载缓慢问题
Hello,我使用ds1.3.3的版本,工作流实例和任务实例页面加载非常的缓慢,经常要5s+甚至10+以上,请问下有什么可以优化的办法吗?
Process_instance表数据量大概在100w
Task_instance表数据量大概在250w
Process_definition表数据大概在2000条
[cid:image002.png@01D8E539.E2410C40]
甘博瑞 Gan.Bo Rui
数据开发工程师,信息技术部
景顺长城基金管理有限公司
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
答复: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
Posted by "Gan.Bo Rui" <ga...@igwfmc.com>.
昨天尝试了集中索引的建立方式都没有加快速度,大佬帮忙看看需要怎么建立索引,sql如下:
select instance.*,process.name as process_instance_name
from t_ds_task_instance instance
join t_ds_process_definition define ON instance.process_definition_id = define.id
join t_ds_process_instance process on process.id=instance.process_instance_id
where define.project_id = #{projectId}
order by instance.start_time desc
目前我们200w的任务实例中,工作流定义的个数是1392个
-----邮件原件-----
发件人: 西去的铃铛 <97...@qq.com.INVALID>
发送时间: 2022年10月21日 11:04
收件人: dev <de...@dolphinscheduler.apache.org>
主题: 回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
才200多万,看来问题不大,直接建一下索引,数据库加载慢的问题就解决了,话说你们现在200w任务实例,大概有多少个工作流?
------------------ 原始邮件 ------------------
发件人: "dev" <ganbr@igwfmc.com>;
发送时间: 2022年10月21日(星期五) 上午10:59
收件人: "dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org>;
主题: 答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
我用的mysql,是数据库的问题,task_instance的表数据量超过200w了,3.0版本在这部分有优化吗?
-----邮件原件-----
发件人: 西去的铃铛 <971651796@qq.com.INVALID>
发送时间: 2022年10月21日 10:57
收件人: dev <dev@dolphinscheduler.apache.org>
主题: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
因为我用的3.0版本,所以不太清楚1.3.3的原理
这个页面加载慢应该是读库比较慢吧,你们用的pg还是mysql?
------------------&nbsp;原始邮件&nbsp;------------------
发件人: "dev" <ganbr@igwfmc.com&gt;;
发送时间:&nbsp;2022年10月21日(星期五) 上午10:53
收件人:&nbsp;"dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org&gt;;
主题:&nbsp;dolphinscheduler工作流实例和任务实例页面加载缓慢问题
Hello,我使用ds1.3.3的版本,工作流实例和任务实例页面加载非常的缓慢,经常要5s+甚至10+以上,请问下有什么可以优化的办法吗?
Process_instance表数据量大概在100w
Task_instance表数据量大概在250w
Process_definition表数据大概在2000条
[cid:image002.png@01D8E539.E2410C40]
甘博瑞 Gan.Bo Rui
数据开发工程师,信息技术部
景顺长城基金管理有限公司
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
回复:答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
Posted by 西去的铃铛 <97...@qq.com.INVALID>.
才200多万,看来问题不大,直接建一下索引,数据库加载慢的问题就解决了,话说你们现在200w任务实例,大概有多少个工作流?
------------------ 原始邮件 ------------------
发件人: "dev" <ganbr@igwfmc.com>;
发送时间: 2022年10月21日(星期五) 上午10:59
收件人: "dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org>;
主题: 答复: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
我用的mysql,是数据库的问题,task_instance的表数据量超过200w了,3.0版本在这部分有优化吗?
-----邮件原件-----
发件人: 西去的铃铛 <971651796@qq.com.INVALID>
发送时间: 2022年10月21日 10:57
收件人: dev <dev@dolphinscheduler.apache.org>
主题: 回复:dolphinscheduler工作流实例和任务实例页面加载缓慢问题
因为我用的3.0版本,所以不太清楚1.3.3的原理
这个页面加载慢应该是读库比较慢吧,你们用的pg还是mysql?
------------------&nbsp;原始邮件&nbsp;------------------
发件人: "dev" <ganbr@igwfmc.com&gt;;
发送时间:&nbsp;2022年10月21日(星期五) 上午10:53
收件人:&nbsp;"dev@dolphinscheduler.apache.org"<dev@dolphinscheduler.apache.org&gt;;
主题:&nbsp;dolphinscheduler工作流实例和任务实例页面加载缓慢问题
Hello,我使用ds1.3.3的版本,工作流实例和任务实例页面加载非常的缓慢,经常要5s+甚至10+以上,请问下有什么可以优化的办法吗?
Process_instance表数据量大概在100w
Task_instance表数据量大概在250w
Process_definition表数据大概在2000条
[cid:image002.png@01D8E539.E2410C40]
甘博瑞 Gan.Bo Rui
数据开发工程师,信息技术部
景顺长城基金管理有限公司
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。
-----------------------------------------------------------------------
保密条款:本邮件及其附件中可能包含景顺长城基金管理有限公司的机密或特许
信息,这些信息只提供给上述地址指定的人员或机构使用。禁止除收件人以外的
任何人或机构阅览,转发本信息或据此信息采取其他的任何行动。如果您错误地
接收到此邮件,请与发件人联系并在您的电脑中删除这些信息。