You are viewing a plain text version of this content. The canonical link for it is here.
Posted to github@datafusion.apache.org by "alamb (via GitHub)" <gi...@apache.org> on 2025/05/09 19:59:54 UTC
[PR] Update arrow/parquet `55.1.0` [datafusion]
alamb opened a new pull request, #16012:
URL: https://github.com/apache/datafusion/pull/16012
## Which issue does this PR close?
N/a
## Rationale for this change
We released a new version of arrow which is faster and better, so let's update it in DataFusion
## What changes are included in this PR?
Update to latest arrow
## Are these changes tested?
By existing tests
## Are there any user-facing changes?
No
<!--
If there are user-facing changes then we may require documentation to be updated before approving the PR.
-->
<!--
If there are any breaking changes to public APIs, please add the `api change` label.
-->
--
This is an automated message from the Apache Git Service.
To respond to the message, please log on to GitHub and use the
URL above to go to the specific comment.
To unsubscribe, e-mail: github-unsubscribe@datafusion.apache.org
For queries about this service, please contact Infrastructure at:
users@infra.apache.org
---------------------------------------------------------------------
To unsubscribe, e-mail: github-unsubscribe@datafusion.apache.org
For additional commands, e-mail: github-help@datafusion.apache.org
Re: [PR] Update arrow/parquet `55.1.0` [datafusion]
Posted by "alamb (via GitHub)" <gi...@apache.org>.
alamb commented on code in PR #16012:
URL: https://github.com/apache/datafusion/pull/16012#discussion_r2082424139
##########
datafusion/sqllogictest/test_files/struct.slt:
##########
@@ -53,9 +53,9 @@ select * from struct_values;
query TT
select arrow_typeof(s1), arrow_typeof(s2) from struct_values;
----
-Struct([Field { name: "c0", data_type: Int32, nullable: true, dict_id: 0, dict_is_ordered: false, metadata: {} }]) Struct([Field { name: "a", data_type: Int32, nullable: true, dict_id: 0, dict_is_ordered: false, metadata: {} }, Field { name: "b", data_type: Utf8, nullable: true, dict_id: 0, dict_is_ordered: false, metadata: {} }])
-Struct([Field { name: "c0", data_type: Int32, nullable: true, dict_id: 0, dict_is_ordered: false, metadata: {} }]) Struct([Field { name: "a", data_type: Int32, nullable: true, dict_id: 0, dict_is_ordered: false, metadata: {} }, Field { name: "b", data_type: Utf8, nullable: true, dict_id: 0, dict_is_ordered: false, metadata: {} }])
-Struct([Field { name: "c0", data_type: Int32, nullable: true, dict_id: 0, dict_is_ordered: false, metadata: {} }]) Struct([Field { name: "a", data_type: Int32, nullable: true, dict_id: 0, dict_is_ordered: false, metadata: {} }, Field { name: "b", data_type: Utf8, nullable: true, dict_id: 0, dict_is_ordered: false, metadata: {} }])
+Struct(c0 Int32) Struct(a Int32, b Utf8)
Review Comment:
This change is due to how Struct's are displayed due to
- https://github.com/apache/arrow-rs/pull/7469
from @goldmedal โค๏ธ
--
This is an automated message from the Apache Git Service.
To respond to the message, please log on to GitHub and use the
URL above to go to the specific comment.
To unsubscribe, e-mail: github-unsubscribe@datafusion.apache.org
For queries about this service, please contact Infrastructure at:
users@infra.apache.org
---------------------------------------------------------------------
To unsubscribe, e-mail: github-unsubscribe@datafusion.apache.org
For additional commands, e-mail: github-help@datafusion.apache.org
Re: [PR] Update Dependency to arrow/parquet `55.1.0` [datafusion]
Posted by "alamb (via GitHub)" <gi...@apache.org>.
alamb commented on PR #16012:
URL: https://github.com/apache/datafusion/pull/16012#issuecomment-2869787134
๐ค `./gh_compare_branch.sh` [Benchmark Script](https://github.com/alamb/datafusion-benchmarking/blob/main/gh_compare_branch.sh) Running
Linux aal-dev 6.11.0-1013-gcp #13~24.04.1-Ubuntu SMP Wed Apr 2 16:34:16 UTC 2025 x86_64 x86_64 x86_64 GNU/Linux
Comparing alamb/arrow_55.1_update (28d2bfe7bf641d46a18c6a4ef0f2eb966d2d3ab1) to e917167adfe02c6ebadbc8c93cf85b643734d3de [diff](https://github.com/apache/datafusion/compare/e917167adfe02c6ebadbc8c93cf85b643734d3de..28d2bfe7bf641d46a18c6a4ef0f2eb966d2d3ab1)
Benchmarks: tpch_mem clickbench_partitioned clickbench_extended
Results will be posted here when complete
--
This is an automated message from the Apache Git Service.
To respond to the message, please log on to GitHub and use the
URL above to go to the specific comment.
To unsubscribe, e-mail: github-unsubscribe@datafusion.apache.org
For queries about this service, please contact Infrastructure at:
users@infra.apache.org
---------------------------------------------------------------------
To unsubscribe, e-mail: github-unsubscribe@datafusion.apache.org
For additional commands, e-mail: github-help@datafusion.apache.org
Re: [PR] Update Dependency to arrow/parquet `55.1.0` [datafusion]
Posted by "alamb (via GitHub)" <gi...@apache.org>.
alamb commented on PR #16012:
URL: https://github.com/apache/datafusion/pull/16012#issuecomment-2869783033
๐ค: Benchmark completed
<details><summary>Details</summary>
<p>
```
Comparing HEAD and alamb_arrow_55.1_update
--------------------
Benchmark clickbench_extended.json
--------------------
โโโโโโโโโโโโโโโโณโโโโโโโโโโโโโณโโโโโโโโโโโโโโโโโณโโโโโโโโโโโโโโโ
โ Query โ HEAD โ alamb_arrow_55 โ Change โ
โกโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฉ
โ QQuery 0 โ 1939.57ms โ 1950.57ms โ no change โ
โ QQuery 1 โ 705.73ms โ 770.65ms โ 1.09x slower โ
โ QQuery 2 โ 1458.32ms โ 1524.57ms โ no change โ
โ QQuery 3 โ 712.94ms โ 700.11ms โ no change โ
โ QQuery 4 โ 1483.83ms โ 1471.76ms โ no change โ
โ QQuery 5 โ 15220.92ms โ 15441.21ms โ no change โ
โ QQuery 6 โ 2081.81ms โ 2049.23ms โ no change โ
โ QQuery 7 โ 2109.84ms โ 2104.05ms โ no change โ
โโโโโโโโโโโโโโโโดโโโโโโโโโโโโโดโโโโโโโโโโโโโโโโโดโโโโโโโโโโโโโโโ
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโณโโโโโโโโโโโโโ
โ Benchmark Summary โ โ
โกโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฉ
โ Total Time (HEAD) โ 25712.97ms โ
โ Total Time (alamb_arrow_55) โ 26012.14ms โ
โ Average Time (HEAD) โ 3214.12ms โ
โ Average Time (alamb_arrow_55) โ 3251.52ms โ
โ Queries Faster โ 0 โ
โ Queries Slower โ 1 โ
โ Queries with No Change โ 7 โ
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโดโโโโโโโโโโโโโ
--------------------
Benchmark clickbench_partitioned.json
--------------------
โโโโโโโโโโโโโโโโณโโโโโโโโโโโโโณโโโโโโโโโโโโโโโโโณโโโโโโโโโโโโโโโโ
โ Query โ HEAD โ alamb_arrow_55 โ Change โ
โกโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฉ
โ QQuery 0 โ 2.68ms โ 2.29ms โ +1.17x faster โ
โ QQuery 1 โ 35.73ms โ 33.43ms โ +1.07x faster โ
โ QQuery 2 โ 91.06ms โ 80.80ms โ +1.13x faster โ
โ QQuery 3 โ 98.86ms โ 99.40ms โ no change โ
โ QQuery 4 โ 599.99ms โ 586.07ms โ no change โ
โ QQuery 5 โ 871.20ms โ 860.61ms โ no change โ
โ QQuery 6 โ 2.28ms โ 2.43ms โ 1.07x slower โ
โ QQuery 7 โ 39.41ms โ 39.77ms โ no change โ
โ QQuery 8 โ 941.58ms โ 912.26ms โ no change โ
โ QQuery 9 โ 1225.47ms โ 1195.67ms โ no change โ
โ QQuery 10 โ 265.98ms โ 275.35ms โ no change โ
โ QQuery 11 โ 299.19ms โ 306.62ms โ no change โ
โ QQuery 12 โ 917.43ms โ 931.11ms โ no change โ
โ QQuery 13 โ 1203.77ms โ 1369.47ms โ 1.14x slower โ
โ QQuery 14 โ 853.02ms โ 838.70ms โ no change โ
โ QQuery 15 โ 827.23ms โ 835.64ms โ no change โ
โ QQuery 16 โ 1727.22ms โ 1787.92ms โ no change โ
โ QQuery 17 โ 1606.04ms โ 1627.70ms โ no change โ
โ QQuery 18 โ 3108.38ms โ 3221.40ms โ no change โ
โ QQuery 19 โ 86.81ms โ 84.92ms โ no change โ
โ QQuery 20 โ 1161.70ms โ 1145.48ms โ no change โ
โ QQuery 21 โ 1372.86ms โ 1324.18ms โ no change โ
โ QQuery 22 โ 2299.74ms โ 2200.61ms โ no change โ
โ QQuery 23 โ 8332.64ms โ 8139.88ms โ no change โ
โ QQuery 24 โ 502.71ms โ 481.84ms โ no change โ
โ QQuery 25 โ 411.73ms โ 391.35ms โ no change โ
โ QQuery 26 โ 534.52ms โ 537.62ms โ no change โ
โ QQuery 27 โ 1639.04ms โ 1568.02ms โ no change โ
โ QQuery 28 โ 12703.37ms โ 12544.14ms โ no change โ
โ QQuery 29 โ 536.75ms โ 520.70ms โ no change โ
โ QQuery 30 โ 834.36ms โ 808.62ms โ no change โ
โ QQuery 31 โ 883.49ms โ 877.59ms โ no change โ
โ QQuery 32 โ 2708.81ms โ 2712.81ms โ no change โ
โ QQuery 33 โ 3402.12ms โ 3376.86ms โ no change โ
โ QQuery 34 โ 3415.72ms โ 3444.39ms โ no change โ
โ QQuery 35 โ 1292.33ms โ 1321.35ms โ no change โ
โ QQuery 36 โ 127.33ms โ 134.75ms โ 1.06x slower โ
โ QQuery 37 โ 58.09ms โ 56.91ms โ no change โ
โ QQuery 38 โ 125.47ms โ 125.96ms โ no change โ
โ QQuery 39 โ 212.57ms โ 202.05ms โ no change โ
โ QQuery 40 โ 50.66ms โ 49.56ms โ no change โ
โ QQuery 41 โ 47.47ms โ 46.50ms โ no change โ
โ QQuery 42 โ 41.19ms โ 40.34ms โ no change โ
โโโโโโโโโโโโโโโโดโโโโโโโโโโโโโดโโโโโโโโโโโโโโโโโดโโโโโโโโโโโโโโโโ
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโณโโโโโโโโโโโโโ
โ Benchmark Summary โ โ
โกโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฉ
โ Total Time (HEAD) โ 57498.02ms โ
โ Total Time (alamb_arrow_55) โ 57143.10ms โ
โ Average Time (HEAD) โ 1337.16ms โ
โ Average Time (alamb_arrow_55) โ 1328.91ms โ
โ Queries Faster โ 3 โ
โ Queries Slower โ 3 โ
โ Queries with No Change โ 37 โ
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโดโโโโโโโโโโโโโ
--------------------
Benchmark tpch_mem_sf1.json
--------------------
โโโโโโโโโโโโโโโโณโโโโโโโโโโโณโโโโโโโโโโโโโโโโโณโโโโโโโโโโโโโโโโ
โ Query โ HEAD โ alamb_arrow_55 โ Change โ
โกโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฉ
โ QQuery 1 โ 122.38ms โ 122.61ms โ no change โ
โ QQuery 2 โ 23.60ms โ 23.59ms โ no change โ
โ QQuery 3 โ 34.71ms โ 35.52ms โ no change โ
โ QQuery 4 โ 20.66ms โ 20.08ms โ no change โ
โ QQuery 5 โ 55.29ms โ 56.63ms โ no change โ
โ QQuery 6 โ 12.11ms โ 12.50ms โ no change โ
โ QQuery 7 โ 99.59ms โ 102.64ms โ no change โ
โ QQuery 8 โ 26.12ms โ 26.99ms โ no change โ
โ QQuery 9 โ 61.01ms โ 64.36ms โ 1.05x slower โ
โ QQuery 10 โ 57.70ms โ 56.95ms โ no change โ
โ QQuery 11 โ 12.87ms โ 12.44ms โ no change โ
โ QQuery 12 โ 44.59ms โ 44.56ms โ no change โ
โ QQuery 13 โ 31.74ms โ 30.05ms โ +1.06x faster โ
โ QQuery 14 โ 9.79ms โ 10.38ms โ 1.06x slower โ
โ QQuery 15 โ 25.51ms โ 24.99ms โ no change โ
โ QQuery 16 โ 23.40ms โ 23.50ms โ no change โ
โ QQuery 17 โ 99.95ms โ 97.90ms โ no change โ
โ QQuery 18 โ 237.30ms โ 241.47ms โ no change โ
โ QQuery 19 โ 27.30ms โ 26.34ms โ no change โ
โ QQuery 20 โ 38.69ms โ 37.91ms โ no change โ
โ QQuery 21 โ 162.77ms โ 168.19ms โ no change โ
โ QQuery 22 โ 16.84ms โ 18.02ms โ 1.07x slower โ
โโโโโโโโโโโโโโโโดโโโโโโโโโโโดโโโโโโโโโโโโโโโโโดโโโโโโโโโโโโโโโโ
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโณโโโโโโโโโโโโ
โ Benchmark Summary โ โ
โกโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฉ
โ Total Time (HEAD) โ 1243.90ms โ
โ Total Time (alamb_arrow_55) โ 1257.59ms โ
โ Average Time (HEAD) โ 56.54ms โ
โ Average Time (alamb_arrow_55) โ 57.16ms โ
โ Queries Faster โ 1 โ
โ Queries Slower โ 3 โ
โ Queries with No Change โ 18 โ
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโดโโโโโโโโโโโโ
```
</p>
</details>
--
This is an automated message from the Apache Git Service.
To respond to the message, please log on to GitHub and use the
URL above to go to the specific comment.
To unsubscribe, e-mail: github-unsubscribe@datafusion.apache.org
For queries about this service, please contact Infrastructure at:
users@infra.apache.org
---------------------------------------------------------------------
To unsubscribe, e-mail: github-unsubscribe@datafusion.apache.org
For additional commands, e-mail: github-help@datafusion.apache.org
Re: [PR] Update Dependency to arrow/parquet `55.1.0` [datafusion]
Posted by "alamb (via GitHub)" <gi...@apache.org>.
alamb commented on PR #16012:
URL: https://github.com/apache/datafusion/pull/16012#issuecomment-2869817974
๐ค: Benchmark completed
<details><summary>Details</summary>
<p>
```
Comparing HEAD and alamb_arrow_55.1_update
--------------------
Benchmark clickbench_extended.json
--------------------
โโโโโโโโโโโโโโโโณโโโโโโโโโโโโโณโโโโโโโโโโโโโโโโโณโโโโโโโโโโโโโโโ
โ Query โ HEAD โ alamb_arrow_55 โ Change โ
โกโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฉ
โ QQuery 0 โ 1847.47ms โ 2016.58ms โ 1.09x slower โ
โ QQuery 1 โ 727.12ms โ 767.22ms โ 1.06x slower โ
โ QQuery 2 โ 1498.66ms โ 1527.58ms โ no change โ
โ QQuery 3 โ 710.80ms โ 696.36ms โ no change โ
โ QQuery 4 โ 1455.76ms โ 1483.60ms โ no change โ
โ QQuery 5 โ 15163.59ms โ 15562.47ms โ no change โ
โ QQuery 6 โ 2072.26ms โ 2055.35ms โ no change โ
โ QQuery 7 โ 2096.08ms โ 2114.92ms โ no change โ
โโโโโโโโโโโโโโโโดโโโโโโโโโโโโโดโโโโโโโโโโโโโโโโโดโโโโโโโโโโโโโโโ
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโณโโโโโโโโโโโโโ
โ Benchmark Summary โ โ
โกโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฉ
โ Total Time (HEAD) โ 25571.73ms โ
โ Total Time (alamb_arrow_55) โ 26224.08ms โ
โ Average Time (HEAD) โ 3196.47ms โ
โ Average Time (alamb_arrow_55) โ 3278.01ms โ
โ Queries Faster โ 0 โ
โ Queries Slower โ 2 โ
โ Queries with No Change โ 6 โ
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโดโโโโโโโโโโโโโ
--------------------
Benchmark clickbench_partitioned.json
--------------------
โโโโโโโโโโโโโโโโณโโโโโโโโโโโโโณโโโโโโโโโโโโโโโโโณโโโโโโโโโโโโโโโโ
โ Query โ HEAD โ alamb_arrow_55 โ Change โ
โกโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฉ
โ QQuery 0 โ 2.91ms โ 2.26ms โ +1.29x faster โ
โ QQuery 1 โ 35.87ms โ 34.73ms โ no change โ
โ QQuery 2 โ 89.11ms โ 82.23ms โ +1.08x faster โ
โ QQuery 3 โ 94.75ms โ 97.07ms โ no change โ
โ QQuery 4 โ 590.43ms โ 616.38ms โ no change โ
โ QQuery 5 โ 877.32ms โ 879.77ms โ no change โ
โ QQuery 6 โ 2.21ms โ 2.34ms โ 1.06x slower โ
โ QQuery 7 โ 42.68ms โ 39.36ms โ +1.08x faster โ
โ QQuery 8 โ 912.70ms โ 918.78ms โ no change โ
โ QQuery 9 โ 1251.80ms โ 1221.93ms โ no change โ
โ QQuery 10 โ 266.20ms โ 272.15ms โ no change โ
โ QQuery 11 โ 303.41ms โ 302.74ms โ no change โ
โ QQuery 12 โ 926.72ms โ 926.60ms โ no change โ
โ QQuery 13 โ 1387.87ms โ 1371.03ms โ no change โ
โ QQuery 14 โ 859.12ms โ 844.95ms โ no change โ
โ QQuery 15 โ 828.90ms โ 841.38ms โ no change โ
โ QQuery 16 โ 1759.80ms โ 1753.64ms โ no change โ
โ QQuery 17 โ 1612.44ms โ 1617.06ms โ no change โ
โ QQuery 18 โ 3137.66ms โ 3111.22ms โ no change โ
โ QQuery 19 โ 85.16ms โ 87.28ms โ no change โ
โ QQuery 20 โ 1180.66ms โ 1153.31ms โ no change โ
โ QQuery 21 โ 1359.60ms โ 1328.06ms โ no change โ
โ QQuery 22 โ 2298.38ms โ 2183.24ms โ +1.05x faster โ
โ QQuery 23 โ 8527.02ms โ 8163.65ms โ no change โ
โ QQuery 24 โ 476.94ms โ 477.00ms โ no change โ
โ QQuery 25 โ 395.62ms โ 393.54ms โ no change โ
โ QQuery 26 โ 538.29ms โ 546.49ms โ no change โ
โ QQuery 27 โ 1628.47ms โ 1582.39ms โ no change โ
โ QQuery 28 โ 12666.46ms โ 12606.38ms โ no change โ
โ QQuery 29 โ 529.46ms โ 519.97ms โ no change โ
โ QQuery 30 โ 840.65ms โ 810.62ms โ no change โ
โ QQuery 31 โ 867.81ms โ 872.57ms โ no change โ
โ QQuery 32 โ 2700.08ms โ 2691.83ms โ no change โ
โ QQuery 33 โ 3395.85ms โ 3441.51ms โ no change โ
โ QQuery 34 โ 3413.66ms โ 3400.73ms โ no change โ
โ QQuery 35 โ 1278.30ms โ 1282.92ms โ no change โ
โ QQuery 36 โ 130.49ms โ 128.07ms โ no change โ
โ QQuery 37 โ 56.36ms โ 55.83ms โ no change โ
โ QQuery 38 โ 129.83ms โ 126.73ms โ no change โ
โ QQuery 39 โ 206.59ms โ 201.20ms โ no change โ
โ QQuery 40 โ 52.33ms โ 48.97ms โ +1.07x faster โ
โ QQuery 41 โ 47.52ms โ 45.43ms โ no change โ
โ QQuery 42 โ 39.96ms โ 38.74ms โ no change โ
โโโโโโโโโโโโโโโโดโโโโโโโโโโโโโดโโโโโโโโโโโโโโโโโดโโโโโโโโโโโโโโโโ
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโณโโโโโโโโโโโโโ
โ Benchmark Summary โ โ
โกโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฉ
โ Total Time (HEAD) โ 57827.39ms โ
โ Total Time (alamb_arrow_55) โ 57122.10ms โ
โ Average Time (HEAD) โ 1344.82ms โ
โ Average Time (alamb_arrow_55) โ 1328.42ms โ
โ Queries Faster โ 5 โ
โ Queries Slower โ 1 โ
โ Queries with No Change โ 37 โ
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโดโโโโโโโโโโโโโ
--------------------
Benchmark tpch_mem_sf1.json
--------------------
โโโโโโโโโโโโโโโโณโโโโโโโโโโโณโโโโโโโโโโโโโโโโโณโโโโโโโโโโโโ
โ Query โ HEAD โ alamb_arrow_55 โ Change โ
โกโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฉ
โ QQuery 1 โ 128.20ms โ 126.00ms โ no change โ
โ QQuery 2 โ 23.97ms โ 24.07ms โ no change โ
โ QQuery 3 โ 35.22ms โ 35.59ms โ no change โ
โ QQuery 4 โ 20.46ms โ 19.88ms โ no change โ
โ QQuery 5 โ 57.30ms โ 55.48ms โ no change โ
โ QQuery 6 โ 12.25ms โ 12.52ms โ no change โ
โ QQuery 7 โ 101.77ms โ 103.47ms โ no change โ
โ QQuery 8 โ 26.31ms โ 25.77ms โ no change โ
โ QQuery 9 โ 62.65ms โ 62.60ms โ no change โ
โ QQuery 10 โ 58.49ms โ 59.44ms โ no change โ
โ QQuery 11 โ 13.37ms โ 12.85ms โ no change โ
โ QQuery 12 โ 45.51ms โ 47.61ms โ no change โ
โ QQuery 13 โ 31.11ms โ 30.95ms โ no change โ
โ QQuery 14 โ 10.34ms โ 10.11ms โ no change โ
โ QQuery 15 โ 24.67ms โ 25.73ms โ no change โ
โ QQuery 16 โ 23.04ms โ 23.03ms โ no change โ
โ QQuery 17 โ 100.54ms โ 100.69ms โ no change โ
โ QQuery 18 โ 236.88ms โ 244.04ms โ no change โ
โ QQuery 19 โ 26.62ms โ 26.97ms โ no change โ
โ QQuery 20 โ 39.49ms โ 39.53ms โ no change โ
โ QQuery 21 โ 174.27ms โ 174.51ms โ no change โ
โ QQuery 22 โ 16.87ms โ 17.29ms โ no change โ
โโโโโโโโโโโโโโโโดโโโโโโโโโโโดโโโโโโโโโโโโโโโโโดโโโโโโโโโโโโ
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโณโโโโโโโโโโโโ
โ Benchmark Summary โ โ
โกโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฉ
โ Total Time (HEAD) โ 1269.32ms โ
โ Total Time (alamb_arrow_55) โ 1278.13ms โ
โ Average Time (HEAD) โ 57.70ms โ
โ Average Time (alamb_arrow_55) โ 58.10ms โ
โ Queries Faster โ 0 โ
โ Queries Slower โ 0 โ
โ Queries with No Change โ 22 โ
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโดโโโโโโโโโโโโ
```
</p>
</details>
--
This is an automated message from the Apache Git Service.
To respond to the message, please log on to GitHub and use the
URL above to go to the specific comment.
To unsubscribe, e-mail: github-unsubscribe@datafusion.apache.org
For queries about this service, please contact Infrastructure at:
users@infra.apache.org
---------------------------------------------------------------------
To unsubscribe, e-mail: github-unsubscribe@datafusion.apache.org
For additional commands, e-mail: github-help@datafusion.apache.org
Re: [PR] Update arrow/parquet `55.1.0` [datafusion]
Posted by "alamb (via GitHub)" <gi...@apache.org>.
alamb commented on code in PR #16012:
URL: https://github.com/apache/datafusion/pull/16012#discussion_r2082424139
##########
datafusion/sqllogictest/test_files/struct.slt:
##########
@@ -53,9 +53,9 @@ select * from struct_values;
query TT
select arrow_typeof(s1), arrow_typeof(s2) from struct_values;
----
-Struct([Field { name: "c0", data_type: Int32, nullable: true, dict_id: 0, dict_is_ordered: false, metadata: {} }]) Struct([Field { name: "a", data_type: Int32, nullable: true, dict_id: 0, dict_is_ordered: false, metadata: {} }, Field { name: "b", data_type: Utf8, nullable: true, dict_id: 0, dict_is_ordered: false, metadata: {} }])
-Struct([Field { name: "c0", data_type: Int32, nullable: true, dict_id: 0, dict_is_ordered: false, metadata: {} }]) Struct([Field { name: "a", data_type: Int32, nullable: true, dict_id: 0, dict_is_ordered: false, metadata: {} }, Field { name: "b", data_type: Utf8, nullable: true, dict_id: 0, dict_is_ordered: false, metadata: {} }])
-Struct([Field { name: "c0", data_type: Int32, nullable: true, dict_id: 0, dict_is_ordered: false, metadata: {} }]) Struct([Field { name: "a", data_type: Int32, nullable: true, dict_id: 0, dict_is_ordered: false, metadata: {} }, Field { name: "b", data_type: Utf8, nullable: true, dict_id: 0, dict_is_ordered: false, metadata: {} }])
+Struct(c0 Int32) Struct(a Int32, b Utf8)
Review Comment:
This change is due to
- https://github.com/apache/arrow-rs/pull/7469
from @goldmedal โค๏ธ
--
This is an automated message from the Apache Git Service.
To respond to the message, please log on to GitHub and use the
URL above to go to the specific comment.
To unsubscribe, e-mail: github-unsubscribe@datafusion.apache.org
For queries about this service, please contact Infrastructure at:
users@infra.apache.org
---------------------------------------------------------------------
To unsubscribe, e-mail: github-unsubscribe@datafusion.apache.org
For additional commands, e-mail: github-help@datafusion.apache.org
Re: [PR] Update Dependency to arrow/parquet `55.1.0` [datafusion]
Posted by "alamb (via GitHub)" <gi...@apache.org>.
alamb commented on PR #16012:
URL: https://github.com/apache/datafusion/pull/16012#issuecomment-2869734535
๐ค `./gh_compare_branch.sh` [Benchmark Script](https://github.com/alamb/datafusion-benchmarking/blob/main/gh_compare_branch.sh) Running
Linux aal-dev 6.11.0-1013-gcp #13~24.04.1-Ubuntu SMP Wed Apr 2 16:34:16 UTC 2025 x86_64 x86_64 x86_64 GNU/Linux
Comparing alamb/arrow_55.1_update (28d2bfe7bf641d46a18c6a4ef0f2eb966d2d3ab1) to e917167adfe02c6ebadbc8c93cf85b643734d3de [diff](https://github.com/apache/datafusion/compare/e917167adfe02c6ebadbc8c93cf85b643734d3de..28d2bfe7bf641d46a18c6a4ef0f2eb966d2d3ab1)
Benchmarks: tpch_mem clickbench_partitioned clickbench_extended
Results will be posted here when complete
--
This is an automated message from the Apache Git Service.
To respond to the message, please log on to GitHub and use the
URL above to go to the specific comment.
To unsubscribe, e-mail: github-unsubscribe@datafusion.apache.org
For queries about this service, please contact Infrastructure at:
users@infra.apache.org
---------------------------------------------------------------------
To unsubscribe, e-mail: github-unsubscribe@datafusion.apache.org
For additional commands, e-mail: github-help@datafusion.apache.org