join_algorithm
- 結合キーの型推論がより厳格になります (たとえば、merge join では
StringとNullable(String)のように異なる型のキーを結合できません)。これによりUSINGカラムの結果型が変わる可能性があり、Joinエンジンテーブルへの join がTYPE_MISMATCHで失敗することがあります。full_sorting_mergeとparallel_full_sorting_mergeによりトリガーされます。 - join の保持側にある
ORDER BY ... LIMITは、join によって順序付き読み取りが崩れるとみなされるため、primary-key 順の読み取りではなく明示的なソートを行います (merge join は join 前の独自のソートを挿入し、partial merge join は左 blocks を再ソートします。また、遅延 blocks を生成できる join も順序付き読み取りを伝播しません)。結果は同じですが、プランの効率は低下します。full_sorting_merge、parallel_full_sorting_merge、partial_merge、prefer_partial_merge、grace_hash、auto、およびゼロ以外のmax_bytes_before_external_join/max_bytes_ratio_before_external_joinによりトリガーされます。
hash または別のアルゴリズムで実行される場合にも適用されます。これが望ましくない場合は、影響を受けるクエリの join_algorithm に上記のアルゴリズムを列挙しないでください。
設定可能な値:
- grace_hash
grace_hash_join_initial_buckets です) 。これは、各 bucket を独立して処理できるようにするためです。最初の bucket の行はインメモリの hash table に追加され、それ以外はディスクに保存されます。hash table がメモリ制限 (たとえば max_bytes_in_join で設定) を超えるまで大きくなった場合は、bucket 数が増やされ、各行の割り当て先 bucket が変更されます。現在の bucket に属さない行はフラッシュされ、再割り当てされます。
INNER/LEFT/RIGHT/FULL ALL/ANY JOIN をサポートします。
- hash
JOIN ON 句で OR によって結合された複数の結合キーをサポートする、最も汎用的な実装です。
hash アルゴリズムを使用する場合、JOIN の右側は RAM に読み込まれます。
- parallel_hash
hash join の一種で、データを buckets に分割し、1 つではなく複数の hashtables を並行して構築することで、この処理を高速化します。
parallel_hash アルゴリズムを使用する場合、JOIN の右側は RAM に読み込まれます。
- partial_merge
RIGHT JOIN と FULL JOIN は ALL strictness の場合にのみサポートされます (SEMI、ANTI、ANY、ASOF はサポートされません) 。
partial_merge アルゴリズムを使用する場合、ClickHouse はデータをソートしてディスクに書き出します。ClickHouse の partial_merge アルゴリズムは、従来の実装とはやや異なります。まず、ClickHouse は右テーブルを結合キーで blocks 単位にソートし、ソート済み blocks に対して min-max 索引を作成します。次に、左テーブルの各 part を join key でソートし、それらを右テーブルと結合します。不要な右テーブル blocks をスキップするためにも min-max 索引が使用されます。
- direct
direct (nested loop とも呼ばれます) アルゴリズムは、左テーブルの行をキーとして右テーブルをルックアップします。
Dictionary、EmbeddedRocksDB、MergeTree テーブルなどの特別なストレージでサポートされています。
MergeTree テーブルでは、このアルゴリズムは結合キーフィルタをストレージ層に直接プッシュダウンします。キーでテーブルの primary key index を使ってルックアップできる場合は、より効率的になることがあります。そうでない場合は、左テーブルの各 block ごとに右テーブル全体をフルスキャンします。
INNER と LEFT joins のみをサポートし、他の条件を含まない単一カラムの等価結合キーにのみ対応します。
- auto
auto に設定すると、まず ハッシュ結合 を試し、メモリ制限を超えた場合は実行中に別のアルゴリズムへ切り替えます。
- full_sorting_merge
- ie_join
<、<=、>、>=) を含む ON 句を持つ JOIN 向けの、ソートベースの IEJoin アルゴリズムです。ALL INNER/LEFT/RIGHT/FULL JOIN および SEMI/ANTI LEFT/RIGHT JOIN をサポートします。
リスト内の位置で優先順位が決まります。他のアルゴリズムの後に記載した場合、IEJoin はそれらが適用されない場合にのみ使用されます (ON 句に等価条件がない場合)。先頭に記載した場合、ON 句に 2 つの不等条件があれば常に使用されます。残りの条件 (等価条件を含む) は、ALL INNER JOIN では結合結果に対するフィルタとして適用され、その他の kind ではマッチングに影響する残余条件として operator 内で評価されます。リストに ie_join がない場合、不等条件のみを持つ INNER JOIN はフィルタ付きの CROSS JOIN として実行され、その他の kind はサポートされません。
結合前に両方の入力がメモリに蓄積されます。max_rows_in_join と max_bytes_in_join は、両側の蓄積された入力の合計を制限します (右側のみではありません)。overflow 時の動作は join_overflow_mode で設定します。operator が蓄積された入力上に構築するソート索引は、この制限にカウントされません。結合 operator 自体は単一スレッドで実行されます。並列化されるのは、入力の結合前ソートのみです。
- parallel_full_sorting_merge
full_sorting_merge と同じですが、hash と互換性のある等価結合は、単一の merge join ではなく、結合キーの hash によって独立した分片ごとの merge join に分割され、並列に実行されます (最大 max_threads)。これにより、すべてのスレッドを使用しながら merge join の低いストリーミングメモリ使用量を維持しますが、結果は順序付けられません。
結合キーによる hash 分片化は、hash が merge join の比較と一致するキー型での単純な等価結合にのみ適用され、どちらの側もすでにソートされていない場合に限られます。以下の場合はスキップされます:
ASOFjoins、および浮動小数点 /JSON/Object/Dynamicキー型: これらの hash は merge join の比較と一貫しないため、等しいキーが異なる分片に配置される可能性があります。- すでにソートされている側 (順序どおりの MergeTree 読み取り、または事前にソートされた入力): 分片ごとの merge への順序保持 scatter により、パイプラインがデッドロックする可能性があります。代わりに、順序どおりの読み取りとその
read_in_order_use_virtual_row最適化が維持されます。 - initiator が distributed plan (
make_distributed_plan) を構築する場合: scatter されたソートはリモート実行用にシリアライズできないためです。ローカルの単一フラグメント plan と worker ごとのフラグメントは、その設定を無効にして再最適化されるため、引き続き分片化できます。
full_sorting_merge として実行され、順序どおりに読み取る MergeTree 側は、query_plan_join_shard_by_pk_ranges が有効な場合、プライマリキー範囲によってソースで引き続き分片化できます (この範囲は結合で使用される比較と同じ比較で順序付けられるため、等しいキーは同じ場所に保持されます)。
- prefer_partial_merge
partial_merge join を使用し、そうでない場合は hash を使用します。非推奨であり、partial_merge,hash と同じです。
- default (deprecated)
direct,hash と同じです。つまり、direct join と ハッシュ結合 をこの順で使用しようとします。
join_any_take_last_row
ANY strictness を持つ JOIN演算の動作を変更します。
この設定は、
Join エンジンのテーブルと、ハッシュベースの JOIN アルゴリズムに適用されます。JOIN が並列に構築される場合、行の順序は非決定論的になることがあります。つまり、join_any_take_last_row = 1 を設定すると、ANY JOIN クエリで非決定論的な行が返される可能性があります。- 0 — 右テーブルに一致する行が複数ある場合、最初に見つかった 1 行だけが結合されます。
- 1 — 右テーブルに一致する行が複数ある場合、最後に見つかった 1 行だけが結合されます。
join_default_strictness
ALL— 右テーブルに一致する行が複数ある場合、ClickHouse は一致した行のデカルト積を作成します。これは Standard SQL における通常のJOINの動作です。ANY— 右テーブルに一致する行が複数ある場合、最初に見つかった 1 行だけを結合します。右テーブルに一致する行が 1 行しかない場合、ANYとALLの結果は同じです。ASOF— あいまいな一致条件で数列を結合する場合に使用します。Empty string— クエリでALLまたはANYが指定されていない場合、ClickHouse では例外がスローされます。
join_on_disk_max_files_to_merge
- 2以上の任意の正の整数。
join_output_by_rowlist_perkey_rows_threshold
join_overflow_mode
join_algorithm の値が
hash、parallel_hash、または ie_join の場合のみです。その他の
アルゴリズム (たとえば partial_merge、grace_hash、auto) では、これらの
制限は異なる方法で処理されます。たとえば、ディスクへのスピル、再パーティション化、または
戦略の切り替えです。詳しくは
join_algorithm を参照してください。
設定可能な値:
THROW— ClickHouse は例外をスローしてクエリを停止します。BREAK— ClickHouse はクエリを停止し、例外はスローしません。
THROW。
関連項目