Descrição
Primeiros passos
Uso
Política de versionamento
- A versão principal é incrementada para mudanças na API
- A versão secundária é incrementada para mudanças de SQL compatíveis com versões anteriores
- A versão de correção é incrementada para mudanças apenas no binário
- A versão da biblioteca (definida por
PG_MODULE_MAGICno PostgreSQL 18 e superiores) inclui a versão semântica completa, visível na saída da funçãopgch_version()ou da funçãopg_get_loaded_modules()do Postgres. - A versão da extensão (definida no arquivo de controle) inclui apenas as versões principal
e secundária, visíveis na tabela
pg_catalog.pg_extension, na saída da funçãopg_available_extension_versions()e em\dx pg_clickhouse.
v0.1.0 para v0.1.1, beneficia todos os bancos de dados que carregaram v0.1 e
não precisam executar ALTER EXTENSION para aproveitar a atualização.
Já uma versão que incrementa a versão secundária ou principal
virá acompanhada de scripts de atualização SQL, e todos os bancos de dados existentes que contêm
a extensão deverão executar ALTER EXTENSION pg_clickhouse UPDATE para aproveitar
a atualização.
Referência de SQL DDL
CREATE EXTENSION
WITH SCHEMA para instalá-la em um esquema específico (recomendado):
ALTER EXTENSION
-
Depois de instalar uma nova versão do pg_clickhouse, use a cláusula
UPDATE: -
Use
SET SCHEMApara mover a extensão para um novo esquema:
DROP EXTENSION
CASCADE para removê-los também:
CREATE SERVER
driver: O driver de conexão do ClickHouse a ser usado: “binary” ou “http”. Obrigatório.compression: Compressão do protocolo nativo para o driver “binary”, uma entre “none”, “lz4” ou “zstd”. O padrão é “lz4”. Ignorada pelo driver “http”.dbname: O banco de dados do ClickHouse a ser usado na conexão. O padrão é “default”.host: O nome do host do servidor ClickHouse. O padrão é “localhost”;port: A porta à qual se conectar no servidor ClickHouse. Os padrões são os seguintes:- 9440 se
driverfor “binary” ehostfor um host do ClickHouse Cloud - 9004 se
driverfor “binary” ehostnão for um host do ClickHouse Cloud - 8443 se
driverfor “http” ehostfor um host do ClickHouse Cloud - 8123 se
driverfor “http” ehostnão for um host do ClickHouse Cloud
- 9440 se
min_tls_version: Versão mínima do protocolo TLS a ser negociada em conexões que usam TLS. Uma entreTLSv1,TLSv1.1,TLSv1.2ouTLSv1.3. O padrão é o mínimo da própria biblioteca TLS. Aplica-se a ambos os drivers.secure: Controla o uso de TLS na conexão. Uma entre:auto(padrão): usa TLS quandohosté um host do ClickHouse Cloud ouporté uma porta segura; caso contrário, plaintext.on(outrue/yes/1): sempre usa TLS. O padrão deporté 8443 (“http”) ou 9440 (“binary”).off(oufalse/no/0): nunca usa TLS. O padrão deporté 8123 (“http”) ou 9000 (“binary”).
ALTER SERVER
DROP SERVER
CASCADE para
também remover essas dependências:
CREATE USER MAPPING
taxi_srv:
user: O nome do usuário do ClickHouse. O valor padrão é “default”.password: A senha do usuário do ClickHouse.
ALTER USER MAPPING
DROP USER MAPPING
IMPORT FOREIGN SCHEMA
LIMIT TO para restringir a importação a tabelas específicas:
EXCEPT para excluir tabelas:
CREATE FOREIGN TABLE
database: O nome do banco de dados remoto. O padrão é o banco de dados definido para o servidor externo.table_name: O nome da tabela remota. O padrão é o nome especificado para a foreign table.engine: O [engine da tabela] usado pela tabela ClickHouse. ParaCollapsingMergeTree()eAggregatingMergeTree(), o pg_clickhouse aplica automaticamente os parâmetros às expressões de função executadas na tabela.
-
column_name: O nome da coluna no lado do ClickHouse, usado em vez do nome do atributo do PostgreSQL ao reconstruir consultas e inserções. Útil para mapear nomes de colunas do PostgreSQL em minúsculas e sem aspas para colunas do ClickHouse sensíveis a maiúsculas e minúsculas, por exemplo: -
AggregateFunction: O nome da função de agregação aplicada a uma coluna do [tipo AggregateFunction]. Mapeie o tipo de dado para o tipo do ClickHouse passado à função e especifique o nome da função de agregação por meio da opção de coluna apropriada; o pg_clickhouse acrescentará automaticamenteMergeà função de agregação usada para avaliar a coluna. -
SimpleAggregateFunction: O nome da função de agregação aplicada a uma coluna do [tipo SimpleAggregateFunction]. Mapeie o tipo de dado para o tipo do ClickHouse passado à função e especifique o nome da função de agregação por meio da opção de coluna apropriada.
ALTER FOREIGN TABLE
DROP FOREIGN TABLE
CASCADE para removê-los também:
Referência de SQL DML
EXPLAIN
VERBOSE aciona a emissão da consulta “Remote SQL” do ClickHouse:
SELECT
nodes e fazemos join com ela em vez de usar a tabela remota:
node_id em vez da coluna local e, depois, fazer join
com a tabela de lookup:
node_id, reduzindo
o número de linhas que precisam ser trazidas de volta para o Postgres de 1000 (todas
elas) para apenas 8, uma para cada nó.
Tabelas particionadas
enable_partitionwise_aggregate ativado, o PostgreSQL calcula um agregado
parcial abaixo de Append, e um agregado de finalização acima combina esses
parciais no resultado. O pg_clickhouse envia o parcial da partição estrangeira
ao ClickHouse:
Quando agregações parciais são enviadas ao destino
- Agregações decomponíveis cujo estado de transição já é o valor final
são enviadas diretamente ao destino:
count,sum,min,max,bool_and/every,bool_or,bit_and,bit_orebit_xor. avgsobre inteiros envia seu estado{count, sum}como um array.avg,var_pop,var_samp,stddev_popestddev_sampsobre ponto flutuante enviam seu estado{N, sum, sum of squared deviations}como um array.
FILTER (WHERE …) é enviado ao destino com essas funções de agregação.
Quando usam uma alternativa
internal do PostgreSQL não têm
representação portátil; por isso, a partição estrangeira busca suas linhas
e as agrega localmente. Isso abrange tudo o que usa numeric, além de
avg(bigint) e avg(interval). Agregações DISTINCT, de conjunto ordenado e variádicas
também usam uma alternativa.
PREPARE, EXECUTE, DEALLOCATE
{param:type} do ClickHouse:
parameters:
INSERT
COPY
⚠️ Limitações da API de Batch pg_clickhouse ainda não implementou suporte à API de inserção em lote do FDW do PostgreSQL. Portanto, COPY atualmente usa instruções INSERT para inserir registros. Isso será aprimorado em uma versão futura.
LOAD
SET
pg_clickhouse.session_settings
pg_clickhouse.session_settings configura as [configurações
do ClickHouse] a serem aplicadas às consultas subsequentes. Exemplo:
join_use_nulls para junções externas e transform_null_in para a família IN
(consulte IN e semântica de NULL).
date_time_output_format: o driver HTTP exige que seja “iso”format_tsv_null_representation: o driver HTTP exige o valor padrãooutput_format_tsv_crlf_end_of_lineo driver HTTP exige o valor padrão
pg_clickhouse.session_settings; use [pré-carregamento de biblioteca compartilhada] ou
simplesmente use um dos objetos da extensão para garantir que ele seja carregado.
pg_clickhouse.pushdown_regex
pg_clickhouse.pushdown_regex controla se o pg_clickhouse
faz pushdown de funções e operadores de expressão regular. Isso ocorre por padrão;
defina esse parâmetro como false para impedir esse pushdown:
ALTER ROLE
SET de ALTER ROLE’s para pré-carregar o pg_clickhouse
e/ou SET seus parâmetros para roles específicos:
RESET de ALTER ROLE para redefinir o pré-carregamento do pg_clickhouse
e/ou os parâmetros:
Pré-carregamento
session_preload_libraries
Tipos de dados
Qualquer coluna também pode ser lida como
text, varchar ou outro tipo de string. O valor
assume o tipo PostgreSQL acima e é então renderizado pela função de saída
desse tipo. Valores UInt64 acima do máximo de bigint ainda geram erro; portanto, renderize-os
com a função toString() do ClickHouse.
Notas e detalhes adicionais vêm a seguir.
BYTEA
SELECT final produzirá:
Referência de funções e operadores
Funções
clickhouse_raw_query
host=localhost port=8123. Os parâmetros de conexão
compatíveis são:
driver: O driver de conexão a usar, “http” ou “binary”; o padrão é “http”host: O host ao qual se conectar; obrigatório.port: A porta à qual se conectar. O padrão é8123para o driver “http” ou9000para o driver “binary”, mudando para8443ou9440, respectivamente, quandohosté um host do ClickHouse Clouddbname: O nome do banco de dados ao qual se conectar.username: O nome de usuário com o qual se conectar; o padrão édefaultpassword: A senha usada para autenticação; o padrão é não usar senha
\N), mas suas
representações de valores diferem: o driver “http” retorna literalmente a formatação
TSV do próprio ClickHouse, enquanto o driver “binary” passa cada valor pela função de
saída do PostgreSQL.
Por padrão, nenhuma role tem acesso EXECUTE a esta função; considere GRANT conceder
acesso somente a roles que realmente precisem executar consultas ad hoc no ClickHouse,
por exemplo, uma role administrativa dedicada do ClickHouse:
Útil para consultas que não retornam registros, mas as consultas que retornam valores
serão retornadas como um único valor de texto:
clickhouse_server_version
major.minor.patch, para o
servidor estrangeiro especificado, conectando-se, se necessário, usando as opções do servidor e o
user mapping do usuário atual:
SELECT version(), e a armazena em cache durante toda a
vida da conexão.
clickhouse_query
driver do servidor,
as credenciais, o banco de dados e o cache de conexão.
O primeiro argumento é o nome de um servidor criado com CREATE SERVER. Uma
lista de definição de colunas (AS name(col type, ...)) é obrigatória: o PostgreSQL precisa
conhecer a estrutura do resultado antes de buscar as linhas, e ela deve corresponder às colunas retornadas pela
consulta. Os valores são convertidos do ClickHouse para os tipos declarados da mesma forma
que seriam em uma coluna de tabela estrangeira. Instruções que não retornam resultados, como DDL,
não têm nada a declarar; execute-as com
clickhouse_perform.
Nenhuma role tem acesso EXECUTE por padrão; conceda GRANT a uma role para permitir o uso
da função.
clickhouse_perform
clickhouse_query não tem formato de resultado a declarar. Ela
resolve o servidor da mesma forma que clickhouse_query, reutilizando o driver,
as credenciais, o banco de dados e o cache de conexão.
Por ser um procedimento, deve ser invocada com CALL, e não com SELECT, e não retorna
linhas. Nenhuma role tem acesso a EXECUTE por padrão; conceda GRANT a uma role para permitir o
uso do procedimento.
Funções com pushdown
HAVING e WHERE). Esse subconjunto corresponde aos equivalentes
no ClickHouse, da seguinte forma:
abs: absfactorial: factorialmod(int2/int4/int8/numeric): módulopow&power(float8/numeric): powround: roundsin,cos,tan,atan,atan2,sinh,cosh,tanh,asinh,degrees,radians,pi: funções matemáticas do ClickHouse com o mesmo nome.asin,acos,atanh,acoshnão são delegadas: o PG gera erro quando a entrada está fora do intervalo, enquanto o CH retornaNaN.date_part:date_part('day'): toDayOfMonthdate_part('doy'): toDayOfYeardate_part('dow'): toDayOfWeekdate_part('year'): toYeardate_part('month'): toMonthdate_part('hour'): toHourdate_part('minute'): toMinutedate_part('second'): toSeconddate_part('quarter'): toQuarterdate_part('isoyear'): toISOYeardate_part('week'): toISOYeardate_part('epoch'): toISOYear
date_trunc:date_trunc('week'): toMondaydate_trunc('second'): toStartOfSeconddate_trunc('minute'): toStartOfMinutedate_trunc('hour'): toStartOfHourdate_trunc('day'): toStartOfDaydate_trunc('month'): toStartOfMonthdate_trunc('quarter'): toStartOfQuarterdate_trunc('year'): toStartOfYear
extract(field FROM source): os mesmos mapeamentos dedate_partdate(timestamp)&date(timestamptz): toDate (reapresentado como alias do CHdate)array_position: indexOf com nullIf para converter0emNULLe arraySlice quando houver um terceiro argumento para o índice inicial da busca; observe quenanatualmente não encontra correspondênciaarray_cat: arrayConcatarray_append: arrayPushBackarray_prepend: arrayPushFrontarray_remove: arrayRemovecardinality: lengtharray_length(array, 1):nullIf(length(array), 0)array_length&cardinality: comprimentoarray_to_string: arrayStringConcatstring_to_array: splitByStringsplit_part: splitByString + acesso por índice em arraytrim_array: arrayResizearray_fill: arrayWithConstantarray_reverse: arrayReversearray_shuffle: arrayShufflearray_sample: arrayRandomSamplearray_sort: arraySort / arrayReverseSortbtrim: trimBothltrim: trimLeftrtrim: trimRightconcat_ws: concatWithSeparatorlower(text): lowerUTF8upper(text): upperUTF8substring(text, ...)&substr(text, ...): substringUTF8substring(bytea, ...)&substr(bytea, ...): substringlength(text): lengthUTF8length(bytea)&octet_length: lengthreverse(text): reverseUTF8reverse(bytea): reversestrpos: positionUTF8regexp_like: matchregexp_match: extractGroups se a expressão regular contiver subexpressões entre parênteses; caso contrário, extractAll fatiado com arraySlice.regexp_replace: replaceRegexpOne ou replaceRegexpOne quando a flaggestiver presenteregexp_split_to_array: splitByRegexpmd5: MD5encode(bytea, fmt)quandofmté uma string constant (sem distinção entre maiúsculas e minúsculas):encode(bytea, 'hex'): hex envolvido por lower, pois o PostgreSQL gera valores hexadecimais em minúsculas.encode(bytea, 'base64'): base64Encode envolvido por replaceRegexpAll para reproduzir a quebra de linha MIME (RFC 2045) do PostgreSQL a cada 76 caracteres.encode(bytea, 'base64url')(PostgreSQL 19+): base64URLEncode, que corresponde ao alfabeto de URL da RFC 4648 do PostgreSQL, sem padding.
json_extract_path_text: sintaxe de subcolunajson_extract_path: toJSONString + sintaxe de subcolunasjsonb_extract_path_text: sintaxe de subcolunajsonb_extract_path: toJSONString + sintaxe de subcolunasbit_count(bytea): bitCountto_timestamp(float8): toDateTime64to_char(timestamp[tz], fmt): formatDateTime quandofmté uma string constant cujas palavras-chave têm todas um equivalente fiel no ClickHouse. Consulte to_char(), em Notas de compatibilidade, para ver as palavras-chave compatíveis. Caso contrário, a função é executada localmente no PostgreSQL.statement_timestamp,transaction_timestamp, &clock_timestamp: nowInBlock64 (nowInBlock64(9, $session_timezone))CURRENT_DATE: now e toDate (toDate(now($session_timezone)))now,CURRENT_TIMESTAMP, &LOCALTIMESTAMP: now64 (now64(9, $session_timezone))CURRENT_TIMESTAMP(n)&LOCALTIMESTAMP(n): now64 (now64(n, $session_timezone))CURRENT_DATABASE: Passado como valor de uma função do PostgreSQL.CURRENT_SCHEMA: Passado como valor de uma função do PostgreSQL.CURRENT_CATALOG: Passado como valor retornado pela função do PostgreSQL.CURRENT_USER: Passado como valor da função do PostgreSQL.USER: Passado como valor por uma função do PostgreSQL.CURRENT_ROLE: Passado como valor de uma função do PostgreSQL.SESSION_USER: Passado como valor de uma função do PostgreSQL.
Operadores de pushdown
- Fatiamento de Array (
arr[L:U]): arraySlice @>(array contém): hasAll<@(array contido em): hasAll&&(sobreposição de arrays): hasAny~(correspondência com regexp): match!~(sem correspondência com regexp): match~*(regexp sem distinção entre maiúsculas e minúsculas, sem correspondência): match!~*(regexp sem distinção entre maiúsculas e minúsculas, sem correspondência): match->>(extrai elemento de JSON/JSONB como texto): sintaxe de subcoluna->(extrai JSON/JSONB): toJSONString + sintaxe de subcoluna
Semântica de IN e NULL
IN com lógica de dois valores: quando a busca não encontra
correspondência, retorna 0, mesmo que haja um NULL envolvido, enquanto o PostgreSQL retorna
NULL. Para preservar a semântica do PostgreSQL, o pg_clickhouse faz pushdown incondicionalmente da família
IN sobre uma lista ou array constante (IN, NOT IN, = ANY, = ALL,
<> ANY, <> ALL): usa a forma nativa ou mais econômica quando consegue
provar que nem o valor pesquisado nem um elemento do array podem ser NULL, ou, caso contrário,
uma forma CASE com proteções, que verifica valores NULL em tempo de execução e
calcula a resposta exata de três valores do PostgreSQL (TRUE, FALSE, NULL) em
todos os contextos, inclusive em posições de valor, como em uma lista SELECT ou
em GROUP BY.
Um filtro NOT IN (SELECT ...) sobre colunas Nullable também recebe pushdown,
sendo reconvertido com proteções compensatórias que preservam o comportamento do PostgreSQL: um conjunto
que contém um NULL desqualifica todas as linhas, e um valor pesquisado NULL passa apenas
contra um conjunto vazio. Cada proteção é omitida quando uma declaração NOT NULL
prova que ela é desnecessária. Ao contrário das formas de array acima, essa proteção se
aplica somente em uma condição de filtro simples (ou sob NOT); ainda não fazemos pushdown de
IN (SELECT ...) (em uma posição de valor), nem de corpos de subconsulta
agrupados ou agregados. Declarar colunas como NOT NULL maximiza o pushdown, pois permite enviar a forma mais econômica
sem proteções; IMPORT FOREIGN SCHEMA faz isso automaticamente para
colunas do ClickHouse que não são Nullable. A prova considera constantes não NULL,
colunas NOT NULL e aritmética básica (+, -, *, - unário) sobre elas.
Essas regras pressupõem o valor padrão do ClickHouse transform_null_in = 0, que
o pg_clickhouse define em cada consulta por meio do valor padrão do
parâmetro pg_clickhouse.session_settings,
impedindo que um perfil de servidor do ClickHouse o altere silenciosamente. Definir
transform_null_in = 1 quebra a semântica de todos os IN com pushdown.
Funções personalizadas
Pushdown de extensões
re2
@~→ matchre2match→ matchre2extract→ extractre2extractall→ extractAllre2regexpextract→ regexpExtractre2extractgroups→ extractGroupsre2replaceregexpone→ replaceRegexpOnere2replaceregexpall→ replaceRegexpAllre2countmatches→ countMatchesre2countmatchescaseinsensitive→ countMatchesCaseInsensitivere2multimatchany→ multiMatchAnyre2multimatchanyindex→ multiMatchAnyIndexre2multimatchallindices→ multiMatchAllIndices
intarray
idx→ indexOf
fuzzystrmatch
soundex: soundexlevenshtein(2 argumentos): editDistanceUTF8
Casts com pushdown
CAST(x AS bigint) para
tipos de dados compatíveis. Para tipos incompatíveis, o pushdown falha; se x, neste
exemplo, for um UInt64 do ClickHouse, o ClickHouse se recusará a converter o valor.
Para fazer pushdown de casts para tipos de dados incompatíveis, o pg_clickhouse fornece
as funções a seguir. Elas geram uma exceção no PostgreSQL se não forem
executadas com pushdown.
Funções de agregação com pushdown
- any_value
- array_agg
- avg
- bit_and
- bit_or
- bit_xor
- bool_and / every
- bool_or
- count
- corr
- covarpop
- covarsamp
- min
- max
- stddev_pop
- stddev_samp / stddev
- string_agg
- sum
- var_op
- var_samp /variance
Agregações personalizadas
Agregações ordered-set com pushdown
ORDER BY como argumentos. Por exemplo, esta consulta PostgreSQL:
DESC e NULLS FIRST de ORDER BY
não têm suporte e gerarão um erro.
percentile_cont(double): quantilepercentile_cont(double[]): quantilespercentile_disc(double): quantileExactLowpercentile_disc(double[]): quantilesExactLow
Agregações ordered-set personalizadas
Estas [funções de agregação de conjunto ordenado] personalizadas, criadas pelo pg_clickhouse, oferecem pushdown de consultas externas para determinadas funções de agregação paramétricas do ClickHouse. Se não for possível aplicar pushdown a alguma dessas funções, será gerada uma exceção.quantile(double): quantilequantileExact(double): quantileExact
Agregados personalizados de conjunto ordenado
Funções de janela com pushdown
OVER (PARTITION BY ... ORDER BY ...), incluindo especificações de frame quando
aplicável.
- row_number
- rank
- dense_rank
- ntile
- cume_dist
- percent_rank
- lead
- lag
- first_value
- last_value
- nth_value
min/max(com a cláusulaOVER)
row_number, rank, dense_rank, ntile, cume_dist,
percent_rank) omitem a cláusula de frame durante o pushdown porque o ClickHouse
rejeita especificações de frame nessas funções.
Notas de compatibilidade
Expressões regulares
-
O PostgreSQL oferece suporte a [Expressões Regulares POSIX], enquanto o ClickHouse oferece suporte a
Expressões Regulares RE2. Fique atento às diferenças de comportamento: use RE2
quando a expressão regular for avaliada pelo ClickHouse (por exemplo, em uma
cláusula
WHERE) e POSIX quando ela for avaliada pelo Postgres (por exemplo, em uma cláusulaSELECT). -
pg_clickhouse aplica as [flags do Postgres] prefixando-as à
expressão regular do ClickHouse dentro de
(?). Por exemplo:Passa a ser -
As únicas flags compatíveis com ambos e, portanto, que podem ser usadas quando interpretadas pelo
ClickHouse são:
O RE2 oferece suporte apenas a estas flags; não use nenhuma outra [flags do Postgres].
-
Esta tabela resume os efeitos das várias flags (e da ausência de flag, que
é o mesmo que
s) na correspondência de quebras de linha e terminações de linha. Observe que, no Postgres,mepimpedem que classes de caracteres negadas ([^xyz]) correspondam a uma quebra de linha, enquanto os equivalentes no ClickHouse não. Fora isso, os comportamentos são os mesmos no ClickHouse e no Postgres: - Quaisquer outras flags passadas para funções de expressão regular impedem o pushdown da função.
-
A exceção é
regexp_replace(), que também aceita a flagg. Quandogestá definida, pg_clickhouse usareplaceRegexpAll()em vez dereplaceRegexpOne()e remove a flag antes de adicionar outras flags no início. -
O argumento de substituição de
regexp_replace()no Postgres aceita\¶ se referir à correspondência inteira, enquanto no ClickHouse\0representa a correspondência inteira. Certifique-se de usar\0quando a função fizer pushdown para o ClickHouse. -
Postgres
regexp_matchretornaNULLquando não há correspondências, enquanto as expressões delegadas retornam um array vazio. UseCOALESCE()para retornar um array vazio em vez deNULLe comparar os valores de retorno de forma compatível. Por exemplo:
to_char()
to_char() do PostgreSQL para timestamp e timestamp with time zone
só é enviado ao ClickHouse formatDateTime quando o argumento de formato
é uma constante de string não NULL em que cada palavra-chave do PostgreSQL tem um
equivalente idêntico byte a byte no ClickHouse. Se o formato for dinâmico
(não for uma Const) ou contiver qualquer palavra-chave ou modificador sem suporte, a
chamada recorre à avaliação local no PostgreSQL — o pushdown nunca é
tentado com uma tradução parcial, para que a saída permaneça compatível com o PostgreSQL.
As variantes de to_char() com dois argumentos aplicadas a numeric, interval e outros
tipos que não sejam timestamp nunca usam pushdown; o formatDateTime do ClickHouse apenas
formata valores de data e hora.
Palavras-chave traduzidas
Texto entre aspas e literais
"..." é passado literalmente, com qualquer % literal
duplicado como %% para escapar o prefixo de especificador do ClickHouse. Um \" fora das
aspas também é passado como um literal ". Dentro de "...", a barra invertida
escapa apenas "; outras sequências com barra invertida são tratadas como texto literal.
David E. Wheeler