설정 가이드
- Estuary 계정
- 원하는 소스에서 데이터를 가져오는 Estuary의 하나 이상의 capture
- ClickPipe 권한이 있는 ClickHouse Cloud 계정
1
Estuary 머티리얼라이즈 생성
Estuary의 소스 컬렉션에서 ClickHouse로 데이터를 이동하려면 먼저 머티리얼라이즈를 생성해야 합니다.- Estuary 대시보드에서 Destinations 페이지로 이동합니다.
- + New Materialization을 클릭합니다.
- ClickHouse 커넥터를 선택합니다.
-
Materialization, Endpoint, Source Collections 섹션에서 세부 정보를 입력합니다:
- Materialization Details: 머티리얼라이즈의 고유한 이름을 지정하고 데이터 플레인(클라우드 제공업체 및 리전)을 선택합니다
- Endpoint Config: 보안 Auth Token을 입력합니다
- Source Collections: 기존 capture를 연결하거나 ClickHouse에 노출할 데이터 컬렉션을 선택합니다
- Next와 Save and Publish를 클릭합니다.
-
머티리얼라이즈 세부 정보 페이지에서 ClickHouse 머티리얼라이즈의 전체 이름을 확인합니다. 형식은
your-tenant/your-unique-name/dekaf-clickhouse와 비슷합니다.
2
Kafka 연결 세부 정보 입력
ClickHouse에서 새 Kafka ClickPipe를 설정하고 연결 세부 정보를 입력합니다:- ClickHouse Cloud 대시보드에서 Data sources를 선택합니다.
- 새 ClickPipe를 생성합니다.
- 데이터 소스로 Apache Kafka를 선택합니다.
-
Estuary의 브로커 및 레지스트리 정보를 사용해 Kafka 연결 세부 정보를 입력합니다:
- ClickPipe 이름을 입력합니다
- 브로커에는
dekaf.estuary-data.com:9092를 사용합니다 - 인증은 기본값인
SASL/PLAIN옵션으로 둡니다 - 사용자에는 Estuary의 전체 머티리얼라이즈 이름(예:
your-tenant/your-unique-name/dekaf-clickhouse)을 입력합니다 - 비밀번호에는 머티리얼라이즈에 제공한 auth token을 입력합니다
-
스키마 레지스트리 옵션을 켭니다
- 스키마 URL에는
https://dekaf.estuary-data.com을 사용합니다 - 스키마 키는 브로커 사용자와 동일합니다(머티리얼라이즈 이름)
- 시크릿은 브로커 비밀번호와 동일합니다(auth token)
- 스키마 URL에는
3
수신 데이터 구성
- Kafka topics 중 하나를 선택합니다(Estuary의 데이터 컬렉션 중 하나).
- offset을 선택합니다.
- ClickHouse가 토픽 메시지를 감지합니다. 그런 다음 Parse information 섹션으로 이동해 테이블 정보를 구성할 수 있습니다.
- 새 테이블을 생성할지, 일치하는 기존 테이블에 데이터를 로드할지 선택합니다.
- 소스 필드를 테이블 컬럼에 매핑하고, 컬럼 이름, 유형, 널 허용 여부를 확인합니다.
- 마지막 Details and settings 섹션에서 전용 데이터베이스 사용자에 대한 권한을 선택할 수 있습니다.
추가 자료
- Estuary의 ClickHouse 머티리얼라이즈 문서를 참조하십시오.
- Estuary는 Dekaf를 사용해 데이터를 Kafka 메시지 형태로 제공합니다. Dekaf에 대한 자세한 내용은 여기에서 확인할 수 있습니다.
- Estuary를 사용해 ClickHouse로 스트리밍할 수 있는 데이터 소스 목록은 Estuary의 capture connectors에서 확인하십시오.