L’ingestion de données de MongoDB vers ClickHouse Cloud via ClickPipes est en bêta publique.
Dans la console de ClickHouse Cloud et la documentation, “table” et “collection” sont employés indifféremment pour MongoDB.
Prérequis
Créez votre ClickPipe
- Dans la console ClickHouse Cloud, accédez à votre service ClickHouse Cloud.
- Sélectionnez le bouton
Data Sourcesdans le menu de gauche, puis cliquez sur « Set up a ClickPipe ».
- Sélectionnez la tuile
MongoDB CDC.
Ajoutez la connexion à votre base de données source MongoDB
- Renseignez les détails de connexion de votre base de données source MongoDB, que vous avez configurée à l’étape des prérequis.
Avant de commencer à ajouter vos détails de connexion, assurez-vous d’avoir autorisé les adresses IP de ClickPipes dans vos règles de pare-feu. Sur la page suivante, vous trouverez une liste des adresses IP de ClickPipes.
Pour plus d’informations, consultez les guides de configuration de la source MongoDB liés en haut de cette page.
(Facultatif) Configurer le tunnel SSH
- Activez le bouton bascule « Utiliser le tunnel SSH ».
- Renseignez les informations de connexion SSH.
-
Pour utiliser l’authentification par clé, cliquez sur « Révoquer et générer une paire de clés » pour générer une nouvelle paire de clés, puis copiez la clé publique générée sur votre serveur SSH dans
~/.ssh/authorized_keys. - Cliquez sur « Vérifier la connexion » pour valider la connexion.
Assurez-vous d’autoriser les adresse IP de ClickPipes dans vos règles de pare-feu pour l’hôte bastion SSH afin que ClickPipes puisse établir le tunnel SSH.
Next.
Configurer les paramètres avancés
- Sync interval : il s’agit de l’intervalle auquel ClickPipes interroge la base de données source pour détecter des changements. Cela a un impact sur le service ClickHouse de destination ; pour les utilisateurs attentifs aux coûts, nous recommandons de conserver une valeur plus élevée (supérieure à
3600). - Pull batch size : le nombre de lignes à récupérer en une seule fois. Il s’agit d’un paramètre appliqué au mieux, qui peut ne pas être respecté dans tous les cas.
- Snapshot number of tables in parallel : il s’agit du nombre de tables qui seront récupérées en parallèle pendant le snapshot initial. Cela est utile si vous avez un grand nombre de tables et souhaitez contrôler le nombre de tables récupérées en parallèle.
Configurer les tables
- Ici, vous pouvez sélectionner la base de données de destination de votre ClickPipe. Vous pouvez soit sélectionner une base de données existante, soit en créer une nouvelle.
- Vous pouvez sélectionner les tables que vous souhaitez répliquer depuis la base de données source MongoDB. Lors de la sélection des tables, vous pouvez également choisir de les renommer dans la base de données ClickHouse de destination.
Vérifiez les autorisations et démarrez le ClickPipe
- Sélectionnez le rôle « Full access » dans le menu déroulant des autorisations, puis cliquez sur « Complete Setup ».
Et ensuite ?
Points à noter
- MongoDB version 5.1.0 ou ultérieure est requise.
- Nous utilisons l’API native Change Streams de MongoDB pour le CDC, qui s’appuie sur l’oplog de MongoDB pour capturer les changements en temps réel.
- Les documents MongoDB sont répliqués dans ClickHouse au format JSON type par défaut. Cela permet une gestion flexible du schéma et l’utilisation du riche ensemble d’opérateurs JSON de ClickHouse pour les requêtes et l’analytics. Vous pouvez en savoir plus sur l’interrogation des données JSON ici.
- La configuration PrivateLink en self-service n’est pas disponible pour le moment. Si vous utilisez AWS et avez besoin de PrivateLink, veuillez contacter db-integrations-support@clickhouse.com ou créer un ticket de support — nous travaillerons avec vous pour l’activer.