Les ensembles ZooKeeper sont conçus pour rester fonctionnels, sans perte de données, malgré la perte d'un ou de plusieurs nœuds ZooKeeper. Cette résilience peut être utilisée efficacement pour effectuer la maintenance des nœuds ZooKeeper sans temps d'arrêt du système.
À propos de ZooKeeper et Edge
Dans Edge, les nœuds ZooKeeper contiennent des données de configuration sur l'emplacement et la configuration des différents composants Edge, et notifient les différents composants des modifications de configuration. Toutes les topologies Edge compatibles avec un système de production utilisent au moins trois nœuds ZooKeeper.
Utilisez les propriétés ZK_HOSTS et ZK_CLIENT_HOSTS dans le fichier de configuration Edge pour spécifier les nœuds ZooKeeper. Exemple :
ZK_HOSTS="$IP1 $IP2 $IP3" ZK_CLIENT_HOSTS="$IP1 $IP2 $IP3"
Où :
ZK_HOSTSspécifie les adresses IP des nœuds ZooKeeper. Les adresses IP doivent être listées dans le même ordre sur tous les nœuds ZooKeeper.Dans un environnement comportant plusieurs centres de données, listez tous les nœuds ZooKeeper de tous les centres de données.
ZK_CLIENT_HOSTSspécifie les adresses IP des nœuds ZooKeeper utilisés uniquement par ce centre de données. Les adresses IP doivent être listées dans le même ordre sur tous les nœuds ZooKeeper du centre de données.Dans une installation à un seul centre de données, il s'agit des mêmes nœuds que ceux spécifiés par ZK_HOSTS. Dans un environnement à plusieurs centres de données, le fichier de configuration Edge de chaque centre de données ne doit lister que les nœuds ZooKeeper de ce centre de données.
Par défaut, tous les nœuds ZooKeeper sont désignés comme nœuds votants. Cela signifie que les nœuds participent tous à l'élection du leader ZooKeeper. Vous pouvez inclure le modificateur :observer avec ZK_HOSTS pour indiquer que le nœud est un nœud observateur, et non un nœud votant. Un nœud observateur ne participe pas à l'élection du leader.
En règle générale, vous spécifiez le modificateur :observer lorsque vous créez plusieurs centres de données Edge ou lorsqu'un seul centre de données comporte un grand nombre de nœuds ZooKeeper. Par exemple, dans une installation Edge à 12 hôtes avec deux centres de données, ZooKeeper sur le nœud 9 du centre de données 2 est l'observateur :
Vous utilisez ensuite les paramètres suivants dans votre fichier de configuration pour le centre de données 1 :
ZK_HOSTS="$IP1 $IP2 $IP3 $IP7 $IP8 $IP9:observer" ZK_CLIENT_HOSTS="$IP1 $IP2 $IP3"
Et pour le centre de données 2 :
ZK_HOSTS="$IP1 $IP2 $IP3 $IP7 $IP8 $IP9:observer" ZK_CLIENT_HOSTS="$IP7 $IP8 $IP9"
Les sections suivantes contiennent plus de détails sur les nœuds leader, votant et observateur, et décrivent les points à prendre en compte lors de l'ajout de nœuds votants et observateurs.
À propos des leaders, des suiveurs, des votants et des observateurs
Dans une installation ZooKeeper multinœud, l'un des nœuds est désigné comme leader. Tous les autres nœuds ZooKeeper sont désignés comme des followers. Bien que les lectures puissent être effectuées à partir de n'importe quel nœud ZooKeeper, toutes les requêtes d'écriture sont transmises au leader. Par exemple, un nouveau processeur de messages est ajouté à Edge. Ces informations sont écrites dans le leader ZooKeeper. Tous les followers répliquent ensuite les données.
Lors de l'installation d'Edge, vous désignez chaque nœud ZooKeeper comme votant ou observateur. Le leader est ensuite élu par tous les nœuds ZooKeeper votants. La seule condition requise pour l'élection d'un leader est qu'un quorum de nœuds votants ZooKeeper fonctionnels soit disponible. Un quorum signifie que plus de la moitié de tous les nœuds ZooKeeper votants, dans tous les centres de données, sont fonctionnels.
Si le quorum de nœuds votants n'est pas atteint, aucun leader ne peut être élu. Dans ce scénario, ZooKeeper ne peut pas diffuser les requêtes. Cela signifie que vous ne pouvez pas envoyer de requête au serveur de gestion Edge, traiter des requêtes API ni vous connecter à l'interface utilisateur Edge tant que le quorum n'est pas restauré.
Par exemple, dans une installation de centre de données unique :
- Vous avez installé trois nœuds ZooKeeper.
- Tous les nœuds ZooKeeper sont des votants
- Le quorum est de deux nœuds votants fonctionnels
- Si un seul nœud votant est disponible, l'ensemble ZooKeeper ne peut pas fonctionner.
Dans une installation avec deux centres de données :
- Vous avez installé trois nœuds ZooKeeper par centre de données, soit un total de six nœuds.
- Le centre de données 1 comporte trois nœuds votants.
- Le centre de données 2 comporte deux nœuds votants et un nœud observateur.
- Le quorum est basé sur les cinq votants des deux centres de données et correspond donc à trois nœuds votants fonctionnels.
- Si seulement deux nœuds votants ou moins sont disponibles, l'ensemble ZooKeeper ne peut pas fonctionner.
Remarques concernant l'ajout de nœuds en tant que votants ou observateurs
La configuration système requise peut nécessiter l'ajout de nœuds ZooKeeper supplémentaires à votre installation Edge. La documentation Ajouter des nœuds ZooKeeper explique comment ajouter des nœuds ZooKeeper à Edge. Lorsque vous ajoutez des nœuds ZooKeeper, vous devez prendre en compte le type de nœuds à ajouter : votant ou observateur.
Vous devez vous assurer que vous disposez de suffisamment de nœuds votants pour que, si un ou plusieurs nœuds votants sont indisponibles, l'ensemble ZooKeeper puisse toujours fonctionner, ce qui signifie qu'un quorum de nœuds votants est toujours disponible. En ajoutant des nœuds votants, vous augmentez la taille du quorum et pouvez donc tolérer l'arrêt d'un plus grand nombre de nœuds votants.
Toutefois, l'ajout de nœuds votants supplémentaires peut avoir un impact négatif sur les performances d'écriture, car les opérations d'écriture nécessitent que le quorum s'accorde sur le leader. Le temps nécessaire pour déterminer le leader dépend du nombre de nœuds votants, qui augmente à mesure que vous ajoutez des nœuds votants. Par conséquent, vous ne devez pas faire de tous les nœuds des votants.
Au lieu d'ajouter des nœuds votants, vous pouvez ajouter des nœuds observateurs. L'ajout de nœuds observateurs augmente les performances de lecture globales du système sans ajouter de surcharge liée à l'élection d'un leader, car les nœuds observateurs ne votent pas et n'affectent pas la taille du quorum. Par conséquent, si un nœud d'observation tombe en panne, cela n'affecte pas la capacité de l'ensemble à élire un leader. Toutefois, la perte de nœuds d'observation peut entraîner une dégradation des performances de lecture de l'ensemble ZooKeeper, car moins de nœuds sont disponibles pour traiter les requêtes de données.
Dans un seul centre de données, Apigee vous recommande de ne pas avoir plus de cinq votants, quel que soit le nombre de nœuds d'observateur. Dans deux centres de données, Apigee vous recommande de ne pas avoir plus de neuf votants (cinq dans un centre de données et quatre dans l'autre). Vous pouvez ensuite ajouter autant de nœuds d'observation que nécessaire pour répondre à la configuration système requise.
Supprimer un nœud ZooKeeper
Il existe de nombreuses raisons pour lesquelles vous pouvez supprimer un nœud ZooKeeper. Par exemple, un nœud a été corrompu ou a été ajouté au mauvais environnement.
Cette section explique comment supprimer un nœud ZooKeeper lorsqu'il est indisponible et inaccessible.
Pour supprimer un nœud ZooKeeper :
- Modifiez votre fichier de configuration silencieux et supprimez l'adresse IP du nœud ZooKeeper que vous souhaitez supprimer.
- Exécutez à nouveau la commande
setuppour Zookeeper afin de reconfigurer les nœuds ZooKeeper restants :/opt/apigee/apigee-service/bin/apigee-service apigee-zookeeper setup -f updated_config_file
- Redémarrez tous les nœuds ZooKeeper :
/opt/apigee/apigee-service/bin/apigee-service apigee-zookeeper restart
- Reconfigurez le nœud du serveur de gestion :
/opt/apigee/apigee-service/bin/apigee-service edge-management-server setup -f updated_config_file
/opt/apigee/apigee-service/bin/apigee-service edge-management-server restart - Reconfigurez tous les routeurs :
/opt/apigee/apigee-service/bin/apigee-service edge-router setup -f updated_config_file
/opt/apigee/apigee-service/bin/apigee-service edge-router restart - Reconfigurez tous les processeurs de messages :
/opt/apigee/apigee-service/bin/apigee-service edge-message-processor setup -f updated_config_file
/opt/apigee/apigee-service/bin/apigee-service edge-message-processor restart - Reconfigurez tous les nœuds Qpid :
/opt/apigee/apigee-service/bin/apigee-service edge-qpid-server setup -f updated_config_file
/opt/apigee/apigee-service/bin/apigee-service edge-qpid-server restart - Reconfigurez tous les nœuds Postgres :
/opt/apigee/apigee-service/bin/apigee-service edge-postgres-server setup -f updated_config_file
/opt/apigee/apigee-service/bin/apigee-service edge-postgres-server restart
Remarques sur la maintenance
Vous pouvez effectuer la maintenance de ZooKeeper sur un ensemble entièrement fonctionnel sans temps d'arrêt si vous l'avez effectuée sur un seul nœud à la fois. En vous assurant qu'un seul nœud ZooKeeper est indisponible à la fois, vous pouvez vous assurer qu'un quorum de nœuds votants est toujours disponible pour élire un leader.
Maintenance dans plusieurs centres de données
Lorsque vous travaillez avec plusieurs centres de données, n'oubliez pas que l'ensemble ZooKeeper ne fait pas de distinction entre les centres de données. Les assemblages ZooKeeper affichent tous les nœuds ZooKeeper de tous les centres de données sous la forme d'un ensemble.
L'emplacement des nœuds votants dans un centre de données donné n'est pas un facteur lorsque ZooKeeper effectue des calculs de quorum. Des nœuds individuels peuvent tomber en panne dans les centres de données, mais tant qu'un quorum est préservé dans l'ensemble, ZooKeeper reste fonctionnel.
Implications en termes de maintenance
À différents moments, vous devrez arrêter un nœud ZooKeeper pour maintenance, qu'il s'agisse d'un nœud votant ou d'un nœud observateur. Par exemple, vous devrez peut-être mettre à niveau la version d'Edge sur le nœud, la machine hébergeant ZooKeeper peut échouer ou le nœud peut devenir indisponible pour une autre raison, telle qu'une erreur réseau.
Si le nœud qui tombe en panne est un nœud observateur, vous pouvez vous attendre à une légère dégradation des performances de l'ensemble ZooKeeper jusqu'à ce que le nœud soit restauré. Si le nœud est un nœud votant, cela peut avoir un impact sur la viabilité de l'ensemble ZooKeeper en raison de la perte d'un nœud qui participe au processus d'élection du leader. Quelle que soit la raison de l'arrêt du nœud de vote, il est important de maintenir un quorum de nœuds de vote disponibles.
Procédure de maintenance
N'effectuez les procédures de maintenance qu'après vous être assuré qu'un ensemble ZooKeeper est fonctionnel. Cela suppose que les nœuds d'observation sont fonctionnels et qu'il y a suffisamment de nœuds votants disponibles pendant la maintenance pour conserver un quorum.
Lorsque ces conditions sont remplies, un ensemble ZooKeeper de taille arbitraire peut tolérer la perte d'un seul nœud à tout moment, sans perte de données ni impact significatif sur les performances. Cela signifie que vous pouvez effectuer des opérations de maintenance sur n'importe quel nœud de l'ensemble, à condition de ne pas le faire sur plusieurs nœuds à la fois.
Dans le cadre de la maintenance, suivez la procédure ci-dessous pour déterminer le type d'un nœud ZooKeeper (leader, votant ou observateur) :
- S'il n'est pas installé sur le nœud ZooKeeper, installez
nc:sudo yum install nc
- Exécutez la commande
ncsuivante sur le nœud, où 2181 est le port ZooKeeper :echo stat | nc localhost 2181
Vous devriez voir un résultat semblable à celui-ci :
Zookeeper version: 3.4.5-1392090, built on 09/30/2012 17:52 GMT Clients: /a.b.c.d:xxxx[0](queued=0,recved=1,sent=0) Latency min/avg/max: 0/0/0 Received: 1 Sent: 0 Connections: 1 Outstanding: 0 Zxid: 0xc00000044 Mode: follower Node count: 653
Sur la ligne
Modedu résultat pour les nœuds, vous devriez voirobserver,leaderoufollower(ce qui signifie un votant qui n'est pas le leader) en fonction de la configuration du nœud. - Répétez les étapes 1 et 2 sur chaque nœud ZooKeeper.
Résumé
La meilleure façon d'effectuer la maintenance sur un ensemble ZooKeeper est de l'effectuer un nœud à la fois. À noter :
- Vous devez maintenir un quorum de nœuds votants pendant la maintenance pour vous assurer que l'ensemble ZooKeeper reste fonctionnel.
- La suppression d'un nœud observateur n'affecte pas le quorum ni la capacité à élire un leader.
- Le quorum est calculé sur tous les nœuds ZooKeeper de tous les centres de données.
- Passez à la maintenance du serveur suivant une fois que le serveur précédent est opérationnel.
- Utilisez la commande
ncpour inspecter le nœud ZooKeeper.