向集群添加 Cassandra 节点时,请务必考虑以下两个关键点:
- 为了尽量减少流式传输并保持平衡的环,Cassandra 环中节点的现有位置不应更改。
- 所有数据中心中的节点数量必须保持一致。
为了确保实现第一个目标,请务必在每次添加新节点时将 Cassandra 集群中的节点数量翻倍。
例如,如果您从分布在两个数据中心的标准12 节点集群安装拓扑开始,则您将总共有 6 个 Cassandra 节点,每个数据中心有 3 个。如需扩展此集群,您应为每个数据中心添加三个节点,将节点总数增加到 12 个(每个数据中心有 6 个节点)。如果需要进一步扩容,您应为每个数据中心额外添加 6 个节点,使节点总数达到 24 个(每个数据中心 12 个节点)。
本文档介绍了如何向现有的 Edge for Private Cloud 安装添加三个新的 Cassandra 节点。您可以按照相同的步骤添加其他节点。扩展集群时,请务必将节点数翻倍。
如需查看 Cassandra 节点的系统要求列表,请参阅安装要求部分。
现有 Edge 配置
生产系统支持的所有 Edge 拓扑都指定使用三个 Cassandra 节点。将这三个节点指定为配置文件中的 CASS_HOSTS
属性,如下所示:
IP1=10.10.0.1 IP2=10.10.0.2 IP3=10.10.0.3 HOSTIP=$(hostname -i) ADMIN_EMAIL=opdk@google.com APIGEE_ADMINPW=Secret123 LICENSE_FILE=/tmp/license.txt MSIP=$IP1 USE_LDAP_REMOTE_HOST=n LDAP_TYPE=1 APIGEE_LDAPPW=secret MP_POD=gateway REGION=dc-1 ZK_HOSTS="$IP1 $IP2 $IP3" ZK_CLIENT_HOSTS="$IP1 $IP2 $IP3" # Must use IP addresses for CASS_HOSTS, not DNS names. CASS_HOSTS="$IP1:1,1 $IP2:1,1 $IP3:1,1" SKIP_SMTP=n SMTPHOST=smtp.example.com SMTPUSER=smtp@example.com SMTPPASSWORD=smtppwd
请注意,REGION
属性将区域名称指定为“dc-1”。您在添加新的 Cassandra 节点时需要这些信息。
修改配置文件以添加三个新的 Cassandra 节点
在此示例中,三个新的 Cassandra 节点的 IP 地址如下:
- 10.10.0.14
- 10.10.0.15
- 10.10.0.16
您必须先更新 Edge 配置文件,才能添加新节点:
IP1=10.10.0.1 IP2=10.10.0.2 IP3=10.10.0.3 # Add the new node IP addresses. IP14=10.10.0.14 IP15=10.10.0.15 IP16=10.10.0.16 HOSTIP=$(hostname -i) ADMIN_EMAIL=opdk@google.com ... # Update CASS_HOSTS to add each new node after an existing nodes. # Must use IP addresses for CASS_HOSTS, not DNS names. CASS_HOSTS="$IP1:1,1 $IP14:1,1 $IP2:1,1 $IP15:1,1 $IP3:1,1 $IP16:1,1"
这样可确保现有节点保留其初始令牌设置,并且每个新节点的初始令牌介于现有节点的令牌值之间。
配置 Edge
修改配置文件后,您必须执行以下操作:
- 重新配置现有 Cassandra 节点
- 在新节点上安装 Cassandra
- 重新配置管理服务器
重新配置现有 Cassandra 节点
在现有 Cassandra 节点上:
- 使用“-p c”配置文件和新配置文件重新运行 setup.sh:
/opt/apigee/apigee-setup/bin/setup.sh -p c -f updatedConfigFile
在新节点上安装 Cassandra
请按照以下步骤在新节点上安装 Cassandra。
在每个新的 Cassandra 节点上:
- 在三个节点上安装 Cassandra:
- 按照安装 Edge apigee-setup 实用程序中的说明,在第一个节点上安装
apigee-setup
。 - 使用更新后的配置文件在第一个节点上安装 Cassandra:
/opt/apigee/apigee-setup/bin/setup.sh -p c -f updatedConfigFile
- 对其余新的 Cassandra 节点重复这两个步骤。
- 按照安装 Edge apigee-setup 实用程序中的说明,在第一个节点上安装
- 重新构建三个新的 Cassandra 节点,并将区域名称指定为您要添加节点的数据中心 (
dc-1
、dc-2
等)。 在此示例中,该网址为dc-1
:- 在第一个节点上,运行以下命令:
/opt/apigee/apigee-cassandra/bin/nodetool [-u username -pw password] -h nodeIP rebuild dc-1
其中 nodeIP 是 Cassandra 节点的 IP 地址。
仅当您为 Cassandra 启用了 JMX 身份验证时,才需要传递用户名和密码。
- 对其余新的 Cassandra 节点重复此步骤。
- 在第一个节点上,运行以下命令:
重新配置管理服务器
在管理服务器节点上
- 重新运行 setup.sh 以更新新添加的 Cassandra 节点的管理服务器:
/opt/apigee/apigee-setup/bin/setup.sh -p ms -f updatedConfigFile
重启所有路由器和消息处理器
- 在所有路由器上:
/opt/apigee/apigee-service/bin/apigee-service edge-router restart
- 在所有消息处理器上:
/opt/apigee/apigee-service/bin/apigee-service edge-message-processor restart
释放现有 Cassandra 节点上的磁盘空间
添加新节点后,您可以对现有节点使用 nodetool cleanup
命令来释放磁盘空间。此命令会清除不再归现有 Cassandra 节点所有的配置令牌。
如需在添加新节点后释放现有 Cassandra 节点上的磁盘空间,请执行以下命令:
/opt/apigee/apigee-cassandra/bin/nodetool [-u username -pw password] -h cassandraIP cleanup
仅当您为 Cassandra 启用了 JMX 身份验证时,才需要传递用户名和密码。
验证重新构建
使用以下命令验证重建是否成功:
nodetool [-u username -pw password] -h nodeIP netstats
此命令用于指示原生传输(或二进制协议)是否正在运行,这允许 Cassandra 接受新的客户端请求。
nodetool [-u username -pw password] -h nodeIP statusbinary
此命令指示原生传输(或二进制协议)是否正在运行。
nodetool [-u username -pw password] -h nodeIP describecluster
此命令会显示新节点是否使用与旧节点相同的架构版本。
如需详细了解如何使用 nodetool
,请参阅 nodetool 使用文档。