添加 Cassandra 节点

向集群添加 Cassandra 节点时,请务必考虑以下两个关键点:

  • 为了尽量减少流式传输并保持平衡的环,Cassandra 环中节点的现有位置不应更改。
  • 所有数据中心中的节点数量必须保持一致。

为了确保实现第一个目标,请务必在每次添加新节点时将 Cassandra 集群中的节点数量翻倍。

例如,如果您从分布在两个数据中心的标准12 节点集群安装拓扑开始,则您将总共有 6 个 Cassandra 节点,每个数据中心有 3 个。如需扩展此集群,您应为每个数据中心添加三个节点,将节点总数增加到 12 个(每个数据中心有 6 个节点)。如果需要进一步扩容,您应为每个数据中心额外添加 6 个节点,使节点总数达到 24 个(每个数据中心 12 个节点)。

本文档介绍了如何向现有的 Edge for Private Cloud 安装添加三个新的 Cassandra 节点。您可以按照相同的步骤添加其他节点。扩展集群时,请务必将节点数翻倍。

如需查看 Cassandra 节点的系统要求列表,请参阅安装要求部分。

现有 Edge 配置

生产系统支持的所有 Edge 拓扑都指定使用三个 Cassandra 节点。将这三个节点指定为配置文件中的 CASS_HOSTS 属性,如下所示:

IP1=10.10.0.1
IP2=10.10.0.2
IP3=10.10.0.3
HOSTIP=$(hostname -i)
ADMIN_EMAIL=opdk@google.com
APIGEE_ADMINPW=Secret123
LICENSE_FILE=/tmp/license.txt
MSIP=$IP1 
USE_LDAP_REMOTE_HOST=n
LDAP_TYPE=1
APIGEE_LDAPPW=secret
MP_POD=gateway
REGION=dc-1
ZK_HOSTS="$IP1 $IP2 $IP3"
ZK_CLIENT_HOSTS="$IP1 $IP2 $IP3"
# Must use IP addresses for CASS_HOSTS, not DNS names.
CASS_HOSTS="$IP1:1,1 $IP2:1,1 $IP3:1,1" 
SKIP_SMTP=n
SMTPHOST=smtp.example.com
SMTPUSER=smtp@example.com
SMTPPASSWORD=smtppwd

请注意,REGION 属性将区域名称指定为“dc-1”。您在添加新的 Cassandra 节点时需要这些信息。

修改配置文件以添加三个新的 Cassandra 节点

在此示例中,三个新的 Cassandra 节点的 IP 地址如下:

  • 10.10.0.14
  • 10.10.0.15
  • 10.10.0.16

您必须先更新 Edge 配置文件,才能添加新节点:

IP1=10.10.0.1
IP2=10.10.0.2
IP3=10.10.0.3
# Add the new node IP addresses.
IP14=10.10.0.14
IP15=10.10.0.15
IP16=10.10.0.16
HOSTIP=$(hostname -i)
ADMIN_EMAIL=opdk@google.com
...
# Update CASS_HOSTS to add each new node after an existing nodes. 
# Must use IP addresses for CASS_HOSTS, not DNS names.
CASS_HOSTS="$IP1:1,1 $IP14:1,1 $IP2:1,1 $IP15:1,1 $IP3:1,1 $IP16:1,1" 

这样可确保现有节点保留其初始令牌设置,并且每个新节点的初始令牌介于现有节点的令牌值之间。

配置 Edge

修改配置文件后,您必须执行以下操作:

  • 重新配置现有 Cassandra 节点
  • 在新节点上安装 Cassandra
  • 重新配置管理服务器

重新配置现有 Cassandra 节点

在现有 Cassandra 节点上:

  1. 使用“-p c”配置文件和新配置文件重新运行 setup.sh:
    /opt/apigee/apigee-setup/bin/setup.sh -p c -f updatedConfigFile

在新节点上安装 Cassandra

请按照以下步骤在新节点上安装 Cassandra。

在每个新的 Cassandra 节点上:

  1. 在三个节点上安装 Cassandra:
    1. 按照安装 Edge apigee-setup 实用程序中的说明,在第一个节点上安装 apigee-setup
    2. 使用更新后的配置文件在第一个节点上安装 Cassandra:
      /opt/apigee/apigee-setup/bin/setup.sh -p c -f updatedConfigFile
    3. 对其余新的 Cassandra 节点重复这两个步骤。
  2. 重新构建三个新的 Cassandra 节点,并将区域名称指定为您要添加节点的数据中心 (dc-1dc-2 等)。 在此示例中,该网址为 dc-1
    1. 在第一个节点上,运行以下命令:
      /opt/apigee/apigee-cassandra/bin/nodetool [-u username -pw password] -h nodeIP rebuild dc-1

      其中 nodeIP 是 Cassandra 节点的 IP 地址。

      仅当您为 Cassandra 启用了 JMX 身份验证时,才需要传递用户名和密码。

    2. 对其余新的 Cassandra 节点重复此步骤。

重新配置管理服务器

在管理服务器节点上

  1. 重新运行 setup.sh 以更新新添加的 Cassandra 节点的管理服务器:
    /opt/apigee/apigee-setup/bin/setup.sh -p ms -f updatedConfigFile

重启所有路由器和消息处理器

  1. 在所有路由器上:
    /opt/apigee/apigee-service/bin/apigee-service edge-router restart
  2. 在所有消息处理器上:
    /opt/apigee/apigee-service/bin/apigee-service edge-message-processor restart

释放现有 Cassandra 节点上的磁盘空间

添加新节点后,您可以对现有节点使用 nodetool cleanup 命令来释放磁盘空间。此命令会清除不再归现有 Cassandra 节点所有的配置令牌。

如需在添加新节点后释放现有 Cassandra 节点上的磁盘空间,请执行以下命令:

/opt/apigee/apigee-cassandra/bin/nodetool [-u username -pw password] -h cassandraIP cleanup

仅当您为 Cassandra 启用了 JMX 身份验证时,才需要传递用户名和密码。

验证重新构建

使用以下命令验证重建是否成功:

nodetool [-u username -pw password] -h nodeIP netstats

此命令用于指示原生传输(或二进制协议)是否正在运行,这允许 Cassandra 接受新的客户端请求。

nodetool [-u username -pw password] -h nodeIP statusbinary

此命令指示原生传输(或二进制协议)是否正在运行。

nodetool [-u username -pw password] -h nodeIP describecluster

此命令会显示新节点是否使用与旧节点相同的架构版本。

如需详细了解如何使用 nodetool,请参阅 nodetool 使用文档