添加数据中心

适用于私有云的 Edge v4.18.01

本文档介绍了如何向现有数据中心添加数据中心（也称为区域）。

添加数据中心前的注意事项

在安装添加数据中心之前，您必须了解如何跨数据中心配置 OpenLDAP、ZooKeeper、Cassandra 和 Postgres 服务器。此外，您还必须确保两个数据中心中的节点之间打开必要的端口。

  • OpenLDAP
    每个数据中心都有自己的 OpenLDAP 服务器，该服务器配置了复制功能。安装新数据中心时，您必须将 OpenLDAP 配置为使用复制，并且必须重新配置现有数据中心中的 OpenLDAP 服务器才能使用复制。
  • ZooKeeper
    对于两个数据中心的 ZK_HOSTS 属性，请按相同的顺序指定两个数据中心中所有 ZooKeeper 节点的 IP 地址或 DNS 名称，并使用“:observer”修饰符标记所有节点。 不带“:observer”修饰符的节点称为“投票者”。配置中的“投票者”数量必须为奇数。

    在此拓扑中，主机 9 上的 ZooKeeper 主机是观察器：



    在下方显示的示例配置文件中，节点 9 标记有“:observer”修饰符，因此您有 5 个投票者：节点 1、2、3、7 和 8。

    对于每个数据中心的 ZK_CLIENT_HOSTS 属性，请以相同的顺序为数据中心中的所有 ZooKeeper 节点仅指定数据中心的 ZooKeeper 节点的 IP 地址或 DNS 名称。
  • Cassandra
    所有数据中心的 Cassandra 节点数量必须相同。

    对于每个数据中心的 CASS_HOSTS，请确保您为两个数据中心指定了所有 Cassandra IP 地址（而非 DNS 名称）。对于数据中心 1，首先列出该数据中心中的 Cassandra 节点。对于数据中心 2，请先列出该数据中心中的 Cassandra 节点。按数据中心中所有 Cassandra 节点的相同顺序列出 Cassandra 节点。

    所有 Cassandra 节点都必须带有后缀“:<d>,<r>”，例如“<ip>:1,1”表示数据中心 1 和机架/可用区 1，而“<ip>:2,1”表示数据中心 2 和机架/可用区 1。
    例如，“192.168.124.201:1,1 192.168.124.202:1,1 192.168.124.203:1,1 192.168.124.204:2,1 192.168.124.205:2,1 192.168.124.206:2,1”

    每个数据中心的架/可用区 1 中的第一个节点将用作种子服务器。在此部署模型中，Cassandra 设置将如下所示：


  • Postgres
    默认情况下，Edge 会以主模式安装所有 Postgres 节点。不过，如果您有多个数据中心，则可以将 Postgres 节点配置为使用主-备份复制，以便在主节点发生故障时，备份节点可以继续处理流量。通常，您可以在一个数据中心配置主 Postgres 服务器，在第二个数据中心配置备用服务器。

    如果现有数据中心已配置为让两个 Postgres 节点以主/备用模式运行，那么在此过程中，请注销现有备用节点，并将其替换为新数据中心中的备用节点。

    下表显示了这两种场景的 Postgres 配置前后对比情况：

    之前

    之后

    dc-1 中的单主 Postgres 节点

    dc-1 中的主 Postgres 节点

    dc-2 中的待机 Postgres 节点

    dc-1 中的主 Postgres 节点

    dc-1 中的待机 Postgres 节点

    dc-1 中的主 Postgres 节点

    dc-2 中的待机 Postgres 节点

    取消注册 dc-1 中的旧备用 Postgres 节点
  • 端口要求
    您必须确保两个数据中心中的节点之间打开了必要的端口。 如需查看端口图，请参阅安装要求。

更新现有数据中心

添加数据中心需要您执行安装和配置新数据中心节点的步骤，但也需要您更新原始数据中心中的节点。由于您要在新数据中心添加新的 Cassandra 和 ZooKeeper 节点，而这些节点必须可供现有数据中心访问，因此这些修改是必要的。此外，您还必须重新配置 OpenLDAP 才能使用复制功能。

创建配置文件

下面显示了两个数据中心的静默配置文件，其中每个数据中心有 6 个节点，如安装拓扑中所示。请注意，dc-1 的配置文件将其他设置添加到：

  • 配置 OpenLDAP，使其在两个 OpenLDAP 节点之间进行复制。
  • 将 dc-2 中新的 Cassandra 和 ZooKeeper 节点添加到 dc-1 的配置文件中。
# Datacenter 1
IP1=IPorDNSnameOfNode1
IP2=IPorDNSnameOfNode2
IP3=IPorDNSnameOfNode3
IP7=IPorDNSnameOfNode7
IP8=IPorDNSnameOfNode8
IP9=IPorDNSnameOfNode9 
HOSTIP=$(hostname -i)
MSIP=$IP1
ADMIN_EMAIL=opdk@google.com
APIGEE_ADMINPW=Secret123
LICENSE_FILE=/tmp/license.txt
USE_LDAP_REMOTE_HOST=n
LDAP_TYPE=2
LDAP_SID=1
LDAP_PEER=$IP7
APIGEE_LDAPPW=secret
MP_POD=gateway-1
REGION=dc-1
ZK_HOSTS="$IP1 $IP2 $IP3 $IP7 $IP8 $IP9:observer"
ZK_CLIENT_HOSTS="$IP1 $IP2 $IP3"
# Must use IP addresses for CASS_HOSTS, not DNS names.
CASS_HOSTS="$IP1:1,1 $IP2:1,1 $IP3:1,1 $IP7:2,1 $IP8:2,1 $IP9:2,1"
SKIP_SMTP=n
SMTPHOST=smtp.example.com
SMTPUSER=smtp@example.com 
SMTPPASSWORD=smtppwd   
SMTPSSL=n
SMTPPORT=25
SMTPMAILFROM="My Company <myco@company.com>"

# Datacenter 2
IP1=IPorDNSnameOfNode1
IP2=IPorDNSnameOfNode2
IP3=IPorDNSnameOfNode3
IP7=IPorDNSnameOfNode7
IP8=IPorDNSnameOfNode8
IP9=IPorDNSnameOfNode9 
HOSTIP=$(hostname -i)
MSIP=$IP7
ADMIN_EMAIL=opdk@google.com
APIGEE_ADMINPW=Secret123
LICENSE_FILE=/tmp/license.txt
USE_LDAP_REMOTE_HOST=n
LDAP_TYPE=2
LDAP_SID=2
LDAP_PEER=$IP1
APIGEE_LDAPPW=secret
MP_POD=gateway-2
REGION=dc-2
ZK_HOSTS="$IP1 $IP2 $IP3 $IP7 $IP8 $IP9:observer"
ZK_CLIENT_HOSTS="$IP7 $IP8 $IP9"
# Must use IP addresses for CASS_HOSTS, not DNS names.
CASS_HOSTS="$IP7:2,1 $IP8:2,1 $IP9:2,1 $IP1:1,1 $IP2:1,1 $IP3:1,1"
SKIP_SMTP=n
SMTPHOST=smtp.example.com
SMTPUSER=smtp@example.com 
SMTPPASSWORD=smtppwd   
SMTPSSL=n
SMTPPORT=25
SMTPMAILFROM="My Company <myco@company.com>"

添加新数据中心的流程

在此过程中，数据中心的名称如下：

  • dc-1：现有数据中心
  • dc-2：新数据中心
  1. 在 dc-1 上，使用新的 dc-1 confiig 文件（包含 dc-2 中的 Cassandra 节点）在原始 Cassandra 节点上重新运行 setup.sh：
    /opt/apigee/apigee-setup/bin/setup.sh -p ds -f configFile1
  2. 在 dc-1 上，在管理服务器节点上重新运行 setup.sh：
    > /opt/apigee/apigee-setup/bin/setup.sh -p ms -f configFile1
  3. 在 dc-2 上，在所有节点上安装 apigee-setup。如需了解详情，请参阅安装 Edge apigee-setup 实用程序。
  4. 在 dc-2 上，在适当的节点上安装 Cassandra 和 ZooKeeper：
    /opt/apigee/apigee-setup/bin/setup.sh -p ds -f configFile2
  5. 在 dc-2 上，对所有 Cassandra 节点运行 rebuild 命令，并指定 dc-1 的区域名称：
    > /opt/apigee/apigee-cassandra/bin/nodetool -h cassIP rebuild dc-1
  6. 在 dc-2 上，在相应的节点上安装管理服务器：
    > /opt/apigee/apigee-setup/bin/setup.sh -p ms -f configFile2
  7. 在 dc-2 中的管理服务器节点上，安装 apigee-provision，这会安装 apigee-adminapi.sh 实用程序：
    > /opt/apigee/apigee-service/bin/apigee-service apigee-provision install
  8. 在 dc-2 上，在适当的节点上安装路由和消息处理器：
    > /opt/apigee/apigee-setup/bin/setup.sh -p rmp -f configFile2
  9. 在 dc-2 上，在适当的节点上安装 Qpid：
    > /opt/apigee/apigee-setup/bin/setup.sh -p qs -f configFile2
  10. 在 dc-2 上，在相应的节点上安装 Postgres：
    > /opt/apigee/apigee-setup/bin/setup.sh -p ps -f configFile2
  11. 为 Postgres 节点设置 Postgres 主/备用。dc-1 中的 Postgres 节点是主实例，dc-2 中的 Postgres 节点是备用服务器。

    注意：如果 dc-1 已配置为让两个 Postgres 节点在主/备用模式下运行，那么在此过程中，请将 dc-1 中的现有主 Postgres 节点用作主服务器，并将 dc-2 中的 Postgres 节点用作备用服务器。在本过程的后面部分，您将在 dc-1 中注销现有的 Postgres 备用服务器。
    1. 在 dc-1 的主节点上，修改配置文件以设置：
      PG_MASTER=IPorDNSofDC1Master
      PG_STANDBY=IPorDNSofDC2Standby
    2. 在新主服务器上启用复制：
      > /opt/apigee/apigee-service/bin/apigee-service apigee-postgresql setup-replication-on-master -f configFIle
    3. 在 dc-2 中的备用节点上，修改配置文件以设置：
      PG_MASTER=IPorDNSofDC1Master
      PG_STANDBY=IPorofDC2Standby
    4. 在 dc-2 中的备用节点上，停止服务器，然后删除任何现有 Postgres 数据：
      > /opt/apigee/apigee-service/bin/apigee-service apigee-postgresql stop
      > rm -rf /opt/apigee/data/apigee-postgresql/
      注意：如有必要，您可以在删除数据前先备份这些数据。
    5. 在 dc-2 中配置备用节点：
      > /opt/apigee/apigee-service/bin/apigee-service apigee-postgresql setup-replication-on-standby -f configFile
  12. 在 dc-1 上，更新分析配置并配置组织。
    1. 在 dc-1 的管理服务器节点上，获取 Postgres 节点的 UUID：
      > apigee-adminapi.sh servers list -r dc-1 -p analytics -t postgres-server --admin adminEmail --pwd adminPword --host localhost

      UUID 会显示在返回的数据的末尾。保存该值。

      注意：如果 dc-1 配置为让两个 Postgres 节点以主/备用模式运行，您会在输出中看到两个 IP 地址和 UUID。保存这两个 UUID。 根据 IP 地址，您应该能够确定哪个 UUID 属于主节点，哪个 UUID 属于备用节点。
    2. 在 dc-2 的管理服务器节点上，获取 Postgres 节点的 UUID，如上一步所示。保存该值。
    3. 在 dc-1 的管理服务器节点上，确定分析组和使用方组的名称。下面的许多命令都需要这些信息。
      默认情况下，分析组的名称为 axgroup-001，使用方组的名称为 consumer-group-001。在某个区域的静默配置文件中，您可以使用 AXGROUP 属性设置分析组的名称。

      如果您不确定分析组和使用方组的名称，请使用以下命令显示它们：
      > apigee-adminapi.sh analytics groups list --admin adminEmail --pwd adminPword --host localhost

      此命令会在“name”字段中返回分析组名称，并在“consumer-groups”字段中返回使用方组名称。
    4. 在 dc-1 的管理服务器节点上，从分析组中移除现有的 Postgres 服务器：
      1. 从使用方群组中移除 Postgres 节点：
        > apigee-adminapi.sh analytics groups consumer_groups datastores remove -g axgroup-001 -c consumer-group-001 -u UUID -Y --admin adminEmail --pwd adminPword --host localhost

        如果 dc-1 配置为让两个 Postgres 节点在主/备用模式下运行，请同时移除这两个节点：
        > apigee-adminapi.sh analytics groups consumer_groups datastores remove -g axgroup-001 -c consumer-group-001 -u "UUID_1,UUID_2" -Y --admin adminEmail --pwd adminPword --host localhost
      2. 从分析组中移除 Postgres 节点：
        > apigee-adminapi.sh analytics groups postgres_server remove -g axgroup-001 -u UUID -Y --admin adminEmail --pwd adminPword --host localhost

        如果 dc-1 配置为让两个 Postgres 节点以主/备用模式运行，请同时移除这两个节点：
        > apigee-adminapi.sh analytics groups postgres_server remove -g axgroup-001 -u UUID1,UUID2 -Y --admin adminEmail --pwd adminPword --host localhost
    5. 在 dc-1 的管理服务器节点上，将新的主/备用 Postgres 服务器添加到分析组：
      1. 将两个 Postgres 服务器添加到分析组：
        > apigee-adminapi.sh analytics groups postgres_server add -g axgroup-001 -u "UUID_1,UUID_2" --admin adminEmail --pwd adminPword --host localhost

        其中 UUID_1 对应于 dc-1 中的主 Postgres 节点，而 UUID_2 对应于 dc-2 中的备用 Postgres 节点。
      2. 将 PG 服务器作为主/备用添加到使用方群组：
        > apigee-adminapi.sh analytics groups consumer_groups datastores add -g axgroup-001 -c consumer-group-001 -u "UUID_1,UUID_2" --admin adminEmail --pwd adminPword --host localhost
    6. 将 Qpid 服务器从 dc-2 添加到分析组：
      1. 在 dc-1 的管理服务器节点上，获取 dc-2 中的 Qpid 节点的 UUID：
        > apigee-adminapi.sh servers list -r dc-2 -p central -t qpid-server --admin adminEmail --pwd adminPword --host localhost

        UUID 显示在返回数据的末尾。保存这些值。






    7. 从 dc-1 中取消注册并删除旧的 Postgres 备用服务器：
      1. 注销现有的 dc-1 Postgres 备用服务器：
        > apigee-adminapi.sh servers deregister -u UUID -r dc-1 -p analytics -t postgres-server -Y --admin adminEmail --pwd adminPword --host localhost

        其中 UUID 是 dc-1 中的旧备用 Postgres 节点。
      2. 删除现有的 dc-1 Postgres 备用服务器：
        注意：此命令不会卸载 Postgres 服务器节点。只会将其从 Edge 节点列表中移除。如有必要，您可以稍后从节点中卸载 Postgres。
        > apigee-adminapi.sh servers delete -u UUID --admin adminEmail --pwd adminPword --host localhost
  13. 使用两个数据中心的正确复制因子更新 Cassandra 键空间。您只需在任一数据中心的任何 Cassandra 服务器上运行此步骤一次：

    注意：以下命令都将复制因子设置为“3”，表示集群中有 3 个 Cassandra 节点。根据您的安装情况，修改此值。
    1. 启动 Cassandra cqlsh 实用程序：
      > /opt/apigee/apigee-cassandra/bin/cqlsh cassandraIP
    2. 在“cqlsh>”提示中，执行以下 CQL 命令以设置 Cassandra 键空间的复制级别：
      1. cqlsh> ALTER KEYSPACE "identityzone" WITH Replication = { 'class': 'NetworkTopologyStrategy', 'dc-1': '3','dc-2': '3' };
      2. cqlsh> ALTER KEYSPACE "system_traces" WITH Replication = { 'class': 'NetworkTopologyStrategy', 'dc-1': '3','dc-2': '3' };
      3. 使用以下命令查看键空间：
        cqlsh> select * from system.schema_keyspaces;
      4. 退出 cqlsh：
        cqlsh> exit
  14. 在 dc-1 中的所有 Cassandra 节点上运行以下 nodetool 命令以释放内存：
    > /opt/apigee/apigee-cassandra/bin/nodetool -h cassandraIP cleanup
  15. 对于您要在多个数据中心中为每个组织和每个环境提供支持的情况：
    1. 在 dc-1 的管理服务器节点上，将新的 MP_POD 添加到组织：
      > apigee-adminapi.sh orgs pods add -o orgName -r dc-2 -p gateway-2 --admin adminEmail --pwd adminPword --host localhost

      其中 gateway-2 是网关 pod 的名称，由 dc-2 配置文件中的 MP_POD 属性定义。
    2. 将新的消息处理器添加到组织和环境：
      1. 在 dc-2 的管理服务器节点上，获取 dc-2 中消息处理器节点的 UUID：
        > apigee-adminapi.sh servers list -r dc-2 -p gateway-2 -t message-processor --admin adminEmail --pwd adminPword --host localhost 返回的数据。

        返回的 UUID 末尾会显示 UUID。保存这些值。
      2. 在 dc-1 的管理服务器节点上，针对 dc-2 中的每个消息处理器，将消息处理器添加到组织的环境中：
        > apigee-adminapi.sh orgs envs servers add -o orgName -e envName -u UUID --admin adminEmail --pwd adminPword --host localhost
    3. 在 dc-1 的管理服务器节点上，检查组织：
      > apigee-adminapi.sh orgs apis deployments -o orgName -a apiProxyName --admin adminEmail --pwd adminPword --host localhost

      其中 apiProxyName 是部署在组织中的 API 代理的名称。