このトピックでは、Microsoft®Azure Kubernetes Service（AMP）で Apigee ハイブリッドに対してマルチリージョン デプロイを設定する方法について説明します。
マルチリージョン デプロイのトポロジには次のものがあります。
- アクティブ - アクティブ: 複数の地理的ロケーションにアプリケーションをデプロイし、それらのデプロイで API レスポンスのレイテンシを低く抑える必要がある場合。クライアントに最も近い複数の地理的ロケーションにハイブリッドをデプロイすることもできます。例: 米国西海岸、米国東海岸、ヨーロッパ、APAC。
- アクティブ - パッシブ: プライマリ リージョンとフェイルオーバー リージョンまたは障害復旧リージョンがある場合。
次の図に示すように、マルチリージョン ハイブリッド デプロイのリージョンは Cassandra を介して通信します。
前提条件
複数リージョンに対してハイブリッドを構成する前に、次の前提条件を満たしておく必要があります。
- クラスタの設定手順に進む前に、GCP や組織構成などの前提条件についてハイブリッド インストール ガイドに従ってください。
詳細については、Kubernetes のドキュメントをご覧ください。
各リージョンに仮想ネットワークを作成する
マルチリージョン デプロイ用の仮想ネットワークを作成します。たとえば、次のコマンドでは米国中部リージョンと米国東部リージョンにネットワークを作成します。
次のコマンドを実行して、米国東部リージョンに my-hybrid-rg-vnet という名前の仮想ネットワークを作成します。
az network vnet create \ --name my-hybrid-rg-vnet \ --location eastus \ --resource-group my-hybrid-rg \ --address-prefixes 120.38.1.0/24 \ --subnet-name my-hybrid-rg-vnet-subnet \ --subnet-prefix 120.38.1.0/26
次のコマンドを実行して、米国中部リージョンに my-hybrid-rg-vnet-ext01 という名前の仮想ネットワークを作成します。
az network vnet create \ --name my-hybrid-rg-vnet-ext01 \ --location centralus \ --resource-group my-hybrid-rg \ --address-prefixes 192.138.0.0/24 \ --subnet-name my-hybrid-rg-vnet-ext01-subnet \ --subnet-prefix 192.138.0.0/26
ネットワーク ピアリングを作成する
仮想ネットワーク間にネットワーク ピアリングを作成します。
仮想ネットワーク ID を取得する
仮想ネットワーク ID 間でピアリングが確立されます。az network vnet show コマンドを使用して各仮想ネットワークの ID を取得し、その ID を変数に格納します。
my-hybrid-rg-vnet という名前の 1 番目仮想ネットワークの ID を取得します。
vNet1Id=$(az network vnet show \ --resource-group my-hybrid-rg \ --name my-hybrid-rg-vnet \ --query id --out tsv)
my-hybrid-rg-vnet-ext01 という名前の 2 番目の仮想ネットワークの ID を取得します。
vNet2Id=$(az network vnet show \ --resource-group my-hybrid-rg \ --name my-hybrid-rg-vnet-ext01 \ --query id \ --out tsv)
1 番目の仮想ネットワークから 2 番目の仮想ネットワークへのピアリングを作成する
仮想ネットワーク ID を使用すると、次の例に示すように、1 番目の仮想ネットワーク（my-hybrid-rg-vnet）から 2 番目の仮想ネットワーク（my-hybrid-rg-vnet-ext01）へのピアリングを作成できます。
az network vnet peering create \ --name my-hybrid-rg-vnet1-peering \ # The name of the virtual network peering. --resource-group my-hybrid-rg \ --vnet-name my-hybrid-rg-vnet \ # The virtual network name. --remote-vnet $vNet2Id \ # Resource ID of the remote virtual network. --allow-vnet-access
コマンドの出力で、peeringState が Initiated 状態であることに注意してください。2 番目の仮想ネットワークから 1 番目の仮想ネットワークへのピアリングを作成するまで、ピアリングは Initiated 状態のままです。
{
...
"peeringState": "Initiated",
...
}
2 番目の仮想ネットワークから 1 番目の仮想ネットワークへのピアリングを作成する
コマンドの例:
az network vnet peering create \ --name my-hybrid-rg-vnet2-peering \ # The name of the virtual network peering. --resource-group my-hybrid-rg \ --vnet-name my-hybrid-rg-vnet-ext01 \ # The virtual network name. --remote-vnet $vNet1Id \ # Resource ID of the remote virtual network. --allow-vnet-access
コマンドの出力で、peeringState が Connected 状態であることに注意してください。また、Azure で、1 番目と 2 番目の仮想ネットワークのピアリングのピアリング状態が Connected に変更されます。
{
...
"peeringState": "Connected",
...
}
次のコマンドを使用して、my-hybrid-rg-vnet2-peering への my-hybrid-rg-vnet1-peering のピアリング状態が Connected に変更されているのを確認することもできます。
az network vnet peering show \ --name my-hybrid-rg-vnet1-peering \ --resource-group my-hybrid-rg \ --vnet-name my-hybrid-rg-vnet \ --query peeringState
予想される出力:
Connected
マルチリージョン クラスタを作成する
異なる CIDR ブロックを持つ複数のリージョンの Kubernetes クラスタを設定します。AKS クイックスタートもご覧ください。ロケーションと以前に作成した仮想ネットワーク名を使用します。
すべてのリージョンの Kubernetes クラスタ間で Cassandra ポート 7000 と 7001 をホワイトリストに登録する（7000 はトラブルシューティング中にバックアップ オプションとして使用できます）
マルチリージョン シードホストを構成する
このセクションでは、既存の Cassandra クラスタを新しいリージョンに拡張する方法について説明します。この設定によって、新しいリージョンがクラスタをブートストラップし、既存のデータセンターに参加できるようになります。この構成なしでは、マルチリージョンの Kubernetes クラスタは相互に認識しません。
- シード名を取得する前に、kubectl コンテキストを元のクラスタに設定します。
kubectl config use-context original-cluster-name
次の
kubectlコマンドを実行して、現在のリージョンの Cassandra のシードホスト アドレスを識別します。シードホスト アドレスによって、新しいリージョン インスタンスは最初の起動時に元のクラスタを見つけて、クラスタのトポロジを学習することができます。シードホスト アドレスは、クラスタ内のコンタクト ポイントとして指定されます。
kubectl get pods -o wide -n apigee | grep apigee-cassandra apigee-cassandra-0 1/1 Running 0 4d17h 120.38.1.9 aks-agentpool-21207753-vmss000000
- 以前のコマンドで返された IP の中からマルチリージョン シードホストになるものを決定します。この例では、単一ノードの cassandra クラスタのみが実行されており、シードホストは
120.38.1.9です。 - データセンター 2 で、名前にクラスタ名が含まれる新しいファイルにオーバーライド ファイルをコピーします。例:
overrides_your_cluster_name.yaml。 - データセンター 2 では、
overrides_your_cluster_name.yamlでcassandra.multiRegionSeedHostとcassandra.datacenterを構成します。ここでmultiRegionSeedHostは、前のコマンドで返された IP の 1 つです。cassandra: multiRegionSeedHost: seed_host_IP datacenter: data_center_name rack: rack_name
例:
cassandra: multiRegionSeedHost: 120.38.1.9 datacenter: "centralus" rack: "ra-1"
- 新しいデータセンターまたはリージョンでは、ハイブリッドをインストールする前に、最初のリージョンで設定したのと同じ TLS 証明書と認証情報を
overrides_your_cluster_name.yamlで設定します。
新しいリージョンを設定する
シードホストを構成したら、新しいリージョンを設定できます。
新しいリージョンを設定するには:
- 証明書を既存のクラスタから新しいクラスタにコピーします。新しい CA ルートは、Cassandra などのハイブリッド コンポーネントによって mTLS に使用されます。したがって、クラスタ全体で一貫した証明書を使用することが不可欠です。
- コンテキストを元の名前空間に設定します。
kubectl config use-context original-cluster-name
- 現在の名前空間の構成をファイルにエクスポートします。
$ kubectl get namespace
-o yaml > apigee-namespace.yaml apigee-caシークレットをファイルにエクスポートします。kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
- コンテキストを新しいリージョンのクラスタ名に設定します。
kubectl config use-context new-cluster-name
- 名前空間の構成を新しいクラスタにインポートします。新しいリージョンで別の名前空間を使用する場合は、ファイル内の「namespace」を必ず更新してください。
kubectl apply -f apigee-namespace.yaml
シークレットを新しいクラスタにインポートします。
kubectl -n cert-manager apply -f apigee-ca.yaml
- コンテキストを元の名前空間に設定します。
- 新しいリージョンにハイブリッドをインストールします。前のセクションで説明したように、
overrides_your_cluster_name.yamlファイルには、最初のリージョンで構成したものと同じ TLS 証明書を指定してください。次の 2 つのコマンドを実行して、ハイブリッドを新しいリージョンにインストールします。
apigeectl init -f overrides_your_cluster_name.yaml
apigeectl apply -f overrides_your_cluster_name.yaml
すべての Apigee キースペースを展開します。
以下の手順で、Cassandra データを新しいデータセンターに展開します。
- Cassandra ポッドでシェルを開きます。
kubectl run -i --tty --restart=Never --rm --image google/apigee-hybrid-cassandra-client:1.0.0 cqlsh
- Cassandra サーバーに接続します。
cqlsh apigee-cassandra-0.apigee-cassandra.apigee.svc.cluster.local -u ddl_user --ssl Password: Connected to apigeecluster at apigee-cassandra-0.apigee-cassandra.apigee.svc.cluster.local:9042. [cqlsh 5.0.1 | Cassandra 3.11.3 | CQL spec 3.4.4 | Native protocol v4] Use HELP for help.
- 使用可能なキースペースを取得します。
SELECT * from system_schema.keyspaces ; keyspace_name | durable_writes | replication ----------------------------+----------------+-------------------------------------------------------------------------------------------------------- system_auth | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '1', 'dc-2': '1'} system_schema | True | {'class': 'org.apache.cassandra.locator.LocalStrategy'} cache_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3'} kms_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3'} kvm_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3'} system_distributed | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '1', 'dc-2': '1'} system | True | {'class': 'org.apache.cassandra.locator.LocalStrategy'} perses | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3'} quota_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3'} system_traces | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '1', 'dc-2': '1'} (10 rows) - Apigee キースペースを更新または展開します。
ALTER KEYSPACE cache_hybrid_test_7_hybrid WITH replication = {'class': 'NetworkTopologyStrategy', 'dc-1':3, 'dc-2':3};ALTER KEYSPACE kms_hybrid_test_7_hybrid WITH replication = {'class': 'NetworkTopologyStrategy', 'dc-1':3, 'dc-2':3};ALTER KEYSPACE kvm_hybrid_test_7_hybrid WITH replication = {'class': 'NetworkTopologyStrategy', 'dc-1':3, 'dc-2':3};ALTER KEYSPACE perses WITH replication = {'class': 'NetworkTopologyStrategy', 'dc-1':3, 'dc-2':3};ALTER KEYSPACE quota_hybrid_test_7_hybrid WITH replication = {'class': 'NetworkTopologyStrategy', 'dc-1':3, 'dc-2':3}; - キースペースの展開を検証します。
SELECT * from system_schema.keyspaces ; keyspace_name | durable_writes | replication ----------------------------+----------------+-------------------------------------------------------------------------------------------------------- system_auth | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '1', 'dc-2': '1'} system_schema | True | {'class': 'org.apache.cassandra.locator.LocalStrategy'} cache_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3', 'dc-2': '3'} kms_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3', 'dc-2': '3'} kvm_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3', 'dc-2': '3'} system_distributed | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '1', 'dc-2': '1'} system | True | {'class': 'org.apache.cassandra.locator.LocalStrategy'} perses | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3', 'dc-2': '3'} quota_hybrid_test_7_hybrid | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '3', 'dc-2': '3'} system_traces | True | {'class': 'org.apache.cassandra.locator.NetworkTopologyStrategy', 'dc-1': '1', 'dc-2': '1'} (10 rows) ddl@cqlsh>
- Cassandra ポッドでシェルを開きます。
- 新しいデータセンターのすべてのノードで
nodetool rebuildを順次実行します。データサイズに応じて数分から数時間かかることがあります。kubectl exec apigee-cassandra-0 -n apigee -- nodetool rebuild -- dc-1
- ログで再構築プロセスを確認します。また、
nodetool statusコマンドを使用してデータサイズも確認します。kubectl logs apigee-cassandra-0 -f -n apigee
次の例は、ログエントリの例を示しています。
INFO 01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens) INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild INFO 01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB) INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36 INFO 01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22 INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB) INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete INFO 01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed
- シードホストを更新します。
overrides-DC_name.yamlからmultiRegionSeedHost: 10.0.0.11を削除してから再び適用します。apigeectl apply -f overrides-DC_name.yaml